模型貌似载入了内存 而非显存,如何让其全部载入显存?
lmstudio吧
全部回复
仅看楼主
level 3
c4Ps🌐 楼主
电脑是天选air max 64GB版本,已经给GPU分配了48GB显存,用LM studio载入Gemma 4 31B的时候貌似载入到了内存里、显存占用很低(如图2是输出时的状态)。而且看到B站上同配置up主测评时(如图4),内存占用明显比我的低,求教是哪里设置的不对?图1图3是我的设置,小白求救
2026年06月20日 09点06分 1
level 1
不要选中:保持模型在内存中和尝试mmap()
2026年06月29日 14点06分 2
level 5
我全 CPU 在跑了🤦♂️
2026年09月14日 16点09分 3
1