level 3
我不说话001
楼主
电脑配置:16G内存+4060 8G显卡。
之前都是从ollama官网下载模型:deepseek r1 8b,qianwen3.5 9b。
昨天从魔搭社区下载了两个模型:www.modelscope.cn/tecaprovn/deepseek-v4-flash-gguf:latest(q4量化,大约106G,从网上查到v4 flash完整参数260b、激活参数13b)、www.modelscope.cn/unsloth/Qwen3.6-35B-A3B-GGUF:latest。
下载方法是从网上学的:ollama pull www.modelscope.cn/tecaprovn/deepseek-v4-flash-gguf、ollama pull www.modelscope.cn/unsloth/Qwen3.6-35B-A3B-GGUF。
两个模型运行时都报错了:
ollama run www.modelscope.cn/tecaprovn/deepseek-v4-flash-gguf:latest
Error: 500 Internal Server Error: model requires more system memory (106.4 GiB) than is available (24.7 GiB)
——在网上查过13B参数模型8到16G显存可以使用
ollama run www.modelscope.cn/unsloth/Qwen3.6-35B-A3B-GGUF:latest
Error: 500 Internal Server Error: unable to load model: E:\Ollama\models\blobs\sha256-ac0e2c1189e055faa36eff361580e79c5bd6f8e76bffb4ce547f167d53e31a61
——搜了一下,这个路径能找到这个文件
请问各位大佬,这是什么原因?应该怎么处理?
2026年05月10日 00点05分
1
之前都是从ollama官网下载模型:deepseek r1 8b,qianwen3.5 9b。
昨天从魔搭社区下载了两个模型:www.modelscope.cn/tecaprovn/deepseek-v4-flash-gguf:latest(q4量化,大约106G,从网上查到v4 flash完整参数260b、激活参数13b)、www.modelscope.cn/unsloth/Qwen3.6-35B-A3B-GGUF:latest。
下载方法是从网上学的:ollama pull www.modelscope.cn/tecaprovn/deepseek-v4-flash-gguf、ollama pull www.modelscope.cn/unsloth/Qwen3.6-35B-A3B-GGUF。
两个模型运行时都报错了:
ollama run www.modelscope.cn/tecaprovn/deepseek-v4-flash-gguf:latest
Error: 500 Internal Server Error: model requires more system memory (106.4 GiB) than is available (24.7 GiB)
——在网上查过13B参数模型8到16G显存可以使用
ollama run www.modelscope.cn/unsloth/Qwen3.6-35B-A3B-GGUF:latest
Error: 500 Internal Server Error: unable to load model: E:\Ollama\models\blobs\sha256-ac0e2c1189e055faa36eff361580e79c5bd6f8e76bffb4ce547f167d53e31a61
——搜了一下,这个路径能找到这个文件
请问各位大佬,这是什么原因?应该怎么处理?