不是说容器0损耗率吗？为啥跑模型区别这么大？
macmini吧
全部回复
仅看楼主
level 1
民已食为天 楼主
不是说容器0损耗率吗？为啥跑模型区别这么大？我是 Mac mini m1，docker run ollama 7b 思考一次30多秒，直接物理机run ollama思考一次就2秒
2025年02月22日 03点02分 1
level 1
CestMoi♤
不能以思考的快慢来反推容器技术0损耗，可以对比二者运行时，各项性能指标，比如cpu，io，和内存，gpu等，如果负载都低，只能说在容器运气运行，对资源调配能力存在差异，这种可以慢慢研究优化，可以去docker社区，大模型社区网站多跟行内人士交流。
2025年02月22日 04点02分 2
level 10
shumahehe123
mac的docker问题吧 官方的Mac版docker是跑个Linux虚拟机再在虚拟机上跑docker host换Linux试试应该差别不太大
2025年02月22日 06点02分 3
1