BYD A卡还挺快。本地部署14/32b,还挺快
amd吧
全部回复
仅看楼主
level 1
有没有大佬可以用6750gre使用ROCm的在win的环境下
2025年02月07日 13点02分 16
你可以去b站搜一搜第三方ollama,有up自己编译的包支持6750的
2025年02月08日 04点02分
level 5
本地试了下6600XT部署ollama gemma2-9b-it-simpo:Q4_0和deepseek-r1:7b 完全用GPU跑速读还行能有20token 但显存太小部署小模型也干不了什么 只能用一些专业领域的模型 比如翻译模型之类
2025年02月08日 06点02分 17
level 11
还是挺好玩的。
2025年04月18日 05点04分 20
level 7
比亚迪有n卡我知道,但没听说过有a卡吧[滑稽]
2025年04月22日 08点04分 21
首页 1 2