rimtalk相关问题/本地部署
rimworld吧
全部回复
仅看楼主
level 9
T—34—57 楼主
小登本来对rimtalk嗤之以鼻，可后来电子养胃导致不知道干什么好，再次看到rimtalk，整个人就像吃了电子小蓝药，于是搞了ollama，目前在想要选哪个模型，
鼠鼠
我的电脑4070，8g[呵呵]
选哪个蒸馏模型好一点？deepseek蒸馏千问吗？
给rimtalk老资历们跪了，求教[乖][乖]
2025年12月26日 14点12分 1
level 9
T—34—57 楼主
主播半夜自己制造并且od的车达芝士牛肉饼
镇楼
2025年12月26日 14点12分 2
森口1415
可爱
2025年12月26日 20点12分
level 11
灿灬若繁星
这配置说真的花点钱用api舒服太多
2025年12月26日 14点12分 3
level 7
snake52b
也就跑个8b的，显存还有可能 炸~ 然而 8b这级别的模型 好多都是免费的，没必要本地跑
2025年12月26日 14点12分 4
level 10
格尼尔GRლ
8b免费的一大把[阴险]
2025年12月26日 15点12分 5
T—34—57
部署了个14b的[吐舌]
2025年12月26日 17点12分
level 10
o0麦丫0o
非要本地部署吗？我还是建议直接用API，可以白嫖的那么多。能魔法就用谷歌的，国内硅基流动、火山都能白嫖额度
2025年12月26日 18点12分 6
level 8
替身13123
saiga_nemo_12b.Q4_K_M（如果能忍得了生成速度慢，这个不错，不过还是建议一步到位用API吧，吃点好的（
2025年12月26日 18点12分 7
level 9
小将111
建议你去买个硅基流动的赠送额，10块钱足够你用ds3.2玩一年的了，3.2是671b的，用起来比几十b的强好几个档次[呵呵]
2025年12月26日 22点12分 8
小将111
本地部署顶多也就整个16b的，逻辑很蠢，而且卡的要命
2025年12月26日 22点12分
T—34—57
研究一晚上，还是3.2吧，自己部署这个生成太慢了
2025年12月27日 03点12分
1