5070ti跑本地模型效果咋样？
笔记本吧
全部回复
仅看楼主
level 1
kurokyzzz 楼主
公司要搞ai，我现在有本地跑模型的需求了，想换个5070ti的笔记本，移动端的5070ti跑本地模型效果咋样啊，能有台式机4060ti16g的水平吗[疑问]
2025年04月23日 02点04分 1
level 8
狐狸🐱
5070ti的算力比4060ti强，但是它显存小啊
2025年04月23日 02点04分 2
狐狸🐱
如果你要跑的那个模型12g显存也能跑，那5070ti就比4060ti强。但是我还是建议优先大显存
2025年04月23日 02点04分
kurokyzzz
@狐狸🐱 我主要跑的是小模型，主要是零样本检测的，模型参数不大，估计4b上下
2025年04月23日 03点04分
狐狸🐱
@kurokyzzz 模型参数不大的话那5070ti就比4060ti好一些。但是模型稍微大点的话5070ti的跑不了。4060ti的16g显存就好些
2025年04月23日 03点04分
贴吧用户_GWVP79U
@kurokyzzz 那轻轻松松
2025年04月23日 03点04分
level 13
类型月球
只推理并且模型大的话显存越大越好，看你只有4b，5070ti就够了
2025年04月23日 03点04分 3
1