搞大模型应用开发,做推理和微调,求方案。
显卡吧
全部回复
仅看楼主
level 8
新血 楼主
8张4090
2张A800 80G
4张A100 40G
这三个方案哪个最好,考虑能测试70B的模型。来个屌巨大的
懂哥
,谢谢。
2024年03月15日 16点03分 1
level 8
新血 楼主
因为年初预算已经报上去了,所以选择就在这三个方案里了。
2024年03月15日 16点03分 2
level 13
下面两个贵吧
2024年03月15日 17点03分 3
贵不一定好啊,主要看供需。
2024年03月15日 17点03分
1