level 15
贴吧用户_03t3NyN
楼主
在 Hot Chips 2024 上，FuriosaAI 推出了 RNGD（Renegade）节能 AI 加速器，其 TDP 为 150 瓦，采用新颖的芯片架构和 HBM3 等先进的内存技术，针对要求苛刻的 LLM 和多模态模型的推理进行了优化。
2024年08月28日 01点08分
1
level 15
贴吧用户_03t3NyN
楼主
Furiosa 在收到第一批硅片三周后提交了第一个 MLPerf 基准测试结果。在使用编译器增强功能六个月后的提交的 MLPerf 测试中实现了 113% 的性能提升。目前，单个 RNGD 在运行 GPT-J 6B 模型时每秒生成大约 12 个查询。
2024年08月28日 02点08分
2