英特尔 Gaudi 2D AI 加速器为 DeepSeek Janus Pro 模型进行优化
IT之家最新消息显示,DeepSeek刚发布了Janus Pro模型,该模型已经经过英特尔Gaudi 2D AI加速器优化,以支持AI应用的落地和规模化发展。
根据IT之家了解到的信息,DeepSeek Janus模型融合了多模态理解和生成功能。该模型采用了全新的Transformer架构,摆脱了以往AIGC模型依赖多路径视觉编码的限制,实现了理解与生成任务的一体化支持。Janus Pro通过优化训练策略和扩展模型规模,显著提升了文生图等功能的性能与稳定性,并提供了10亿参数和70亿参数两个版本。
英特尔Gaudi 2D拥有2.45TB/秒高带宽和96GB HBM大容量内存,为Janus Pro模型提供了强大的计算支持,使其在生图批处理任务中,随着批量大小的增加,吞吐性能得到显著提升,大幅缩短任务处理时间。
同时,借助英特尔Optimum-Habana框架的优化,英特尔Gaudi 2D大幅提升了文生图任务的吞吐性能和推理效率,仅需约10秒即可生成16张高质量图片。开发者仅需轻微调整代码,即可享受这一结果,降低了开发门槛和迁移成本。此外,DeepSeek的蒸馏模型也获得了至强和Gaudi平台的支持。
广告声明:文中包含的对外跳转链接(包括但不限于超链接、二维码、口令等形式),用于传递更多信息,节省筛选时间,结果仅供参考。
1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。