烽火通信旗下长江计算 G440K V2 服务器实现 DeepSeek 系列模型推理适配和优化
xxn
阅读:57157
2025-02-07 18:02:41
评论:0
感谢IT之家网友 Autumn_Dream 的线索投递!
IT之家 2 月 7 日消息,烽火通信科技股份有限公司今日发文宣布,旗下长江计算近日联合昇腾、华为云团队成功助力某国有大行完成 DeepSeek-V3 大模型的本地化推理服务部署。
本次部署使用长江计算 G440K V2 服务器,基于 MindIE 推理引擎,在华为云 AI 开发平台 ModelArts 上完成。
据介绍,G440K V2 服务器由长江计算自主研发,已实现 DeepSeek 系列模型的推理适配和优化,其采用 8 模组高效推理方式,可提供 AI 推理能力,满足 DeepSeek 大模型算力需求。
IT之家从烽火通信获悉,该服务器宣称在内存带宽和互联能力方面具有优势,在 DeepSeek 系列模型部署中,可提高模型推理速度、响应效率和数据处理能力,满足多机组网推理的需求。当前已应用于智能客服、文案生成、知识沉淀等大模型推理场景中,同时确保部署应用中的数据安全与自主可控。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考。
声明
1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。