澎峰科技 + 海光 DCU:自研推理框架全面支持 DeepSeek 系列模型
xxn
阅读:93852
2025-02-07 20:01:17
评论:0
最新消息显示,澎峰科技宣布其自主研发的PerfXLM + 推理框架已在海光DCU上完成对DeepSeek全系列模型的深度适配与优化。
据介绍,PerfXLM + 推理框架通过底层架构优化,在性能方面全面适配海光DCU算力平台,为DeepSeek模型提供性能支持。该框架结合海光DCU的并行计算能力,针对DeepSeek-R1-Distill系列等模型,能够降低资源消耗,提升推理效率。
在生态方面,海光DCU基于GPGPU通用加速计算架构设计,具有兼容性与生态开放性优势,DeepSeek模型可直接在海光DCU上运行,减少底层适配工作,从而实现部署。此外,PerfXLM + 推理框架提供低成本、高稳定的AI推理服务,通过模型量化、算子融合等核心技术实现。
PerfXLM + 推理框架已覆盖自然语言处理、多模态理解等核心场景,海光DCU集群可实现模型快速迭代与弹性扩展,满足各行业实时推理需求,推动AI技术规模化应用。
据了解,中科曙光国家先进计算产业创新中心有限公司在近期宣布,海光信息技术团队成功将DeepSeek V3和R1模型与海光DCU国产化适配,并正式上线。
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考。
声明
1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。