兆芯全系列整机形态成功部署 DeepSeek R1 大模型
xxn
阅读:76820
2025-02-24 20:00:35
评论:0
根据IT之家于2月24日的报道,上海兆芯集成电路股份有限公司近日宣布,基于其高性能通用处理器的PC终端、工作站及服务器成功实现了DeepSeek-R1-Distill模型的本地部署,涵盖了多种参数版本(1.5B / 7B / 32B / 70B / 671B等)。
据悉,兆芯的通用处理器提供了完整硬件解决方案,能够覆盖笔记本电脑、台式机、工作站和服务器,且原生支持基于Linux、Windows及国产操作系统的DeepSeek大模型生态体系,此外还兼容国产GPU加速卡。
KX-7000台式机:成功实施DeepSeek-R1-7B模型的本地部署
KH-40000/16工作站:实现DeepSeek-R1-32B模型的部署
KH-40000/32双路服务器:支持DeepSeek R1 671B模型的本地实现
据兆芯官方信息,为了更有效地验证DeepSeek-R1-671B大模型在服务器上的兼容性,兆芯在未使用任何外部加速卡的情况下,基于开胜KH-40000/32处理器已顺利完成DeepSeek-R1-671B模型的本地部署,充分验证了其服务器CPU架构对千亿参数模型的支持能力。
广告声明:文中包含的外部链接(如超链接、二维码、口令等)旨在提供更多信息,以节省用户查询时间,所得结果仅供参考。
声明
1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。