阿里云 PAI 支持云上一键部署 DeepSeek-V3、DeepSeek-R1 系列模型

xxn 阅读:98404 2025-02-08 00:01:40 评论:0

IT之家 2 月 7 日报道称,阿里巴巴(中国)有限公司今日发布声明称,阿里云 PAI Model Gallery目前已支持 DeepSeek-V3DeepSeek-R1 以及所有蒸馏小参数模型(DeepSeek-R1-Distill)一键部署。

根据介绍,Model Gallery是阿里云人工智能平台PAI的产品组件,集成了国内外AI开源社区中优质的预训练模型,覆盖了LLM、AIGC、CV、NLP等多个领域。

IT之家提供PAI Model Gallery一键部署Deep Seek-V3、Deep Seek-R的步骤如下:

1. 访问 Model Gallery

  • 登录PAI控制台。

  • 根据实际情况在顶部左上角选择地域。

  • 在左侧导航栏选择工作空间列表,点击指定的工作空间名称,进入相应的工作空间。

  • 在左侧导航栏选择快速开始 > Model Gallery。

2. 在Model Gallery页面的模型列表中,点击要部署的模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”模型,进入模型详情页面。

3. 点击右上角的部署按钮:目前DeepSeek-R1支持使用vLLM进行加速部署;DeepSeek-V3支持使用vLLM进行加速部署和Web应用部署;DeepSeek-R1蒸馏小模型支持使用BladeLLM(阿里云PAI自研高性能推理框架)和vLLM进行加速部署。选择部署方式和资源后,即可一键部署服务,生成一个PAI-EAS服务。

4. 应用推理服务。成功部署后,在服务页面点击“查看调用信息”获取调用的Endpoint和Token,详情参见模型介绍页以获取服务调用方法说明。

广告声明:文中包含的外部链接可能包括超链接、二维码、口令等,意在提供更多信息并节省筛选时间,结果仅供参考。

声明

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

搜索
排行榜
关注我们

扫一扫关注我们,了解最新精彩内容