全国高校首个:东南大学上线阿里 QwQ-32B,支持消费级显卡本地部署

xxn 阅读:48884 2025-03-10 16:00:34 评论:0

IT之家于3月10日发布消息,东南大学在其官方微信公众号上透露,学校基于昇腾国产算力平台,成功接入阿里最新的开源模型 QwQ-32B,成为国内首个提供 QwQ-32B 服务的高校。

据东南大学介绍,尽管 QwQ-32B 仅拥有 32B 参数,但经过大规模的强化学习培训,在数学推理(依据 AIME24 评测)、代码生成(参照 LiveCodeBench)、工具调用(根据 BFCL 测试)等多项任务中的表现可与 671B 参数的 DeepSeek-R1 相媲美,甚至在部分指标上超越了后者。

上述图表展示了 QwQ-32B 与其他先进模型在数学推理(AIME24 评测)、代码生成(LiveCodeBench)、工具调用(BFCL 测试)方面的性能对比,显示出 QwQ-32B 与 DeepSeek-R1 的表现相当,远超 o1-mini 及同规格的 R1 蒸馏模型。

东南大学表示,该模型支持在消费级显卡上实现本地部署,显著降低了硬件要求,并且充分利用昇腾平台的高效算力资源,以帮助师生在科研中快速完成 AI 推理的需求。

此模型集成了工具调用及动态推理功能,能够根据环境的反馈调整其策略,适合应用于数据分析、实验模拟等复杂科研任务。

相关资讯:

广告声明:文中所提及的外部链接(包括超链接、二维码、口令等多种形式)用于提供更多信息,帮助用户更高效地获取资料,结果仅供参考。

声明

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

搜索
排行榜
关注我们

扫一扫关注我们,了解最新精彩内容