DeepSeek-V3.2-Exp模型正式发布,寒武纪火速完成适配

9月29日晚间,国产人工智能(AI)技术厂商深度求索(DeepSeek)宣布正式发布DeepSeek-V3.2-Exp模型,正如其名称所示的那样,这是一个基于V3.2实验性(Experimental)的版本。

作为迈向新一代架构的中间步骤,Deepseek V3.2-Exp 在 V3.1-Terminus 的基础上引入了 DeepSeek Sparse Attention(一种稀疏注意力机制),针对长文本的训练和推理效率进行了探索性的优化和验证。

据介绍,DeepSeek Sparse Attention(DSA)稀疏注意力机制首次实现了细粒度稀疏注意力机制,在几乎不影响模型输出效果的前提下,实现了长文本训练和推理效率的大幅提升。

图片

为了严谨地评估引入稀疏注意力带来的影响,我们特意把 DeepSeek-V3.2-Exp 的训练设置与 V3.1-Terminus 进行了严格的对齐。在各领域的公开评测集上,DeepSeek-V3.2-Exp 的表现与 V3.1-Terminus 基本持平。

图片

目前,Deepseek官方 App、网页端、小程序均已同步更新为 DeepSeek-V3.2-Exp,同时 API 大幅度降价。

值得注意的是,在DeepSeek-V3.2-Exp模型发布的同一天,国产AI芯片大厂寒武纪就宣布,已同步实现对DeepSeek-V3.2-Exp的适配,并开源大模型推理引擎vLLM-MLU源代码。

目前,开发者可以在寒武纪软硬件平台上第一时间体验DeepSeek-V3.2-Exp的亮点。

寒武纪表示,公司一直重视芯片和算法的联合创新,致力于以软硬件协同的方式,优化大模型部署性能,降低部署成本。

此前,寒武纪对DeepSeek系列模型进行了深入的软硬件协同性能优化,达成了业界领先的算力利用率水平。

针对本次的DeepSeek-V3.2-Exp新模型架构,寒武纪通过Triton算子开发实现了快速适配,利用BangC融合算子开发实现了极致性能优化,并基于计算与通信的并行策略,再次达成了业界领先的计算效率水平。

寒武纪表示,依托DeepSeek-V3.2-Exp带来的全新DeepSeek Sparse Attention机制,叠加寒武纪的极致计算效率,可大幅降低长序列场景下的训推成本,共同为客户提供极具竞争力的软硬件解决方案。

编辑:芯智讯-浪客剑

首个美国制造Blackwell晶,更多内容持续跟进,真实情况详细说明
传英伟达抢下台积电A16制程首发,核心看点完整汇总,实用观点完整分享,主要亮点集中展示,事件脉络清楚整理
美光纽约晶圆厂扩建推迟五年爱达荷,发展趋势持续观察,关注焦点及时追踪,关键信息快速掌握,相关进展值得关注
中国台湾升级出口管制EUV光罩及,热门话题深入了解,关注焦点及时追踪,实用内容深入说明,行业变化清晰解读
助力2nm量产日本政府拟对Rap,重点信息全面梳理,热点消息及时呈现
中芯国际Q3净利同比增长43.1,真实情况详细说明,关注焦点及时追踪,实用观点完整分享
寒武纪前三季赚了16亿牛散章建平,最新动态持续更新,相关进展值得关注
昆仑芯正式赴港IPO百度股价大涨,关注焦点及时追踪,最新消息全面呈现,相关资讯同步更新
涨幅超150%三星HBM4对英伟,核心看点完整汇总,相关进展值得关注,热门话题深入了解,行业变化清晰解读
传台积电退休老将罗唯仁将加盟英特,核心看点完整汇总,关注焦点及时追踪
三星有望拿下AMD与谷歌2nm订,热门话题深入了解,实用观点完整分享,相关进展值得关注
DRAM价格飙升推动低端手机成本,事件脉络清楚整理,关注焦点及时追踪,核心看点完整汇总,更多内容持续跟进
为应对中国出口管制美国与东南亚三,热点消息及时呈现,发展趋势持续观察,真实情况详细说明,关键信息快速掌握
长江存储致态SSD产线暂时关闭假,精彩内容不容错过,事件脉络清楚整理
打破国外垄断国产探针卡“第一股”,热门话题深入了解,实用内容深入说明
让AI开发更简单摩尔线程发布AI,重点信息全面梳理,最新动态持续更新,更多内容持续跟进
安森美第三季营收15.5亿美元同,实用观点完整分享,核心看点完整汇总,行业变化清晰解读
CounterpointRese,关键信息快速掌握,更多内容持续跟进,真实情况详细说明,热点消息及时呈现
拟募资39亿元沐曦股份科创板IP,热点消息及时呈现,重要细节逐步揭晓,核心看点完整汇总,相关进展值得关注
传阿里巴巴计划订购超4万颗AMD,重要细节逐步揭晓,最新动态持续更新,相关进展值得关注
9.5亿元芯原宣布收购上海逐点半,真实情况详细说明,相关资讯同步更新
OPPO向奥迪公司许可蜂窝通信标,行业变化清晰解读,事件脉络清楚整理
realme真我GT8系列发布骁,精彩内容不容错过,关键信息快速掌握,发展趋势持续观察
21.7亿元概伦电子拟收购锐成芯,核心看点完整汇总,相关资讯同步更新
三星SK现代等7家韩企官宣890,关键信息快速掌握,相关进展值得关注,主要亮点集中展示
DARPA和德克萨斯州斥资14亿,重要细节逐步揭晓,行业变化清晰解读
京东方“焕新2026”绘就显示产,事件脉络清楚整理,重要细节逐步揭晓
台积电自研EUV光罩保护膜推迟导,重点信息全面梳理,相关资讯同步更新
英特尔Fab52揭秘已安装4台E,关键信息快速掌握,实用内容深入说明,最新消息全面呈现
高盛AI将在10年内普及美国生产,主要亮点集中展示,关键信息快速掌握,更多内容持续跟进,重点信息全面梳理

留下评论