华为昇腾 0Day 支持 DeepSeek-V3.2-Exp
吃瓜电子官网最新热点:华为昇腾 0Day 支持 DeepSeek-V3.2-Exp
更新时间: 浏览次数:3879
IT之家 9 月 29 日消息,今晚,DeepSeek-V3🔥.2-Exp 发布并开源,引入稀疏 Attention 架构😢。华为宣布昇腾已快速基于 vLLM/SGLang 等推理框架❤️完成适配部署,实现 DeepSeek-V3.2-Exp 0d🥳ay 支持,并面向开发者开源所有推理代码和算子实现。 😆IT之家从官方介绍获悉,昇腾在 DeepSeek-V3.2-🤔Exp 一发布开源即实现了 DeepSeek-V3.2-Ex😘p BF16 模型部署,并在 CANN 平台上完成对应的优化😅适配,整体部署策略沿用 DeepSeek 的大 EP 并行方🤯案,针对稀疏 DSA 结构,叠加实现长序列亲和的 CP 并行🥳策略,兼顾时延和吞吐,在 128K 长序列下能够保持 TTF👏T 低于 2 秒、TPOT 低于 30 毫秒的推理生成速度。🤩 NPU DeepSeek-V3.2-Exp 推理优化🙄实践: 昇腾针对 DeepSeek-V3.2-Exp 😡架构中两个全新的算子:Lightning Indexer (😁LI) 以及 Sparse Flash Attention 😅(SFA),针对性地进行算子 Tiling 设计、Cube 😆核与 Vector 核间的流水优化、计算流程的实现优化等,模😴型和融合 Kernel 均已开源。 NPU DeepS🙌eek-V3.2-Exp Ascend C 融合算子优化: 🎉 为进一步提高昇腾融合算子的编程易用性,昇腾 CANN 😀首次推出大融合算子的编程体系 PyPTO,旨在简化算子开发流😢程,同时保持高性能计算能力。该框架创新性地采用 PTO (P❤️arallel Tensor / Tile Operatio🚀n) 编程范式,以 Tensor 为基本数据表达方式,构建计😘算图,实现高效计算与优化。目前在昇腾上已经基于 PyPTO 😉完成 DeepSeek-V3.2-Exp 模型中 DeepS😴eek Indexer Attention 和 Lightn😂ing indexer 算子的开发实践,仅需几百行代码即可完🥳成动态 Shape 算子编程和算子整网运行。 基于 P🤗yPTO 的 Lightning Indexer 和 Dee🙄pSeek Indexer Attention 算子开发实践🤩: 昇腾不仅提供了 DeepSeek-V3.2-Exp😜 的官方参考实践,也同步支持 vLLM 和 SGLang 等😴业界主流大模型推理框架部署,提供完整功能,能够让广泛的开发者😅在社区直接下载相关代码体验 DeepSeek-V3.2-Ex⭐p 模型,可以在昇腾实现融合算子、稀疏访存、多核并行计算等深😡度优化能力,并持续优化 DeepSeek-V3.2-Exp 🙄在主流社区的推理性能。 大模型推理框架 vLLM 及昇😘腾实现: 大模型推理框架 SGLang 及昇腾实现: 😊 TileLang 是由 Tile-AI 社区发起的 T🌟ile-level 的类 Python 的 AI 编程语言(🚀DSL)项目,在 Tile 粒度上进行编程和编译,实现模型算😡子和硬件的高效协同。昇腾已经实现 TileLang 的 Sp😡arse Flash Attention 和 Lightni😉ng Indexer 算子开发,后续将支持更完备的 NPU 😘算子并提升性能和泛化性。 NPU DeepSeek-V😘3.2-Exp TileLang 算子开发实践:返回搜狐,查⭐看更多
北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)
天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)
河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)
唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)
秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)
邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)
邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)
保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)
张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)
承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)
沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)
政协第十四届全国委员会第四十一次主席会议30日下午在京召开。🤩中共中央政治局常委、全国政协主席王沪宁主持并讲话。 会🤯议传达学习贯彻习近平总书记近期重要讲话和重要指示精神。王沪宁🌟表示,要深入学习贯彻习近平总书记在纪念中国人民抗日战争暨世界🤗反法西斯战争胜利80周年大会上的重要讲话精神,传承和弘扬伟大🤔爱国主义精神、伟大抗战精神,把纪念活动激发出的爱党爱国热情转😘化为做好各项工作、创造一流业绩的强大动力和实际行动。要深入学🤩习贯彻习近平总书记关于深入贯彻中央八项规定精神学习教育的重要😂指示精神,以更高政治站位深化对作风建设的认识,坚持经常抓、深😎入抓、持久抓,巩固拓展学习教育成果。要深入学习贯彻习近平总书😍记关于西藏工作、新疆工作的重要讲话精神,积极宣传在中国共产党🤔领导下西藏、新疆经济社会发展取得的辉煌成就特别是新时代以来取😜得的历史性成就,组织引导政协委员围绕完整准确全面贯彻新时代党😘的治藏方略和新时代党的治疆方略、铸牢中华民族共同体意识等重点😆问题,深入调研协商,广泛凝心聚力。要深入学习贯彻9月29日中🎉共中央政治局会议精神,引导政协委员和政协机关干部把思想和行动👍统一到中共中央关于“十五五”时期经济社会发展重大决策部署上来😎,组织政协委员积极参与“十五五”时期经济社会发展重要问题的专😜题研究和协商活动。要深入学习贯彻习近平总书记在主持中共中央政😴治局第二十二次集体学习时的重要讲话精神,立足政协实际做好宗教🎉工作。要深入学习贯彻习近平总书记在近期外事活动中的重要讲话精🤩神,认真组织全国政协各项外事活动,更好服务国家总体外交。 😂 会议审议通过政协第十四届全国委员会常务委员会第十四次会议👍议程(草案)和日程,决定10月底在北京召开全国政协十四届常委😡会第十四次会议。 会议审议通过关于免去易会满政协第十四😴届全国委员会经济委员会驻会副主任职务,撤销其委员资格的决定,🔥提请全国政协十四届常委会第十四次会议追认。 主席会议举😍行2025年第三次集体学习,主题是“全球气候变化及应对”。中😉国气象局局长陈振林应邀作报告。 全国政协副主席王勇、苏😴辉、邵鸿围绕学习贯彻习近平总书记近期重要讲话精神作发言。全国❤️政协副主席兼秘书长王东峰等就有关议题作说明。 中共中央👍政治局委员、全国政协副主席石泰峰,全国政协副主席胡春华、沈跃😴跃、何厚铧、梁振英、巴特尔、高云龙、陈武、穆虹、咸辉、姜信治🔥、蒋作君、何报翔、王光谦、朱永新、杨震出席会议。(新华社)返😍回搜狐,查看更多
推荐阅读
为夺权铺路?贝森特发文呼吁全面改革美联储!
7147
美联储理事库克反击:从哈佛到美联储,特朗普的套路都一样!
8564
“币圈巨头”要去“挖黄金”?全球最大稳定币计划大举投资金矿
8783
特朗普准备重谈《美墨加协定》,此前关税豁免暗藏玄机
7700
罕见一幕!国会两党议员联手,致力“铲除”国会山股神
3369
美政府关门倒计时4周!国会两党提前“推锅”
3606
就在明天!特朗普重塑美联储计划进入关键阶段
1782
易鹏 :AI与资本市场——从共识到机会
9056
抖音高德的“榜单革命”,能否打碎小红书的“滤镜”?
3974
前妻分走1.72亿元股份后,丽人丽妆创始人“家务事”还没完
6657
每天200万人出入境游,国内景区却吃不上饭?
3825
野人先生,不想做下一个钟薛高
5048
平安好医生“换帅”,前百度高管空降,要押注AI医疗?
5462
OpenAI的战略风险
6044
国庆不出游的年轻人们
8668
微观世界的堡垒:晶圆厂的复杂安全问题
9037
【钛晨报】治理价格无序竞争,发改委、市监总局最新发声;涉稀土、锂电池等出口管制,商务部、海关总署连发4则公告;多家券商出手,这些大市值股票两融折算率降至0
7005
大厂竞业限制协议「七宗罪」
6533
苹果“低头”,堵死了国产品牌靠AI手机逆袭的路?
8987
蜜雪冰城想让年轻人微醺
4504
关于高市早苗,以及女性政治家,我的一些有趣的观察
7751