华为昇腾 0Day 支持 DeepSeek-V3.2-Exp

吃瓜电子官网最新热点:华为昇腾 0Day 支持 DeepSeek-V3.2-Exp

更新时间: 浏览次数:6604

IT之家 9 月 29 日消息,今晚,DeepSeek-V3💯.2-Exp 发布并开源,引入稀疏 Attention 架构🤩。华为宣布昇腾已快速基于 vLLM/SGLang 等推理框架🤩完成适配部署,实现 DeepSeek-V3.2-Exp 0d🎉ay 支持,并面向开发者开源所有推理代码和算子实现。 🙄IT之家从官方介绍获悉,昇腾在 DeepSeek-V3.2-🚀Exp 一发布开源即实现了 DeepSeek-V3.2-Ex🙌p BF16 模型部署,并在 CANN 平台上完成对应的优化😅适配,整体部署策略沿用 DeepSeek 的大 EP 并行方😎案,针对稀疏 DSA 结构,叠加实现长序列亲和的 CP 并行🌟策略,兼顾时延和吞吐,在 128K 长序列下能够保持 TTF🥳T 低于 2 秒、TPOT 低于 30 毫秒的推理生成速度。🙌 NPU DeepSeek-V3.2-Exp 推理优化🌟实践: 昇腾针对 DeepSeek-V3.2-Exp 🙄架构中两个全新的算子:Lightning Indexer (😀LI) 以及 Sparse Flash Attention 😎(SFA),针对性地进行算子 Tiling 设计、Cube 🤩核与 Vector 核间的流水优化、计算流程的实现优化等,模😆型和融合 Kernel 均已开源。 NPU DeepS😢eek-V3.2-Exp Ascend C 融合算子优化: 🥳 为进一步提高昇腾融合算子的编程易用性,昇腾 CANN 😜首次推出大融合算子的编程体系 PyPTO,旨在简化算子开发流😡程,同时保持高性能计算能力。该框架创新性地采用 PTO (P😂arallel Tensor / Tile Operatio🤩n) 编程范式,以 Tensor 为基本数据表达方式,构建计😊算图,实现高效计算与优化。目前在昇腾上已经基于 PyPTO 😂完成 DeepSeek-V3.2-Exp 模型中 DeepS😀eek Indexer Attention 和 Lightn😡ing indexer 算子的开发实践,仅需几百行代码即可完🌟成动态 Shape 算子编程和算子整网运行。 基于 P😆yPTO 的 Lightning Indexer 和 Dee😎pSeek Indexer Attention 算子开发实践🤔: 昇腾不仅提供了 DeepSeek-V3.2-Exp🌟 的官方参考实践,也同步支持 vLLM 和 SGLang 等😴业界主流大模型推理框架部署,提供完整功能,能够让广泛的开发者🤔在社区直接下载相关代码体验 DeepSeek-V3.2-Ex🚀p 模型,可以在昇腾实现融合算子、稀疏访存、多核并行计算等深😡度优化能力,并持续优化 DeepSeek-V3.2-Exp 🌟在主流社区的推理性能。 大模型推理框架 vLLM 及昇😅腾实现: 大模型推理框架 SGLang 及昇腾实现: 👍 TileLang 是由 Tile-AI 社区发起的 T😘ile-level 的类 Python 的 AI 编程语言(⭐DSL)项目,在 Tile 粒度上进行编程和编译,实现模型算👍子和硬件的高效协同。昇腾已经实现 TileLang 的 Sp🙄arse Flash Attention 和 Lightni😘ng Indexer 算子开发,后续将支持更完备的 NPU 😍算子并提升性能和泛化性。 NPU DeepSeek-V😡3.2-Exp TileLang 算子开发实践:返回搜狐,查😁看更多

北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)

天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)

河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)

唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)

秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)

邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)

邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)

保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)

张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)

承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)

沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)

9月17日,在“华为坤灵,助力中小企业跃升智能化”发布会上,😢华为常务董事汪涛发布了“4+10+N”中小企业智能化方案,以🥳一站式场景化方案助力中小企业打通迈向智能世界的“最后一公里”😅。 AI已经从企业的辅助工具,逐步深入到企业的核心生产😊系统,正在重构企业的产品服务模式、商业模式、工作模式等,成为🚀企业发展的主引擎。但部分中小企业由于在智能化认知、技术能力和😆应用落地等方面面临的挑战,大量需求被挡在了AI的高技术门槛之😅外。 为此,华为将过去的产品分销模式升级为一站式场景化😢方案的分销模式,推出华为坤灵“4+10+N”中小企业智能化方👏案。“4”即是基于企业生产经营活动中息息相关的智能办公、智能🤔商业、智能教育、智能医疗4大核心场景;“10”即是10大一站😢式场景化方案,包括中小企业办公、智能酒店、数字诊疗平台、智能😊互动教室等;“N”即是围绕四大场景定义的系列化明星产品,本次😊华为发布了26款针对分销市场的明星产品,包括集路由、交换、W🌟i-Fi 7、VPN等多功能于一体的企业级无线路由器AR18😎0产品,融合了AI会议、智能音幕、智能应用的IdeaHub等⭐产品,为四大场景提供全系列产品支撑。 汪涛表示,华为坤🙄灵一站式场景化方案,在方案开发、销售赋能、交付服务上进行全面😜升级,赋能伙伴,普惠中小企业客户。在方案开发上,通过产品智能🌟化,方案预集成和预验证,多产品组合协同,实现像搭积木一样简单💯灵活组合方案;在销售赋能上,通过一站式资料获取、方案体验、场😊景化配单,降低工程商和客户在产品选型、方案设计上的复杂度;在❤️交付服务上,实现统一安装、统一网管、统一客服,让客户快速获取🤯智能化技术,让工程商交付无忧。 同时,华为还面向中国分😎销伙伴发布“百&万计划”,发展100家分销钻石伙伴,从单产品😂授权扩展至全产品授权,以及10000家精英工程商,面向最终用😘户提供场景化方案及服务,使能工程商更高效服务用户,全面助力中😉小企业跃升智能化。 文/北京青年报记者 温婧返回搜狐,😅查看更多

发布于:道县
评论
全部
还没有人评论过,快来抢首评
抢首评

推荐阅读

时隔9个月重启降息!美联储如期降息25个基点,新任理事投了反对票(声明全文)

钛媒体APP 2025-11-07 08:22:39 5912

我,公司创始人,不接受产业资本的钱

钛媒体APP 2025-11-07 09:24:51 9191

21独家|刘元春、沈建光等牵头资本市场学会宏观与产业专委会

钛媒体APP 2025-11-07 06:06:49 6897

德众汽车成立新公司 含新能源汽车整车销售业务

钛媒体APP 2025-11-07 02:59:27 9313

新华社快讯:我国高水平国际期刊论文数量和国际专利申请量连续5年世界第一

钛媒体APP 2025-11-07 01:44:53 3943

新华社快讯:我国研发人员总量世界第一

钛媒体APP 2025-11-07 02:45:31 5307

iPhone 17系列早期交货时间增加 大摩维持苹果(AAPL.US)“增持”评级

钛媒体APP 2025-11-07 01:55:16 5399

消息称 OPPO 于 10 月 15 日发布 ColorOS 16

钛媒体APP 2025-11-07 05:01:20 1070

DeepSeek-R1 登上《Nature》封面:只花了 200 万,没蒸馏 OpenAI

钛媒体APP 2025-11-07 03:17:35 9967

我国研发人员总量世界第一

钛媒体APP 2025-11-07 09:30:17 5814

多个世界第一!“十四五”时期我国科技事业取得历史性成就

钛媒体APP 2025-11-07 03:37:02 7657

科技部:我国研发人员总量世界第一

钛媒体APP 2025-11-07 00:00:25 2574

“如果没有中国,美国将独霸AI”

钛媒体APP 2025-11-07 05:42:36 6814

92款广东大模型“持证上岗”,备案数全国第二赋能千行百业

钛媒体APP 2025-11-07 01:54:06 6952

科技部:全国新能源汽车产销量连续10年保持全球第一

钛媒体APP 2025-11-07 01:53:21 1945

第四届琶洲算法大赛吸引30余国8100名选手参赛,赛事福利助力AI成果落地

钛媒体APP 2025-11-07 04:08:19 8595

苹果承认iPhone17系列及 iPhone Air 存在相机漏洞,将尽快发布修复程序

钛媒体APP 2025-11-07 01:56:35 8781

AI驱动安全能力升级 长亭科技斩获网安周双项冠军

钛媒体APP 2025-11-07 05:33:27 3222

Claude 公司 CEO 示警称 AI 加速取代人类,近半白领岗位未来 5 年恐被淘汰

钛媒体APP 2025-11-07 04:16:29 1042

消息称马云已“强势回归”,阿里巴巴暂无回应

钛媒体APP 2025-11-07 08:09:12 1964

消息称iPhone 18 Pro及Max屏幕仍分别是6.3英寸、6.9英寸

钛媒体APP 2025-11-07 04:54:34 1269
为您推荐中
暂时没有更多内容了……