华为昇腾 0Day 支持 DeepSeek-V3.2-Exp
吃瓜电子官网最新热点:华为昇腾 0Day 支持 DeepSeek-V3.2-Exp
更新时间: 浏览次数:5434
IT之家 9 月 29 日消息,今晚,DeepSeek-V3🤯.2-Exp 发布并开源,引入稀疏 Attention 架构😡。华为宣布昇腾已快速基于 vLLM/SGLang 等推理框架😘完成适配部署,实现 DeepSeek-V3.2-Exp 0d🙌ay 支持,并面向开发者开源所有推理代码和算子实现。 😡IT之家从官方介绍获悉,昇腾在 DeepSeek-V3.2-😉Exp 一发布开源即实现了 DeepSeek-V3.2-Ex👏p BF16 模型部署,并在 CANN 平台上完成对应的优化😡适配,整体部署策略沿用 DeepSeek 的大 EP 并行方💯案,针对稀疏 DSA 结构,叠加实现长序列亲和的 CP 并行🌟策略,兼顾时延和吞吐,在 128K 长序列下能够保持 TTF😆T 低于 2 秒、TPOT 低于 30 毫秒的推理生成速度。🙌 NPU DeepSeek-V3.2-Exp 推理优化😜实践: 昇腾针对 DeepSeek-V3.2-Exp 😍架构中两个全新的算子:Lightning Indexer (😁LI) 以及 Sparse Flash Attention 🙄(SFA),针对性地进行算子 Tiling 设计、Cube 🔥核与 Vector 核间的流水优化、计算流程的实现优化等,模❤️型和融合 Kernel 均已开源。 NPU DeepS😡eek-V3.2-Exp Ascend C 融合算子优化: 😆 为进一步提高昇腾融合算子的编程易用性,昇腾 CANN 😂首次推出大融合算子的编程体系 PyPTO,旨在简化算子开发流😍程,同时保持高性能计算能力。该框架创新性地采用 PTO (P🚀arallel Tensor / Tile Operatio⭐n) 编程范式,以 Tensor 为基本数据表达方式,构建计😁算图,实现高效计算与优化。目前在昇腾上已经基于 PyPTO 🤩完成 DeepSeek-V3.2-Exp 模型中 DeepS🔥eek Indexer Attention 和 Lightn😎ing indexer 算子的开发实践,仅需几百行代码即可完🤩成动态 Shape 算子编程和算子整网运行。 基于 P👏yPTO 的 Lightning Indexer 和 Dee😢pSeek Indexer Attention 算子开发实践😡: 昇腾不仅提供了 DeepSeek-V3.2-Exp🔥 的官方参考实践,也同步支持 vLLM 和 SGLang 等🤩业界主流大模型推理框架部署,提供完整功能,能够让广泛的开发者😢在社区直接下载相关代码体验 DeepSeek-V3.2-Ex🤗p 模型,可以在昇腾实现融合算子、稀疏访存、多核并行计算等深😁度优化能力,并持续优化 DeepSeek-V3.2-Exp ❤️在主流社区的推理性能。 大模型推理框架 vLLM 及昇😊腾实现: 大模型推理框架 SGLang 及昇腾实现: ⭐ TileLang 是由 Tile-AI 社区发起的 T😜ile-level 的类 Python 的 AI 编程语言(😘DSL)项目,在 Tile 粒度上进行编程和编译,实现模型算🙌子和硬件的高效协同。昇腾已经实现 TileLang 的 Sp😉arse Flash Attention 和 Lightni🔥ng Indexer 算子开发,后续将支持更完备的 NPU 😀算子并提升性能和泛化性。 NPU DeepSeek-V😉3.2-Exp TileLang 算子开发实践:返回搜狐,查🙌看更多
北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)
天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)
河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)
唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)
秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)
邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)
邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)
保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)
张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)
承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)
沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)
深圳商报·读创客户端首席记者 谢惠茜 “银行免费短信正在消失”近日冲上了微博热搜,引发广泛关注。记者咨询了多家银行后发现,多家银行确实均已上调部分动账短信通知服务的起点金额,调整范围主要为免费短信服务,也涉及少部分收费服务。 今年8月中旬,广东华兴银行发布公告称,为提升客户服务水平,该行对个人客户账户动账短信发送方式进行了优化。自2025年9月16日09:00起,该行将停止发送账户动账金额在500元以下的动账短信。而在此之前,该行动账短信提醒没有起点金额要求,只要发生动账均会发送短信提醒。 这并非是今年首家调整动账短信通知提醒服务的银行。在广东华兴银行之前,已有民生银行、中国银行、湖北银行等多家银行纷纷进行调整。 其中,早在今年1月1日起,民生银行便将个人借记卡人民币账户短信即时通服务部分优惠措施调整为:单笔通知起点金额大于300元的动账短信提醒优惠终止;签约个人网银、手机银行、微信即时通任一产品享短信即时通服务费9折优惠终止;从3月1日起,民生借记卡签约了短信即时通,且有收到该行发送的即时通动账短信提醒,次月会按照人民币2元/月/卡/手机号的收费标准进行收费。 针对终身免费短信通知服务的存量个人客户,中国银行也于4月17日开始调整其账户变动触发短信通知的默认金额,起点金额上调为100元。此前,此类客户免费接收短信提醒的起点金额是0元(以上)。 “目前大多数银行都已没有全部免费动账短信通知提醒了。银行发送信息也是需要成本的,银行设置动账短信通知服务起始金额以后会成为一个必然的趋势。”一位不愿具名的银行业内人士告诉记者。 “银行免费短信服务逐渐淡出市场是成本控制与数字服务升级共同驱动的必然选择。”苏商银行特约研究员武泽伟在接受记者采访时表示,一方面,海量短信的持续发送构成可观的运营成本,这与银行降本增效的核心诉求相悖;另一方面,移动支付与手机银行的全面普及,使应用程序推送等免费数字化通知方式成为主流,其信息承载更丰富且触达更高效,显著降低用户对传统短信的依赖。银行主动收缩此项服务实质是引导客户迁移至更现代的电子渠道,从而优化资源分配并加速整体数字化转型进程。返回搜狐,查看更多
推荐阅读
英国央行副行长:预计通胀将小幅上升至峰值
3011
华友钴业:与LGES签五年16.4万吨供货合同
6728
高盛集团:上调股票评级,标普500三月或涨2%
1772
美联储哈玛克:通胀过高,预计2027年回落至2%
1403
光洋股份:拟1亿元设立黄山光洋机器人有限公司
5320
帝奥微:筹划购荣湃半导体股权,预计停牌不超10个
5306
普利特:拟8亿建6GWh钠电池基地,分两期建设
6180
华宝新能:大厦奠基发起零碳倡议,省12.5亿度电减碳124.3万吨
2890
伦敦金属期货:9月29日20:30镍铜锌等多品种涨跌不一
3071
国际农产品期货:9月29日20:30美豆等有涨跌
9135
现货黄金、白银:日内分别涨1.88%、2.13%创新高
1672
巴西农产品:2025/26年度大豆种3.2%,玉米种32%
2705
纽约金属期货:9月29日20:30期金涨1.00%等
6157
WTI原油、美国天然气期货:9月29日20:30分别跌1.90%、1.28%
2488
新雷能(300593.SZ):拟推2025年限制性股票激励计划
5503
大健康国际(02211.HK)盈警:预期年度综合净亏损不少于2570万元
5271
宝联控股(08201.HK)年度收益约5.02亿港元 同比增加2.9%
3753
新雷能(300593.SZ):拟推2025年员工持股计划
6509
隆扬电子(301389.SZ):拟以债转股及现金方式向全资子公司聚赫淮安增资
5947
首都金融控股(08239.HK):陈毅奋辞任独立非执行董事
3345
康宁医院(02120.HK)9月29日耗资7.2万港元回购6500股
1239