华为昇腾 0Day 支持 DeepSeek-V3.2-Exp
吃瓜电子官网最新热点:华为昇腾 0Day 支持 DeepSeek-V3.2-Exp
更新时间: 浏览次数:4100
IT之家 9 月 29 日消息,今晚,DeepSeek-V3🔥.2-Exp 发布并开源,引入稀疏 Attention 架构😢。华为宣布昇腾已快速基于 vLLM/SGLang 等推理框架❤️完成适配部署,实现 DeepSeek-V3.2-Exp 0d🥳ay 支持,并面向开发者开源所有推理代码和算子实现。 😆IT之家从官方介绍获悉,昇腾在 DeepSeek-V3.2-🤔Exp 一发布开源即实现了 DeepSeek-V3.2-Ex😘p BF16 模型部署,并在 CANN 平台上完成对应的优化😅适配,整体部署策略沿用 DeepSeek 的大 EP 并行方🤯案,针对稀疏 DSA 结构,叠加实现长序列亲和的 CP 并行🥳策略,兼顾时延和吞吐,在 128K 长序列下能够保持 TTF👏T 低于 2 秒、TPOT 低于 30 毫秒的推理生成速度。🤩 NPU DeepSeek-V3.2-Exp 推理优化🙄实践: 昇腾针对 DeepSeek-V3.2-Exp 😡架构中两个全新的算子:Lightning Indexer (😁LI) 以及 Sparse Flash Attention 😅(SFA),针对性地进行算子 Tiling 设计、Cube 😆核与 Vector 核间的流水优化、计算流程的实现优化等,模😴型和融合 Kernel 均已开源。 NPU DeepS🙌eek-V3.2-Exp Ascend C 融合算子优化: 🎉 为进一步提高昇腾融合算子的编程易用性,昇腾 CANN 😀首次推出大融合算子的编程体系 PyPTO,旨在简化算子开发流😢程,同时保持高性能计算能力。该框架创新性地采用 PTO (P❤️arallel Tensor / Tile Operatio🚀n) 编程范式,以 Tensor 为基本数据表达方式,构建计😘算图,实现高效计算与优化。目前在昇腾上已经基于 PyPTO 😉完成 DeepSeek-V3.2-Exp 模型中 DeepS😴eek Indexer Attention 和 Lightn😂ing indexer 算子的开发实践,仅需几百行代码即可完🥳成动态 Shape 算子编程和算子整网运行。 基于 P🤗yPTO 的 Lightning Indexer 和 Dee🙄pSeek Indexer Attention 算子开发实践🤩: 昇腾不仅提供了 DeepSeek-V3.2-Exp😜 的官方参考实践,也同步支持 vLLM 和 SGLang 等😴业界主流大模型推理框架部署,提供完整功能,能够让广泛的开发者😅在社区直接下载相关代码体验 DeepSeek-V3.2-Ex⭐p 模型,可以在昇腾实现融合算子、稀疏访存、多核并行计算等深😡度优化能力,并持续优化 DeepSeek-V3.2-Exp 🙄在主流社区的推理性能。 大模型推理框架 vLLM 及昇😘腾实现: 大模型推理框架 SGLang 及昇腾实现: 😊 TileLang 是由 Tile-AI 社区发起的 T🌟ile-level 的类 Python 的 AI 编程语言(🚀DSL)项目,在 Tile 粒度上进行编程和编译,实现模型算😡子和硬件的高效协同。昇腾已经实现 TileLang 的 Sp😡arse Flash Attention 和 Lightni😉ng Indexer 算子开发,后续将支持更完备的 NPU 😘算子并提升性能和泛化性。 NPU DeepSeek-V😘3.2-Exp TileLang 算子开发实践:返回搜狐,查⭐看更多
北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)
天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)
河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)
唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)
秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)
邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)
邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)
保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)
张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)
承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)
沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)
美国联邦政府“关门”10日进入第十天,白宫“大手一挥”,宣布开始大规模解雇联邦雇员。据美媒报道,超过4000名联邦雇员将丢掉工作。美国总统特朗普称,裁员将集中在“趋向民主党的领域”,会波及“很多人”。 统计: 20万联邦雇员已离职 非营利机构公共服务合作组织统计显示,特朗普政府执政9个月来,已有超过20万联邦雇员离开工作岗位,除主动辞职和正常退休的人外,相当一部分属于被迫离职。 白宫管理和预算办公室10日宣布,联邦政府裁员已经开始,超过4000人将被解雇。据美联社报道,这波裁员主要波及财政部、卫生与公共服务部、教育部、住房和城市发展部、商务部、能源部、国土安全部等联邦机构,其中前两个机构裁员规模最大。这些机构已开始陆续下达裁员通知。 熟悉内情的一个联邦雇员工会10日对美联社记者说,在教育部主管中小学事务的部门,主任级别以下的雇员几乎全被裁掉。特朗普早就看教育部“不顺眼”,今年3月签署行政令要求推动关闭教育部,将教育管理权归还各州。 “这是刻意制造的混乱” 特朗普10日晚在白宫椭圆形办公室接受媒体采访时说,因为政府“关门”,会有很多联邦雇员丢掉工作,“我们会在今后几天宣布人数,会有很多人”。他称,裁员将集中在“趋向民主党的领域”,但没有进一步解释。 特朗普政府最近借“关门”一事向民主党发起猛攻,削减民主党支持的项目、解散民主党主导的联邦机构。他之前明说,会解雇许多“民主党的人”。 美国国会参议院民主党领袖查克·舒默将政府最新一轮裁员归咎于特朗普。舒默说:“我们直说吧,没有人逼特朗普和(白宫管理和预算办公室主任)沃特裁员。他们没必要这样做,是他们自己想这样做。他们选择去无情地伤害别人——伤害那些保家卫国、检查食品安全和应对灾难的人。这是刻意制造的混乱。” 美国政府雇员联合会10日表示“已经提起诉讼”。该组织全国主席埃弗里特·凯利说,特朗普政府以“停摆”为借口,“非法解雇”数以千计为全国各地社区提供关键服务的雇员,这令人耻辱。“联邦雇员厌倦了被政治人物用作政治和个人利益的棋子。” 白宫这次做得太过了? 美联社报道称,白宫这次做得多少“有点过”。以往美国联邦政府“停摆”期间,政府很少“落井下石”裁掉那些本就被迫停薪休假的雇员。通常情况下,政府“停摆”期间,提供“必要服务”的雇员停薪上班,其他雇员停薪休假。政府重新“开门”后,会给雇员补发工资。 一些共和党人也表示“看不下去了”。国会参议院拨款委员会主席苏珊·柯林斯说:“联邦雇员因为完全没有必要的政府‘关门’而停薪休假,白宫管理和预算办公室主任沃特却企图永久解雇他们,我对此强烈反对。” 来自阿拉斯加州的共和党籍参议员莉萨·穆尔科斯基说,这是“这届政府对联邦雇员采取惩罚行动的又一例证”。据媒体报道,先前有不少被炒掉的联邦雇员起诉特朗普政府采取“报复”行动,在没有正当理由的情况下解雇他们。 《纽约时报》报道说,在政府“停摆”期间试图解雇联邦雇员,特朗普政府此举可能会让当前财政僵局进一步升级,导致高昂代价。 因两党在医保等福利支出方面存在分歧,美国国会参议院未能在9月30日上一财年结束前通过新的临时拨款法案。美国东部时间10月1日零时起,联邦政府时隔近7年再次“停摆”,共和、民主两党为此相互“甩锅”。 据媒体报道,政府“关门”期间,约75万联邦雇员停薪休假,军人恐难在15日的领薪日按时领到军饷。经济数据发布暂停,公共服务陷入停滞,美国经济和社会遭受损失。返回搜狐,查看更多
推荐阅读
【民企500强看现场】华为公布昇腾芯片后续规划
5035
追觅汽车官图发布:无序对开车门、隐藏式双B柱
6606
Claude公司CEO称AI加速取代人类,近半白领岗位未来 5 年恐被淘汰
8563
未经用户同意为其自动注册会员?亚马逊被判违反消费者保护法
5194
华为坤灵发布一站式中小企业智能化方案
8513
2025年世界互联网大会文化遗产数字化论坛在陕西西安开幕
9715
和合信诺拖欠39人近200万元工资被罚,招银国际入股
6487
特斯拉技术员被机器人打成重伤 起诉索赔5100万美元
9315
日本计划引进5万名印度技术人才 以补充本土劳动力短缺问题
8716
苹果新品曝光:iPhone17e与新款iPad将于明年上半年发布
6669
江苏泰州警方打掉一“玄学大师”诈骗团伙:71人落网,涉案资金2000余万
1669
宝马因部件安全隐患召回超33万辆汽车
3649
韩国最大外卖平台接入支付宝与微信支付 迎接中国游客免签潮
9721
小熊电器回应养生壶爆炸事件:正全力核查原因
6332
罗马仕等三家公司召回充电宝超70万件 累计退款超1.1亿元
7581
苹果或成英特尔新股东 半导体合作前景受关注
2915
价格鸿沟正加剧数字贫困!全球逾30亿人因成本问题被阻于移动互联网之外
8485
周鸿祎向罗永浩推荐DeepSeek梁文锋 AI领域对谈还有后话?
5403
无3C认证共享充电宝仍在市场流通 成本压力致认证更新滞后
3678
阿里巴巴CEO吴泳铭云栖大会演讲:3800亿AI基建计划推进中 将打造超级人工智能ASI
8940
台积电股价深夜暴涨近5% 芯片行业掀起涨价潮
8522