华为昇腾 0Day 支持 DeepSeek-V3.2-Exp

吃瓜电子官网最新热点:华为昇腾 0Day 支持 DeepSeek-V3.2-Exp

更新时间: 浏览次数:9377

IT之家 9 月 29 日消息,今晚,DeepSeek-V3🥳.2-Exp 发布并开源,引入稀疏 Attention 架构🤗。华为宣布昇腾已快速基于 vLLM/SGLang 等推理框架❤️完成适配部署,实现 DeepSeek-V3.2-Exp 0d😉ay 支持,并面向开发者开源所有推理代码和算子实现。 😁IT之家从官方介绍获悉,昇腾在 DeepSeek-V3.2-😁Exp 一发布开源即实现了 DeepSeek-V3.2-Ex👍p BF16 模型部署,并在 CANN 平台上完成对应的优化😂适配,整体部署策略沿用 DeepSeek 的大 EP 并行方😍案,针对稀疏 DSA 结构,叠加实现长序列亲和的 CP 并行🚀策略,兼顾时延和吞吐,在 128K 长序列下能够保持 TTF😢T 低于 2 秒、TPOT 低于 30 毫秒的推理生成速度。😘 NPU DeepSeek-V3.2-Exp 推理优化👍实践: 昇腾针对 DeepSeek-V3.2-Exp 😍架构中两个全新的算子:Lightning Indexer (😆LI) 以及 Sparse Flash Attention 🎉(SFA),针对性地进行算子 Tiling 设计、Cube ⭐核与 Vector 核间的流水优化、计算流程的实现优化等,模👍型和融合 Kernel 均已开源。 NPU DeepS🙌eek-V3.2-Exp Ascend C 融合算子优化: 👏 为进一步提高昇腾融合算子的编程易用性,昇腾 CANN 😆首次推出大融合算子的编程体系 PyPTO,旨在简化算子开发流😎程,同时保持高性能计算能力。该框架创新性地采用 PTO (P😢arallel Tensor / Tile Operatio🚀n) 编程范式,以 Tensor 为基本数据表达方式,构建计😁算图,实现高效计算与优化。目前在昇腾上已经基于 PyPTO 🤩完成 DeepSeek-V3.2-Exp 模型中 DeepS😊eek Indexer Attention 和 Lightn🤯ing indexer 算子的开发实践,仅需几百行代码即可完😘成动态 Shape 算子编程和算子整网运行。 基于 P😁yPTO 的 Lightning Indexer 和 Dee😍pSeek Indexer Attention 算子开发实践💯: 昇腾不仅提供了 DeepSeek-V3.2-Exp😍 的官方参考实践,也同步支持 vLLM 和 SGLang 等🤗业界主流大模型推理框架部署,提供完整功能,能够让广泛的开发者😀在社区直接下载相关代码体验 DeepSeek-V3.2-Ex🌟p 模型,可以在昇腾实现融合算子、稀疏访存、多核并行计算等深😁度优化能力,并持续优化 DeepSeek-V3.2-Exp 👏在主流社区的推理性能。 大模型推理框架 vLLM 及昇🤔腾实现: 大模型推理框架 SGLang 及昇腾实现: ❤️ TileLang 是由 Tile-AI 社区发起的 T😅ile-level 的类 Python 的 AI 编程语言(🤯DSL)项目,在 Tile 粒度上进行编程和编译,实现模型算😢子和硬件的高效协同。昇腾已经实现 TileLang 的 Sp👏arse Flash Attention 和 Lightni😊ng Indexer 算子开发,后续将支持更完备的 NPU ⭐算子并提升性能和泛化性。 NPU DeepSeek-V❤️3.2-Exp TileLang 算子开发实践:返回搜狐,查😀看更多

北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)

天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)

河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)

唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)

秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)

邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)

邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)

保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)

张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)

承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)

沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)

2025-10-09 02:41:00 作者:狼叫兽 10月8日,支付宝携手AI健康应用AQ与高德共同发布首份出国三宝小趋势榜,揭示中国游客海外出行行为的新变化。 数据显示,中国游客在欧洲通过高德地图搜索“厕所”导航的使用次数同比增长达220%,“找厕所”正逐渐成为赴欧旅行中的高频需求。这一现象反映出游客对出行便利性与舒适度的关注持续提升。国庆假期期间,高德地图境外活跃的中国用户数量同比上升41%,选择境外自驾导航的用户增长45%。最受中国游客青睐的海外目的地前三名分别为新加坡、东京和曼谷,而计划前往卢浮宫参观蒙娜丽莎的用户人数也较去年同期增长70%。 在欧洲旅游场景中,实用性和体验感日益受到重视,“厕所导航”的兴起正是从“打卡式旅游”向“舒适型旅游”转变的缩影。游客不再仅满足于走马观花,而是更注重旅途中的细节安排与生活质量。 与此同时,AQ平台的境外健康咨询服务量环比上升32%。其中,“出国期间突发高烧或腹泻如何处理”成为用户最关心的健康问题。根据咨询情况,AQ为中国出境旅客提供的五大常备药品建议为:感冒药、肠胃药、抗过敏药、晕车晕船药以及外伤护理用品。在国家分布上,美国、日本、澳大利亚、韩国和越南是中国用户寻求海外健康咨询最多的五个目的地。 支付方面,支付宝在出境人群中的使用率保持高位,平均每两位出境游客中就有一位会使用该服务。其中,希腊成为中国游客使用其进行消费增长最快的国家,位居榜单首位。 随着出境游市场的全面回暖,游客对境外服务的需求呈现多元化趋势。高德在出行导航、AQ在健康管理、支付宝在支付领域的协同,已逐步构建起覆盖旅前、旅中各环节的服务生态闭环。这不仅提升了中国游客全球出行的便利性与安全感,也折射出中国出境旅游正经历从“走得出去”到“走得舒适”的深层升级。 返回搜狐,查看更多

发布于:太和区
评论
全部
还没有人评论过,快来抢首评
抢首评

推荐阅读

国庆中秋假期全国快递包裹日均处理量超9亿件

和讯网 2025-11-05 12:42:52 1608

多部门向广西、云南增调2万件中央救灾物资支持做好救灾救助工作

和讯网 2025-11-05 16:30:10 4716

“一秒生成制服照”?AI岂能如此换装

和讯网 2025-11-05 11:30:04 2244

开足马力运转,乐陵粮食烘干点力保秋粮归仓

和讯网 2025-11-05 00:30:03 4034

涉及德州!两部门联合发布连阴雨和农田渍涝灾害风险预警

和讯网 2025-11-05 12:30:39 9858

今起,泰安这两条道路交通管制施工!至2026年6月30日!

和讯网 2025-11-05 15:54:30 6475

今起,泰安这些公交线路执行秋季运行时间

和讯网 2025-11-05 18:05:21 9638

新泰市西张庄镇泉头村:扫黄打非扬正气 文明新风润人心

和讯网 2025-11-05 05:04:30 8935

应对连续阴雨天气|德州印发蔬菜果树管理技术指导意见

和讯网 2025-11-05 11:50:55 6006

新泰市西张庄镇东白沙村开展“关爱未成年人、预防未成年人犯罪”主题活动

和讯网 2025-11-05 11:08:55 9970

壹点探针丨天猫好房“百亿补贴”进驻德州,是“鲶鱼”来了吗?

和讯网 2025-11-05 08:37:26 1878

浙商银行德州分行:创新运用多种投行产品 助力企业拓宽融资渠道

和讯网 2025-11-05 11:06:00 3639

国庆中秋假期银联、网联共处理支付交易金额13.26万亿元

和讯网 2025-11-05 06:31:40 8195

外交部:个别政客破坏中美交往合作注定失败

和讯网 2025-11-05 12:30:19 8253

国庆假期返程1至2周内观察健康状况,警惕三类传染病

和讯网 2025-11-05 09:53:25 2466

聚焦食品虚假标识等问题,市场监管总局指导8家企业开展专项治理

和讯网 2025-11-05 09:38:14 7894

商务部、海关总署:对部分稀土设备和原辅料相关物项实施出口管制

和讯网 2025-11-05 15:46:01 9164

商务部、海关总署:对超硬材料相关物项实施出口管制

和讯网 2025-11-05 09:44:54 9509

第一阶段加沙停火协议正式生效

和讯网 2025-11-05 10:14:06 2703

商务部、海关总署:对锂电池和人造石墨负极材料相关物项实施出口管制

和讯网 2025-11-05 07:26:06 2313

绿色、智能受追捧 国庆假期智能家居产品增长显著

和讯网 2025-11-05 09:32:56 1042
为您推荐中
暂时没有更多内容了……