IT之家 9 月 29 日消息，今晚，DeepSeek-V3🤯.2-Exp 发布并开源，引入稀疏 Attention 架构😡。华为宣布昇腾已快速基于 vLLM/SGLang 等推理框架😘完成适配部署，实现 DeepSeek-V3.2-Exp 0d🙌ay 支持，并面向开发者开源所有推理代码和算子实现。 😡IT之家从官方介绍获悉，昇腾在 DeepSeek-V3.2-😉Exp 一发布开源即实现了 DeepSeek-V3.2-Ex👏p BF16 模型部署，并在 CANN 平台上完成对应的优化😡适配，整体部署策略沿用 DeepSeek 的大 EP 并行方💯案，针对稀疏 DSA 结构，叠加实现长序列亲和的 CP 并行🌟策略，兼顾时延和吞吐，在 128K 长序列下能够保持 TTF😆T 低于 2 秒、TPOT 低于 30 毫秒的推理生成速度。🙌 NPU DeepSeek-V3.2-Exp 推理优化😜实践： 昇腾针对 DeepSeek-V3.2-Exp 😍架构中两个全新的算子：Lightning Indexer (😁LI) 以及 Sparse Flash Attention 🙄(SFA)，针对性地进行算子 Tiling 设计、Cube 🔥核与 Vector 核间的流水优化、计算流程的实现优化等，模❤️型和融合 Kernel 均已开源。 NPU DeepS😡eek-V3.2-Exp Ascend C 融合算子优化： 😆 为进一步提高昇腾融合算子的编程易用性，昇腾 CANN 😂首次推出大融合算子的编程体系 PyPTO，旨在简化算子开发流😍程，同时保持高性能计算能力。该框架创新性地采用 PTO (P🚀arallel Tensor / Tile Operatio⭐n) 编程范式，以 Tensor 为基本数据表达方式，构建计😁算图，实现高效计算与优化。目前在昇腾上已经基于 PyPTO 🤩完成 DeepSeek-V3.2-Exp 模型中 DeepS🔥eek Indexer Attention 和 Lightn😎ing indexer 算子的开发实践，仅需几百行代码即可完🤩成动态 Shape 算子编程和算子整网运行。 基于 P👏yPTO 的 Lightning Indexer 和 Dee😢pSeek Indexer Attention 算子开发实践😡： 昇腾不仅提供了 DeepSeek-V3.2-Exp🔥 的官方参考实践，也同步支持 vLLM 和 SGLang 等🤩业界主流大模型推理框架部署，提供完整功能，能够让广泛的开发者😢在社区直接下载相关代码体验 DeepSeek-V3.2-Ex🤗p 模型，可以在昇腾实现融合算子、稀疏访存、多核并行计算等深😁度优化能力，并持续优化 DeepSeek-V3.2-Exp ❤️在主流社区的推理性能。 大模型推理框架 vLLM 及昇😊腾实现： 大模型推理框架 SGLang 及昇腾实现： ⭐ TileLang 是由 Tile-AI 社区发起的 T😜ile-level 的类 Python 的 AI 编程语言（😘DSL）项目，在 Tile 粒度上进行编程和编译，实现模型算🙌子和硬件的高效协同。昇腾已经实现 TileLang 的 Sp😉arse Flash Attention 和 Lightni🔥ng Indexer 算子开发，后续将支持更完备的 NPU 😀算子并提升性能和泛化性。 NPU DeepSeek-V😉3.2-Exp TileLang 算子开发实践：返回搜狐，查🙌看更多

北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)

天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)

河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)

唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)

秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)

邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)

邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)

保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)

张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)

承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)

沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)

近日，《Nature》杂志的最新一期封面论文引起了广泛关注，🙄研究主题是 DeepSeek-R1。这项研究由梁文锋教授团队👏主导，内容围绕如何通过强化学习来提升大型语言模型（LLM）的😂推理能力。早在今年1月，该研究已在 arXiv 上发布，受到😀学术界的高度评价。 在封面介绍中，《Nature》指出🙄，如果大型模型能够规划解决问题的步骤，往往会得到更好的解决方🤔案。这种推理能力与人类处理复杂问题的方式相似，但在人工智能领👍域实现这一点面临着巨大的挑战。研究团队展示了如何在极少人工干👍预的情况下训练出具备推理能力的模型。 DeepSeek⭐-R1模型的训练采用强化学习策略，模型在正确解答数学问题时会🌟获得高分奖励，而答错则会受到惩罚。通过这样的机制，DeepS🤔eek-R1学会了逐步推理、解决问题，并在给出答案前进行自我⭐验证，从而提高了其在编程和科学研究中的表现。 值得一提🚀的是，DeepSeek-R1被认为是首个经过权威学术期刊同行😴评审的语言模型，这一成就标志着 AI 领域的一个重要里程碑。😀Hugging Face 的工程师 Lewis Tunsta🤗ll 对此表示，这是一个重要的先例，强调了行业规范的重要性，🚀尤其是在评估 AI 系统潜在风险时。 此外，研究团队在👍论文中对模型的训练数据类型和安全性进行了详细说明，避免了对模😎型的拟人化描述，确保研究的严谨性和透明度。这一开放模式得到了😀同行的广泛赞誉，认为有助于提升公众对 AI 的信任。 👏划重点:返回搜狐，查看更多