DeepSeek-R1 登上《Nature》封面:只花了 200 万,没蒸馏 OpenAI
吃瓜电子官网最新热点:DeepSeek-R1 登上《Nature》封面:只花了 200 万,没蒸馏 OpenAI
更新时间: 浏览次数:3406
雷峰网讯 DeepSeek-R1 又开先例,成为首个登上《N👍ature》封面的中国大模型。 2025 年春节,De😢epSeek-R1 横空出世,因其极低的训练成本引发病毒式传😍播。八个月过去,这一成果带着 Nature 的金字招牌再次回❤️到公众视野中央,只为一件事:技术透明。 这篇名为 De😊epSeek-R1 incentivizes reasoni🤯ng in LLMs through reinforceme😅nt learning 的《Nature》 封面论文由创始人🤗梁文锋担任通讯作者。文中首次确认了此前流传的DeepSeek🤯 R1 训练成本,约 29.4 万美元,折合人民币约 208🤯 万,并进一步披露了模型训练中采用的数据类型、强化学习方案等🤩技术细节。 在揭开这一里程碑式大模型的面纱之外,这篇论😅文更大的意义,是 DeepSeek-R1 作为全球首个经历了😢同行评审的大语言模型,将大模型研究推向了更透明、可重复的方向👍。 此前业内通行的做法,是科技公司在自家官网、论文预印⭐本网站 arXiv或知名技术论坛上发布突破性成果及基准测试分😜数,大部分模型 API 随后即向公众开放。这一过程绕开了传统🙌学术评价体系中的同行评审环节,而 DeepSeek 团队则主😡动接受了这一来自学术界的审视。 根据 《Nature》🤗公布的补充信息显示,评审意见主要集中在实验评估、模型安全性和👍伦理风险等方面,要求补充 OOD(分布外)测试、中间阶段性能😎分析、误用讨论等工作。正是针对上述同行评审意见,DeepSe😁ek 团队才增加了对数据类型等训练细节的披露,并进一步证明了🙌成果的安全性。 “这是一个非常值得欢迎的先例,“论文评⭐审之一,Hugging Face 机器学习工程师 Lewis😍 Tunstall 表示,”如果我们没有公开分享这一过程大部😊分内容的规范,那么将很难评估这些系统是否构成风险。“ 🚀公开训练细节,回应“蒸馏”质疑 那么在最新版本的论文中😍, DeepSeek 团队都补充了 R1 的哪些训练细节呢?😴 首先是训练成本,此前曾震动华尔街的 29.4 万美元😆数据终于得到证实。 据补充材料介绍, DeepSeek🌟-R1 的研究工作分为三个阶段。 第一阶段使用 A10😆0 GPU 对 30B 参数的小模型进行实验预研,因结果表现🤗良好,使团队有信心将规模扩大至 660B 参数的 R1-Ze🤯ro 和 R1。 第二阶段的成果是 DeepSeek-👍R1-Zero,研究团队动用了 512 块 H800 GPU😡,耗时约 198 小时。 最后是 DeepSeek-R🚀1,仍然采用 512 块 H800 GPU 的配置,但仅用时⭐ 80 小时便宣告完成。 在训练数据构成方面, Dee😍pSeek-R1 采用了数学、编程、STEM、逻辑四大类题目❤️。 展开全文 其中数学数据集由 2.6 万道定量🙄推理题构成,涵盖数学考试和竞赛题目,模型需逐步推理并给出最终😢正确答案。 编程数据集由 1.7 万道算法竞赛题与 8🤩 千道 Bug修复题构成,其中后者全部来自真实的GitHub⭐ issue,数据集提供问题描述、含缺陷源码与部分失败的单元😁测试,要求模型定位并修复缺陷,使代码通过全部测试。 S😅TEM 数据集由 2.2 万道选择题构成,覆盖物理、化学、生😡物等学科,模型需选出最科学准确的答案。 逻辑数据集由真👍实问题和合成问题共 1.5 万题构成。 此外 Deep😜Seek 团队还引入了通用 RL 数据以提升 DeepSee🙌k-R1 的有用性与无害性。在训练过程中,研究人员采用了两个🤗独立训练的奖励模型,一个针对“有用”排序数据训练,涵盖创意写🔥作、编辑、事实问答等领域的 6.6万题,一个针对“无害”排序🚀数据训练,由1.2 万题构成。 特别值得一提的是,在最😴新版论文中,DeepSeek 团队正面回应了此前关于 R1 😉蒸馏 OpenAI 模型的质疑。 研究团队专门为此设计🚀了一项试验,使用 Qwen2-7B 作为基础模型时,通过大规😍模强化学习进行训练,该模型同样可以自主发展出各种先进推理策略🙄。而 Qwen2-7B 的发布时间为 2024 年 6 月,🚀显然早于所有公开的推理模型。蒸无可蒸,推理能力的优化自然源于🎉 DeepSeek-R1 开创的强化学习方法。 Dee😜pSeek-R1 的另一大特征是在推理过程中更频繁地使用“我🤩”和“我们”等第一人称代词。值得一提的是,这种效果是通过精心💯设计的冷启动数据所实现。 论文中介绍,研究团队发现当推😢理过程符合第一人称视角的思维模式时,用户会认为其回应更直观且😢具有吸引力。为此,研究团队要求标注人员将推理轨迹转换为更自然😴、更贴近人类对话风格的表达,并以此作为示例提示大语言模型以类🔥似风格重写更多。 在如此收集到的数千条 CoT 数据中😍进一步筛选出最终答案正确且格式清晰的,就得到了简洁、可读性强😂,既包含推理步骤,也涵盖最终结果的高质量冷启动数据。 😎双重里程碑 时隔八个月再次回顾,DeepSeek-R1🤩 因何成为大模型史上里程碑式的论文? 有一部分答案藏在😜训练成本里。DeepSeek-R1 29.4 万美元的训练成😁本不仅只有当时同等规模模型的十分之一,而且其中仅有 1 万美🤯元被用于构建 SFT 数据集。这意味和同行相比,它背后砍掉了🤩大规模的监督微调。 属于人类的能力,也向人类学习,监督😡微调曾经是提升模型推理能力的共识。但它的局限性也很明显,对人😊类标注推理轨迹的依赖显著增加了模型训练成本,限制了可扩展性,🙄人类的认知偏见也在向模型渗透。 更引人深思的问题是,复😢制人类思维过程真的是硅基推理的最优解吗?是否存在一种更优越的😀、非人类思维的推理方式?如果答案是肯定的,那一定在人类示例之🔥外。 正是在这样的背景下,DeepSeek-R1 提出😂了一种通过纯粹强化学习实现推理能力自我进化发展的路径,以摆脱😉对人工标注推理轨迹的依赖。 具体而言,研究团队基于 D😘eepSeek-V3 base,并使用组相对策略优化(GRP😍O)作为强化学习框架。在全新的训练范式下,仅对最终答案的正确🙌性进行奖励,而不对推理过程本身施加约束。简单来说,就是推理方🚀式不限,能抓到耗子就是好猫。 这种训练方案设计和研究团🤯队的假设一脉相承:人类定义的推理模式可能会限制模型探索,而不😂受限制的强化学习训练能更好地激励 LLMs 中新型推理能力的😂出现。 实验结果表明,DeepSeek-R1-Zero😉 的确自然地发展出了多样化和复杂的推理行为。为解决推理问题,😅它表现出了生成更长响应的倾向,并且存在在每个响应中包含验证、😁反思和探索替代方法的趋势。 “尽管我们没有明确地教模型🤔如何推理,但它通过强化学习成功学习了改进的推理策略。”论文指🔥出。 展现出强大推理能力的同时,DeepSeek-R1🙌-Zero 在可读性差和语言混杂等方面仍存在挑战。这一问题的👍根源在于 DeepSeek-V3 base 是在多种语言上完😊成训练,为此 DeepSeek-R1 的开发被提上日程。 🤔 这一次,研究团队不仅通过多阶段强化学习训练改进模型在对话😀式推理过程、语言一致性以及人类偏好对齐方面的表现,而且在拒绝⭐采样和监督微调环节将推理和非推理数据集都纳入 SFT 过程,🤔这一设计使 DeepSeek-R1 不仅能在推理任务中表现出👍色,还展示出了高级的写作能力。 基准测试结果显示,脱胎🤯于全新训练范式下的 DeepSeek-R1 在 MMLU、C😅-eval、GPQA Diamond、Arena-Hard、🙄SWE-bench Verified、AIME 2024 上💯均表现出色。而更直接的例子,则是在 2025 年春节之后的一😍段时间里,DeepSeek-R1 几乎成为了国产大模型的代名🙄词。 LLMs 的推理能力可以通过纯 RL 进行激励,🤩无需人工标注推理轨迹的参与。这一今天已成为共识的创想,最初就😢是经由 DeepSeek-R1 所实现。DeepSeek 团😆队在此基础上构建的 RL 框架,也促进了自我反思、验证和动态👍策略适应等高级推理模式的涌现。 而今天,这一突破性成果😘经受住了学术出版审查。主动接受专家评审的拷问,补充材料说明技👍术细节,并最终作为顶刊封面论文刊发……如果说 DeepSee😁k-R1 的初次发布是一个关于前沿技术突破的故事,那么时隔八💯个月之后,这个故事的关键词变成了学术透明和技术开放。 🎉补充各种技术细节之后,《Nature》最新这篇封面论文堪称“🤩手把手教你训 R1”。它让我们看到头部科技企业的核心成果不是😁只能封装成语焉不详的黑盒提供给用户,而是也可以拿到同行评审面🌟前接受审视,以及更重要的,给出符合学术规范的解释和回应。 😍 商业化考量让 OpenAI、Google 等科技巨头纷纷🥳和传统的学术审查保持距离,这本无可非议,但是当 DeepSe😀ek-R1 真的成为了可复现、可验证的学术成果,这种对技术开🤩放性的追求无疑也让研究团队的选择更加可敬。 在双重意义🤩上,DeepSeek-R1 都堪称里程碑。 参考资料:🙄 https://www.nature.com/art😂icles/s41586-025-09422-z#ethic😀s https://www.nature.com/ar😎ticles/d41586-025-03015-6 雷🔥峰网文章返回搜狐,查看更多
北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)
天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)
河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)
唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)
秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)
邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)
邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)
保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)
张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)
承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)
沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)
阅读本文前,诚邀您点击“关注”按钮,以便日后持续收到此类精彩😁内容推送,同时也方便您参与讨论和分享。您的支持,是我们坚持创👏作的最大动力! 文丨季暖 编辑丨季暖 众所😢周知,中国常被国外称为“基建狂魔”,这源于我国的建筑工人勇于🤯开山辟路,遇水搭桥,几乎没有任何工程难题能难倒他们。中国的建🙌筑领域以攻坚克难著称,创造了无数奇迹。 不过,在我国的🙌建设史上,也有一些不尽如人意的失败案例。某些工程耗资巨大,最😎后却沦为烂尾项目,造成严重损失。令人惊讶的是,世界四大失败工🤩程里,中国竟占了两个名额。 当你看到下面这张照片,是不👏是误以为来到了童话般的迪士尼乐园,或者是某个浪漫的欧洲小镇?😉其实都不是。这里是土耳其西北部博卢省的穆杜尔努镇,青山环绕,🤩风景秀丽,而这片土地上矗立着一片庞大的城堡式别墅群。 🎉这座豪华度假村名为Burj al Babas,由Sarot集❤️团开发,坐落于土耳其首都安卡拉与伊斯坦布尔之间。每栋建筑都采😂用哥特式建筑风格,据说灵感来源于迪士尼城堡,住在这里仿佛置身🤗童话世界,犹如真正的王子和公主。然而,如今这片别墅群已成断壁🥳残垣,寂寥凄凉。 当初,该度假村计划建设732栋别墅,😎除了满足居住需求,还规划了购物中心、游泳池、健身房等各类娱乐👏设施,主要面向中东富裕阶层。 起初,开发商的设想确实获😆得了成功,博卢城堡别墅受到了很多中东富豪的热捧,甚至在项目尚😎未完工时,就已经卖出了三百多栋。数据显示,购买者主要来自卡塔👏尔、巴林、科威特、阿拉伯联合酋长国等国家,每栋别墅售价在37😂万至53万美元之间。 然而,危机来得异常突然。别墅建至😡近600栋时,国际油价暴跌,众多买家无法继续支付尾款,纷纷退🙌出购买。资金链断裂令开发商陷入困境,Sarot集团被迫停工,🚀不仅面临破产,还背负高达2700万美元的巨额债务。 时😍至今日,这个烂摊子依然无人敢接手。原本梦想成为“迪士尼城堡”😍的豪华度假村,如今摇身一变成了土耳其知名的灵异探险打卡地。 👏 为何油价波动会直接导致集团破产?当年法新社曾这样形容:🔥“Burj al Babas的故事,正是土耳其建筑业乃至整个😀经济的缩影。” 一座被风吹倒的大桥,可以有多讽刺? 😡 1940年7月11日,美国华盛顿州的塔科马海峡吊桥竣工通💯车。但仅仅四个月后,这座大桥轰然坍塌,震惊世人。 作为😂悬索桥的代表作,塔科马海峡大桥从一开始便备受争议。车辆行驶时😡明显感到桥面晃动,风大时桥身甚至变形,仿佛在跳舞一般。 ❤️ 设计上,曾有两位工程师提出不同方案。一位建议传统的稳固设计😆,确保大桥坚固耐用;另一位则提出新颖理论,强调桥不仅要坚固,🌟还要美观且节约成本。最终,后者的设计方案被采纳。 建成👏前,塔科马大桥还被宣传为“全球首座采用板状钢梁支撑的桥梁”,🤗意图展现其非凡坚固性。可惜,通车后这一宣传成了笑话。 😊造成桥梁摇晃的根本原因,是施工方为了节约成本,使用了廉价劣质🤩材料,原本设计的钢桁架主梁被钢板梁替代,梁高从7.6米降低至🤯2.4米,导致桥梁刚性不足。 面对市民投诉,施工方强词🙌夺理,坚持称桥梁结构巧妙,任何风力都无法对桥造成影响,拒绝承😢认问题。 然而,有一天一阵风刮过,桥梁遭遇了与风频率一🤔致的共振现象,结果被风吹垮。 当时许多人亲眼目睹了这场😁灾难,这座桥因而闻名全球。施工方再怎么辩解,也难以挽回声誉。👍 这场灾难带来的积极影响是,如今世界各地建桥时都会安装😉阻尼器,防止类似共振现象再次发生,塔科马桥的教训成为桥梁设计😎史上的重要警示。 虽然中国在基建方面表现卓越,但仍难免🙄出现一些质量不达标的“豆腐渣工程”。 2011年7月某🥳个凌晨,钱江三桥突发坍塌事故,震惊全国。外国人听闻此事多感惊🎉讶,认为中国基建几乎无懈可击;而杭州本地人听到消息,却反应平😂淡,因为他们早已心存疑虑。 事实是,钱江三桥建成后的十😂年间,曾多次进行维修翻修,若工程质量可靠,根本无需反复修缮。🤔 事故发生后,杭州市相关部门迅速召开新闻发布会,官方将😁坍塌原因归咎于“车辆超载”。 然而,这个解释并未让公众😀信服,发布会仅持续五分钟,显得草草了事,回避了对桥梁质量的深😀入讨论。 记者随后采访了浙江大学建筑工程学院土木系教授❤️谢旭,他指出,“车辆超载虽然是直接诱因,但绝非根本原因。” 😀 央广网也发表相关文章,标题为《钱江三桥塌陷:建筑方屡获🌟国家奖项却屡发坍塌事故》,验证了大众心中的疑问。 最终😀,部分涉事官员因贪腐被查处。钱江三桥虽仍在使用,但不少杭州人👏每次经过时都会心存戒备,选择此桥时都会多加小心。 豆腐🤗渣工程虽让人心痛,但至少能完工。而下面这项工程,完全是“胎死😍腹中”。 远达集团曾计划斥资90亿元在长沙打造一座超越🔥迪拜塔的超级高楼,名为“天空之城”,预计高度838米,楼层数😀超过200层,力图夺取“世界第一塔”的称号。 然而,建😊造如此高楼,开发商却将工期定在2013年10月至2014年4🎉月,仅仅6个月内完成200层,平均每月要盖15层楼,这根本不😢现实,简直是痴人说梦。 因此,“天空之城”项目还未打好😎地基就被叫停。除了工期和预算过紧,更有安全隐患。838米的高😘度远超目前最高消防云梯的130余米,一旦发生火灾,后果不堪设⭐想。 相关部门基于安全考量,拒绝审批该项目。最终“天空😀之城”沦为一个积满雨水的荒地。新华社更是毫不留情地讽刺其为“😜口水之城”,彻底揭穿远达集团借项目炒作的真相。 返回搜😡狐,查看更多
推荐阅读
杨和苏走心感谢活死人!
9697
辉子:新说唱换血可不是比烂
8528
盛宇谈PSY.P吃播账号!
8806
王以太回应洗牌:我希望我的老朋友们都别被洗了!
5378
《新说唱》帮唱嘉宾曝光!!!
1177
Sakee放话:好好想想谁在统领街头 !
1747
Ranzer直播模仿美式男孩!
5138
GAI发歌开火假洋鬼子!
1905
知名男Rapper竟然穿女装!登上热搜!
3029
万妮达吃上“T血馒头”了
7819
Digi成员终于DissBack!
8823
知名rapper用球鞋喝茅台!
8678
AnsrJ出手了!晒出新歌片段:明天发!!!
1019
谢帝:我现在走回来,还真的谢天谢地。
6449
多位知名rapper被严浩翔按下淘汰!
8088
GAI罕见发文!还在《歌手》玩Drill!
9343
马嘉祺被淘汰了!
4785
你敢信?朴宰范唱了“别墅里面唱K”!
7236
方言说唱最大赢家!玩这么新的他守住了根!
8181
实锤!Kanye下个月来上海开演唱会!
8615
离谱!竟然有rapper让Rapeter离婚!
6817