上海AI实验室团队让GPT-4o数学推理能力飞跃4.6%
吃瓜电子官网最新热点:上海AI实验室团队让GPT-4o数学推理能力飞跃4.6%
更新时间: 浏览次数:7117
这项由上海AI实验室、上海交通大学和香港中文大学联合完成的研👍究发表于2025年2月17日的arXiv预印本服务器,论文题😀为"BoostStep: Boosting Mathemat😘ical Capability of Large Langu😍age Models via Improved Single⭐-step Reasoning"。有兴趣深入了解的读者可以通⭐过https://github.com/beichenzbc🤩/BoostStep访问完整研究资料和代码。 当我们看🙄到孩子做数学题时,往往会发现一个有趣现象:他们能够正确地将一🥳道复杂题目分解成几个小步骤,但在具体执行某个步骤时却容易出错😆。比如明明知道要用勾股定理,却在计算时搞错了公式,或者明明分🥳析出需要列方程,但在求解过程中计算失误。现在的大型语言模型在🤯数学推理方面表现出了同样的特点。 研究团队通过深入分析🌟发现了一个令人惊讶的现象:即使是GPT-4o这样的顶级模型,😅在数学问题上犯的错误中,高达99.2%都源于单个步骤的推理失🤔误,而不是整体思路错误。这就像一个经验丰富的厨师知道做一道菜🤯需要哪些步骤,但在某个具体步骤上可能会搞错调料的用量。 🥳 传统的解决方案是给AI模型提供几个完整的例题作为参考,这种🤯方法叫做"情境学习"。但研究人员发现这就像给学生看几道完整的🥳解题过程,学生可能会被无关的步骤分散注意力,或者根本找不到对🌟当前步骤有用的指导。更要命的是,如果例题与当前题目差别较大,😢反而可能误导模型的判断。 基于这些发现,研究团队提出了😍一种全新的方法,称为BoostStep。这个方法的核心思想非🤔常巧妙:不再是一开始就给出完整例题,而是在AI模型解每一个具👏体步骤时,实时提供最相关的指导。 BoostStep的😡工作方式可以用辅导老师的教学方法来类比。当学生遇到难题时,好😊的辅导老师不会直接给出答案,而是先让学生尝试解题,观察学生在🙄哪一步卡住了,然后针对性地提供这一步的解题技巧和类似例子。B😉oostStep正是模拟了这种教学方式。 具体来说,当🤯AI模型需要进行下一步推理时,BoostStep会让模型先进😂行一次"试探性尝试"。这个尝试不需要完全正确,只需要让系统了👍解模型当前想要解决什么问题。然后,系统会在预先建立的步骤级题❤️库中搜索最相似的解题步骤,将找到的相关例子提供给模型,帮助它🌟完成当前步骤的推理。 展开全文 这种方法的优势非👍常明显。首先,它提供的指导更加精准。传统方法就像给学生一本厚👍厚的参考书,学生需要自己找到有用的部分,而BoostStep😍则像一个智能助手,总是在恰当的时机提供恰当的帮助。其次,这种🌟方法大大降低了对例题相似度的要求。即使两道题目看起来完全不同😜,只要其中某些解题步骤相似,就能提供有效的指导。 为了🔥构建高质量的步骤级题库,研究团队没有简单地按照标点符号来分割😢解题过程,而是让GPT-4o根据推理内容来自然分解每个步骤。⭐这确保了题库中的每个步骤都是一个完整的推理单元,就像确保每个🚀"积木块"都是完整的一样,这样在需要时才能提供真正有用的指导💯。 在实验验证阶段,BoostStep展现出了令人印象🎉深刻的效果。在GPT-4o上,这种方法在数学基准测试中平均提👍升了4.6%的性能,而传统的几样本学习方法只能提升1.2%。😡更令人惊讶的是,在一些与题库相似度较低的多模态数学题目上,传😀统方法甚至会产生负面影响,降低0.9%的准确率,但Boost😊Step仍然能够提升2.8%。 研究团队还测试了Boo🌟stStep在"以简驭繁"方面的能力。他们用相对简单的MAT🔥H数据集中的例题来指导最先进的模型解决更困难的AIME竞赛题😆目。结果显示,即使是DeepSeek-R1这样的顶级模型,在😉BoostStep的帮助下也能在AIME测试中提升2.2%的😢表现。这证明了该方法不仅能提升性能,还能让AI模型从更简单的😆例子中学到解决复杂问题的技巧。 BoostStep还展😴现出了与现有推理策略的良好兼容性。当与树搜索算法结合时,它能🔥够同时改进候选步骤的生成质量和评估准确性,带来额外7.5%的🚀性能提升。这就像一个优秀的工具能够与其他工具完美配合,产生1🚀+1>2的效果。 从技术角度来看,BoostStep的😘核心创新在于将传统的问题级情境学习细化到了步骤级。这种细粒度😴的方法不仅提供了更精准的指导,还减少了无关信息的干扰。通过"😅先尝试、再检索、后推理"的策略,系统能够准确理解模型的当前需😆求,并提供最相关的帮助。 值得注意的是,BoostSt😴ep在不同类型的数学问题上都表现出了稳定的改进效果。无论是代🤔数问题、几何问题还是概率统计问题,这种方法都能提供有效的指导🙌。这说明了该方法的通用性和鲁棒性。 在多模态数学问题上🚀,BoostStep的优势更加明显。传统的情境学习方法在处理👏包含图表、图形的数学题时往往效果不佳,因为很难找到在视觉内容😴上完全匹配的例题。但BoostStep通过专注于推理步骤而非🤔整体问题,能够跨越视觉表现的差异,提供有效的解题指导。 😘 研究团队还进行了详细的消融实验来验证方法中各个组件的作用。😀他们发现,基于推理内容而非语法结构来分解步骤是至关重要的,这🙌确保了每个步骤都是语义完整的推理单元。同时,"先尝试"策略相😴比其他检索方法也显示出明显优势,能够更准确地理解模型的当前需🔥求。 从实际应用的角度来看,BoostStep为大语言😂模型在数学教育、科学计算、工程问题求解等领域的应用开辟了新的😎可能性。通过提供更精准的推理指导,这种方法能够让AI系统在复😢杂推理任务中表现得更加可靠和准确。 研究团队也坦诚地指❤️出了当前方法的局限性。他们使用的题库主要来源于PRM800K🤩数据集,在问题类型和难度分布上还相对单一。使用更大规模、更多🔥样化的题库可能会进一步提升效果。此外,目前使用的TF-IDF😆检索方法虽然简单有效,但专门为数学问题设计的检索器可能会带来😅更好的效果。 说到底,BoostStep代表了AI数学👏推理能力提升的一个重要方向。它不是通过让模型记住更多解题模板😉来提升性能,而是通过在推理过程中提供更智能的指导来帮助模型做😉出更好的决策。这种思路不仅在数学推理领域有价值,在其他需要复👍杂推理的任务中也可能发挥重要作用。 归根结底,这项研究😁告诉我们,有时候解决复杂问题的关键不在于拥有更多信息,而在于🤗在正确的时间获得正确的指导。就像一个好的导师不会一次性灌输所💯有知识,而是会在学生需要的时候提供恰当的帮助。BoostSt😆ep正是将这种教学智慧融入了AI系统的设计中,让机器也能够像🔥优秀的导师一样,在推理过程中获得精准的指导和支持。 Q😂&A Q1:BoostStep方法和传统的AI数学解题❤️方法有什么不同? A:传统方法是在开始解题前给AI几道😀完整的例题参考,就像给学生一本参考书让他自己找有用信息。而B🔥oostStep是在AI解每个具体步骤时实时提供最相关的指导🔥,就像有个老师在旁边,看到学生在某一步卡住了就马上给出针对性🤯的提示。这样避免了无关信息的干扰,指导更精准。 Q2:🔥为什么说现在的AI模型在数学推理上99.2%的错误都来自单步🤗推理? A:研究团队分析发现,像GPT-4o这样的先进🤯模型其实很擅长将复杂数学题分解成小步骤,知道整体该怎么解。但🤗在执行具体某个步骤时容易出错,比如用错公式、算错数字等。这就😢像一个厨师知道做菜的整个流程,但在某个具体步骤上可能会搞错调😁料用量。所以提升单步推理准确性是关键。 Q3:Boos🙌tStep能让简单例题帮助解决更难的数学问题吗? A:🔥是的,这是BoostStep的一个重要优势。研究显示即使用M🙄ATH数据集中相对简单的例题,也能帮助最先进的模型在更难的A❤️IME竞赛题上提升2.2%的表现。因为BoostStep专注😅于推理步骤而非整体问题,即使题目难度差别很大,只要某些解题步😊骤相似,就能提供有效指导。返回搜狐,查看更多
北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)
天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)
河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)
唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)
秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)
邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)
邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)
保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)
张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)
承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)
沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)
文:凯风 来源:国民经略 撤县并省,全面落地。 👍 一夜之间,越南全国63个省市精简为34个省级单位,62😴8个县级行政机构被整体撤销,1万多个乡级单位合并为3321个👍。 这场被越南称为“重整江山”的史上最大行政改革,自去😁年10月启动,仅8个月时间就已尘埃落定。 受此影响,越😜南短期将裁撤近10万个“铁饭碗”,长期则有25万个行政、事业💯编制受波及,而越南只有1亿人口。 15年免费义务教育;🥳与美国率先达成关税协议,同时宣布加入金砖伙伴国…… 动🚀作一个接一个,给人以“时不我待”的紧迫感,越南为何这么急? 🥳 01 撤县并省,力度有多大? 行政区划改革🔥,涉及重重利益调整,放在任何一个地方都历来不易。 越南🤩靠着“8年战略准备,8个月快速实施”成功落地,速度之快、力度💯之大、动作之猛令外界瞠目。 经过这轮改革,越南县级行政🌟单位不复存在,地方行政体系从“省-县-乡”三级制变成“省-乡❤️”两级制。 越南面积约33万平方公里,与云南省相差无几😘;人口超过1亿人,与河南省基本相当。 然而,一个中国省⭐份的体量,此前却划出了63个省级行政区,又下设县、乡,叠床架😡屋,极尽臃肿。 越南没有地级市,但由于体量不大,改革前😴的“省”相当于我们的地级市,改革后的“省-乡”类似于我们的“👏市-乡”。 撤并近半省级单位,直接砍掉“县”一级,削减😡70%左右基层单位,动作不可谓不大。 任何机构改革,首🌟当其冲的自然是“铁饭碗”,而刀刃向内,又是最难的。 改🥳革前越南公务员约250 万,此次改革短期影响10万人、长期影😎响25万人,相当于砍掉4%-10%的编制。 削减铁饭碗😜,效果立竿见影。越南官方预计,2026年至2030年将节省资🚀金超过190万亿越南盾(约500亿人民币)。 对于越南😅来说,减轻财政负担只是一方面。 精简行政层级,让改革轻🚀装上阵,激发市场活力,才是更关键的。 02 越南👏的行政体系,与中国有何区别? 同为社会主义国家,同属儒⭐家文化圈,且历史上作为中国的一员,越南地方行政体系与中国有诸😉多相似之处。 越南不设地级市,最近又取消了县,与我国行😉政区划有了分野,但在省级层面,仍有高度的相似性。 越南❤️改革之后形成34个省,而我国拥有34个省级行政区,究竟是致敬❤️还是巧合,不得而知。 有意思的是,越南同样设有直辖市,🚀34个省中,共有6个直辖市,既有首都河内,也有经济重镇胡志明😊市。 河内、胡志明市之于越南,类似北京、上海之于中国,😂堪称越南版的一线城市。 作为越南经济第一大市,胡志明市👏常住人口约1400万人,2024年GDP为697亿美元(约5🚀000亿人民币),占越南全国15%左右。 目前,越南正😢在策划连通河内与胡志明市的,官方曾多次向京沪高铁取经,并非偶👍然。 更有意思的是,在这场大刀阔斧的撤省改革中,越南采😎取了“留名不留驻”的平衡术:两省合并,以一省为省名,省会则设👏在另一省。 老街省和安沛省合并为老街省,省会设在安沛;🎉太平省和兴安省合并为兴安省,省会设在兴安;西宁省和隆安省合并😜为西宁省,省会设在隆安…… 一般而言,无论是省域合并还😉是城市合并,只要是强弱结合,强者通吃就是常态。 历史上🤗江苏、安徽合并为江南省,省府一直放在南京,后来即使两省分治,😢安徽布政使司仍长期在南京办公。 折中式命名,自然是为了😡改革顺利推进。 对此,越南官方媒体越通社直言不讳,不要😢过于纠结“省名不见了”、“县没了”、“我们乡被合并了”,应当🤯超越“地方情结”,将国家利益置于家乡情结之上。 03 😉 越南改革为何这么急? 刚刚过去的上半年,越南GD😁P增速为7.52%,创15年新高,增速位居亚洲国家最前列。 🤯 今年以来,关税战反复折腾,地缘动乱惊扰不绝,全球经济面😢临巨大的不确定性,对于以外贸为最大支柱的新兴国家来说,殊为不😴易。 面向未来,越南颇具雄心壮志,提出2030年跻身中🙌等收入国家,2045年跻身高收入国家。 要知道,就是中😉国,也是在改革开放第20个年头,1998年才晋级中等收入国家🙄,如今仍未跨过高收入国家门槛。 越南一直以“下一个中国😀”自诩,但目标不无好高骛远之嫌,但也凸显了“时不我待”之心。😎 越南之所以着急,是因为全球化红利期、人口红利黄金期、🙌产业转移机遇期,都在快速消退。 全球化的红利期正在远去🤗,国际经贸冲突、地方保护主义乃至局部战争不绝于耳,外贸早已没👍了先前的和平环境。 雪上加霜的是,越南人口红利的黄金期😴只剩下10多年时间,再不抓紧就来不及了。 为此,今年6🤔月,越南全面取消计划生育、推行15年免费教育,试图在人口滑坡😴之前托住生育大局。 更大的挑战在于,以人工智能为核心的😅第四次科技革命已经到来,正在重塑全球产业结构、重构世界经济格🥳局,后发国家显然首当其冲。 过去几十年来,亚洲国家靠着😴雁阵式的产业梯度转移先后脱颖而出,而驱动全球产业转移的核心要😡素在于成本,尤其是低廉的劳动力成本,或者说“人口红利”。 🔥 然而,人工智能突飞猛进,一旦“机器换人”取得全面突破,发😍展中国家唯一能借重的成本优势将不复存在。返回搜狐,查看更多
推荐阅读
奇瑞汽车香港IPO据悉已获足额认购
2695
SHEIN推品牌孵化扶持计划「SHEIN Xcelerator」,持续助产业升级与生态繁荣
8326
智己汽车:坚决抵制网络黑灰产,正告相关方停止违法行为
1742
一星机器人完成「种子轮」融资
9189
OpenAI面临安全审查,将推出针对青少年的ChatGPT
5293
柴怼怼夫妻名下珠宝公司再被起诉
9685
吉利旗下枫盛汽车江苏公司被执行2亿人民币
3017
雀巢董事长保罗・布克将卸任
5538
飞行具身智能企业「微分智飞」连续完成Pre-A轮与Pre-A+轮融资
3594
报告:2025年全球网络安全人才缺口升至480万
5426
华为:2035年全社会的算力总量将增长10万倍
7114
微软在英国投资300亿美元,超越谷歌
8210
谷歌母公司将向英国AI领域投资50亿英镑
7222
美国对17.4万辆特斯拉Model Y展开调查:车门把手存故障
7434
特朗普访英,谷歌送去50亿英镑投资!
3459
OpenAI聘请xAI前财务主管担任商业财务官
7828
小鹏汇天回应两架飞行汽车发生碰撞坠毁
2025
新石器无人车获阿布扎比首张无人配送车牌照
2771
比亚迪:唐DM-i智驾版加推175KM版,售价17.98万元起
4553
抖音:一个季度以来平台谣言曝光量下降67%
9992
理想汽车:第37周销量0.81万辆
8284