2025年9月16日，第22届中国网络安全年会期间，国内首次😴针对AI大模型的实网众测结果正式发布。这场由中央网信办指导、👏国家计算机网络应急技术处理协调中心主办的行动，动员了559名👍“白帽子”黑客，对15款主流大模型及应用产品展开实战化安全检😡验，共发现281个安全漏洞，其中60%为大模型特有风险。此次🙄测试不仅暴露了AI安全领域的薄弱环节，更通过“众测共治”模式😘为产业安全发展提供了新思路。 一、测试全景：覆盖全链条💯，代表性强 本次测试对象涵盖腾讯混元、百度文心一言、阿👍里通义、智谱清言等10家厂商的15款产品，既包括通用大模型，🌟也涉及医疗、金融等垂域模型，以及智能体、开发平台等衍生应用。🥳从单模态到多模态，从基础架构到上层服务，测试范围几乎覆盖AI👏大模型全产业链。这种“全链条”设计，确保了结果能真实反映行业🤩整体安全水平。 测试方法上，主办方模拟真实攻击环境，要😢求白帽子在厂商现有防护体系下挖掘漏洞。这种“带防护测试”更接😊近实际攻击场景，对模型的安全韧性提出了更高要求。数据显示，5😀59名参与者中既有来自网安企业的专业人员，也有高校师生和社会😎安全爱好者，形成了“产学研用”协同的测试生态。 二、核❤️心发现：传统与新兴风险交织 1. 头部模型防护领先，但🤩风险分布不均 腾讯、百度、阿里等企业的产品漏洞数量较少😊，显示出头部企业在安全投入上的优势。例如，混元大模型通过动态😉加密和访问控制机制，有效降低了信息泄露风险；文心一言则采用对🌟抗训练技术，显著提升了对抗提示注入攻击的能力。然而，部分中小🤔厂商的产品仍存在基础安全配置缺失问题，如未对API接口进行权🌟限校验，导致高危漏洞频发。 2. 新兴漏洞占比超六成，⭐治理难度升级 测试发现的177个大模型特有漏洞中，不当💯输出类漏洞危害最为严重。攻击者可通过精心设计的输入，诱导模型😡生成违法、暴力或误导性内容，对用户权益和社会稳定构成威胁。提⭐示注入攻击则成为最普遍的漏洞类型，占比达42%。此类漏洞利用🤗模型对输入的过度信任，通过注入恶意指令实现越权访问或数据窃取🌟。此外，无限制消耗攻击（如通过恶意请求耗尽模型算力）的防护措😘施普遍薄弱，反映出行业对资源安全重视不足。 3. 传统👏漏洞“旧疾”未愈 尽管AI安全备受关注，但SQL注入、😢跨站脚本（XSS）等传统漏洞仍广泛存在。某金融垂域模型因未对🤩用户输入进行过滤，导致攻击者可直接读取数据库敏感信息；另一款😢开发平台则因未启用HTTPS加密，造成用户数据在传输过程中被🤩截获。这些漏洞表明，部分厂商在追求技术创新的同时，忽视了基础😜安全防护。 三、共治路径：标准引领，生态协同 面😆对AI安全挑战，测试主办方提出四大应对方向： 强化技术😁防护：推动企业采用零信任架构、隐私计算等技术，构建“防御-检🎉测-响应”闭环体系。例如，通过模型水印技术追踪不当输出来源，🙌或利用联邦学习实现数据“可用不可见”。 完善标准体系：加快制👍定AI漏洞分类分级标准，针对不同场景（如医疗、自动驾驶）划分🚀风险等级。参考ISO/IEC 27001框架，建立覆盖数据、😉算法、算力的全维度安全评估指标。 扩大众测参与：借鉴本次经验😡，建立常态化众测平台，吸引更多社会力量参与安全治理。可探索“💯漏洞悬赏”机制，对发现高危漏洞的白帽子给予物质奖励和荣誉认证🤗。 注重内生安全：将安全理念融入AI系统全生命周期，从数据采🔥集阶段就实施脱敏处理，在模型训练中引入对抗样本增强鲁棒性，并🔥在部署环节部署实时监控系统。 此次众测犹如一面镜子，既🙌照见了AI安全领域的短板，也映射出产业共治的潜力。随着“人工🙄智能+”加速渗透千行百业，安全已不再是单一企业的责任，而是需🙌要政府、企业、技术社区协同构建的“免疫系统”。唯有以高质量安👍全护航技术创新，才能让AI真正成为推动社会进步的普惠力量。返🤔回搜狐，查看更多

北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)

天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)

河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)

唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)

秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)

邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)

邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)

保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)

张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)

承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)

沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)

中国大模型，首登Nature封面。 9月17日，在最新🙄一期的国际权威期刊Nature（自然）中，DeepSeek-🔥R1推理模型研究论文登上了封面。该论文由DeepSeek团队🤩共同完成，梁文锋担任通讯作者，首次公开了仅靠强化学习就能激发🎉大模型推理能力的重要研究成果。这是中国大模型研究首次登上Na😅ture封面，也是全球首个经过完整同行评审并发表于权威期刊的😀主流大语言模型研究，标志着中国AI技术在国际科学界获得最高认🤯可。 Nature在其社论中评价道：“几乎所有主流的大😊模型都还没有经过独立同行评审，这一空白终于被DeepSeek❤️打破。” 中国AI大模型的“Nature时刻” 😘自大模型浪潮席卷全球以来，技术发布、性能榜单层出不穷，但始终👍缺乏一个权威的“科学认证”机制。OpenAI、谷歌等巨头虽屡🙄有突破，但其核心技术多以技术报告形式发布，未经独立同行评审。🎉 DeepSeek以其公开性和透明性打破了这一局面。D😆eepSeek-R1模型的研究论文最早于今年年初发布在预印本🙄平台arXiv上。自今年2月14日向Nature投递论文至今🙄，历经半年，8位外部专家参与了同行评审，DeepSeek-R👍1推理模型研究论文终获发表，完成了从预印本到Nature封面🤗的“学术跃迁”。审稿人不仅关注模型性能，更对数据来源、训练方🤔法、安全性等提出严格质询，这一过程是AI模型迈向更高的透明度😅和可重复性的可喜一步。 因此，Nature也对Deep🤩Seek的开放模式给予高度评价，在其社论中评价道：“几乎所有😜主流的大模型都还没有经过独立同行评审，这一空白终于被Deep🌟Seek打破。”全球知名开源社区Hugging Face机器🙌学习工程师Lewis Tunstall也是DeepSeek论😢文的审稿人之一，他强调：“这是一个备受欢迎的先例。如果缺乏这😡种公开分享大部分研发过程的行业规范，我们将很难评估这些系统的😅潜在风险。” 据了解，DeepSeek本次在Natur🤔e上发表的论文较今年年初的初版论文有较大的改动，全文64页，🤯不仅首次披露了R1的训练成本，而且透露了更多模型训练的技术细😂节，包括对发布初期外界有关“蒸馏”方法的质疑作出了正面回应，😴提供了训练过程中减轻数据污染的详细流程，并对R1的安全性进行😂了全面评估。 其中，在训练成本方面，R1-Zero和R⭐1都使用了512张H800GPU，分别训练了198个小时和8😀0个小时，以H800每GPU小时2美元的租赁价格换算，R1的👏总训练成本为29.4万美元（约合人民币209万元）。不到30🤯万美元的训练成本，与其他推理模型动辄上千万美元的花费相比，可👍谓实现了极大的降本。 关于R1发布最初时所受到的“蒸馏🚀”质疑，DeepSeek介绍，其使用的数据全部来自互联网，虽😀然可能包含GPT-4生成的结果，但并非有意而为之，更没有专门😜的蒸馏环节。所谓“蒸馏”，简单理解就是用预先训练好的复杂模型😘输出的结果，作为监督信号再去训练另外一个模型。R1发布时，O😀penAI称它发现DeepSeek使用了OpenAI专有模型😁来训练自己的开源模型的证据，但拒绝进一步透露其证据的细节。 😍 R2何时问世引发关注 自今年年初发布R1以来，D🙄eepSeek在全球树立了开源模型的典范，但过去数月，外界对😎于R2何时发布始终保持高度关注，相关传言一直不断。不过，R2💯的发布时间一再推迟，外界分析R2研发进程缓慢可能与算力受限有👍关。 展开全文 值得注意的是，今年8月21日，D🤩eepSeek正式发布DeepSeek-V3.1，称其为“迈🚀向Agent（智能体）时代的第一步”。据DeepSeek介绍🚀，V3.1主要包含三大变化：一是采用混合推理架构，一个模型同🤗时支持思考模式与非思考模式；二是具有更高的思考效率，能在更短🙄时间内给出答案；三是具有更强的智能体能力，通过后训练优化，新😜模型在工具使用与智能体任务中的表现有较大提升。 由于R🥳1的基座模型为V3，V3.1的升级也引发了外界对于R2“在路🎉上”的猜测。V3.1的升级更深刻的意义在于，DeepSeek🤯强调DeepSeek-V3.1使用了UE8M0 FP8 Sc🚀ale的参数精度，而UE8M0 FP8是针对即将发布的下一代🙄国产芯片设计。这也表明未来基于DeepSeek模型的训练与推🌟理有望更多应用国产AI芯片，助力国产算力生态加速建设。这一表🎉态一度带动国产芯片算力股股价飙升。 中国银河证券研报指😘出，DeepSeek从V3版本就开始采用FP8参数精度验证了😎其训练的有效性，通过降低算力精度，使国产ASIC芯片能在成熟😅制程（12-28nm）上接近先进制程英伟达GPU的算力精度，😁DeepSeek-V3.1使用UE8M0 FP8 Scale😅参数精度，让软件去主动拥抱硬件更喜欢的数据格式，“软硬协同”😉的生态技术壁垒逐渐成为AI浪潮下新范式，未来国产大模型将更多😜拥抱FP8算力精度并有望成为一种新技术趋势，通过软硬件的协同😍换取数量级性能的提升，国产算力芯片将迎来变革。 责编：👏万健祎 校对：王朝全 版权声明 " Typ😡e="normal"@@--> 证券时报各平台所有原创⭐内容，未经书面授权，任何单位及个人不得转载。我社保留追究相关🙌行为主体法律责任的权利。 转载与合作可联系证券时报小助👍理，微信ID：SecuritiesTimes " Ty👏pe="normal"@@-->返回搜狐，查看更多