IT之家 9 月 17 日消息，随着 AI 应用场景的不断扩🥳展，新的漏洞和攻击手法将不断涌现，AI 大模型安全治理工作任❤️重道远，亟需各方共同努力。 昨日，国内首次针对 AI 🤔大模型的实网众测检验结果在第 22 届中国网络安全年会（暨国🤔家网络安全宣传周网络安全协同防御分论坛）重磅揭晓。 I😆T之家注：本次活动由中央网信办网络安全协调局指导，国家计算机⭐网络应急技术处理协调中心主办，网络安全众测平台、国家网络安全😜人才与创新基地提供技术和环境支持。 据官方介绍，此次活❤️动共动员 559 名白帽子，涵盖网安企业专业人才、科研院校师😊生以及社会白帽子。他们从外部攻击者的视角，对大模型进行了多维🤩度实战化测试，取得了丰富的测试成果。 测试产品中既有基🥳础大模型产品，也有垂域大模型产品，还有智能体、模型开发平台等😂相关应用产品，其中既包含单模态大模型，也涵盖多模态大模型，具😀有较广泛的代表性。 据介绍，本次活动对国内 15 款大🥳模型及应用产品进行了漏洞测试；累计发现各类安全漏洞 281 😘个，其中大模型特有漏洞 177 个，占比超过 60%。这一数😡据充分表明，当前 AI 大模型产品面临着大量传统安全领域之外😘的新兴安全风险。 活动中发现的典型漏洞风险包括：一是部😊分产品存在不当输出类漏洞且危害严重；二是信息泄露类漏洞多发，💯存在较大安全隐患；三是提示注入类漏洞普遍，是大模型最常见漏洞😜风险；四是部分大模型产品针对无限制消耗类攻击的防护措施有待加👍强；五是传统安全漏洞依然普遍存在，危害不容忽视。鉴于 AI 😀大模型产品普遍用户量大、使用率高，若上述漏洞被恶意攻击者利用😂，将对国内 AI 大模型产品生态造成较严重的影响。 在💯参与测试的主流大模型产品中，腾讯公司混元大模型、百度公司文心😀一言、阿里巴巴通义 App、智谱华章公司智谱清言等发现的漏洞😢风险较少，体现了较高的安全防护水平。 另外，本次活动涌😆现出梁宏宇、马宝新、刘铭等一批表现突出的优秀白帽子。本次活动🙌测试对象主要是实时在线运行的 AI 大模型及应用产品，在产品⭐厂商的防护下，各位白帽子能够挖掘出高危甚至严重等级的漏洞，说🙄明他们有着出众的能力并付出了艰辛的努力。 官方还提出了💯四点 AI 大模型安全治理工作要求：返回搜狐，查看更多 ❤️ 一是针对大模型面临的各类漏洞风险，需持续加强安全防护措施。🥳 二是加快制定 AI 漏洞分类分级标准，并按应用场景划分风👍险等级。 三是通过众测模式广泛汇聚社会白帽力量，构筑 AI😡 共治生态。 四是加强内生安全治理，将安全融入到 AI 系❤️统全生命周期，从源头筑牢安全基石。

北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)

天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)

河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)

唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)

秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)

邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)

邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)

保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)

张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)

承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)

沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)

猫咪与狗子的日常“交锋”充满了趣味。猫狗因踩尾巴引发了一场“😴冷战”，看来得持续一阵子。