香港科技大学(广州)信息枢纽院长、数据科学与分析学域讲座教授😊、联合实验室专家陈雷 “在大模型训练过程中，数据质量是🤔最重要的一环”……香港科技大学(广州)信息枢纽院长、数据科学💯与分析学域讲座教授、联合实验室专家陈雷接受南都访谈时表示，人🙄工智能发展到现在，最重要的是数据问题，期待粤港澳大湾区生成式😁人工智能安全发展联合实验室(简称“联合实验室”)把各高校研究😉力量整合起来，从政策、制度层面引导正确使用数据。 数据🎉质量 要通过联合实验室整合数据 南方都市报（以下🌟简称“南都”）：您是世界数据科学与分析领域的领军学者，能否结🌟合数据领域深入研究，谈谈对粤港澳大湾区生成式人工智能安全发展👍联合实验室发挥自身优势，更好服务人工智能安全发展的期望？ ⭐ 陈雷：粤港澳大湾区制造业很强，要把人工智能运用到传统行业🤩，数据非常重要。通过实验室联合大湾区各类高校，汇聚所有数据，😎做成大数据平台，供大家使用，做相应大模型测试。或者由联合实验💯室推出数据测试平台，让各类大模型通过平台测试性能，找出不足，🤩加以改进。 南都：如何确保数据质量，联合实验室能做些什😘么？ 陈雷：数据质量是全世界都想解决的问题，首要的问题😁是获取到的数据是不是有用？而且数据量要大，量不大就没有所谓数😉据质量。 数据质量包括无监督、有监督。无监督的数据质量👏就是通过无监督的机器学习，发现一些质量偏差较大的数据，或者叫😢异常数据分析。有监督的数据质量一般需要找专家或专业人士对数据🚀打标签，然后用机器学习的方法找出那些较差的数据。我觉得联合实🎉验室可以尝试新的方法，特别是从工业界获取合作项目，整合大湾区🤗人工智能人才以及研究团队，做一些能落地产品或者服务累积高质量😢数据。期待联合实验室发挥纽带作用，把各高校研究力量整合起来。😍单打独斗已是过去式，一个人强没用，一定通过联合实验室整合数据🤩。 数据关联 智能体要落地首先得涉及数据关联 🙌 展开全文 南都：在粤港澳三地制度差异背景下，在推动😅数据跨境流动过程中，您对建立大湾区数据安全、人工智能安全协同🤔治理体系有哪些建议？ 陈雷：数据安全是一个非常难的问题⭐，既要把数据整合起来、用起来，又要保证数据安全，里面有很多技🤯术方法手段，例如同态加密、隐私计算等，使用加密数据做相应AI👏训练。 举例而言，大湾区有很多好医院，要做数据共享，才😎能做更好病理诊断医疗诊断。如果把病人名字、年龄、性别隐藏，数🔥据是不是就没问题了，可以安全使用？这是误区，很多时候通过病人👍其他信息还是可以转换映射病人是谁。但是，假如隐去年龄、性别这😎些信息，可能对根据年龄和性别对病情诊断又失去价值。这是有意思😆的问题，建议联合实验室可以研究怎么建立数据安全的保护机制，不😂仅是通过技术手段解决，还需要从政策、制度层面，引导正确使用数🤯据，签订相应数据共享、保密协议。 南都：在数据驱动跨学🔥科研究方面，您曾带领团队为港科大（广州）实现许多第一的突破。🚀如何通过数据驱动大模型，赋能产业，构建良性循环协同？ 💯陈雷：大模型赋能产业，最重要的是真正用起来。大模型的文字处理😎能力特别高，以保险业为例，假如出了一个理赔案，原来保险员要查⭐所有文件、规章，通过匹配才知道要赔多少、谁的责任，其实这些可🤔以使用大模型，通过大模型文件处理能力来操作。 大模型重🤗要应用就是智能体，垂直运用到各行各业。但怎么让人接受、让人用🤯起来，这是最大的问题。假如你休假，会让智能体帮忙订酒店、订机🌟票，预订所有活动吗？我发现主要还是手动抢便宜机票、便宜酒店，👍以及符合家人出行习惯的活动。为什么智能体做不到这点，技术难题😘就是智能体之间没有协同，数据没有串通起来。要智能体垂直应用落👍地，首先要设计好数据直接的互联，同时不要贪大贪多，要让大家体😊会到具体使用的好处。 数据安全 让大湾区成数据安😁全使用典范 南都：联合实验室确实可以在AI人才培养发挥🚀资源整合作用。展望未来，您对实验室建设运行又有哪些期待？ 😍 陈雷：希望联合实验室成立更多联盟，通过签订协议，助力数据🤗安全使用。让参与者获取实实在在的好处，达到共赢，他们自然而然🙌就会把数据安全使用起来，更加注重数据安全、隐私保护。积累安全😉的数据越来越多，通过开放共享，让更多企业使用，实现良性循环，😊让粤港澳大湾区成为数据安全使用的典范。 南都：刚才您谈😡的主要是数据安全，在人工智能安全发展方面，实验室能发挥什么作🚀用？ 陈雷：大模型训练的时候，需要很多数据，肯定会涉及🤩很多商业或者个人隐私信息。这样，我们就要设计模型的保护机制，😢对于一些敏感问题，我们怎么保证大模型回答的正确性。实际上，大😆模型面临很多网络攻击新风险，数据投毒危害值得警惕。我们需要想😍办法保证大模型安全的输出，而不是输出内容失当或者不可控的东西🤯，这也是我们经常讨论研究的模型安全问题，希望联合实验室联合大🤔湾区众多高校，在这方面多做研究，起到枢纽作用，在赋予AI更多❤️能力同时，将更多精力投入在AI安全之上，确保大模型可信、可靠🚀、可控。 聚焦 联合实验室能发挥哪些独特作用 ⭐ 香港科技大学(广州)信息枢纽院长、数据科学与分析学域讲座😘教授陈雷，主要研究数据驱动的人工智能、知识图谱、区块链、数据❤️隐私、众包、空间和时间数据库，以及对大型图形和概率数据库的查😴询优化。 “人工智能发展到现在，最重要的不是算力、算法😁问题，而是数据问题，期待粤港澳大湾区生成式人工智能安全发展联🚀合实验室与大湾区众多高校合作，在数据方面发力，建设大数据平台🤩、数据测试平台，让各类大模型通过平台测试性能，找出不足，加以😁改进。”返回搜狐，查看更多

北京市:市辖区:(东城区、西城区、朝阳区、丰台区、石景山区、海淀区、门头沟区、房山区、通州区、顺义区、昌平区、大兴区、怀柔区、平谷区、密云区、延庆区)

天津市:市辖区:(和平区、河东区、河西区、南开区、河北区、红桥区、东丽区、西青区、津南区、北辰区、武清区、宝坻区、滨海新区、宁河区、静海区、蓟州区)

河北省:石家庄市:(长安区、桥西区、新华区、井陉矿区、裕华区、藁城区、鹿泉区、栾城区、井陉县、正定县、行唐县、灵寿县、高邑县、深泽县、赞皇县、无极县、平山县、元氏县、赵县、石家庄高新技术产业开发区、石家庄循环化工园区、辛集市、晋州市、新乐市)

唐山市:(路南区、路北区、古冶区、开平区、丰南区、丰润区、曹妃甸区、滦南县、乐亭县、迁西县、玉田县、河北唐山芦台经济开发区、唐山市汉沽管理区、唐山高新技术产业开发区、河北唐山海港经济开发区、遵化市、迁安市、滦州市)

秦皇岛市:(海港区、山海关区、北戴河区、抚宁区、青龙满族自治县、昌黎县、卢龙县、秦皇岛市经济技术开发区、北戴河新区)

邯郸市:(邯山区、丛台区、复兴区、峰峰矿区、肥乡区、永年区、临漳县、成安县、大名县、涉县、磁县、邱县、鸡泽县、广平县、馆陶县、魏县、曲周县、邯郸经济技术开发区、邯郸冀南新区、武安市)

邢台市:(襄都区、信都区、任泽区、南和区、临城县、内丘县、柏乡县、隆尧县、宁晋县、巨鹿县、新河县、广宗县、平乡县、威县、清河县、临西县、河北邢台经济开发区、南宫市、沙河市)

保定市:(竞秀区、莲池区、满城区、清苑区、徐水区、涞水县、阜平县、定兴县、唐县、高阳县、容城县、涞源县、望都县、安新县、易县、曲阳县、蠡县、顺平县、博野县、雄县、保定高新技术产业开发区、保定白沟新城、涿州市、定州市、安国市、高碑店市)

张家口市:(桥东区、桥西区、宣化区、下花园区、万全区、崇礼区、张北县、康保县、沽源县、尚义县、蔚县、阳原县、怀安县、怀来县、涿鹿县、赤城县、张家口经济开发区、张家口市察北管理区、张家口市塞北管理区)

承德市:(双桥区、双滦区、鹰手营子矿区、承德县、兴隆县、滦平县、隆化县、丰宁满族自治县、宽城满族自治县、围场满族蒙古族自治县、承德高新技术产业开发区、平泉市)

沧州市:(新华区、运河区、沧县、青县、东光县、海兴县、盐山县、肃宁县、南皮县、吴桥县、献县、孟村回族自治县、河北沧州经济开发区、沧州高新技术产业开发区、沧州渤海新区、泊头市、任丘市、黄骅市、河间市)

9 月 18 日消息，在本周三召开的 Axios AI+ D🤗C 峰会上，Anthropic 首席执行官达里奥・阿莫迪（D👏ario Amodei）表示，人工智能（AI）正加速发展，在🤯很多领域能取代人类完成各类任务，最多 50% 的白领岗位在未😆来 5 年内可能被淘汰。 援引博文介绍，阿莫迪表示在 🤯AI 取代人类完成任务方面，推进速度开始迈入“指数级”阶段。😢他认为这种风险的可能性足够高，因此公司选择提前向社会发出警告🥳，并坦诚面对这一议题。他强调，政府可能需要迅速介入，为受到冲🤔击的群体提供支持与保障。 Anthropic 联合创始🤗人兼政策负责人杰克・克拉克（Jack Clark）补充说，考😅虑到预期中的冲击规模，必须制定足够有力的政策应对。他认为，这💯不仅是企业的责任，也是公共政策必须提前布局的领域，否则社会将🙄难以承受突如其来的就业变化。返回搜狐，查看更多