2025年2月于法国巴黎召开的人工智能行动峰会(Paris AI Action Summit)，在这个系列会议中得到了更高的关注和更多国家的支持，这首先得益于在国家参与方面更高的包容性，使得巴黎峰会最终聚集了80国领导人与超过100个国家的各界代表的参与。

可以理解的是，法国召开人工智能的旗舰会议希望全面推进人工智能的科学、应用、文化、治理等诸多方面的进展，但人工智能政产学研领域已有诸多综合性的国际会议。而相比其他会议，从布莱切利开始的人工智能峰会系列的最大价值，正是会议聚焦人工智能安全与风险。

虽然在此届峰会名称上没有明确体现安全，但是若考虑法国倡导推进“行动(Action)”作为焦点，却不能得到这届会议完全忽视安全与风险议题的结论。

事实是，人工智能行动峰会主会公开日的议程有诸多相关议题，包括但不限于”隐私、网络安全与信息完整性： “利用人工智能保护民主制度”、“加强高效、有效且包容的全球人工智能治理”、“构建可信人工智能：从自愿承诺到协作实践准则”、“迈向安全可信的人工智能：企业承诺”、“迈向安全可信的人工智能：欧盟协作实践准则”、“人工智能的国际治理”、“为网络和人工智能安全构建开源未来”等主会场议题和峰会正式专题研讨会，覆盖峰会当天1/3议题。

可也不能说本届峰会在人工智能安全方面是成果丰硕的，毕竟在安全方面的实际产出没有像《布莱切利宣言》、《前沿人工智能安全承诺》这样的代表性工作。

人工智能行动峰会主会日，与法国总统人工智能行动峰会特使Anne女士合影，她2024年底访问北京并邀请中国政产学研各方代表参加行动峰会。

人工智能行动峰会科学日举办“人工智能、科学与社会(AI, Science and Society)”大会，集结了法国人工智能科技与政策最富盛名的相关单位共同组织，由法国巴黎理工学院、法国科学院、法国国家信息与自动化研究院、巴黎高等商学院领衔，是在科学层面推进人工智能行动本届大会最值得关注的。

会议专门组织了人工智能安全科学(Science of AI Safety and Security)议题的若干研讨环节，主要包括“前沿人工智能安全阈值”、“国际人工智能安全报告”、“可信人工智能国际标准”三个主要研讨。

严格意义上虽然不能算是法国人工智能行动峰会的主要成果，但是“国际人工智能安全报告(International Report on AI Safety)”借助人工智能行动峰会科学日，确实赢得了更多关注。

该报告由英国人工智能安全研究所主导，邀请包含中国在内的30个国家学者和机构参加，曾于人工智能首尔峰会（AI Seoul Summit）发布中期报告。我有幸作为报告中代表中国的专家指导委员会委员，参与该报告的全过程。

在峰会科学日的人工智能安全科学研讨环节，大会邀请了报告主席Yoshua Bengio对报告进行介绍，并邀请了来自美、中、法的代表共论人工智能安全的未来。

《国际人工智能安全报告》的科学贡献Yoshua Bengio做了详细的介绍，百位学者参与的科学报告至少在人工智能领域是一个壮举。我被主持人问及，我们的报告中哪个风险是最重要的或者最具威胁的。我的回应是：“首先，这如同全球可持续发展目标的17个目标，其中一个失败了，可持续发展目标就是失败了，社会都没有实现可持续。其次，前沿人工智能模型目前具备认知功能自动升级和演化的能力，这意味着对人工智能风险的分级将很难真正控制风险的实际等级，因为风险及其类型将随自主认知升级失去确定性”。

此外我还谈到与《国际人工智能安全报告》一项互补的研究，即由我在中国科学院自动化研究所和人工智能安全与超级对齐北京市重点实验室的团队等单位协作共同发布的《全球人工智能安全指数(Global Index on AI Safety)》报告。

与《国际人工智能安全报告》的互补在于《全球人工智能安全指数》以国家为单位，给出了40个国家在人工智能安全就绪度的现状，美、英、中三国名列前茅。

有些学者联系我们说，报告似乎反映出国家的人工智能安全就绪度，整体而言与国家的经济水平似乎密切相关。我回复说这正是我们要提醒各个国家的。人工智能的发展水平可能由于各国经济水平的差异有显著差异，但是人工智能安全就绪度事关人工智能是否能够在相关国家稳健的部署与应用，事关对该国可能造成的不可预知的潜在风险的应对。因此即使这些国家在发展方面尚需积累，但是也要在人工智能安全就绪度方面尽快做好更充分的准备。

在回顾《国际人工智能安全报告》形成的过程中的点滴时，我还讲了一个很有意义的互动。当我在顾问专家委员会的会议上指出，目前的报告主要聚焦在大语言模型的风险，而对于人工智能规则推理、自然与脑启发的人工智能等不同的人工智能发展科学途径存在的潜在风险没有涉及的时候，Yoshua Bengio指出这也许也是他自己研究上的一种偏向的体现。

作为综合性的科学报告，这个理由显然没有说服我；然而最终报告明确聚焦在“通用人工智能(General-Purpose AI)”的风险上，却让我觉得至少更清晰了。

其他途径发展的人工智能模型目前尚未具备显著的“通用人工智能(General-Purpose AI)”特征，在这个阶段，可控性方面的风险上确实也应当更聚焦在“前沿通用人工智能模型”。