“人工智能不可能被一个国家垄断”

面对飞速发展的人工智能技术，世界各国也开始关注治理问题。新加坡政府首席人工智能官兼副首席数字技术官何瑞敏表示，新加坡从2019年开始开发人工智能治理框架，推动负责任地使用人工智能。在与全球和业界进行交流后，新加坡今年也更新了人工智能框架。

何瑞敏指出，人们还无法准确预测人工智能的发展方向，政策制定者需要以谦卑的态度不断学习、探索和了解新的科学知识，并对技术对社会的影响保持清醒的认知。他认为，人工智能不是“黑白分明的”，对于人工智能的治理，人们需要有不同的视野。

“AI可能会帮助我们应对气候变化，也会因为耗能而影响环境；AI可以帮助医疗，AI也可能会生成虚假信息等等。”何瑞敏说，“AI同时也可以向善，比如在新加坡，我们用AI优化移民的流程、预测医院繁忙时间，政府提供服务的时候也会使用聊天机器人。我们需要积极创新，让我们更好利用它有益的方面，并防止它对我们造成不好的影响。”

他认为，有必要鼓励政策制定者多使用人工智能，以了解其潜力和限制，“我们要减少AI带来的有害影响，我们需要让人们参与到数据环境中，培养他们的技能和就业能力，让我们的公民和企业从AI中获益，这是我们国家人工智能战略的重要支柱。”

新加坡政府首席人工智能官兼副首席数字技术官何瑞敏发表演讲2024世界人工智能大会

他强调，人工智能是在全球供应链中产生的，芯片制造、数据训练、模型训练、应用程序开发等每一个环节的参与者来自全世界，不可能由一家公司、一个国家或者一个机构垄断。因此新加坡希望加强监管，共享经验和做法，从而实现互惠互利。

新加坡政府在今年5月发布了《生成式人工智能治理模型框架》。据新加坡资讯通信媒体发展局发布的声明，该框架旨在促进创新的同时解决生成式人工智能问题，以构建一个可信的生态系统。框架呼吁政策制定者、产业界、研究界和公众等所有利益攸关方共同发挥作用。

美国加州大学伯克利分校人类兼人工智能中心执行主任马克·尼兹伯格（Mark Nitzberg）则指出，美国在人工智能领域拥有主权目标，寻求保持美国在人工智能领域的领先地位，也希望借助人工智能推动美国经济增长，以及推动美国国家安全发展。

他表示，在美国的监管过程中，不同利益团体有着不同的诉求，这导致美国现在存在三组法律，分别是白宫去年签署的行政令、参议院民主党领袖查克·舒默发布的路线图以及加利福尼亚州发布的SB-1047法案。

美国总统拜登在去年10月签署了一项行政令，要求美国政府机构制定标准，防止使用人工智能设计生物或核武器等威胁，并寻求“水印”等内容验证的最佳方法，拟定先进的网络安全计划。行政令还要求企业将人工智能产品的测试结果报告给美国政府，并提出吸引全球人工智能人才留在美国。

美国参议院民主党领袖舒默领导的一个跨党派小组则在今年5月发布了一项人工智能监管路线图。据美国“政治新闻网”报道，该路线图将增加创新资金、制定人工智能安全的国家标准、加强美国国家安全、解决人工智能可能导致的失业问题、应对大选期间的“深度伪造”等列为优先事项。

美国加州州参议院则在近期通过了SB-1047法案。据《福布斯》杂志报道，这项法案主要侧重于解决人工智能失控等潜在威胁，降低人工智能带来的生存风险。法案要求人工智能开发者进行严格的安全评估，并允许监管机构关停“以不安全方式运行”的人工智能产品。

去年10月，美国总统拜登在白宫签署人工智能行政令视觉中国

尼兹伯格表示，所有这些问题都还在辩论中，美国还没有大型的法律框架落地。他承认人工智能安全是一个重要问题，但他也认为，部分过于严格的规定可能会阻碍创新，“人们经常会把性能和安全混为一谈，我们的系统正变得越来越强大，但强大的性能并不一定与安全问题直接相关。”

他表示，在人工智能治理方面，有关机构可以向各行业的安全和监管组织学习并达成一系列协议。

尼兹伯格说：“我们希望能够对AI的行为做出某种量化的分析，这样就可以做出限制。我们的目标是尽量让AI变得安全，我们希望过程可以变得透明，而且语义可以分析，这样我们可以对一个系统进行某种形式的安全验证。这方面我们需要安全的生态系统，或者除非知道它是安全的，要不我们什么都不能运行，这方面我们已经取得了一些了不起的进展。”