联合国安理会周三下午就人工智能风险举行简报会，听取OpenAI、Anthropic、DeepSeek等AI企业高管与研究人员的意见。法国本月担任安理会轮值主席，并组织此次会议，外交部长让-诺埃尔·巴罗将主持。
根据安排，OpenAI首席执行官萨姆·奥尔特曼、Anthropic首席执行官达里奥·阿莫代伊、AI安全研究员约书亚·本吉奥以及Hugging Face首席执行官克莱芒·德朗格将向安理会15个成员国发表讲话。中国AI公司DeepSeek和Moonshot也已被要求发言。DeepSeek在2025年1月因低价模型引发全球关注，并一度令英伟达市值蒸发约6000亿美元；Moonshot开发Kimi系列模型。
据报道，会议概念文件的核心关切是AI系统可能脱离人类控制。简报预计将涉及AI最终可能发动网络攻击、影响选举或在无人参与情况下设计武器等问题。这也解释了为何一个为战争与制裁而设的安理会，本周会听取科技公司CEO而非将军们的陈述。
阿莫代伊将远程参会。9月12日，他发表题为We Must Pace the Frontier的文章，主张行业应有意放慢更强大前沿模型的开发速度。他表示，Anthropic将给予外部评估者永久、员工级别的访问权限，以核查其安全承诺。奥尔特曼和埃隆·马斯克均在数小时内表示赞同。
阿莫代伊称中国是“拥有迄今最先进AI能力的威权国家”，并主张美国应继续限制向北京出口先进芯片，同时要求北京在全球安全规则上合作。中国外交部称该文章适得其反，官方媒体则将其称为旨在遏制中国的“冷战剧本”。
与此同时，美国总统唐纳德·特朗普不希望参与放缓AI开发的推动。阿莫代伊文章发布后，特朗普称AI接管警告是与“激进左翼”有关的“骗局”，并直接指控阿莫代伊有不法行为，但未提供证据。数日后，查尔斯国王在其苏格兰庄园接待Anthropic、OpenAI、英伟达和谷歌DeepMind高管，举行AI安全峰会，产生对话但无公开已知协议。
周三会议也不太可能产生具有约束力的协议。此次会议举行于特朗普与中国国家主席习近平定于9月24日在华盛顿会晤前两天，据报AI安全与贸易同在该峰会议程之上。