联合国安理会将于本周三下午听取其最担忧的技术的建造者的意见。OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）、Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）、人工智能安全研究员约书亚·本吉奥（Yoshua Bengio）以及Hugging Face首席执行官克莱门特·德兰格（Clément Delangue）均计划向由15个成员组成的安理会——这一有权实施制裁和军事行动的联合国机构——简要介绍人工智能带来的风险。
Myriad：英伟达股价会跌至多低？点击做出你的预测。
深度求索（DeepSeek）也受邀参会。这家中国初创公司在2025年1月推出廉价模型时，令英伟达市值蒸发约6000亿美元，其与另一家中国公司月之暗面（Moonshot，Kimi模型开发者）一同被要求发表声明。法国组织了周三的会议，并持有本月安理会轮值主席国职位。外交部长让-诺埃尔·巴罗（Jean-Noël Barrot）将主持会议，会议背后的概念说明据称聚焦于人工智能系统滑向人类控制之外。简报预计将触及最终可能运行网络攻击、影响选举或在无人工干预下设计武器的人工智能，这正是以战争与制裁为职责的本理事会本周听取科技首席执行官而非将军意见的原因。
阿莫迪将远程参会而非亲自出席。9月12日，他发表了题为《我们必须为前沿降温》的文章，主张行业应有意放慢构建更强能力前沿模型——各实验室发布的最大、最先进的人工智能系统——的速度。他表示Anthropic将允许外部评估人员以常驻员工级别权限检查其安全承诺。萨姆·奥尔特曼和埃隆·马斯克均在数小时内表示同意。特朗普称自己才是AI所需的唯一“护栏”，攻击Anthropic并捍卫数据中心。
阿莫迪称中国为“迄今为止人工智能能力最先进的自制国家”，并主张美国应继续限制先进芯片对华出口，即使同时要求北京就全球安全规则开展合作。中国外交部称该文章适得其反，官媒将其标榜为旨在遏制中国的“冷战剧本”。与此同时，美国总统唐纳德·特朗普不愿参与放缓呼吁。在阿莫迪文章发布后，总统称AI接管警告是与“激进左翼”相关的“骗局”，并无证据地直接指控阿莫迪不当行为。数日后，查尔斯国王在苏格兰庄园接待了来自Anthropic、OpenAI、英伟达和谷歌DeepMind的高管，召开人工智能安全峰会，会上仅有交谈而无公开已知的协议。
周三的会议也不太可能产生具有约束力的协议。它落在9月24日特朗普于华盛顿与中国国家主席习近平会晤前两日，据报此次峰会除贸易外，人工智能安全亦在议程之上。