美东时间 9 月 23 日下午 3 点（北京时间 9 月 24 日凌晨 3 点），联合国安理会在法国召集下举行第 10228 次会议，议程为"维护国际和平与安全：人工智能与国际安全"。OpenAI 首席执行官山姆·奥尔特曼、Anthropic 首席执行官达里奥·阿莫代、Hugging Face 首席执行官克莱芒·德朗格与科学家约书亚·本吉奥同场发言。这是安理会首次把"人类可能失去对 AI 的控制"作为独立议题讨论，但会议未形成任何书面决议。
这场会什么来头
法国担任 9 月轮值主席国，由法国欧洲与外交部长让-诺埃尔·巴罗主持。会前散发的概念说明点名了具备递归自我改进能力的自主系统的风险。UN News 称，这是安理会首次把 AI 失控问题作为独立主题拿到桌面上。此前安理会 2023 年首次正式讨论 AI，2025 年 9 月 24 日举行过一次 AI 与国际和平安全的公开辩论。
四位发言人各自说了什么
- 奥尔特曼（现场出席）：呼吁建立统一的能力度量方法、风险评估和重大事件报告机制，讨论国际协调与共同安全标准。
- 阿莫代（远程接入）：提议更聚焦的协议——限制生物武器滥用、承诺可核验、开展模型联合测试。
- 本吉奥（联合国 AI 独立国际科学小组联合主席）：要求建立独立安全评估、AI 事件通用定义和共享报告机制，并当场反驳"竞争迫使公司无法放慢"的说法："他们说过如果可以会放慢。他们可以。但我们不能指望。"
- 德朗格：反对被恐惧驱动的应对，透露自家公司也曾遭 AI 智能体攻击、同时用 AI 系统参与防御；警告更大的风险是攻防双方、大小公司、国家之间获取强大 AI 的不平等。
受邀的还有中方 DeepSeek 与月之暗面，DeepSeek 预计参与发言（路透社）。
分歧：美国说"不"
白宫科技顾问迈克尔·克拉齐奥斯表示，AI 进展不构成暂停开发或新建全球治理架构的理由。同一天，特朗普在联大发言称美国将"鼓励 AI 而非限制 AI"——与会场内的治理呼声形成直接对照。英国外交大臣埃德·米利班德则主张政府应提高对模型开发的能见度，并称英国将在 2027 年 G20 主席国任内推动共同原则与标准。
没有决议，为什么还重要
安理会把 AI 放进"维护国际和平与安全"议程，本身就是一次定性：AI 风险从监管议题升级为和平与安全议题。法国此举为未来的安理会行动建立了先例，包括理论上具有约束力的决议。联合国秘书长古特雷斯此前已表态：AI 系统必须"处于人类指挥、洞察与控制之下"。
Q：这次会通过了 AI 监管决议吗？
A：没有。公开简报会不形成决议，各位发言人的主张只是建议，不是安理会的决定。
Q：这对普通人意味着什么？
A：短期内没有直接影响。长期看，如果安理会沿着这条路走下去，未来可能出现针对高风险 AI 能力的国际约束，届时会影响模型发布节奏和可用功能。
