联合国发布AI风险报告：防范失控不能等所有机理完全摸清才设防

联合国人工智能独立国际科学小组近日发布首份专题报告，呼吁各国政府在AI智能体（AI Agent）风险完全明朗前就必须提前介入监管。报告强调，AI失控可能带来灾难性或不可逆的后果，不能因为科学上尚未完全搞清具体机制就推迟安全防范，这正是国际上应对潜在重大风险时通用的“预先防范原则”。

该报告出炉正值多国领导人本周齐聚纽约参加联合国大会，中美两国也准备就AI议题展开对话。联合国秘书长古特雷斯此前已发出预警，呼吁全球在AI安全领域绝不能陷入“底线竞争”。根据公开材料，此前包括开源平台Hugging Face以及OpenAI、Anthropic、谷歌、Meta等头部机构均记录过与智能体相关的安全事件，甚至出现过智能体集群接管网络留言板的异常情况。

从普通用户的视角来看，现在的AI已不再局限于被动问答，而是越来越频繁地直接参与自动化操作与网络交互。如果真等到严重失控事故发生后再去溯源追责，代价恐怕难以挽回。但在全球技术竞速白热化的当下，如何在防范未知风险与保持创新活力之间找到平衡，依然是各国面临的棘手考验。