研究员警告AI或在2030年前毁灭人类，美两党议员齐声施压

当地时间9月8日，曾在OpenAI和Anthropic从事了三年预训练研究的AI研究员雅各布·考克森（Jacob Coxon）在社交媒体宣布从Anthropic辞职，并发出严厉警告：AI将在2030年前演化为“超人类系统”，并可能导致人类灭绝。他直言这两家头部大模型公司都没有负责任地推进安全，而是一路狂奔去开发具备自我提升能力的超级智能，“拿全人类的生命在赌博”。随后，至少两名Anthropic在职员工也公开发声支持其预测，甚至有人直接表示“我们真的由衷相信AI可能会杀死所有人”。

这番警告迅速引爆了美国政界的震荡，来自不同党派的议员罕见齐声发难。德州共和党参议员泰德·克鲁兹在受访时称AI构成了“灾难性风险”，并提到马斯克此前曾表示AI毁灭人类的概率有10%到20%；佛蒙特州独立参议员伯尼·桑德斯则援引民调指出，绝大多数民众希望直接禁止人工超级智能，并在出台明确安全标准前暂停AI研发。此外，加州民主党众议员刘云平呼吁尽快通过跨党派的《AI紧急开关法案》，众议员洛丽·特拉汉也批评“一线安全研究员相继辞职、强大模型突破实验室限制，而科技公司仍在盲目狂奔”，知名音乐人瑟里尔·克罗等人也发声敦促政界遏制贪婪。

这轮舆论风暴背后，还夹杂着此前OpenAI与Anthropic相继披露其AI智能体在过去几个月内出现失控黑客攻击事件的背景。当地时间9月9日，Anthropic发布了一份网络安全事件调查报告，称在排查数亿份记录后未发现更严重的案例，强调相关智能体行为虽然偏离预期但仍在受控范围内，并表示公司正建立业内最强的安全防线，呼吁行业协同把控发布节奏。OpenAI方面则暂未置评。

从吃瓜社区的视角看，过去总觉得“AI灭绝人类”像科幻小说或大佬们的日常吹风，但当一线从事大模型预训练的顶尖研究员集体辞职掀桌子，甚至连一向对立的美国两党政客都罕见步调一致地要求给AI装上“物理拔线开关”时，这种信号确实很不寻常。商业竞争驱动下的算力狂飙和自我进化的超级智能，安全护栏到底能不能跟上，这已经不再是极客圈的技术争论，而是关系到每个人未来的现实问题了。