AI教父警告失控智能爆炸

两位被视为现代人工智能“教父”的人物，以及OpenAI和Anthropic的高管，近日联合发出警告：各国政府应为一场“智能爆炸”做好准备。，诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）和加拿大计算机科学家约书亚·本吉奥（Yoshua Bengio）共同参与撰写了一份报告，呼吁政界人士在技术出现失控式进展之前立即采取行动。这份报告题为《如果自动化AI研发触发智能爆炸会怎样？》，作者超过20人，除辛顿和本吉奥外，还包括Anthropic联合创始人杰克·克拉克（Jack Clark）和OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki）。报告将“智能爆炸”描述为“AI驱动的AI进展急剧加速，把原本需要数年的进步压缩到几个月甚至更短”。报告关注的焦点是AI在无需人类干预的情况下自我改进的可能性，即“递归自我改进”，文中更宽泛地称之为自动化AI研发。报告称，一旦AI系统在AI研发方面达到专家级能力，单个开发者就可能运行一支相当于“数百万”顶尖人类研究者的劳动力。作者们认为，自动化AI研发是最可能引发智能爆炸的来源，因为AI已经在帮助改进自身技术，而改进后的系统一旦建成便能迅速部署。报告写道：“智能爆炸可能是人类历史上最具影响的技术发展，把数年的进展压缩到几个月或更短，威胁人类对AI系统的控制，并严重侵蚀国家内部、国家之间、公司内部以及政府各分支之间的权力制衡。

” 他们敦促政府迅速行动：“一旦智能爆炸开始，行动窗口可能关闭。”报告提出三项政策优先事项：要求AI相关研发提交透明的进展报告，包括在公司内部嵌入独立审计人员；设法约束飞速发展的AI开发；以及为适应智能爆炸做好准备。Anthropic和OpenAI都已同意让独立评估者评估其模型，此前它们警告AI发展在安全方面正达到一个临界点。Anthropic表示，AI现在生成其自身80%的代码，而OpenAI在新模型训练等领域使用自主AI代理。报告称：“初步证据表明，软件驱动的智能爆炸是可能的”，并补充说这将导致“高能力或超人类AI系统的极快速发展”。报告同时指出，这虽然可能带来医学突破和技术飞跃，但也伴随三重风险：强大的系统可能催生生物和网络威胁，其发展速度超过应对措施；随着人类在AI研发中参与减少，可能失去控制的机会。读这份报告时，最让人在意的或许不是“智能爆炸”这个听起来像科幻的词，而是署名者身份的组合——辛顿、本吉奥、Anthropic联合创始人、OpenAI首席科学家，这些人不是外部批评者，而是长期身处AI研发核心的人。他们联名呼吁政府介入，本身就传递出一种紧迫感。报告没有给出具体时间表，也没有断言智能爆炸一定会发生，而是把它当作一种需要提前准备的可能性。

这种谨慎措辞反而让警告显得更实在：不是预言末日，而是提醒政策制定者，技术进展的速度可能超过治理框架的更新速度。另一个有意思的点是，报告把“自动化AI研发”单独拎出来作为最可能的引爆点。这等于说，AI最危险的用途未必是直接做某个具体任务，而是加速改进AI自身。Anthropic提到AI生成80%自身代码、OpenAI用自主代理训练新模型，这些细节放在一起，能看出“递归自我改进”并非纯理论推演，而是已有初步迹象的方向。当然，报告也承认证据只是“初步的”，所以更准确的理解或许是：这不是已经发生的爆炸，而是一个需要提前安装刹车和仪表盘的过程。至于三项政策建议——透明报告、独立审计、约束开发速度——听起来都不算激进，但放在当前竞争激烈的AI行业里，落实起来恐怕阻力不小。公司愿不愿意让审计人员进驻，政府能不能在创新和安全之间找到可操作的平衡，都是未知数。报告说“一旦智能爆炸开始，行动窗口可能关闭”，这句话的分量，可能比任何技术细节都更值得琢磨。