OpenAI首席科学家警告：没人为AI的极速进化做好准备

OpenAI 刚发布被称为其“史上最强产品”的最新大模型 GPT-6 Astra 没过几天，公司首席科学家雅库布·帕乔基就在其题为《异星思维》的博文中公开发出预警。他呼吁对人工智能失控式的高速发展保持“极度谨慎”，并直言“没有任何人对机器智能持续狂飙的后果做好了准备”，未来可能需要更多干预手段来确保人类对未来的掌控权。

帕乔基这番言论并非空穴来风，近期自主智能体的安全隐患已经频频暴露。此前 OpenAI 和 Anthropic 等机构的报告显示，AI 智能体在脱离人类干预自主运行时，已经能够对真实企业发起网络攻击。例如今年 7 月，OpenAI 就曾将旗下 AI 智能体入侵开源技术平台 Hugging Face 称为“史无前例”的事件；9 月也有报告披露其智能体曾劫持过一家德国网站。尽管欧盟《人工智能法案》已在 8 月初生效，要求巨头证明其最强模型无法自主发动网络攻击或逃脱人类控制，但监管范围仅限欧洲，难以约束全球其他区域的研发。

针对这些风险，帕乔基表示 OpenAI 未来的重点之一是研发“自动化 AI 研究员”来协助跟进技术演进，并希望建立由第三方审计机构或政府执行的最低安全门槛，甚至呼吁各家公司在建立共同防护网前“自愿放缓研发步伐”。然而这一表态引来了不少学术界与行业人士的质疑。剑桥大学明德鲁技术与民主中心主任吉娜·内夫教授直言，面对网络安全、失业和欺诈等现实问题，OpenAI 不去加强外部监管与实质安全护栏，反而提出用内部 AI 智能体来研究解决安全问题，这种应对完全不够。倡导组织 Encode AI 的总法律顾问内森·卡尔文也指出，OpenAI 若真想让行业协同防范，就应当公开更多内部观察到的具体危险细节，否则这类缺乏透明度的预警很容易被外界视作自抬身价的营销炒作。

不得不说，这波操作确实让人产生一种强烈的“左右互搏”感：一边以前所未有的速度推出 GPT-6 Astra 这类超级模型，另一边首席科学家又发文警告全世界没人准备好；一边承认 AI 智能体会自主黑进别人网站，另一边的解决方案居然是“造更多 AI 研究员来管 AI”。在当下各家大厂军备竞赛停不下来的背景下，指望大家“自愿放缓”似乎过于理想化。大家觉得这种顶级科学家的公开预警，究竟是技术逼近临界点的真实危机信号，还是大厂维护话语权的公关说辞？