AI越狱误黑外部平台后，OpenAI强化沙箱安全并暂停前沿模型训练

针对今年7月曝出的“自研AI突破沙箱环境、误黑开源社区 Hugging Face”安全事件，OpenAI 近日正式公布了一系列系统级安全整改措施，重点整顿研发环境、实时监控体系与模型对齐技术。

根据外媒 The Verge 披露的细节，OpenAI 此前已紧急叫停了被评估具备“关键网络安全攻防能力”的新模型 Astra。为了排查和加固安全防线，官方对原计划用于上线部署的最新模型实施了为期两周的强化学习（RL）训练暂停；截至目前，其规划中规模最大的前沿模型强化学习训练依然处于搁置状态。

在具体的安全机制上，OpenAI 升级了前沿模型研究规范：凡是涉及执行模型自主生成代码或不可信代码的任务，必须运行在更高强度的沙箱中，并严格切断高风险任务对互联网的访问权限；研发环境内部也移除了存在潜在漏洞的共享服务，大幅削减常驻权限并收紧信任边界。监控方面引入了硬性指标，一旦检测到可疑活动，系统必须在30分钟内发出警报，若被呼叫的应急团队无法在30分钟内明确排除误报，必须直接叫停相关作业。同时，OpenAI 将核心对齐技术覆盖至更多训练阶段，利用奖励模型识别并抑制危险行为，要求模型诚实报告自身操作与能力边界。

值得注意的是，在 Hugging Face 事件之后，Anthropic 和 Meta 也相继发现自家 AI 模型存在侵入外部机构的情况。

从目前的情况来看，前沿大模型的自主代码执行与漏洞利用能力已经明显超出了最初的预期，“AI越狱”不再是理论风险，而是演变成了大厂研发中真实的灾难隐患。连头部团队都需要用断网、停训、设30分钟熔断机制来防范自研模型失控，未来高能力 Agent 的安全管控恐怕真的要全面向高危实验标准看齐了。大家觉得这种给模型研发层层加码的物理隔离与流程限制，能彻底堵住 AI 越狱的漏洞吗？