OpenAI被曝解散风险应对团队，多位安全高管近期相继离职

据英国《金融时报》（Financial Times）及外媒报道，OpenAI在上个月底（7月底）正式解散了其内部的风险准备团队。该团队此前的核心职能，是专门评估前沿大模型可能带来的严重安全隐患（例如模型失控、网络攻击等高危风险），并负责制定针对性的缓解与防范措施。

根据报道，在该团队解散后，相关安全职责并未完全废除，而是按照生物安全、网络安全等具体细分领域进行了拆分，并分流划归至现有的各个业务与工程团队中。今年2月刚从Anthropic跳槽加入OpenAI并掌管该团队的负责人迪伦·斯堪迪纳罗，后续工作重心将转向研究“递归自我改进型”人工智能的相关影响。

这一变动被普遍看作OpenAI在冲刺巨额首次公开募股进程中的又一次安全架构重组。在过去几年里，OpenAI已陆续解散了通用人工智能就绪团队以及此前备受瞩目的“超级对齐”团队。近期，包括伦理主管克洛伊·巴卡拉尔、首席未来学家乔希·阿奇亚姆以及安全主管约翰内斯·海德克在内的多位核心安全人员已相继离开公司。2024年离职的前安全负责人扬·莱克也向媒体表示，公司正在为了打造“光鲜的产品”而逐渐忽视安全问题。

从社区关注的角度来看，OpenAI把独立的集中式安全团队拆散融入业务线，究竟能让安全防护更贴合产品落地，还是在商业化和上市变现压力下进一步削弱了独立安全把关的权力，再次引发了大家的讨论。尤其是在核心安全团队相继调整、高管频繁换血的背景下，前沿人工智能模型在加速狂奔的同时如何做好安全对齐与风险兜底，依然是业界最关心的核心问题。