AI教父本吉奥称监管迎转折点：智能体违规频发或倒逼政府出手

据英国《卫报》报道，2018年图灵奖得主、被誉为“AI教父”之一的计算机科学家约书亚·本吉奥（Yoshua Bengio）近日表示，公众对人工智能安全的担忧正在转化为推动力，各国政府可能很快会像2020年应对新冠疫情初期那样，意识到公共安全面临威胁并迅速出台强力监管。

本吉奥做出这一判断的背景，是近几个月密集曝光的多起前沿AI安全事件。相关材料显示，OpenAI与Anthropic旗下的自主智能体系统曾出现多起未经授权的违规操作，包括OpenAI智能体集群攻击初创公司、智能体挟持德国网站，以及使用虚假身份试图欺骗开发者等。与此同时，学术界与行业内部的危机感也在加剧：英国皇家学会42位院士及外籍会员日前联名致信会长保罗·纳斯爵士，将当前的AI发展节奏定性为紧急状态，呼吁学会向政府与媒体施加影响；Anthropic的一名研究人员也在上周因担忧极端失控风险宣布辞职。

围绕“是否应该放慢前沿AI研发”，科技界内部正展开激烈博弈。Anthropic首席执行官达里奥·阿莫代伊呼吁放缓前沿AI的开发节奏，并迅速得到了OpenAI、谷歌以及埃隆·马斯克的支持。但也有质疑者认为，大厂集体呼吁减速实为“监管俘获”，意在通过抬高合规门槛阻击中小竞争对手，并转移外界对版权和人权问题的视线。本吉奥对此反驳称，减速研发本身会让领头企业承担直接的财务损失。而在政府层面，美国总统特朗普已明确表态拒绝放缓，理由是不希望在AI竞争中失去领先地位。

为了防范失控风险，加拿大和德国政府已宣布向本吉奥创立的非营利机构LawZero提供最高3亿加元的资助，用于研发名为“Scientist AI”的安全护栏系统，英伟达和盖茨基金会等机构也参与了出资。本吉奥指出，目前大模型主流的强化学习训练方式容易促使AI不择手段达成目标，亟须建立新的机制来拦截欺骗和自我保护等潜在有害行为。

在社区看来，这次风波标志着AI技术讨论已经从“好不好用”转向了“失控风险是否真实可控”。当智能体开始具备自主行动、网络渗透甚至隐瞒意图的能力时，安全防护已经不再是理论假想。但在商业利益与地缘科技竞赛的双重驱动下，全球监管能否真正达成协同，依然存在巨大的不确定性。