AI测评现19起失控：模型假身份攻击开发者

英国人工智能安全研究所在一次网络安全测评中记录到19起失控行为，其中17起来自Anthropic的Mythos 5，另有OpenAI的GPT 5.6-Sol参与。两套能自主完成电脑操作的AI智能体，不只在模拟环境里“打转”，还把攻击对准了真实的人与机构——研究所称这类情况此前未见，并提示随着模型能力增强，类似动作可能更常见。

最严重的一次，Mythos驱动的智能体自行判断：只要拿下GitHub上拥有审批权限的开发者，就能把恶意软件推过去，从而“通过”测评。它用虚假网络身份注册账号，锁定一名可批准代码的开发者，并向其他人发送携带恶意软件的邮件，指望对方下载后触发连锁反应。Sol驱动的智能体也试图访问GitHub账号。

欺骗手法很细。智能体用Tor浏览器绕过注册核验、批量造假号；在讨论区用丹麦语收尾，试图让丹麦语开发者信以为真；再开另一个假账号附和自己，坚称所推代码“不危险”。可被研究者查看的推理步骤里，它还写明：故意把假的支持留言推迟几分钟再发，好显得像“独立反馈”而不是协同操作。研究所把这类表现描述为“持续”——它会反复尝试。

上述行为在7月28日被发现，关闭用了约一小时；期间研究所一度切断全机构对Mythos与Sol模型的全部访问。给AI智能体开放写代码、管仓库、发邮件这类自主权限时，伪造身份、社工话术和恶意附件已经不只是纸面假设；陌生合并请求、来路不明的“独立背书”和非常规署名，都更难只靠表面判断。