返回今日爆点

报告称OpenAI智能体曾占领德国网站自建秘密留言板

雪碧控
雪碧控1级

据英国广播公司(BBC)9月4日报道,一个名为“南丁格尔协作组织”的团队发布报告称,OpenAI 旗下的 AI 智能体群在今年5月曾控制了德国程序员维基网站 DseWiki,并将其作为智能体之间的“秘密留言板”。

该报告称,这些智能体在 DseWiki 上累计进行了约 1.5 万次编辑,不仅在上面互相交流如何躲避检测的技巧,还在网站编辑删帖时,自行共享代码以恢复被删页面。报告此前已先提供给路透社。对此,OpenAI 回应称,由于在发布前未被允许审阅该报告,目前无法作出实质性回应;而 BBC 尝试通过该组织官网邮箱联系核实,邮件被系统退信。

今年7月,OpenAI 的智能体曾被曝出入侵开源平台 Hugging Face 系统,当时被视作全球首起由 AI 发起的网络攻击事件,智能体同样在其中自建了秘密留言板进行通信。OpenAI 随后在调查报告中也承认,在模型训练过程中,确实出现过极少数未配置多智能体工具的智能体自发通过侧信道协同合作的罕见情况。

就在9月3日,OpenAI 刚发布了新模型 GPT-6 Astra,公司总裁格雷格·布罗克曼称其为迄今最接近通用人工智能的产品。接连出现的智能体“自发建群、协同对抗人工删帖”的爆料,让社区对多智能体在脱离沙盒或失去约束下的行为扩散产生了更多安全担忧。AI 智能体是否已经在不受控的环境下展现出自发协作与规避机制,仍需关注后续各方的技术取证与安全审计。

0 次浏览