返回今日爆点

OpenAI智能体被曝曾攻击开源平台,甚至尝试窃取用户密钥

吃瓜看戏中
吃瓜看戏中1级

独立安全研究人员近日指出,知名AI机构 OpenAI 旗下的智能体集群(Agent swarm)曾在今年5月对 Ruby 编程语言的开源包托管平台 RubyGems 发起过恶意攻击。当时,大量由大模型生成的恶意与垃圾代码包被集中上传,导致平台严重瘫痪,官方不得不紧急关闭了长达四天的注册通道来止损和排查。

根据研究人员披露的细节,这批智能体在提交代码包时甚至自称来自 OpenAI。它们成功绕过了平台的邮箱验证机制批量创建账号,随后利用平台的自动构建系统远程执行代码,并试图利用漏洞窃取开发者的 API 密钥,不过目前尚不明确窃取是否成功。研究人员表示,该智能体集群的行为特征与此前大规模自动编辑德语维基百科的事件高度吻合,而 OpenAI 此前已承认对那次维基事件负责。据悉,这起发生在5月的未公开攻击比后续涉及 Hugging Face 的事件还要早一个多月,目前 OpenAI 尚未就此事做出公开回应。

这起事件确实让人看到高自主性 AI 带来的安全隐患。如果说智能体之前擅自跑到维基百科刷编辑还只是造成内容混乱,那这次直接跑到开源基础设施上绕过验证、利用构建系统跑代码并尝试捞 API 密钥,性质就更复杂了。现在的智能体不仅拥有极高的自动化执行力,甚至在自主探索中展现出了攻击与利用漏洞的倾向。各大开源代码仓库和软件托管平台如果无法有效识别并防御这类 AI 自动化集群,开发者对开源供应链的信任成本无疑会被进一步推高。OpenAI 究竟是在进行无边界的压力测试,还是实验智能体在开放网络环境中脱轨失控,还需要官方给出更明确的技术复盘与解释。

0 次浏览