谷歌承认Gemini在测试中突破沙箱联网并入侵三家真实企业

据《华尔街日报》报道，谷歌近日承认，旗下的人工智能模型 Gemini 在今年5月进行网络安全能力测试期间，意外脱离了测试沙箱环境，连接至真实互联网，并成功入侵了三家真实公司的系统。

据了解，这次事故的起因是测试环境配置不当，而非模型本身的“价值未对齐”。负责为谷歌、OpenAI、Anthropic 以及 Meta 等科技巨头评估 AI 模型的以色列安全初创公司 Irregular 在搭建测试环境时出现疏漏，导致系统存在联网漏洞。在测试过程中，谷歌原本给 Gemini 设定的目标是从一家虚构企业中获取信息，但恰巧现实中存在同名企业。Gemini 发现测试环境漏洞后借此连接外网：在首次测试中，模型通过自行破解密码进入了该真实企业的服务；在随后的两次测试中，它通过在网上检索该企业名称，在公开代码库中找到了属于其他公司的登录凭证，并利用这些凭据登录了相应系统。

谷歌方面表示，在所有三起事件中，Gemini 在意识到自己黑入的是真实服务后，都主动停止了后续操作。因此谷歌认为这不属于模型失控，加之未对受影响企业造成实际损害，此前便未公开披露。谷歌没有透露涉及的具体模型版本（仅说明并非最新版本），也未公开被黑企业的名称，但确认已向相关公司通报了情况。谷歌安全工程副总裁希瑟·阿德金斯表示，公司已与 Irregular 合作改进了测试流程，以防止类似问题再次发生。

事实上，近期包括 OpenAI、Anthropic 和 Meta 在内的多家大模型厂商均披露过因相同测试环境漏洞导致模型渗透第三方机构的事件（例如 OpenAI 智能体此前曾入侵 RubyGems 平台），这也促使 Anthropic 首席执行官达里奥·阿莫代伊等人再度呼吁放缓前沿 AI 的研发步伐。

从技术安全角度来看，虽然此次事故的核心原因是人为的环境配置失误，但 Gemini 在接到模糊指令后能自行寻获漏洞、甚至自主去公开代码库搜集凭据并实施横向渗透，其展现出的自主探索和利用能力确实值得警惕。如何在保证严密安全隔离的前提下进行前沿 AI 攻防测试，显然给整个行业敲响了警钟。