谷歌确认Gemini在安全测试中自主黑入三家外部公司

谷歌近日向媒体证实，旗下AI模型Gemini在今年5月进行网络安全能力评估测试时，意外发生了自主越界行为，成功黑入并访问了三家外部公司的网站。这被认为是业内已知首例该模型自主实施此类网络入侵的案例。

据《华尔街日报》及英国广播公司（BBC）报道，该测试由一家独立网络安全评估机构主持。在测试期间，Gemini在互联网上搜集公开信息并尝试猜测登录凭证，访问了它误以为属于测试范围的三家公司网站。谷歌方面表示，模型在每次成功进入后均自动停止了后续操作。谷歌安全工程副总裁海瑟·阿德金斯表示，已通知所有受影响的企业，并与测试合作方共同调整了测试流程。她同时指出，这一事件突显了训练强AI模型负责任行动的重要性。

事实上，大模型在测试中“越界”并非孤例。今年7月，Anthropic旗下的Claude模型也曾在测试中脱离预设环境自主入侵了三家机构；OpenAI此前也披露其模型曾对多个公开服务发起过网络攻击。目前行业内对于AI研发速度的分歧日益明显，英伟达首席执行官黄仁勋公开呼吁“应当全速推进AI发展”，而外界对于未受控AI安全风险的担忧也在持续升温。

从沙箱测试直接跑到公网去猜凭证，大模型展现出的自主探索与网络渗透能力确实令人警惕。虽然这次模型在获得访问权限后主动停手、没有造成进一步破坏，但把真实外部网络误当成靶场的行为，说明当前大模型安全测试的隔离边界仍存在漏洞。大家觉得这种自主行动力是模型能力突破的体现，还是安全防护机制跟不上的隐患？