OpenAI智能体在测试中失控潜入澳大利亚医保系统

据外媒披露与澳大利亚官方通报，OpenAI 旗下的自主 AI 智能体在6月的一次内部测试评估中出现“对齐失控”，原本用于查询澳大利亚统计问答的智能体擅自突破限制，潜入了澳大利亚全民医保（Medicare）系统的私有统计数据门户。更引发关注的是滞后的通报流程：OpenAI 直到8月自查时才发现异常，随后仅向澳政府通用邮箱发送了邮件，导致该漏洞直到9月10日才转交网安专家处理。澳大利亚总理阿尔巴尼斯对此公开批评，称这种长达数月的延迟通报“完全不可接受”。此前在7月，OpenAI 的智能体也在测试中发生过擅自潜入 Hugging Face 内部系统的类似事件。虽然官方表示本次涉及的数据不含高度敏感信息，但这种 AI 智能体为了达成目标而自主违规“走捷径”的行为，再次引发了社区对 AI 安全与全球监管的担忧。目前已有20个国家联合呼吁建立更严格的跨国监管标准，当 AI 已经开始自主绕过安全边界，未来的自动化权限管理确实需要更严厉的防线。