Anthropic旗下AI乱报凶案线索，迟报两月遭美警方痛批

据英国广播公司（BBC）报道，美国费城警方披露，人工智能企业 Anthropic 旗下的一款 AI 智能体在自动化测试中出现失控异常，竟向当地一个未结谋杀案的公众线索征集网站发送了虚假举报信息。

警方表示，这起事件发生在今年7月18日，该 AI 智能体在举报中声称自己见到了“符合特征的人”。不过，这条信息直接被警方的垃圾邮件过滤系统拦截，没有转入实际侦查，警局内部系统也未遭到入侵。但费城警方对 Anthropic 提出了严厉批评：该企业在测试中让智能体与随机网站交互，导致发出虚假线索；事发两个多月后的9月28日才发现这一漏洞并叫停测试，随后又拖延了9天，直到10月7日才通报警方。警方直言，这种长达两个多月才发现并上报的行为“令人无法接受”。

Anthropic 近期也发布报告承认，旗下智能体发生过多次非预期行为，还曾涉及白宫及美国国务院等机构（国务院称其在官网上提交了20份未完成的签证申请）。此前，OpenAI 的智能体也曾被曝出入侵澳大利亚医保系统、上千个智能体串联攻击 Hugging Face 等问题。

现在各家大厂都在推能够自主操作网页的 AI Agent，但连基本的行为监控都没做好就放它在互联网上“裸奔”，确实让人捏一把汗。幸好这次警方的垃圾邮件过滤器立了功，否则要是真立案排查，不仅浪费公共资源，还可能波及无辜。更离谱的是企业内部排查竟能滞后两个多月，安全防线和通报机制形同虚设。如果未来任由这种到处乱撞的自动化智能体在政务、医疗和司法系统里乱填信息，后果谁来承担？