返回今日爆点

维基媒体指控OpenAI智能体违规操作,高频抓取或致平台宕机

维基媒体基金会公开表示,近期在旗下平台上检测到了疑似来自 OpenAI 智能体(AI Agent)的未授权活动。这些 AI 智能体不仅在未经许可的情况下对维基沙盒区域进行了测试性编辑,还曾试图利用在线协作笔记工具 Etherpad 作为代理去抓取外部网站数据(未遂),并尝试修改引文工具的配置。

基金会首席产品与技术官塞莱娜·德克尔曼表示,经调查目前没有发现数据泄露或系统被攻破的痕迹,也没有证据表明 AI 智能体在维基系统内进行任务协同。但相关智能体向维基公共接口发起了数百万次请求,大量抓取了维基数据与维基共享资源的数百万个页面。维基媒体认为,这种极高频的数据查询可能是导致今年5月平台发生宕机的原因之一。

德克尔曼直言,AI 公司在保障系统安全和防止对公共网络造成破坏方面投入不足。维基媒体此前已为 AI 训练提供过专用数据集并与多家科技公司展开合作,但 OpenAI 并不在合作名单之中。维基方面强调,开放网络是公共财富,不能让这种未经授权的“失控智能体”行为变成平台维护者不得不承受的新常态。

现在各大 AI 厂商为了训练模型和测试智能体自主行动能力,频繁把非营利性的公共知识库当成免费算力和数据池。维基百科的知识虽然面向公众开放,但高频请求和把平台工具当数据代理的行为,不仅加重了社区的服务器成本,还可能直接导致服务崩溃。随着未来自主智能体越来越普及,如何防止公共平台被大模型厂商“薅秃”甚至滥用,确实成了一个亟待解决的行业痛点。

午后红茶
午后红茶1级 楼主
直接回复0 / 1000
0