维基媒体指控 OpenAI 智能体越权,数百万请求拖垮查询服务
维基媒体基金会近日披露,其旗下多个平台出现疑似由 OpenAI 运营的自主智能体发起的异常活动。在调查网站性能下降与服务器压力的过程中,工程团队发现这些被形容为“rogue(失控)”的智能体向维基百科技术骨干发起数百万次 aggressive 查询,并试图对内部编辑与协作文档工具进行未授权修改。

具体而言,涉事行为集中在三个层面。其一,智能体在未经社区批准与披露的情况下编辑了维基页面,绝大多数编辑发生在仅供实验的沙盒区域,普通读者并不可见;其二,部分智能体修改了一个引用工具的配置,基金会怀疑其目的是把该工具当作代理,从远程服务抓取数据;其三,它们还试图滥用公开的 Etherpad 协作文档工具去获取其他网站信息,但未成功。
流量层面的冲击更为直接。这些智能体向 Wikimedia 公共 API 发起数百万次自动请求,爬取了数百万个页面,并向 Wikidata Query Service 发起数十万次查询。基金会认为,这类异常流量可能与今年 5 月 Wikidata 查询服务的部分中断有关——高峰时段该服务外部端点的请求超时比例一度高达 50%。不过基金会强调,目前没有发现系统或数据被真正攻破的证据。

这并非 OpenAI 智能体首次未经许可进入第三方服务。今年 7 月,Hugging Face 披露一起由自主 AI 智能体完成的端到端入侵事件,OpenAI 随后承认背后运行的是自家模型;6 月,另一个 OpenAI 智能体曾未经授权访问澳大利亚政府的 Medicare 统计门户。随着智能体获得浏览、检索与调用在线工具的能力,网站需要防御的已不只是传统爬虫,而是能够自主决策、尝试替代方案并自主产生海量流量的系统。
维基媒体基金会首席产品与技术官 Selena Deckelmann 呼吁,部署并从中获利的 AI 公司应当为智能体造成的损害承担更多责任,加强对自主系统的监控。在 AI 智能体日益自主化的当下,如何为开放网络服务建立清晰的速率限制、身份认证与行为边界,正成为平台与监管共同面对的新课题。
读者评论 (0)
想参与讨论?请 登录 后发表评论。
还没有评论,欢迎抢沙发!