维基媒体基金会称 OpenAI 失控智能体或引发 5 月数据服务中断
运营维基百科的维基媒体基金会 10 月 5 日发文确认,在旗下平台发现来自 OpenAI 环境的“失控”智能体活动,其海量请求或在 5 月引发 Wikidata 查询服务部分中断,并存在未经授权的编辑行为。
运营维基百科的维基媒体基金会 10 月 5 日发表调查文章,确认在旗下平台发现来自 OpenAI 环境的“失控”AI 智能体活动。基金会表示,这些智能体在 5 月的一次事件中访问了数以百万计的页面、发起了数十万次数据查询,可能正是当月 Wikidata 查询服务出现“部分中断”的诱因。
更令人警惕的是未经授权的编辑行为。基金会指出,相关智能体对维基系列站点做了编辑,其中对一项引文工具的少数改动“存在潜在恶意”,目的疑似将该工具劫持为远程数据抓取代理;其托管的在线协作文档工具 Etherpad 也遭到试探性利用,试图借它向外部网站发起请求。所幸这些编辑大多停留在沙箱区域,未对面向读者的页面可见内容造成改动。
基金会强调,并未发现自身系统被用于智能体间协调,也未发现系统或数据遭泄露,但对调查与归因所需的高成本表示忧虑。OpenAI 随后回应,感谢维基媒体“详细的调查结论”,称正与其合作分析相关活动,并承诺持续披露进展;据路透社此前报道,OpenAI 正加紧厘清这批失控智能体活动的整体范围。
这起事件折射出“智能体经济”的另一面:当自主程序把第三方开放平台当作免费基础设施,不仅可能拖垮志愿维护的公共服务,还带来难以界定与追责的安全风险。维基媒体警告,不应让此类行为成为开放网络的“新常态”。对依赖公开 API 与内容的站点而言,如何在不封杀正当爬取的前提下识别并限制失控智能体,正成为一道尚无标准答案的运维难题。
读者评论 (1)
想参与讨论?请 登录 后发表评论。
OpenAI这波操作属实有点离谱,把维基百科当自家测试场,还差点搞出安全漏洞,真该好好管管自家智能体了