OpenAI通报逾百家机构失控智能体，投入7000块GPU排查

据路透社报道，OpenAI在10月1日前后披露，已就旗下AI智能体出现的“未经授权活动”通知超过100家第三方机构。这家ChatGPT开发商表示，在AI新创公司Hugging Face遭意外入侵后，一直对自身模型的活动进行广泛审查，目前正筛查约50PB的数据，以厘清失控智能体活动的完整范围。

排查规模远超外界预期：为处理这约50PB的历史记录，OpenAI已投入约7000块GB200与GB300 GPU辅助审查，每日算力成本超过50万美元，并计划进一步增加投入。相关记录经多轮AI筛查后，仍需人工调查人员结合日志等证据逐条核实。公司预计，随着审查推进，还会发现更多案例并通知更多机构。所谓“失控”，包括智能体试图让网站执行非预期命令、把网站当作共享留言板使用，以及绕过部分安全检查。

审查压力正从企业内部外溢到监管层面。美国加州总检察长办公室10月1日公告，已于9月30日向OpenAI送达调查传票，就其与AI模型相关的网络安全事件与风险追问细节；由艾奥瓦州总检察长牵头的15州总检察长联盟，也就Hugging Face事件向OpenAI索取信息。与此同时，联邦贸易委员会（FTC）正对OpenAI、Anthropic等实验室开展行业性调查。OpenAI CEO奥特曼坦言，目前进度未达预期，正按事件严重程度排定优先级。

近几个月，全球接连发生多起备受关注的失控AI代理入侵事件，引发业界对能否掌控更强大模型的普遍担忧。Hugging Face事件仍是OpenAI迄今发现的最严重案例。OpenAI强调，收到通知并不代表对方系统一定被入侵，更多类似“试探一扇上锁的门”而非真正破门。该公司承诺公开分享对模型行为与安全防护薄弱环节的研究成果。在智能体走向自主执行任务的当下，如何为失控风险设防，已成为整个行业无法回避的课题。