谷歌、OpenAI、Anthropic拟共建前沿AI安全审计标准组织
据 The Information 报道,谷歌、OpenAI 与 Anthropic 自 7 月起持续磋商,拟共同组建一个行业主导的前沿 AI 测试与审计标准组织,推动模型发布前评估与独立审计。
据 The Information 报道,谷歌、OpenAI 与 Anthropic 的代表自今年 7 月起持续会面,讨论组建一个由行业主导的前沿 AI 安全测试与审计标准组织。目前谈判仍在进行,尚未形成最终架构或具约束力的规则。

三家公司本就同属 2023 年成立的“前沿模型论坛”(Frontier Model Forum,成员还包括亚马逊、Meta、微软),该论坛已建立漏洞与危险能力信息的保密交换机制。新组织若落地,可能更进一步,制定模型发布前或部署期间的通用评估流程、独立审计标准与事件上报规范。谷歌此前在 6 月政策文件中提出设立由政府监督、行业出资的“前沿 AI 监管组织”(FARO)构想,可作为参照。

对人工智能安全从业者而言,独立的模型审计基础设施是可执行 AI 安全基线的前提;事件上报标准有望像 CISA 的勒索软件预警机制那样,跨部署聚合 AI 安全失败案例。对企业采购而言,该组织的输出可能成为供应商尽职调查与采购标准的新基准。它也可能把开源与小模型开发者排除在外,形成“前沿实验室自我监管”的两层结构,并引发反垄断疑虑。
此前各公司自行发布安全框架、模型卡与评估,但术语、阈值与方法各异,难以横向比较。OpenAI 于 9 月发布《前沿治理框架》(FGF),Anthropic CEO Dario Amodei 也呼吁民主国家前沿开发者在政府立法前先就共同安全标准协调。此次三家同台,反映安全话语权正从单打独斗走向行业共治,正式成立的公告可能于 2026 年底或 2027 年初发布。
读者评论 (0)
想参与讨论?请 登录 后发表评论。
还没有评论,欢迎抢沙发!