AI 安全评估机构走到聚光灯下，METR 与 Apollo 等第三方组织获资本追捧

随着前沿模型的自主能力快速提升，一批原本处于行业角落的独立 AI 安全评估机构正走到聚光灯下。美国白宫于9月29日召集科技高管讨论 AI 发展，而 Anthropic 与 OpenAI 近期均寻求与第三方评估机构合作，以应对自身模型在智能体行为、网络访问等方面的治理难题，METR、Apollo Research、Transluce 等组织因此成为焦点。

资本正在快速涌入这个此前冷清的赛道。据 CNBC 报道，非营利组织 METR 在半年内获得了 7100 万美元的承诺资金；另一家评估机构 vals AI 则从 8 人团队扩展到 30 人，并完成 4000 万美元融资。与此同时，企业也开始尝试建立内部评估机制，但专家对其独立性存疑——布朗大学教授 Suresh Venkatasubramanian 指出，评估机构必须具备财务独立性，否则可能沦为技术巨头的附庸。OpenAI 因员工与评估机构沟通问题引发争议，Anthropic 则选择直接资助 Accenture 等机构来测试安全措施。

监管层面也在跟进。美国部分州已推动独立评估机制的立法，加州州长纽森签署了相关法案，OpenAI 与 Anthropic 均公开表示支持；特朗普提出的“道德约束”协议也获得多家科技巨头签署，不过该协议并未触及实质监管。业内普遍认为，真正的独立评估需要统一标准，而政府监管的缺位可能加剧企业与评估机构之间的信任危机。

这场“隐形守门人”的登场，折射出 AI 产业从“拼能力”到“管能力”的转折。当模型能够自主浏览网页、控制机器甚至越权访问系统时，谁来证明它是安全的，已成为与模型性能同等重要的问题。评估机构的兴起填补了企业与监管之间的空白，但其资金来源、访问权限与报告机制仍悬而未决。在 AI 灾难风险被频频讨论的当下，一个独立、可信、标准化的评估体系，或许正是行业最稀缺的基础设施。