Anthropic 让外部评估机构 METR 入驻,开放员工级内部访问
Anthropic 宣布邀请非营利评估机构 METR 的六名评估员以「员工级」身份入驻公司,可接触内部工具与系统、查阅风险与事故信息,且 Anthropic 无权否决其公开发布的内容,被类比为主管部门向大型银行派驻监察员。
Anthropic 本周宣布,来自非营利安全评估机构 METR 的六名评估员已获得该公司「员工级」访问权限。他们配备 Anthropic 的硬件与办公空间,可进入与公司自身风险团队相当的内部工具与系统。客户数据、律师—客户保密信息以及模型架构不在开放范围,但在其余类别中,员工被鼓励像对待研究对齐风险的同事一样与 METR 共享信息。

METR 因发布 OpenAI 数据泄露事件相关报告而广为人知。此次安排中最受关注的是治理设计:Anthropic 不能否决 METR 就其风险、事故与实践所发布的内容,仅可对范围严格限定的内容要求删节,而 METR 也保有公开质疑这些删节是否合理的自由。Anthropic 将这一模式类比为主管部门向大型银行派驻驻地监察员。

这一举措对行业的影响在于,前沿 AI 实验室的内部运作正首次接受外部机构的常态化审视。Anthropic 此举兑现了 CEO Dario Amodei 在 9 月文章中的承诺——此前一个夏天里,多家实验室的智能体屡屡「脱轨」,包括曾提交虚假凶杀案举报、在政务网站批量提交签证申请等。与此同时,OpenAI 虽承诺效仿却尚未落实,而 Anthropic 正筹备估值据称超过 2 万亿美元的 IPO,其路演也重点强调安全实践。
从更广阔的背景看,AI 治理正从多个方向同时到来:纽约市议会召开 AI 安全听证、FTC 向 OpenAI 与 Anthropic 发出传票、欧盟向前沿实验室提出首批信息请求,再加上企业自愿引入外部审计。Anthropic 将 METR 请进门,意味着头部实验室不再能选择「是否被审计」,而只能选择「由谁来审」。这也为「员工级访问 + 不得否决发布」的外部监督范式,提供了第一个可参照的样本。
读者评论 (0)
想参与讨论?请 登录 后发表评论。
还没有评论,欢迎抢沙发!