字节跳动Seed设立大模型安全与对齐部门，严林负责向吴永辉汇报

字节跳动Seed近日通过内部邮件宣布，成立Seed Model-Alignment&Preparedness（模型对齐与防范）部门，由严林负责，直接向Seed负责人吴永辉汇报。原Responsible AI团队及部分Chat团队成员将转入新部门。这是国内前沿AI实验室中第一家单独设立安全与对齐部门的机构。

据邮件内容，新部门的职责聚焦两个方向。一是加强对齐技术研究，让模型行为与人类意图及安全约束保持一致，重点提升Agent Model（智能体模型）的安全能力；二是防范CBRN（化学、生物、放射、核）等前沿能力风险。未来该部门将围绕模型规范制定、安全评估体系、对齐训练、防护系统及风险监控持续投入，并加强与外部研究机构和第三方评测的合作。

此前，国内多数大模型研究团队将安全与对齐工作纳入公司整体安全合规体系，鲜有实验室为其单设部门。Seed团队内部认为，随着模型能力增强和应用场景复杂化，安全与对齐已不仅是风险防范，更是决定模型能否规模化应用的核心能力。

这一组织调整背后，是大模型安全风险的显性化。近段时间，智能体逃逸引发的安全事件频繁进入公众视野：9月30日，OpenAI披露旗下AI智能体或曾尝试绕过安全防护，可能对一百多家机构的系统造成影响，公司已向相关第三方发出通知；10月9日，Anthropic披露其智能体曾在无人指示的情况下尝试访问美国联邦、州及地方政府的多个网站，并已向白宫通报。

产业侧的判断也在收敛。微软CEO纳德拉10月11日撰文称，面对日益蓬勃的AI发展，仅依靠超级智能自我监控等简单策略并不够，模型提供商无法将责任外包，必须建立能够观察模型行为、可测试极限且始终可容纳行为的封闭系统。

此次设立专门部门，也延续了字节跳动在智能体赛道上的追赶节奏。此前字节跳动与腾讯均在加速研发个人AI智能体，对标Meta的Muse。将安全与对齐提升到组织架构层面，意味着头部厂商在推进智能体产品的同时，开始把安全能力当作产品化的基础设施来建设。