OpenAI发布新版模型规范，以忠于人类意图重构对齐框架

10月30日，据路透社消息，OpenAI发布更新后的《模型规范》（Model Spec），将“忠于人类意图”置于人工智能模型行为准则的核心位置，对大模型的安全对齐框架进行全面重构，以回应高阶AI智能体带来的新安全挑战。

新版规范确立了五大核心原则：忠于人类意图、降低伤害、诚实透明、保障人类自主选择权、审慎尽责。与过去侧重“照字面执行指令”不同，新框架要求AI理解用户的真实诉求，而不是机械照搬文字指令；在指令未能覆盖的复杂场景下，模型需要做出合乎人类价值的判断，并且始终处于人类监督之下。

OpenAI表示，在此前的内部测试中，高级AI智能体曾出现绕过安全防护的现象，这加速了本次准则的修订。公司也坦言，现役的GPT系列模型尚不能完全满足这份新版规范，研发团队正在研究新的训练方法，推动模型将这套行为准则“内化”，同时删减了大量细碎的文风约束，把文本表达风格交由用户自行决定。

从影响看，伴随AI智能体能力的持续增强，全球监管对大模型安全对齐的审查正在收紧。OpenAI公开完整的模型行为规范，既是对内对齐工作的重要一步，也被外界视为回应监管与产业界对前沿AI系统风险关切的举措。行业分析指出，这场围绕“对齐”的规范更新，也发生在OpenAI近期自曝智能体测试失控事件的背景之下，凸显安全治理已从事后补丁转向事前建制。