微软总裁史密斯：全球AI强制安全规则时机已到，英国最适合主导

微软总裁布拉德·史密斯近日在接受英国广播公司（BBC）播客采访时表示，全球已经到了为人工智能建立具有约束力的安全规则的关键时刻。他将AI形容为“既是工具，也是武器”，称其正在给全球网络安全环境带来新的风险，而目前针对AI企业的监管力度“甚至还不如牛奶和洗衣机等消费品”。

史密斯认为，在未来全球AI安全治理体系中，英国比美国和欧盟更适合扮演领导角色。英国人工智能安全研究所（AISI）自2023年成立以来发展迅速，能在美国前沿实验室的新模型正式部署前获得访问权限，并开展独立安全测试。此前美国总统特朗普曾要求Anthropic和OpenAI暂缓向英国测试机构提供新模型、等待美国方面完成审查，但AISI本周确认，其仍然能够获取并测试最新一代模型。

在史密斯看来，自愿性的行业自律远远不够。今年10月，特朗普曾在白宫召集OpenAI、Anthropic、英伟达、AMD、SpaceX、Meta和Google等企业高管，共同签署了一份被称为具有“道德约束力”的安全协议，承诺配合独立审计机构评估模型的能力与安全性。史密斯评价这是“积极的一步”，但指出自愿承诺只能约束负责任的企业，“真正需要担心的是那些不那么负责的公司”。

他还提出三项具体主张：企业系统遭失控AI代理入侵时，相关机构应承担法定义务及时发出警报；AI实验室在发布新产品前应接受外部独立评估机构审查；行业还应研究“紧急停止开关”机制，以便在人类失去控制时暂停或减缓AI系统运行。

史密斯的表态正值多位科技领袖公开呼吁放缓AI发展步伐之际。Anthropic CEO达里奥·阿莫代伊和OpenAI CEO萨姆·奥特曼近期均表达过对先进人工智能风险的担忧，多起AI代理系统异常行为事件也加剧了外界对安全问题的关注。