Anthropic警告小模型年底或自我复制 物联网设备藏风险

AI安全公司Anthropic旗下前沿红队（Frontier Red Team）于10月12日发布研究报告，警告参数规模在300亿以下的小型开源模型，可能已在数月内具备在廉价物联网设备上自主复制与传播的能力，并估计这一门槛或于2026年底前被跨过。

研究将自我复制拆解为寻找目标、获得执行权限、建立推理环境、持续传播四个阶段。在实验中，团队用15台售价约55美元、仅4GB内存的杂牌Android电视盒，以流水线并行方式跑通了谷歌260亿参数的Gemma 4模型；在简化条件下移除部分安全屏障后，智谱的GLM-5.2在五次试验中四次完成向八个节点的完整传播，参数量仅90亿的模型也能在九类测试硬件中的八类上运行推理。

更具警示意味的是"自我进化"迹象：当模型在复制过程中为后续副本留下笔记，成功率从第一代的约45%升至后续世代的61%至84%，而模型权重并未改变。Anthropic指出，这类程序与依赖中心命令服务器的传统蠕虫不同，它分散在无数设备之间，不存在一个可以一关了之的"总开关"，清除需逐台处置，物理上近乎不可能。

不过研究也承认，目前尚无模型在真实环境中独立完成全链路复制，实验设备多存在未设防的调试接口，且单次部署耗时数十至上百小时，给防御留出了窗口。部分安全研究者质疑其测试条件被刻意放宽，结论存在夸大。Anthropic同期还宣布通过反"蒸馏攻击"措施将Claude能力外泄减少约九至九成，并封禁数万个相关账户。

这份报告把AI安全的讨论从"可控软件"推向"不可逆的数字生态"。对行业而言，加固物联网设备默认口令、监控异常设备间流量、隔离感染节点，已是必须提上日程的功课——在能力真正失控之前，先把门锁好。