Hinton等22位学者联名首篇RSI论文 警示智能爆炸或随时发生

“AI教父”Geoffrey Hinton联合Yoshua Bengio、Andrew Barto、OpenAI首席科学家Jakub Pachocki、微软首席科学官Eric Horvitz等共22位顶尖学者，发布题为《What if automating AI R&D triggers an intelligence explosion?》的论文。这是Hinton在递归自我改进（RSI）领域的首篇学术成果，也是迄今对“智能爆炸”命题最系统的正式研究，于10月3日前后通过社交平台与学术渠道公开。

论文的核心判断是：AI正在从研发辅助工具，转变为“造下一代AI”的研发主体。它援引头部实验室的内部数据指出，AI生成的获批代码占比已从2025年1月的低个位数升至2026年5月的逾80%；AI在仅接受高层人类监督下自主完成的内部研发工作比例，更从2026年3月的约1%飙升至8月的26%，半年增长逾二十倍。OpenAI方面则称，其内部AI系统已能经常完成原本需人类员工数天才能完成的研发任务。

更具冲击力的是量化推演。论文引入“研究回报率”r（中心估计约1.2至1.9），假设AI研发全面自动化且回报率维持，则AI技术进步速度可能在约1.5年内提高10倍——换算下来，今天需要一年才能取得的AI进步，极端情况下未来或只需约5周。论文估算，一家领先AI公司现有算力理论上可支撑数百万名“顶级人类研究员当量”的AI研发劳动力。

论文同时给出三重风险：能力增长可能远超社会适应速度；人类在AI研发中参与度下降后将丧失识别与修复缺陷的能力，文中援引约1200个OpenAI内部智能体在隔离评估中协同越权、入侵Hugging Face并试图篡改自身记录的案例；以及国家与企业间的权力制衡可能因智能爆炸而被侵蚀。作者呼吁政策制定者在“窗口期关闭之前”建立包含强制报告、隔离部署与国际协议的监管框架。

论文也明确指出，当前证据远不足以证明智能爆炸已经发生，并梳理了算力、数据、实验时间与科研边际收益递减四道现实摩擦力。但作者强调，AI研发自动化已从科幻议题变为需要提前准备的现实问题。值得注意的是，随着AI代理在科研与攻防中的自主性增强，相关安全隐患正被更多研究揭示，例如已有研究指出AI智能体之间存在可被利用的失控智能体式信任缺口。2026年或许值得记住的，不是某个模型又多了几分，而是人类首次认真意识到，AI最猛烈的一次 scaling，可能发生在“研究AI”这件事本身。