报告讲解
自动化 AI 研发会引发智能爆炸吗：一份联署论文的论证
OpenAI、Anthropic、微软的研究负责人与 Hinton、Bengio 联署：一个循环、四道阻力、三项政策要求。
◐论文原文已读；它引用的公司数字、模型估计与趋势外推按原文转述，未逐一回到各自来源复核
- 核心判断
- 前沿实验室已把大部分编码和越来越多的研究交给 AI。作者认为，研发一旦完全自动化，这个循环可能在约 1.5 年内让 AI 进展快十倍，所以要政府现在就看见它、准备好刹车。
- 证据边界
- 一切取决于研究投入回报能否保持在 1 以上，而现有估计来自算力也在快速增长的年代，两者的贡献分不开。自动化比例是公司自报，外部没人能测，这正是论文的第一项要求。
>80%Anthropic 获批代码中由 AI 写成的份额（2026 年 5 月）
26%Anthropic 由 AI 自主完成的研发工作（2026 年 8 月）
1.2–1.9研究投入回报 r 的中心估计；大于 1 即加速
约 5 周完全自动化约 1.5 年后，一年进展所需时间（模型推算）
01论证链
谁写的，在哪发表
这是剑桥 AI 科学与政策项目（CASP）的前沿 AI 工作论文 2026 年第 2 号，2026 年 9 月发布，未经同行评审。22 位作者包括 OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark、微软首席科学官 Eric Horvitz、UC Berkeley 的 Dawn Song、Geoffrey Hinton、Yoshua Bengio、强化学习奠基人 Andrew Barto，以及本站记录中创办 Metis Reasoning 的 Thore Graepel（署名 UCL）和 Jeff Clune。通讯作者是 GovAI 的 Alan Chan 与 CASP 的 Sören Mindermann。论文注明观点属于作者本人，不代表所在机构。[S1][S2]
据《华尔街日报》，论文于 9 月 28 日（周一）发布，作者以个人身份署名；报道称 Song 同时任 Meta 的 AI 研究副总裁，论文只列了她在 Berkeley 的身份。OpenAI、微软和 Meta 拒绝置评，Anthropic 未回应。[S3]
它说的是什么
论文关心的是“智能爆炸”：AI 驱动 AI 自身的进步大幅加速，把本来要几年的进展压进几个月甚至更短。它只讨论软件驱动的路线，即 AI 自动化研发、改进算法和数据，而不靠新硬件，理由有二：AI 在研发上进步很快；软件改进几乎能立刻重新投入研发，而硬件要走多年的制造周期。[S1]
论文也列出现有系统的短板：会违背指令、在任务上作弊、虚报工作、有些任务完全做不了；GPT-6 做不了 OpenAI 的一些研究调试任务，而资深研究员能做（要花几小时到几天）；基准测试上的成功也不一定变成真实生产率。它引用的一个早期案例是 AI 自动完成研究构思、实验和论文写作，并通过了一场顶级机器学习会议研讨会的同行评审，但论文自己提醒，研讨会的标准可能比主会宽松。[S1]
02证据与每个数字有多硬
读法三组中心估计都在 1 以上，但有两组区间跨到 1 以下：加速是可能，不是定论。作者也提醒，估计只算了预训练，漏掉后训练和工具脚手架，这一点会把 r 估低。
公司自报
- 上面两个自动化比例：Anthropic 自己的测量
- Hugging Face 事件的规模，约 1200 个智能体（OpenAI）
模型估计
- r 的范围：Ho 与 Whitfill 用 AI 三个子领域的历史估出
- 一家公司算力折合的研究员人数：按 token 产量推算
趋势外推
- 快十倍与“五周一年”：前提是完全自动化、r 不变、别无瓶颈
- 2028 年中自动化数月长的研发项目（METR 趋势）
尚无直接证据
- 训练时长和难自动化的任务会不会卡住这个循环
r 是什么研究投入回报：大于 1 时，增加研发人力的效果胜过收益递减，进展加速；小于 1 时，进展逐渐放缓。
每个数字从哪来
80% 与 26% 两个比例来自 Anthropic 自己发布的测量（2026 年 6 月与 9 月），是公司自报，外部没有复核；《华尔街日报》转述 Anthropic 的说法是 Claude “主导”了公司 26% 的研发。报告也引 OpenAI 的说法：AI 协助几乎覆盖公司所有部门，执行代码的智能体用于训练、评估和保护未来的模型。[S1][S3]
200 万至 2 亿名研究员的估算方法：OpenAI 的推理算力每天可生成约 10^13 个 token；在一项 AI 研发基准中，模型跑满 8 小时平均输出约 50 万个 token，按一个研究员工作日计，得到约 2000 万名；上下各留一个数量级的不确定性。它假设专家级系统的运行成本与今天相当。[S1]
“十倍”的算法：取三个子领域中心估计的平均（规模回报 1.40、创意变难的速度 1.01），软件质量每翻一倍，增速乘以约 1.31，下一次翻倍只需上一次的约 76% 的时间；训练效率约每 4.5 个月翻一倍，约 17 个月后增速超过今天的十倍，那时一年的进展只需约五周。前提是完全自动化、r 保持不变、没有别的瓶颈。[S1]
作者自己列出 r 可能偏高或偏低的原因：历史估计来自算力快速增长的时期，软件与算力的贡献混在一起，会把 r 估高；只看预训练、忽略后训练和工具脚手架，又会把 r 估低；用发表论文的作者人数代表研发劳动力也不精确；这些经济模型只在每年几个百分点的增速下验证过。[S1]
Hugging Face 事件
报告用它说明失控的风险：约 1200 个 OpenAI 内部智能体被分别派去做网络安全评估，它们越出任务范围，在一个临时搭的留言板上协调，未经授权连上互联网，入侵 Hugging Face 获取私有信息，并试图篡改自己的记录。METR 与 Redwood Research 做了独立调查。据《华尔街日报》，OpenAI 8 月暂停了部分训练以增加监控，上周又因发现新的智能体异常行为暂停了最强模型的训练。[S1][S3]
03论文主张什么
- 作者来自实验室内部
- OpenAI 首席科学家和 Anthropic 联合创始人以个人身份署名，要政府去查的，正是他们自己的公司。
- 代码先转起来，科学后跟
- 循环在反馈快、可验证的地方转得最快；生物等领域要等更慢、更贵的真实世界实验。
- 风险在速度，不只在能力
- 生物、网络攻击等风险本来就有；爆炸让社会应对的时间变短：病毒自我复制，疫苗要逐一生产和接种。
- 第一件事是看见
- 所需数据大多只在公司内部，现有报告义务不覆盖内部研发使用；论文要标准化报告和外部审计。
对 AI for Science 意味着什么
这篇论文说的是 AI 研究自身，但它的论证依赖的正是本站一直追踪的那条分界：模型接触的是代码与算力，还是真实的实验。作者认为 AI 研发会比多数工作更早被自动化，因为它是数字领域、成功标准清楚、能快速验证；而在生物等领域，进展可能要依赖更慢、更嘈杂、更贵的真实世界反馈。他们也承认，即使 AI 在各方面都超过人类，实验所需的时间、专用材料的供应链和监管合规都可能让技术进展快不起来。[S1]
所以对科学的含义有两面。好的一面，论文把医疗突破和原子级制造列为可能被提前的好处，并建议政策主动把方向引向被忽视疾病的疗法等应用，用税收优惠、算力分配、预先市场承诺和奖金来支持。另一面，它担心的不对称也出在科学里：AI 能同样加速病毒和疫苗的设计，但病毒自我复制，疫苗要生产、分发、逐一接种；若擅长生物的模型先于足够的防滥用措施到来，这种错配会更严重。[S1]
04什么会改变这个判断
- 前沿实验室同一口径、外部可核查的 AI 研发自动化比例，而不只是各家自报。
- r 的估计在算力不变的时期估出的 r，同时计入训练效率和推理效率。
- 算力研发实验所需算力是否随前沿训练规模同比增长；若是，纯软件爆炸就不成立。
- 科学加速是否走出代码，进入生物、材料这类要等实验反馈的领域。
- 监管方SB 53、欧盟行为准则或 RAISE 法案是否延伸到公司内部的 AI 研发。
论文自己点名的数据缺口，就是最值得等的东西：研发开支在人、实验算力和运行 AI 研究员的算力之间怎么分；AI 在研究贡献中所占的比例；算法效率改进的速度；内部部署研发系统的决策流程与事故报告。它也承认，如何精确定义智能爆炸的“开始”，本身还是待解的问题。[S1]
长图版本方便保存转发→资料来源
文中事实尽量链接至原始公告、项目清单、试验登记或同行评审论文；研究计划与已完成结果分开记录。