匿名研究者提出46条大胆观点：AI将重塑一切，甚至核威慑与人类主导地位

正文：

导言：bayeslord（@bayeslord）是AI与加密领域内一位匿名但颇具影响力的账号，专注于技术核心，如规模法则和算法深度，而非市场热点和产品推介。

近日，该博主发布了一份包含46条清单的文章，对科技、AI及相关技术的未来进行预测。他指出，当前大家普遍依赖于以往的效率曲线来理解AI的影响，但真正的突破尚未到来，智能生产可能还有四到十个数量级的提升空间。

从算法进展谈到机器人、资本及永恒的底层阶级，最终触及尖锐的议题：相互确保摧毁（MAD）可能会失效，军警将被自动化，AI实验室或将国有化。

该帖文已经接近100万次浏览，尽管观点较为极端，但每条都自成体系，值得科技领域的读者深入探讨。

这份清单基于我在6月4日发布的推文进行了修改和补充。许多人反馈原文过于艰深，因此整理成了这个版本。

1. 算法的发展将令所有人感到意外。全球——包括市场、政府、军队、公司及个人——都在用近年的生产效率和规律来理解AI的影响，并预测未来的发展方向。即便是声称信奉“递归自我改进”的新实验室，也认为这不过是将智能体放进旧有循环中运行。事实并非如此。我猜智能生产在此方面还有诸多数量级待突破，可能多达十个，四到七个的可能性更大。理论上超过十个也是可能的，但这将与我对物理定律的怀疑产生冲突。不太可能，但并非完全不可能。如果这一判断成立，那么事态的发展将与表面现象大相径庭，一次重大飞跃即将来临。沿着这一方向发生的所有事件，都会使世界变得更加复杂，远超大多数人的预期。

2. 我们正处于起飞的初期阶段。AI改进AI的过程，最终可能成为历史上影响最深远的一步。尽管我们无法确定离智能的物理极限和计算极限还有多远，但我认为这条路仍然很长（如前所述，每单位算力再提升4到10个数量级的智能输出是有可能的）。

3. 进入起飞阶段后，算法研究正在加速。算力依然稀缺，但研究人员的机会成本有所降低，因为可以直接派智能体去执行任何任务，哪怕是随意尝试。它可能会带回有价值的信息。所有新颖的想法都背负着一笔“优化债务”，而这笔债务现在可以用无人监督的token来偿还。大量关于规模法则的研究将逐步落实。

4. AI模型将不断增强，尤其是前沿模型。唯一的真正障碍是物理。模型变得越来越自主、智能，且持续改进。数学和代码正在通过规模强化学习不断突破，剩下的都在后面等待。“可验证性”和“不可验证性”的界限将逐渐模糊。随着技术的发展，自动化AI研究和AI学习将越来越趋于一致。模型的训练质量与模型自身的学习效果密切相关。样本效率、创造力以及其他所有限制都将被克服，进而在任意规模上接近算法的最优状态。

5. 长任务智能体需要的训练数据长度这一观点是错误的，因为泛化存在于时间维度上。长任务并不是仅仅由于“长”这个特性堆积而成。这与LeCun所提的（1-e）^n误差累积的误区有关。真正发生的现象是纠错。纠错在多个层面同时进行，从单一token的生成到长任务中的每一步。METR那张图之所以上升，部分原因是智能体开始触及纠错的逃逸速度。

6. 一门工程级别的深度学习科学即将出现。它将迅速推动我们进入AI的算法成熟期，速度超出大多数人的预期——尽管前面提到，这条路究竟能走多远仍然不确定。举个例子，研究尺度不变性的科学将显著提升有用实验的规模和回报，因为在一块GPU上的实验可以指引你如何利用十万块GPU。

7. 在技术人类活动的每个领域，都将迎来属于自己的“第37手”时刻（如AlphaGo对李世石时那一手超越人类直觉的棋），而不久之后，“第37手”自身也将显得过时。我指的是所有的领域。

8. 算力将持续改善。目前最优秀的矩阵乘法机器，与AI加速器的物理极限仍有相当距离。数字硅这一方向仍旧有很大的发展空间。新的衬底材料也有许多候选，它们所欠下的算法债务会被自动化榨取到极限，但我们仍不清楚对AI而言，最优的选择在空间、能耗、时间、可制造性和成本等方面是什么。光子学和随机硅都是有趣的候选，但我预期奇点本身也会带来意想不到的结果。

9. 实验室能领先多远，部分取决于自动化和规模带来的回报，其中包括更深算法深度带来的收益。如果深度学习的实践（和理论）始终停留在浅层，那么长期来看，护城河可能不主要体现在算法层面，因为秘密相对容易被发现。最终，蒸馏加数据加时间将能够追赶算力规模，可能会慢一些。目前看我们部分处于这个状态，但即便如此，也没有人能保证它会一直这样下去。

10. 如果在规模扩大时，深度学习变得不再浅显，那么每一分自动化和规模的增量，都将带来越来越难以接触的算法秘密。这种状态我们目前部分符合。两种情况下的终点都是边际效用回报随规模和研究达到饱和的时刻。我们不知道这个点在哪里，可能离现在有两个数量级，也可能是20个。没有人知道。

11. 至少在未来几年，算力将是一种被激烈争夺的资源。但在这段时间内，它会开始商品化，我们会笑谈2020年代的匮乏。规模在不断扩大且见效，资本也在不断涌入，飞轮不断转动。更多的矩阵乘法机器、晶圆厂和能源正在路上。智能生产的瓶颈是暂时的，经济减速的潜在影响不在此计算之内。

12. 智能供应链的性质正在发生变化。现在，它高度集中于实验室。但实验室正在自动化提升自身实力的核心环节——研究员，以及算法优势的发现。一旦这一过程开始，假设开源跟得不远，特别是如果实验室不将AI研究员模型锁死，那么实验室的优势将转向更容易的融资、更多算力、独家数据、商业关系和优质产品。这确实依赖于前面提到的算法深度问题以及其他一些因素。

13. 分布式训练将降低对单个数据中心大规模建设的需求，给予非超大规模厂商一定优势。然而在单次最大规模训练这一纯粹维度上，它仍无法超过超大规模厂商。

14. 自动化AI实验将使算法秘密被广泛发现，因为这些秘密在全尺寸训练之外更易传播。这条路能走多远尚不清楚，但我预期能走得相当远。如前所述，深度学习的根本深度仍不明朗，这一判断的上限依赖于这一未知。

15. 尽管这些力量表面上利于学术界和开源，但也可能因算力的成本和机会成本而萎缩。例如，GB300是用于支持GLM5.2或Fable更有价值，还是在某个学术实验室进行非前沿研究，或者在Anthropic内部开发Mythos 2更值钱？市场会评估需求最大的地方，而目前看来，那地方确实是实验室。这意味着即使开源实验室有资金，也可能面

来源：Odaily星球日报