匿名研究者的46条观点：AI将重塑一切，涵盖核威慑与人类主导地位

正文：

导言：bayeslord（@bayeslord）是 AI 与加密领域内一位备受关注的匿名账号，其内容不涉及商品推销或热点追逐，专注于技术核心，如扩展法则和算法深度。

近期，该博主发布了一份包含46条见解的清单，展望科技、人工智能及相关技术的未来，认为当前人们普遍用旧有的效率曲线来理解 AI，而真正的突破尚未到来，智能生产可能还有四到十个数量级的潜力未被开发。

他讨论了从算法加速到机器人、资本和底层阶级等多方面，最终提出了尖锐的观点：相互确保摧毁（MAD）可能会失效，军警将实现自动化，AI 实验室或许会面临国有化的命运。

该帖子已接近100万浏览，尽管观点极具争议，但是每一条都具有内在逻辑，值得科技爱好者一读。

这份清单基于我6月4日发的一条推文进行了修改和补充。多位读者反馈原文较难阅读，因此整理成此版本。

1. 算法的进步将令所有人意想不到。全球范围内——包括市场、政府、军队、企业和个人——都在依据近年的生产效率和规律来预测 AI 的影响。即便是那些声称相信“递归自我改进”的新实验室，也只是在老套路中加入智能体的循环。实际上，我认为在智能生产领域，仍有多个数量级的潜力未被开发，可能多达十个，四到七个的可能性更大。原则上超过十个也是有可能的，但那将与我对物理定律极限的怀疑相悖。若这一判断成立，事物的发展轨迹与其表面现象将截然不同，一场大飞跃即将到来。沿着这一方向发生的任何事情，都会让世界变得更为复杂，超出大多数人的预期。

2. 我们正处于起飞的初期阶段。AI 改进 AI，最终可能成为历史上影响最大的举措。尽管这并不能保证成功，因为我们尚不清楚智能的物理极限和计算极限有多远，但我认为距离仍然很远（如前所述，每单位算力可能还能够挖掘出4到10个数量级的智能输出）。

3. 进入起飞阶段后，算法研究正在加速。尽管算力仍然是稀缺资源，但研究人员的机会成本正在降低，因为可以直接派遣智能体去完成任何任务，即便是随意尝试。这可能会带来一些意想不到的成果。所有新想法都背负着“优化债”，而现在这笔债务可以通过无人监督的 token 来偿还。大量的研究扩展法则将会逐步被实现。

4. AI 模型将持续增强，尤其是前沿模型。真正的限制来自物理。模型变得越来越自主、聪明，且不断提升。数学和代码正在被大规模强化学习征服，剩下的部分则显得微不足道。“可验证”和“不可验证”的划分作为有效的界限将逐渐消失。随着时间推移，自动化 AI 研究和 AI 学习将愈发接近本质。模型的训练效果与模型自身的学习效果密切相关。样本效率、创造力及其他限制将会逐渐被克服，从而在任意规模上接近算法的最优解。

5. 长期任务智能体必须具备与其长度相当的训练数据这一观点是错误的，因为时间维度上存在泛化。长任务并非仅通过“长”的特性堆积而成。这与 LeCun 所提的（1-e）^n 误差累积谬误相关。实际发生的是纠错过程。纠错在多个尺度上同时进行，从单个 token 的生成，到长任务中的每一步。METR 那张图上升的部分原因是智能体开始触及纠错的临界点。

6. 一门工程级别的深度学习科学即将出现。它将推动 AI 算法的成熟，速度远超大多数人的预期——尽管如前所述，这条道路究竟能走多远仍不确定。举例来说，一门研究尺度不变性的科学，将大幅提升有用实验的规模和回报，因为在一块 GPU 上的实验能够指导如何利用十万块 GPU。

7. 在技术人类活动的每个领域，都将经历属于自己的“第37手”时刻（如 AlphaGo 对李世石那一局超越人类直觉的棋局），而很快，“第37手”本身也将显得过时。我指的是真正的各个领域。

8. 算力将不断进步。如今最优秀的矩阵乘法机器，距离 AI 加速器的物理极限还有相当远的距离。数字硅这一方向仍有很大的提升空间。新的衬底也有很多候选，待偿还的算法债务将被自动化榨取到极限，但我们尚不清楚对 AI 而言，哪些在空间、能耗、时间、可制造性和成本上最优。光子学和随机硅都是值得关注的候选，但我也预期技术的奇点会带来意想不到的结果。

9. 实验室的领先程度在于其自动化和规模带来的回报，其中包括更深算法带来的收益。如果深度学习的实践（和理论）始终停留在浅层，那么从长远来看，护城河可能不会主要体现在算法层次，因为这些秘密相对容易被发现。最终，蒸馏、数据和时间能够追上算力的规模，可能会稍慢一些。现在我们一部分处于这种状态，但即便如此，也没人能保证未来会一直如此。

10. 如果随着规模扩大，深度学习变得不再浅显，那么每一点自动化和规模的增量，都将换来更难以触及的算法秘密。这个状态目前看起来也部分符合。两种情况的终点都是边际效用回报在规模和研究饱和时达到极限。我们尚不清楚那个点到底在哪里，可能距离今天有两个数量级，也可能有二十个，没有人知道。

11. 至少在未来几年内，算力将是一个被激烈争夺的资源。但在这段时间内，它将开始商品化，我们或许会回首嘲笑2020年代的贫乏。规模在扩大且奏效，资本随之而来，一次次地推动飞轮转动。更多矩阵乘法机器、更多晶圆厂、更多能源正在酝酿中。智能生产的瓶颈是暂时的，潜在的经济减速不在讨论范围内。

12. 智能供应链的性质正在发生变化。目前它高度集中在实验室手中。然而，实验室正在自动化其核心——研究人员以及算法优势的发现。一旦这个过程启动，假设开源的进展不太落后，特别是在实验室不将 AI 研究员模型锁定的情况下，实验室的优势将转向更容易的融资、更多算力、独家数据、商业关系和优质产品。这确实取决于之前提到的算法深度问题的最终结果，以及其他一些因素。

13. 分布式训练将降低对单一数据中心大规模建设的需求，为非超大规模厂商提供一些优势。然而，在单次最大规模训练这一纯粹维度上，仍然无法超越超大规模厂商。

14. 自动化 AI 实验将使算法秘密被广泛发现，因为这些秘密天然比全尺寸训练更易于传播。这条道路能走多远尚不清楚，但我预期相当远。正如前面所提，深度学习的根本深度仍旧未知，这一判断的上限将取决于这个未知。

15. 虽然这些力量在表面上对学术界和开源有利，但它们仍可能因算力的成本和机会成本而萎缩。例如，GB300 是用于服务 GLM5.2 或 Fable 更具价值，还是在某个学术实验室里进行非前沿研究或在 Anthropic 内部开发 Mythos

来源：Odaily星球日报