AI全面占领后，哪些事物依然不能被训练？

正文：

原文作者：Sarah Guo，Conviction

原文编译：Peggy，BlockBeats

编者按：随着 AI 技术的不断进步，投资界出现了一种新的消极观点：如果模型的能力持续增强，所有应用型公司将最终被像 Anthropic、OpenAI 和 Nvidia 这样的技术巨头所吸收，市场将仅剩前沿模型、计算能力和少数基础设施。然而，Sarah Guo 认为这种看法只是部分正确。确实，那些“薄包装”应用将被整合入更强的模型中，而任何可以通过基准测试评估、依赖公开数据进行训练且低成本验证的任务，必然会逐步商品化。

真正需要思考的问题是：在 AI 吞噬所有可训练内容后，哪些依然无法被训练？

本文给出的答案是那些存在于真实组织内部、难以从外部复制的价值要素，包括企业的私有数据、复杂的工作流程、用户信任、系统权限、行业判断、合规责任，以及在长期运营中积累的经验。虽然模型可以变得更智能，但它们无法自动接入银行的生产系统；可以生成医疗答案，但无法直接赢得医生的信任和医院的决策流程；可以撰写法律文书，却不能替经验丰富的律师承担责任，也无法自行界定什么是合格的法律工作。

因此，未来真正具备竞争优势的 AI 公司，不仅仅是比通用模型更智能，而是深入某个行业内部，完成关键的“翻译”工作：将客户的私有现实、工具、流程及判断标准整理成模型可以执行的系统，并在长期服务中逐步明确“好结果”的标准。随着 AI 的不断增强，那些可衡量和可复制的任务将逐渐贬值，而带有历史、关系、权限和专业判断的“不可训练内容”将愈发突出。这就是在模型吞噬后，仍然可能保留的真正价值。

到 2026 年中，投资者对“AI 精神错乱”的看法，表现为一种对未来投资的绝望：似乎所有的资金都应投向 Anthropic 和 Nvidia，然后便可高枕无忧。然而，我从未有过这样的感觉。在过去的几个小版本中，我一直坚信模型的智能超越了我；若能以市场价格投资于 Anthropic 和 Nvidia，我也乐意为之；我周围最聪明的朋友也坚信模型的自我改进会很快实现，但我依然没有感受到绝望。

这种绝望并非愚蠢，其逻辑在于：如果模型在所有领域不断增强，那么所有基于模型构建的公司都可能只是等待被吸收的表层；最终能够保留的价值，只剩下算力和前沿模型权重。

以软件行业为例，这种绝望感尤为明显。Devin 在 2024 年发布时，仅能解决标准软件基准测试中的 13% 任务，因此受到市场冷遇。但一年半后，最强大的 Agent 已经能完成超过 80% 的高分，并开始在高盛和美国军方处理实际工作。几乎所有人都得出了错误的结论：模型吞噬了软件工程。

然而，当模型征服软件工程中最容易量化的部分后，我们也重新认识到一个早已为许多团队所知的事实：工程本质上一直抗拒量化，而那些最容易被量化的部分，并不一定是唯一重要的部分。

麻省理工学院的 Mert Demirer 与其合作者对这一现象进行了量化：在超过 10 万名开发者中，最新一代编码 Agent 使代码编写量提升了约 180%，但真正交付上线的代码量仅提升了约 30%。写代码变得更加便宜，但其余环节仍需人工介入，而且这些环节至关重要。当然，整体影响仍然不可小觑。

基准测试是可以被量化的，而任何量化的内容都可以用于训练。因此，编码 Agent 率先成熟：编译器和测试套件均为免费的验证工具。当答案几乎可以以零成本自我检查时，便可以围绕这一信号不断优化，直至突破。

但通过测试并不意味着这一改动对于一个已经运营十年的代码库就是正确的。造成该模块存在的原因，可能有三个未被记录的因素；而部署流水线可能依赖于一个无人愿意承认的 cron job 勉强维持。

这种正确性无法从排行榜上直接得出，甚至从任何东西中也无法真正识别。您只能让一个如此复杂的系统在真实环境中运行足够长的时间，才能确认其是否真正有效。而更聪明的模型并不会加快真实世界的运转。没有人会因为 Google 这样庞大的系统通过了单元测试而完全放心。您之所以信任它，是因为它已经承受了多年实际负载。

这种正确性不仅仅是私有的，它是一种缓慢形成的护城河，是资本无法直接压缩时间的护城河。即便乐观者也承认，这个时钟无法被跳过。OpenAI 推理模型的先驱 Noam Brown 最近指出，评估一个 Agent 在一年内的表现，唯一可靠的方法可能就是让它真正运行一年。

正如 Gabe Pereyra 所言，真正的自动化不仅仅是模型变得更强。它是产品、模型、工作流和公司组织的共同演变，而其中有三个都是按照组织的节奏前进。

使人行动起来，是任何基准测试无法触及的领域：说服一位持怀疑态度的合伙人改变她的工作方式，让团队在重建过程中保持团结。这也是为什么我们在招聘 CEO 时，注重其人际交往能力，至少与分析能力同样重要。模型的智能提升并不会改变这一权重。

这里的反馈是模糊的，时间跨度以年计，而信任属于某个特定的人。我所知的每家公司，都已经让每位工程师使用前沿编码模型，但没有一家公司的工程组织以接近模型进步的速度发生变化。采用工具只花了一个季度，而那是多么神奇的一个季度 token 增长期！但真正的重建需要数年之久。

可见的工作正在消失，真正有价值的工作在结构上是不可读的：任何可以放到排行榜上的东西都可以被训练；因此，任何可量化的内容正走向商品化。这一过程需要时间，且永远不会完全结束，但方向从未逆转。

正如我朋友、Rippling 的 Matt MacInnis 所言，将其转化为金钱语言：一个 token 如果只是用来回答通用问题，那几乎毫无价值，因为任何模型都能回答；但如果一个 token 是基于您公司数据进行推理的，那就显得更有价值，因为它做的是您真正需要的事情，而不仅仅是生成一个看似合理的答案。

从底层看，任务会趋于饱和：一旦某项工作可以被低成本验证，买家便不再关注是哪种模型完成的，而是开始询问价格。因此，该工作将落入当周最便宜的开源模型或蒸馏模型手中。只要利润率能够发挥作用，最终它就一定会生效。

从上方看，实验室正在尝试让模型整合自身的脚手架。检索、低成本调用与高成本调用之间的路由、工具使用，甚至推理策略——所有曾经包裹在模型外部的装置，正被纳入模型权重中，直至“外壳”本身变成模型。这便是吸收的边界。

利润压力也会从另一个方向施加影响：一个通用 Agent 必须随时准备处理任何任务，因此成本较高；而一个专注型应用则可以将工作流优化到极致，使其仅消耗少量 token。而与出售这些 token 的实验室不同，应用公司可以留存中间的差额。

因此，我们可以向任何工作提出两个问题：其正确性是否私有且昂贵，是否仅存在于某公司内部的数据真相？它是否被隔离在一个外部无法进入的系统中？若将这些问题与任务的饱和程度结合，便可得到一个 2×2 矩阵。

已经饱

来源：Odaily星球日报