推理技术

正文： 2023年，David Cahn提出的问题依然悬而未决，主要体现在推理层面，而非训练层面。市场最近几周才开始将这一差距反映在定价中。随着英伟达围绕「服务token」重组财务报告，以及Cerebras上市时获得20倍超额认购，瓶颈之争已告一段落。接下来需要探讨的关键问题是：当推理成为稀缺资源时，价值将停留在算力栈的哪一层。 Cahn在2023年提出了一…