[](https://huggingface.co/ErickvL)
利用率，而不是智能，才是 AI 下一阶段真正的约束。
航空业是吃过这个苦头才明白这一点的。在该行业的大部分历史里，最能预测一家航空公司能否存活的指标，是每架飞机一天中有多少时间停在地面上。
原因在于其结构性。飞机的成本按日历小时持续累积：融资、折旧、机身保险、计划性维护、机组合同。它的收入只按飞行小时累积。任何一小时停在地面上，都会压缩方程式右侧的产出，而左侧成本却照常运行。利用率也位于航空公司几乎所有其他工作的下游。周转纪律、航线网络设计、维护计划、机组排班以及备件供应，最终都会体现在这一个数字上，因为底层运作一旦失灵，飞机就只能停在地面上，不管其他环节做得多好。
更大的机队当然仍然有帮助。更多飞机意味着更多可用运力，这一点显而易见。但两家在相近航线上运营相近规模机队的航空公司，最终可能出现截然不同的经济表现，而这种差距中的大部分，往往源自一个指标，而不是机队规模。
企业 AI 正在不同的硬件上遭遇同样的结构。GPU 也会按日历小时产生成本，无论它在某一时刻是否真的在做有用的事情，成本都来自融资、折旧、电力和冷却。它的产出只按计算小时累积。更多 GPU 的帮助方式，大致就像更大的机队对航空公司的帮助：确实带来更多容量，确实是优势，但仍不能保证决定胜负的那个结果。两家拥有相近 GPU 预算的公司，越来越会因为这些硬件在任意时刻有多少在真正发挥作用而拉开差距，而不是因为它们各自拥有多少硬件。像航空公司的利用率一样，这个数字也位于企业几乎所有其他基础设施决策的下游。智能把这个行业带到了今天，而利用率正在成为下一道真正的约束。
瓶颈从模型转移到了算力
随着 AI 规模扩大，稀缺性并没有消失，而是沿着链条向上移动，落到了另一种资源上。
企业 AI 的第一波胜利属于模型质量。更大的模型，使用更多算力训练，并在更严格的基准上评估：参数规模和榜单名次主导了讨论，而这场竞赛确实产出了足够优秀、可以运行真实企业工作负载的模型。但这种能力伴随而来的，是一种依赖。生产环境中的 AI 运行在专用硬件上，而今天这种硬件几乎完全就是 GPU。
GPU 昂贵、供应受限，而且需求远超供给，这一点即使在市场最顶端也同样成立。2020 年，微软为 OpenAI 搭建了一台专用超级计算机：超过 10,000 块 GPU 和 285,000 个 CPU 核心。当时据报道，这套系统是全球前五大的系统之一，专为训练后来成为 GPT-3 的模型而建。那时候，这看起来像是几乎难以想象的硬件集中度，足以让人觉得，只要能拿到算力，算力问题似乎就已经解决了。六年后，这个数字更像起点，而不是上限。到 2026 年，即便是全球资本最雄厚的实验室，也把算力获取视作一个持续存在的战略约束，而不是一个已经尘埃落定的问题。仅 Anthropic 一家，就在四个不同硬件平台上同时推进多项吉瓦级承诺：Amazon、Google、Microsoft 和 AMD，彼此在数月之内层层叠加；与此同时，Meta 也签下了规模相当的多吉瓦级协议。一次性向四家供应商同时下注，正是当买方几乎拥有无限资本、却仍然无法从任何单一来源获得足够算力时，算力稀缺所呈现的样子。
相隔六年，这两件事都标记了一个实验室为了保持竞争力所必须达到的前沿水平。其间真正发生变化的，与其说是 AI 变得更强了，不如说是能力本身不再是决定性的瓶颈。
同样的模式也出现在实验室之外，只是形式不同。通过 API 消费这些模型的企业，遇到的更多是定价问题，而不是硬件问题。成本会随着使用的 token 数量线性增长，而这一点几乎彻底区分了概念验证与生产环境的经济性。一个每月处理几千次请求的 PoC 看起来还算可负担；同样的工作负载放大到生产规模后，成本可能就会变成一笔始终无法真正收敛的支出。正在被越来越多企业采用的替代方案很直接：企业自己购买 GPU，在本地运行模型，把可变的、线性增长的成本换成固定资本成本。
API 成本会随着使用量上升，而自有基础设施的成本则保持接近固定。超过盈亏平衡点后，这种权衡就会反转。
这种转变把 GPU 从一项支出条目变成了基础设施：它按增长规模配置，按需求峰值配置，因此配置规模会高于任何一个特定周实际所需的水平。也就是说，这笔采购并没有解决问题，反而开启了一个新问题。集群上线的那一天，问题不再是我们能不能拿到加速器，而变成了我们能不能让它们忙起来；而最初只有第一个问题配备了采购团队。签下硬件合同，是有截止日期、也有负责人的那部分。让它不闲置，才是悄悄决定这笔交易值不值得签的那部分。
这些交易描述的是容量承诺，而不是效率。容量到底被利用得如何，是另一个问题；它由不同的人负责，衡量得远不够严格，也离解决更远。
为什么忙碌的集群仍然会浪费容量
一个满载繁忙 GPU 的集群，仍然可能在浪费其大部分潜力，而原因几乎总是同一个。GPU 会昼夜不停地运行，但施加在它们身上的需求却不会。基础设施必须按峰值来配置：训练任务、批处理作业和实时流量同时到来时的那个瞬间，这就意味着在峰值之外，有相当一部分容量是预留出来却没有被使用的。若每块 GPU 都能同样好地承接所有类型的工作，更好的预测本可以独立解决这个问题。但现实中很少有 GPU 能做到，这也恰恰成了问题更难的另一半。
这种错配从更深一层开始。
在企业 AI 的第一代里，一块 GPU 的职责基本是单一的：做推理。如今，同样的硬件还要支持训练、微调、量化、重新……