专业化胜过规模:多数 AI 采购决策忽视的一个战略变量
当一个模型的训练历史足够接近其部署任务时,参数量就不再是决定性变量。一个 30 亿参数的专用模型在一个度量严谨的企业领域中,表现优于所有受测的商业前沿 API——而且成本大约低了 50 倍。
今年 4 月,我们发布了 DharmaOCR——一组用于结构化 OCR 的专用小型语言模型,同时还发布了一个基准测试及配套论文。这些模型和基准测试可在 Hugging Face 上获取。它们共同构成 Dharma 更广泛研究工作的一部分,旨在探究专业化、对齐与推理经济性在生产级 AI 系统中的相互作用。
本文提炼了这些发现中的一个战略含义:专业化、分布一致性与参数规模之间的关系。以下内容将在论文所支持的边界内展开。
过去三年里,企业 AI 战略基本建立在一个稳定的假设之上:最稳妥的选择通常是当时可用的最大前沿模型。小型模型主要在某些工作负载可以接受一定质量下降、以换取更低成本的场景中才会被考虑。支撑这一假设的逻辑很直接:能力似乎会随着参数量增长而提升,前沿模型提供商在主要基准上持续领先,而选错模型的代价,往往被认为高于为领先模型买单的代价。
这种推理是站得住脚的。但如今的实证记录中出现了一个结果,仅凭上述比较框架很难解释。
今年早些时候,Dharma 发布了一项基准测试,其中一个 30 亿参数的模型——通过任何资源充足的企业都能复现的微调流程进行了专业化——击败了所有受测的商业前沿 API。领先幅度并不小,也不是那种买家会轻易忽视的指标。成本差距则与质量差距方向相反:得分最高的模型,运行成本也是最低的,而且优势大到足以在任何有意义的规模上改变采购核算方式。
这一结果并非孤例。就目前而言,这是 Dharma 在其他领域观察到的某种模式中测量最严格的实例之一;这一模式也已被越来越多关于专业化的研究开始记录在案(Subramanian et al., 2025;Pecher et al., 2026)。但它确实提出了一个值得明确追问的问题:当大型模型的训𣄃历史足够接近任务时……