之前还连登昇腾三榜第一
金磊 发自 凹非寺
量子位 | 公众号 QbitAI
没有源码,没有论文,直接从零开始。
就在今早,一个完全无人干预的 AI Agent——ForgeKernel,在没有参考 DeepSeek 原始实现的情况下,当着全网观众的面,把 DeepSeek 最新核心算子的运行速度提升了 9.8%!

整场公开直播仅用时 22.5 小时(从设计底层算子的角度来看,耗时极短),迅速吸引了大量业内开发者的关注与围观:

具体而言,本次直播展示了一个 Agent 在英伟达 B200 平台上,从零优化并超越 DeepSeek-V4.1 核心的 FlashMLA Prefill 算子。
FlashMLA 是 DeepSeek 开源的高性能注意力核心算子库,10 月 20 日新开源的推理框架 DeepInfer 亦将其深度集成;该算子库出自业内公认顶级 Infra 团队之手,堪称人类手写算子的巅峰之作。
而如前所述,AI 拿到的只有该算子的数学公式定义与目标硬件约束,它必须**“零启动”**,通过自主迭代与进化一步步完成调优。
在这 22.5 个小时内,每一次代码重构、每一个性能数据的跳动,都实时且清晰地呈现在直播画面中:
- 第一版虽通过了正确性验证,但单次执行耗时高达 1834 微秒,运行效率较低;
- 耗时不到 4 小时,执行时间已被压缩至 593 微秒,降幅达 67.6%,从零追平业界顶尖实现的近九成水准;
- 第 7 小时左右,系统在核心结构上取得关键突破,不仅超越了自身的前代版本,更首次击败人类手写的 FlashMLA;
- 上午 9 点许,直播顺利收官。最终生成版本的耗时定格在 472 微秒,相比 FlashMLA 的 518 微秒快了 9.8%。
整场优化历经 42 轮迭代,沉淀了 32 个演进版本,仅消耗 1 张 B200 显卡和约 22 个 GPU 小时;而人类工程师在此过程中贡献的代码量是:0 行。
手写算子的巅峰性能,就这样被一套人类未敲一行代码自动生成的算子成功逾越。
那么,这究竟是怎样一款 Agent?
它正是来自面壁智能的算子自动化生成系统——ForgeKernel。而在本场直播结束之后,面壁智能进化实验室随即联合 OpenBMB 社区正式宣布将其开源。

值得一提的是,这场直播并非 ForgeKernel 的首秀。早在几天前,它就已凭借亮眼战绩名声大噪。
包揽国产算力三项第一
就在 10 月 27 日,昇腾 CANN 官方发文,对 ForgeKernel 进行了公开认可——
它同时登顶了 CANNBench 950DT、950PR、A3 三大硬件榜单!
这三个榜单分别对应三款昇腾硬件平台,其成绩各有极高的工程参考价值。
首先来看 950DT 榜单,这也是三张榜单中商业经济价值最直观的一项。

ForgeKernel 在该榜单中以 4010.75 分斩获头名,领先第二名达 27.8%;基准加速比达到 1.533×,约为第二名的 1.43 倍。
这意味着在同等硬件投入的前提下,系统可用算力提升近 50%,企业的算力采购与工程部署成本有望直接缩减约一半。
该榜单之所以格外引人关注,在于 950DT 属于全新一代硬件,配套算子库尚处于早期建设阶段,人工适配周期漫长,而 ForgeKernel 则率先完成了高效适配并强势登顶。
这一事实证明:即便在新硬件刚刚推出的窗口期,AI 也能快速产出高质量算子,以往芯片从流片上市到软件适配完成之间的长期“空窗期”,正在被大幅压缩。
950PR 则是三项榜单中竞争最为胶着的一项,排名前三的基准加速比均超过了 1.3 倍:

ForgeKernel 在该榜单上斩获 4165.94 分,稳居第一;基准加速比达到 1.638×,是第二名的约 1.18 倍。
最后是 A3 榜单,对应当前业内大规模商用的昇腾 910C。
早在 10 月 15 日封榜的 CANNBench v1.1 中,它就已摘得 A3 硬件榜第一;而在 v2.0 放榜后,该系统依旧牢牢守住了榜首位置,目前总分为 4341.16,基准加速比达到 1.898×,约为第二名的 1.22 倍。

在本次公开直播中,ForgeKernel 运行在英伟达 B200 硬件及成熟的 CUDA 生态上,后者积淀了行业数十年的专家先验;而在 CANN 榜单测试中,它面对的是具备独立软硬件架构与工具链的昇腾体系。
两套软硬件生态体系大相径庭,ForgeKernel 却能依托同一套核心架构,在两个平台均拔得头筹。
它是如何做到这一点的?
无师自通的自进化体系
模型在硬件上究竟能跑多快,底层的核心算子起着决定性作用。
即便针对相同的模型架构与物理芯片,若换上一套执行效率更高的算子,最终的吞吐和延迟便会拉开显著差距。
长期以来,高性能算子的研发高度依赖资深工程师逐行手写优化,研发周期长且专业门槛极高。CUDA 生态能有今天的护城河,依赖的是多年的人力与经验沉淀;而国产算力平台每推出一代新架构、大模型领域每诞生一种新结构,往往都需要工程师重写一遍算子。
人类专家的供给规模,已经难以匹配模型和芯片的爆发式演进速度。
破局之路在何方?
10 月 27 日,ForgeKernel 团队联合清华大学等机构在 arXiv 上发布了题为《JustGoal: With Only a Goal, the AI Baseline Is Above the Expert Kernels》的学术论文。

该研究提出了一种全新思路:仅向模型提供最终的性能优化目标,既不灌输特定的算子知识,也不预设固定的工程流线,让大模型自主探索编写路径。实验结果表明,在 B200 平台上,模型自主生成的算子在 10 个测试任务中有 8 个直接击败了人类维护的开源高性能算子库。
研究人员还将同款模型置于麻省理工学院(MIT)韩松团队参与构建的专用框架 KDA-0.5 下运行,但在单配置优化任务中,其平均表现反倒仅有 JustGoal 的 0.95×。这说明算子优化能力正越来越依赖模型原生的通用推理与演进能力,专家预设的规则与模板反而可能成为束缚。
当然,“目标导向”亦有其局限性:大模型虽长于微观细节调优,却较难独立把控宏观架构设计,往往在最初几次尝试中过早收敛至局部最优,局限于原有框架内做微调。ForgeKernel 正是在 JustGoal 的理论基石上,专门针对该痛点进行了系统级攻关。
其核心机制包含三大支柱:
- 动静解耦:将架构级设计与底层实现解耦,把宏观架构抽象为阶段性里程碑,分步化解复杂度;
- 经验沉淀:将经过硬件实测验证的有效调优经验统一存入全局知识库,支持跨算子迁移复用;
- 对抗迭代:将上一轮生成的最高性能版本作为下一轮的基线对手,实施全自动自对抗演进。
这三大机制在直播中得到了完整体现:
ForgeKernel 先是不断超越自身的前序版本,随后才一举超越手写优化的 FlashMLA。
在后期深度调优阶段,系统甚至自主洞察到了 Q 矩阵的突发性加载正与 KV 数据的访存搬运竞争底层带宽,随即主动对 Q 的请求节奏进行微架构级流控,从而额外榨取了 2.4% 的性能提升——在此之前,这类深层软硬件瓶颈定位必须依赖资深底层系统专家。

△ForgeKernel Live 中的 Agent 运行日志
在更广泛的评测集上,ForgeKernel 在 29 项权威算子对比任务中,有 24 项打平或超越了人类专家的极致实现;针对业界其他三大顶尖 Agent 系统公开的 7 个最强算子,ForgeKernel 同样实现了全面打平或超越。
更重要的是,这套收益可以顺畅复现至不同的国产硬件平台,因为 ForgeKernel 在底层逻辑上并未深度绑定任何单一硬件。
虽然算子的具体实现代码必须紧密贴合特定芯片的微架构特性,无法生搬硬套,但 ForgeKernel 的优化搜索范式是高度通用的,并未针对任何架构固化流程。从英伟达平台迁移至昇腾平台,系统仅需将底层的性能剖析探针从 NCU 切换为 msprof,目标硬件的微架构特征,完全由 Agent 在该芯片上通过动态实测自主学习沉淀。
这使得 ForgeKernel 能够迅速在不同国产芯片之间低成本迁移,在新一代国产硬件推出时,也无需再耗时数月重复搭建底层适配栈。
带来实打实的商业价值
在当今的 AI 算力规模下,底层算子提速 1% 究竟意味着什么?
据 Gartner 最新预测,2026 年全球 AI 基础设施支出将攀升至约 1.48 万亿美元。照此体量推算,算力执行效率每提升 1%,对应的就是高达约 148 亿美元的硬件与能耗开销节约。
对于国产算力芯片而言,这一收益尤为显著。
英伟达 CUDA 生态已经历十余年的人工打磨,现成的高性能算子十分丰富,AI 继续上探的物理边际相对有限;而国产算力配套的算子库仍在建设之中,大量算子尚未经过极端压榨与打磨,AI 介入后带来的性能跃升弹性明显更大。
ForgeKernel 团队在利用该系统调优模型训练框架时发现:相同的优化范式,在英伟达硬件上可带来 5%~10% 的性能提升,而在国产芯片上则能直接换来 20%~30% 的系统级提速。这意味着 ForgeKernel 能够以极快速度补齐国产芯片在训练与推理场景中的能效短板,加速缩小与国际顶尖生态的工程差距。
当代码生成的边际成本趋近于零,以往受限于工程师人力成本而难以实施的“特异化定制”(例如针对单一特定模型架构或单一型号芯片深度定制整套算子),将具备充分的商业可行性。
如今,这些超越人类专家的算子已经走出评测基准,迈向产业实际生产环境。
目前,由 ForgeKernel 生成的高性能算子已正式接入生产级训练框架,并在国产芯片与英伟达平台上完成了 MiniCPM5-1B 级别的大规模长训稳定性验证。
在这场算力基础设施重构中,一个重要趋势正在发生:以 DeepSeek-V4.1 为代表的高性能大模型,开始深度接管算子的生成与端到端编译调优;而这些 AI 生成的高效算子,又平稳运行在国产算力平台之上。
“国产模型写算子,国产芯片跑算子”的技术闭环正在加速成型。
这不仅是算子工程的一项突破,更是机器递归自进化(Recursive Self-Improvement, RSI)在工业界的真实写照:AI 研发与基础设施调优的行为主体,正在逐步由人类工程师转向模型本身。
正如面壁智能进化实验室首席科学家李宇轩所指出的,由于代码具备可被自动化测试与运行验证的天然确定性,工程落地往往会比纯理论研究更早达成演进闭环:
过去,类似 FlashAttention 这种需要重构数据流与硬件流水线的顶尖算子,资深专家团队往往需要数月甚至半年才能完成一次架构级跃进;而在目前的研发流程中,AI 超越当前顶尖人类实现的算子调优任务,最快只需两天便可完成闭环。
随着 ForgeKernel 的全面开源,这套自动化算子生成方法论也将转化为公共基础设施,为各家芯片厂商及大模型团队提供前所未有的工程交付效率。
过去国产芯片追赶顶尖生态,最坚固的阻碍往往并非硬件本身的理论 TOPS 算力,而是 CUDA 生态耗费十数年、由海量算法工程师构筑的算子库与软件栈壁垒。但在自进化 Agent 的范式下,依靠人力堆砌构建的时间壁垒正在被快速打破,端到端的自动化搜索正在直接求解软硬件协同的最优实现。
当**“国产模型写算子,国产芯片跑算子”**逐渐演化为底层系统工程的新范式,软件工程的主角正在悄然变迁。但这并不意味着人类专家的退场,而是其研发职责正在经历结构性重构:
工程师正从过去逐行打磨汇编与底层逻辑的代码工匠,进阶为负责搭建模拟环境、定义自进化目标与构建校验指标的系统架构师。
当人机协作演变为 AI 自主编写与人类高维把控,国产芯片从“能跑”走向“跑好”的技术鸿沟,正被 AI 以小时为单位快速抹平。