GGUF 模型:https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-GGUF
免费试用 Demo:https://playground.liquid.ai
“LFM2.5-24B-A2B 是一款总参数量为 24B、激活参数量仅为 2B 的推理模型,专为端侧设备上快速、私密的智能体(Agent)打造。它是 LFM2.5 家族中参数量最大且为收官之作的模型,该系列如今跨越了两个数量级:从 LFM2.5-230M 一直覆盖至 LFM2.5-24B-A2B。
- 同类最优智能体表现:在智能体与工具调用任务上,可匹敌总参数和激活参数量多出约 50% 的 Qwen3.6-35B-A3B;在 LiveClaw 基准测试中取得 48.09 分,高于后者的 38.19 分。
- 以 MoE 级的速度进行推理:回答前始终保持‘先思考’。每个 token 仅需 2B 激活参数,使得单 token 推理成本极低。
- 高能效推理:在端侧设备上的运行速度比同类 MoE 模型最高快 1.7 倍,在 Apple M5 Max 上的生成速度达 184 tok/s,在单张 NVIDIA B300 GPU 上最高可达 21K output tok/s。
LFM2.5-24B-A2B 是一款通用纯文本推理模型,具备以下规格:
- 总参数量:24.0B
- 激活参数量:2.45B
- 层数:40 层(30 个双门控短卷积块 + 10 个分组查询注意力 GQA 块)
- 专家数:每个 MoE 块包含 64 个专家,采用 top-4 路由
- 训练算力预算:36 万亿(trillion)tokens
- 词表大小:128,000
- 上下文长度:131,072 tokens
- 支持语言:英语、阿拉伯语、中文、法语、德语、意大利语、日语、韩语、葡萄牙语、西班牙语、越南语、泰语、印度尼西亚语、印地语、俄语、波兰语
- 推荐生成参数:
- temperature: 0.1
- top_k: 50
- repetition_penalty: 1.05”
热门讨论
Thrumpwart (⬆129): 哇,很棒的成果!必须尊重一家把自家的优势和劣势都公开发布的实验室。 -Cubie- (⬆36): 确实!天哪,我才意识到现在几乎根本见不到这种做法了。 random-tomato (⬆23): 卧槽,居然有 y 轴真正从 0 开始的柱状图?牛逼。 MiMillieuh (⬆53): 终于,我们这些“算力穷人”(GPU poor)迎来了很多好消息! Adventurous-Wing-988 (⬆26): 刚测完,太牛了!我写代码用 Cursor,日常对话用 6 美元的 GPT 订阅。这个模型完全足以替代那个 6 美元的订阅了。 Morphon (⬆28): 正在用我的测试套件跑它。到目前为止,抽象推理和逻辑方面表现不算太好,所有人文社科方向的测试都没通过。看起来它最主要的应用场景应该是智能体框架环境(agent harnesses),接下来准备测这个。好消息是,在一台 12GB 5070 + 64GB DDR3(更正:DDR4)系统上,它的持续输出速度稳定在 64 t/s(Q4 量化)。在 Zen5 笔记本上仅凭 CPU 推理居然也完全可用。所以——速度奖绝对稳拿。 danigoncalves (⬆41): 一个更快的 Qwen 3.6 35B A3B? pmttyji (⬆34): 终于来了!我本来正想在下面提问,但直接在模型卡里找到答案了:用于 SGLang 投机解码(Speculative Decoding)以实现更快生成的草稿模型(draft model)LFM2.5-24B-A2B-DSpark 即将发布。