コンテンツにスキップ
メインサイト ニュース コンソール

Liquid AIのLFM2.5-24B-A2Bモデル

· Reddit · r/LocalLLaMA 翻訳済
Reddit

GGUF モデル: https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-GGUF

無料体験デモ: https://playground.liquid.ai

「LFM2.5-24B-A2B は、総パラメータ数 24B、アクティブパラメータ数わずか 2B の推論モデルであり、エッジデバイス上で高速かつセキュアに動作するエージェント(Agent)向けに開発されました。LFM2.5 ファミリーの中で最大規模かつ集大成となるモデルであり、同シリーズは LFM2.5-230M から LFM2.5-24B-A2B まで、2桁のオーダーにわたるラインナップをカバーしています。

  • 同クラス最高峰のエージェント性能: エージェントおよびツール呼び出し(Tool Calling)タスクにおいて、総パラメータ・アクティブパラメータが約 50% 多い Qwen3.6-35B-A3B に匹敵。LiveClaw ベンチマークでは 48.09 スコアを記録し、後者の 38.19 スコアを上回っています。
  • MoE クラスの超高速推論: 回答前に常に『思考プロセス』を実行。1トークンあたりのアクティブパラメータがわずか 2B で済むため、トークンあたりの推論コストを極めて低く抑えられます。
  • 高効率な推論: エッジデバイス上では同クラスの MoE モデル比で最大 1.7 倍高速に動作し、Apple M5 Max での生成速度は 184 tok/s、単一の NVIDIA B300 GPU 上では最大 21K output tok/s に達します。

LFM2.5-24B-A2B は汎用のテキスト推論モデルであり、仕様は以下の通りです。

  • 総パラメータ数: 24.0B
  • アクティブパラメータ数: 2.45B
  • レイヤー数: 40 層(デュアルゲート付きショート畳み込みブロック 30 個 + Grouped-Query Attention (GQA) ブロック 10 個)
  • エキスパート数: 各 MoE ブロックに 64 エキスパート(Top-4 ルーティングを採用)
  • 学習トークン数: 36 兆(trillion)tokens
  • ボキャブラリサイズ: 128,000
  • コンテキスト長: 131,072 tokens
  • 対応言語: 英語、アラビア語、中国語、フランス語、ドイツ語、イタリア語、日本語、韓国語、ポルトガル語、スペイン語、ベトナム語、タイ語、インドネシア語、ヒンディー語、ロシア語、ポーランド語
  • 推奨生成パラメータ:
    • temperature: 0.1
    • top_k: 50
    • repetition_penalty: 1.05」

注目のディスカッション

Thrumpwart (⬆129): おお、素晴らしい成果だ!自社の強みだけでなく弱点まできちんとオープンに公開する研究チームにはリスペクトしかない。 -Cubie- (⬆36): まさにそれ!言われてみれば、最近はこういう姿勢をすっかり見かけなくなっていたと気づかされたよ。 random-tomato (⬆23): マジか、y 軸がちゃんと 0 から始まっている棒グラフだと……?最高すぎる。 MiMillieuh (⬆53): ついに、我々「GPU 貧乏(GPU poor)」勢にもたくさんの朗報が届いたな! Adventurous-Wing-988 (⬆26): さっきテストし終えたけど、めちゃくちゃ凄い!コードは Cursor を使って、日常の会話用には月額 6 ドルの GPT サブスクを契約してるんだけど、このモデルならその 6 ドルのサブスクを完全に置き換えられそうだ。 Morphon (⬆28): 自分のテストスイートで検証中。今のところ、抽象的な推論や論理面はそこまで強くなくて、人文・社会科学系のテストはすべて落としている。主なユースケースはエージェントフレームワーク(agent harnesses)環境になりそうだから、次はそこを試してみる予定。朗報としては、12GB 5070 + 64GB DDR3(訂正:DDR4)の環境で、持続的な出力速度が 64 t/s(Q4 量子化)で安定していること。Zen5 ノート PC なら CPU 推論だけでも普通に実用レベルで動く。文句なしでスピード賞は確定だな。 danigoncalves (⬆41): より高速な Qwen 3.6 35B A3B って感じか? pmttyji (⬆34): ついに来た!コメントで質問しようと思っていたんだが、モデルカードに直接答えが書いてあった。SGLang の投機的デコーディング(Speculative Decoding)でさらに高速生成を可能にするドラフトモデル(draft model)「LFM2.5-24B-A2B-DSpark」がまもなくリリースされるらしい。