今週は本当に激動の1週間だった。手短に振り返ってみよう。すべてのデータは公式リポジトリとモデルカード(Model Card)に基づいている:
木曜日:MetaがMuse Spark Openをリリース。総パラメータ数 816B、アクティブパラメータ 42B、コンテキスト長 1M。リリースのアナウンスでは、エージェントAI(Agentic AI)を「あなたのデスクトップ環境に届ける」と謳っている。だが、ここで言う「デスクトップ」とは、それぞれ512GBのユニファイドメモリを搭載した2台の M5 Ultra Mac Studio のことだ。Appleによればこの構成の出荷は「10月下旬」以降で、価格も現時点では未公表となっている。もうひとつの選択肢は256GBのStudioを4台用意することだが、総額は約3万8000ドルに達する。さらに本モデルは独自のライセンスを採用しており、「Built with Muse Spark Open」のクレジット表記が義務付けられているほか、売上が2000万ドルを超えた場合は個別の商用契約が必要となる。加えてMeta公式のモデルカードによると、Artificial Analysis インデックスのスコアは39にとどまり、GLM 5.3(45点)や Kimi K3(44点)の後塵を拝している。
同日:NVIDIAがNemotron 3.5 Boltをリリース。総パラメータ数 74B、アクティブパラメータ 9B。最小2-bitまでの量子化考慮学習(quantization-aware training)が施されており、モデル全体でわずか22GB、ビジョンプロジェクター(vision projector)を追加しても+1.7GBに収まる。24GB VRAMに詰め込めるよう完全に特化して作られている。初日から Unsloth GGUF 形式が提供され、llama.cpp、Ollama、LM Studio に対応している。
金曜日:ReflectionがついにBeamを正式リリース。総パラメータ数 501B、アクティブパラメータ 23B。ライセンスはApache 2.0で、一切の制約条件はない。公式の最小チェックポイント(checkpoint)は NVFP4 形式で、サイズは294GB。
土曜日の午後:DeepSeekがいつもの日常ポストのようなノリでX上にV4.1 Flash 1017をポロッと公開。ライセンスはMIT。公式ベンチマーク表によれば、DeepSWE スコアは77.0を記録し、Opus 5の74.0を上回っている(あくまで公式ベンダーの公表値であり、参考程度だが)。リポジトリ全体のサイズは510GB。
そこで、これらをすべて1つのチャートにまとめ、我々の多くが死守している「24GB VRAM」というボーダーラインと比較してみた。
個人的な所感:
- 「ローカル実行」という言葉は、今や「車より高いパソコンで動かすこと」を意味するようになった。
- ずっと我々に24GB GPUを売りつけてきたあの企業が、皮肉にも今週唯一、24GB GPU向けに専用設計されたモデルを提供した組織だった。これが良心の芽生えなのか、それとも新たなセールスファネル(購買誘導の罠)なのかは分からないが。
- パラメータ数以上に、今週はオープンソースライセンスの違いが際立っていた。DeepSeekとReflectionがMITやApache 2.0を提供したのに対し、「オープンソース」のマーケティングを一番声高に叫んでいた企業は、強制的なクレジット表記やレベニューシェア条項を課してきた。
- MistralはLarge 4(コードネーム「Le Chonk」、総パラメータ数 1T)の重みを今月末までにリリースすると発表しており、24GB勢はますます肩身が狭くなりそうだ。
注目のディスカッション
Writer_IT (⬆56): ガッカリなのは確かだが、いずれ新たな中・小型モデルが登場するはずだ。小容量GPU向けの Qwen 3.8 27b がリリースされてからまだ数ヶ月しか経っていないし、「現実的にローカル実行可能な範疇」には deepseekv4 flash vision という怪物もいる。後者に関して言えば、コーディングを含めてこなせないタスクを正直見たことがない。たった1年のスパンで起きた技術的進歩は信じられないほどだ。超巨大モデルも依然としてエコシステムには有益で、クラウドプロバイダーにコスト削減を迫る役割を果たしている。
KontoOficjalneMR (⬆42): しかも独自ライセンスだしね。「Built with Muse Spark Open」のクレジットが義務付けられていて、売上が2000万ドルを超えたら別途交渉が必要になる。さらにMeta自身のモデルカードでも Artificial Analysis インデックスのスコアは39とされていて、GLM 5.3(45)や Kimi K3(44)に負けている。
Moarkush (⬆158): 「オープンウェイト(Open weight)」は決して「手元のローカルハードウェアで動く」という意味ではない。オープンウェイトとはプロプライエタリ(非公開・独占的)ではないという意味であって、「ゲーミングGPUで動かせる」という意味ではないんだ。
theone_2099 (⬆39): ついでに言っておくと、「オープンウェイト(Open weight)」と「オープンソース(Open source)」はまったくの別物だからな。
615wonky (⬆87): みんな LFM2.5-24B-A2B を見落としている。絶対に見逃すべきじゃないモデルだ。スペック以上のとんでもない性能を発揮している。https://huggingface.co/LiquidAI/LFM2.5-24B-A2B これにPythonで基底2 FFT(radix-2 FFT)を実装させてみたが、一発で動作した。このパラメータ規模としては、コーディング能力は間違いなくトップクラスに強い。
djc0 (⬆33): ちなみに、「hits far harder than it has any right to(スペック以上のとんでもない性能を叩き出す)」なんて言い回し、リアルで実際に使う人いる? それとも僕らはすでにAIの支配者に口調を真似させられ始めているのか。
Acceptable_Push_2099 (⬆42): アクティブパラメータも総パラメータも少なく、KVキャッシュ(KV cache)も小さいのに、少し前に同規模のMoEで最強だったモデルよりも過大評価されてるって言いたいの?
mitchins-au (⬆34): ROCmに対する彼らのサポート状況、特に Strix Halo への対応っぷりを見れば、なぜ彼らがわざわざ手間をかけないのかは容易に想像がつくよ。