r/LocalLlama の皆さん、こんにちは——
本日、現時点で米国最強の性能を誇るオープンウェイト(open-weight)モデル「Muse Spark Open」をリリースできることを大変嬉しく思います。
本モデルはコーディングやエージェントタスク(agentic tasks)向けに特化して構築されており、長期的なタスク(long-horizon tasks)、複雑なソフトウェアエンジニアリング、多段階の推論において極めて優れた性能を発揮します。
主要スペック
- パラメータ数:総パラメータ 816B / アクティブパラメータ 42B
- コンテキストウィンドウ:1M tokens
- モダリティ:テキスト、画像、動画、音声
- 安全性に関するポストトレーニング:追加の安全性ポストトレーニングを実施済み。評価は Meta の Superintelligence Scaling Framework(超知能スケーリングフレームワーク)に基づいて行われました。
推論、ファインチューニング、デプロイ
- Helion GPU カーネル:SGLang にカスタムかつ自動チューニング可能な Helion カーネルを同梱。NVIDIA および AMD GPU 上で 1.03〜3.95 倍のカーネル高速化を実現し、AMD MI350 上で 3% のエンドツーエンド(E2E)性能向上を達成しています。
- 推論エンジン:SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、Apple MLX、llama.cpp、Unsloth などの主要な推論エンジンで動作し、AMD、Apple、Intel、NVIDIA の各チップ向けに最適化されています。
- Apple Silicon への最適化:より多くのユーザーが最先端モデルを利用できるようにするため、Muse Spark Open は最新の MLX フレームワークを実行する 2 台の Apple M5 Ultra Mac Studio 上で動作するよう特別に最適化されています。
- ファインチューニング:開発者は PyTorch を使ってモデルをさらにカスタマイズでき、TorchTitan による微調整も可能です。
- API プラットフォーム:本日から Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter、Together AI 経由で利用可能です。
- ダウンロード:モデルの重みは Amazon SageMaker AI、Google Cloud Model Garden、Hugging Face、Microsoft Foundry Models からダウンロード可能です。
本モデルの重みは、制限付き商用条項を含む Muse Model License(Muse モデルライセンス)の下で公開されており、幅広い開発者が無料で利用できるようになっています。
皆様からのフィードバックをお待ちしています!
詳細についてはリサーチブログをご覧ください:https://go.meta.me/museopen
重みのダウンロード:https://huggingface.co/collections/meta-models/muse-spark-open
人気のコメント
Normal_Charge_2821 (⬆132):とんでもないモンスター級モデルだな。
Sneaky_Bastard (⬆34):でも大歓迎だよ。
VelvetEchoes919 (⬆49):頼むから 27B バージョンも作ってくれ!:)
DeathToOrcs2 (⬆54):そしたら名前は「Muse Glimmer」で決まりだな!
kubblegum (⬆39):これ、Muse Spark 1.2 だよね?正直、思ってたよりずっと小さい。このサイズ感でこの性能が出るならマジでヤバい。
uncle_leon (⬆73):まあ、俺に言わせれば連中の好きにさせとけばいい。強欲な大企業のクソ野郎どもに自分のデータを渡す気なんてこれっぽっちもないしな……
FullstackSensei (⬆36):あるいは unsloth や bartowski たちが GGUF 版を出してくれるのを待てばいい。結局みんなそれを動かすことになるんだから。前の Llama モデルにも同じようなライセンス同意要件があったけど、一度も登録したことないわ。
Temporary_Idea8880 (⬆39):30分後には誰かが HF(Hugging Face)に再アップロードするから、それを落とせばいいだけ。