Muse Glimmer: セットアップガイドとローカルエージェントのパフォーマンス - ビジョン

Muse Glimmer: セットアップガイドとローカルエージェントのパフォーマンス

ローカルAIエージェント向けにMuse Glimmer 30Bモデルをセットアップ、構成、最適化する方法(ハードウェア仕様やベンチマーク比較を含む)を学びましょう。

2026-08-11
muse glimmer Wiki チーム
クイックガイド
  • Muse Glimmer は、1.8Bのビジョンエンコーダーを備えた29.6Bパラメータの密結合言語モデルです
  • ローカルデプロイ は、4ビット量子化により24GBのVRAMをターゲットとして、コンシューマー向けハードウェアに最適化されています
  • DFlashドラフター は、パスごとに16トークンのブロックを提案することで、トークン生成を最大3.1倍高速化します
  • Apache 2.0ライセンス により、制限的なユーザー上限なしで商用利用が可能です
  • エージェントベンチマーク は強力なツール呼び出しパフォーマンスを示していますが、コーディングタスクも依然として競争力があります

Muse Glimmerの概要とアーキテクチャ

Muse Glimmerは、Metaが2026年8月10日にリリースしたオープンソースのエージェントAIモデルです。常時稼働のローカルエージェント向けに特別に設計されており、クラウドAPIに依存せずに深いパーソナルコンテキスト処理を強調しています。多くのコミュニティライセンスの代替品にある商用制限を排除した、真に寛容なApache 2.0ライセンスで提供されています。

動画のハイライト:

  • 296億パラメータの密結合モデル(MoEではない)
  • マルチモーダル入力のための18億パラメータのビジョンエンコーダー
  • 拡張された会話のための131,000トークンのコンテキストウィンドウ
  • Metaのより大きなMuse Sparkモデルからのロジット蒸留による学習
  • DFlashブロック拡散ドラフターが1回のフォワードパスで16トークンを提案

アーキテクチャはMoE(専門家モデルの混合)を避け、密結合構造を採用しているため、デプロイはシンプルになりますが、メモリ管理には注意が必要です。付属のビジョンエンコーダーにより、モデルはテキストと一緒に画像を処理できるため、画面読み取りエージェントやファイル整理タスクに適しています。

設計哲学

コアとなる設計要件は、コンシューマーがすでに所有しているハードウェアに能力のあるエージェントを搭載することでした。24GBのVRAM枠をターゲットにすることで、Metaはエンタープライズグレードのインフラを必要とせずに、ローカルエージェントAIを利用可能にしました。

コア仕様

仕様備考
パラメータ29.6B(密結合)MoCルーティングなし
ビジョンエンコーダー1.8B画像とテキストを処理
コンテキストウィンドウ131,000トークン拡張エージェントループをサポート
ライセンスApache 2.0真に寛容、ユーザー上限なし
量子化~4ビットモデルを20GB未満に削減

学習パイプライン

モデルは3つの異なるフェーズで学習され、それぞれが前の段階の機能を基に構築されています。

フェーズ手法重点分野
事前学習Muse Sparkからのロジット蒸留完全な出力分布に一致
中間学習エージェント中心のデータ拡充より長いコンテキスト、より豊かな推論トレース
事後学習SFT + ポリシー上蒸留 + RLアライメントと指示追従

ハードウェア要件と量子化

コンシューマー向けハードウェアで30Bパラメータのモデルを実行することは、エンジニアリング上の大きな課題をもたらします。フル精度(BF16)の場合、モデルは55GB以上のVRAMを必要とし、これは2026年に利用可能な単一のコンシューマー向けグラフィックカードの容量を超えています。

メモリ予算

フル精度の場合、Muse Glimmerは55GB以上を必要とします。Metaの4ビット量子化により、言語モデルは20GB未満になり、KVキャッシュ、ビジョンエンコーダー、DFlashドラフターのための24GB枠内に重要な空き容量が残ります。

Metaのソリューションには、約4ビットへの積極的な量子化が含まれており、これにより言語モデルのフットプリントは20GB未満に削減されます。これにより、24GBのVRAM予算内に約4GBの空き容量が残り、同時に常駐しなければならない3つのコンポーネント(KVキャッシュ、ビジョンエンコーダー、DFlashドラフターネットワーク)のためのスペースが確保されます。

量子化のトレードオフ

構成VRAM使用量性能低下ターゲットハードウェア
フル精度 (BF16)55GB+なし(ベースライン)マルチGPU / エンタープライズ
4ビット量子化20GB未満15のベンチマークで平均約1%RTX 5090 / 24GBカード
GGUF (Unsloth)~17GB (Q_K)最小、フォーマット依存24GBコンシューマーカード
GGUF Dynamic~22GB (Q_K_D)最小、フォーマット依存32GBコンシューマーカード
性能低下の詳細

Metaは、4ビット量子化を使用した際、15のベンチマークで平均して1%の性能低下を測定しました。これは、VRAM要件を半分以上削減するための、驚くほど小さなトレードオフです。

利用可能な重みアーティファクト

Metaは、Hugging Faceのmeta-llama組織の下で3つの主要なアーティファクトと、別個のDFlashドラフターの重みを公開しました。

アーティファクトフォーマット主な使用例
フル精度BF16ファインチューニングと研究
4ビットビルド(標準)量子化24GB VRAMデプロイ
4ビットビルド(動的)量子化32GB VRAMデプロイ
DFlashドラフター別個ブロック拡散の高速化

DFlashドラフターと推論速度

Muse Glimmerにおける最も技術的に興味深い最適化は、DFlashドラフターです。これは、推論中のトークンの生成方法を根本的に変える5層のブロック拡散ネットワークです。

妥協のないスピード

DFlashの検証は正確であるため、出力は1トークンずつのデコーディングで生成されるものと完全に一致します。回答の品質を変えることなく、最大3.1倍の速度向上が得られます。

通常、言語モデルは1回のフォワードパスで1つのトークンを出力するため、長い推論チェーンは遅く感じられます。DFlashドラフターは、1回のパスで16トークンのブロック全体を提案します。メインモデルはその後、16個すべてのトークンを並行して検証し、同意したものを保持し、同意しなかった最初のトークンを修正します。

測定されたスループットの向上

ハードウェアベースライン (tok/s)DFlash適用時 (tok/s)高速化
RTX 509074.9233.43.1x
M5 Maxベースラインベースライン x1.81.8x
M4 Maxベースラインベースライン x1.51.5x
ベンチマークの注意点

これらの数値は、ベンダーによって測定されたバッチサイズ1の貪欲デコーディングを表しています。ツール呼び出し、ファイルI/O、複数ターンの推論を伴う実際のエージェントループでは、これらの正確な数値は達成できません。

ステップバイステップのローカルセットアップガイド

ローカル推論のためにMuse Glimmerをセットアップするには、適切なランタイムの選択、適切な重みのダウンロード、生成パラメータの構成が必要です。標準的なローカルデプロイには以下の手順に従ってください。

1

ランタイムを選択する

サーバーデプロイの場合、vLLMとSGLangはどちらもモデルパスを直接受け入れます。デスクトップでの使用については、コミットする前に互換性を確認してください。llama.cpp、MLX、ExecuTorchの統合はローンチ時にもまだ到着していたところです。OllamaとLM Studioは近日対応予定としてリストされていました。

2

Hugging Faceから重みをダウンロードする

Hugging Faceのmeta-llamaモデルリポジトリに移動します。24GBのカードの場合、4ビット標準ビルド(約17GB)をダウンロードします。32GBのカードの場合、4ビット動的ビルドをダウンロードします。ブロック拡散の高速化が必要な場合は、DFlashドラフターの重みを別個にダウンロードしてください。

3

生成パラメータを構成する

Metaは最適なパフォーマンスのために特定の設定を推奨しています。temperatureを1.0、top_pを0.95、top_kを64に設定します。これらの値はベンチマークテスト中に使用され、チューニングされたベースラインを表しています。

4

推論強度を設定する

システムプロンプトで推論強度を構成します。オプションは、低、中、高、または超高です。エージェントおよびコーディングワークロードの場合は、高または超高を使用してください。Metaによって公開されたベンチマーク数値は、高の推論設定で測定されたものです。

5

確認してテストする

簡単なエージェントループを実行して、KVキャッシュ、ビジョンエンコーダー、ドラフターがすべてVRAM予算内にロードされていることを確認します。メモリ使用量を監視して、システムRAMに何も溢れていないことを確認します。溢れた場合、パフォーマンスが著しく低下します。

推論強度の重要性

Muse Glimmerを低い推論強度で実行すると、ベンチマークレポートで読んだモデルを実行していることにはなりません。意図されたパフォーマンスプロファイルを得るために、エージェントタスクには常に高または超高を使用してください。

推奨される生成設定

パラメータ推奨値目的
Temperature1.0生成のランダム性を制御
Top_p0.95核サンプリングの閾値
Top_k64各ステップのトークンプールを制限
推論強度高 / 超高推論トレースの深さを制御

ベンチマーク分析:長所と短所

Metaのベンチマーク比較では、Muse GlimmerをGemma 4 31BおよびQwen 3.6 27Bと比較しています。エージェント的な勝利は本物ですが、表全体を注意深く読むと、見出しが示唆するよりも微妙な状況が明らかになります。

表全体を読む

MetaがQwen 3.6に対して3つのモデルすべてをリストしているすべての行で、Muse Glimmerは12勝10敗です。これは圧勝ではなく、本質的にコイントスのようなものです。負けている特定のカテゴリには注意が必要です。

エージェントベンチマークでの勝利

ベンチマークMuse GlimmerQwen 3.6 27BGemma 4 31B
MCP Atlas (ツール呼び出し)75.562.554.2
Gaia 2 (ディープサーチQA)勝ち負け負け
AIME 2026勝ち負け負け
指示追従勝ち負け負け

Glimmerが劣るカテゴリ

ベンチマークMuse GlimmerQwen 3.6 27B
SWE-bench Verified76.077.2-1.2
Terminal Bench51.760.7-9.0
OSWorld Verified65.975.6-9.7
コーディングエージェントの現実確認

Glimmerが最も大きく遅れをとっている3つのベンチマーク(SWE-bench、Terminal Bench、OSWorld)は、実際のコーディングエージェントのワークロードに最も近いものです。主な使用例がローカルのコーディングエージェントである場合、Meta自身の表によると、Code Llama 3.6も依然として魅力的な選択肢です。

プライバシーとセキュリティの考慮事項

ローンチ報道で受けたよりも注目に値する数値の1つは、CI Memories違反率です。これは、モデルがユーザーの代わりに行動している間に、漏らしてはいけない情報を漏らすかどうかを測定するものです。

モデルCI Memories違反率
Muse Glimmer26.4%
Gemma 412.1%
Qwen 3.6非公開
プライバシーのリスク

Muse Glimmerを実際の受信箱や機密ファイルに向けている場合、26.4%という違反率は真剣に検討する必要があります。このギャップは、個人情報や機密データを扱うユーザーにとって、エージェントベンチマークでの勝利よりも実質的に重要です。

デプロイの比較と推奨事項

デプロイのシナリオが異なれば、必要なモデル構成も異なります。一般的なユースケースにおけるMuse Glimmerの比較は以下の通りです。

ローカルエージェント(一般)

  • 最適な選択肢: Muse Glimmer
  • 強力なツール呼び出し (MCP Atlas: 75.5)
  • 4ビット量子化で24GB VRAMに収まる
  • Apache 2.0が商用リリースを許可
  • CI Memories違反率に注意

ローカルコーディングエージェント

  • 最適な選択肢: Code Llama 3.6
  • SWE-benchとTerminal Benchで優れている
  • コーディングにおいてMeta自身の表もこれを支持
  • ツール呼び出しが主な場合はGlimmerを検討

プライバシーが重要なタスク

  • 注意して使用
  • CI Memories違反率が26.4%
  • Gemma 4の方が12.1%で安全
  • 改善のためにローンチ後のパッチを待つ
これは誰向け?

リリースを許可するライセンスの下で、すでに所有しているハードウェア上で、計画を立て、ツールを呼び出し、障害から回復するローカルエージェントをお探しの場合、Muse Glimmerは2026年現在リリースされている中で最も強力な選択肢です。

デプロイ前チェックリスト:

  • GPUに少なくとも24GBのVRAMがあることを確認する
  • Hugging Faceから4ビット量子化された重みをダウンロードする
  • ランタイムがモデルをサポートしていることを確認する (vLLM, SGLang, llama.cpp)
  • temperatureを1.0、top_pを0.95、top_kを64に設定する
  • エージェントタスクのために推論強度を高または超高に構成する
  • ユースケースにおけるCI Memoriesのプライバシーへの影響を確認する
  • 推論高速化のためにDFlashドラフターを別途ダウンロードする

FAQ

Q: Muse Glimmerとは何ですか?また、いつリリースされましたか?

Muse Glimmerは、18億パラメータのビジョンエンコーダーを備えた296億パラメータの密結合エージェントAIモデルであり、2026年8月10日にMetaによってオープンソース化されました。常時稼働のローカルエージェント向けに設計されており、Apache 2.0ライセンスの下で提供されています。

Q: Muse Glimmerはコンシューマー向けGPUで実行できますか?

はい。4ビット量子化により、言語モデルは20GB未満に収まるため、RTX 5090などの24GB VRAMコンシューマーカードにデプロイ可能です。残りの空き容量でKVキャッシュ、ビジョンエンコーダー、DFlashドラフターに対応できます。

Q: DFlashドラフターはどのように推論速度を向上させますか?

DFlashドラフターは、1つではなく1回のフォワードパスで16トークンを提案する5層のブロック拡散ネットワークです。メインモデルは16個すべてのトークンを並行して検証し、標準デコーディングと同じ出力を生成しながら、RTX 5090で最大3.1倍の高速化を実現します。

Q: コーディングタスクにおいて、Muse GlimmerはQwen 3.6より優れていますか?

必ずしもそうとは限りません。Muse Glimmerはツール呼び出しとエージェントベンチマークで勝っていますが、実際のコーディングエージェントのワークロードに最も近いSWE-bench Verified、Terminal Bench、OSWorld VerifiedではQwen 3.6 27Bに遅れをとっています。Code Llama 3.6もコーディング固有のユースケースにおいて依然として競争力があります。

Q: どのようなプライバシーの懸念に注意する必要がありますか?

Muse GlimmerのCI Memories違反率は26.4%であり、これはユーザーの代わりに行動している間にモデルが漏らしてはいけない情報を漏らすかどうかをテストするものです。これはGemma 4の12.1%の率よりも大幅に高くなっています。モデルを実際の受信箱や機密性の高い個人データに向ける場合は注意が必要です。