Model Explainer / 2026-07-28
中国 Moonshot AI が 2026 年 7 月に公開した、総パラメータ 2.8 兆・アクティブ 104B の MoE モデル。「世界初のオープン 3T 級モデル」を名乗り、重みが実際にダウンロード可能になった最大級のモデルである。
| 項目 | 値 | 意味・注記 |
|---|---|---|
| アーキテクチャ | Mixture-of-Experts | 93 層 / うち dense 層は 1 層のみ |
| Attention 構成 | KDA 69 層 + Gated MLA 24 層 | 線形系と全結合系のハイブリッド |
| エキスパート | 896 個中 16 個を選択 + 共有 2 個 | K2 世代から大幅に高スパース化 |
| Attention Hidden / Heads | 7168 / 96 | — |
| Latent MoE 次元 | 3584(エキスパート内 3072) | Stable LatentMoE |
| 語彙 | 160K | — |
| 活性化関数 | SiTU-GLU | Sigmoid Tanh Unit |
| 量子化 | MXFP4 重み / MXFP8 活性化 | SFT 段階から量子化前提で学習(QAT) |
| 思考モード | 常時 ON | reasoning_effort = low / high / max(既定 max) |
| ライセンス | Kimi K3 License | MIT 派生の独自ライセンス(後述) |
Moonshot の主張の中心は「大きくした」ではなく「同じ計算量からより多くの知能を取り出せるようにした」という点にある。K2 比でスケーリング効率 約 2.5 倍を掲げている。
93 層のうち 69 層で使われる線形系アテンション。長いコンテキストでも計算コストが二乗で膨らまないようにしつつ、残り 24 層の Gated MLA で選択性・表現力を確保する。1M コンテキストを「価格的に成立させる」ための土台。
深さ方向の情報伝達の作り替え。従来のように各層の表現を一律に積み上げるのではなく、必要な表現を層をまたいで選択的に取り出す。
896 中 16 という高スパース性では、ルーティングと最適化そのものが最大の難所になる。ここに次の 2 つを投入している。
エキスパート並列を大規模化しても詰まらないよう、静的シェイプ・クリティカルパス上のホスト同期なしの「完全バランス型エキスパート並列学習」を導入。運用面では 64 基以上のアクセラレータを載せたスーパーノード構成を推奨している。また KDA は従来のプレフィックスキャッシュと相性が悪いため、対応実装を vLLM コミュニティに提供している。
K3 の売りは「人の監視をほぼ外して長いエンジニアリング作業を続けられること」。Moonshot が挙げた自社検証は以下。
加えて「vision in the loop」— コードとライブスクリーンショットを往復しながら自己修正する挙動を推している。ゲーム開発、フロントエンド、CAD が想定用途。
Kimi Work 側の事例として、42 年分の AI ASIC 産業を扱うインタラクティブ調査サイト(120 回超の再帰的自己改善、Web 検索/取得 2,800 回超、ターミナル経由のデータ取得 1,100 回超、四半期報告 87 件と原典 PDF 99 件を含む 11,000 ページ超)、核融合産業レポート、重力波イベント 391 件を 20 以上の並列サブエージェントで解析した GWTC-5 分析などを公開。
新機能として Widgets(チャット内で生成する対話コンポーネント、ローカルデータや外部プラグインと接続して更新)と Dashboard(気に入った Widget をテーマ別に常設ビューへ集約)を導入。動画編集では、56 本のソースクリップから自身のティザー動画を、クリップ選定・モーションマッチカット・ビート同期・音声処理まで含めて編集したとしている。
Moonshot 公表値。すべて reasoning_effort=max、temperature 1.0。緑は行内最高。
| ベンチマーク | Kimi K3 | Fable 5 | GPT-5.6 Sol | Opus 4.8 | GLM-5.2 |
|---|---|---|---|---|---|
| 推論・知識 | |||||
| GPQA Diamond | 93.5 | 92.6 | 94.1 | 91.0 | 91.2 |
| HLE-Full(ツール無/有) | 43.5 / 56.0 | 53.3 / 63.0 | 44.5 / 58.0 | 49.8 / 57.9 | — |
| CritPt(物理) | 23.4 | 28.6 | 32.3 | 20.9 | 20.9 |
| AA-LCR(長文推論) | 74.7 | 70.0 | 73.7 | 67.7 | 71.3 |
| コーディング | |||||
| DeepSWE | 67.5 | 70.0 | 73.0 | 59.0 | 46.2 |
| ProgramBench | 77.8 | 76.8 | 77.6 | 71.9 | 63.7 |
| Terminal-Bench 2.1 | 88.3 | 88.0 | 88.8 | 84.6 | 82.7 |
| FrontierSWE | 81.2 | 86.6 | 71.3 | 66.7 | 67.3 |
| SWE-Marathon | 42.0 | 35.0 | 39.0 | 40.0 | 13.0 |
| SciCode | 58.7 | 60.2 | 56.1 | 53.5 | 50.5 |
| Kimi Code Bench 2.0(自社) | 72.9 | 76.9 | 64.8 | 71.7 | 64.2 |
| エージェント | |||||
| BrowseComp | 91.2 | 88.0 | 90.4 | 84.3 | — |
| MCPMark-Verified | 94.5 | 87.4 | 92.9 | 76.4 | — |
| GDPval-AA v2(Elo) | 1686 | 1747 | 1736 | 1593 | 1510 |
| AA-Briefcase(Elo) | 1548 | 1583 | 1495 | 1354 | 1260 |
| Harvey Lab-AA(法務) | 94.6 | 93.6 | 87.2 | 91.1 | 91.0 |
| OfficeQA Pro | 63.3 | 69.9 | 63.2 | 63.9 | 41.4 |
| τ³-Banking | 33.4 | 26.8 | 33.0 | 27.6 | 26.8 |
| ビジョン | |||||
| OmniDocBench | 91.1 | 89.8 | 85.8 | 87.9 | — |
| Video-MME(字幕付) | 90.0 | — | 89.5 | 86.0 | — |
| MMMU-Pro | 81.6 / 83.4 | 81.2 / 86.5 | 83.0 / 84.6 | 78.9 / 82.7 | — |
| CharXiv (RQ) | 84.8 / 91.3 | 88.9 / 93.5 | 84.6 / 89.1 | 80.5 / 89.9 | — |
公式表はモデルごとに異なるハーネスで走っている(K3 = Kimi Code、Claude 系 = Claude Code / Terminus 2、GPT 系 = Codex)。同一条件比較ではない。
📍解釈:「Kimi K3 のスコア」は常に「K3 + 特定のハーネス + 特定の設定」を意味する。単一ベンチの数字を根拠に採否を決めるべきではない。
| 経路 | 内容 |
|---|---|
| Kimi アプリ / Web | iOS・Android・HarmonyOS、kimi.com |
| Kimi Work | デスクトップアプリ 3.1.0 以降。Windows と Apple Silicon Mac 対応 |
| Kimi Code(CLI) | ターミナルで /model から K3 を選択。Moonshot 推奨のハーネス |
| API | platform.kimi.ai でモデル ID kimi-k3。OpenAI / Anthropic 互換 |
| 重み | Hugging Face moonshotai/Kimi-K3(2026-07-27 公開)+ 技術レポート PDF |
| 推論エンジン | vLLM / SGLang / TokenSpeed(各公式レシピあり)。Together AI・Modal などが day-0 ホスティング |
| 企業向け | Kimi Enterprise(個人アカウントと組織アカウントを完全分離) |
K2.6 は $0.95 / $4.00 だった。約 3〜4 倍の値上げである。入力 100 万 + 出力 20 万トークンの仕事で試算すると:
上記は公表単価からの単純計算(Python で検算済み)。📍解釈:Moonshot は「安さで勝つ」路線を降り、能力で勝負する価格帯に移動した。既定が max effort なので、短いプロンプトでも思考トークンが膨らみコストが読みにくい点に注意。
重みが公開されたことと、手元で動くことは別問題。総パラメータ 2.8T をネイティブ MXFP4(4bit + 32 要素ごとのスケール)で保持した場合の重み容量を計算すると:
ここに KV キャッシュ(1M コンテキスト)、活性化、並列化のオーバーヘッドが乗る。Mac も Windows も本番デプロイ先にはならない。実質 Linux + NVIDIA(または同等)クラスタ専用である。
📍数値の食い違いに注意:一部の解説記事は「BF16 で約 594GB」と書いているが、2.8T パラメータ × 2 バイト = 5.6TB なので算術的に成立しない(おそらく別モデルの数字の転記)。1.4〜1.5TB(4bit 系)を出発点にするのが妥当。上記は当方で検算した値。
Moonshot 自身が launch 後 48 時間で GPU 容量の限界に達し、7 月 19 日に新規サブスクリプションを一時停止している(既存契約者は影響なし)。以後、会員プランを Kimi Membership(Web/App/Work)と Kimi Code Membership(コーディング)に分割すると発表。運営元でさえ計算資源の壁に当たった、という事実がセルフホストの難易度をよく表している。
Apache 2.0 や MIT ではなく、独自の「Kimi K3 License」。文面の大部分は MIT に近く、使用・複製・改変・配布・サブライセンス・販売、および重みの実行・デプロイ・ファインチューン・派生物作成を無償で認める。ただし大規模事業者向けに 2 つの条件がある。
社内利用、および Moonshot 公式製品や認定推論パートナー経由の利用はこれらの対象外。Artificial Analysis はこのライセンスを「Commercial Use Restricted(商用利用制限あり)」に分類している。
📍実務的には:中小企業・個人事業レベルなら閾値に触れないので、事実上「商用可のオープンウェイト」として扱える。ただし「MIT だから安心」と説明するのは誤り。ライセンス名を正確に伝えること。
reasoning_content と tool_calls を含むアシスタントメッセージをそのまま返送する必要がある。検証済みハーネス(Kimi Code)推奨、セッション中のモデル切替は避けること。AGENTS.md で明示的な行動制約を書く必要がある。反論①「オープンウェイトなのだから、いずれ手元で動く。待てばいい」
再反論:スパース性は計算量を減らすが保持すべき重み量は減らさない。4bit でも 1.4TB 超で、コンシューマ GPU の 24GB とは 60 倍のギャップがある。加えて KDA という新規アーキテクチャは llama.cpp / Ollama 系の対応に時間がかかり、量子化の品質確保はさらに後になる。「重み公開 = ローカル実行可能」ではない。セミナー等で説明する際にここを混同させないことが重要。
反論②「ベンチマークで Opus 4.8 を上回っているのだから、乗り換えるべきだ」
再反論:3 点で保留が必要。(a) 比較がハーネス混在で同一条件ではない。(b) Artificial Analysis は同時に「出力速度が中位値未満」「出力トークン消費が中位値の約 2 倍」を測定しており、能力と運用効率が逆方向を向いている。(c) 公式が認める「過剰な能動性」と「思考履歴の扱いの脆さ」は、既存ワークフローへの組み込みコストとして現れる。自分の実タスクで A/B することなく採否を決められる材料は揃っていない。
反論③「中国製モデルなのでデータ的に使えない」
再反論:これは二分法で切るべきではない。公式 API を使えばデータは中国のサーバへ渡るため、規制業種や機密案件では確かに選べない。しかし選択肢はそこで終わらない — 重みが公開されたので、Together AI・Modal などの第三者ホスティング(データ所在地を選べる)や、自社/リージョン内でのセルフホストという経路が開いた。むしろ「オープンウェイトである」ことが、データ所在地の問題に対する回答になっている。逆に、ライセンスの MaaS 条項や表示義務は、ホスティング事業を営む場合に実際に効いてくる。
周辺の報道として、Bloomberg は Moonshot が 6 か月内の香港 IPO 準備と新規資金調達を進めていると伝えている。また The Information に帰属する報道として、Microsoft が Copilot ワークロード向けに K3 を評価し Azure での提供を準備しているとされるが、導入もコスト削減額も公式には確認されていない。
reasoning_content の返送を必ず実装。省略すると品質が崩れるreasoning_effort を low / high に落として、コストと品質のバランスを実測する(既定は max)AGENTS.md かシステムプロンプトに明文化してから本番タスクに投入