Kimi K3 オープンデー：Moonshot AI が重み・技術レポート・Infra をまとめて公開

重み・論文・ツールチェーンを一度に

7月27日、Moonshot AI は Kimi K3 の「オープンデー」を開いた。ひっそりとモデルを出すのではなく、モデルの重み、完全な技術レポート、そして学習に使った主要なインフラのコードを一度に公開したのだ。重みはすでに Hugging Face 上にあり、誰でもダウンロードできる。開発者はプロダクトに、一般ユーザーはお試しに、いずれもライセンスの範囲内だ。

国産大規模モデルで、ここまで「手の内」を見せる例は多くない。だから「今度こそ本物の善人だ」と冗談めかす人もいた。冗談はさておき、見るべきは彼らが何を公開したのか、である。

K3 はどんなモデルか

公式の説明によれば、K3 は Mixture-of-Experts（MoE）モデルで、パラメータ規模は前世代 K2 のおよそ3倍、100万トークンのコンテキストに対応し、規模拡大のために視覚理解を犠牲にはしていない。注目すべき数字は学習効率で、大規模学習の効率が前世代比で約2.5倍になったという。同じ計算資源でより多くのモデルを生み出せる、ということだ。

スペックを丸暗記する必要はない。一言で言えば、より大きく、画像を見られ、長い資料を一気に読み、そして今回はオープンソースだ。

技術レポートの本当の見どころ

技術レポートは、重み以上に企業の考え方を映すことが多い。K3 のレポートには、取り上げたい設計がいくつかある。

KDA + AttnRes：自社の Kimi Delta Attention と Gated MLA を 3:1 の比率で混ぜ、長文脈のコストを抑えつつ精度を落とさないようにしている。

Stable LatentMoE：各トークンは 896 のエキスパートからルーティングされ、SiTU-GLU と Quantile Balancing によって、この規模でも学習が安定する。大規模学習で最も怖いのは、途中で崩れることだ。

MoonViT-V2：視覚エンコーダを next-token prediction でゼロから事前学習した。SigLIP から初期化するより良いという。

後学習：エージェントとコーディングに重点を置き、数百万件のデータと約20の内部評価セットで磨き込んだ。

名前は物々しいが、要点は単純だ。「長文脈を安く」「学習を安定に」「画像をより正確に」「もっと仕事をこなす」。この4点に手を入れている。

より珍しいのは、Infra まで公開したこと

多くの企業は重みで止まり、学習の「足場」は固く隠す。今回 Moonshot はインフラも3つ出してきた。

MoonEP：超大規模 MoE 向けの expert-parallel 通信。エキスパート間のデータ移動が計算資源の足を引っ張らないようにする。

FlashKDA：Kimi Delta Attention の高性能カーネル。公式の数値では、H20 上で主流の flash-linear-attention より 1.72〜2.22 倍速く、そのまま置き換えて使えるという。

AgentEnv：KVCache.ai と共同開発したエージェント学習環境。強い分離、並列 fork に対応し、K3 の後学習に高品質なデータを供給する場だ。

3つのリポジトリはいずれも公開済み。自前のモデルを学習したいチームにとって、これは単なる重みファイルよりはるかに有用だ。「どう作ったか」の一部まで明かしているのだから。

なぜ記録に値するのか

Moonshot 自身の理由は「巨人の肩の上に立つ」というものだ。オープンソースコミュニティから受け取ったものを、今度は還元する。きれいな言葉だが、今の文脈にも合っている。DeepSeek 以降、国産モデルの競争軸は「誰のスコアが高いか」から「誰がより開かれ、誰の生態系がより活発か」へと移りつつある。重み・論文・Infra を同時に出すことは、ハードルをもう一段下げ、より多くの人を同じスタート地点に立たせる。

CATAI の視点

AI ナビゲーションの終点は、ツールをいくつ並べられるかではなく、「事を成せる能力」に人を導けるかだと私たちは考えてきた。K3 のような公開は、その能力を手に届きやすくする。強いモデルを自分の仕事に組み込むのに、もはや特定ベンダーの API に頼り切る必要はない。開放が増えれば選択肢も増える。それはユーザーにとって、いつだって良い知らせだ。

---

本記事について：パラメータや性能に関する数値は、Moonshot AI の公式発表および公開された技術レポートに基づき、整理・解釈したものです。正確な数値は公式発表をご確認ください。