auto_awesomeAi Trend
Moonshot AI、Kimi K3 の重みを公開―2.8兆パラメータ、公開重みモデルとして過去最大規模
Moonshot AI が Kimi K3 の重みを公開。2.8兆パラメータのスパース MoE 構成で、配布サイズは量子化後で1.4テラバイト。テキスト・画像・映像を扱い、100万トークンの文脈長に対応する。
概要
※本記事は公開情報をもとに編集部が再構成したサマリです。一次情報は出典欄をご参照ください。
Moonshot AI は2026年7月27日、「Kimi K3」の重みを公開した。総パラメータ数は2.8兆で、公開重みモデルとしては過去最大規模とされる。配布サイズは MXFP4 量子化後で1.4テラバイトにのぼる。
構成はスパース MoE(Mixture-of-Experts)で、テキスト・画像・映像をネイティブに扱い、100万トークンの文脈長に対応する。ただし規模がそのまま実行しやすさを意味するわけではなく、1.4テラバイトという配布サイズは、一般的な企業のサーバー環境で動かす場合の現実的な制約となる。
事実のポイント
- 公開日: 2026年7月27日
- 総パラメータ数: 2.8兆(スパース MoE 構成)
- 配布サイズ: 約1.4テラバイト(MXFP4 量子化)
- 入力形式: テキスト・画像・映像をネイティブに処理
- 文脈長: 100万トークン
- 公開された重みモデルとしては過去最大規模とされる
用語・背景の補足
MoE(Mixture-of-Experts / 混合エキスパート): モデル内部を複数の「専門家」に分け、入力ごとに一部だけを働かせる構成。総パラメータ数は巨大でも、1回の処理で実際に使われる部分は限られるため、規模の割に推論コストを抑えられる。総パラメータ数と実稼働パラメータ数は別物である点に注意が要る。
量子化(quantization): パラメータを低いビット精度で表現し、必要なメモリ量を減らす手法。MXFP4 は4ビット系の形式で、精度をある程度犠牲にしてサイズを大幅に削減する。
規模と実用性の関係: パラメータ数が大きいほど賢いとは限らず、実務では応答速度・費用・扱えるデータ形式の方が効いてくる場面が多い。公開重みの場合、動かすための GPU 資源が確保できるかが最初の判断材料になる。
注意点
- 1.4テラバイトの重みを稼働させるには相応の GPU メモリと基盤が必要で、自社環境での実行は容易ではない
- 「公開重み」であっても利用条件はライセンスによる。商用利用の可否・再配布の条件は個別に確認を要する
- パラメータ規模やベンチマークは、日本語業務での有用性を直接示すものではない
- 本記事は公開情報の整理であり、性能を実測したものではない
編集部見解
(追記予定)
info 公開情報をもとに編集部が再構成したサマリです。一次情報・追加情報は出典欄をご参照ください。