MoonshotAIの新型モデル「Kimi K3」がオープンウェイトとして公開されました。2.8兆パラメータという規模もインパクトがありますが、それ以上に気になったのが公開までの経緯のごたつき方です。ウェイトのサイズは594GBなのか1.4TBなのか、ライセンスはApache 2.0なのかどうなのか、公開日は26日なのか27日なのか——海外メディアの記事を並べてみると、書いてある数字がバラバラなんですよね。今回はそのあたりを、複数のソースとHacker Newsの反応を突き合わせて整理してみます。
今わかっていること
Kimi K3は総パラメータ数2.8兆のMixture-of-Expertsモデルで、896個のエキスパートのうち16個を各トークンで活性化する構成です。コンテキストウィンドウは1,048,576トークン(約100万トークン)で、これはHugging Face上のコミュニティ記事や各メディアの記事で共通して確認できます。
ただし活性化パラメータ数はしばらくはっきりしていませんでした。公開直後のHNでは、ユーザーのmsdzが「2800(億)÷896×16」という単純計算で「500億くらいでは」と試算していました(エキスパートが均等に分布している前提での概算だと本人も断っています)。その後、ModemGuides.comが伝えた公式モデルカードの数字によると、実際の活性化パラメータは1トークンあたり1040億で、それまで報道で出回っていた400億〜1000億という幅とも、500億という試算ともズレていたそうです。
ウェイトのダウンロードサイズもソースによって書いてある数字が違います。dev.toの記事は、Hugging Faceの「moonshotai/Kimi-K3-MXFP4」リポジトリからMXFP4量子化済みのウェイト(約594GB)をダウンロードする手順を細かく紹介しています。ところがModemGuides.comは、この594GBという数字を名指しで「正式リリース前の予測が独り歩きしたもので、2.8兆パラメータ・4bit精度という実際のスペックと辻褄が合わない」と否定していて、ネイティブMXFP4形式なら1パラメータあたり約0.5バイトとして計算上は約1.4TBになるはずだと主張しています。Hugging Face上のコミュニティ記事(ResterChed氏)も同じく約1.4TBという数字を挙げているので、594GBのほうが早とちりだった可能性が高そうです。
ライセンスもすれ違いがありました。dev.toは公開されたウェイトを「Apache 2.0ライセンス」と明記していますが、ModemGuides.comはこれを「よく出回っているデプロイガイドはApache 2.0だと書いているが、それは違う」と真っ向から否定。Hugging Face上のリポジトリには独自のライセンスファイル「Kimi K3 License」が置かれているとのことで、前身のKimi K2系が「Modified MIT」だったことから早合点が広まったのでは、というのがModemGuidesの見立てです。
公開日もずれています。explainx.aiは「7月26日午後7時半(米東部時間)ごろ、予告していた7月27日より前倒しで公開された」と伝えていますが、ModemGuides.comは「7月27日に技術レポートとともに公開した」としています。
ハードウェア要件については、ウェイト公開前の段階でNorthflankが「Moonshotは64基以上のアクセラレータによるsupernode構成を本番運用として推奨しているが、最小構成は未公表」と伝えていました。公開後にdev.toが示した目安は、最小構成が8基のH100(80GB)、推奨が16基のH100または8基のH200。MXFP4をネイティブでサポートするBlackwell B200やAMD MI400であれば、8基構成でも対話的な速度で動かせるとしています。ModemGuides.comの試算もほぼ同じ方向で、ネイティブMXFP4形式なら計算上約1.4TBが必要、Moonshot自身は64基以上を推奨、としたうえで、512GBのMac Studioは容量が足りず、24GBのGPUと256GBのシステムRAMを組み合わせた280GB程度の構成でも必要量の5分の1程度にしかならない、と表にまとめています。
推論エンジンについても注意書きがあります。ModemGuides.comによれば、公式モデルカードが名前を挙げているのはvLLM・SGLang・TokenSpeedの3つで、llama.cppやOllama、LM Studioは含まれていません。Ollama上にKimi K3のリストやGGUFファイルが出回っていても、それでは実際には動かせないとのことです。
これまでの経緯
- 7月16日: Kimi.com・Kimi Work・Kimi Code・APIを通じてKimi K3を公開(Northflank、Hugging Face上のコミュニティ記事)。この時点ではウェイト自体は非公開
- 公開当初、Moonshotはウェイトを「7月27日までに」公開すると予告(Northflank、Hugging Face上のコミュニティ記事)
- 7月26日夜(米東部時間)、explainx.aiによれば予告より前倒しでウェイトが公開されたとされる
- ModemGuides.comは、技術レポートも同時に公開されたのは7月27日だったと伝えている
- Together AIとModalが、公開に合わせて即日のホスティング対応を表明(explainx.ai)。ただし両社の実際の料金は同記事執筆時点では未確認とのこと
海外の反応
Hacker Newsの反応もいくつか拾っておきます。
APIの価格は入力$3・出力$15(キャッシュヒット時$0.3)で、中国発のオープンウェイトモデルとしてはかなり強気。AnthropicのSonnet系とほぼ同じ価格帯だとユーザーのTiberiumは指摘しています。ただし本当にコスト効率がいいかは推論トークンの消費量次第で、同じタスクでもモデルによって内部で使う思考トークンの量が違うので単純比較はできない、とも付け加えていました。
肯定的な声としては、ユーザーのculiが「3分の1のコストでオープンソース、しかも曖昧なセキュリティ上の懸念を理由に断ってこない」と評価していたのが目を引きました。一方でjrfloは「オープンモデルをホストしている会社が、オープンモデルの優秀さを語っている」と、ベンチマーク発表そのものへの構造的な疑いを示していましたし、lvl155に至っては「SOTAではない、いい加減にしてくれ」とかなり辛口です。stingraycharlesも「ベンチマークが全体像を語ることは少ない」としたうえで、比較記事の書き方自体に偏り(僅差で負けたときは「大接戦」、勝ったときは「Kimiの勝ち」と書く、など)があると指摘し、実際に数日使ってみるまで判断は保留すると述べています。
ケイの一言
正直、594GBと1.4TBみたいな2倍以上違う数字が同じ「解説記事」として並んで出回っているのを見ると、リリース直後の情報って結構いいかげんなものだなと思いますね。ライセンスがApache 2.0だと書いてしまった記事もそのまま検索上位に残り続けそうですし。自分でホストする予定がある人は、面倒でもHugging Faceの実物のリポジトリとライセンスファイルを直接確認したほうがよさそうです。
