中国のAIは米国に追いついたのか? 最新の実力差を検証します
- 中国のAIモデルは米国の最前線に追いついたのか? Epochの能力指数ECIで計算すると、答えはまだ「いいえ」。Kimi K3は依然として4.37〜5.29ヶ月遅れており、トレンド線上に逆転のポイントは見当たりません。
- でも「追い付いた」という説にも根拠はあります。Moonshot AIが自己評価した35項目のうち30項目でClaude Opus 4.8に勝利。フロントエンドコードアリーナで1位、GPUカーネル最適化ではClaude Fable 5と並んで最前線です。
- ただし、これらの結果はどの問題を選ぶか次第。自己申告の35項目のうち24項目がビジュアルとエージェンティック系。長いコンテキストも、本格的な数学も、安全性もなく、推論のトークン効率を測る項目も一つもありません。
- Artificial Analysis Indexにも同じ偏りがあります。Agentsが34%、Codingが24%で、58%の重みがエージェントと短時間のコーディングに偏り、各ベンチマークの難易度は完全に無視されています。
- Epoch AIのECIは別のアプローチ。試験評価の手法を借りて、各ベンチマークの難易度と判別力を推定し、そこからモデルの能力値を同じ物差しに当てはめます。Anthropicも自社のシステムカードで同じ方法を使っています。
- 2つの物差しは正反対の答えを示します。AAIでは中国の遅れは1.22〜1.61ヶ月で2027年11月に逆転。ECIでは4.37〜5.29ヶ月の遅れで、トレンド線によれば逆転は存在しません。7つの研究所の速さのランキングもほぼ逆転してしまいます。
答えはまだ「いいえ」。それでも多くの人が追いついたと感じる理由
答えはまだ「いいえ」です。
この分析が本当に取り組んでいるのは、なぜ2つの答えが出るのか、そしてどちらを信じるべきか、ということです。これを理解するには、「追いついた」という説の事実上の基盤がどれほど頑丈かを見る必要があります。それは一般的な立場の対立よりもはるかに頑丈なのです。
まずはKimi K3の成績表を見る
Kimi K3は現在最大のオープンウェイトモデルで、パラメータ数はDeepSeek V4の約2倍。今回のAIブームの火付け役となった初代GPT-4(1.8兆)も上回ります。Moonshot AIが自ら公表した35のベンチマークで、30項目がClaude Opus 4.8に勝ち、19項目がGPT-5.6 Solに勝ち、12項目がClaude Fable 5に勝っています。
第三者機関の評価でも存在感を示しています。Artificial Analysisのランキングで、Kimi K3は57.1点を取り、Claude Fable 5とGPT-5.6 Solに次ぐ3位。GLM-5.2、Kimi K2.6、Qwen3.7-Max、DeepSeek-V4-Proといった従来の中国のフラッグシップからは明らかにジャンプアップしています。
Webフロントエンドの出来を競うFrontend Code Arenaでは、Kimi K3は1679点で1位。2位のClaude Fable 5に48点差をつけ、このランキング全体で最大の差です。
そして、あまり話題になりませんが、AI開発者には非常に実用的な分野があります。GPUカーネル最適化です。モデルの速さはハードウェアをどれだけ効率的に使い切れるか次第。クロックサイクルの無駄は、スループットの低下とレイテンシの増加となり、最終的にはコストになります。これは本番環境だけでなく研究でも重要です。新しいアーキテクチャのアイデアは、実験で検証する必要があり、PyTorchのままではハードウェアを最大限に使えず、手書きカーネルで高速化する必要があります。
これらを並べると、「中国が米国の最前線に追いついた」というのは、もう決着した判断のように見えます。冒頭の「まだ」はどこから来たのでしょうか。意見の対立の第一層は、「能力」という言葉に隠れています。
能力を分解すると、本当に追いついたのは1つの分野だけ
「追いついた」という言葉が証明にも反証にもなるのは、能力がそもそも分野ごとに分かれているからです。あるモデルがコード作成で相手に追いついていても、別の分野では数世代遅れていることがあります。この分析に出てくる分野を一つずつ並べると、格差はすぐに浮き彫りになります。
コード作成は最も目に見えやすい分野です。公開ランキングが最も多く、誰もが毎日使う能力でもあります。一方、他の項目は専門の評価機関が走らせる必要があるか、自己評価リストに載っていません。「追い付いた」という世間の認識は、基本的に最初の行から生まれています。
でも、コード作成こそが最も重要な項目
現在最も堅固に測定されているトレンドはソフトウェアエンジニアリングにあります。AIが単独で完了できるタスクの長さは、約4ヶ月ごとに2倍になります。著者も、このトレンドは数学など他の分野でも成立する可能性が高いが、ソフトウェアエンジニアリングの測定が最も充実していると述べています。この「タスクの長さ」には専門用語があり、タイムホライズン(時間枠)と呼ばれます。
人間が行うのにどれくらいの時間がかかる仕事を、モデルが半分の確率でやり遂げられるか。その所要時間がモデルのタイムホライズンです。これを難易度の物差しにすると、コードの行数を数えるよりはるかに信頼でき、経済的価値にも直接換算できます。1人分の1日の仕事を代わりにできるのと、1人分の3ヶ月の仕事を代わりにできるのは、まったく別の話です。
このトレンドをあと2〜3年先まで伸ばすと、「人が数ヶ月から数年かかる仕事を、AIが引き受けられる」時代が来ます。このトレンドがコード作成だけで成り立つとしても、超人的なプログラマーモデルを先に握った者が、追い付くのが難しい戦略的ポジションを握ることになります。数ヶ月の差を正確に計算することに労力をかける価値があるのは、このためです。
比較は中米間でのみ行われます。最高のモデル、最も多くのAI研究、最も多くの計算資源がこの両側に集中しているからです。欧州には理論上、資金と人材がありますが、これまでのところ真剣に競争に参入する意思は見せていません。
そこで問題は、分野別の格差がこれほど明確なのに、ランキングではなぜ「総合的に追い付いた」となるのか、です。2層に分けて説明できます。第一層は「ギャップ」という言葉そのもの。実は2つのことを同時に言っており、多くの人はそのうちの1つしか使っていません。
「ギャップ」という言葉が同時に2つのことを指している
ギャップの定義は一言だけです。ある研究所が、別の研究所がすでに達成した能力を作り出すのにどれくらいかかるか。でも、この一言には方向がまったく異なる2つの問題が隠れています。
- 遅れている側の今日の水準は、リードしている側の何ヶ月前に相当するか?
- 歴史を見れば計算でき、データはすでに発生しています。
- よく言う「数ヶ月遅れ」は、ほとんどこれ。
- 遅れている側が、リードしている側の今日の水準に到達するまで、あとどれくらいかかるか?
- 未来を予測する必要があり、計算資源、人材、AI自身による加速などの変数への仮定に依存します。
- 不確実性がはるかに大きい。
もう一つ見落とされがちな層があります。能力は分野ごとに分かれているということです。あるモデルがコード作成で別のモデルに追い付いていても、他の分野や総合では劣っている可能性があります。「追い付いた」と言うときは、どの項目で追い付いたのかを明確にしなければなりません。
モデルはバッチでリリースされる。連続した曲線はない
実際に計算しようとすると、現実的な問題にぶつかります。進歩は非連続なのです。モデルは数週間から数ヶ月ごとにリリースされ、2つのモデルのスコアがちょうど等しくなることもありません。間にどれだけの時間が空いているかを直接測ることはできません。3つの方法にそれぞれトレードオフがあります。
著者は3番目の方法を選びました。対称的で、背後にある大きなトレンドをより反映し、ギャップが拡大しているのか縮小しているのかが分かるからです。コストも明確に説明されています。結果は回帰モデルの選び方に依存し、トレンドの断点を平滑化してしまいます。これはKimi K3にとって不利で、もし本当に断点であるなら、回帰線はそれを元に戻してしまいます。
ただし、過去5年ほどで、トレンドの断点と言えるのは1〜2回だけです。2024年第3四半期の推論モデル、そして2025年11月のClaude Opus 4.5発表後のエージェンティックモデルの台頭が、2回目かもしれません。この2回はモデルサイズとは無関係です。DeepSeek-V4-Proの2倍にも満たない規模のモデルが、サイズだけでトレンドを断ち切るのは説明が難しいのです。
そのため、以降の結論はすべて2組の数字を示します。隣接モデル区間(現在の瞬間的なギャップ。図では区間内の内挿値も示します)と、トレンドライン推定(時間を伸ばして見た長期水準)です。方法が決まったので、次は意見の対立の第二層、そして最も重要な層です。どの問題で測るか、です。
ランキングの問題選びが結論を直接左右する
「35項目中30項目で勝利」という言葉の重みは、その35項目がどう選ばれたかに完全に依存します。構成を分解すると、欠けている問題の種類こそがより多くを物語っています。
- ビジュアル系 12項目
- エージェンティック系 12項目
- コーディング系 8項目
- 「推論」と知識系 3項目
- 長いコンテキスト、一つもなし
- ネットワーク、生物、化学などの安全関連、一つもなし
- 本格的な数学はMathVision、GPQA-D、HLEのみ
- 純粋な推論。あの3項目は「推論」と名乗っていますが、実は知識問題に少し数学が混ざったもの
- 推論のトークン効率、一つもなし
ビジュアルとエージェンティックの2カテゴリで24項目。このランキングの約7割を占めます。コーディング系には、著者がシグナル品質が高いと考えるProgramBenchやSWE-Marathonなども含まれます。これらはタスクの範囲が広く、タイムホライズンも長めです。
成立する言明は一つだけです。Kimi K3のコーディング能力は、現在の米国の最前線モデルに匹敵する。
「Kimi K3が総合的にClaude Opus 4.8やGPT-5.6 Solより優れている」という結論は導き出せません。Claude Fable 5に至ってはなおさらで、35項目のうち大半で負けています。
第三者のランキングにも同じ偏りがある
では、第三者のArtificial Analysis Indexに替えてみましょう。これは今日最も人気のある指数の一つですが、著者はこれでモデルの総合的な強さを判断すべきではないと考えています。理由は2つあります。
第一に、重みです。指数の構成が明らかにエージェントと短いタイムホライズンのコーディング問題に偏っています。
第二に、難易度です。各ベンチマークがどれほど難しいか、成績が出たときにどれだけの情報量があるか。この指数は完全に無視しています。すべてのベンチマークを人為的に設定された重みで加重平均しており、誰でも簡単に通過できるベンチマークと、ほとんどどのモデルも正解できないベンチマークが、同じ重みで指数に入ります。
これは役に立たないという意味ではありません。ランキングは日常利用の体感と一致します。経済的に本当に役立つ作業を測っているからです。著者の対処法は、その位置付けを変えることでした。日常的な使いやすさの指標であり、総合的な知能の指標ではない、と。ですから彼の記事では、この指数はArtificial Analysis Indexと呼ばれ、正式名称にあるIntelligenceという言葉は外されています。では、人手で重みを選ばず、問題の難易度も計算に入れられる物差しはあるのでしょうか。あります。しかもAnthropic自身も使っています。
ECIがどうやって問題の難易度もスコアに組み込むのか
Epoch AIの能力指数(Capability Index、略称ECI)は、上記の2つの欠点を対象としています。モデルの根底にある総合的な能力値を測り、すべてのモデルを同じ物差しに載せることを目指します。使われる方法はItem Response Theory。日本語では項目反応理論と呼ばれることが多いです。
2人とも60点を取ったとします。1人は小学校の問題、もう1人は数学オリンピックの問題だったとすれば、示すレベルは天地の差です。彼らを比較するには、それぞれの試験がどれだけ難しいかを知る必要があります。項目反応理論がやるのはまさにこれです。ある問題に正解する確率は、受験者の強さと問題の難しさの両方に依存する。ならば両方を一緒に推定しよう、というものです。
具体的には、各ベンチマークで2つのパラメータを推定します。
- このベンチマークで50点を取るには、どれだけの能力が必要か。
- このベンチマークのスコアが能力の変化にどれほど敏感か。つまり、能力の近いモデルを区別できるかどうか。
これらのパラメータを推定したら、統一された統計モデルをフィットさせ、すべての観測スコアを最もよく説明できる能力値を見つけます。この能力値がモデルのECIです。
1つ目は、人手による重み選びへの依存を減らしたこと。2つ目は、すべてのモデルがすべてのベンチマークを走らせる必要がなく、欠損があっても計算できること。3つ目は、各ベンチマークの難易度と判別力を考慮に入れたことです。
Anthropicも最近、同じ方法を採用してモデルの強さを測定しています。自社のシステムカードでAECIと呼ばれているものです。彼らの図は、さまざまなベンチマークの難易度を同時に描き出しています。
そのうちの1マスを検算してみると、この方法が何をしているのかが分かります。GPQA Diamondの50点の目盛りは129付近に落ちます。能力値が約129のモデルが、このベンチマークで約50点取れるという意味です。Claude 3 OpusのAECIは約126で、129より少し低い。このモデルによれば、わずかに50点を下回ると予測されます。実測は50.4点で、予想より少し高かった。
能力値が共有された物差しに載り、人手で選んだ加重指数よりもバイアスが少ない。これがECIの効用です。2つの物差しが揃いました。では、同じモデル群をそれぞれ載せて測ってみましょう。
2つの物差しで同じモデル群を測ると、差が3倍以上開く
同じモデル群、同じ期間。物差しを替えるだけで、中米のギャップの数字も方向も変わります。
まずAAIの物差し
Kimi K3はこの指数で57.1点です。指数が0〜100に固定されているため、著者はsigmoid曲線で両国のフロンティアトレンドをフィットさせました。
この物差しでは、中国のフロンティアは米国のフロンティアより1ヶ月余り遅れており、トレンドラインを延ばすと2027年11月9日に逆転します。
ECIに替えると、同じモデル群の結論が逆転する
EpochがKimi K3の予備スコアを発表した後、そのスコアにMoonshot AIが公表した成績を加えた合計9つのベンチマークから、ECIを直接フィットできます。155.53。90%区間は153.87〜158.21です。これは著者自身の計算であり、Epoch公式発表のECIではありません。GPT-5.3 CodexとGPT-5.4 Proの間に位置し、前者に近いです。
AAI:1.22〜1.61ヶ月遅れ、トレンドライン2.89ヶ月、2027年11月9日に逆転。
ECI:4.37〜5.29ヶ月遅れ、トレンドライン6.08ヶ月、交差点の欄はnone。
後方ギャップは3倍以上開き、前の物差しでは中国が速く、後の物差しでは米国が速い。
研究所レベルに分解すると、ランキングはほぼ逆転する
国家のフロンティアだけを見ると、個々の研究所のペースは隠れてしまいます。そこで両方の図で研究所別のバージョンを作成しました。両方の年間進歩率を並べると、この評価方法の違いがどれほど大きいかが見えてきます。
Moonshotは左側の首位から、右側ではOpenAIの後ろに転落。Anthropicは左側の5位から、右側では断トツの1位に浮上。7研究所のうち順位が変わらなかったのはGoogleだけです。21.4と6.3で、両方とも最下位です。
AAIの研究所別トレンドによると、Moonshotの勾配が最も急で、2027年2月8日に米国のフロンティアラインを横切ります。原文の本文ではAnthropicを超えるという表現です。ECIの研究所別トレンドによると、Moonshotの交差点の欄も同じくnone。たとえMythos PreviewをAnthropicのデータから除外しても、進歩率は年間18.1ポイントで最速です。
2枚の研究所別トレンド図と、Kimi K3のECIの推定方法
Epochのスコアが出る前に、著者は先に一度推定していました。コミュニティの投票ではKimi K3のECIは158〜159に収まると予想され、著者自身は156〜157、アナリストのTeortaxes氏は157〜158と予想しました。
直感に頼らないために、彼はAAIとECIの高い相関を利用して換算しました。単純な直線を当てはめるのはダメです。AAIは0〜100に固定され、両端に近づくほどスコアが密集します。一方、ECIには上限がなく線形です。結果として、直線は弱いClaude 2やClaude 3のあたりで過大評価し、中間で過小評価し、強いモデル側でまた過大評価します。
方法は、まずAAIにlogit変換(sigmoidの逆演算)を施し、圧縮された両端を引き延ばしてから、フィットさせるというものです。
換算による推定値は158.33、bootstrap 80%区間は154.49〜162.02。その後Epochのスコアが発表され、9つのベンチマークからの直接フィットで155.53となり、この区間内に収まりましたが、換算値よりは低くなっています。以降の分析では155.53を使用し、換算式は将来のために取ってあります。
Mythos Preview側も推定が必要です。Anthropicは自社のスケールのAECIしか公開していません。換算が必要です。SubstackのコラムPoint EstimateはECIメソッドで161.5、Ramez Naam氏は最小二乗法で161、著者自身も161(90%区間158〜166)を得ました。この数値はClaude Fable 5の実際のECI 160(区間158〜165)に非常に近いです。判断根拠は、Fable 5がおそらくMythos Previewから蒸留されたより小さいモデルで、追加の安全トレーニングも行われており、どちらもスコアを少し押し下げるからです。
前方ギャップ:今日の最強に追い付くまでどれくらいか
問題を前方の問いに置き換えると、答えはこうなります。国のトレンドラインによると、中国モデルがMythos Previewの161点に到達するのは2027年3月7日。つまり約11ヶ月後です。90%信頼区間は2026年12月28日から2027年6月18日。遅れの期間に換算すると8.72〜14.38ヶ月です。
最も難しい問題では、差がより顕著になる
Epochが発表した予備結果の中に、特に問題点を示す項目があります。FrontierMath Tier 4、研究レベルの難易度を誇る数学問題で、Kimi K3は約39点。7ヶ月前に発表されたGPT-5.2 Pro(約45点)にも及びません。同じ図で、Claude Fable 5は88点です。
このアルゴリズムはまだ5つのものを見落としている
著者自身の判断では、上記の2つのギャップの数値はどちらも小さめです。影響が大きいいくつかの事柄が、そもそも式に入っていないからです。理由は通常、それらの数値が公開されていないことです。
1つ目はモデルサイズ。Kimi K3は2.8兆パラメータ。CursorのMichael Truell氏は、OpusとGPTシリーズの規模はCursorが新たに発表した1.5兆モデルに近いと述べています。おそらくClaude Opus 4.8とGPT-5.4を指しています。GPT-5.5とGPT-5.6は3兆に近いと推定されています。つまり、2.8兆のモデルが1.5兆規模のClaude Opus 4.8にいくつかの項目で勝ったとしても、アーキテクチャの観点からはあまり多くを語りません。
2つ目は推論効率。あの35のベンチマークには、これを測る項目が一つもありません。著者の判断では、Kimi K3の推論効率は依然として米国モデルに劣ります。同じパラメータ規模でも、より多くのトークンを費やして同じスコアを得ている。このコストはどのランキングにも載りません。
3つ目は実際のサービスコストと総計算資源。手元にあるのが100万枚の最新Blackwellなのか、スループットの低い旧型Hopperなのかで、同時に起動できるインスタンス数と、ユーザーへの供給速度が決まります。両国が全力で競争する状況になれば、この要素はモデルのスコアに劣らず重要です。
4つ目は安全テストの時間。米国の研究所の安全テストは中国の研究所よりはるかに徹底しています。この作業がギャップにさらに1ヶ月加わる可能性があります。
5つ目はベンチマーク自体の代表性。多くのベンチマークは実際の仕事のタスクを代表しておらず、コストと時間の制約から、実行時にモデルの最大性能を引き出していません。
ただし、ギャップが過小評価されているからといって、中国の研究所が実際に加速していないという意味ではありません。彼らは確かに速くなっています。異常なほどに。
もう一つの層:米国の研究所が公開を控えているモデル
Mythosは10兆パラメータのモデルという噂です。SpaceX AI、OpenAI、Metaも独自の10兆級モデルを開発しています。著者の見解では、今回のKimi K3の「追い付き」は、中国モデルが前世代に追い付いたものであり、米国の研究所はすでに次世代に進んでいる。ネットワークや生化学の能力にまつわる法的な不確実性のため、最強のモデルを公開せずに留めているだけ、という可能性が高いです。
- Kimi K3のパラメータ数は2.8兆、オープンウェイト
- Michael Truell氏の、Cursorの1.5兆モデルがOpus・GPTと規模が近いという発言
- EpochがKimi K3のFrontierMathなどのベンチマークスコアを発表済み(ECI 155.53は著者がこれに基づいてフィットしたもので、Epoch公式値ではない)
- AnthropicがシステムカードでAECIを採用してモデルの強さを測定
- Mythosが10兆パラメータというのは噂
- GPT-5.5、GPT-5.6が3兆に近いのは推定
- Claude Fable 5.1とGPT-6はトレーニング済みだが未公開
- 安全テストがさらに1ヶ月加わる可能性があるのは、著者の規模感による判断
- すべての2027年の交差点日付は、トレンドラインの外挿
もしAnthropicとOpenAIが本当にClaude Fable 5.1とGPT-6を公開したら、「追い付いた」という議論は起きないでしょう。この10兆パラメータのモデル群はまったく別物だからです。Lisan al Gaib、scaling01
中国モデルが去年の8月から急に速くなった理由
中国の研究所の進歩速度は確かに速くなりました。そして、その起点は非常に具体的です。著者は指数の時間微分でこの転換点を見つけようとしましたが、あまり良い推定方法ではないと認めています。
この事実自体が異常です。米国の研究所はより多くの計算資源、データ、人材を持ち、研究開発を加速するためのより強力なモデルもあるのに、進歩速度はむしろ遅いのです。著者はまず技術的な説明を排除しました。指数に上限があるため、米国側はすでにスコアが高く、上昇が難しく、遅く見えるだけではないか? 彼はlogit変換を適用してこの圧縮を取り除きましたが、MoonshotとZ AIのピーク速度は依然として高かったです。
蒸留はその一つ。しかし、すべてではない
厳密な意味での蒸留はモデルそのものを入手する必要がありますが、より強いモデルに弱いモデルの出力を採点させるだけでも、このカテゴリに入ります。Anthropicは何度も、蒸留攻撃を中国の研究所まで追跡できたと報告しています。つまり、これは実際に存在するものであり、規模がどれほどで、どれだけ役立ったかは外部には不明です。著者の表現では、中国モデルが獲得した能力のうち、多かれ少なかれ一部は蒸留に由来する、ということです。
その他にもいくつかの説明があり、著者は実際にはそれらの組み合わせだと考えています。
- 追いかけるのは道を切り開くより簡単。改善の方向性はフロンティアが既に示している。
- AAIが測る能力は公開されており、強化学習で少しずつ上げていくのに適している。自然とスコア稼ぎのターゲットになる。
- 最も成長の速い2つの中国の研究所だけを選んだ。リスクを取って正しく賭けたグループであり、選択バイアスがある。
- 含まれるモデルの数が少なく、運が良かった観測期間の可能性もある。
もう一つの限定条件を付け加える必要があります。この追い上げの物語はAAIでのみ成立し、ECIでは成立しません。
逆の証拠:タスクが難しく長くなるほど、差が露呈する
英国AI安全研究所のネットワークレンジは、現在最も難しい部類のベンチマークです。タスク自体が非常にハードで、モデルは1億トークンを消費して初めて限界まで押し込まれます。EpochのMirrorCodeはさらに極端で、単一モデルで10億トークンを使用します。
この32ステップの企業ネットワーク攻撃シミュレーションで、GLM-5.2は平均約11ステップ。Claude Opus 4.5と同じ水準です。一方、GPT-5.6 Solは約29ステップ、Anthropicの新しいClaude Mythos 5は約27ステップ。しかし、自己申告のコーディングベンチマークでは、GLM-5.2の成績はClaude Opus 4.8に近いのです。
同じモデルが、公開され最適化しやすいコーディングランキングでは最新のClaude Opus 4.8に近づき、長いチェーンの推進が必要な難しいタスクでは7〜8ヶ月前のClaude Opus 4.5に後退する。この落差自体がシグナルです。
記事の最後に一つの観察が残されています。中国モデルが本当に米国の最前線と同じくらい強いなら、これまで解かれていなかった数学や物理の問題もいくつか解けているはずだ、と。これまでのところ、それは見られていません。
同じモデル群、物差しを替えると → 中米AIギャップが1ヶ月余りから5ヶ月に
独立アナリストのLisan al Gaib氏が「中国は追い付いたのか」を計算可能な問題に分解。2つの物差しがなぜ正反対の答えを出すのか、図解で1ページにまとめました。
↓ 1ページで完結 · 動く図つき
7月16日にMoonshot AIが2.8兆パラメータのKimi K3を発表し、「中国が米国に追い付いた」という説が広がりました。その成績表は確かに強力です。自己評価の35項目中30項目でClaude Opus 4.8に勝利し、フロントエンドコードアリーナでも1679点で1位。ただ、この言葉がどこまで支えられるかは、その35項目がどう選ばれたかにかかっています。
✘ この成績では証明できないこと:総合的にどれだけ遅れているのか。
問題の選び方が結論を左右するからです。35項目のうち24項目が画像認識とタスク遂行の2カテゴリで、約7割を占めます。長いコンテキストは一つもなく、ネットワーク・生化学などの安全関連もなし。本格的な数学もほぼなく、1問解くのに何トークン消費するか(トークン効率、つまりどれだけの計算資源を使うか)を測る項目も一つもありません。欠けているものが、存在するものより多くを物語っています。
同じモデル群を、同じ期間に、2つの評価体系にそれぞれ入れて測ると、出てくるのは数字の違いだけではありません。方向まで逆転します。
Agents 34% + Coding 24% = 58%
各項目の難易度 → 考慮しない
結論:1.22〜1.61ヶ月遅れ
2027-11-09に逆転
各項目の「難易度+判別力」を推定
そこからモデルの能力値を逆算
結論:4.37〜5.29ヶ月遅れ
交差点:none
加速している側まで逆転します。AAIでは中国の4研究所の年間進歩率がすべて米国の3研究所より速く、Moonshot AIの39.4が全体1位。ECIに替えると、Anthropicが25.0で断トツ1位。Moonshotは13.8に落ち、OpenAIの14.3の後ろに回ります。
手法は試験評価から借りたもので、項目反応理論(Item Response Theory)と呼ばれます。一言で言えば、2人とも60点でも、一方は小学校の問題、もう一方は数学オリンピックの問題なら、示すレベルは天地の差。比較するには、それぞれの試験がどれほど難しいかを知る必要がある、ということです。
「3倍の差」は抽象的ですが、日数にすると実感できます。同じ問い、中国のフロンティアの今日の水準は、米国のフロンティアの何日前に相当するか。2つの物差しの答えはこうです。
Claude Opus 4.8に
勝った項目数
- × 長いコンテキスト
- × 本格的な数学
- × 安全関連
- × 1問解くのに使うトークン数
能力129が必要
最難関
「3倍以上の差」の根拠
