投資マネージャーが毎日こなしている6つの「小さな仕事」

この6つは投資マネージャーにとって本能的なもので、一秒で判断がつく。だが「なぜそう判断したのか」を説明しようとすると人間でも詰まってしまう——だからこそAIに教えるのが難しい。チームはこれらを一つずつ切り分けて評価した。

前半の3つは分類タスク（評価は正解率＋F1スコアで見る）、後半の3つは位置特定タスク（評価は完全一致の正解率で見る）。原文によれば、社内には同様のタスクが他にも多くあり、傾向は一貫している——最先端モデルはこの種の仕事において、自前で訓練したモデルに軒並み及ばない。

どちらも政治と財経に絡んでいるのに、なぜ一方は関連ありでもう一方は関連なしなのか

「財経記事の関連性」タスクの実例を挙げよう。以下の2つの見出しはどちらも地政学と財経の両方に触れているが、マクロ投資家にとっては一方は読む価値があり、もう一方はそのままスルーすべきものだ。まずどちらが関連ありか当ててみてほしい。

プロンプトをあれこれ工夫しても、AIは78.2%で頭打ちのまま

チームはまず最も手軽な道を試した——プロンプトエンジニアリングで乗り切ろうとしたのだ。専門家が実際のタスク内容に沿って指示を書き直し、タスクの定義自体も見直した。たとえば記事分類を「関連あり／関連なし」の2分類から「関連ありかつ面白い、関連あるが面白くない、関連なし」の3分類に変更した。ある小型IPOのニュースは財経的には関連ありでも、マクロ投資家が求めるような大局的な意味を持たないからだ。

プロンプトは正解率をコイン投げ水準から70%台まで引き上げたが、そこから先は頭打ちで、自動プロンプト最適化を使ってもそれ以上の伸びしろは絞り出せなかった。原文はさらに「値段が高いほど正確とは限らない」とも指摘している。GPT 5.4は5.2より43%高いのに、正解率はわずかしか上がっておらず、新しいモデルもこの種のタスクではあまり進歩していないことを示している——特に費用対効果で見れば。

ラベル付けデータ自体が間違っていた——専門家には本当に難しいサンプルだけを見せるには

プロンプトが頭打ちになった後、チームはファインチューニングに舵を切った。だが最初の壁は訓練ではなくデータにあった——これらの判断は投資の専門家の目を通ってはじめて価値を持つ。彼らが当初サプライヤーから買ったのは非専門家によるラベル付けで、それを使って訓練してもモデルの出来はやはり悪く、モデルの推論過程を見返してようやく、データセットのラベル自体がしばしば間違っていることが分かった。

全件を専門家に付け直させるのはコストが高すぎる。チームは巧妙な方法を考えた——モデル自身に「怪しい」サンプルを見つけ出させ、それだけを専門家に回すのだ。ロジックはシンプルで、あるサンプルがモデル自身の訓練セットとすら食い違うなら、その問題が本当に難しいか、元のラベルが間違っているかのどちらかであり、いずれにせよ専門家が一目見る価値がある。

こうすることで、専門家の労力は本当に議論の余地があるサンプルだけに使われ、残りはそのまま流用される——データはきれいになり、コストも抑えられる。最終評価は、クリーニングに一切関わっていない完全に独立したホールドアウトセットで行い、自作自演の甘い採点にならないようにしている。

3つの一手の組み合わせ技で、正解率を73%から84.7%へ

データがきれいになったら訓練に入る。チームは学術界で最も研究され尽くしたオープンソースモデルQwen3-235Bをベースに選び、訓練はすべてTinker上で走らせたため、GPUインフラを気にする必要はなかった。第一歩として標準的なGRPO強化学習によるファインチューニングで土台を作ると、正解率はベースモデルの44.8%から一気に73.48%まで跳ね上がったが、まだ80%のラインには届いていない。実際にそのラインを越えさせたのは、その上に重ねた3つの改良だった。

この階段は原文の3つの実データ点——ベースモデル44.8% → GRPO 73.48% → フルレシピ84.66%——による。途中の11ポイントの跳躍は、以下の3つの改良の組み合わせによるものだ。

CISPOと「オンポリシー蒸留」は結局何をしているのか

上記3つの一手のうち、CISPOとオンポリシー蒸留という2つの名前が一番いかめしい。強化学習を知らなくても問題ない——これらが解決しようとしているのは、実は同じ種類の素朴な問題だ。モデルを学びすぎさせない、変な方向に学ばせない、そして頼れる先生を見つけて教えてもらう、ということ。

オンポリシー蒸留＋教師の動的昇格

生徒モデルは自分で練習しながら、「教師モデル」の回答分布を参照する——教師から離れすぎると減点されて引き戻される（原文ではペナルティ項を使っており、生徒と教師の差が大きいほど報酬が多く差し引かれる）。ポイントは教師が固定ではないことだ。20ステップごとに検証セットの正解率をチェックし、生徒が自己ベストを更新すればその生徒自身を新しい教師に昇格させる——より弱いモデルに逆戻りして教わることは決してない。

エラー率3割減、推論コストは1/14まで圧縮

すべての改良を重ねた結果、カスタムモデルは平均正解率を最良の最先端モデルの78.2%から84.7%まで引き上げ、チームはこの水準なら日常使いに十分だと考えている。さらに節約できるのはコストだ——モデルの規模がはるかに小さいため、単一タスクあたりの推論コストは対応する最先端モデルのわずか1/13.8で済む。

原文によれば、この結論はここで公開した6タスクだけに当てはまるものではなく、社内の多数の類似タスクでも同じ傾向が一貫して見られるという。この方法論も金融に縛られるものではない——「モデルの意見の食い違いをルーティングして難しいサンプルをふるい分け、専門家にデータをクリーニングしてもらい、その上で強化学習によるファインチューニングを行う」というやり方は、他の組織が自分たち固有の判断タスクに応用できると原文は考えている。彼らはこれを「差異化知能」（differentiated intelligence）と呼んでいる——特定の組織のニーズに合わせて調整されたカスタムモデルが、自分たちの仕事において汎用の最先端モデルを上回るというものだ。

チームはまず一番手軽な道を選び、汎用大規模モデルのプロンプト（AIへの指示文）をひたすら調整した。しかしどれだけ最適化しても、最良のものでも78.2%止まりで、投資家が求める80%の信頼ラインには届かなかった。そこでやり方を変え、専門家がラベル付けしたデータでファインチューニング（専用データでモデルを再訓練すること）を行い、カスタムの小型モデルを作り出した。

より小さなオープンソースモデルが、なぜ最強の大規模モデル（最先端モデル、つまり最も優れた汎用大規模モデル）を逆転できたのか？モデル自体が賢くなったからではなく、2つの一手による——まずデータをきれいに直し、次に訓練レシピを正しく調整したのだ。

この2つの一手を一本のパイプラインとしてつなげてみれば分かりやすい。ある場面を追ってみよう——小互の手元に1000件のニュースがあり、外注の安いラベル付けには誤りが少なからず混じっている。そのまま訓練に使えば、モデルは間違いごと学習してしまうだけだ。

公式発表は「コスト13.8倍減」だが、体感に換算すると——同じ文書群を選別するのに、最先端大規模モデルの推論費用は、このカスタムモデルのおよそ14倍になるということだ。