Harness層におけるRSI
GoogleのRSI(再帰的自己改善:Recursive Self-Improvement)に関する新たな研究成果が発表され、正式にオープンソース化されました。
このプロジェクトはHarness²と名付けられており、大規模言語モデルが実行中に外部コード、システムプロンプト、ツールチェーン、およびスキルライブラリを自律的に調整・最適化できるようにすることを目的としています。
これこそが、Harness(実行足場/テストハーネス)層に作用するRSIです。
実際のテストにおけるパフォーマンスは非常に目覚ましいものとなっています。
このHarness²の機能を導入したGLM-5は、オフィス業務ベンチマークテスト「WorkBuddy-Bench」においてスコアが11.5ポイント急上昇しました——
なんと、素のGemini 3.5 Flashを一挙に追い抜いたのです。
本フレームワークを導入したすべてのモデルにおいて、ベンチマークスコアの大幅な向上が確認されています。
現在、このプロジェクトは完全にオープンソース化されており、OpenCodeおよびCodexへの対応・サポートも完了しています。
なぜ「自己改善」は失敗しやすいのか
これまでにも、AIエージェントの賢さを高めるために、さまざまな再帰的自己改善(RSI)アプローチが業界で模索されてきました。
そのロジック自体は極めて理想的です。AI自身にコードを書かせ、プロンプトを調整させ、システムを最適化させるというものです。しかし、現実のオープンエンドなシナリオに投入されると、そうした試みはほぼ例外なくボトルネックに直面していました。
その根本的な原因は、主に2つの課題にあります。
正解(Ground Truth)の欠如
実験室環境でベンチマーク問題を解くのであれば、ユニットテストがあり、フィードバックを与えてくれる標準的な正解(Ground Truth)が存在します。しかし、実際のオフィス業務やビジネス現場では、事業企画書の作成であれ契約書のレビューであれ、オンライン環境で即座に客観的なスコアを提供することはできません。
AIが自らプロンプトを修正した際、その変更が真の改善をもたらしたのか、それともハルシネーションや偏りを生み出したのかを評価することは極めて困難です。
単一タスクへの極度な過剰適合(オーバーフィッティング)
システムは特定のタスクに適応しようとするあまり、基盤となるハーネスを大幅に変更しがちです。しかし、次のタスクが別のタイプ(例:Webクローラーの作成など)に切り替わると、以前蓄積したルールが逆に足かせとなってしまいます。
修正済みのハーネスを無理に後続のタスクへ再利用しようとすると、システムはノイズのスパイラルに陥りやすく、性能が向上するどころか低下してしまう結果を招きます。
これら2つの致命的な課題に対し、GoogleチームはHarness²を提案し、2層の再帰アーキテクチャを設計しました。
2層の再帰:実験を行いながら、ノウハウを蓄積する
Harness² の名にある「2乗(²)」は、相互に入れ子構造となった2つの再帰ループを表しています。すなわち、タスクレベルの再帰(Task-level)と、ハーネスレベルの再帰(Harnessing-level)です。
第1層:タスクレベルの再帰 —— 正解がない状況での対照実験の実施
新しいタスクに直面した際、システムはまず初期ハーネスに基づいてリファレンスとなる実行トレース(軌跡)を1つ生成します。この段階の重点は、結果が完全に正しいかどうかではなく、モデルが実行プロセスにおいてどのような欠陥を露呈したかを観察することにあります。
続いて、システムは**Propose–Probe–Compose(提案-検証-合成)**メカニズムをトリガーします。
- Propose(提案):専任のエディター役が、直前のトレースに対して2系統の修正案を提案します。1つはドメインを問わない共通の課題(計画の混乱、ツール呼び出しの無限ループ、コンテキストの肥大化など)に特化した「汎用的欠陥修正」(Invariant)。もう1つは、現在の業務固有の知識や制約条件に特化した「ドメイン固有修正」(Domain)です。
- Probe(検証):これら2つの候補ハーネスを元のタスクに戻してそれぞれ実行します。外部ジャッジが存在しなくても、システムは実行トレースとリファレンストレースを抽出して振る舞いの対比(Behavioral Contrast)を行うことで、変更がボトルネックとなったステップを実際に解消できたか、あるいは新たなロジックの後退を招いていないかを評価できます。
- Compose(合成):コンポーザーが各実行ログのエビデンスを統合し、実際の振る舞いを通じて有効性が確認された変更のみを選別して、最終的な実行ハーネスへとマージします。
さらに、このメカニズムは並列展開(Parallel Recursion)にも対応しており、$k$ 個の候補案を同時に走らせて検証することで、より広範な探索空間の中から最適な修正を合成することが可能です。
第2層:ハーネスレベルの再帰 —— ハーネス修正の知見をメタ能力として定着させる
現在のタスクが完了し納品されると、多くのシステムではライフサイクルが終了しますが、Harness²の真価はここからのプロセスで発揮されます。
システムは、リファレンストレース、修正候補、対比エビデンス、合成決定を含むデバッグ記録全体を振り返りモジュール(Experience Reflector)に引き渡します。
振り返りモジュールはレビューを経て EXPERIENCE.md ドキュメントを生成し、修正の動機、有効となる条件、もたらされた影響を継続的改善経験ライブラリ(Harness Improvement Library)へと完全に蓄積します。
これにより、後続の新たなタスクに直面した際:
実行側が受け取るのは依然としてクリーンなベースのハーネスですが、ハーネスのチューニングを担当する「改善頭脳」は、すでに豊富な過去の経験マニュアルを備えています。提案および合成の段階において、過去の類似シナリオで有効だったコンポーネントや落とし穴を回避するためのベストプラクティスを直接検索して活用できるのです。
これは目先のタスクハーネスを改善するだけでなく、将来的にハーネスを調整する能力そのものを引き上げ、単一タスクに対する一時的な対症療法を、持続的に再利用可能な認知的資産へと変換します。
ベンチマーク評価
理論的な仕組みの検証にとどまらず、研究チームは代表的な3つの専門ベンチマークを用いて厳格な評価を行いました。
- WorkBuddy-Bench:コード(Code)、Web、オフィススイート(Office)の3大複雑オフィスワークフローをカバー
- JobBench:ロングプロセスのエンドツーエンドな複雑専門職業務タスク
- LAB:Harveyがオープンソース化した高難度の法律エージェント評価ベンチマーク
評価対象のベースモデルにはGemini 3.5 FlashとGLM-5を採用し、実行ハーネスには主要なオープンソースフレームワークであるOpenCodeとCodexを使用しました。
テスト結果によると、WorkBuddy-Benchにおいて、わずか1ステップのHarness²による改善($k=1$)を加えるだけで以下の結果が得られました。
- GLM-5はOpenCode環境下で総合スコアが64.2ポイントから75.7ポイントへと11.5ポイント急上昇。Codex環境下でも64.4ポイントから75.3ポイントへと向上しました。
- Gemini 3.5 FlashはOpenCode下で72.4ポイントから77.5ポイントへ、Codex下で74.5ポイントから77.5ポイントへと向上しました。
このデータは、ハーネス最適化を経たGLM-5(75.7ポイント / 75.3ポイント)が、ハーネス最適化を行っていない素のGemini 3.5 Flash(72.4ポイント / 74.5ポイント)を完全に凌駕したことを示しています。
エンドツーエンドの業務タスク評価であるJobBenchにおいても、1ステップの改善によって全面的な向上が見られました。Gemini 3.5 Flashが4.5ポイント上昇、GLM-5が3.6ポイント上昇しました。また、法律ベンチマークであるLABでは、GLM-5の部分通過率が11.8パーセンテージポイント跳ね上がりました。
並列バジェットを $k=5$(同時に5系統の候補案を並列実行)に拡張すると、性能はさらに向上します。WorkBuddy-Benchでは最大でさらに3.9ポイント、JobBenchでは最大でさらに4.2ポイント向上し、LABの通過率はさらに6.7パーセンテージポイント上昇しました。
経験ライブラリのクロスドメイン転移テストでは、研究チームはJobBenchタスクで蓄積した経験ライブラリをそのままWorkBuddy-Bench環境へと転移させました。追加の検証プロセスを挟まない状態でも、コード領域で+0.6ポイント、Web領域で+0.5ポイント、オフィス領域で+2.9ポイントの直接的なゲインを達成しました。
これまで業界では、AI能力の向上を主に「基底モデルのスケーリング(Scaling)」に依存させており、次世代の大規模言語モデルが登場すればビジネス現場における導入の難題は自然と解消されるだろうと一般的に期待されていました。
しかし実際の現場導入では、基底モデルの研究開発コストが高騰し限界効用が逓減するにつれ、業務シナリオにおけるロングテールの課題が依然として根強く残ることが明らかになっています。モデルのコンテキストウィンドウがどれほど拡張されようと、複数ファイル間の照合といった複雑なロジックを扱う際には依然として重要な詳細を見落とす可能性があります。また、ベンチマークスコアがどれほど高くなろうと、レポートの執筆完了後に自発的にファイルを開いてフォーマットを検証するといったエンジニアリング的な配慮が不足することもあります。
こうしたエンジニアリング上の課題は、事前学習のパラメータのみで完全に解決することは困難であり、実行時に自律的に感知し、自律的に修復し、持続的に進化できるランタイム認知エンジニアリング機構への依存度が高まります。
従来のハーネス構築の多くは、エンジニアが手動でプロンプトを記述し、ツールチェーンを設定し、実行ロジックを保守していたため、メンテナンスコストが高くエッジケースの抜け漏れが発生しやすい状態でした。Harness²の研究成果は、ルールの調整や適応の主導権をエージェント自身へと委ねることが、極めて実用的で新しい進化のアプローチになり得ることを証明しています。
論文の著者
本論文には9名の著者が名を連ねており、中華系研究者が多く含まれています。主な著者は以下の通りです。
Ruiyao Xu(筆頭著者兼責任著者)
米ノースウェスタン大学 統計・データサイエンス学科の博士課程に在籍。指導教員はKaize Ding。主な研究領域は大規模言語モデル、グラフ機械学習、異常検知、およびAIエージェントシステム。本論文はGoogleでのインターン期間中に主導して完了させた研究。
Yanfei Chen(Google Cloud AI Research シニアリサーチエンジニア)
北京大学を卒業(電気工学および経済学を専攻)後、2018年に米ピッツバーグ大学で産業工学の博士号を取得。以前は機械学習スタートアップのQeexoでリサーチエンジニアを務め、2020年にGoogleへ入社。Vertex AI SearchやGemini Enterprise Deep Researchなどのコアプロジェクトに参画してきた。主な研究領域はLLMエージェント、検索拡張生成(RAG)、ツール学習など。
Zhongying CuiZhu(Zoey CuiZhu、Google Cloud AI Research リサーチエンジニア)
2019年にスタンフォード大学で電気工学の博士号を取得。主な研究分野は汎用エージェント、検証可能エージェント、およびエージェントの評価体系。
参考リンク:
[1] https://arxiv.org/html/2610.14224v1