再帰的自己改善(RSI)の現実的な近道は、モデルの重みを直接書き換えることではなくハーネスエンジニアリングにある、というLilian Wengの論考。ハーネスとは、ベースモデルを取り囲んで実行を統括するシステムのことで、思考と計画、ツール呼び出し、コンテキスト管理、成果物の保存、結果の評価までを担う。Claude CodeやCodexといったコーディングエージェントの成功が示すとおり、モデルの生の知能と同じくらい、その外側のデプロイシステムが性能を左右する。
本文は関連研究のサーベイが中心で、コンテキストを「進化するプレイブック」として扱うACE、ハーネスを最適化するハーネスであるMeta-Harness、進化的探索でエージェント自身のコードを書き換えるAlphaEvolveやDarwin Gödel Machine(SWE-bench Verifiedを20%から50%に引き上げた)などが整理されている。STOPの知見も紹介されていて、自己改善ループはベースモデルが十分に賢くないと機能しない(GPT-4では改善した一方、GPT-3.5では悪化した)。
残る課題として、曖昧な評価器、報酬ハッキング、多様性の崩壊、失敗を認識しにくいこと、長期的な保守性など7つを挙げる。人間はループから外れるのではなく、より高い抽象度に上がってガバナンスと監視を担うべきだ、という締めくくり。