KC-Agent: A Dual-Process Cognitive Architecture for Efficient ML Model Improvement

あなたは、同じ星系を何年も巡航している宇宙船の船長だと想像してください。あなたの宇宙船のコンピュータは、完璧に航行するようにプログラムされており、あらゆる小惑星やガス雲をすべて記憶しています。しかしある日、宇宙が変容します。新しい星雲が漂い込み、星の色が変わり、古い地図は外の景色と一致しなくなります。もしコンピュータが古い地図を使い続けていたら、衝突してしまうでしょう。これは、現実世界における「機械学習（ML）」の日常的な苦闘です。データから学習するソフトウェアは、時間の経過とともにデータが変化すると混乱してしまうことがあり、科学者はこれを「データドリフト」と呼びます。

これを解決するために、通常は人間の専門家がソフトウェアを絶えず再学習させる必要がありますが、それは時間がかかり、コストもかかります。最近、私たちは「AIエージェント」を構築しました。これはコードを書き、自らを修正できるスマートなプログラムであり、いわばデジタルな整備士のようなものです。しかし、これらのデジタル整備士には欠点があります。彼らは、あまりにも速くて無謀で、物事を壊してしまうような拙速な変更を行ってしまうか、あるいは、即時の対応が必要な問題に対して、あまりにも遅くて慎重すぎて時間をかけすぎてしまうかのどちらかです。彼らはスピードと安全性のバランスを取るのに苦労しています。この論文は、人間の脳の仕組みからトリックを借りることで、この問題を解決する新しい種類のAI整備士を紹介しています。

---

KC-Agentとの出会い：知的な整備士

この論文の著者たちは、KC-Agent（カーネマン・クリア・エージェントの略）と呼ばれる新しいAIシステムを構築しました。これは、依存しているデータが変化したために機械学習モデルの調子が悪くなったときに、自動的に修正するように設計されています。その秘訣は何でしょうか？ それは、単一の思考方法ではなく、人間の思考法に触発された「二重プロセス」の脳を使用していることです。

KC-Agentの脳を、協力して働く2つの異なるパーソナリティを持っていると考えてみてください。

1. システム1（速い反射）： これは「直感」モードです。非常に高速です。問題が発生すると、システム1は過去に見たことのある類似の状況をメモリ内からスキャンします。もし一致するものが見つかれば、過去にうまくいった解決策を即座に適用します。それは、焦げた鍋を見て、経験に基づき考えることなく即座に消火器を掴むシェフのようなものです。
2. システム2（遅い思考者）： これは「深い考察」モードです。慎重かつ丁寧で、少し低速です。もしシステム1が素早い解決策を見つけられなかったり、問題が複雑すぎたりする場合、システム2に作業を引き継ぎます。システム2は問題を小さく安全なステップに分解します。一つの小さな変更を試し、それが機能するかどうかを確認し、もし失敗した場合は、即座に「元に戻す（Undo）」を実行して別の方法を試します。それは、一つの変数だけを変えて何が起こるかを見る、実験室の科学者のようです。

実践における仕組み

論文では、KC-Agentをこれら2つのシステムが対話するワークフローとして説明しています。AIが新しいデータに対してモデルのパフォーマンスが低下していることを検知すると、まずシステム1に「以前にこれを見たことがあるか？」と問いかけます。

• はいの場合： システム1は、過去の経験から成功した修正の「記憶」を取り出し、即座に適用します。これは非常に高速です。
• いいえの場合： システム1は「お手上げだ」と言い、システム2を呼び出します。すると、システム2が緩やかで秩序あるプロセスを開始します。システム2は、小さな「アトミック（原子的な）」変更（数値の調整やツールの入れ替えなど）を行い、それらをテストします。もし変更によって状況が改善されれば、それを維持します。もし悪化した場合は、即座にその変更をロールバックし、モデルが元の状態よりも悪化しないようにします。

そして、システム2が解決策を見つけると、単にそれを放置するわけではありません。システム2はシステム1に教えます！ システム2は新しい解決策を「記憶バンク」に書き込み、次に同様の問題が発生したとき、システム1がそれを認識して即座に解決できるようにします。これは**知識の統合（knowledge consolidation）**と呼ばれます。

研究結果

研究者たちは、5つの異なるデータセットを用いてKC-Agentをテストしました。2つは、ジェットエンジンの摩耗に関するNASAの実世界の産業データセットであり、本物の経時的な劣化が含まれていました。残りの3つは、合成データセット（ローン、健康状態、行政決定をシミュレートしたもの）であり、GPT-4を使用してコアデータを生成した後、現実的な特徴量の分布と一貫したドリフトパターンを確保するために注意深く**洗練（refine）**されており、ナンセンスな関係性を排除しています。彼らは、KC-Agentを、CodeAct、Tree of Thoughts、ReActといった他の有名なAIエージェントと比較しました。

数字の結果は以下の通りです：

• 精度（Accuracy）： KC-Agentは平均76.8%の精度を達成し、次に優れたエージェント（CodeAct）を2.4%上回りました。さらに、「Tree of Thoughts」の手法を3.6%、「ReAct」を**8.0%**上回りました。
• 速度（Speed）： 非常に効率的で、平均してわずか13.2秒で実行されました。対照的に、彼ら自身のエージェントの「遅い」バージョン（システム2のみ）は141.2秒かかりました。これは、二重プロセスのアプローチが、システム2のみを使用した場合よりも91%高速であったことを意味します。
• 賢さ（Smartness）： 他の高度なAIによるパネルがコード変更の質を判定したところ、KC-Agentは「賢さ」において10点満点中8.33点を記録しました。これはCodeAct（5.93）やReAct（5.33）よりも大幅に高い数値でした。判定員は、KC-Agentが単に安全で退屈な変更を行うのではなく、戦略的で巧妙な変更を行っていると指摘しました。

なぜこれが重要なのか

この論文は、AIモデルを修正する鍵は、単にモデルをより賢く、より速くすることではなく、適切な「思考の構造」を与えることにあると示唆しています。高速なパターンマッチングシステムと、低速で慎重なシステムに仕事を分担させることで、KC-Agentは両方の良いところを兼ね備えています。一般的な問題には素早く反応し、事態が異常になったときでもパニックに陥りません。

また、著者たちは彼らの手法が安全であることを証明しました。システム2は極めて小さな変更のみを行い、失敗した場合には即座に元に戻すため、モデルが元の状態よりも悪くなることはありません。この「アトミックな変更」の原則は、病院や発電所を運営しているような、システムを壊すことが許されない現実世界の運用において極めて重要です。

要約すると、KC-Agentは、もしAIを優れた整備士にしたいのであれば、単に天才にするのではなく、素早い反射神経と慎重な脳を与え、それらを互いに教え合わせるべきであることを示しています。このアプローチは、将来のAIシステムが、人間の手を借りることなく、変化する世界の中で自らを最新の状態に保つためのより優れた方法となり得ることを示唆しています。