SIGMA: SHAP-Guided Implicit-Trajectory Generation for Metadata-Free LLM-Based AutoFE

データサイエンスの世界では、ローン返済の不履行予測から病気の診断に至るまで、問題を解決するために、コンピュータに膨大な数値が詰まったスプレッドシートが与えられることがよくあります。しかし、これらの生の数値だけでは、多くの場合十分ではありません。最善の結果を得るためには、専門家は「自動特徴量エンジニアリング」と呼ばれるプロセスを実行する必要があります。これは、既存のデータを組み合わせたり変換したりすることで、よりスマートな新しいデータの列（カラム）を作成することを意味します。パントリーにある材料をそのまま使うだけでなく、料理をより美味しくするために新しい味の組み合わせを考案するシェフを想像してみてください。何十年もの間、コンピュータは数値を盲目的に混ぜ合わせることでこれを行おうとしてきましたが、このアプローチは時間がかかる上に、しばしば混乱を招く結果を生み出してきました。近年、科学者たちは、文脈から推論し学習できる強力な人工知能システムである「大規模言語モデル」を、これらクリエイティブなシェフとして活用し始めました。これらのAIシステムは、より優れた予測を実現するための鍵であると考えられていましたが、大きな障害に直面していました。それは、通常、正しく機能するためには、すべての数値が何を意味しているのかという詳細な説明が必要であるということです。現実の世界では、プライバシー規則のため、あるいは単にデータが人間の言葉を解さないセンサーから来ているために、そのような説明が欠落していることがよくあります。さらに、これらのAIシステムが、データを改善するために過去の試行から学ぼうとすると、その履歴のリストが長くなりすぎてコンピュータのメモリを圧倒し、同じ間違いを繰り返すループに陥ってしまうことがありました。

横浜国立大学の研究チームは、これらの問題を解決し、数値が何を表しているかという説明を必要とせずにAIがより良いデータをエンジニアリングできるようにする、「SIGMA」と呼ばれる新しい手法を開発しました。SIGMAは、データの理解を人間の言語に頼る代わりに、「SHAP」と呼ばれる数学的ツールを使用して、各情報が最終的な予測に対して実際にどれほど重要であるかを測定します。このツールを、最も重要な数字を強調し、あまり役に立たない数字を暗くする「スポットライト」だと考えてください。これにより、AIは数字の名前を知らなくても、明確な方向性を得ることができます。研究者たちはその後、これらの数値を「最も重要なもの」「中程度の有用性を持つもの」「弱いもの」の3つのカテゴリーにグループ化しました。そして、これらのグループ内で数字を混ぜ合わせたり、強いものと弱いものを橋渡ししたりすることで新しいデータ列を作成するようAIに指示し、効果的な場所に創造性を集中させるようシステムに教え込んだのです。

この研究における最も重要な革新は、研究者たちが「露出特徴量の暗黙的軌跡（exposed-feature implicit trajectory）」と呼ぶテクニックです。以前の試みでは、AIシステムは重複を避けるために、これまでに作成したすべての特徴量の記述リストを保持していましたが、このリストはすぐにコンピュータのメモリに収まらないほど長くなってしまいました。SIGMAは異なるアプローチを取ります。履歴を書き留める代わりに、使用済みの特徴量を短期間、AIの視界から隠してしまうのです。もしAIが現在隠されている数値を使って特徴量を作成しようとした場合、AIは他の場所を探さざるを得なくなります。この「隠すことと見せること」という単純な行為が、静かなガイドとして機能し、長い履歴ログを保存することなく、AIが同じことを繰り返すことから遠ざけます。これにより、システムはメモリ制限によって停滞したり、役に立たない同じ特徴量を生成し続けるサイクルに陥ったりすることなく、より長い期間、精度を高めることができます。

この新しいアプローチの結果は驚くべきものです。16種類の異なる実世界のデータセットでテストした際、SIGMAは詳細な説明に依存する既存の最高峰のAI手法と同等の性能を発揮し、システムが効果的に機能するために人間のラベルを必要としないことを証明しました。さらに重要なことに、SIGMAは繰り返しの問題を解決しました。以前のシステムでは、生成された特徴量の約37パーセントが重複しており、貴重な計算資源を浪費していました。SIGMAの「使用済み特徴量を隠す」手法により、この重複率は劇的に低下し、7パーセント未満となりました。また、システムは非常に効率的であることも証明されました。従来のメソッドは、わずかな優れた特徴量を見つけるために数百の新しい特徴量を生成することが多い一方で、SIGMAは平均してわずか5つの新しい特徴量を用いてトップクラスの性能を達成しました。これは、システムが最も価値のある改善を迅速に見つけ出し、残りのデータをクリーンで管理しやすい状態に保てることを意味しています。

研究者たちはまた、この手法によって、以前は手の届かなかった複雑で多層的なデータの構造をAIが構築できることも発見しました。いくつかのテストでは、システムが特徴量を連鎖的に組み合わせ、あるステップの出力を次のステップの入力として使用することに成功し、予測を大幅に向上させる深い関係性のネットワークを作り上げました。この能力により、SIGMAは、硬直した事前定義のルールに依存する古い非AI手法を凌駕しました。本研究は、人間の言語を数学的な重要度のシグナルに置き換え、隠蔽と開示という巧妙なシステムを用いることで、人間の説明が存在しない状況においても、人工知能がデータ分析を改善するためのより強力で実用的なツールになり得ることを裏付けています。