A multi-objective evolutionary approach to neural architecture search for clinical tabular classification: balancing predictive performance and model compactness

あなたは、心臓疾患を診断したり腫瘍を見つけたりするための完璧なロボットシェフを作ろうとしていると想像してください。このシェフには、驚異的な賢さ（高い精度）を持ちつつ、ポケットに入るほど小ささ（低い複雑性）も備わっていてほしいと考えています。通常、人々がこうしたAIシェフを作ろうとする際、彼らは「大きいことは良いことだ」と考えて、材料や道具をどんどん増やし続けてしまいます。しかし、この論文はそれが悪いアイデアであると主張しています。モデルを大きくしすぎることは、たとえその本の内容が面白かったとしても、バックパックに本を詰め込みすぎて持ち運びが重くなってしまうようなものだと述べています。その結果はどうなるでしょうか？ 自分の足に躓いて転んでしまう、不器用なロボットが出来上がり、現実世界のデバイス上で機能しなくなってしまうのです。

著者であるIvan、Menhai、Safaは、異なるアプローチを試すことにしました。単に推測したりモデルを大きくしたりする代わりに、彼らはMOGA-NASと呼ばれるデジタルな「進化ゲーム」を作り出しました。これは、コンピューターの脳による「適者生存」のコンテストのようなものです。

ゲームのルール：二つの目標を同時に
ほとんどのゲームでは、最高スコアを取ることだけを目指します。しかし、このゲームのプレイヤーは、二つの目標を同時に両立させなければなりません。

1. 賢さ： 医学テストで可能な限り高いスコアを獲得すること（F1スコアと呼ばれる指標で測定）。
2. 小ささ： できるだけ少ない「パーツ」（パラメータ）を使用すること。

この論文は、一つの目標（例えば賢さだけ）に対してのみ最適化しようとすると、肥大化して非効率なモデルが生み出されると主張しています。そのため、彼らはNSGA-IIと呼ばれる特別な審判システムを使用しました。この審判は、たった一人の勝者を選ぶのではなく、一つの「パレートフロント」を見つけ出します。これは、非常に賢いが少し重いモデルも選べるし、少し賢さは落ちるがポケットに収まるほど軽いモデルも選べる、といった「メニュー」を想像してください。目的は、医師たちがそれぞれのハードウェアに合わせて選択できるような「選択肢のメニュー」を提供することです。

秘密兵器
この進化を機能させるために、チームは3つの素晴らしいトリックを考案しました。

• 「ニューロンからサブネットワークへの」突然変異： あなたのロボットの中にある単一のレゴブロックが、突如として独自の歯車を持つ小さな自律機械へと成長することを想像してください。これにより、ロボットは全体を大きくするのではなく、必要な場所にのみ複雑さを加えることができます。
• 「重要度のガイド」： ロボットのどの部分を変更するかをランダムに選ぶ代わりに、システムはどの部分が実際に重労働を行っているかをチェックします。これは、コーチが選手に対して「靴を変えるのではなく、走りのフォームを変えなさい」と伝えるようなものです。なぜなら、問題は靴ではないからです。
• 「8ビット・コード」： 彼らは、ロボットのデザインを記述するために非常にコンパクトな方法（長いエッセイではなく、短いコードを使うような方法）を使用しました。論文では、これが「正則化器（regularizer）」として機能していると示唆されています。これは、ロボットが教訓を学ぶ代わりにテストの答えを丸暗記してしまうのを防ぎ、シンプルさを保たせるための高度な仕組みです。

結果：小さくとも強力
チームは、心臓疾患の記録から乳がんのデータに至るまで、5つの異なる医学データセットを用いてこの手法をテストしました。結果が単なる偶然ではないことを確認するために、彼らは実験を15回行いました（3つの異なるランダムな開始点と、5つの異なるデータの分割を使用）。

結果は以下の通りです。

• パフォーマンス： 5つのデータセットのうち4つにおいて、彼らが進化させたロボットは最も高い平均スコアを獲得しました。5つ目のデータセット（ウィスコンシン乳がんデータ）では、従来の最高の手法であるサポートベクターマシン（SVM）と同率でした。論文によれば、この特定のデータセットにおける差は極めて小さく、統計的に区別がつかないレベルであったとのことです。
• サイズ： これが大きな勝利です。彼らが見つけたモデルは非常に小さく、わずか100から480個のパラメータしか含んでいません。数千個のパラメータを使用することが多い他の手法と比較してください。論文では、これは「1から2桁小さい」と記されています。
• 信頼性： 彼らが数学的なチェック（ペア・ウィルコクソン符号付順位検定と呼ばれる統計テスト）を行ったところ、65回の比較のうち61回において、彼らの手法は他の手法よりも統計的に優れていることが分かりました。

明確に否定していること
この論文は、この手法が何ではないかについても非常に慎重に述べています。

• これは、あらゆる問題を解決する「魔法の杖」ではありません。著者らは、純粋なパワーという点において「新しい最先端技術（state of the art）」を主張しているわけではないと明言しています。データセットによっては、改善は「統計的な引き分け」であり、圧倒的な勝利ではありませんでした。
• これは無料ではありません。論文は、完成したロボットは小さく高速である一方で、それを構築するプロセス（探索）には時間がかかることを主張しています。標準的なコンピューターを使用した場合、探索には「1つのフォールドあたり数分程度」の時間がかかります。これは、1秒もかからずに終了する単純なモデルのトレーニングと比較して遥かに長いです。もし急いでいて、進化が終わつのを待てないのであれば、単純な事前調整済みのモデルの方が依然として良い選択肢かもしれません。
• これは巨大なデータセットに対して証明されているわけでもありません。論文は、この手法の主張を「小規模から中規模」のデータセット（最大で1,151インスタンス）に限定しています。彼らは、数百万のレコードを持つ大規模なデータに対してこれが機能するかどうかはまだ分かっていないと認めています。

結論
この論文は、この多目的進化検索を使用することは「好ましく、かつ再現可能なトレードオフ」であることを示唆しています。これは、巨大で扱いにくいモデルを構築することなく、トップクラスの医学的予測を得る方法を提供します。それは、フルサイズのシェフナイフと同じくらい鋭い切れ味を持ちながら、ポケットに収まるスイスアーミーナイフを見つけるようなものです。

しかし、著者らはそのコストについても正直です。完璧でコンパクトな設計を見つけるために、事前に「探索予算（時間と計算資源）」を支払う必要があります。進化を実行する時間があるなら、非常に効率的なモデルが得られます。もし即座に回答が必要なら、従来の手法が依然として最善の選択となるでしょう。この研究は、デバイスが小型であったり電力が制限されていたりする臨床現場において、このアプローチが特に価値を持つ可能性があることを示唆していますが、これはあくまで特定のテストに基づいた提案であり、医学AIにおける普遍的な法則ではありません。