あなたは、ある謎を解こうとしている探偵だと想像してください。しかし、あなたには厳格なルールがあります。それは、誰をインタビューする場合でも、質問は3つまでしかできないというルールです。もしあなたがティーンエイジャーのグループ、退職者のグループ、そして会社員のグループをインタビューするとしたら、ティーンエイジャーに最も適した3つの質問は、退職者には全く意味をなさないかもしれません。これは、機械学習における日常的な苦闘です。機械学習とは、コンピュータがデータの中にあるパターンを見つけることで予測を行う科学の一分野です。通常、これらのコンピュータプログラムは、あらゆる人々が混ざり合った膨大なデータの山で訓練されます。しかし、現実の世界では、人々は皆同じではありません。「平均的な」人々に合わせて訓練されたモデルは、大多数の人々には素晴らしい働きをするかもしれませんが、より小さな、あるいは異なるグループに対しては、惨めな失敗をすることもあります。それは、ほとんどのドライバーには明確な道路を示すものの、一部のドライバーを沼地へと導いてしまう地図のようなものです。問題は、各グループに対して別々の高価なアンケートを用意することなく、全員にうまく機能する単一かつ限定された質問のセット（「特徴量」）をどのように選ぶか、ということです。

これは、カーネギーメロン大学の研究者による「Population-Robust Feature Selection via Generalized Welfare Optimization」という新しい論文が取り組んでいるパズルです。彼らは、PopFSと呼ばれる巧妙な新手法を紹介しています。PopFSを、膨大な百科事典のための非常に賢く、公平な心を持った編集者だと考えてみてください。通常、編集者は最も人気のあるトピックを選んで掲載するため、その本は大多数の人には素晴らしいものになりますが、ニッチな読者にとっては重要な詳細が欠落してしまいます。しかし、PopFSは特別な「公平性のダイヤル」（厚生目標と呼ばれます）を使用しており、その編集者が、最も不遇なグループのニーズをどの程度優先するかを決定できるようにします。ダイヤルを上げれば、通常は予測結果が最も悪くなるグループであっても、他の人々のための質を損なうことなく、公平なチャンスを得られるように調整できます。

研究者たちは、PopлоFSがゲームチェンジャーであることを発見しました。すべての人にとって完璧な一つのモデルを見つけようとする（それはしばれたり不可能であったりします）ことも、あるいは平均的に最もよく機能する特徴量を選ぶこともせず、PopFSは、一つの共有された「質問」のセットを選び出し、それに基づいて各グループが独自の「解答集」を作成できるようにします。8つの異なるグループを含む6つの実世界のタスク（所得の予測から血中鉛レベルの追跡まで）を用いたテストにおいて、PopFSは既存の手法を一貫して上回る性能を示しました。それは単に平均的なケースを助けるだけでなく、最も不遇なグループのパフォーマンスを、他の手法と比較して最大22%も向上させたのです。

おそらく最もエキサイティングな部分は、その柔軟性の高さです。米国の43州におけるCOVID-19の症状を追跡したケーススタディにおいて、研究者たちは、単に「公平性のダイヤル」を回すだけで、最も苦戦している州の予測をほぼ40%改善できることを示しました。しかも、すでに順調である州のパフォーマンスをほとんど低下させることなくです。これは、スピーカーのすぐ隣に座っている人の音楽を悪化させることなく、部屋の隅にいるリスナーのためにラジオのチューニングを合わせて、ノイズを取り除くようなものです。また、この手法は非常に高速であり、数千もの質問の中から15分足らずで最適なものを選別できるため、実世界での使用に適しています。

問題点：一律のサイズは適合しない

あなたが診断を行う医師だと想像してください。ただし、あなたには尋ねることができる症状のチェックリストが、ごくわずかで固定されています。患者は全国各地からやってきます。若くて健康な人もいれば、慢性疾患を持つ高齢者もいます。また、異なる環境リスクがある地域に住んでいる人もいます。もしあなたが「平均的な」患者にとって最も適した3つの症状を選んだとしたら、高齢者や若者にとっての決定的な兆候を見逃してしまうかもしれません。

これが、**特徴量選択（feature selection）**の核心的な問題です。機械学習において、「特徴量」とは、コンピュータに投入されるデータポイントや質問（例えば「年齢」、「所得」、あるいは「熱があるか？」など）のことです。通常、科学者たちは、コンピュータが最大勢力に対して最も賢くなるような特徴量を選びます。しかし、これでは小さかったり異なる背景を持つグループを置き去りにしてしまいます。

以前のいくつかの手法は、すべての人に機能する一つの巨大で超堅牢なモデルを構築することで、この問題を解決しようとしました。しかし、それは赤ん僚、バスケットボール選手、そして祖母のすべてに完璧にフィットする一足の靴を作ろうとするようなもので、ほぼ不可能です。また、個々のグループごとに別々のモデルを構築しようとする手法もありますが、それでは各グループ専用の高価なチェックリストが必要になり、限られたリソースを共有するという目的自体が失われてしまいます。

解決策：PopFSと公平性のダイヤル

この論文の著者であるRuiqi Lyu、Alistair Turcan、およびBryan Wilderは、中間的な道を提案しています。彼らは、全員が使用する一つの共有されたチェックリストを見つけつつ、各グループがそのチェックリストに基づいて独自の**カスタムモデル（独自の解答集）**を作成できるようにしたいと考えています。

これを行うために、彼らはPopFSを考案しました。その仕組みを、簡単な比喩を使って説明します。

1. 教師と生徒： マスターティーチャー（「教師」）が、世界中のあらゆる情報にアクセスできると考えてください。この教師は、一人ひとりの生徒に対する完璧な答えを知っています。PopFSはまず、この教師にすべてのデータを検討させ、各グループに対する「完璧な」予測を導き出させます。
2. 圧縮テスト： 次に、研究者はこう問いかけます。「もし生徒たちに、ごくわずかな共有の質問リスト（特徴量）だけを与えたとしたら、彼らはまだ教師の答えを推測できるだろうか？」彼らは、どの質問リストが、生徒たちが教師の知恵に最も近づけるかをテストします。
3. 公平性のダイヤル（厚生目標）： これが魔法の部分です。研究者たちは、単に「平均」のスコアが最も高くなるリストを選ぶだけでは不公平であることに気づきました。そこで、彼らは厚生パラメータ（ギリシャ文字のアルファ $\alpha$ で表されます）と呼ばれる調整可能なダイヤルを追加しました。
   • ダイヤルを 1 に設定すると、システムは全員の合計スコア（平均）を最も重視します。
   • ダイヤルを 0 または -1 に下げると、システムは現在最も低いスコアを得ている生徒たちをより重視し始めます。これにより、たとえトップクラスの成績を収めているグループの助けが少し減ったとしても、苦戦しているグループを助けるような質問を選択するように強制します。

いかにして高速化したか

「待ってください。もし数千もの質問があるとしたら、それらを何十もの異なるグループでテストするのは、永遠に時間がかかるはずです！」と思うかもしれません。その通りです。あらゆる質問の組み合わせを試すことは、数千ページあるレシピ本の材料の組み合わせをすべて試そうとするようなもので、一生がかかります。

PopFSは、この問題を解決するために、巧妙な二段階のトリックを使用しています。

1. ビッグスクリーン： まず、数千もの特徴量を素早くスキャンし、明らかに役に立たないものを捨てて、最も有望な候補のみを残す「ショートリスト」を作成します。これは、歌えない人を即座に脱落させるオーディションの審査員のようなものです。そうすることで、世界中のすべての人を一人ずつ聴く必要がなくなります。
2. スマート・スワップ（賢い入れ替え）： 次に、すべての組み合わせをテストする代わりに、まず優れたリストから始め、質問を一つずつ入れ替えていきます。数学的なショートカット（サロゲートと呼ばれるもの）を使用して、どの入れ替えが最も効果的かを予測します。最も優れた候補に対してのみ、完全で時間がかかる本格的なテストを行います。これにより、数千の選択肢があっても、15分足らずで完璧なリストを見つけることができます。

得られた結果

研究者たちは、以下のような実世界のデータを用いてPopFSをテストしました。

• 所得予測（ACSおよびUCI Adultデータセットを使用）。
• 健康リスク（NHANESの子供および成人の血中鉛レベル、およびHELOCの信用リスク）。
• COVID-19の追跡（症状の検索に基づく、米国の43州における入院予測）。

ほとんどすべてのテストにおいて、PopFSは他の手法を上回りました。

• すべての人にとってより良く： 全グループの平均的なパフォーマンスを向上させました。
• 苦境にある人々にとってより良く： 最も重要なのは、通常最も悪い予測を受けるグループのパフォーマンスを大幅に向上させたことです。あるケースでは、標準的な手法と比較して、「最も不遇な」グループのパフォーマンスを最大 22% も向上させました。
• COVID-19のケーススタディ： 43州におけるCOVID-19の入院予測に適用した際、彼らは興味深い発見をしました。最も苦戦している州を優先するように「公平性のダイヤル」を回すことで、それらの州の予測精度を約 40% 向上させることができましたが、全州の平均精度はほとんど変化しませんでした。

また、彼らはPopFSが選ぶ特徴量が、ダイヤルに応じて変化することにも気づきました。苦戦している州を優先するように設定すると、システムは単に最も一般的な症状ではなく、それらの特定の地域により適した特定の症状（特定のタイミングの熱や味覚消失など）を選び始めました。これは、この手法が単に最も人気のあるツールを選んでいるのではなく、適切な仕事に対して適切な道具を見つけ出していることを示唆しています。

なぜこれが重要なのか

この論文は、世界中のあらゆる問題を解決したと主張しているわけではありません。著者たちは、彼らの手法が初期の「教師」モデルの品質に依存していること、および数学的に完璧な答えを毎回見つけるのではなく、スマートなショートカット（ヒューリスティック）を使用していることを慎重に述べています。しかし、結果は多くの異なる種類のデータにおいて強力かつ一貫しています。

主要なメッセージは、「大多数にとって良いもの」か「全員にとって公平なもの」かのどちらかを選ばなければならないわけではない、ということです。PopFSを使えば、全員にうまく機能する単一の展開可能な質問セットを持つことができ、さらに、全体の質を犠牲にすることなく、最も助けを必要としている人々がその助けを受けられるように調整することができるのです。これは、機械学習を単に「賢い」ものにするだけでなく、多様で複雑な現実の世界に対して「公平」で「適応力のある」ものにするための、一歩となります。