🤖 machine learning

Cooperative Coevolution versus Monolithic Evolutionary Search for Semi-Supervised Tabular Classification

この論文は、極端にラベル数が少ない半教師あり表形式分類タスクにおいて、特徴量サブセットと疑似ラベル付け方針を共進化させる協同共進化手法（CC-SSL）を提案し、単一の進化アルゴリズム（EA-SSL）や軽量なベースラインと比較した結果、両進化手法が軽量ベースラインを上回る性能を示したが、最終的なテスト性能については統計的に有意な差は見られなかったことを報告しています。

原著者： Jamal Toutouh

公開日 2026-04-21

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Jamal Toutouh

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

この論文は、**「データはたくさんあるのに、正解（ラベル）がほとんどない状態」**で、機械学習をどうすればうまく動かせるかという難しい問題を扱っています。

具体的には、**「協力して進化するシステム（CC-SSL）」と「一人で全部やるシステム（EA-SSL）」**のどちらが、表形式のデータ（エクセルのようなデータ）の分類に優れているかを比較した研究です。

これを日常の言葉と面白い例え話で解説しますね。

🎯 背景：正解がほとんどない「暗闇の探検」

Imagine you are a detective trying to solve a crime. You have a huge pile of evidence (unlabeled data), but you only have 1% of the clues that tell you who the culprit is (labeled data).

従来の方法（軽量 SSL）： 既存の探偵たちは、この 1% のヒントを頼りに「たぶん犯人は A だ」と推測し、その推測を新しい証拠として使います。でも、最初の推測が間違っていると、その誤りがどんどん広まって、最終的に「犯人は A だ！」と間違った結論に至ってしまいます。
この論文の挑戦： 人間が手動で「どの証拠を見るか」「いつ推測を信じるか」を決めるのは難しいので、**「進化アルゴリズム（自然淘汰のような仕組み）」**を使って、自動的に最適な探偵のチーム編成と推測ルールを見つけ出そうとしました。

🥊 対決：2 つのチーム編成

研究者は、この「探偵チーム」を組む 2 つの異なる方法を比べました。

1. 協力進化チーム（CC-SSL）：役割分担の二人組

この方法は、2 つの異なる「専門家」を別々のチームで育てます。

チーム A（目撃者）： 「どの証拠（特徴量）を見るべきか」を決める人。
チーム B（推理家）： 「いつ、どの推測を信じるべきか」を決める人。

🎭 例え話：
これは、**「料理のシェフとメニュー開発者のペア」**のようなものです。

シェフ（チーム A）は「どんな食材（特徴）を使うか」を考えます。
メニュー開発者（チーム B）は「どのレシピ（ルール）で調理するか」を決めます。
彼らは別々の部屋で練習し、互いに「今日のベストな食材」と「今日のベストなレシピ」を交換して、一緒に料理（分類）の出来栄えを評価します。
メリット： 専門特化ができる。
デメリット： 二人の息が合わない（協力関係が崩れる）と、全体のパフォーマンスが落ちる可能性があります。

2. 単一進化チーム（EA-SSL）：万能の一人旅

この方法は、**1 人の「スーパー探偵」**が、食材選びもレシピ作りも全部一人で考えます。

🎭 例え話：
これは、**「何でも屋の天才シェフ」**です。
- 食材選びから味付けまで、すべて頭の中でシミュレーションして、完璧な料理を作ろうとします。
- メリット： 一人なので、食材とレシピの相性が最初から完璧に調整されます。
- デメリット： 頭がパンクして、多様なアイデアが出にくくなる可能性があります。

🔍 実験結果：どっちが勝った？

25 種類のデータセット（OpenML という公開データベース）で、正解ラベルが 1%、5%、10% しかない状況でテストしました。

1. 最終的な成績（MacroF1 スコア）

結論： 「協力チーム」と「一人旅」は、ほぼ同率の引き分けでした。
どちらの進化アルゴリズムも、従来の「既存の探偵たち（軽量 SSL 手法）」よりも圧倒的に上手に正解を見つけました。特に、正解が1% しかないという過酷な状況では、両方とも大活躍しました。
「役割分担（CC）」の方が「一人旅（EA）」より明らかに優れていた、という証拠はありませんでした。

2. 進化のプロセス（どうやって成長したか？）

ここが面白い部分です。成績は同じでも、成長の過程に違いがありました。

多様性（アイデアの豊富さ）：
- 一人旅（EA）： 常にアイデアの幅が広く、多様な探偵がいました。
- 協力チーム（CC）： 早くから「これが正解だ！」と固定化され、アイデアの幅が狭くなりました。
到達までの速さ：
- 一人旅（EA）： 目標に到達するまでの「世代数（試行回数）」が少し少なくて済みました。つまり、**「より少ない試行で、より良いアイデアを見つけ出すのが得意」**でした。
- 協力チーム（CC）： 試行回数は少し多めでしたが、最終的な完成度には差がありませんでした。

3. 誤った推測（ダミーラベル）の量

「間違った推測を信じてしまう量」や「自信過剰な評価」については、両者に違いはありませんでした。
どちらの方法も、誤った情報を増やしすぎず、安定して動作していました。

💡 結論と教訓

この研究が教えてくれることは以下の通りです。

「正解がほとんどない世界」では、進化アルゴリズムを使うのが最強。
従来の手法よりも、自動的にルールを調整する AI の方が、少ないヒントから正解を見つけられます。
「役割分担」は必須ではない。
複雑にチームを分けて協力させる（CC）よりも、「一人の万能な探偵（EA）」が全部やる方が、同じコストで同じ成果を出せることが分かりました。
- 複雑なシステムを作るよりも、シンプルで強力な単一のシステムの方が、実は効率的な場合があるのです。
計算コストは同じ。
どちらの方法を使っても、かかる時間はほぼ同じでした。

🌟 一言でまとめると：
「正解がほとんどないデータ分析では、複雑にチームを組むよりも、『何でも屋の天才』を育てる方が、同じくらい上手で、少しだけ早く成長することが分かりました。でも、どちらを使っても、従来の方法よりはるかに素晴らしい結果が得られます！」

この研究は、AI を開発する人にとって、「複雑な仕組みにする必要はない、シンプルで強力な単一の進化アルゴリズムで十分だ」という安心感を与えてくれるものです。

論文要約：半教師あり表形式分類における協調共進化と単一進化探索の比較

論文タイトル: Cooperative Coevolution versus Monolithic Evolutionary Search for Semi-Supervised Tabular Classification
著者: Jamal Toutouh (Universidad de Málaga)
会議: GECCO '26 (2026 年 7 月開催予定)

1. 研究背景と問題設定

表形式データ（Tabular Data）の分類タスクでは、特徴量は豊富にあるものの、ラベル付きデータが極めて少ない「極端な低ラベル環境（Extreme Low-Label Regime）」で動作することが多い。半教師あり学習（SSL）はラベル付き・ラベルなしデータを組み合わせてこの課題に対処するが、手法の仮定が破れたり、初期の擬似ラベル（Pseudo-label）に誤りが含まれて学習が支配されたりすると、性能が低下するリスクがある。

特に表形式データでは、自然な「多視点（Multi-view）」構造が存在しにくいため、特徴部分集合の構築と擬似ラベルの受け入れポリシーをどう設計するかが重要な設計課題となる。既存の軽量 SSL 手法はこれらの設定に敏感であり、手動でのチューニングが困難である。

本研究は、**協調共進化（Cooperative Coevolution, CC）を用いて、特徴部分集合の構築と擬似ラベルポリシーを同時に最適化する手法（CC-SSL）を提案し、これを単一の集団で両者を同時に進化させる単一進化アルゴリズム（Monolithic EA, EA-SSL）**と比較評価することを目的としている。

2. 提案手法と方法論

2.1 基本アプローチ

両手法とも、擬似ラベルリング（自己学習）をベースとした SSL 枠組みを採用している。

入力: ラベル付きデータ $D_\ell$ とラベルなしデータ $D_u$ 。
プロセス: 2 つの異なる「視点（View）」を持つモデルを学習し、それらの予測に基づいて高信頼度の擬似ラベルを選択し、ラベル付きデータプールに追加する。

2.2 進化対象（遺伝子表現）

進化探索の対象は以下の 2 つの相互作用するコンポーネントである。

ビュービルダー（View Builder, $a$ ）: 表形式データから 2 つの補完的な特徴部分集合（ビュー）を構築する。
- 特徴マスク（選択する特徴）、次元削減の有無と次元数、離散化パラメータなどを遺伝子として持つ。
擬似ラベルポリシー（Pseudo-labeling Policy, $b$ ）: 擬似ラベルの受け入れ条件と停止条件を制御する。
- ベース学習器（正則化線形分類器）のハイパーパラメータ、信頼度閾値のスケジュール、マージン制約、異議申し立て（Veto）の有無、クラスごとの受け入れ上限、最大反復回数などを遺伝子として持つ。

2.3 手法の比較

CC-SSL（協調共進化）:
- 2 つの独立した集団（ビュー集団とポリシー集団）でそれぞれ進化させる。
- 適応度評価時に、他集団から「現在の最良個体（エリート）」と「ランダムにサンプリングした個体」をパートナーとして選択し、協調的な評価を行う。
- 問題の分解（Factorization）と協働によるクレジット割り当てを重視。
EA-SSL（単一進化）:
- 1 つの集団内で、ビューとポリシーの両方を連結した遺伝子（単一の genotype）として進化させる。
- CC-SSL と同じ演算子、評価予算、適応度関数を使用し、分解の有無による影響のみを isolating（分離）して比較する。

2.4 適応度関数

評価指標は検証セット上の MacroF1 スコアをベースとし、以下のペナルティ項を考慮したスカラー適応度関数を使用する：

MacroF1 の最大化
標準偏差の最小化（安定性）
ProbeDrop（擬似ラベル追加による性能低下）の最小化
擬似ラベルの追加量の制御（重み設定により 0 に設定され、本実験では除外）

3. 実験設定

データセット: OpenML から 25 個のデータセット（11 個の二値分類、14 個の多クラス分類）を使用。
ラベル比率: 1%、5%、10% の 3 段階。
ベースライン:
- 軽量 SSL 手法：自己学習（Self-Training）、ヒューリスティック共学習（Heuristic Co-Training）、ラベル伝播（Label Spreading）。
- 教師あり分類器（Logistic Regression, SVM, Random Forest, Gradient Boosting など）。
評価指標: テストセットの MacroF1、Accuracy、人口多様性、擬似ラベル動態（追加量、ProbeDrop、検証楽観性）、計算コスト（TTT: 目標到達時間、GTT: 目標到達世代数）。
統計的検証: ウィルコクソンの符号付き順位和検定（Bonferroni 補正あり、 $\alpha=0.01$ ）。

4. 主要な結果

4.1 最終性能（RQ1 & RQ2）

軽量 SSL ベースラインとの比較:
- 1%、5%、10% のすべてのラベル比率において、CC-SSL と EA-SSL は、すべての軽量 SSL ベースラインよりも高い Median MacroF1 を達成した。
- 特にラベルが 1% の極端な低ラベル環境での差が最も顕著であった。
- ラベル比率が増加（10%）すると、強力な教師あり分類器が SSL 手法と同等かそれ以上の性能を示す場合もあった。
CC-SSL vs EA-SSL:
- 最終的なテスト性能（MacroF1, Accuracy）において、両手法に統計的に有意な差は見られなかった。ほとんどのデータセット・ラベル比率の組み合わせで「引き分け」と判定された。
- 協調共進化（CC）が単一進化（EA）に対して、最終性能面で明確な優位性を示すことは確認できなかった。

4.2 進化ダイナミクスと計算コスト

適応度と多様性:
- EA-SSLは、CC-SSL に比べて**より高い「Best-so-far 適応度」と「集団多様性」**を維持した。
- CC-SSL は多様性が早期に減少する傾向にあった。
収束性（TTT/GTT）:
- TTT（壁掛け時間）: 両手法は同程度の時間内で目標品質に到達した。
- GTT（世代数）: EA-SSL の方が、多クラス分類タスクなどにおいて、目標適応度に到達するまでの世代数が少ない傾向にあった（統計的有意性は条件によるが、傾向として EA が有利）。

4.3 擬似ラベル動態と一般化（RQ3）

擬似ラベル量（Volume）: 両手法で統計的に有意な差はなかった。
安定性（ProbeDrop）: 擬似ラベル追加後の性能低下（ProbeDrop）は、両手法とも 96% 以上のケースで 0 であり、大きな差は見られなかった。
楽観性（Validation Optimism）: 検証セットとテストセットの性能差も、両手法間で有意な差は確認されなかった。
結論: 性能の差（あったとしても微小）は、擬似ラベルの受け入れ量や安定性、一般化ギャップの変化に起因するものではない。

5. 貢献と意義

新たな最適化定式化: 表形式 SSL において、2 視点の特徴構築と擬似ラベルポリシーの設計を結合した共同最適化問題を定式化し、進化計算で解決する枠組みを提案した。
厳密な比較実験: 共通の構成要素（ビルディングブロック）と評価プロトコルを用いた、CC と単一 EA の制御された比較を行った。
実証的知見:
- 極端な低ラベル環境（1%）では、進化ベースの SSL 手法が既存の軽量 SSL 手法を凌駕する。
- しかし、「協調共進化」が「単一進化」に対して、同じ計算予算下で最終性能を向上させるという決定的な証拠は得られなかった。
- 代わりに、EA-SSL はより高い多様性と適応度を維持しつつ、より少ない世代数で収束する傾向を示した。
将来展望: 評価予算が同じでも異なるダイナミクスを示す要因（クレジット割り当ての仕組みなど）を解明するため、代替的なクレジット割り当てや、多様性を意識した生存戦略などの検討が必要である。

結論

本研究は、半教師あり表形式分類において、協調共進化（CC）が単一進化（EA）に対して最終的な予測性能を向上させるかどうかを検証した。その結果、極端な低ラベル環境では進化ベースの手法自体が既存手法より優れているが、CC と EA の間には最終性能に統計的な差は見られなかった。EA-SSL は収束の速さや探索中の多様性維持において有利な傾向を示したが、計算時間（TTT）の観点では同等であった。このことは、複雑な協調メカニズムを導入するよりも、適切に設計された単一進化アルゴリズムが、限られた計算資源において同等以上の性能を発揮しうることを示唆している。