あなたはロボットに世界を理解する方法を教えようとしているところだと想像してください。あなたはカメラと脳を与え、ロボットは予測を始めます。「これは猫だ」とか「あの機械は故障しそうだ」といった具合に。しかし、時としてロボットは間違えることがありますし、さらに悪いことに、間違った理由で正解を出してしまうこともあります。例えば、背景に雪があるからという理由だけで、狼の画像を見て「これは本物の狼だ」と判断してしまうようなケースです。これは人工知能（AI）の世界における大きな問題であり、特に病院や工場のようにリスクが高い場面では重要です。私たちは、ロボットが単に「何を」決定したかだけでなく、「なぜ」その決定に至ったのかを知る必要があります。

これを解決するために、科学者たちは「説明可能なAI（Explainable AI）」と呼ばれるものを使用しています。この道具箱の中でも特に素晴らしいツールの一つが、「カウンターファクチュアル（反事実的説明）」です。カウンターファクチュアルを「もし〜だったら」という物語だと考えてみてください。「あなたは歩いていると予測しました」と言う代わりに、「私はあなたが歩いていると予測しましたが、もしあなたの歩幅がもっと小さかったら、私は座っていると予測したでしょう」と言うのです。それは、未来を変えるためのレシピのようなものです。しかし、タイムシリーズ（時系列データ）——心拍モニターや株価チャートのように、時間の経過とともに変化するデータ——を扱う場合、このような「もし〜だったら」という物語を作るのは非常に困難です。単にデータの特定の点だけをいじってしまうと、それは文章の中で一単語だけを変えて、物語全体がまだ意味を成すことを期待するようなものです。多くの場合、それは成立しません。物語は支離滅裂になり、ロボットの説明は役に立たなくなってしまいます。

ここで、ConceptCFと呼ばれる新しい手法が登場します。この論文の著者であるアンネマリー・ユッテとそのチームは、タイムシリーズの個々の点をいじるのではなく、データを構成する「大きな概念（コンセプト）」を変えるべきだと気づきました。音楽を想像してみてください。曲の構成要素である音符を一つずつ細かく調整して曲を変えようとするのは、乱雑で混乱を招きます。あるいは、「音量」（どれくらい大きいか）や「テンポ」（どれくらい速いか）を変えることもできます。これらが「コンセプト」です。ConceptCFは、タイムシリーズを取り込み、それを理解しやすいコンセプト（波の大きさや、どの程度繰り返されるかなど）に分解し、「もし音量やテンポを変えたらどうなるか？」と問いかける巧妙なシステムです。これは、デジタル進化プロセス、つまり優れた解決策が生き残り、より良くなっていくビデオゲームのようなプロセスを用いて、予測を覆すために必要な最小限かつ最も論理的な変化を見つけ出します。その結果得られる説明は、「ロボットは、あなたの歩幅が大きすぎたために『歩行』と判断しました。もし歩幅を小さくしていれば、ロボットは『座っている』と判断したでしょう」というように、人間が実際に理解できるものになります。

この論文は、タイムシリーズデータに特化した「もし〜だったら」という説明を生成する方法としてConceptCFを紹介しています。核心となるアイデアは、生のデータポイント（時刻ごとの個々の瞬間）を見るのをやめ、人間が容易に把握できる高レベルなパターン、すなわちコンセプト（信号の全体的な「スケール」や「周波数」など）を見ることです。著者らは、既存の手法はデータの点を孤立させて変更することで、データの意味を損なってしまうことがあり、それが不自然で不可能なシナリオを生み出してしまうと主張しています。ConceptCFは、基礎となるコンセプトのみを修正することで、これを回避します。

これを行うために、チームはタイムシリーズをコンセプトへと分解する3つの異なる方法を使用しています。

1. フーリエ変換ベース: 信号を、コード（和音）を個々の音に分けるように、さまざまな周波数の混合物として捉えます。
2. ウェーブレットベース: 信号をさまざまなサイズの塊に分解し、大きな傾向と細かな詳細の両方を捉えます。
3. 人間中心型: 数学の専門家ではない人々のために特別に設計されており、信号を「トレンド（上昇しているか下降しているか）」、「バイアス（上下にずれているか）」、「スケール（大きさ）」といった要素に分解します。

データがコンセプトに分解されたら、この手法は遺伝的アルゴリズムを使用して、完璧なカウンターファクチュアルを見つけ出します。これは、デジタルな育種プログラムのようなものだと考えてください。コンピュータは、起こりうる変化の「集団（ポピュレーション）」からスタートします。それらの変化をテストし、AIの予測を実際に変えられるか（妥当性）、元のデータにどれだけ近いか（近接性）、そしてどれだけ少ない要素を変更したか（スパース性／希薄性）を確認します。「最も適応力の高い」解決策が生き残り、それらが混ざり合って、次の世代のより優れた解決策を作り上げます。目標は、予測を覆すための最小限のコンセプトの変化を見つけることです。例えば、モデルが「歩行」と予測している場合、ConceptCFは「波長」と「スケール」を大きくすれば、モデルが「座る」と予測するようになる、といったことを見つけ出すかもしれません。

研究者たちは、歩行中の人の動きのデータや心拍データを含む実世界のデータセットを用いて、ConceptCFを他の5つのトップクラスの手法と比較検証しました。彼らは、以下の5つの基準に基づいて、この新しい手法がどの程度うまく機能するかを測定しました。

• 妥当性 (Validity): 実際に予測を変更できたか？
• 確信度 (Confidence): モデルは新しい予測に対して確信を持っているか？
• 近接性 (Proximity): 新しいシナリオは元のデータに近いか？
• スパース性 (Sparsity): わずかな要素のみを変更したか、それともあらゆる部分に手を加えたか？
• 妥当な外観 (Plausibility): その新しいシナリオは、現実世界で実際に起こり得るものに見えるか？

結果は、ConceptCFが非常に競争力のあるパフォーマンスを示したことを明らかにしました。実際、特にスパース性において、この手法はしばらとトップに立つことがよくありました。これは、この手法が非常に少ないコンセプトを変更することでAIの決定を説明できることを意味しており、その結果、説明がより洗練され、人間にとって理解しやすいものになることを示しています。他の手法は、データのリアリティを維持することに苦戦したり、あまりにも多くの点を変更してしまったりすることがありましたが、ConceptCFは、予測を覆すための最小限かつ最も論理的な変化を見つけるという「スイートスポット」を一貫して見つけ出しました。著者らは、データの分解方法（フーリエ、ウェーブレット、または人間中心型）が結果を劇的に変えることはなく、この手法がさまざまなニーズに適応できる柔軟性を持っていることを発見しました。

結論として、ConceptCFはタイムシリーズAIを理解するための強力な新しいツールです。生のデータポイントではなく、人間が解釈可能なコンセプトに焦点を当てることで、複雑な機械学習モデルと人間の推論との間の溝を埋めています。著者らは、この手法が数学的に健全であり、標準的なテストでも優れた性能を発揮している一方で、究極のテストは「人間が実際にその説明をより良く理解できるかどうか」であると述べています。彼らは、コンセプトベースの説明が本当にAIをより透明で信頼できるものにするかどうかを確認するために、今後の研究には実在の人々を関与させるべきであると提案しています。現時点では、ConceptCFは、AIの決定をブラックボックスのようなものではなく、私たち全員が理解できる対話のようなものにするための、有望な一歩となっています。