Part-Coverage and Faithfulness Decouple in ViT Token Pruning for Fine-Grained Visual Categorization

人工知能の世界には、人間と同じように画像を見てそれを理解するように設計された、増えつつあるモデルのクラスが存在します。ビジョン・トランスフォーマー（Vision Transformers）として知られるこれらのシステムは、画像をピクセルごとに一直線にスキャンするのではなく、代わりに画像を多くの小さな正方形のパッチに切り分け、各パッチを個別の情報、すなわち「トークン」として扱います。モデルはその後、これらすべてのトークンをまとめて処理し、最終的な決定を下すために、それぞれのトークンにどれだけの注意を払うべきかの重み付けを行います。このアプローチは、鳥の特定の種や希少な車のモデルを識別するといった、鳥のくちばしの曲線やヘッドライトの形状のように、2つのカテゴリー間の違いが非常に微妙であるようなタスクにおいて、驚異的な威力を発揮します。しかし、これらのモデルはすべてのパッチを見るため、特に高解像度の画像を扱う場合、非常に低速になり計算コストが高くなることがあります。これを高速化するために、エンジニアは「トークン・プルーニング（token pruning）」と呼ばれる手法を開発しました。これは、重要度の低いパッチをプロセスの早い段階で破棄し、最も関連性の高いものだけを残すことで、時間とエネルギーを節約する方法です。極めて重要な問いは常に、「どのパッチが最も重要であるかをどのように決定するか？」という点でした。

長年、この決定を下すための標準的な方法は、モデル内の特定の信号に依存しており、本質的には、システムの「焦点」が自然に引き寄せられている場所をモデル自身に確認させるというものでした。研究者たちは、もしモデルがあるパッチに注意を払っているならば、そのパッチこそが識別のための決定的な詳細を含むものであるはずだと想定してきました。しかし、新しい研究はこの長年の仮定に異議を唱えています。研究者たちは、スピードのためにどのパッチを残すかを決定するために使用される手法が、必ずしもモデルが実際に物体の正しい部分を見ていることを保証する手法と同じではないことを発見しました。彼らは、鳥や車の物理的な形状に最もよく一致するパッチを保持するように最適化されたシステムは、標準的なシステムと同じくらい信頼できる決定を下すことが多いものの、全く異なる内部ロジックを持っていることを発見しました。実際、これら2つの目標、すなわち「正しい物理的な部分を保持すること」と「最終的な答えのための正しいロジックを保持すること」は、互いに異なる方向へ引っ張り合うことがあり、これは、モデルを高速化するためのツールが、モデルが機能している真の理由を隠してしまう可能性があることを意味しています。

ガーナの大学を拠点とするこの研究チームは、航空機の異なるモデルや鳥の品種のように、非常に似通ったものを区別することに特化した「細粒度視覚分類（fine-grained visual classification）」を用いて、この乖離をテストすることに乗り出しました。彼らは、標準的な小型版のビジョン・トランスフォーマー・モデルを使用し、鳥、車、航空機の画像を含む3つの有名なデータセットでテストを行いました。彼らの目標は、プルーニング・システムの品質を判断する2つの異なる方法を比較することでした。第一の指標は「パート・カバレッジ（part coverage）」であり、これはモデルが保持したパッチが、飛行機の翼や車のグリルといった、物体の実際の物理的なパーツと実際に重なっているかどうかを単純にチェックするものです。第二の指標は「忠実性（faithfulness）」であり、これは、完全な画像を見た場合と、プルーニングされたバージョンを見た場合で、モデルの最終的な決定が変わらないかどうかを確認するものです。もしプルーニング手法が真に優れているならば、その両方の面で優れた結果を示すはずです。

研究者たちは、どのパッチを保持するかを決定するためのいくつかの異なる戦略をテストしました。一つの戦略は、現在ほとんどのシステムで使用されている標準的な「アテンション（attention）」信号を用いたものです。また、入力がわずかに変化したときにモデルの内部状態がどのように変化するかを観察する、より深い、より直接的な画像と最終回答の関係を捉えるテクニックを用いた新しい戦略もテストしました。実験を実行したところ、結果は驚くべきものでした。この深い内部信号を用いた新しい戦略は、物体の実際のパーツをカバーするパッチを保持することにおいて、有意に優れていました。例えば、航空機のデータセットにおいて、この新手法は標準的な手法と比較して、実際の飛行機のパーツをカバーする割合を6パーセントポイント以上向上させました。しかし、忠実性（プルーニングされたモデルが完全なモデルと同じ正しい決定を下せる能力）を確認したところ、2つの手法はほぼ同一でした。新手法はモデルの信頼性を低下させたのではなく、単にモデルが正しいものをより頻繁に見るようにしただけで、最終的な判定を変えることはなかったのです。

この発見は、これらのシステムが現在どのように評価されているかにおける、隠れたギャップを明らかにしています。長い間、分野では、プルーニング手法がモデルの精度を維持するならば、それは画像の正しい部分を見ているのだと想定されてきました。しかし、本研究は、これが必ずしも真ではないことを示しています。システムは正確でありながら間違ったパッチを見ていることもあれば、正確でありながら正しいパッチを見ている一方で、異なる内部経路を使用してそこに到達していることもあります。研究者たちは、このギャップを測定するための新しいフレームワークを導入し、これを「デカップリング（decoupling：分離）」と呼んでいます。彼らは、このギャップはモデルが画像の処理における特定の中間段階を見ているときに最も顕著になることを発見しました。モデルが処理チェーンの早すぎる段階、あるいは遅すぎる段階を見ている場合、2つの手法の差は消失します。また、この効果は、モデルが非常に効率的であることを強制され、元の画像パッチのごく一部のみを保持する場合に最も強くなることも分かりました。

また、研究チームは、これらの改善が単に新しい手法がより多くの計算能力や追加のパラメータを学習できるようになったことによるものではないことを、慎重に排除しました。彼らの新しい手法を、同じ追加容量を持ちながら特定の新しい信号で訓練されていないバージョンと比較することで、改善が単にツールが増えたことによるものではなく、特定の新しい信号によってモデルが画像をどのように見るように教えられたかによるものであることを確認しました。彼らは、モデルの自然なアテンションに依存する標準的な手法は、モデルが効率性を求められる際、物体の最も重要な部分を捉え損ねることが多いことを発見しました。対照的に、新しい手法は、人間が物体を識別するために使用する物理的な特徴に対応するパッチを一貫して選択しました。

この発見は、これらのAIシステムをどのように構築し、信頼すべきかという点において重要です。もし開発者が鳥の種を識別するための高速なシステムを作りたいのであれば、標準的なプルーニング手法が十分であると単純に想定することはできません。彼らは、動作する高速なシステムを手に入れることはできますが、それは種を定義するまさにその羽やくちばしの形状を無視している可能性があります。本研究は、異なるトレーニング信号を使用することで、同じように速く、同じように正確でありながら、実際に鳥のくちばしや翼を見ているシステムを得ることができると示唆しています。研究者たちは、これはあらゆる状況に効く魔法の解決策ではないことを強調しています。その効果は、モデルの特定のサイズと、どれだけの画像が保持されるかに大きく依存します。しかし、多くの実世界のアプリケーションで使用される特定の種類の小型で効率的なモデルにとって、この新しいアプローチはより優れたパフォーマンスへの明確な道筋を提供します。

研究者たちはまた、この現象が普遍的なものではないことも指摘しました。より大規模で強力なバージョンのモデルでテストしたところ、2つの手法の差は消失しました。これは、問題が、実用的なアプリケーションで使用されることが多い、より小さく高速なモデル特有の制約に関連していることを示唆しています。これらの小型モデルにおいて、何を残すかを決定する標準的な方法は、それほど精密ではありません。本研究は、エンジニアに対して明確な地図を提供しています。もしモデルを高速にする必要があり、かつ、モデルに画像の正しい部分を見せたいのであれば、新しいトレーニング信号を使用すべきです。もし最終的な速度と精度さえ気にするのであれば、古い手法でも機能するかもしれませんが、モデルが間違った理由で意思決定を行っているというリスクを負うことになります。

結局のところ、この研究はコンピュータビジョンの分野に新たなレベルの明晰さをもたらしました。それは、効率性と説明可能性が必ずしも同じではないことを示しています。モデルは、透明性を欠いたまま効率的であることもでき、効率性を欠いたまま透明であることもできます。これら2つの目標を分離することで、研究者たちは科学界に対し、これらのシステムを測定し改善するためのより優れた方法を提示しました。彼らは、適切なトレーニングを行えば、「ケーキを一切れも残さず、かつ、その一切れも味わう（両立させる）」ことができることを示しました。つまり、スマートフォンで実行できるほど十分に速く、希少な鳥を識別できるほど正確であり、かつ、その鳥のどの部分を見ているのかを私たちに正直に示すことができるシステムです。これは、人工知能を単に強力なものにするだけでなく、理解可能で信頼できるものにするための、重要な一歩です。