Invariance can prevent overfitting and shortcut learning in Quantum Neural Networks
本論文は、対称性を量子ニューラルネットワークに組み込むことが、同一のアーキテクチャおよびパラメータ数を持つ非不変モデルと比較して、多様な画像分類タスクにおける汎化性能、ショートカット学習に対する堅牢性、およびノイズ耐性を大幅に向上させることを実証している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
人工知能の世界において、コンピュータは画像をスキャンし、パターンを見つけ出すことで世界を認識することを学んでいます。機械が猫の写真を見る際、その猫が直立して座っていようが、横たわっていようが、あるいは異なる角度から見られていようが、機械はそれを気にしません。「猫」というラベルは変わらないからです。物体の核となるアイデンティティは、その位置が変わっても一定であると認識するこの能力は、「不変性（invariance）」と呼ばれます。何十年もの間、エンジニアは、回転や反転を無視するようにルールをハードコードすることで、より速く正確に学習できるようにする古典的なコンピュータプログラムを構築してきました。現在、科学者たちは、量子物理学の奇妙な法則を利用して情報を処理する、新しい種類のコンピュータを構築しようとしています。これらの量子マシンは理論上は非常に強力ですが、現在は非常に小さく脆弱であり、限られたデータから学習しようとする際に間違いを犯しやすい傾向があります。大きな疑問は、これら新しい量子マシンも、物体の位置を無視することを学習してより優れた学習者になれるのか、それともその独特な物理学によって、そのような細部に対して敏感すぎるのか、ということでした。
ある研究チームは、画像分類タスクを解決するために4つの異なる量子モデルを構築することで、この問いに答えるべく取り組みました。彼らは、量子コンピュータに対して画像の対称性を尊重させること（つまり、回転した画像を同じ物体として扱うこと）が、学習を向上させるかどうかを確認したいと考えました。これを公平に行うために、彼らは対称性の扱い方を除いて、あらゆる点で同一の4つの異なるモデルを構築しました。量子ビットの数、調整可能な設定の数、および基礎となる数学的構造はすべて同じものを使用しました。これら2つのモデルは、その性質上「不変」であるように設計されており、その内部ルールによって画像の向きを無視するように強制されています。もう一方の2つのモデルは、画像の向きを認識することが許されており、回転した画像を全く別の入力として扱います。研究者たちは、これら4つのモデルを、手書き数字の認識、単純な幾形図の識別、2種類の銀河の区別、そして赤血球の異なる形状の特定という、4つの異なる課題でテストしました。それぞれのケースにおいて、画像は現実世界で起こり得るように、ランダムな回転状態で提示されました。
結果は、これら4つのタスクすべてにおいて明確かつ一貫していました。画像の向きを無視するように構築されたモデルは、学習がより速く、未知の画像に対しても間違いが少ないという結果になりました。物体の形状だけに集中するように強制されたため、トレーニング写真の特定の詳細を記憶することに、限られた学習能力を浪費することがなかったのです。対照的に、向きを認識することが許されていたモデルは、示された少数の画像の正確なポーズをすぐに記憶してしまいました。これらの非不変モデルが異なる回転を持つ新しい画像に直面したとき、それらはしばしば完全に失敗しました。研究者たちは、単に量子コンピュータの回路を対称にするだけでは不十分であり、コンピュータが答えを出力する最終ステップも対称である必要があることを発見しました。もしコンピュータが対称なルールで構築されていても、非対称な答えを出すように求められれば、依然として汎化に失敗するのです。
また、この研究では、機械学習における一般的な問題である「ショートカット学習（trick learning）」についても調査しました。これは、モデルが真のルールを学習する代わりに、答えを推測するための簡単なトリックを見つけてしまう現象です。研究者たちは、モデルがそれに頼るかどうかを確認するために、すべてのトレーニング画像の隅に小さな隠れたウォーターマーク（透かし）を追加しました。向きを認識できるモデルは、このトリックを即座に学習しました。彼らは隅を見て、ウォーターマークを確認し、メインの画像を見ることなく答えを推測したのです。研究者がウォーターマークを別の角に移動させると、これらのモデルは失敗し、ランダムな推測レベルまで低下しました。しかし、不変モデルは、ウォーターマークが画像の回転とともに動くため、そのウォーターマークを見ることができませんでした。その代わりに、彼らは実際の画像の内容を見ることを強いられ、トリックが取り除かれた後も、物体を正しく識別し続けました。
最後に、チームはこれらの知見が、現在の量子ハードウェアに特有のノイズやエラーに対してどのように維持されるかをテストしました。実際の量子コンピュータは不完全であり、その信号は熱や干渉によってしばしば歪みます。研究者たちはこれらの条件をシミュレートし、不変モデルの優位性が生き残ることを発見しました。量子信号にノイズが含まれていても、向きを無視するモデルは、対照的なモデルよりも正確で、過学習（オーバーフィッティング）を起こしにくいままでした。この研究は、量子コンピュータが、特にデータが乏しい状況において実世界で有用であるためには、その設計に直接対称性を組み込むことが強力なツールになることを示唆しています。それは、マシンが不適切な詳細に気を取られるのを防ぎ、世界を定義する真のパターンに集中させるためのガードレールとして機能するのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。