Stabilizing Multi-Attack Adversarial Training via Bandit Optimization
本論文は、探索と活用のバランスを取るために反復ごとに単一の攻撃を動的に選択することで、計算コストを削減しつつ、過度なパラメータドリフトを防ぎ、全体的な堅牢性を向上させ、マルチアタック敵対的学習を効率的に安定化させる、マルチアームドバンディットに基づくフレームワークであるCalibrated Adversarial Sampling (CAS) を提案する。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたはロボットに猫と犬を見分ける方法を教えていると想像してください。ロボットを非常に賢くしたいのですが、そこには一つ、厄介な条件があります。それは、ずる賢い「トリックスター」たちがロボットを欺こうとしていることです。彼らは、猫の写真に目には見えないほど小さな傷を加えて（それによってロボットに犬だと思い込ませる）、あるいは照明を変えたり、画像をぼかしたり、あるいは写真を奇妙な万華鏡のようなパターンに変形させたりします。人工知能の世界では、こうした策略は「敵対的攻撃（アドバーサリアル・アタック）」と呼ばれます。この攻撃を防ぐために、科学者たちは「敵対的訓練（アドバーサリアル・トレーニング）」と呼ばれる手法を用います。これは、ロボットにあえてこれらのトリッキーな写真を見せることで、そのトリックを無視することを学習させる方法です。
問題は、トリックスの数には限りがないということです。あるものは微細なピクセルの傷であり、またあるものは霧や雨のような大きな天候の変化です。もし、これらすべてのトリックスを一度に扱えるようにロボットを教えようとすると、ロボットは混乱してしまいます。また、一つひとつのトリックスを順番に教えていく方法だと、以前に学んだトリックスへの対処法を忘れてしまうかもしれません。それは、火、水、砂を同時にジャグリングすることを学ぶようなものです。火に集中しすぎると、水を落としてしまうのです。この論文は、AIがあらゆる種類のトリックスに対して強靭でありながら、コンピュータを使い果たしたり、学んだことを忘れたりすることのない、その混沌とした中間領域に取り組んでいます。
研究者であるRui Wang、Zeming Wei、Xiyue Zhang、そしてMeng Sunは、従来の学習方法が、あまりに遅すぎるか、あるいは不安定すぎることに気づきました。ある手法は、あらゆる攻撃タイプに対して全く同時に戦おうとしました。それは、まるでシェフに一つのコンロで20種類の複雑な料理を同時に作るよう命じるようなもので、時間がかかりすぎる上に料理も焦げてしまいます。また別の手法は、ランダムに攻撃を選んで練習させるものでしたが、これではロボットが特定のトリックスに「酔っ払って」しまい、他のトリックスを忘れてしまい、極端に振れ動くという現象を引き起こしました。
これを解決するために、チームは「較正的敵対的サンプリング（Calibrated Adversarial Sampling: CAS）」という巧妙な新戦略を考案しました。彼らは、この学習プロセスを「スロットマシン」（数学の専門家が言うところの「マルチアームド・バンディット」）のゲームのように扱うことにしました。想像してみてください。スロットマシンの列があり、それぞれのマシンは異なる種類の攻撃（霧用、ピクセル傷用、ぼかし用など）を表しています。どのマシンが今、最高の「報酬」（つまり、ロボットを賢くすること）を与えてくれるかは分かりません。
すべてのレバーを一度に引く（遅すぎる）のではなく、あるいは単にランダムに一つを引く（あまりに無秩序である）のでもなく、CASは「賢いギャンブラー」のように振る舞います。システムは各マシンに対してスコアカードを保持します。もしあるマシン（攻撃タイプ）が最近、ロボットの向上に役立っているなら、ギャンブラーはそのレバーをより頻繁に引きます。しかし、ここが魔法の部分なのですが、ギャンブラーはしばらく訪れていないマシンにも目を配ります。もしロボットが霧への対処には上手くなったものの、雪への対処を忘れてしまったら、システムは「おい、バランスを保つために雪のレバーをもう少し引いておこう」と判断するのです。
この論文は、この「賢いギャンブラー」のアプローチがいかに驚異的に機能するかを示しています。さまざまなトリックスに対して練習する時間を注意深く調整することで、ロボットは、すべてを一度に計算することなく、膨大な種類の攻撃に対して強靭になることができます。実験において、彼らはCIFAR-10やCIFAR-100といった標準的なデータセットを用い、標準的なピクセル攻撃から、「Wood（木目）」、「Elastic（弾性）」、「Prison（監獄）」（これらは実際に画像歪みの名称として存在します）といった奇妙なセマンティック攻撃まで、21種類の異なる攻撃を組み合わせてテストしました。
結果は有望でした。新しい手法であるCASは、低速で重厚な手法と同等の強固さをロボットに与えつつ、それをはるかに高速で行うことができました。また、AIを強靭にしようとすると陥りがちな問題である、通常の画像に対する「クリーン精度（正常時の識別精度）」も高く維持できました。研究者たちは、次にどの攻撃を練習すべきかを決定するための特定の数学的公式を用いることで、ロボットが優れた学習者から「漂流」してしまうのを防げることを発見しました。彼らはさらに、この手法が安定しており、無理に押し付けすぎない限り、ロボットが暴走することはないということを数学的に証明しました。
要するに、この論文は、超セキュアなAIを作るために力技（ブルートフォース）を用いる必要はないということを示唆しています。代わりに、探索（新しいことを試す）と活用（うまくいっていることに固執する）のバランスを取る、適応的でスマートな戦略を用いることで、スーパーコンピュータを必要とせずに、あらゆるものに対して強靭なモデルを訓練できるのです。それは、武道家を訓練するのに似ています。ただ毎日重いサンドバッグを叩くだけではなく、体全体のバランスを保ち、あらゆる不意の事態に備えられるよう、スパーリング、足運び、防御ドリルを混ぜ合わせるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。