Sign-Symmetry Learning Rules are Robust Fine-Tuners

ロボットに猫、犬、そして車を認識させる方法を教えていると想像してください。何十年もの間、これらのデジタル脳を訓練するための黄金律は、「バックプロパゲーション（誤差逆伝播法）」と呼ばれる手法でした。これは、厳格で完璧主義なコーチが、ロボットのあらゆる動きを見守り、エラーを極めて微細な小数点単位まで正確に計算し、ロボットの神経系全体に精密な修正信号を送り返すようなものです。この方法は驚くほど効果的であり、ロボットを賢く、かつ高速にします。しかし、このコーチには秘密の弱点があります。もし誰かが猫の写真の上に目に見えないほどの小さな塵を忍び込ませたら、コーチの完璧すぎる計算があまりにも敏感であるために、ロボットがいきなり「それはトースターだ！」と叫んでしまうことがあるのです。これは「敵対的攻撃（アドバーサリアル・アタック）」と呼ばれ、現実世界においてAIを信頼する上での大きな問題となっています。科学者たちは長い間、私たちの実際の人間脳がどのように学習するか――より大まかな生物学的信号を用いる方法――を模倣した別の教え方を模索してきました。しかし、これらの「生物学的に妥当な」手法は通常、ロボットをより愚かで遅いものにしてしまったため、ほとんどの人が諦めてしまいました。

現在、ある研究チームが巧妙なハイブリッド・アプローチに挑戦しています。彼らはこう問いかけました。「標準的な厳格なコーチに基礎を教えさせ、その後に粗削りで生物学的なコーチに切り替えて最後の仕上げを行わせることはできないだろうか？」 彼らの新しい研究では、ニューラルネットワーク（ロボットの脳）を事前学習させた後、標準的な完璧な手法を用いています。その後、同じ厳格なコーチではなく、「サイン・シンメトリー（符号対称性）」と呼ばれるルールを用いました。これらのルールは、エラーの正確な大きさよりも、（上下左右といった）方向のみを重視するコーチのようなものです。接続の正確な重みを知る必要はなく、ただどちらの方向に押し戻すべきかさえ分かればよいのです。研究者たちは、この「より粗い」最終仕上げを行っても、ロボットの識別能力が低下しないことを発見しました。実際、この手法によってロボットは非常にタフになりました。攻撃者がそれらの目に見えない塵を使ってロボットを騙そうとしても、サイン・シンメトリーのルールを用いたロボットはほとんど動じませんでしたが、厳格なコーチだけで訓練されたロボットは崩壊してしまいました。精緻さに執着しすぎないことで、ロボットは欺かれにくくなったのです。

「荒削りの仕上げ」の物語

これがどのように機能するのか詳しく見ていきましょう。研究者はまず、厳格なコーチ（バックプロパゲーション）が強固な土台を作るのに優れているという考えからスタートしました。それは、完璧なバランスデータを与える補助輪付きで自転車に乗る練習をするようなものです。一度乗り方を覚えれば、もうそのような完璧なセンサーは不要かもしれません。チームは、すでに標準的な手法を用いて画像を認識することを学んだ既存のモデル（ニューラルネットワーク）を取り込み、それを「サイン・シンメトリー」のルールを用いて「ファインチューニング（微調整）」しました。

これらの一連のルールにはいくつかの種類があり、例えば uSF（一様符号一致フィードバック）、frSF（固定ランダム振幅符号一致フィードバック）、brSF（バッチ単位ランダム振幅符号一致フィードバック）などがあります。これらを例えるなら、ロボットへの「ひと押し」の方法の違いです。「左へ0.043ユニットズレている」と言う代わりに、サイン・シンメトリーのコーチは単に「おい、左に傾いているぞ、右へ押せ！」と言います。数値の詳細を無視し、エラーの記号（プラスかマイナスか）だけに焦沢します。

チームはこのテストを主に2つのタスクで行いました：画像分類（写真の中に何があるかを判別すること）と、ハッシングベースの画像検索（巨大なデータベースの中から似た画像を探し出すこと）です。彼らはAlexNet、VGG-16、ResNet-18といった人気の高いロボットの脳を使用し、CIFAR-10、MS-COCO、ImageNetといった有名なデータセットで検証しました。

結果は驚くべきものであり、エキサイティングなものでした。純粋な知能に関しては、サイン・シンメトリーで微調整されたロボットは、厳格なコーチのみで訓練されたものと同等の性能を示しました。場合によっては、さらに優れた結果も出ました。例えば、AlexNetを使用したCIFAR-10データセットでは、サイン・シンメトリーの手法はトップ1精度で 93.75% に達し、標準的なコーチの 90.62% を上回りました。ImageNetのResNet-18においても、標準的なコーチの精度 87.5% と同等でした。ここでの重要なポイントは、最後のステップでより粗いコーチに切り替えたとしても、知性を失うことはないということです。

本当の魔法は、彼らがロボットがトラブルに対処できるかどうかをテストした時に起こりました。研究者は「敵対的攻撃」を仕掛けました。これは、画像のノイズとしてごくわずかな量を加えることで、ロボットを騙そうとするデジタルのハッカーのようなものです。彼らは FGSM と PGD という2種類の攻撃を用いました。これらは「ホワイトボックス型」の攻撃であり、つまりハッカーはロボットがどのように考えているかを正確に把握しており、その知識を利用して完璧な罠を作り上げます。

標準的なロボット（バックプロパゲーションのみで訓練されたもの）に対して攻撃を行った際、ロボットはあっけなく崩壊しました。ハッカーがノイズ量（$\epsilon$ で表される値）を増やしていくにつれて、標準的なロボットの精度は急落しました。ImageNetデータセットにおいては、ノイズレベルが 0.5 に達すると、標準的なロボットの精度はほぼ 0% まで落ち込みました。完全に騙されてしまったのです。

しかし、サイン・シンメトリーによる微調整を受けたロボットは、まるで頑丈な古いブーツのように粘り強く、決して屈しませんでした。激しいノイズの中でも、彼らは精度をよく維持していました。ResNet-18の実験における、標準的なロボットとサイン・シンメトリー採用ロボットとの差は凄まじく、攻撃下での精度差は最大で 71.88% にも及びました。標準的なロボットのグラフ曲線は石のように落下していきましたが、サイン・シンメトリーを採用したロボットの線は緩やかなスライドのようにゆっくりと下降していきました。これは、サイン・シンメトリーのルールが完全で正確な勾配に依存していないため、ハッカーが彼女たちを騙すための完璧なトリックを算出することが困難であることを示唆しています。たとえるなら、内部の部品が少しガタついていてランダムな鍵穴に対して、完璧な合鍵を使うことができなくなるようなものです。

チームはまた、ハッカーがロボットの思考プロセスを知らずに無作為な策を試みる「ブラックボックス型」の攻撃に対する脆弱性についても確認しました。このケースでは、サイン・シンメトリーのロボットは標準的なものと同様によく機能しました。これは極めて重要な詳細です。つまり、これらのロボットは総合的に「弱くなった」のではなく、特定のメカニズムを持つハッカーにとって「特に難攻不落になった」のだということを意味しています。

研究者はまた、「ハッシング」タスク（本の表紙を短い固有コードに変換することで図書館を整理する作業のようなもの）についても調査しました。ここでは同様の結果が得られました。HAG や SDHA といった手法で攻撃が行われた際、標準的なロボットのパフォーマンス（mAP = 平均適合率で測定）は暴落しましたが、사인・シンメトリーのロボットは踏ん張りました。例えば、ImageNetにおいて、標準的なロボットのmAPは高ノイズ条件下で約 12% まで低下しましたが、サイン・シンメトリーのロボットは約 40% 前後の水準を維持しました。

最も興味深い発見の一つは、frSF（固定ランダム振幅符号一致フィードバック）という手法が、数ある中でも最も安定しており、高性能であったことです。この手法は、異なるタイプのロボットの脳やデータセットを通じて、一貫して良好な成績を収めました。

さて、これらすべては何を意味しているのでしょうか？ この論文は、私たちは「賢さ」と「タフさ」のどちらか一方を選ぶ必要はないということを示唆しています。両方を手に入れることができるのです。堅実な完璧なコーチを使用して土台を築き、その後に粗削りで生物学的なスタイルのコーチへと切り替えることで、賢さを保ったまま、はるかに騙されにくいロボットを作ることができます。著者らは、この「サイン・シンメトリー」のアプローチが、AIをより安全で信頼性の高いものにするための新しい道筋になり得ると提案しています。彼らは、さらに大規模で複雑なシステムにおいてこれがどのように作用するかを確認するにはさらなる研究が必要だと認めていますが、初期の結果は、自然界の持つ「荒っぽくて逞しい」学習スタイルこそが、デジタルの脳を真に強靭にするための隠れた秘訣かもしれないという強力なヒントを与えています。