A Reproducibility Study of Partial Residual Ablations in Pre-LN Transformers

文章を書き、翻訳し、推論を行う現代の人工知能は、「トランスフォーマー」として知られる特定のアーキテクチャ設計に基づいています。この設計の中核には、前の層から受け取った情報を洗練させていく深い処理層のスタックがあります。これらの深いネットワークが学習中に崩壊するのを防ぐために、エンジニアは「スキップ接続」を使用します。川が連なる滝を流れている様子を想像してみてください。スキップ接続は、水を滝の周囲に迂回させ、下流で再び流れに合流させるバイパス路のようなものです。これにより、データがどれほど多くの層を通過しなければならないとしても、信号が失われたり希釈されたりすることがなくなります。長年、標準的な手法は、あらゆる処理ステップの後にこれらのバイパスを含めることでした。しかし、最近のある調査では、単純かつ構造的な問いが投げかけられました。もし、これらバイパスのうち一つだけでも取り除いたらどうなるのか？ システムは完全に崩壊してしまうのか、それとも適応する方法を見出すのだろうか？

プラティック・クマール・ババリアという研究者は、人工知能モデルを構築し、これらのセーフティネットを体系的に取り除くことで、この問いに答えようとしました。彼は2つの特定のシナリオをテストしました。一つはアテンション・メカニズムの後のバイパスを取り除いた場合、もう一つはフィードフォワード・ネットワークの後のバイパスを取り除いた場合です。アテンション・メカニズムは、文中のどの単語が互いに最も関連しているかを決定する部分であり、フィードフォワード・ネットワークは、その情報を処理し変換する部分です。目的は、モデルがこれらの特定のショートカットなしで生存できるのか、あるいはその除去によって学習プロセス全体が崩壊してしまうのかを見極めることでした。

より小さなモデルで行われた初期の実験では、暗い結果が示唆されました。研究者が2つのバイパスのいずれかを取り除くと、モデルは学習に失敗し、バイパスが全くないモデルと同じ低いパフォーマンスレベルで停滞してしまったのです。両方のショートカットが等しく不可欠であるように見えました。しかし、この初期の結果は、測定ツールの罠であった可能性が高いことが分かりました。研究者は、モデルを評価する方法にランダムなノイズが混入しており、微妙な性能差を見ることを不可能にしていたことに気づきました。彼は、テスト用の固定データを使用し、すべての変数を制御することを保証することで、より厳格なセットアップを用いて実験を再構築しました。

よりクリーンな手法を用いて実験が再び実行されると、驚くべき非対称性が浮かび上がりました。フィードフォワード・ネットワークの後のバイパスを取り除くと、初期のテストが示した通り、モデルは完全に失敗しました。モデルは学習できず、パフォーマンスは高いエラー率のまま停滞しました。しかし、アテンション・メカニズムの後のバイパスを取り除いたとき、モデルは予想外の挙動を示しました。それは学習したのです。すべてのショートカットが intact（完全）なモデルほど高性能ではありませんでしたが、言語を処理することに成功し、失敗したモデルよりもはるかに優れたレベルのパフォーマンスを達成しました。この結果は偶然ではありませんでした。研究者は、異なるランダムな開始点を用いてこの成功した構成を8回実行しましたが、そのすべてにおいて、モデルは効果的に学習しました。もう一方の構成の失敗も同様に一貫しており、テストされるたびに毎回発生しました。

研究者は、なぜこのような違いが生じるのかを探りました。彼は、失敗したモデルにおいて、下層から上層への情報の流れが完全に停止していることを観察しました。これは「勾配飢餓（グラディエント・スターベーション）」として知られる現象です。これは、失敗した両方のケースで見られました。しかし、成功したモデルでは、アテンション・メカニズムが回避策を見出しているようでした。アテンション・メカニズムは文中のすべての単語を同時に見るため、異なる位置間で情報をルーティングするように学習し、物理的なショートカットがなくてもデータが流れるための経路を効果的に再構築できるのです。対照的に、フィードフォワード・ネットワークは各単語を単独で処理するため、このような相互接続を作り出すことはできません。バイパスがない場合、失われた情報を回復する方法を持たないのです。

物語は、完璧に解決された謎で終わりではありません。研究者が実験をより大規模なモデルへとスケールアップさせたとき、結果は不明瞭になりました。フィードフォワードのバイパスを取り除いたモデルは依然として失敗しましたが、アテンションのバイパスを取り除いたモデルは学習の兆候を見せたものの、そのパフォーマンスはランダムな初期条件によって激しく変動しました。うまく学習する場合もあれば、苦戦する場合もありました。これは、適応能力は存在するものの、モデルが大きくなり複雑になるにつれて、それを維持することが難しくなることを示唆しています。また、研究者は自身の初期の仕事における重大な手法上の誤りも明らかにしました。彼は、学習プロセス中に乗数を調整することで失敗したモデルを修正しようと試みていましたが、それはモデルを成功しているように見せていただけでした。彼は後に、学習アルゴリズムがこの変更に対して自動的に補償していたため、その調整は錯覚であったことに気づきました。この間違いを修正し、失敗を透明性を持って報告することで、最終的な結論がソフトウェアのアーティファクト（人工的な産物）ではなく、現実に基づいたものであることを保証しました。

核心となる発見は、人工知能の脳におけるすべてのショートカットが等しく作られているわけではないということです。単語同士を繋ぐ部分の後の経路を取り除くと、システムはその部分が補完するために自らを再配線できるため、生存して学習することができます。一方で、個々の単語を処理する部分の後の経路を取り除くと、システムは完全に崩壊します。この区別は小規模なモデルにおいて真実であり、大規模なモデルにおいても強く示唆されていますが、適応能力の限界を確認するにはさらなる研究が必要です。この研究は、複雑なシステムにおいては、接続そのものと同じくらい、接続の具体的な配置が重要であること、そして、システムが失敗しているように見えるときでも、詳しく観察すれば回復のための隠れた能力が見つかることがあるということを思い出させてくれます。