Model Merging is Secretly Certifiable: Non-Vacuous Generalisation Bounds for Low-Shot Learning

人工知能の世界において、これらのシステムの持つ力と、それに対する私たちの信頼能力との間には、増大する緊張関係が存在しています。私たちは医療やセキュリティといった極めて重要な分野での意思決定をAIに依存していますが、信頼のための最も根本的な要件は、単に訓練された例題に対してではなく、未知の新しいデータに対してもシステムが確実に機能することを知ることです。何十年もの間、科学者たちは、モデルが予期せぬ失敗をしないことを証明する数学的な保証を作り出そうと試みてきました。しかし、これらの保証は、現代のAIを動かしている巨大で複雑なネットワークに対しては、しばしば役に立たないものでした。そのような大規模なシステムの安全性を証明するために必要な計算は、あまりにも広範で悲観的な警告をもたらすことが多く、本質的には「エラー率は0%から100%の間のどこかである」と告げるだけで、有用な情報は何も教えてくれないのです。この問題は、システムを訓練するためのデータが極めて少ない場合にさらに困難になります。これは、数千もの例を集めることが不可能な専門分野においてよく見られる状況です。

ある研究チームは、学習プロセスそのものの捉え方を変えることで、これらの限界を回避する驚くべき方法を発見しました。巨大なニューラルネットワーク全体を認証しようとする代わりに、彼らは「モデル・マージ（モデルの統合）」と呼ばれる手法に焦点を当てました。これは、いくつかの事前学習済みのエキスパートを一つの新しいモデルへと結合させる手法です。これらのモデルを組み合わせるプロセスを、非常に少ない調整可能な設定を用いた一種の学習として扱うことで、研究者たちは、以前は不可能であった厳格な安全性チェックを適用できることを見出したのです。彼らの研究は、たとえわずか100個の例しかなくても、巨大な人工知能システムの性能に対して、意味のある、空ではない保証を提供することが可能であることを示しています。この発見は、今日の最も強力なAIモデルの安全性を認証するための道具が、すでに目の前に隠れており、異なる理論的視点を通じて認識されるのを待っていただけであることを示唆しています。

この発見の核心は、データが乏しい状況におけるAIの訓練と検証のあり方を再構築することにあります。伝統的に、モデルが機能することを証明するために、科学者は限られたデータを訓練セットと、それとは別の検証セットに分割してきました。しかし、100個の例しか持っていない場合、それらを半分に分割すると、優れたモデルを訓練するためのデータも、それを信頼性高くテストするためのデータも不足してしまいます。研究者たちは、モデル・マージと呼ばれる人気のある手法が解決策を提供することに気づきました。このアプローチでは、巨大なネットワークを一から訓練するのではなく、すでに異なるスキルを学習した既存のネットワークをいくつか取り出し、それらを混ぜ合わせます。この混合は、それぞれの元のネットワークが最終的な結果にどの程度貢献するかを決定する、一連の小さな数値、すなわち「重み」によって制御されます。元のネットワーク内にある数十億ものパラメータと比較して、これらの混合用の重みの数は極めて小さいため、学習プロセスははるかに単純になります。

研究者たちは、この単純さこそが認証の鍵であることを示しました。彼らは、モデルが新しいデータに対してうまく機能する確率を計算する手法である「PAC-Bayes」というフレームワークを適用しました。通常、この手法は大規模なネットワークに対しては、数学的な計算が緩すぎて使い物にならなくなります。しかし、モデル・マージはごく少数の重みしか調整しないため、数学的な計算がタイト（厳密）なまま維持されるのです。チームは、単に最高の組み合わせモデルを作るために設計された既存のマージング・アルゴリズムが、特別な修正を加えることなく、すでにこれらのタイトな安全性保証を提供していることを実証しました。多くの場合、これらのアルゴリズムの標準的な仕組み自体が、非常に少ない訓練データであっても、結果として得られるモデルが壊滅的な失敗を起こさないことを証明するのに十分でした。

これらの保証をさらに強固なものにするために、チームは学習プロセスを微調整する方法を開発しました。彼らは、マージング・アルゴリズムの目標を、単に訓練データ上のエラーを最小化することではなく、安全性境界（safety bound）そのものを明示的に最小化するように変更しました。この調整により、「空」の保証（何の保証も与えないもの）を、モデルが失敗する頻度に関する具体的で有用な制限へと変えることができました。彼らはこのアプローチを、画像認識を行うビジョン・システムと、テキストを理解する大規模言語モデルという、二つの非常に異なるタイプの人工知能に対してテストしました。ビジョン・システムについては約8,800万個のパラメータを持つモデルを使用し、言語モデルについては70億個のパラメータを持つモデルを使用しました。どちらの場合も、各タスクにつきわずか100個の例を用いてシステムを訓練しました。

結果は驚くべきものでした。ビジョン・タスクにおいて、研究者たちはマージされたモデルが特定の狭い精度の範囲内に収まることを認証できました。より大規模で複雑な言語モデルにおいても、同様の結果が得られました。多くの場合、ベースとなる言語モデルは、訓練例がない状態では新しいタスクに対して性能が低いものでしたが、マージされ、わずか100個の例で訓練された後、システムは性能が向上しただけでなく、その信頼性を証明する数学的な証明書を伴うようになりました。研究者たちは、すべてのデータセットにおいて、テスト誤差が訓練誤差の5%以内に認証できることを発見しました。

この研究は、大規模なAIシステムを認証するには膨大な量のデータが必要であるという、長年の定説に異を唱えるものです。研究者たちは、マージのプロセス中に実際に変化する少数のパラメータに焦点を当てることで、システムの複雑さが管理可能なレベルになることを示しました。また、彼らは「データ依存プリオア（事前分布）」と呼ばれるテクニックについても探求しました。これは、訓練データの一部を使用して、安全性計算のためのより優れた出発点を設定する手法です。これにより保証はさらに強まり、この手法が堅牢で適応力があることを証明しました。この研究は、AIの安全性のあらゆる問題を解決すると主張しているのではなく、データが貴重であったり入手困難であったりする、現実世界のアプリケーションにおいて極めて重要なシナリオである「低データ・レジーム（データが少ない状況）」におけるシステムの認証に向けた明確な道筋を示したものです。

この発見の含意は、単なる数字の域を超えています。それは、既存のAIシステムの安全性を検証することは、これまで考えられていたよりも容易である可能性を示唆しています。もしモデルを組み合わせる手法がこれほど簡単に認証できるのであれば、これらの手法を用いて構築されたシステムは、より高い信頼を持って信頼することができます。研究者たちは、このアプローチが画像認識と言語理解の両方に機能することに触れ、この原理が一般的であり、特定の種類のAIに限定されないことを強調しました。70億個のパラメータを持つモデルであっても、わずか100個の例で意味のある（非空の）保証が可能であることを証明することで、チームは、人工知能を人間の生活における最も重要な領域に安全に展開するための新たな道を切り開きました。この研究は、複雑な理論的問題を解決するための鍵が、より大きな機械を構築することではなく、既存の機械を異なる角度から見つめ直すことにあるということを示す実証となっています。