Eddy-VL 1.9B: Structural Pruning and Layered Distillation for Edge-Deployable Multimodal Embedding
本論文は、プローブ駆動型の構造的枝刈りと層状の知識蒸留を通じて、2.13Bの教師モデルの性能の91.7%を達成しつつ、パラメータ数を9.5%削減しレイテンシを10%低減させた、エッジ展開向けに設計された圧縮マルチモーダル埋め込みモデルであるEddy-VL 1.9Bを紹介する。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
コンピュータが画像とテキストを同時に「見て」そして「読む」ことができる、そんな世界を想像してみてください。猫がマットの上に座っている写真を見たとき、それが「マットの上の猫」という言葉と同じように理解できる世界です。これがマルチモーダルAIの領域です。これは、機械が画像、テキスト、ビデオを単一の共有言語へと結びつける方法を学ぶ科学の一分野です。これを行うために、これらのAIモデルは巨大な翻訳者のように振る舞い、目にするものすべてを**エンベディング（埋め込み）**と呼ばれる長い数字のリストへと変換します。エンベディングとは、コンテンツの「指紋」のようなものだと考えてください。もし二つの指紋が非常に似ていれば、コンピュータはそのコンテンツ同士に関連があることを理解します。
しかし、そこには落とし穴があります。最も賢い翻訳者は、通常、非常に重たいものです。彼らは、動作するために常に高速なインターネット接続を必要とする、巨大なクラウドベースのスーパーコンピュータのような存在です。しかし、もしあなたが秘密の地下室や、警察の証拠品保管室、あるいは遠隔地の観測所にいて、インターネットが遮断されているとしたらどうでしょう？ あなたには、複雑な手がかりを理解できるほど賢く、かつローカルのノートパソコンや携帯デバイスに収まるほど小さな翻訳者が必要です。これが**エッジ・デプロイメント（エッジ展開）**の課題です。つまり、クラウドへの接続を必要とせず、オフラインで、高速に、強力なAIを動作させることです。
ここで登場するのが、プライバシーとスピードがすべてである、このような「エアギャップ（ネットワークから隔離された）」環境のために特別に設計された新しいモデル、Eddy-VL 1.9Bです。このプロジェクトの背後にいる研究者たちは、非常に賢いのですが非常に重たい「教師モデル」であるQwen3-VL-Embedding-2Bから着手しました。この教師モデルは、28層もの深い思考を持つ極めて優秀な教授のようなものですが、バックパックに入れて持ち運ぶにはあまりにも嵩張ります。チームはシンプルな問いを投げかけました。「この教授を、教える能力を失わせることなく、小さく縮小できるだろうか？」
彼らは単にランダムにパーツを切り落としたのではありません。**構造的プルーニング（構造的枝刈り）**と呼ばれる巧妙な戦略を用いました。教師の脳を28階建てのビルだと想像してみてください。研究者たちは、各フロアがそのすぐ上や下のフロアの仕事をどれだけ重複して行っているかを測定するための特別な「プローブ（探針）」を使用しました。その結果、特定の4つのフロアが冗長な作業を行っていることが判明しました。まるで、1台あれば十分なのに、4台の同じコピー機が並んでいるような状態です。彼らはこれらの4つのフロアを取り除き、建物の高さを28階から24階へと減らしました。
しかし、ここからが難しいところです。建物のフロアを取り除くと、最上階に住む人々が迷ってしまうかもしれません。これを解決するために、チームはレイヤード・ディスティレーション（層状蒸留）を用いました。これは、熟練の建築家（元の28階建ての教師）が、新しい小さな建築家（24階建ての生徒）を導くようなものだと考えてください。教師は単に「建てろ」と言うだけでなく、あらゆるステップにおいて、生徒がどのように考えるべきかを正確に示します。彼らは、二つの層の思考がいかに類似しているかを測定するCKAという手法を用い、生徒の中間層が教師と全く同じように思考するようにし、最終的な回答については特別な「マトリョーシカ」方式を用いて、必要に応じて異なるサイズの回答を提供できるようにしました。
その結果がEddy-VL 1.9Bです。これは約19.3億のパラメータを持ち、重さは3.85 GBで、多くの現代的なデバイスに収まるサイズです。テストにおいて、この「縮小された」モデルは、元の教師の知能の約91.7%を維持することに成功しました。元の教師は、78の異なるタスク（MMEB-V2と呼ばれます）を含む大規模なテストで68.9点を獲得しましたが、Eddy-VLは63.2点を記録しました。これは数値が下がったように聞こえるかもしれませんが、覚えておいてください、このモデルは思考の層を丸ごと4層も失っているのです！ 特殊な教育テクニックがなければ、スコアは56.8まで急落していたでしょう。蒸留プロセスによって、失われた分の6.4ポイントを回収することに成功したのです。
また、モデルはスピードアップも果たしました。処理すべき層が少ないため、元のモデルよりも約10%高速に動作し、画像の処理に150.0ミリ秒ではなく136.4ミリ秒を要します。これは大きな差ではないように聞こえるかもしれませんが、押収された何千枚もの写真をオフラインでスキャンする実世界の調査においては、その数秒の積み重ねが数時間の節約につながります。
研究者たちは、モデルが依然として苦戦している箇所についても注意深く記述しています。言葉と画像の間の複雑な関係を理解することについては、教師と同等の性能を発揮しましたが（教師の86.4%に対し、86.1%を記録）、Winogroundと呼ばれる特定の種類のパズルについては、教師の8.5に対して6.8というスコアであり、少し苦戦していることが分かりました。これは、このモデルが一般的な検索には優れている一方で、非常にトリッキーな論理パズルには、依然として削ぎ落とされる前の完全な脳が必要であることを示唆しています。
結局のところ、Eddy-VL 1.9Bはあらゆる問題を解決する魔法の杖ではありませんが、特定の仕事において非常に強力なツールです。それは、巨大でクラウド依存のAIを、その魂を大きく損なうことなく、軽量でオフライン対応のパッケージへと圧縮できることを証明しています。捜査官、フォレンジック（鑑識）の専門家、そしてインターネットが贅沢品となる場所で働くすべての人々にとって、このモデルは、ネットワークのエッジにおいて、知性を高く保ちながら活動を継続させる手段を提供してくれるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。