Symbiosis-Inspired Knowledge Distillation for Incremental Object Detection

あなたは、動物園で動物を認識するロボットに教えているところだと想像してください。最初は、ライオンとトラの写真をロボットに見せます。ロボットはそれらを完璧に見分けることを学びます。次に、シマウマとキリンについて教えることにしました。ここからが難しいところです。あなたは、古い写真をプライバシーとして保持すると約束したか、あるいはスペースを節約するために捨ててしまったため、ロボットにライオンやトラの写真を再び見せることができません。もし、新しい動物の写真だけを見せると、ロボットは混乱してしまうかもしれません。例えば、シマウマを馬だと思い始めてしまったり、あるいは新しいことを学ぶのに脳が忙しすぎて、ライオンがどんな姿をしているかを完全に忘れてしまったりするかもしれません。これは「破滅的忘却（catastrophic forgetting）」と呼ばれる問題であり、コンピュータが古い記憶を失うことなく、新しいことを学ぼうとする際に発生します。

コンピュータビジョンの世界では、これは**増分物体検出（Incremental Object Detection）**として知られています。これは、カメラシステムに新しいカテゴリの物体（新しい種類の果物や新しい種類の車両など）を認識させる方法を教えつつ、古いものを見分ける方法を（古い訓練用の写真を見ることなく）いかに記憶し続けるかという課題です。通常、科学者たちは「古い」知識と「新しい」知識の間に壁を作ることで解決しようとし、コンピュータにそれらを別々の精神的な箱の中に保持させようとします。しかし、ある新しい論文は、壁を作ることは実は間違った動きである可能性を示唆しています。代わりに、彼らはオブジェクトが自然にどのように一緒に存在しているかを見るべきだと提案しています。現実の世界では、オブジェクトはしばしばペアやグループとして現れます（例えば、馬に乗った人間や、オレンジの隣にあるリンゴなど）。そして時には、互いの後ろに隠れることもあります。著者たちは、これらの乱雑で重なり合った関係こそが、コンピュータがより良く記憶するための手がかりであり、取り除くべきノイズではないと主張しています。

---

論文：友達を見守ることでロボットに記憶を教える

この論文は、**共生に着想を得た知識蒸留（Symbiosis-Inspired Knowledge Distillation: SIKD）**と呼ばれる巧妙な手法を紹介しています。これは、古い友達と新しい友達がどのように相互作用するかを観察させることで、ロボットに教える方法だと考えてください。古い友達と新しい友達を別々の部屋に座らせるのではなく、彼らがどのように関わり合っているかを見せるのです。

著者のチーム（西電大学）は、既存のほとんどの手法が厳格すぎると指摘しました。ロボットが古いオブジェクト（例えばオレンジ）と新しいオブジェクト（例えばリンゴ）が両方含まれる写真を見たとき、既存の手法は、もしオレンジがリンゴに触れていればオレンジを無視しようとしたり、あるいはオレンジが存在しないかのように振る舞おうとしたりします。これは、ロボットが混乱することを恐れているためです。しかし、著者たちはこう言います。「ちょっと待ってください！ 自然界では、物事は共存しています。人が馬に乗っていることは、二つのものが同じ空間を共有している典型的な例です。」これらの共有された空間を無視することで、ロボットは世界がどのように機能しているかについての貴重なヒントを失ってしまうのです。

これを解決するために、SIKDはロボットの脳のための「非常に整理された学習グループ」として機能する2つの特別なテクニックを使用しています。

1. 「重なりを見つける」トリック（空間的共生蒸留：Spatial Symbiosis Distillation）
新しいリンゴが古いオレンジの後ろに部分的に隠れている写真を見ているところを想像してください。厳格な教師なら、「オレンジは邪魔だから無視しなさい」と言うかもしれません。しかし、SIKDはこう言います。「見て！ オレンジはまだそこにあり、それがリンゴがどこにあるかを理解する助けになっているんだ。」
この手法は、「共生領域（symbiotic regions）」、つまり古いオブジェクトと新しいオブジェクトが重なったり、一緒に現れたりする場所を特定します。そして、CFEと呼ばれる特殊なモジュールを使用して、ロボットの乱雑な場所に対する視界を整理します。それはロボットにこう伝えます。「オレンジの一般的な形は維持しなさい。でも、それがリンゴと混同されないようにね。」こうして、特定の場所に注意を向けるよう教えることで、物が密集していても、ロボットが正確な空間マップを維持できるようにします。

2. 「グループハグ」トリック（意味的共生蒸留：Semantic Symbiosis Distillation）
最初のトリックが「どこに」あるかを見るのに対し、これは「何であるか」を見ます。ロボットが知っている古い果物のリストを持っていると想像してください。新しい果物を学ぶとき、ロボットは誤って「オレンジ」とは何かについての考えを変えてしまうかもしれません。
SIKDは、すべての古いクラスに対して「プロトタイプ」を作成します。プロトタイプとは、オレンジの「完璧で平均的な精神的イメージ」のようなものです。そして、この手法は、ロボットのこれらのイメージに対する確信度をチェックします。もしロボットがあるものがオレンジであると90%の確信を持っているなら、そのイメージはグループの中で大きな票を持ちます。もし確信度が50%しかないなら、小さな票しか持ちません。
魔法は、ロボットが新しいクラスを学ぶときに起こります。SIKDは、ロボットが古いクラスの「ランキング」を維持するようにします。もしオレンジが常に「バナナよりもタンジェリンに近い」とされていたなら、ロボットはリンゴを学んだ後でもその関係を真実のままに保たなければなりません。これにより、新しいことを学んだだけで、ロボットが記憶全体を混乱させてしまうのを防ぎます。

彼らが発見したこと

チームは、80種類のオブジェクトカテゴリを含む有名なデータセットであるCOCO 2017を用いて、彼らの手法をテストしました。彼らは、ロボットが最初に70のカテゴリを学び、次に10の新しいカテゴリを学ぶという設定（70+10と呼ばれるセットアップ）を行いました。

• 結果: SIKD法は、比較したほぼすべての手法よりも優れた性能を発揮しました。70+10のテストにおいて、彼らのロボットは**AP（平均精度）44.3%**を達成し、従来の非メモリ型の手法を明確な差で上回りました。
• 比較: 彼らはまた、40+40の分割（40を学び、次に40を学ぶ）についてもテストしました。ここでは、SIKDは**43.3%**を記録し、再びトップに立ちました。
• 「メモリなし」の優位性: 多くのトップレベルの手法は、「エグゼンプラー（exemplars）」、つまりロボットが記憶を助けるための古い写真の小さなアルバムを保持していますが、SIKDは古い写真を一切使用しませんでした。それにもかかわらず、SIKDはそれらを使用する手法を上回りました。これは、ロボットがプライベートなデータを保存することなく学習できることを意味しており、非常に重要なことです。

彼らはまた、船や飛行機などが頻繁に重なり合う航空写真データセットであるDIORでもこの手法をテストしました。ここでは、SIKDは他の手法と比較してスコアを6.2から9.0ポイント向上させ、「共生」のアイデアが、高い空から物体が重なっている場合でも有効であることを示しました。

なぜこれが重要なのか

この論文は、オブジェクトが現実世界でどのように存在するかの乱雑で重なり合った現実を受け入れることで、学んだことを忘れない、より賢いロボットを構築できることを示唆しています。過去と現在を切り離そうとする代わりに、SIKDはその間のつながりを架け橋として利用します。著者たちは、この「共生」のアプローチが、ロボットが古いものをより良く記憶するのを助けるだけでなく、新しいものが出現したときに混乱するのを防ぐことも分かったと述べています。

実験において、彼らはこの手法が新旧のクラス間の混乱を軽減することを示しました。例えば、視覚的なテストにおいて、SIKDを使用するロボットは、古い手法を使用するロボットと比較して、古いオブジェクトを新しいものと間違える可能性がはるかに低いことが分かりました。著者たちは、この「共生」のアプローチが、AIがこれまで見たすべての写真を暗記する必要なく、人間と同じように継続的に学習していくための、有望な進むべき道であると結論づけています。