Symbiosis-Inspired Knowledge Distillation for Incremental Object Detection

Stellen Sie sich vor, Sie bringen einem Roboter bei, Tiere im Zoo zu erkennen. Zuerst zeigen Sie ihm Bilder von Löwen und Tigern. Der Roboter lernt, sie perfekt zu erkennen. Dann beschließen Sie, ihn über Zebras und Giraffen zu unterrichten. Hier kommt der knifflige Teil: Sie können dem Roboter nicht noch einmal Bilder von Löwen und Tigern zeigen, weil Sie versprochen haben, diese alten Fotos privat zu halten, oder weil Sie sie vielleicht aus Platzgründen weggeworfen haben. Wenn Sie dem Roboter nur die neuen Tiere zeigen, könnte er verwirrt werden. Er könnte anfangen zu denken, ein Zebra sei ein Pferd, oder schlimmer noch, er könnte vergessen, wie ein Löwe aussieht, weil sein Gehirn zu sehr damit beschäftigt ist, das Neue zu lernen. Dies ist ein Problem, das man „katastrophales Vergessen“ nennt, und es tritt auf, wenn Computer versucht, neue Dinge zu lernen, ohne ihre alten Erinnerungen zu verlieren.

In der Welt des Computer Vision wird dies als inkrementelle Objekterkennung bezeichnet. Es ist die Herausforderung, einem Kamerasystem beizubringen, neue Kategorien von Objekten zu entdecken (wie eine neue Art von Obst oder eine neue Art von Fahrzeug), während es gleichzeitig in der Lage bleibt, die alten Objekte zu erkennen – und das alles, ohne die alten Trainingsbilder erneut sehen zu müssen. Normallich versuchen Wissenschaftler, dieses Problem zu lösen, indem sie eine Mauer zwischen dem „alten“ Wissen und dem „neuen“ Wissen errichten, was den Computer dazu zwingt, sie in separaten mentalen Boxen zu halten. Aber ein neues Paper schlägt vor, dass das Bauen von Mauern eigentlich der falsche Weg sein könnte. Stattdessen schlägt es vor, dass wir beobachten sollten, wie Objekte ganz natürlich zusammen abhängen. In der realen Welt treten Objekte oft in Paaren oder Gruppen auf (wie ein Pferd und ein Reiter, oder ein Apfel neben einer Orange) und manchmal verstecken sie sich auch hintereinander. Die Autoren argumenten, dass diese chaotischen, überlappenden Beziehungen tatsächlich Hinweise sind, die dem Computer helfen können, besser zu erinnern, anstatt Rauschen, das bereinigt werden muss.

---

Das Paper: Robotern das Merken beibringen durch Beobachten von Freunden

Dieses Paper stellt eine clevere neue Methode namens Symbiosis-Inspired Knowledge Distillation (SIKD) vor. Denken Sie an dies als eine Art, einem Roboter etwas beizubringen, indem man ihn beobachten lässt, wie alte Freunde und neue Freunde miteinander interagieren, anstatt sie in separate Räume zu sperren.

Das Team der Autoren, ein Team von der Xidian University, bemerkte, dass die meisten bestehenden Methoden versuchen, zu streng zu sein. Wenn ein Roboter ein Bild sieht, auf dem sowohl ein altes Objekt (wie eine Orange) als auch ein neues Objekt (wie ein Apfel) zu sehen sind, versuchen herkömmliche Methoden, die Orange zu ignorieren, wenn sie den Apfel berührt, oder sie versuchen so zu tun, als existiere die Orange gar nicht. Sie tun dies, weil sie Angst haben, der Roboter könnte verwirrt werden. Aber die Autoren sagen: „Warten Sie mal! In der Natur koexistieren die Dinge. Ein Mensch, der ein Pferd reitet, ist ein klassisches Beispiel für zwei Dinge, die denselben Raum teilen.“ Indem sie diese geteilten Räume ignorieren, verliert der Roboter wertvolle Hinweise darauf, wie die Welt funktioniert.

Um dies zu beheben, nutzt SIKD zwei spezielle Techniken, die wie eine super organisierte Lerngruppe für das Gehirn des Roboters fungieren:

1. Der „Finde die Überlappung“-Trick (Spatial Symbiosis Distillation)
Stellen Sie sich vor, Sie betrachten ein Foto, auf dem ein neuer Apfel teilweise hinter einer alten Orange versteckt ist. Ein strenger Lehrer würde sagen: „Ignoriere die Orange, sie steht im Weg.“ Aber SIKD sagt: „Schau mal! Die Orange ist immer noch da, und sie hilft uns zu verstehen, wo der Apfel ist.“
Die Methode identifiziert diese „symbiotischen Regionen“ – Orte, an denen sich alte und neue Objekte überschneiden oder gemeinsam auftreten. Sie verwendet ein spezielles Modul (genannt CFE), um die Sicht des Roboters auf diese chaotischen Stellen zu bereinigen. Es sagt dem Roboter: „Behalte die allgemeine Form der Orange bei, aber lass dich nicht von ihr mit dem Apfel verwirren.“ Dann lehrt es das neue Robotermodell, auf diese spezifischen Stellen zu achten, um sicherzustellen, dass es sich daran erinnert, dass Orangen und Äpfel denselben Raum teilen können, ohne dass sie miteinander verwechselt werden. Dies hilft dem Roboter, seine räumliche Karte auch dann genau zu halten, wenn es voll gedrängt geht.

2. Der „Gruppenumarmungs“-Trick (Semantic Symbiosis Distillation)
Während der erste Trick betrachtet, wo Dinge sind, betrachtet dieser hier, was Dinge sind. Stellen Sie sich vor, der Roboter hat eine mentale Liste aller alten Früchte, die er kennt. Wenn er von einer neuen Frucht lernt, könnte er versehentlich seine Meinung darüber ändern, was eine „Orange“ eigentlich ist.
SIKD erstellt ein „Prototyp“ für jede alte Klasse. Denken Sie an einen Prototyp als das perfekte, durchschnittliche mentale Bild einer Orange. Die Methode überprüft dann das Vertrauen des Roboters in diese Bilder. Wenn der Robot zu 90 % sicher ist, dass etwas eine Orange ist, bekommt dieses Bild eine große Stimme in der Gruppe. Wenn er sich nur zu 50 % sicher ist, bekommt es eine kleinere Stimme.
Die Magie passiert, wenn der Roboter die neue Klasse lernt. SIKD stellt sicher, dass der Roboter die Rangfolge der alten Klassen beibehält. Wenn eine Orange immer als „ähnlicher zu einer Mandarine als zu einer Banane“ angesehen wurde, muss der Roboter diese Beziehung wahrheitsgetreu beibehalten, selbst nachdem er über Äpfel gelernt hat. Dies verhindert, dass der Roboter sein gesamtes Gedächtnis durcheinanderbringt, nur weil er etwas Neues gelernt hat.

Was sie herausgefunden haben

Das Team testete seine Methode auf einem berühmten Datensatz namens COCO 2017, der 80 verschiedene Objektkategorien enthält. Sie stellten eine Herausforderung auf, bei der der Roboter zuerst 70 Kategorien lernte und dann 10 neue lernen musste (ein Setup namens 70+10).

• Die Ergebnisse: Die SIKD-Methode schnitt besser ab als fast alle anderen Methoden, mit denen sie verglichen wurden. Im 70+10 Test erreichte ihr Roboter eine AP (Average Precision) von 44,3 % und schlug damit die bisher besten Non-Memory-Methoden um eine deutliche Marge.
• Der Vergleich: Sie testeten die Methode auch in einem 40+40 Split (lernen von 40, dann 40 weitere). Hier erzielte SIKD 43,3 % und lag ebenfalls an der Spitze.
• Der „No Memory“-Vorteil: Viele andere Top-Methoden nutzen „Exemplare“, was bedeutet, dass sie ein kleines Album alter Bilder aufbewahren, um dem Roboter beim Erinnern zu helfen. SIKD nutzte überhaupt keine alten Bilder, übertraf aber dennoch Methoden, die solche verwendeten. Das ist eine große Sache, denn es bedeutet, dass der Roboter lernen kann, ohne private Daten speichern zu müssen.

Sie testeten die Methode auch auf einem Datensatz von Luftaufnahmen namens DIOR, bei dem Objekte wie Schiffe und Flugzeuge oft überlappen. Hier verbesserte SIKD die Punktzahl im Vergleich zu anderen Methoden um 6,2 bis 9,0 Punkte, was zeigt, dass die Idee der „Symbiose“ auch dann funktioniert, wenn Objekte von oben betrachtet übereinander gestapelt sind.

Warum es wichtig ist

Das Paper legt nahe, dass wir durch das Akzeptieren der chaotischen, überlappenden Realität, wie Objekte in der echten Welt existieren, smartere Roboter bauen können, die nicht vergessen, was sie gelernt haben. Anstatt zu versuchen, die Vergangenheit von der Gegenwart zu trennen, nutzt SIKD die Verbindung zwischen ihnen als Brücke. Die Autoren fanden heraus, dass dieser Ansatz nicht nur hilft, dass der Roboter sich besser an alte Dinge erinnert, sondern auch verhindert, dass er verwirrt wird, wenn neue Dinge erscheinen.

In ihren Experimenten zeigten sie, dass diese Methode die Verwirrung zwischen alten und neuen Klassen reduziert. In einem visuellen Test war der Roboter mit SIKD beispielsweise viel weniger wahrscheinlich, ein altes Objekt für ein neues zu halten, als Roboter mit älteren Methoden. Die Autoren kommen zu dem Schluss, dass dieser „Symbiose“-Ansatz ein vielversprechender Weg nach vorne ist, um KI zu schaffen, die kontinuierlich lernen kann, genau wie Menschen, ohne dass sie jedes einzelne Bild auswendig lernen muss, das sie je gesehen haben.