Stellen Sie sich vor, Sie bringen einem Computer bei, einen Hund zu erkennen. Sie zeigen ihm tausende Fotos: einen Golden Retriever in einem sonnigen Park, einen Pudel in einer regnerischen Gasse, einen Husky im Schnee. Der Computer lernt gut, aber er könnte sich auf Abkürzungen verlassen. Anstatt zu lernen, was einen Hund zum Hund macht, lernt er vielleicht, dass Hunde in Ihren Fotos immer auf grünem Gras oder vor blauem Himmel erscheinen. Wenn Sie dem Computer dann ein Bild eines Hundes auf einem roten Teppich zeigen, könnte er völlig versagen, weil er nicht das Tier selbst gelernt hat, sondern nur den Hintergrund. Dies ist ein häufiges Problem in der künstlichen Intelligenz, das als „Domain Shift“ bekannt ist, wobei ein Modell, das in einer Umgebung trainiert wurde, Schwierigkeiten hat, wenn sich die Bedingungen ändern. Wissenschaftler versuchen, dies zu lösen, indem sie Computer lehren, die wechselnde Umgebung zu ignorieren und sich nur auf die wesentlichen Merkmale des Objekts zu konzentrieren.

Ein Forschungsteam an der University of Delaware hat eine neue Methode vorgeschlagen, die Computern genau dabei helfen soll. Sie nennen ihre Methode FOCUS, was für „Feature Orthogonalization via Contrastive Upper-bound Separation“ steht. Die Kernidee besteht darin, den Computer dazu zu zwingen, sein Verständnis eines Bildes in zwei separate Teile aufzuspalten: einen Teil, der beschreibt, was das Objekt ist, und einen anderen Teil, der beschreibt, wo das Foto aufgenommen wurde oder welchen Stil es hat. Indem sie diese beiden Informationsteile strikt voneinander trennen, wird der Computer viel besser darin, Objekte in neuen, ungesehenen Umgebungen zu erkennen. Die Forscher testeten diese Idee an vier verschiedenen Bildersätzen, die von Skizzen und Cartoons bis hin zu echten Fotos von Tieren in der Wildnis reichen. Sie fanden heraus, dass ihre Methode die Genauigkeit des Computers um zwischen 0,70 % und 2,70 % im Vergleich zu den besten bestehenden Methoden verbesserte, wobei die signifikantesten Gewinne bei der schwierigen Aufgabe der Identifizierung von Tieren in der Wildnis erzielt wurden.

Die Forscher begannen mit einer einfachen Beobachtung: Standardmodelle der Computer Vision werden oft verwirrt, weil sie die Identität eines Objekts mit dem Stil des Bildes vermischen. Um dies zu beheben, bauten sie ein System mit zwei unterschiedlichen Pfaden oder „Zweigen“ zur Informationsverarbeitung auf. Ein Zweig widmet sich dem Erlernen des Inhalts des Bildes, wie etwa der Form eines Hundes oder der Farbe eines Autos. Der andere Zweig widmet sich dem Erlernen der Domäne, was Faktoren wie die Beleuchtung, die verwendete Kamera oder den künstlerischen Stil einer Zeichnung umfasst. Das Ziel ist es, dass der Inhaltszweig so gut darin wird, das Objekt zu identifizieren, dass er nicht mehr auf den Hintergrund oder den Stil schauen muss, während der Domänenzweig all diese zusätzlichen Details erfasst.

Es reicht jedoch nicht aus, einfach nur zwei Zweige zu haben. Die Forscher erkannten, dass, wenn diese beiden Zweige zu frei miteinander kommunizieren dürfen, der Inhaltszweig immer noch Hinweise aus dem Domänenzweig einschleusen könnte, was den Computer zurück zu denschten Fehlern führt. Um dies zu verhindern, führten sie eine Regel ein, die erzwingt, dass die beiden Zweige statistisch unabhängig bleiben. Vereinfacht ausgedrückt bedeutet dies, dass die Information im Inhaltszweig nicht dabei helfen sollte, die Information im Domänenzwe welcher vorherzusagen, und umgekehrt. Wenn der Computer lernt, dass eine bestimmte Form immer mit einem bestimmten Hintergrund erscheint, scheitert er, wenn sich dieser Hintergrund ändert. Durch das Aufbrechen dieser Verbindung wird der Computer gezwert, sich nur auf die Form selbst zu verlassen.

Um diese Trennung durchzusetzen, verwendeten die Forscher ein mathematisches Werkzeug namens „Mutual Information“ (gegenseitige Information). Stellen Sie sich Mutual Information als ein Maß dafür vor, wie viel zwei Dinge einander über sie verraten. Wenn Sie das Wetter kennen und das Ihnen viel darüber verrät, ob Menschen Regenschirme tragen, ist die Mutual Information zwischen Wetter und Regenschirmen hoch. Die Forscher wollten die Mutual Information zwischen dem „Was“ (dem Objekt) und dem „Wo“ (der Domäne) so nah wie möglich an Null bringen. Sie entwickelten eine Methode, um diese Zahl zu berechnen, und nutzten sie dann als Strafe während des Trainings. Jedes Mal, wenn die beiden Zweige begannen, zu viele Informationen zu teilen, wendete das System eine Strafe an, die sie wieder auseinander trieb.

Das Paper präsentiert eine interessante Wendung in der Art und Weise, wie diese Berechnung durchgeführt wird. Die Forscher verwendeten ursprünglich eine Methode, die eine Obergrenze dafür liefert, wie stark die Zweige miteinander verbunden sind. Sie testeten dann eine andere Methode, die eine Untergrenze liefert. Es ist wie der Versuch, die Entfernung zwischen zwei Städten zu messen: Eine Methode garantiert, dass die Entfernung höchstens eine bestimmte Zahl beträgt, während die andere garantiert, dass sie mindestens eine bestimmte Zahl beträgt. Die Forscher wollten sehen, ob die spezifische Art, wie sie diese Entfernung berechneten, Auswirkungen auf das Endergebnis hatte. Sie fanden heraus, dass beide Methoden sehr gut funktionierten. Die Methode, die eine Obergrenze setzt, lieferte in einigen Tests eine etwas bessere Punktzahl, aber die Methode, die eine Untergrenze setzt, schnitt fast ebenso gut ab. Dies deutet darauf an, dass der wichtigste Teil der Lösung nicht die spezifische Mathematik ist, die die Verbindung misst, sondern der Akt des Zwangs, den Computer, das Objekt von seinem Hintergrund zu trennen.

Das Team testete ihr System an vier wichtigen Benchmarks, um sicherzustellen, dass es über verschiedene Arten von Herausforderungen hinweg funktioniert. Der erste war eine Sammlung von Bildern, die Objekte in vier verschiedenen Stilen zeigten: Fotos, Gemälde, Cartoons und Skizzen. Der zweite bestand aus Bildern aus vier verschiedenen Datensätzen, die variieren in der Art und Weise, wie sie aufgenommen wurden und welche Hintergründe sie zeigen. Der dritte war eine große Sammlung von Büro- und Haushaltsgegenständen, die von künstlerischen Zeichnungen bis hin zu realen Produktfotos reichten. Der vierte war ein besonders schwieriger Satz von Bildern, die von Wildtierkameras in der Wildnis aufgenommen wurden und Tiere in ihren natürlichen Lebensräumen zeigten. Diese Bilder aus der Wildnis sind knifflig, da der Hintergrund, die Beleuchtung und der Kamerawinkel von einem Ort zum anderen drastisch variieren können und der Computer oft diese Umweltreize mit der Identität des Tieres verwechselt.

In den Tests zu den künstlerischen Stilen und den Bürogegenständen verbesserte die neue Methode die Genauigkeit des Computers um etwa 0,70 % bis 1,26 % gegenüber den bisher besten Methoden. Diese Zahlen mögen klein erscheinen, aber in der Welt der künstlichen Intelligenz ist selbst eine Verbesserung um einen Bruchteil eines Prozents signifikant, da sie einen echten Schritt nach vorn in Bezug auf die Zuverlässigkeit darstellt. Die dramatischste Verbesserung trat jedoch bei der Aufgabe der Erkennung von Wildtieren auf. Hier steigerte die neue Methode die Genauigkeit um 2,70 %. Dies ist ein erheblicher Gewinn, der zeigt, dass die Methode besonders gut darin ist, mit den chaotischen, unvorhersehbaren Variationen in der Natur umzugehen. Die Forscher merkten an, dass in der Wildnis, wo eine Kamera eine Hirsch in hellem Sonnenlicht oder tiefem Schatten erfassen kann, der Computer oft auf die Beleuchtung angewiesen ist, um das Tier zu erraten. Indem sie den Computer zwangen, die Beleuchtung zu ignorieren und sich nur auf den Hirsch zu konzentrieren, wurde das System viel robuster.

Die Forscher untersuchten auch genau, wie der Computer während des Lernprozesses lernte. Sie fanden heraus, dass die zwei verschiedenen mathematischen Methoden, mit denen sie die Verbindung zwischen den Zweigen maßen, sich recht unterschiedlich verhielten. Eine Methode produzierte Zahlen, die von Natur aus mit den anderen Teilen des Lernprozesses im Gleichgewicht waren, was das Training ohne ständige Anpassung erleichterte. Die andere Methode produzierte Zahlen, die viel größer waren und eine sorgfältige Skalierung durch die Forscher erforderten, damit sie den Lernprozess nicht überwältigten. Trotz dieser Unterschiede in der Art und Weise, wie sich das Training anfühlte, führten beide Methoden zu ähnlichen Endergebnissen. Dieser Befund ist wichtig, denn er legt nahe, dass der Erfolg des Ansatzes robust ist. Er hängt nicht von einem einzelnen, fragilen mathematischen Trick ab, sondern auf dem grundlegenden Prinzip, das Objekt von seinem Kontext zu trennen.

Die Studie kommt zu dem Schluss, dass der Schlüssel dazu, Computer in der realen Welt zuverlässiger zu machen, darin liegt, ihnen beizubringen, das „Was“ eines Objekts von dem „Wo“, in dem es gesehen wird, zu entwirren. Indem sie den Hintergrund und den Stil explizit als eine separate Entität modellieren und den Computer dann zwingen, diese Entität bei der Identifizierung des Objekts zu ignorieren, wird das System viel schwerer zu täuschen. Die Forscher fanden heraus, dass zwar das spezifische Werkzeug, mit dem die Trennung gemessen wird, für die Art und Weise, wie der Computer lernt, von Bedeutung ist, aber der Akt der Trennung selbst der entscheidende Faktor für die Verbesserung ist. Dieser Ansatz bietet einen vielversprechenden Weg nach vorn, um künstliche Intelligenz zu bauen, die in der Lage ist, sich an neue Umgebungen anzupassen, ohne jedes Mal neu trainiert werden zu müssen, wenn sich die Szenerie ändert.

Am Ende zeigt die Arbeit, dass die Fähigkeit eines Computers, auf neue Situationen zu generalisieren, nicht nur davon abhängt, mehr Beispiele zu sehen, sondern die richtigen Arten von Beispielen zu sehen. Indem sie der Maschine beibrachten, zwischen den permanenten Merkmalen eines Objekts und den temporären Merkmalen seiner Umgebung zu unterscheiden, haben die Forscher ein System geschaffen, das weniger wahrscheinlich durch eine Änderung der Beleuchtung, eine andere Kamera oder einen neuen künstlerischen Stil verwirrt wird. Die Ergebnisse legen nahe, dass diese Strategie der Trennung ein mächtiges Werkzeug ist, um künstliche Intelligenz vertrauenswürdiger und fähiger in der komplexen, sich ständig verändernden Welt des realen Lebens zu machen.