An extremely coarse feedback signal is sufficient for learning human-aligned visual representations
Diese Studie zeigt, dass das Training neuronaler Netze mit extrem groben Feedback-Signalen, wie etwa der Unterscheidung von lediglich acht breiten Kategorien, ausreicht, um visuelle Repräsentationen zu erlernen, die stärker mit menschlicher Gehirnaktivität und perceptuellen Urteilen übereinstimmen als Modelle, die mit feinabgestuften oder selbstüberwachten Zielen trainiert wurden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einem Roboter beizubringen, die Welt so zu sehen wie ein Mensch. In den letzten zehn Jahren waren Wissenschaftler der Überzeugung, dass man, um das „Gehirn" eines Roboters menschlich wirken zu lassen, ihm eine riesige, detaillierte Hausaufgabe stellen muss. Man würde ihm Millionen von Bildern zeigen und sagen: „Ist das ein Golden Retriever oder ein Pudel? Ist das ein rotes Sportauto oder eine blaue Limousine?" Die Idee war, dass je spezifischer die Beschriftungen sind, desto besser der Roboter die Welt versteht.
Aber dieser neue Artikel der Johns Hopkins University legt nahe, dass der Roboter nicht so viele Details benötigt. Tatsächlich könnte er besser lernen, wenn man ihm eine sehr einfache, unscharfe Version der Hausaufgabe gibt.
Hier ist die Geschichte dessen, was sie fanden, einfach erklärt:
Das „Unscharfe-Karte"-Experiment
Die Forscher wollten testen, ob ein Roboter lernen kann, wie ein Mensch zu sehen, indem er nur wenige breite Kategorien anstelle von Tausenden spezifischer verwendet.
Stellen Sie sich die Welt der Bilder wie eine riesige Bibliothek vor.
- Der alte Weg (Fein granular): Sie sagen dem Roboter, er soll jedes einzelne Buch in seine eigene spezifische Schublade sortieren. Es gibt 1.000 Schubladen, jede für eine bestimmte Art von Buch (z. B. „Französische Poesie des 19. Jahrhunderts", „Science-Fiction des 20. Jahrhunderts" usw.).
- Der neue Weg (Grob granular): Sie sagen dem Roboter, er soll die Bücher in nur 8 große Behälter sortieren. Vielleicht ist ein Behälter „Tiere", einer „Essen", einer „Fahrzeuge" und so weiter. Es ist Ihnen egal, ob er den Unterschied zwischen einer Katze und einem Hund kennt; Sie wollen nur wissen, ob er den Unterschied zwischen einem Tier und einem Auto erkennt.
Um dies fair zu gestalten, haben sie diese 8 Kategorien nicht einfach erfunden. Sie verwendeten einen cleveren Trick: Sie nahmen ein intelligentes, vorab trainiertes Computergehirn und fragten es: „Wenn Sie diese 1,2 Millionen Bilder basierend auf ihrem Aussehen in nur 2, 4 oder 8 Gruppen einteilen müssten, wie würden Sie das tun?" Sie nutzten die eigene „Intuition" des Computers, um diese breiten Gruppen zu erstellen.
Die große Überraschung
Sie trainierten hunderte verschiedener Roboterhirne mit diesen unterschiedlichen Detailgraden. Dann überprüften sie zwei Dinge:
- Der „Neuronale" Test: Sah die interne Verdrahtung des Roboters aus wie das Gehirn eines Affen oder wie ein Gehirnscan eines Menschen?
- Der „Menschliche-Gefühl"-Test: Wenn der Roboter zwei Objekte betrachtete, hielt er sie dann auf die gleiche Weise für ähnlich wie ein Mensch? (Würde ein Mensch zum Beispiel sagen, dass ein „Löwe" und ein „Tiger" ähnlicher sind als ein „Löwe" und ein „Toaster"? War der Roboter derselben Meinung?)
Die Ergebnisse waren schockierend:
- Neuronale Ausrichtung: Roboter, die nur auf 8 breiten Kategorien trainiert wurden, lernten, die Welt genauso gut (und manchmal besser) zu sehen wie Roboter, die auf die vollen 1.000 Kategorien trainiert wurden. Ihre internen „Karten" der Welt sahen menschlichen und Affengehirnen fast identisch.
- Menschliche Gefühle: Hier wurde es noch seltsamer. Die Roboter, die auf der grobgranularen 8-Kategorien-Aufgabe trainiert wurden, passten die menschliche Intuition besser an als jeder andere getestete Roboter. Sie waren besser darin, zu erraten, wie Menschen Dinge zusammenfassen, als die Roboter, die auf der super-detaillierten 1.000-Kategorien-Aufgabe trainiert wurden.
Warum passiert das?
Der Artikel legt nahe, dass ein Roboter, wenn man ihn zwingt, sich auf das Große Ganze zu konzentrieren (Tiere vs. Fahrzeuge), auf natürliche Weise die wichtigsten, grundlegenden Wege lernt, wie unsere Gehirne die Welt organisieren.
Wenn man einen Roboter zwingt, 1.000 winzige Details auswendig zu lernen, wird er durch das Rauschen abgelenkt. Er lernt, die winzigen Unterschiede zwischen einem „roten Sportauto" und einer „blauen Limousine" zu erkennen, aber er könnte den Wald vor lauter Bäumen nicht sehen. Indem man die Aufgabe auf nur wenige große Eimer vereinfacht, wird der Roboter gezwungen, ein starkes, klares Fundament zu bauen, das dem entspricht, wie Menschen Dinge natürlich wahrnehmen.
Der „Low-Data"-Bonus
Die Forscher stellten auch fest, dass dieser „Unscharfe-Karte"-Ansatz unglaublich effizient ist.
- Ein Roboter, der auf den vollen 1,2 Millionen Bildern mit der detaillierten 1.000-Kategorien-Aufgabe trainiert wurde, schnitt schlechter ab als ein Roboter, der nur auf 1 % der Bilder (etwa 12.000 Bilder) mit der einfachen 8-Kategorien-Aufgabe trainiert wurde.
- Es ist so, als würde man sagen, man könne den Grundriss einer ganzen Stadt lernen, indem man eine einfache Skizze mit 8 Hauptbezirken betrachtet, anstatt zu versuchen, jede einzelne Straßenadresse in einem riesigen Atlas auswendig zu lernen.
Das Fazit
Der Artikel kommt zu dem Schluss, dass man, um ein computergestütztes Sehsystem zu bauen, das wie ein Mensch denkt, ihm keine Prüfung auf PhD-Niveau mit Tausenden spezifischer Fragen stellen muss. Man muss ihm nur eine sehr einfache, grobe Aufgabe geben: „Sortieren Sie diese Dinge in ein paar große Haufen."
Dieses einfache Feedback reicht aus, um das Roboterhirn zum Leuchten zu bringen und Informationen so zu organisieren, dass es unserer eigenen bemerkenswert ähnelt. Es stellt sich heraus, dass manchmal weniger Details zu einem klareren, menschlicheren Verständnis der Welt führen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.