Quantifying task-relevant representational similarity using decision variable correlation
Die Studie stellt die Entscheidungvariablenkorrelation (DVC) als neue Methode vor, um aufgabenrelevante Ähnlichkeiten zu quantifizieren, und zeigt, dass trotz vergleichbarer Leistung innerhalb von Primaten bzw. Modellen die aufgabenrelevanten Repräsentationen zwischen Affen und auf Bildklassifizierung trainierten neuronalen Netzen signifikant voneinander abweichen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung eines Preprints, das nicht peer-reviewed wurde. Dies ist kein medizinischer Rat. Treffen Sie keine Gesundheitsentscheidungen auf Grundlage dieses Inhalts. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie und ein Freund schauen sich beide dieselbe Serie an. Am Ende wollen Sie herausfinden: Verstehen Sie beide die Geschichte auf die gleiche Weise?
Bisher haben Wissenschaftler versucht, das Gehirn von Affen (die als Modell für unser eigenes Gehirn dienen) mit künstlichen Intelligenzen (KI) zu vergleichen. Die Frage war: „Lernt die KI die Welt so, wie ein Gehirn es tut?"
Die Antwort war bisher verwirrend. Manche sagten: „Ja, die KI wird immer menschenähnlicher!" Andere sagten: „Nein, sie lernen völlig unterschiedliche Dinge."
Die Autoren dieses Papers haben eine neue Methode entwickelt, um dieses Rätsel zu lösen. Sie nennen sie DVC (Decision Variable Correlation). Hier ist die Erklärung in einfachen Worten:
1. Das Problem: Der falsche Maßstab
Bisher verglichen Forscher oft nur das Endergebnis.
- Beispiel: Wenn Sie und Ihr Freund beide eine Multiple-Choice-Prüfung machen und beide 90 % richtig haben, denken Sie vielleicht: „Wir denken gleich!"
- Aber: Vielleicht haben Sie beide die falschen Antworten aus demselben Grund gewählt (z. B. weil Sie beide den Fragesteller hassen und ihn ärgern wollen). Oder Sie haben beide die richtige Antwort gewählt, aber völlig unterschiedliche Gründe im Kopf.
Frühere Methoden haben oft nur gezählt: „Wie oft haben beide das Gleiche gesagt?" Das ist wie zu zählen, wie oft zwei Menschen im selben Moment lachen, ohne zu wissen, ob sie über denselben Witz lachen.
2. Die neue Lösung: DVC (Der „Gedanken-Leser")
Die Autoren schauen nicht auf das Endergebnis, sondern auf den inneren Denkprozess.
Stellen Sie sich vor, das Gehirn und die KI sind zwei Detektive, die einen Fall lösen (z. B. „Ist das ein Hund oder eine Katze?").
- Jeder Detektiv hat einen inneren Zeiger (eine Art Gedanken-Strich), der sich bewegt, je mehr Beweise er sieht.
- Wenn der Zeiger nach rechts zeigt, denkt er „Hund". Wenn er nach links zeigt, denkt er „Katze".
Die DVC-Methode fragt nicht: „Haben beide am Ende ‚Hund' gesagt?"
Sie fragt: „Bewegen sich ihre inneren Zeiger bei jedem einzelnen Bild genau gleich?"
- Hohe Übereinstimmung (Hohe DVC): Wenn das Bild ein bisschen unscharf ist, zögern beide Detektive genau gleich lange. Wenn das Bild klar ist, sind beide sofort sicher. Ihre Gedanken tanzen im gleichen Takt.
- Niedrige Übereinstimmung (Niedrige DVC): Der eine Detektiv schaut auf die Ohren, der andere auf den Schwanz. Bei einem Bild mit langen Ohren und kurzem Schwanz sagt der eine „Hund", der andere „Katze". Ihre inneren Zeiger bewegen sich völlig unterschiedlich, auch wenn sie am Ende vielleicht zufällig das Gleiche sagen.
3. Die überraschenden Entdeckungen
Als die Forscher diese Methode auf moderne KIs und Affengehirne anwendeten, passierte etwas, das alle überraschte:
Je besser die KI wird, desto weniger ähnlich ist sie dem Gehirn.
Das klingt verrückt! Man dachte: „Wenn die KI besser wird, wird sie klüger und ähnelt uns mehr."
Die Realität: Die KIs, die auf ImageNet (einem riesigen Bild-Datensatz) die besten Noten bekommen, schauen sich Bilder auf eine völlig andere Art an als Affen. Sie haben sich auf einen „Trick" spezialisiert, der für die Prüfung super ist, aber nicht für das echte Sehen.- Analogie: Ein Schüler, der nur die Lösungen auswendig lernt (KI), besteht die Prüfung perfekt. Ein Schüler, der wirklich versteht, wie die Welt funktioniert (Gehirn), macht vielleicht einen kleinen Fehler bei einer kniffligen Frage. Der Auswendig-Lerner hat die bessere Note, aber sein „Denkprozess" ist dem des Lehrers weniger ähnlich.
Robustheit hilft nicht.
Man dachte, wenn man KIs trainiert, damit sie gegen „Störungen" (wie verrückte Pixel, die Menschen nicht sehen, aber KIs verwirren) immun sind, werden sie menschlicher.
Die Realität: Diese „robusten" KIs wurden untereinander sehr ähnlich (sie haben alle denselben neuen Trick gelernt), aber sie wurden nicht dem Affengehirn ähnlicher. Sie haben sich nur noch weiter vom biologischen Sehen entfernt.Mehr Daten helfen auch nicht.
KIs, die mit noch mehr Bildern trainiert wurden, waren ebenfalls nicht ähnlicher zum Gehirn.
4. Was bedeutet das für uns?
Die Botschaft ist: Wir bauen KIs, die sehr gut darin sind, Prüfungen zu bestehen, aber sie sehen die Welt nicht so, wie wir (oder Affen) sie sehen.
Die KIs haben einen „falschen Weg" gefunden, um Bilder zu erkennen. Sie nutzen Muster, die für uns irrelevant sind, aber für die Maschine funktionieren.
Fazit in einem Satz:
Statt nur zu fragen „Wie gut ist die KI?", müssen wir jetzt fragen: „Wie denkt die KI?" Und dabei haben wir herausgefunden, dass die klügsten KIs oft die denken, die am wenigsten wie ein echtes Gehirn funktionieren.
Die Autoren hoffen, dass diese neue Methode („DVC") wie ein Kompass dient, um KIs so zu trainieren, dass sie nicht nur die richtige Antwort geben, sondern die Welt auch so verstehen, wie wir es tun.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.