OmniMouse: Scaling properties of multi-modal, multi-task Brain Models on 150B Neural Tokens
Die Studie "OmniMouse" stellt ein skalierbares, multimodales Modell vor, das auf 150 Milliarden neuronalen Tokens trainiert wurde und zeigt, dass die Leistung bei der Modellierung von Gehirnaktivität primär durch mehr Daten und nicht durch größere Modelle begrenzt wird, was im Gegensatz zu den Skalierungsgesetzen in der Sprach- und Bildverarbeitung steht.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung eines Preprints, das nicht peer-reviewed wurde. Dies ist kein medizinischer Rat. Treffen Sie keine Gesundheitsentscheidungen auf Grundlage dieses Inhalts. Vollständigen Haftungsausschluss lesen
OmniMouse: Der „Super-Geist", der lernt, wie Mäuse sehen
Stellen Sie sich vor, Sie versuchen, die Gedanken einer Maus zu lesen, während sie einen Film schaut und auf einem Laufrad rennt. Klingt verrückt? Genau das haben die Forscher mit ihrem neuen KI-Modell namens OmniMouse geschafft.
Hier ist die Geschichte dahinter, einfach erklärt:
1. Das riesige Gehirn-Notizbuch
Normalerweise schauen sich Wissenschaftler nur ein paar wenige Nervenzellen einer Maus an. Das ist, als würde man versuchen, ein ganzes Buch zu verstehen, indem man nur ein einziges Wort auf einer Seite liest.
Für dieses Projekt haben die Forscher jedoch etwas Unglaubliches getan: Sie haben 3,1 Millionen Nervenzellen von 73 Mäusen über 323 verschiedene Sitzungen hinweg beobachtet. Das sind mehr als 150 Milliarden Datenpunkte (sie nennen sie „Neuronale Tokens").
- Die Analogie: Stellen Sie sich vor, Sie haben nicht nur ein Wörterbuch, sondern die gesamte Bibliothek der Menschheit in einem einzigen Buch gesammelt. Das ist die Datenmenge, die OmniMouse „geschluckt" hat.
2. Der Alleskönner (Multi-Task)
Frühere Modelle waren wie Spezialisten: Eines konnte nur vorhersagen, was eine Maus sieht, ein anderes nur, wie sie rennt. OmniMouse ist wie ein Schweizer Taschenmesser für das Gehirn. Es kann drei Dinge gleichzeitig tun:
- Vorhersagen: Was wird die Maus als Nächstes sehen? (Wie ein Wetterbericht für das Gehirn).
- Entschlüsseln: Was tut die Maus gerade? (Läuft sie? Ist sie aufgeregt? Das liest es aus den Nervenzellen ab).
- Vorausschauen: Wie wird sich das Gehirn in der Zukunft verhalten?
Es ist so flexibel, dass man es wie einen Chatbot bedienen kann: „Hey OmniMouse, zeig mir, was die Maus sieht, wenn ich ihr nur die letzten 10 Sekunden ihrer Bewegung zeige!" oder „Was passiert, wenn ich ihr einen Film zeige, aber keine Maus-Bewegung?"
3. Die große Überraschung: Mehr Daten sind wichtiger als mehr Intelligenz
In der Welt der Künstlichen Intelligenz (wie bei Chatbots) gilt oft die Regel: „Je größer das Modell (je mehr Parameter), desto besser." Man baut riesige Denkmäler aus Rechenleistung.
Bei OmniMouse passierte etwas Unerwartetes:
- Das Experiment: Sie haben das Modell immer größer gemacht (von 1 Million bis zu 300 Millionen „Gedanken").
- Das Ergebnis: Das Modell wurde besser, aber nur bis zu einem gewissen Punkt. Danach stagnierte es. Es war, als würde man einem Schüler immer mehr Bücher geben, aber er lernt nicht mehr, weil ihm die Übung fehlt.
- Die Erkenntnis: Das Problem war nicht die Größe des Modells, sondern die Menge der Daten. In der Welt der Maus-Gehirne ist Datenmangel der Flaschenhals, nicht die Rechenkraft.
- Die Metapher: Stellen Sie sich vor, Sie versuchen, ein Kochrezept zu lernen. Wenn Sie nur einmal kochen (wenig Daten), hilft es nicht, wenn Sie ein riesiges, teures Kochbuch (großes Modell) kaufen. Sie müssen einfach öfter kochen (mehr Daten). OmniMouse hat gezeigt, dass wir noch mehr „Kochstunden" für Mäuse brauchen, bevor wir noch intelligentere Modelle bauen können.
4. Was bringt uns das?
Warum interessieren wir uns für Mäuse, die Filme schauen?
- Der Grundstein: Wenn wir verstehen, wie ein relativ einfaches Gehirn (wie das einer Maus) funktioniert, können wir bessere Modelle für komplexere Gehirne (auch das menschliche) bauen.
- Die Zukunft: Die Forscher hoffen, dass wir eines Tages mit noch mehr Daten „magische Sprünge" erleben werden – ähnlich wie große Sprachmodelle plötzlich anfangen, zu logisch zu denken oder Witze zu machen. Vielleicht wird OmniMouse eines Tages so weit sein, dass es nicht nur vorhersagt, was eine Maus sieht, sondern auch versteht, warum sie es sieht.
Zusammenfassung
OmniMouse ist ein riesiges KI-Modell, das gelernt hat, das Gehirn einer Maus zu lesen, indem es eine unvorstellbar große Menge an Daten gefressen hat. Die wichtigste Lektion ist: Daten sind der Treibstoff. Ohne genug Daten nützt auch das größte Gehirn nichts. Es ist ein wichtiger Schritt auf dem Weg zu einem „Grundmodell" für die Neurowissenschaften, das uns hilft, zu verstehen, wie Gedanken entstehen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.