Features have life history. And we should care
Dieser Artikel zeigt, dass Sprachmodelle ein beständiges „Trägergerüst" von etwa 50 spärlichen Merkmalen besitzen, das sich innerhalb der ersten 1 % des Trainings schnell zusammenfügt und als tragendes Fundament dient, das die nachfolgende repräsentationale Struktur und Entwicklung des Modells bestimmt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung eines Preprints, das nicht peer-reviewed wurde. Dies ist kein medizinischer Rat. Treffen Sie keine Gesundheitsentscheidungen auf Grundlage dieses Inhalts. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, das Training eines großen Sprachmodells (wie derjenigen, die Aufsätze schreiben oder mit Ihnen chatten) gleicht dem Bau einer riesigen, geschäftigen Stadt von Grund auf. Normalerweise sehen wir, wenn wir uns die fertige Stadt ansehen, eine stabile Karte von Straßen und Gebäuden. Wir gehen davon aus, dass alles gleichzeitig im gleichen Tempo gewachsen ist.
Aber diese Arbeit argumentiert, dass die Stadt eine versteckte Lebensgeschichte hat. Einige Teile der Stadt wurden in der allerersten Stunde erbaut und haben sich nie verändert; sie wurden zum unerschütterlichen Fundament. Andere Teile kamen später, wurden auf diesem Fundament errichtet und sind viel fragiler.
Hier ist die Geschichte dieses Fundaments, erzählt durch die Erkenntnisse der Arbeit:
1. Das „Tragende Gerüst": Das Skelett der Stadt
Die Forscher entdeckten, dass sich in diesen KI-Modellen eine winzige Gruppe von etwa 50 speziellen „Features" (denken Sie an sie als die Hauptversorgungsleitungen der Stadt: Wasser, Strom, Internet) befindet.
- Sie erscheinen früh: Diese 50 Features zeigen sich fast sofort, innerhalb der ersten 1 % der Trainingszeit.
- Sie bleiben: Im Gegensatz zu anderen Features, die wie vorübergehende Bauarbeiter kommen und gehen, überleben diese 50 bis zum allerEnde.
- Sie halten alles zusammen: Die Autoren nennen diese Gruppe das „Tragende Gerüst". Es ist das Skelett des Modells. Wenn Sie diese spezifischen 50 Features entfernen, bricht die Leistung des Modells viel stärker ein, als wenn Sie beliebige andere 50 Features entfernen würden.
2. Das zweiphasige Bauprojekt
Die Arbeit schlägt vor, dass der Trainingsprozess in zwei distincte Phasen stattfindet, wie ein Bauprojekt mit einem strengen Zeitplan:
- Phase 1: Die „Selektion" (Die ersten 1 %)
Stellen Sie sich eine chaotische Baustelle vor, auf der Tausende von Arbeitern versuchen, Wände zu bauen. In den ersten paar Minuten werden die „guten" Arbeiter (das zukünftige Gerüst) identifiziert. Sie sind diejenigen, die früh erscheinen, an den wichtigsten Aufgaben arbeiten und nicht entlassen werden. Bis die ersten 1 % der Arbeit erledigt sind, ist das Skelett bereits festgelegt. Das Modell hat im Wesentlichen „entschieden", welche 50 Features die Führer sein werden. - Phase 2: Die „Kalibrierung" (Die restlichen 99 %)
Für den Rest des Trainings baut das Modell keine neuen Skelette. Stattdessen feilt es nur am Lack und an der Verkabelung um dieses feste Skelett herum. Es poliert die Geometrie und sorgt dafür, dass die bestehenden Führer besser funktionieren, aber es ändert nicht, wer die Führer sind.
3. Der „Glaskugel"-Effekt
Eines der überraschendsten Ergebnisse ist, dass man vorhersagen kann, wer die Führer sein werden, bevor das Modell überhaupt gut in seiner Aufgabe ist.
- Die Forscher betrachteten das Modell am allerAnfang (Schritt 1k). Zu diesem Zeitpunkt ist das Modell schrecklich darin, Text vorherzusagen.
- Dennoch konnten sie sehen, welche Features am breitesten und konsistentesten feuerten (aktivierten).
- Unter Verwendung nur dieser frühen Daten bauten sie eine „Glaskugel" (einen einfachen Prädiktor), der 80 % der zukünftigen Führer korrekt identifizieren konnte, bevor das Modell etwas Nützliches gelernt hatte.
- Die Lehre: Die „Funktion" des Modells (was es tut) wird zuerst entschieden. Seine „Richtung" (wie es mit der endgültigen Antwort verbunden ist) wird erst später poliert.
4. Der Stammbaum der Features
Das Gerüst sitzt nicht nur da; es wirkt wie ein Elternteil für den Rest des Modells.
- Während das Training weitergeht, werden neue Features geboren.
- Die Arbeit fand heraus, dass etwa 64 % aller Features im endgültigen Modell „Nachkommen" dieser ursprünglichen 50 Führer sind. Sie sind in einer Hierarchie organisiert, wie ein Stammbaum, wobei die frühen Führer die Großeltern sind und die neueren, spezifischeren Features die Kinder und Enkelkinder.
- Die ursprünglichen 50 Features sind die „Wurzeln", die die gesamte Struktur zusammenhalten.
5. Warum das wichtig ist (Der Teil „Warum sollten wir uns dafür interessieren?")
Die Autoren sagen, wir sollten uns dafür interessieren, weil unsere derzeitige Art, KI zu studieren, wie das Machen eines Fotos der fertigen Stadt ist und das Versuch, herauszufinden, wie sie gebaut wurde.
- Das Problem: Wenn Sie sich nur das fertige Modell ansehen, können Sie den Unterschied zwischen einem Feature, das von Anfang an ein Führer war, und einem Feature, das spät ankam, nicht erkennen. Sie sehen auf dem Foto gleich aus.
- Die Lösung: Indem wir die „Lebensgeschichte" verfolgen (wer wann geboren wurde und wer überlebte), können wir die echte tragende Struktur sehen.
- Die Überraschung: Die Features, die das meiste Gewicht tragen (das Gerüst), sind oft diejenigen, die wie langweilige, technische „Infrastruktur" aussehen (wie das Handhaben von Byte-Codes oder Dateiformaten), und nicht die „intelligenten" Features, die wir erwarten (wie das Verstehen von Emotionen oder Grammatik). Die „intelligenten" Features sind tatsächlich nur die Dekorationen, die auf diesem langweiligen, unerschütterlichen Fundament aufgebaut sind.
Zusammenfassende Analogie
Stellen Sie sich das Training einer KI wie das Ziehen eines riesigen Eichenbaums vor.
- Das Gerüst: Die tiefe Pfahlwurzel und der Hauptstamm. Diese werden in den ersten paar Tagen des Lebens des Keimlings etabliert. Sie sind schwer zu ändern und tragen das Gewicht des ganzen Baumes.
- Der Rest des Baumes: Die Äste, Blätter und Zweige. Diese wachsen später und verzweigen sich vom Hauptstamm. Sie sind zahlreich und spezifisch, verlassen sich aber vollständig auf den Stamm zur Unterstützung.
- Die Erkenntnis der Arbeit: Wenn Sie den Baum verstehen wollen, schauen Sie nicht nur auf die Blätter (den endgültigen Schnappschuss). Sie müssen auf die Wurzeln schauen (die Lebensgeschichte). Die Wurzeln wurden sehr früh gewählt, und der Rest des Baumes wuchs einfach darum herum.
Kurz gesagt: Das „Gehirn" der KI wird nicht gleichmäßig gebaut. Es wählt seine wichtigsten Teile in den ersten paar Minuten des Trainings aus und verbringt die nächsten 99 % seiner Zeit damit, nur zu lernen, wie man sie besser nutzt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.