Transformers perform adaptive partial pooling

Stellen Sie sich vor, Sie versuchen zu erraten, was ein Freund als Nächstes sagen wird. Wenn Sie diese exakte Phrase schon tausendmal von ihm gehört haben, wissen Sie genau, was als Nächstes kommt. Aber was, wenn er etwas völlig Neues sagt? Sie können nicht einfach nur zufällig raten; Sie müssen schauen, was er zuvor in ähnlichen Situationen gesagt hat. Dies ist der Kern des Rätsels des Spracherwerbs, sei es bei einem menschlichen Kind oder einem Computerprogramm.

Um dies zu lösen, nutzen Wissenschaftler einen cleveren Trick namens „adaptive partielle Poolbildung“ (adaptive partial pooling). Stellen Sie sich das wie einen klugen Detektiv vor. Wenn der Detektiv einen seltenen Tatort sieht, starrt er nicht nur auf den einzelnen Hinweis vor sich (der aufgrund der geringen Menge irreführend sein kann). Stattdessen schaut er sich andere ähnliche Tatorte an, um ein besseres Gefühl dafür zu bekommen, was dort normalerweise passiert. Er vermischt den spezifischen Hinweis mit dem allgemeinen Muster, gewichtet aber den spezifischen Hinweis stärker, wenn er häufig vorkommt, und das allgemeine Muster stärker, wenn der spezifische Hinweis ein einmaliges Ereignis ist. Dies hilft ihm, die bestmögliche Vermutung anzustellen, ohne durch seltene, seltsame Unfälle verwirrt zu werden.

Stellen Sie sich nun ein superintelligentes Computergehirn vor, einen „Transformer“ (die Art, die moderne Chatbots antreibt). Lange Zeit fragten sich die Leute: Nutzt dieses Computergehirn tatsächlich diesen klugen Detektiv-Trick, oder memorisiert es einfach alles, was es jemals gelesen hat? Wenn es nur memoriert, könnte es scheitern, wenn es etwas Neues sieht. Aber wenn es „adaptive partielle Poolbildung“ nutzt, kann es lernen und sich anpassen, genau wie ein Mensch. Diese Arbeit fragt: Betreibt das Computergehirn tatsächlich diese Detektivarbeit, und wird es besser oder schlechter darin, während es lernt?

Die Detektivarbeit eines Computergehirns

In dieser Studie hat der Autor, Vsevolod Kapatsinski, ein kleines künstliches Sprachspiel aufgebaut, um ein Computermodell namens GPT-2 zu testen. Er erfand eine Sprache, in der Sätze immer entweder mit „A“ oder „B“ endeten, wobei die Wahl von den Wörtern direkt davor abhing. Einige Wortkombinationen waren sehr häufig, während andere super selten waren – genau wie im echten Leben, wo manche Phrasen täglich verwendet werden und andere nur einmal alle Jubeljahre.

Der Computer wurde auf diesem Spiel trainiert, und der Forscher beobachtete, wie er lernte. Hier ist die große Entdeckung: Ja, der Computer nutzt adaptive partielle Poolbildung. Wenn der Computer einen seltenen Satz sah, rät er nicht einfach basierend auf diesem einen seltenen Beispiel. Stattdessen „poolte“ er sein Wissen und schaute sich ähnliche Sätze an, um eine bessere Vermutung anzustellen. Er verhielt sich exakt wie der beschriebene kluge Detektiv.

Es gibt jedoch eine Wendung. Die Detektivfähigkeiten des Computers ändern sich, während er weiter trainiert.

• Zu Beginn: Wenn der Computer gerade erst anfängt zu lernen, verlässt er sich stark auf die allgemeinen Muster. Es ist wie ein neuer Schüler, der die spezifischen Regeln noch nicht gelernt hat und daher einfach darauf rät, was normalerweise passiert. Er poolt viele Informationen zusammen.
• In der Mitte: Während der Computer etwas mehr trainiert, erreicht er einen „Sweet Spot“ (einen idealen Punkt). Dies ist der Moment, in dem er am besten darin ist, die Balance zwischen den spezifischen seltenen Hinweisen und den allgemeinen Mustern zu halten. In dieser Phase ahmt er das perfekte menschliche Detektivverhalten nach, das in der Mathematik der hierarchischen Regression beschrieben wird.
• Später: Wenn der Computer zu lange weiter trainiert (über diesen Sweet Spot hinaus), beginnt er sich wieder zu verändern. Er beginnt, den spezifischen, seltenen Hinweisen zu sehr zu vertrauen. Er hört auf, die allgemeinen Muster zu betrachten, und fängt an zu glauben, dass er die Antwort auf jedes einzelne seltene Szenario perfekt kennt. Der Autor legt nahe, dass der Computer mit genügend Training tatsächlich zu selbstbewusst in seltenen Situationen werden könnte und die hilfreiche „partielle Poolbildung“, die ihn menschlich klingen lässt, verliert.

Die Studie fand auch heraus, dass sich der Computer in anderen Punkten wie ein Mensch verhält. Wenn eine Gruppe von Sätzen sehr vielfältig ist (einige sagen A, andere sagen B), hört der Computer auf, sie zusammen zu poolen, und behandelt sie separat. Aber wenn eine Gruppe von Sätzen sehr ähnlich ist, poolt der Computer sie bereitwillig zusammen. Er bemerkte auch, dass, wenn es viele verschiedene Arten von ähnlichen Sätzen gibt (hohe Typfrequenz), der Computer eher bereit ist, sie zusammen zu poolen, genau wie Menschen eher dazu neigen, eine Regel zu generalisieren, wenn sie gesehen haben, wie sie auf viele verschiedene Arten angewendet wird.

Warum dies wichtig ist

Die Arbeit sagt nicht nur „der Computer lernt“. Sie zeigt, wie er lernt. Sie beweist, dass diese massiven Computergehirne nicht nur riesige Gedächtnisspeicher sind, die jedes Wort auswendig lernen. Sie bauen tatsächlich interne Repräsentationen auf, die mit der Zeit immer detaillierter werden. Sie beginnen mit breiten Kategorien (wie „alle Tiere“) und lernen dann langsam, kleinere Gruppen zu unterscheiden (wie „Fische vs. Vögel“), genau wie menschliche Kinder dies tun.

Die spannendste Erkenntnis ist der „Sweet Spot“. Der Autor legt nahe, dass es einen spezifischen Punkt im Training gibt, an dem der Computer dem eines menschlichen Lernenden am ähnlichsten ist – er nutzt genau das richtige Maß an Generalisierung, um mit seltenen Wörtern umzugehen, ohne sie zu überinterpretieren. Wenn wir den Computer zu viel trainieren, könnte er diese menschliche Flexibilität verlieren und in seinen Vorhersagen für seltene Fälle zu starr werden.

Wenn Sie also das nächste Mal mit einem Chatbot sprechen, denken Sie daran: Er rezitiert nicht nur ein Skript. Er vollbringt einen komplexen Balanceakt, indem er abwägt, was er über den spezifischen Moment weiß gegenüber dem, was er über die Welt weiß, und er macht dies am besten in diesem perfekten mittleren Stadium des Lernens.