In der Welt der künstlichen Intelligenz sind große Sprachmodelle die Motoren, die alles von Schreibassistenten bis hin zu komplexen Werkzeugen für logisches Denken antreiben. Um diese Motoren zum Laufen zu bringen, müssen Forscher sie lehren, indem sie sie mit riesigen Mengen an Text füttern – ein Prozess, der als Pretraining bekannt ist. Dieses Lehren erfordert eine sorgfältige Balance zwischen Geschwindigkeit und Präzision, die durch eine Einstellung namens Lernrate gesteuert wird. Man kann sich diese Rate wie das Tempo vorstellen, mit dem das Modell sein internes Wissen basierend auf neuen Informationen anpasst. Wenn das Tempo zu schnell ist, überschießt das Modell die Wahrheit; wenn es zu langsam ist, lernt es nichts. Jahrelang war die Standardmethode zur Steuerung dieses Tempos ein Zeitplan, der als Cosinus-Decay bekannt ist. Diese Methode lässt das Modell mit einer moderaten Geschwindigkeit starten, verlangsamt es in einer sanften Kurve schrittweise und stoppt es in einem präzisen Moment. Dieser Standardansatz hat jedoch einen erheblichen Fehler: Er erfordert das Wissen darüber, wie lange das Training exakt dauern wird, noch bevor der erste Schritt unternommen wird. In einer Welt, in der Daten kontinuierlich eintreffen und die Gesamtmenge der Informationen unbekannt ist, gleicht diese Anforderung dem Versuch, ein Auto mit einer Karte zu fahren, die nur das Ziel zeigt, aber nicht die Entfernung dorthin.

Forscher der Harvard University und des Kempner Institute haben dieses Problem angegangen, indem sie einen neuen Weg zur Ausbildung dieser Modelle entwickelt haben, der keinen vordefinierten Endtermin benötigt. Ihre Arbeit, die mathematische Theorie mit groß angelegten Experimenten kombiniert, zeigt, dass Modelle effektiv trainiert werden können, ohne jemals wissen zu müssen, wann das Training enden wird. Sie fanden heraus, dass sie durch die Verwendung eines einfachen, stetigen Tempos, das sich auf natürliche Weise im Laufe der Zeit verlangsamt, und durch die Mittelung der Fortschritte des Modells über die gesamte Reise hinweg, Ergebnisse erzielen konnten, die genauso gut sind wie die der traditionellen Methode. Diese Entdeckung legt nahe, dass die starren, vorab geplanten Zeitpläne der Vergangenheit nicht notwendig sind, um die fortschrittlichste künstliche Intelligenz zu bauen, was die Tür für Trainingssysteme öffnet, die kontinuierlich lernen können, sobald neue Daten verfügbar werden.

Der Kern des Problems liegt in der Natur moderner Daten. Im Gegensatz zu den festen Datensätzen der Vergangenheit strömen die heutigen Informationen endlos ein. Ein Modell kann eine Woche trainiert werden, dann einen Monat oder potenziell Jahre lang, je nachdem, wie viele Daten verfügbar sind. Der traditionelle Cosinus-Decay-Zeitplan ist „horizontabhängig“, was bedeutet, dass er spezifisch für eine bekannte Dauer abgestimmt werden muss. Wenn ein Forscher einen Zeitplan für einen einmonatigen Lauf abstimmt, das Projekt sich aber auf drei Monate ausdehnt, leidet die Leistung des Modells, weil die Lernrate darauf ausgelegt war, zu früh abzusinken. Die Forscher setzten sich zum Ziel, eine „horizontfreie“ Alternative zu finden – eine Methode, die unabhängig davon gut funktioniert, ob das Training morgen oder nächstes Jahr endet. Sie schlugen vor, dass anstelle einer komplexen Kurve ein einfacher Zeitplan, der über die Zeit langsam abnimmt, kombiniert mit einer Technik namens Gewichtsmittlung (Weight Averaging), dieses Problem lösen könnte. Gewichtsmittlung ist ein Prozess, bei dem das finale Modell nicht nur die letzte erstellte Version ist, sondern eine Mischung aus vielen Versionen aus dem gesamten Trainingsprozess, was das Rauschen glättet und das Ergebnis stabilisiert.

Um diese Idee zu testen, wandte sich das Team zunächst der mathematischen Theorie zu. Sie analysierten das Verhalten eines vereinfachten Lernmodells unter Verwendung linearer Regression auf Daten, die die komplexen Muster der Sprache nachahmen. Ihre Analyse zeigte, dass für bestimmte Arten von Daten eine Lernrate, die langsam über die Zeit abnimmt – speziell nach einem Muster, bei dem die Rate sinkt, während die Quadratwurzel der Zeit steigt –, theoretisch optimal ist. Entscheidend war, dass sie bewiesen, dass diese spezifische Abnahme in Verbindung mit der Gewichtsmittlung die bestmögliche Lerngeschwindigkeit erreicht, ohne die gesamte Trainingszeit im Voraus kennen zu müssen. Dieser theoretische Befund lieferte ein starkes Fundament und deutete darauf an, dass ein einfacher, stetiger Ansatz komplexen, vorab geplanten Kurven in einem offenen Szenario überlegen sein könnte.

Die Forscher gingen dann von der Theorie zur Praxis über und trainierten große Sprachmodelle mit 150 Millionen und 300 Millionen Parametern. Sie trainierten diese Modelle auf einem massiven Textdatensatz und trieben sie dazu, bis zu 32-mal mehr Daten zu lernen, als normalerweise für Modelle ihrer Größe verwendet werden. Diese Skalierung ist bedeutend, da sie die Bedingungen widerspiegelt, unter denen die fortschrittlichsten KI-Systeme der Welt gebaut werden. Sie verglichen ihre neuen horizontfreien Zeitpläne mit dem Standard-Cosinus-Decay-Zeitplan, der sorgfältig für jede spezifische Dauer des Trainings abgestimmt worden war. Die Ergebnisse waren beeindruckend. Die neuen Methoden, die entweder eine konstante Lernrate mit Mittelung oder eine langsam abnehmende Rate mit Mittelung verwendeten, verfolgten die Leistung der am besten abgestimmten Cosinus-Zeitpläne fast perfekt. Über den gesamten Bereich des Trainings, von kurzen Läufen bis hin zu den längsten möglichen Dauern, erreichten die horizontfreien Methoden Endergebnisse, die praktisch ununterscheidbar von der traditionellen Methode waren.

Einer der überzeugendsten Aspekte dieser Arbeit ist ihre Praktikabilität. Die Forscher zeigten, dass ein einz-iger Satz von Einstellungen, der früh im Trainingsprozess gewählt wurde, für die gesamte Dauer eines Projekts verwendet werden konnte, selbst wenn sich dieses Projekt plötzlich ausweitete. Sie demonstrierten, dass wenn ein Modell für einen spezifischen Zwischenpunkt, etwa das Vierfache der Standarddatenmenge, abgestimmt wird, dieselben Einstellungen auch dann weiterhin gut funktionieren, wenn sich das Training auf das 32-fache dieser Menge ausdehnt. Dies eliminiert die Notwendigkeit, das Modell jedes Mal neu abzustimmen, wenn sich der Trainingshorizont ändert. Darüber hinaus testeten sie eine populäre Alternativmethode namens „Warmup-Stable-Decay“, die versucht, das Beste aus beiden Welten zu kombinieren, indem sie die Rate für den Großteil des Trainings konstant hält und sie dann am Ende absinken lässt. Obwohl diese Methode gut funktionierte, erforderte sie dennoch das Wissen darüber, wann die Decay-Phase beginnen sollte, was sie weniger flexibel machte als den von den Autoren vorgeschlagenen, wirklich horizontfreien Ansatz.

Die Studie untersuchte auch, wie sich diese Methoden verhalten, wenn die Trainingsdaten sehr groß sind, ein Szenario, in dem das Rauschen im Lernprozess natürlicherweise geringer ist. Unter diesen Bedingungen fanden die Forscher heraus, dass die Lernrate überhaupt nicht abnehmen musste. Eine konstante Lernrate in Kombination mit Gewichtsmittlung war ausreichend, um Spitzenleistungen zu erzielen. Dies deckt sich mit ihrer theoretischen Vorhersage, dass, wenn die Varianz oder das Rauschen in den Daten klein ist, das Modell mehr davon profitiert, ein stetiges Tempo beizubehalten, um Bias oder Fehler zu reduzieren, anstatt langsamer zu werden. Diese Erkenntnis deutet darauf hin, dass mit wachsender Rechenleistung und der Fähigkeit von Modellen, größere Datenpakete zu verarbeiten, die Notwendigkeit komplexer Decay-Zeitpläne möglicherweise völlig verschwindet und durch einfachere, robustere Strategien ersetzt wird.

Letztendlich bietet diese Forschung einen klaren Weg für die Zukunft des Trainings künstlicher Intelligenz. Sie legt nahe, dass die starren, vorab berechneten Zeitpläne, die das Feld seit Jahren dominieren, nicht der einzige oder vielleicht nicht einmal der beste Weg sind, um Modelle in einer Ära kontinuierlicher Daten zu trainieren. Indem sie bewiesen haben, dass einfache, horizontfreie Zeitpläne in Kombination mit Gewichtsmittlung die Leistung der am sorgfältigsten abgestimmten traditionellen Methoden erreichen können, haben die Autoren eine praktische Lösung für das offene Lernen angeboten. Dieser Ansatz ermöglicht es Modellen, sich an jede verfügbare Menge an Daten anzupassen, was den Trainingsprozess flexibler und effizienter macht. Die Ergebnisse deuten darauf hin, dass die Zukunft des Trainings großer Sprachmodelle nicht in komplexeren Scheduling-Algorithmen liegen könnte, sondern in einfacheren, resilienteren Strategien, die kontinuierlich lernen können, ohne ein vorbestimmtes Ende.