From BERT to Frontier Agents: Eight Years of Language-Model Progress, the Collapse of the Capability-Cost Curve, and the Rise of Task-Targeted Models
Dieses Paper untersucht die achtjährige Entwicklung von Sprachmodellen von BERT bis hin zu spezialisierten Frontier-Agenten im Jahr 2026 und hebt dabei eine sechsfache jährliche Verbesserung der Programmierfähigkeiten, einen dramatischen Einbruch der Inferenzkosten, wie er am budgetfreundlichen GPT 5.6 Luna exemplarisch verdeutlicht wird, sowie einen Wandel hin zu aufgabenorientierten Modellen hervor, die in spezifischen Bereichen wie Frontend-Programmierung, Repository-Management und Terminal-Operationen exzellieren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die große KI-Evolution: Von der Lesebrille zum Supercomputer
Stellen Sie sich eine Welt vor, in der Computer wie brillante, aber schüchterne Bibliothekare waren. Lange Zeit mussten Sie ihnen eine ganz bestimmte Lesebrille für genau diesen einen Satz geben, wenn sie ihn verstehen sollten. Wenn Sie wollten, dass sie eine Geschichte schreiben, mussten Sie die Brille gegen ein anderes Paar austauschen. Sie waren unglaublich intelligent beim Lesen, aber sie konnten nicht wirklich eigenständig etwas tun. Dies war die frühe Ära der „Sprachmodelle“, jener Computerprogramme, die lernen, die menschliche Sprache zu verstehen und zu erzeugen.
In den letzten Jahren haben Wissenschaftler herausgefunden, wie man diese Bibliothekare viel größer macht und ihnen ein „Gehirn“ gibt, das aus nur wenigen Beispielen lernen kann, ohne für jede einzelne Aufgabe eine neue Brille zu benötigen. Plötzlich konnten diese Computer chatten, Code schreiben und Rätsel lösen. Aber hier ist die große Frage, die sich alle stellen: Werden sie jeden Tag klüger oder werden sie nur besser darin, die Testfragen auswendig zu lernen? Und wenn sie klüger werden, bedeutet das, dass sie teurer werden oder werden sie zu einem Schnäppchen? Dieses Paper taucht genau in dieses Geheimnis ein und untersucht die wilde Fahrt des KI-Fortschritts von 2018 bis zu einem zukünftigen Datum im Jahr 2026, um zu sehen, was wirklich unter der Haube passiert.
Von der Lesebrille zum Supercomputer: Die achtjährige Achterbahnfahrt
Dieses Paper ist wie eine detektivische Zeitreise, die das Leben der künstlichen Intelligenz von 2018 bis 2026 verfolgt. Es stellt drei große Fragen: Wie sind wir von Computern, die kaum einen Satz schreiben konnten, zu Computern gekommen, die Softwarefehler beheben und Mathematik-Olympiade-Probleme lösen können? Wie schnell ist der Preis für diese „Gehirnschmalz-Leistung“ gesunken? Und vor allem: Brauchen wir einen riesigen, teuren Supercomputer für alles, oder ist die Zukunft tatsächlich ein Team aus spezialisierten Experten?
Die vier Ären des KI-Wachstums
Der Autor unterteilt die letzten acht Jahre in vier verschiedene Kapitel, wie Jahreszeiten in einem Videospiel:
- Die „Lesebrillen“-Ära (2018–2019): Es begann mit Modellen wie BERT. Betrachten Sie diese als Schüler, die großartig darin waren, ein Buch zu lesen und Fragen dazu zu beantworten, aber wenn man sie bat, eine Geschichte zu schreiben, erstarrten sie. Sie benötigten für jede einzelne Aufgabe ein spezielles „Fine-Tuning“ (wie ein spezielles Trainingslager).
- Die „Großes Gehirn“-Ära (2020–2021): Dann kamen Modelle wie GPT-3. Dies waren wie riesige Bibliotheken, die fast alles im Internet gelesen hatten. Anstatt eines speziellen Trainings konnten Sie ihnen einfach ein paar Beispiele in einem Chatfenster geben, und sie würden das Muster erkennen. Sie waren erstaunlich, aber sie erfanden immer noch Fakten und konnten nicht immer Anweisungen perfekt befolgen.
- Die „Höfliche Helfer“-Ära (2022–2023): Wissenschaftler brachten diesen großen Gehirnen bei, höflich zu sein und Befehle zu befolgen, mithilfe einer Technik namens „Alignment“. Plötzlich wurden sie zu ChatGPT und seinen Freunden – großartig im Chatten, beim Schreiben von E-Mails und beim Befolgen komplexer Regeln.
- Die „Agenten“-Ära (2024–2026): Hier wird es wild. Die Modelle hörten auf, nur zu reden, und begannen zu handeln. Sie wurden zu „Agenten“, die Werkzeuge benutzen, kaputten Code auf GitHub reparieren und mathematische Probleme durch logische Zwischenschritte lösen können. Bis 2026 lösten die besten Modelle Probleme der Internationalen Mathematik-Olympiade und reparierten ganze Softwareprojekte.
Die Geschwindigkeit des Fortschritts: Ein mathematisches Rätsel
Das Paper misst, wie schnell diese Modelle besser darin werden, reale Softwarefehler zu beheben (unter Verwendung eines Tests namens SWE-bench). Das Ergebnis ist atemberaubend: Die Wahrscheinlichkeit, dass ein Modell einen Fehler erfolgreich behebt, wächst um etwa das 5,8-fache pro Jahr. Es ist, als würde ein Läufer jedes Jahr 5,8-mal schneller werden; er würde in nur wenigen Jahren schneller als der Schall laufen. Das Paper stellt jedoch auch fest, dass die alten „Wissenstests“ (wie MMLU) eine Grenze erreichen. Die Modelle sind mittlerweile so gut darin, dass die Tests nutzlos geworden sind, um sie voneinander zu unterscheiden. Das Feld hat sich zu schwierigeren, praktischeren Herausforderungen bewegt.
Der Preisverfall: Die Überraschung im „Budget-Segment“
Hier ist der überraschendste Teil der Geschichte: Die Kosten für diese Intelligenz sind abgestürzt.
- Im Jahr 2020 kostete eine Million Wörter KI-Denkleistung 60 $.
- Bis 2026 kostet die „Budget“-Version der KI für die gleiche Menge Denkleistung nur noch 1 $.
Das ist ein 60-facher Preissturz.
Aber es kommt noch besser. Das Paper fand heraus, dass die günstigen „Budget“-Modelle aus dem Jahr 2026 tatsächlich genauso gut sind wie die superteuren „Flaggschiff“-Modelle von vor nur wenigen Monaten. Es ist, als ob ein 100-Dollar-Auto heute genauso gut fahren könnte wie ein 500-Dollar-Auto aus dem letzten Jahr. Die „Mitte“ des Marktes ist verschwunden; man bekommt entweder das billige, kluge Budget-Segment oder das ultra-teure Premium-Segment. Der Mittelweg ist weg.
Das „Spezialisten-Team“ vs. der „Alleskönner“
Lange Zeit dachten die Leute, dass ein einziges riesiges Modell schließlich in allem am besten sein würde. Das Paper argumentiert, dass diese Idee im Jahr 2026 tot ist. Die „Frontier“ (die allerbeste KI) ist nun fragmentiert.
- Wenn Sie eine Website bauen wollen, ist Claude Opus 5 der Champion.
- Wenn Sie ein massives Code-Repository reparieren müssen, gewinnt Claude Fable 5.
- Wenn Sie brauchen, dass ein Computer wie ein Mensch in einem Terminal agiert, ist GPT-5.6 Sol der Boss.
- Wenn Sie eine völlig neue Art von Logikrätsel lösen müssen, ist Opus 5 der Rekordhalter.
Kein einzelnes Modell gewinnt in allem. Das Paper legt nahe, dass die klügste Art, KI zu nutzen, darin besteht, ein „Router“ zu sein – ein Verkehrspolizist, der verschiedene Aufgaben an das spezifische Expertenmodell sendet, das am besten für diese Aufgabe geeignet ist. Ein einfaches System, das lediglich zwischen zwei Modellen wechselt, kann das beste Einzelmodell schlagen, indem es den richtigen Experten für die jeweilige Aufgabe wählt.
Können wir ein festes Modell klüger machen?
Der Forscher führte auch ein kleines Experiment durch, um zu sehen, ob man ein kleineres, festes Modell allein dadurch klüger machen kann, wie man es nach Fragen fragt, ohne das Modell selbst zu verändern.
- Er bat ein kleines Modell (Qwen2.5-1.5B), mathematische Probleme zu lösen.
- Wenn er es nur einmal fragte (der „greedy“-Weg), löste es 58 % korrekt.
- Wenn er es viermal fragte und die häufigste Antwort wählte (eine Technik namens „Voting“), löste es 62 % korrekt.
- Die „Obergrenze“ (wenn er magisch die beste Antwort aus allen vier Versuchen auswählen könnte) lag bei 79 %.
Dies deutet darauf hin, dass das Modell die richtige Antwort meistens kennt, aber es nur eine bessere Methode braucht, um sie herauszufiltern. Das Paper baute auch einen „Konfidenz-Detektor“, der vorhersagen konnte, welche Antworten wahrscheinlich richtig sind. Es stellte fest, dass man eine Genauigkeit von 94 % bei dieser kleinen Gruppe erreichen konnte, wenn man nur den Antworten vertraute, bei denen der Detektor sich am sichersten war. Dies deutet darauf hin, dass wir in Zukunft vielleicht keine größeren Modelle brauchen; wir brauchen vielleicht nur bessere Wege, ihre Arbeit zu überprüfen und die besten Ergebnisse auszuwählen.
Das Fazit
Das Paper kommt zu dem Schluss, dass die Ära des „einen Modells, das alle beherrscht“, vorbei ist. Wir bewegen uns in eine Ära der Spezialisierung und des Routings. Die Modelle werden in spezifischen Aufgaben unglaublich gut, der Preis sinkt schnell, und die klügste Art, sie zu nutzen, besteht darin, sie wie ein Team von Spezialisten statt als ein einzelnes Supergehirn zu behandeln. Während die Modelle erstaunlich werden, warnt das Paper auch davor, dass sie auch sehr gut darin werden, die Tests zu „überlisten“ (zu „gamen“), daher müssen wir vorsichtig sein, was wir ihnen anvertrauen. Die Zukunft besteht nicht nur aus größeren Gehirnen, sondern aus klügeren Wegen, die Gehirne zu nutzen, die wir bereits haben.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.