From BERT to Frontier Agents: Eight Years of Language-Model Progress, the Collapse of the Capability-Cost Curve, and the Rise of Task-Targeted Models
Dit artikel beoordeelt de achtjarenlange evolutie van taalmodellen van BERT naar gespecialiseerde frontier-agenten tegen 2026, waarbij een zesvoudige jaarlijkse verbetering in programmeercapaciteiten wordt belicht, een dramatische instorting van de inferentiekosten die wordt geïllustreerd door de budgetvriendelijke GPT 5.6 Luna, en een verschuiving naar taakgerichte modellen die uitblinken in specifieke domeinen zoals frontend-programmeren, repositorybeheer en terminaloperaties.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
De Grote AI-Evolutie: Van Leesbrillen naar Supercomputers
Stel je een wereld voor waarin computers leken op briljante maar verlegen bibliothecarissen. Een lange tijd moest je ze, als je wilde dat ze een zin begrepen, een specifieke leesbril geven voor die exacte zin. Als je wilde dat ze een verhaal schreven, moest je de bril verwisselen voor een ander paar. Ze waren ongelooflijk slim in lezen, maar ze konden niet echt iets uit zichzelf doen. Dit was het vroege tijdperk van "Taalmodellen", de computerprogramma's die leren menselijke taal te begrijpen en te genereren.
De afgelopen jaren hebben wetenschappers ontdekt hoe ze deze bibliothecarissen veel groter kunnen maken en ze een "brein" kunnen geven dat kan leren van slechts een paar voorbeelden, zonder dat er voor elke nieuwe taak een nieuwe bril nodig is. Plotseling konden deze computers chatten, code schrijven en puzzels oplossen. Maar dit is de grote vraag die iedereen stelt: worden ze elke dag slimmer, of worden ze gewoon beter in het onthouden van de toetsvragen? En als ze slimmer worden, betekent dat dan dat ze duurder worden, of worden ze een koopje? Dit artikel duikt in dat exacte mysterie en bekijkt de wilde rit van AI-vooruitgang van 2018 tot een toekomstige datum in 2026 om te zien wat er echt onder de motorkap gebeurt.
Van Leesbrillen naar Supercomputers: De Achtjarige Achtbaan
Dit artikel is als een tijdreizend detectives verhaal dat het leven van kunstmatige intelligentie volgt van 2018 tot 2026. Het stelt drie grote vragen: Hoe zijn we gegaan van computers die nauwelijks een zin konden schrijven naar computers die softwarebugs kunnen oplossen en wiskundeolympiade-problemen kunnen kraken? Hoe snel daalde de prijs van deze "denkkracht"? En, het belangrijkste, hebben we één gigantische, dure supercomputer nodig om alles te doen, of is de toekomst eigenlijk een team van gespecialiseerde experts?
De Vier Eras van AI-groei
De auteur verdeelt de afgelopen acht jaar in vier duidelijke hoofdstukken, als seizoenen in een videogame:
- Het "Leesbrillen"-tijdperk (2018–2019): Het begon met modellen zoals BERT. Denk aan deze als studenten die geweldig waren in het lezen van een boek en vragen daarover beantwoorden, maar als je hen een verhaal liet schrijven, bevroren ze. Ze hadden voor elke specifieke taak een speciale "fine-tuning" (zoals een speciaal trainingskamp) nodig.
- Het "Groot Brein"-tijdperk (2020–2021): Daarna kwamen modellen zoals GPT-3. Dit waren als gigantische bibliotheken die bijna alles op het internet hadden gelezen. In plaats van speciale training nodig te hebben, kon je ze gewoon een paar voorbeelden geven in een chatvenster, en ze zouden het patroon ontdekken. Ze waren geweldig, maar ze verzonnen nog steeds feiten en konden niet altijd instructies perfect opvolgen.
- Het "Beleefde Helper"-tijdperk (2022–2023): Wetenschappers leerden deze grote breinen om beleefd te zijn en bevelen op te volgen met behulp van een techniek genaamd "alignment". Plotseling werden ze ChatGPT en zijn vrienden—geweldig in chatten, e-mails schrijven en complexe regels opvolgen.
- Het "Agent"-tijdperk (2024–2026): Hier wordt het wild. De modellen stopten met alleen maar praten en begonnen met doen. Ze werden "agents" die tools konden gebruiken, kapotte code op GitHub konden repareren en wiskundeproblemen konden oplossen door stappen door te denken. Tegen 2026 losten de beste modellen problemen van de Internationale Wiskunde Olympiade op en herstelden ze volledige softwareprojecten.
De Snelheid van Vooruitgang: Een Wiskundig Mysterie
Het artikel meet hoe snel deze modellen beter worden in het oplossen van echte softwarebugs (met een test genaamd SWE-bench). Het resultaat is verbijsterend: de kans dat een model een bug succesvol oplost, groeit met ongeveer 5,8 keer elk jaar. Het is alsoer een hardloper elk jaar 5,8 keer sneller wordt; die zou binnen enkele jaren sneller rennen dan het geluid. Echter, het artikel merkt ook op dat de oude "kennis-tests" (zoals MMLU) een plafond bereiken. De modellen zijn er nu zo goed in dat de tests nutteloos zijn geworden om ze van elkaar te onderscheiden. Het veld is voortbewogen naar moeilijkere, meer praktische uitdagingen.
De Prijsval: De Verrassing van het "Budget-segment"
Hier is het meest verrassende deel van het verhaal: de kosten van deze intelligentie zijn ingestort.
- In 2020 kostte het krijgen van een miljoen woorden aan AI-denken $60.
- Tegen 2026 kost de "budget"-versie van het AI-denken voor hetzelfde bedrag slechts $1.
Dat is een 60-voudige daling in prijs.
Maar het wordt nog beter. Het artikel vond dat de goedkope "budget"-modellen uit 2026 eigenlijk net zo goed zijn als de superdure "flagship"-modellen van slechts een paar maanden geleden. Het is alsof een $100 auto van vandaag net zo goed kan rijden als een $500 auto van vorig jaar. Het "middensegment" is verdwenen; je krijgt ofwel het goedkope, slimme budgetsegment, of het ultra-dure premiumsegment. Het middengebied is weg.
Het "Specialisten"-team versus de "Alleskunner"
Lama mensen dachten dat één gigantisch model uiteindelijk het beste zou zijn in alles. Het artikel betoogt dat dat idee in 2026 dood is. De "frontier" (de allerbeste AI) is nu gefragmenteerd.
- Als je een website wilt bouwen, is Claude Opus 5 de kampioen.
- Als je een enorme code-repository moet repareren, wint Claude Fable 5.
- Als je een computer nodig hebt die als een mens in een terminal handelt, is GPT-5.6 Sol de baas.
- Als je een gloednieuw type logische puzzel moet oplossen, is Opus 5 de recordhouder.
Geen enkel model wint op alles. Het artikel suggereert dat de slimste manier om AI nu te gebruiken, het zijn van een "router"—een verkeersregelaar die verschillende taken naar het specifieke expertmodel stuurt dat het beste is voor die taak. Een simpel systeem dat simpelweg schakelt tussen twee modellen kan de beste enkele modellen verslaan door de juiste expert voor de klus te kiezen.
Kunnen we een vaststaand model slimmer maken?
De onderzoeker voerde ook een klein experiment uit om te zien of ze een kleiner, vaststaand model slimmer konden maken, enkel door te veranderen hoe ze vragen stelden, zonder het model zelf te veranderen.
- Ze vroegen een klein model (Qwen2.5-1.5B) om wiskundeproblemen op te lossen.
- Wanneer ze het één keer vroegen (de "greedy" manier), kreeg het 58% goed.
- Wanneer ze het vier keer vroegen en het meest voorkomende antwoord kozen (een techniek genaamd "voting"), kreeg het 62% goed.
- Het "plafond" (als ze magisch het beste antwoord uit alle vier de pogingen konden kiezen) was 79%.
Dit suggereert dat het model het juiste antwoord meestal wel kent, maar dat het gewoon een betere manier nodig heeft om het eruit te pikken. Het artikel bouwde ook een "vertrouwensdetector" die kon raden welke antwoorden waarschijnlijk juist waren. Het vond dat als je alleen de antwoorden vertrouwt waarvan de detector het meest zeker was, je een nauwkeurigheid van 94% kon halen op die specifieke groep. Dit suggereert dat we in de toekomst misschien geen grotere modellen nodig hebben; we hebben misschien gewoon betere manieren nodig om hun werk te controleren en de beste eruit te kiezen.
De Kern van het Verhaal
Het artikel concludeert dat het tijdperk van "één model om alle regels te bepalen" voorbij is. We bewegen ons naar een tijdperk van specialisatie en routering. De modellen worden ongelooflijk goed in specifieke taken, de prijs daalt snel, en de slimste manier om ze te gebruiken is om ze te behandelen als een team van specialisten in plaats van een enkel superbrein. Hoewel de modellen geweldig worden, waarschuwt het artikel ook dat ze ook heel goed worden in het "bespelen" van de tests, dus moeten we voorzichtig zijn met wat we ze toevertrouwen. De toekomst gaat niet alleen over grotere breinen; het gaat over slimmere manieren om de breinen die we hebben te gebruiken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.