From Brute Force to Semantic Insight: Performance-Guided Data Transformation Design with LLMs

Stel je voor dat je een robot probeert te leren hoe hij katten in foto's moet herkennen. Je zou hem gewoon een miljoen foto's van katten kunnen laten zien, maar dat is saai en soms raakt de robot in de war door de belichting of de hoek. Een slimme truc is om de robot dezelfde kat te laten zien, maar dan gedraaid, uitgerekt, anders gekleurd of ingezoomd en uitgezoomd. Dit wordt "data augmentation" genoemd. Het is als het geven van een caleidoscoop aan views, zodat de robot leert hoe een kat echt uitziet, en niet alleen één specifieke foto.

Een lange tijd was het uitzoeken van de beste manier om deze foto's te draaien en te rekken een gokspel. Wetenschappers gebruikten ofwel complexe wiskunde om naar het perfecte recept te zoeken, of ze probeerden willekeurige combinaties (brute force). Maar er kwam een nieuwe speler in de stad: Large Language Models (LLM's). Je kent ze misschien als de superintelligente chatbots die verhalen of code kunnen schrijven. De grote vraag was: konden deze chatbots, die geweldig zijn in woorden, ook goede code schrijven om onze foto's te draaien en de robot slimmer te maken? De uitdaging was dat deze chatbots meestal leren van tekst, en niet van de feedback: "maakte deze code de robot slimmer?". Dit artikel duikt in dat exacte probleem en vraagt zich af of we een chatbot kunnen leren om betere code te schrijven voor het draaien van foto's door het de resultaten te laten zien, in plaats van alleen een tekstboek te geven.

Van Gokspellen naar Slim Coaching

De onderzoekers van de Universiteit van Würzburg besloten te stoppen met gokken en te beginnen met coachen. Ze wilden kijken of ze een standaard AI-chatbot konden transformeren tot een meesterkok van data-transformaties. In plaats van de chatbot alleen te vragen om "wat code te schrijven om afbeeldingen te draaien", bouwden ze een systeem waarbij de chatbot de resultaten kon proeven.

De "Brute Force" Keuken
Eerst hadden ze een enorme kookboek nodig om van te leren. Ze vroegen de chatbot niet gewoon om te gokken; ze voerden een "brute force"-experiment uit. Stel je een chef voor die ingrediënten voor afbeeldingen willekeurig 6.000 keer mengt (zoals vergroten, flippen of kleuren veranderen) en elke combinatie test op een eenvoudig beeldherkenningsmodel. Ze gaven niet om het recept; ze gaven alleen om de score. Hielp deze specifieke mix van draaiingen het model om afbeeldingen beter te herkennen? Ze legden de score voor elke combinatie vast. Dit creëerde een enorme database van meer dan 6.000 "recepten" en de bijbehorende "smaakscores".

De Chatbot Leren Proeven
Vervolgens namen ze een krachtige programmeer-chatbot (Olympic Coder 7B) en gaven deze een speciaal dieet. Ze voerden de chatbot niet alleen code, maar paren van code en scores. Ze lieten de chatbot zien: "Hier is een recept dat een lage score kreeg. Hier is een recept dat een hoge score kreeg. Kun je het verschil zien?"

Ze gebruikten een techniek genaamd Low-Rank Adaptation (LoRA), wat lijkt op het geven van een speciale bril aan de chatbot zodat deze zich kan concentreren op de belangrijkste details zonder het hele brein te herschrijven. De chatbot leerde naar de code te kijken en te voorspellen: "Als ik code schrijf zoals dit, gaat de score omhoog. Als ik code schrijf zoals dat, gaat de score omlaag." De chatbot leerde niet de exacte woorden te memoriseren, maar begreep het gevoel van wat een goede transformatie maakt.

De Resultaten: Minder Gokken, Meer Genie
De resultaten waren verrassend duidelijk. Wanneer de chatbot vóór deze training werd gevraagd om code te schrijven, was het een ramp. De syntaxis klopte slechts in ongeveer 22% van de gevallen en de gemiddelde score van de creaties was erg laag (rond de 0,10). Het was als een student die niet had gestudeerd en willekeurig antwoorden op een toets krabbelde.

Maar na de training? De chatbot werd een pro.

• Efficiëntie: De oude "brute force"-methode moest 6.000 willekeurige combinaties proberen om de beste te vinden. De getrainde chatbot had slechts 280 kandidaten nodig (10 per dag gedurende 28 dagen) om oplossingen te vinden die net zo goed, of zelfs beter waren. Het was alsof je een naald in een hooiberg vindt door precies te weten waar de naald graag verstopt zit, in plaats van de hele hooiberg door te spitten.
• Slimmer, Niet Alleen Sterker: De chatbot kopieerde niet alleen de beste recepten die hij zag. Hij leerde de logica. Zo ontdekte hij bijvoorbeeld dat het verkleinen van een afbeelding naar een specifieke grootte (zoals 256 pixels) vaak de sleutel was tot een hoge score. Hij begreep de relatie tussen de code en het resultaat, in plaats van alleen de code zelf te memoriseren.
• De "Chain of Thought" Valstrik: De onderzoekers probeerden iets interessants. Ze vroegen de chatbot om "stap voor stap te denken" en zijn redenering uit te leggen voordat hij de code schreef (een populaire truc genaamd Chain-of-Thought). Verrassend genoeg maakte dit de boel slechter. De chatbot raakte in de war door de extra woorden die hij moest schrijven, en de prestaties daalden. Het bleek dat de chatbot voor deze specifieke taak het beste werkte wanneer hij direct naar de code ging, zonder de langdradige uitleg.

Wat Dit Betekent
Dit artikel suggereert dat we geen complexe beloningssystemen of menselijke leraren nodig hebben om AI beter te maken in programmeren. We hoeven alleen de AI de resultaten van zijn eigen werk te laten zien. Door een lus te creëren waarin de AI code schrijft, deze test en leert van de score, kan de AI autonoom uitzoeken hoe hij betere code kan schrijven.

De studie laat zien dat hoewel de chatbot kan leren om code te schrijven die beeldherkenning verbetert, het geen toverstaf is die voor alles werkt. De onderzoekers hebben dit alleen getest op één specifiek type beeldmodel (ResNet) en één dataset (CIFAR-10). Ze suggereren dat de beste manier om een afbeelding te draaien sterk kan afhangen van de specifieke robot en de specifieke plaatjes waar hij naar kijkt. Maar de belangrijkste conclusie is hoopgevend: AI kan leren een betere engineer te zijn door simpelweg te kijken naar wat wel en niet werkt, waardoor een chaotisch gokspel verandert in een slimme, geleide ontdekking.