Decoupling Performance from Energy in AI-Based Business Optimization: An Error-Driven Control Loop for Sustainable Tabular Reasoning
Dit artikel stelt een foutgestuurd prompt-optimalisatiekader voor dat prompt tuning behandelt als een discrete-tijd feedbackcontrolelus, waarmee wordt aangetoond dat het prestaties bereikt die vergelijkbaar zijn met fine-tuning op financiële redeneertaken, terwijl het aanzienlijk minder energie verbruikt dan LoRA of volledige fine-tuning.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de moderne zakenwereld vertrouwen bedrijven steeds vaker op kunstmatige intelligentie om financiële rapporten te lezen, vragen over complexe tabellen te beantwoorden en kritische beslissingen te nemen. Deze systemen zijn gebouwd op grote taalmodellen, wat krachtige computerprogramma's zijn die zijn getraind op enorme hoeveelheden tekst. Hoewel deze modellen ongelooflijk bekwaam zijn, vereist het aanleren van specifieke, gespecialiseerde taken meestal een proces dat fine-tuning wordt genoemd. Dit proces is als het hertrainen van een student voor een nieuw vak; het houdt in dat het model door duizenden voorbeelden wordt geleid terwijl de interne instellingen worden aangepast. Deze hertraining is echter extreem energie-intensief en verbruikt enorme hoeveelheden elektriciteit, wat een aanzienlijke ecologische voetafdruk genereert. Naarmate de regelgeving strenger wordt en bedrijven streven naar het verminderen van hun milieu-impact, is er een groeiende behoefte aan methoden die deze AI-systemen kunnen aanpassen aan specifieke taken zonder de zware energiekosten van traditionele hertraining.
Een team onderzoekers aan de Universiteit van Debrecen in Hongarije heeft een ander pad verkend. In plaats van het interne brein van het model te hertrainen, richtten zij zich op het veranderen van de instructies die eraan worden gegeven. Zij beschouwden het proces van het verbeteren van de prestaties van de AI niet als een trainingssessie, maar als een feedbackloop, vergelijkbaar met hoe een thermostaat de temperatuur in een kamer regelt. In hun systeem probeert een klein, efficiënt computermodel rekenkundige vragen te beantwoorden op basis van financiële tabellen. Wanneer het een fout maakt, wordt de fout niet simpelweg weggegozen; het systeem groepeert soortgelijke fouten samen. Een menselijke expert bekijkt deze groepen vervolgens en schrijft een eenvoudige, begrijpelijke regel om het specifieke type fout te herstellen. Deze regel wordt toegevoegd aan de instructies die aan de AI worden gegeven, en het proces herhaalt zich. De onderzoekers maten het elektriciteitsverbruik van deze volledige cyclus direct bij de stopcontacten, en vergeleken dit met de geschatte energiekosten van traditionele hertrainingsmethoden.
De resultaten van deze aanpak waren opmerkelijk. Door een klein taalmodel met vier miljard parameters te gebruiken, verbeterden de onderzoekers het vermogen van het model om financiële vragen te beantwoorden van ongeveer 57 procent naar 66 procent nauwkeurigheid. Deze verbetering werd bereikt door slechts enkele door mensen geschreven regels toe te voegen over een reeks stappen. Het hele proces van het vinden van deze fouten, het schrijven van de regels en het testen van de resultaten verbruikte slechts 351 wattuur aan elektriciteit. Om dit in perspectief te plaatsen: de onderzoekers schatten dat het gebruik van de standaardmethode om hetzelfde model te hertrainen meer dan 7.400 wattuur zou hebben gekost voor een gedeeltelijke update, en meer dan 3.500 wattuur voor een volledige hertraining. De nieuwe methode verbruikte ongeveer twintig keer minder energie dan de schatting voor gedeeltelijke hertraining en tien keer minder dan de schatting voor volledige hertraining.
Wat dit onderzoek bijzonder significant maakt, is dat het kleine, geoptimaliseerde model net zo goed presteerde als veel grotere, propriëtaire systemen die gewoonlijk voor dergelijke taken worden gebruikt. De onderzoekers ontdekten dat hun kleine model, dat draaide op lokale hardware binnen een organisatie, de nauwkeurigheid kon evenaren van een systeem gebaseerd op een veel groter, commercieel model dat handmatig met regels was geprogrammeerd. Dit suggereert dat bedrijven niet noodzakelijkerwijs hoeven te investeren in enorme, energieverslindende hertrainingscycli om hoogwaardige resultaten te behalen. In plaats daarvan kunnen ze een meer precieze, door mensen gestuurde aanpak gebruiken die gegevens veilig binnen hun eigen netwerken houdt en ervoor zorgt dat elke stap van de aanpassing kan worden beoordeeld en begrepen.
De studie benadrukte ook dat de energiebesparingen sterk afhangen van hoe snel het computermodel kan "denken". Hoe sneller het model vragen beantwoordt, hoe minder energie er verloren gaat tijdens de testfasen van de loop. Voor het specifieke model dat zij testten, waren de energiebesparingen aanzienlijk. Echter, voor tragere modellen werd het gat tussen deze nieuwe methode en traditionele hertraining kleiner, hoewel de nieuwe methode nog steeds concurrerend bleef. De onderzoekers benadrukten dat, hoewel de elektrische besparingen reëel en meetbaar zijn, het proces nog steeds menselijke inspanning vereist. Een domeinexpert besteedde enkele uren aan het beoordelen van de foutengroepen en het schrijven van de regels. Deze menselijke tijd is een kostenpost die niet wordt geregistreerd door de energiemeter, maar het is een kostenpost die beheerd en gecontroleerd kan worden, in tegen tegenovergestelde van de ondoorzichtige energieconsumptie van massale trainingsruns.
Uiteindelijk biedt dit werk een praktisch alternatief voor bedrijven die opereren in gereguleerde sectoren zoals de financiële sector en de energiesector. Deze industrieën vereisen dat beslissingen accuraat, uitlegbaar en duurzaam zijn. Door prestaties los te koppelen van energie, hebben de onderzoekers aangetoond dat het mogelijk is om zeer effectieve AI-instrumenten te bouwen zonder de enorme milieudruk die gewoonlijk met hen wordt geassocieerd. De methode is precies omdat deze wordt getest tegen exacte antwoorden, uitlegbaar omdat elke wijziging een leesbare zin is, en bewijsbaar omdat het energieverbruik direct wordt gemeten. Nu bedrijven toenemende druk ervaren om hun CO2-emissies en energieverbruik te documenteren, biedt deze aanpak een heldere, transparante manier om kunstmatige intelligentie aan te passen aan de behoeften van de echte wereld, waardoor een potentieel milieunadeel wordt omgezet in een beheersbaar, efficiënt bedrijfsproces.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.