Mosaic: Modular Orchestration of Specialised AI Components
Het artikel stelt MOSAIC voor, een modulaire architectuur die dure frontier-taalmodellen vervangt door een strikte hiërarchie van hardgecodeerde orchestratielogica en gespecialiseerde kleinere componenten om een vergelijkbare nauwkeurigheid te bereiken tegen aanzienlijk lagere inferentiekosten via mechanismen zoals model-schaal substitutie, vroege terminatie en cumulatieve partiële resolutie.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
De wereld van kunstmatige intelligentie wordt onlangs gedomineerd door één krachtig idee: maak de modellen groter. Door steeds meer digitale "neuronen" toe te voegen, hebben onderzoekers systemen gecreëerd die in staat zijn om bijna elke vraag te beantwoorden, van het schrijven van poëzie tot het oplossen van complexe natuurkundeproblemen. Deze grote systemen, vaak frontier-modellen genoemd, zijn ongelooflijk bekwaam, maar ze komen met een zware prijs. Het draaien ervan vereist enorme hoeveelheden computerkracht en energie, waardoor ze duur zijn in gebruik voor elke willekeurige taak, hoe eenvoudig ook. Dit heeft wetenschappers de fundamentele vraag doen stellen: is het altijd nodig om de krachtigste motor die beschikbaar is te gebruiken, of zou een verzameling kleinere, gespecialiseerde instrumenten, werkend volgens een slim plan, hetzelfde werk kunnen doen voor een fractie van de kosten?
Een onderzoeker genaamd Nabil Islam heeft een nieuwe manier voorgesteld om deze vraag te beantwoorden, uiteengezet in een rapport getiteld "MOSAIC". In plaats van te vertrouwen op één enkel gigantisch brein om elk probleem op te lossen, stelt MOSAIC voor om een systeem te bouwen waarbij een zoekopdracht wordt opgedeeld in kleinere stukjes en wordt doorgegeven aan verschillende, kleinere experts. Het kernidee is dat een groot, algemeen doelmodel als een Zwitsers zakmes is: het kan alles, maar het is zwaar en inefficiënt als je alleen een stukje touw wilt doorsnijden. MOSAIC stelt voor om een speciale schaar te gebruiken voor die specifieke taak, maar alleen als een slimme manager eerst besluit dat een schaar het juiste instrument is. Het rapport presenteert geen afgewerkt product dat al in de echte wereld is getest. In plaats daarvan biedt het een gedetailleerd blauwdruk en een reeks hypothesen over hoe een dergelijk systeem zou kunnen werken, met het argument dat het veel efficiënter zou zijn dan de huidige methoden, terwijl de hoge nauwkeurigheid behouden blijft.
Het MOSAIC-systeem is gebouwd op een strikte hiërarchie, wat een chique manier is om te zeggen dat het een duidelijke commandostructuur heeft. Helemaal bovenaan zit een "Frontier Model", een groot, algemeen doelmodel dat fungeert als het eerste contactpunt voor de gebruiker. Wanneer een gebruiker een vraag stelt, probeert dit bovenste model de vraag niet alleen op te lossen. In plaats daarvan geeft het de aanvraag door aan een laag van "Assistenten". Deze assistenten zijn zelf geen AI-modellen; het zijn vaste, onveranderlijke regels geschreven door mensen. Hun enige taak is om naar de aanvraag te kijken en te beslissen hoe deze moet worden opgedeeld. Als een vraag breed is, kan de bovenste assistent de vraag opsplitsen in twee of drie kleinere, specifiekere vragen. Vervolgens geeft deze de kleinere taken door aan de volgende laag assistenten.
Dit proces zet zich naar beneden toe voort. De assistenten van het tweede niveau nemen een specifiek domein, zoals wiskunde of geschiedenis, en breken de taak nog verder af totdat deze de derde laag bereikt. Op dit onderste niveau is de taak zo specifiek en duidelijk dat deze rechtstreeks kan worden overgedragen aan een "Gespecialiseerd Model". Dit zijn kleine AI-modellen die alleen zijn getraind op één specifiek onderwerp, zoals zuivere wiskunde of een bepaald type programmeren. Omdat ze klein en gefocust zijn, zijn ze veel goedkoper en sneller uit te voeren dan de gigantische modellen. Zodra het gespecialiseerde model een antwoord geeft, reist het resultaat weer omhoog in de keten, waar de assistenten controleren of de klus geklaard is. Als het antwoord goed genoeg is, stopt het systeem. Zo niet, dan probeert het opnieuw, maar dan alleen binnen strikte grenzen om te voorkomen dat het proces in een eindeloze lus terechtkomt.
Een van de belangrijkste kenmerken van dit ontwerp is dat het de veelgemaakte fout vermijdt om de AI te laten beslissen welk instrument te gebruiken. In veel andere systemen fungeert een AI-model als manager en raadt welk kleiner model moet worden aangeroepen. Het MOSAIC-rapport stelt dat dit riskant is omdat de manager-AI fouten kan maken of in de war kan raken. In MOSAIC is de manager een reeks vaste regels. Het "denkt" niet of "raadt" niet; het volgt simpelweg een vooraf geschreven script om de taak te deconstrueren. Dit zorgt ervoor dat het systeem nooit in een cirkel terechtkomt, een probleem dat kan optreden wanneer AI-agenten met elkaar communiceren zonder duidelijke grenzen. Het rapport benadrukt ook dat het systeem stopt zodra een taak is opgelost op een hoger niveau. Als de bovenste assistent een eenvoudige vraag kan beantwoorden, verspilt deze geen tijd of geld aan het aanroepen van de diepere, duurdere lagen.
De onderzoekers stellen drie belangrijke manieren voor waarop dit systeem geld bespaart. Ten eerste gebruikt het "model-schaal substitutie", wat betekent dat het een gigantisch, duur model vervangt door een klein, goedkoop model wanneer de taak dat toelaat. Ten tweede gebruikt het "vroege terminatie", wat betekent dat het systeem stopt zodra het een goed antwoord heeft gevonden, in plaats van telkens het volledige proces te doorlopen. Ten derde gebruikt het "cumulatieve partiële resolutie", waarbij elke laag van de hiërarchie een deel van de puzzel oplost, zodat de volgende laag alleen hoeft op te lossen wat er nog over is, in plaats van helemaal opnieuw te beginnen. Het rapport suggereert dat als deze drie zaken samenwerken, het systeem de nauwkeurigheid van de gigantische modellen kan evenaren terwijl het slechts een fractie van de rekenkracht gebruikt.
De auteur is echter zeer duidelijk over wat zij nog niet hebben gedaan. Dit rapport is een voorstel, geen rapport van resultaten. Er zijn geen experimenten uitgevoerd om te bewijzen dat het systeem werkt zoals beschreven. De onderzoekers stellen dat het hele idee rust op een hypothese: dat een systeem van kleine, gespecialiseerde modellen die worden beheerd door vaste regels, net zo nauwkeurig kan zijn als een enkel gigantisch model. Ze geven toe dat dit ervan afhangt of de gespecialiseerde modellen erg goed zijn in hun specifieke taken en of de vaste regels perfect zijn ontworpen. Als de regels voor het opdelen van taken onjuist zijn, zal het systeem falen. Ze merken ook op dat ze nog geen manier hebben om uit te leggen waarom de kleine modellen net zo nauwkeurig zouden zijn als de grote; ze suggereren simpelweg dat als de kleine modellen goed getraind zijn, ze dat zouden kunnen zijn.
Het rapport behandelt ook een veelvoorkomende zorg in de kunstmatige intelligentie: hoe weet je of het systeem vertrouwen heeft in zijn antwoord. Veel systemen proberen de AI te vragen: "Hoe zeker ben je?" De auteurs van MOSAIC stellen dat dit een slecht idee is, omdat een AI heel zelfverzekerd kan zijn en toch volkomen ongelijk kan hebben. In plaats daarvan vertrouwt hun systeem op structuur. Het controleert of de taak volledig is afgebroken en of het gespecialiseerde model daadwerkelijk de berekening heeft uitgevoerd. Het vertrouwt niet op een gevoel van vertrouwen. Deze aanpak is ontworpen om te voorkomen dat het systeem een foutief antwoord geeft met een vals gevoel van zekerheid.
De onderzoekers concluderen door een plan te schetsen om hun idee te testen. Ze stellen voor om een reeks tests uit te voeren waarbij het MOSAIC-systeem direct wordt vergeleken met een standaard, gigantisch model. Ze zouden niet alleen meten hoe vaak het systeem het juiste antwoord krijgt, maar ook hoe vaak het het dure gigantische model moet aanroepen, hoe diep de keten van assistenten moest gaan en hoeveel rekenkracht er werd gebruikt. Ze waarschuwen dat als het systeem wordt afgesteld om efficiënt te lijken maar uiteindelijk foutieve antwoorden geeft, de test zal falen. Het uiteindelijke doel is om te bewijzen dat intelligentie niet duur hoeft te zijn, en dat een goed georganiseerd team van kleine, gefocuste instrumenten het werk kan doen van een gigantische, allesomvattende machine. Totdat die tests zijn uitgevoerd, blijft het MOSAIC-systeem een boeiende theorie, een gedetailleerde kaart van een potentiële toekomst waarin AI goedkoper, sneller en efficiënter is, maar nog niet een bewezen realiteit.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.