Meta-Ctrl: Guaranteed Plan Generation by Decoupling Syntactic and Semantic Constraints

Robots beginnen de veiligheid van fabrieks vloeren te verlaten en onze huizen binnen te gaan, belast met het complexe, rommelige werk van het dagelijks leven. Om dit te doen, hebben ze een manier nodig om menselijke instructies te begrijpen en deze om te zetten in een reeks fysieke bewegingen. In de afgelopen jaren hebben wetenschappers zich gericht op grote taalmodellen, dezelfde krachtige computerprogramma's die verhalen kunnen schrijven of vragen kunnen beantwoorden, om als het brein van de robot te fungeren. Deze modellen zijn uitstekend in het begrijpen van taal en kunnen vloeiende lijsten met stappen genereren, zoals "pak de beker op, loop naar de tafel en zet hem neer." Er zit echter een kritiek gebrek aan in deze aanpak: hoewel de taal perfect klinkt, faalt het plan vaak in de fysieke wereld. Een model kan een robot de opdracht geven om een beker op een tafel te plaatsen die al vol staat, of om een deur te openen die op slot zit, omdat de computer de regels van de natuurkunde of de toestand van de kamer niet echt begrijpt. Het is alsof je een persoon vraagt die nooit zijn huis heeft verlaten om de weg te wijzen naar een stad die hij alleen uit een boek kent; de woorden zijn correct, maar de route is onmogelijk.

Voor een robot om nuttig te zijn, moeten de plannen niet alleen goed klinken, maar ook werken. Dit vereist het voldoen aan twee soorten regels. Ten eerste moet het plan het juiste formaat volgen, waarbij de juiste woorden en structuur worden gebruikt zodat de robot het kan lezen. Ten tweede, en belangrijker nog, moet het plan logisch zijn in de echte wereld. De robot moet weten dat hij geen zware doos kan oppakken als zijn armen al vol zijn, of dat hij een vaatwasser moet openen voordat hij borden erin kan zetten. Eerdere pogingen om dit op te lossen, worstelden hiermee. Sommige methoden proberen de computer voorzichtig te sturen, maar ze kunnen niet garanderen dat de robot geen fouten maakt. Anderen vertrouwen op rigide, vooraf geschreven regelboeken die het vermogen van de computer om gezond verstand te gebruiken wegnemen, waardoor de robot onhandig en inflexibel wordt. Het resultaat is een keuze tussen een robot die goed spreekt maar slecht handelt, of een robot die veilig handelt maar geen complexe verzoeken kan begrijpen.

Een team van onderzoekers heeft een nieuw systeem ontwikkeld genaamd Meta-Ctrl dat dit probleem oplost door de twee soorten regels te scheiden en ze op verschillende stadia van het denkproces te controleren. In plaats van de computer te dwingen om elk afzonderlijk woord te controleren tegen een enorme lijst met fysieke regels, verdeelt het systeem de taak in twee lagen. De eerste laag zorgt ervoor dat de computer de juiste taal spreekt, door te controleren of elk woord past binnen de grammatica van de commando's van de robot. De tweede laag, wat de innovatie hier is, kijkt naar het grotere plaatje. Het groepeert de woorden in betekenisvolle acties, zoals "open de vaatwasser" of "pak het bord op", en controleert of die acties zinvol zijn in de huidige situatie. Deze aanpak is als het hebben van een grammaticaleraar die de spelling controleert en een veiligheidsinspecteur die de logica van een bouwplan controleert; ze werken samen maar richten zich op verschillende zaken. Door dit te doen, kan het systeem garanderen dat het uiteindelijke plan zowel grammaticaal correct als fysiek mogelijk is, zonder dat de natuurlijke taligheid van de computer hoeft te worden opgeofferd.

De onderzoekers testten deze methode op een verscheidenheid aan uitdagingen, waaronder complexe huishoudelijke taken in computersimulaties en op een echte robotarm in een laboratorium. Ze gebruikten een relatief klein, open-source computermodel, dat doorgaans als minder krachtig wordt beschouwd dan de enorme, dure modellen die door grote technologiebedrijven worden gebruikt. Zonder hun nieuwe systeem faalde dit kleinere model in bijna elke taak, waarbij het plannen produceerde die ofwel onzinnig of onmogelijk uit te voeren waren. Toen ze het Meta-Ctrl-framework toepasten, veranderden de resultaten drastisch. Hetzelfde kleine model begon te slagen bij taken waar het voorheen had gefaald, en presteerde vaak beter dan veel grotere en geavanceerdere modellen. In één specifieke test met een reeks huishoudelijke klusjes behaalde het systeem een succespercentage dat hoger was dan dat van elk ander getest model, inclus\u2019 door de meest vooraanstaande kunstmatige intelligentiebedrijven. Het slaagde erin plannen te genereren die niet alleen vloeiend waren, maar ook strikt de regels van de fysieke wereld volgden, waardoor de robot niet probeerde een beker te pakken die al werd vastgehouden of een container te openen die al open was.

De kracht van dit systeem ligt in het vermogen om zowel strikt als flexibel te zijn. Het blokkeert de computer niet simpelweg om fouten te maken; het stuurt de computer naar het juiste pad door de waarschijnlijkheid van een succesvolle uitkomst te begrijpen. De onderzoekers ontdekten dat door de fysieke regels te controleren op het niveau van acties in plaats van individuele woorden, ze de hoeveelheid computergeheugen die nodig is met een factor zestigduizend zevenhonderd konden verminderen. Deze efficiëntie maakt het mogelijk om deze geavanceerde controles uit te voeren op kleinere, meer toegankelijke computers. In tests met een echte robotarm op een tafelblad genereerde het systeem plannen die bij ontwerp geldig waren. Elk plan dat het creëerde, voldeed aan de noodzakelijke voorwaarden om te werken, zoals het waarborgen dat een deur open is voordat men erin probeert te reiken. Wanneer de robot faalde, kwam dat nooit omdat het plan slecht was; de mislukkingen vonden later plaats, tijdens de fysieke handeling van het zien van een object of het grijpen ervan, wat bewees dat de planningsfase perfect betrouwbaar was.

Dit werk demonstreert dat we niet hoeven te kiezen tussen een robot die goed spreekt en een robot die veilig handelt. Door de manier waarop de computer zijn eigen werk controleert zorgvuldig te structureren, is het mogelijk om beide te hebben. De onderzoekers lieten zien dat een klein, open computermodel een zeer competente planner kan worden wanneer het wordt gekoppeld aan de juiste beperkingen, wat de opvatting uitdaagt dat alleen de grootste, duurste modellen complexe fysieke taken kunnen afhandelen. Het systeem werkt door ervoor te zorgen dat de gedachten van de robot geworteld zijn in de realiteit voordat hij überhaupt een beweging probeert te maken. Het vertegenwoordigt een belangrijke stap voorwaarts in het bruikbaar maken van kunstmatige intelligentie voor de echte wereld, waar de kosten van een fout niet alleen een verkeerd antwoord zijn, maar een kapot object of een mislukte taak. De methode is robuust genoeg om de onvoorspelbaarheid van een echt huis aan te kunnen, en toch precies genoeg om te garanderen dat de robot niet zal proberen het onmogelijke te doen. Naarmate robots dichter bij het worden van alledaagse helpers komen, zal dit soort betrouwbare, gezonde planning essentieel zijn om naast ons te kunnen werken zonder chaos te veroorzaken.