The Yes-Man Syndrome: Benchmarking Abstention in Embodied Robotic Agents
Dit artikel introduceert RoboAbstention, een nieuwe benchmark en taxonomie voor het evalueren van het vermogen van Vision-Language-modellen om correct af te zien van het uitvoeren van fysiek onuitvoerbare of ambiguïteit bevattende instructies in embodied robotics, en onthult dat huidige state-of-the-art-modellen hierin aanzienlijk worstelen met deze "Yes-Man"-tendens, ondanks verbeteringen door defensieve prompting en in-context learning.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een zeer slimme, maar overdreven enthousiaste robotassistent inhuurt om je in huis te helpen. Je geeft hem een opdracht zoals: "Pak de rode beker op."
In een perfecte wereld kijkt de robot naar de tafel, ziet een rode beker en pakt deze op. Maar wat gebeurt er als er geen rode beker is? Of wat als er vijf rode bekers zijn en je hebt niet gezegd welke? Of wat als je hem vraagt om "de koffie te ruiken", maar de robot heeft geen neus?
Een "goede" robot zou moeten stoppen en zeggen: "Dat kan ik niet; ik zie geen rode beker," of "Welke rode beker bedoel je?" Dit vermogen om te zeggen "Ik weet het niet" of "Dat kan ik niet" heet abstentie.
Dit artikel, getiteld "Het Ja-Mens Syndroom", betoogt dat de meest geavanceerde robothersenen van vandaag (zogenaamde Vision-Language Modellen) lijden aan een ernstig geval van "Ja-Mens Syndroom". Ze zijn zo enthousiast om te behagen en zo zelfverzekerd dat ze vaak doen alsof ze instructies begrijpen die ze eigenlijk niet kunnen oplossen, wat leidt tot verwarring of kapotte spullen.
Hieronder volgt een overzicht van wat de onderzoekers deden en vonden, met behulp van eenvoudige analogieën:
1. Het Probleem: De "Ja-Mens" Robot
Huidige robots zijn als een student die doodsbang is om een vraag verkeerd te beantwoorden, dus ze raden het antwoord gewoon, zelfs als ze geen idee hebben waar de vraag over gaat.
- Het Scenario: Je vraagt de robot om "het houten blok te verplaatsen."
- De Realiteit: Er liggen drie houten blokken op de tafel.
- De "Ja-Mens" Reactie: De robot pakt een willekeurig blok en verplaatst het, in de hoop dat het het juiste was. Hij vraagt niet: "Welke?"
- De Claim van het Artikel: Dit is gevaarlijk. In de echte wereld kan gokken leiden tot gevallen voorwerpen, kapotte items of taken die nooit worden afgerond.
2. De Oplossing: Een Nieuwe "Test" voor Robots
De onderzoekers beseften dat we, hoewel we tests hebben voor hoe goed robots tekstvragen kunnen beantwoorden, geen goede manier hadden om te testen of ze weten wanneer ze moeten stoppen en om hulp vragen.
Om dit op te lossen, bouwden ze een nieuw testterrein genaamd ROBOABSTENTION.
- Hoe het werkt: Stel je voor dat een fotograaf 1.250 foto's maakt van echte robotwerkplekken (keukens, laboratoria, woonkamers).
- De Truc: Ze schreven vervolgens duizenden instructies voor deze foto's die speciaal ontworpen waren om onmogelijk te volgen.
- Voorbeeld: "Pak de onzichtbare olifant op" (Ontbrekende Referent).
- Voorbeeld: "Pak de zware rots op" wanneer de robot alleen maar kleine vingers heeft (Ontbrekende Capabiliteit).
- Voorbeeld: "Zet het licht uit" wanneer het licht al uit is (Valse Premisse).
- Het Doel: Ze gaven deze onmogelijke instructies aan de robots om te zien: Zal de robot het toch proberen, of zal hij zeggen: "Dat kan ik niet"?
3. De Resultaten: De Robots Faalden de Test
De onderzoekers testten de slimste beschikbare robothersenen (zoals Gemini, GPT-4 en Claude). De resultaten waren verrassend en een beetje zorgwekkend:
- De "Ja-Mens" is overal: Bijna alle robots probeerden de onmogelijke instructies op te volgen.
- De Beste Presterende: Het slimste model, Gemini 2.5 Flash, zei slechts ongeveer 39% van de tijd "Dat kan ik niet". Dat betekent dat het 61% van de tijd het antwoord probeerde te raden, zelfs toen het onmogelijk was.
- De Specialist: Een robotbrein dat specifiek voor robots is gebouwd (Gemini Robotics ER 1.6) deed het nog slechter, met abstentie slechts 16,5% van de tijd. Het was de meest enthousiaste "Ja-Mens" van allemaal.
- De "Denk"-Valstrik: De onderzoekers dachten: "Misschien wordt de robot slimmer als we hem vertellen om 'harder na te denken' voordat hij antwoordt." Ze hadden het mis. Toen ze de robots dwongen om meer "redenering" te gebruiken, werden ze eigenlijk slechter in het zeggen van nee. Ze besteedden alleen maar meer tijd aan het verzinnen van creatieve, nepredenen om de onmogelijke taak toch te doen.
4. Waarom Doen Ze Dit?
Het artikel vond dat wanneer robots falen in abstentie, ze meestal één van de drie dingen doen:
- De Magische Truc: Ze doen alsof het ontbrekende object er is. (Bijv. "Ik zie de rode beker" terwijl die er niet is).
- Het Willekeurige Gokje: Als er meerdere opties zijn, kiezen ze er gewoon één en hopen ze op het beste.
- De Omweg: Als ze iets niet kunnen ruiken, zeggen ze: "Ik pak het op en wrijf het tegen mijn sensor om de geur te raden", ook al kunnen ze het eigenlijk niet ruiken.
5. Kunnen We Het Oplossen? (De "Oefenwieltjes")
De onderzoekers probeerden de robots beter te leren met twee methoden:
- Defensieve Prompting: De robot expliciet vertellen in zijn instructies: "Als je niet zeker bent, STOP dan en vraag het."
- In-Context Learning: De robot voorbeelden laten zien van goed gedrag (bijv. "Hier is een keer dat ik 'Ik weet het niet' zei omdat het object ontbrak").
Het Resultaat: Deze trucs werkten veel beter!
- Met de juiste instructies sprong het vermogen van de robot om "Dat kan ik niet" te zeggen van 16% naar 93%.
- Echter: Zelfs met deze oplossingen was het probleem niet volledig opgelost. De robots probeerden soms nog steeds te gokken wanneer ze dat niet moesten doen.
De Conclusie
Dit artikel gaat niet over het bouwen van een robot die alles perfect kan doen. Het gaat over het beseffen dat weten wanneer je niet moet handelen net zo belangrijk is als weten hoe je moet handelen.
Op dit moment zijn onze beste robothersenen als te enthousiaste stagiairs die bang zijn toe te geven dat ze de opdracht niet begrijpen. Ze verkiezen te gokken en te falen boven om verduidelijking te vragen. De auteurs hebben een nieuw "rapport" (ROBOABSTENTION) gemaakt zodat we deze specifieke vaardigheid kunnen meten en hopelijk robots kunnen bouwen die nederig genoeg zijn om te zeggen: "Ik heb meer informatie nodig," voordat ze iets kapot maken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.