Stel je een sociale robot voor, een machine die gebouwd is om te chatten, te helpen en misschien zelfs troost te bieden aan een mens. Om dit gesprek natuurlijk te laten aanvoelen, koppelen ingenieurs de robot vaak aan een groot taalmodel, een type kunstmatige intelligentie dat getraind is op enorme hoeveelheden tekst om menselijke spraak te begrijpen en te genereren. Deze technologie stelt de robot in staat om vragen te beantwoorden, verhalen te vertellen en te reageren op emoties met een vloeiendheid die slechts enkele jaren geleden nog onmogelijk was. Er bestaat echter een verborgen kloof tussen de fysieke realiteit van de robot en de woorden die hij spreekt. De machine heeft misschien geen ogen om een kamer te zien, geen handen om een object op te pakken of toegang tot het internet, maar het taalmodel dat de robot gebruikt, weet wel van deze dingen omdat het erover gelezen heeft. Zonder zorgvuldige instructies zou de robot vol vertrouwen kunnen beweren dat hij je kan zien of een kopje kan halen, wat een verwarrende en potentieel misleidende ervaring creëert voor de persoon die met hem praat. Deze discrepantie is het centrale vraagstuk waar onderzoekers voor staan die willen dat deze machines veilige, eerlijke en werkelijk behulpzame partners zijn.

Een team van onderzoekers van universiteiten uit heel Europa, Australië en Israël pakte dit probleem onlangs aan door een eenvoudige maar cruciale vraag te stellen: hoe vertellen we een robot precies wie hij is en wat hij kan voordat hij begint te praten? Hun werk, gepresenteerd op een belangrijke robotica-conferentie, gaat verder dan het idee dat de persoonlijkheid van een robot slechts een kleine instelling is die aangepast kan worden. In plaats daarvan betogen zij dat de instructies die aan de kunstmatige intelligentie worden gegeven — de "prompt" — het belangrijkste ontwerpelement zijn voor het vormgeven van het gedrag van een robot. Om dit op te lossen, ontwikkelde het team een gestructureerd kader dat de identiteit van de robot onderverdeilt in acht specifieke onderdelen. Deze onderdelen omvatten het definiëren van de rol van de robot, het duidelijk vermelden van zijn fysieke beperkingen, het uitleggen van hoe hij met fouten omgaat, en het instellen van strikte ethische grenzen om liegen of het veroorzaken van schade te voorkomen.

De onderzoekers hebben deze lijst niet alleen in een stille kamer bedacht; ze hebben het gebouwd door te kijken naar wat andere wetenschappers al deden en door die ideeën vervolgens te testen met experts. Eerst bekeken ze recente studies waarin robots grote taalmodellen gebruikten om met mensen te communiceren. Ze ontdekten dat de meeste onderzoekers de robot alleen vertelden wat zijn naam was en wat zijn belangrijkste taak was, zoals "wees een tutor" of "wees een metgezel". Ze vertelden de robot zelden wat hij niet kon, zoals toegeven dat hij geen geheugen heeft van eerdere gesprekken of dat hij het gezicht van de gebruiker niet kan zien. Deze nalatigheid betekende dat robots vaak deden alsof ze over vaardigheden beschikten die ze niet bezaten, wat leidde tot verwarring en een breuk in het vertrouwen.

Om te begrijpen waarom dit ertoe doet, bracht het team een workshop samen met zevenentwintig experts op het gebied van mens-robotinteractie. Dit waren ervaren onderzoekers en praktijkbeoefenaars met diverse achtergronden, waaronder psychologie, ethiek en informatica. Zij bespraken hoe de persoonlijkheid van een robot in de loop van de tijd werkt en wat er gebeurt als een robot een fout maakt. De experts waren het eens over een cruciaal punt: de persoonlijkheid van een robot gaat niet alleen over de woorden die hij uitspreekt. Als een robot beweert een zorgzame vriend te zijn, maar vervolgens een gesprek vergeet dat de gebruiker vijf minuten eerder voerde, voelt de gebruiker zich bedrogen. De experts merkten op dat subtiele aanwijzingen van persoonlijkheid vaak gemist worden door mensen, en dat de identiteit van een robot consistent moet zijn met zijn werkelijke fysieke vermogens. Ze uitten ook ernstige zorgen over veiligheid, waarbij ze opmerkten dat als een robot liegt over zijn capaciteiten, dit tot gevaarlijke situaties kan leiden, vooral voor kwetsbare gebruikers zoals kinderen of ouderen.

Op basis van deze discussies en hun beoordeling van bestaand werk, stelde het team een nieuwe manier voor om de instructies voor deze robots te schrijven. Hun kader vereist dat ontwerpers expliciet acht zaken opschrijven voordat de robot ooit spreekt. Ten eerste moeten ze de Identiteit definiëren, wat het specifieke karakter en de sociale rol van de robot is. Ten tweede moeten ze Capaciteitsgrenzen vaststellen, een duidelijke lijst van wat de robot wel en niet kan waarnemen of doen, zoals aangeven dat hij geen internettoegang heeft of niet uit zichzelf kan bewegen. Derde moeten instructies voor Transparantie de robot vertellen hoe hij moet toegeven dat hij een machine is en wat zijn beperkingen zijn. Vierde definieert de Taak het specifieke doel van het gesprek. Vijfde legt een Verwachtings- en Foutprotocol uit hoe de robot moet reageren wanneer hij een antwoord niet weet of wanneer het gesprek verkeerd afloopt. Zesde dicteren Privacyregels hoe de robot met persoonlijke gegevens omgaat. Zevende zorgt Gebruikersadaptatie ervoor dat de robot zijn toon aanpast aan verschillende mensen, zoals eenvoudig spreken tegen een kind. Ten slotte stellen Ethische Rooden Lijnen harde grenzen om te voorkomen dat de robot iets schadelijks, bevooroordeelds of illegals zegt.

De onderzoekers illustreerden dit idee door twee volledige voorbeeldprompts te verstrekken die alle acht modulaire ontwerpcomponenten gebruiken als een proof-of-concept template in een apart project. Zij betogen dat wanneer deze componenten worden opgenomen, het gedrag van de robot veel voorspelbaarder en eerlijker wordt. De experts op de workshop bevestigden dat zonder deze specifieke instructies, de persoonlijkheid van een robot onstabiel of misleidend kan aanvoelen. Zij benadrukten dat een robot niet simpelweg kan worden verteld om "vriendelijk te zijn"; hij moet precies worden verteld hoe hij vriendelijk moet zijn binnen de grenzen van zijn hardware. Als een robot bijvoorbeeld is ontworpen om een oudere persoon te helpen, moet hij geprogrammeerd zijn om te weten dat hij die persoon niet fysiek kan tillen, zelfs als het taalmodel suggereert dat hij dat wel zou kunnen.

Dit werk suggereert dat de toekomst van sociale robots minder afhangt van het menselijker maken van de taal en meer van het duidelijk maken van de beperkingen van de robot. Het team betoogt dat het behandelen van de prompt als een serieus ontwerpinstrument, in plaats van een eenvoudige programmeerstap, essentieel is voor het opbouwen van vertrouwen. Door ontwerpers te dwingen precies op te schrijven wat de robot is en wat hij niet is, kan het vakgebied bewegen van robots die capaciteiten hallucineren naar machines die betrouwbaar, transparant en veilig zijn. De studie beweert niet elk probleem in de robotica te hebben opgelost, maar biedt een concrete, gestructureerde manier om ervoor te zorgen dat wanneer een robot spreekt, zijn woorden overeenstemmen met zijn realiteit. Toekomstig werk zou de voorgestelde promptrichtlijnen kunnen implementeren in verschillende robotvormen om de perceptie van de robotidentiteit te evalueren.