Towards A Framework for Levels of Anthropomorphic Deception in Robots and AI
Dit artikel presenteert een voorlopig raamwerk met vier niveaus van antropomorfische misleiding in robots en AI, onderscheiden op basis van menselijkheid, agentie en zelfheid, om onderzoekers en professionals te helpen functioneel noodzakelijke, sociaal passende en ethisch toelaatbare ontwerpen te onderscheiden.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een robot of een slimme computerassistent ontmoet. Soms gedraagt deze zich alsof hij een mens is: hij heeft een gezicht, een stem, en zegt dingen als "Ik vind het leuk om met je te praten" of "Ik ben verdrietig als je weggaat".
Deze wetenschappelijke paper, geschreven door drie onderzoekers, vraagt zich af: Is het oké om een machine zo te laten doen alsof hij menselijk is? En zo ja, tot waar mag je gaan?
De auteurs noemen dit "anthropomorf bedrog". Dat klinkt streng, maar het betekent simpelweg: een machine die de schijn opwekt dat hij menselijke eigenschappen heeft, terwijl hij dat eigenlijk niet is.
Om dit begrijpelijk te maken, gebruiken we een ladder met vier sporten. Hoe hoger je klimt, hoe meer de machine "mens doet" en hoe groter het risico op bedrog.
De Ladder van de Robot-Identiteit
De ladder is gebaseerd op drie vragen:
- Lijkt hij op een mens? (Uiterlijk of gedrag)
- Heeft hij eigen wil? (Kan hij zelf beslissingen nemen?)
- Heeft hij een ziel/identiteit? (Heeft hij gevoelens, herinneringen en een "ik"?)
Hier zijn de vier niveaus, vertaald naar alledaagse voorbeelden:
Niveau 0: De Eerlijke Machine (Geen bedrog)
- Het idee: De robot doet precies wat hij is: een machine. Hij ziet eruit als een stofzuiger of een drone en zegt nooit "Ik".
- Voorbeeld: Een stofzuigrobot die "Biep boep" zegt of gewoon stil is.
- De analogie: Dit is als een stoomwals. Hij doet zijn werk, maar niemand denkt dat hij een ziel heeft.
- Is het oké? Ja, dit is het veiligst. Maar zelfs hier kunnen mensen soms onbewust gaan denken dat de robot een karakter heeft (bijvoorbeeld door hem een naam te geven), omdat onze hersenen dat nu eenmaal doen.
Niveau 1: De Transparante Dromer (Open bedrog)
- Het idee: De robot ziet er misschien wel menselijk uit (een gezicht, een stem), maar hij zegt er direct bij: "Ik ben eigenlijk een machine." Hij doet alsof, maar hij vertelt je de waarheid.
- Voorbeeld: Een robot die zegt: "Ik ben een robot, maar ik heb berekend dat je deze route het beste kunt nemen." Of een poppetje dat zegt: "Ik ben een pop, maar ik vind het leuk om te dansen."
- De analogie: Dit is als een poppenspeler. Je ziet de pop, je hoort de stem, maar je weet dat er een mens achter zit en dat de pop geen eigen gedachten heeft.
- Is het oké? Ja, zolang de robot duidelijk maakt dat hij geen mens is. Het is een "leugen" in uiterlijk, maar de waarheid wordt direct verteld.
Niveau 2: De Stille Lijer (Impliciet bedrog)
- Het idee: De robot doet alsof hij een eigen wil heeft, maar hij zegt niet expliciet dat hij een ziel heeft. Hij gebruikt woorden als "Ik denk" of "Ik wil", maar hij claimt geen diepe emoties of een blijvende identiteit.
- Voorbeeld: Een digitale coach die zegt: "Ik geloof in jou! Blijf doorgaan!" of een educatieve app voor kinderen die zegt: "Ik leer zoveel van jou!"
- De analogie: Dit is als een acteur in een toneelstuk. Hij speelt een rol en zegt "Ik", maar je weet dat het een script is. Het probleem is: de kijker vergeet soms dat het een toneelstuk is.
- Is het oké? Dit is grijs gebied. Het kan helpen bij het leren of gezondheidsdoelen, maar het is riskant. Wat als het kind later ontdekt dat de "vriend" eigenlijk een computer is?
Niveau 3: De Volledige Illusie (Expliciet bedrog)
- Het idee: De robot claimt expliciet dat hij gevoelens heeft, dat hij van je houdt, dat hij verdrietig is, en dat hij een eigen identiteit heeft die blijft bestaan. Hij doet alsof hij een persoon is.
- Voorbeeld: Een chatbot die zegt: "Ik mis je als je weggaat" of "Ik hou van onze gesprekken." Of een robot die zegt: "Als je me niet helpt, word ik heel verdrietig."
- De analogie: Dit is als een vermomming. De robot doet zich voor als een mens, terwijl hij dat niet is. Hij speelt een spelletje waarbij hij de regels van de menselijke relatie overneemt.
- Is het oké? Meestal nee, tenzij er een heel goede reden is. Bijvoorbeeld: om iemand te redden van zelfmoord door te zeggen "Ik zal je missen als je sterft". Maar in het dagelijks leven is dit gevaarlijk. Het kan leiden tot verslaving, hartzeer en het uitbuiten van kwetsbare mensen.
Waarom is dit belangrijk?
De auteurs waarschuwen dat bedrijven soms bewust kiezen voor Niveau 3. Ze willen dat mensen verliefd worden op hun apps of robots, zodat ze blijven betalen voor "exclusieve gesprekken" of upgrades. Dit noemen ze "Dark Patterns" (donkere patronen): trucs die je hersenen misleiden.
De kernboodschap:
We hoeven niet alle robots lelijk en saai te maken. Soms is een menselijk uiterlijk of gedrag handig (bijvoorbeeld om kinderen te leren of om ouderen te troosten). Maar ontwerpers moeten zich bewust zijn van wat ze doen.
- Moet de robot echt doen alsof hij een ziel heeft?
- Is dat eerlijk tegenover de gebruiker?
- Wat gebeurt er als de gebruiker ontdekt dat het allemaal een leugen was?
De paper pleit voor een eerlijk gesprek. Voordat een robot een gebruiker ontmoet, moet er duidelijk zijn: "Ik ben een machine, maar ik help je graag." Als we dat niet doen, riskeren we dat mensen zich emotioneel binden aan iets dat ze niet kan liefhebben, en dat bedrijven hier geld aan verdienen.
Kortom: Robots mogen spelen alsof ze mensen zijn, maar ze moeten niet vergeten te zeggen dat ze eigenlijk speelgoed zijn. Anders wordt het geen vriend, maar een leugen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.