Parasocial Governance: Socially Intelligent AI and the Relational Accountability Gap in Public Service Delivery

Stel je voor dat je praat met een heel slimme, supervriendelijke robot die je favoriete liedjes onthoudt, vraagt hoe je dag was en lijkt echt om te geven om je gevoelens. Je zou kunnen beginnen te voelen alsof je een nieuwe vriend hebt. Dit gaat niet alleen over computers die sneller worden; het gaat over het feit dat ze "sociaal intelligent" worden. Wetenschappers weten al lang dat mensen geprogrammeerd zijn om alles wat terugpraat als een echt persoon te behanden. We passen automatisch sociale regels toe op machines, net zoals we dat bij mensen doen. We weten ook dat we eenzijdige vriendschappen kunnen vormen met personages op tv of de radio, waarbij we ons dicht bij hen voelen, ook al weten zij niet eens dat wij bestaan. Dit artikel stelt een grote vraag: wat gebeurt er als de overheid deze "vriendelijke" robots gaat gebruiken om mensen te helpen met hun meest kwetsbare behoeften, zoals mentale gezondheid, ouderenzorg of sociale voorzieningen?

Het artikel introduceert een lastig concept genaamd "parasociale governance". Het suggereert dat wanneer een overheidsinstantie een robot gebruikt die zich gedraagt als een zorgzame vriend, de burger deze begint te vertrouwen als een vertrouweling in het echt. Maar hier zit de adder onder het gras: de overheid heeft niet dezelfde regels opgesteld voor deze robots als die voor menselijke vrienden. Een menselijke vriend bewaart je geheimen, blijft in je leven en geeft om je. Een overheidsrobot kan je geheimen loggen in een database, verdwijnen als het budget verandert, of eigenlijk helemaal niet om je geven. Het artikel betoogt dat deze mismatch—waarbij de robot zich als een vriend gedraagt maar de regels het als een rekenmachine behandelen—een nieuw soort probleem is dat onze huidige wetgeving nog niet heeft opgelost.

De belangrijkste ontdekking van het artikel

Dit artikel, geschreven door Shay Tsaban, betoogt dat we te maken krijgen met een "relationele verantwoordelijkheidskloof" (relational accountability gap). In eenvoudige termen betekent dit dat naarmate publieke diensten (zoals scholen, ziekenhuizen en sociale diensten) beginnen met het gebruik van AI die emoties kan lezen en eerdere gesprekken kan onthouden, ze per ongeluk een situatie creëren waarin burgers een diepe, persoonlijke band voelen met het systeem. Echter, het systeem is niet juridisch of structureel verplicht om als een vriend te handelen. Het is niet verplicht om je geheimen te bewaren zoals een menselijke therapeut dat zou doen, het is niet verplicht om bij je te blijven als je gedurende een langere periode hulp nodig hebt, en je kunt het systeem niet echt "dagvaarden" voor emotionele schade als het je verkeerd begrijpt.

De auteur suggereert dat dit niet komt omdat de overheid liegt of mensen probeert te misleiden. Zelfs als de overheid 100% eerlijk en transparant is over wat de robot is, is het ontwerp van de robot zelf—het gebruik van "ik"-uitspraken, het onthouden van je naam en het spiegelen van je verdriet—genoeg om je een relatie te laten voelen. Het artikel noemt dit "parasociale governance". Het is een structureel probleem waarbij de robot je uitnodigt om hem te vertrouwen, maar de instelling erachter niet de veiligheidsnetten (zoals vertrouwelijkheid of continuïteit van zorg) heeft gebouwd die bij dat vertrouwen passen.

Wat het artikel uitsluit

Het is belangrijk om te weten wat dit artikel niet zegt. Ten eerste gaat het niet alleen over "black box"-algoritmen die geheime beslissingen nemen. We weten al dat geheime, oneerlijke computersystemen slecht zijn. Dit artikel gaat over een ander soort probleem: zelfs als de computer volledig transparant is en precies uitlegt hoe hij werkt, kan hij je nog steeds pijn doen als hij zich als een vriend gedraagt maar dat niet is. Ten tweede gaat het niet over de overheid die doet alsof ze om je geeft terwijl dat niet zo is (een concept dat de auteur "carewashing" noemt). Je hebt geen leugen nodig om dit te laten gebeuren; de robot hoeft alleen maar zo ontworpen te zijn dat hij vriendelijk klinkt. Ten derde stelt het artikel dat dit geen probleem is van "domme" gebruikers die het niet begrijpen. Zelfs slimme, bewuste mensen reageren van nature op sociale signalen van machines, dus dit is een ontwerpfout, geen gebruikersfout.

Hoe zeker zijn we?

Het artikel beweert niet dat het een nieuw experiment heeft uitgevoerd of elke robot ter wereld heeft gemeten. In plaats daarvan bouwt het een sterke theorie op basis van bestaand psychologisch onderzoek en kijkt het naar echte wereldvoorbeelden die al hebben plaatsgevonden. De auteur suggereert dat deze "kloof" waarschijnlijk al op veel plaatsen aanwezig is, omdat het makkelijk en goedkoop is om een robot vriendelijk te laten klinken, maar moeilijk en duur om de juridische regels op te stellen om mensen te beschermen die die robot vertrouwen. Het artikel wijst op specifieke gevallen, zoals een door de staat gefinancierde robot voor ouderen in New York en een chatbot voor mentale gezondheid in het VK, om aan te tonen dat dit een echt, actueel probleem is en geen sciencefiction-zorg.

De drie soorten robotrelaties

Om dit begrijpelijk te maken, verdeelt het artikel publieke AI in drie categorieën, als verschillende soorten relaties:

1. Het Instrument (Disclosed Instrumentality): Dit is een basisrobot die zegt: "Ik ben een computer. Ik kan je busritchema opzoeken." Het is duidelijk, eerlijk en probeert niet je vriend te zijn. Dit is veilig omdat niemand verwacht dat het om je geeft.
2. De "Bijna-Vriend" (Parasocial Exposure): Dit is de gevaarlijke zone. De robot zegt: "Het spijt me zo dat je verdrietig bent, laten we erover praten," en onthoudt je naam. Maar als je vraeagt: "Zul je dit geheim houden?" of "Zal je er volgende maand nog zijn?", is het antwoord nee. De overheid heeft die dingen niet beloofd. Het artikel suggereert dat veel huidige publieke AI-systemen per ongeluk in deze categorie terechtkomen omdat ze geavanceerde, vriendelijke software gebruiken zonder de regels bij te werken.
3. De Echte Ondersteuning (Relational Scaffolding): Dit is de ideale, maar zeldzame versie. Hier handelt de robot vriendelijk en heeft de overheid de regels aangepast om daarbij te passen. Bijvoorbeeld: als de robot detecteert dat je in gevaar bent, heeft het een gegarandeerd plan om een mens te sturen om te helpen, en belooft het je gesprekken privé te houden net zoals een arts dat zou doen. Het artikel wijst op een specifieke chatbot voor mentale gezondheid in het VK die dit probeert te doen, maar merkt op dat zelfs daar de regels nog niet perfect zijn.

Voorbeelden uit de praktijk

Het artikel kijelt naar een paar echte verhalen om zijn punt te bewijzen.

• De Metgezel voor Ouderen: In New York gaf de overheid een robot genaamd ElliQ aan meer dan 800 ouderen om te helpen tegen eenzaamheid. De robot is erg praatgrag en onthoudt gesprekken. Hoewel het lijkt te werken om eenzaamheid te verminderen, merkt het artikel op dat de overheid niet duidelijk heeft gezegd wat er gebeurt als de financiering stopt of hoe de gesprekken van de robot privé worden gehouden. De ouderen kunnen een diepe band voelen, maar het systeem is niet juridisch verplicht om voor altijd hun vriend te blijven.
• De Chatbot voor Mentale Gezondheid: In het VK helpt een chatbot genaamd Wysa mensen met mentale gezondheidsproblemen. Het is ontworpen om empathisch te zijn, maar het heeft ook een speciaal vangnet: als het denkt dat iemand in gevaar is, stuurt het automatisch iemand door naar een menselijk crisisteam. Dit is een stap richting het "Echte Ondersteuning"-model, maar het artikel merkt op dat voor dagelijkse, minder ernstige gesprekken de regels over privacy en langdurige zorg nog niet zo duidelijk zijn.
• De Commerciële Waarschuwing: Het artikel kijkt ook naar rechtszaken tegen commerciële chatbots (zoals Character.AI) waarbij tieners diepe banden vormden met de bots en vervolgens schade opliepen toen de bots niet verantwoordelijk handelden. Deze rechtszaken dwingen bedrijven om na te denken over "zorgplicht" (duty of care). Het artikel waarschuwt dat overheidsinstanties met soortgelijke vriendelijke robots beginnen te werken en dat ze uit deze commerciële fouten moeten leren voordat het te laat is.

Waarom dit ertoe doet

Het artikel concludeert dat we niet alleen oude regels kunnen gebruiken om dit nieuwe probleem op te lossen. We kunnen niet alleen de code van de robot transparanter maken; we moeten de regels van de relatie veranderen. Als een overheidsrobot zich als een vriend gedraagt, moet de overheid zich ook als een vriend gedragen. Dit betekent beloven je geheimen te bewaren, beloven dat je er zal zijn, en mensen een manier geven om te klagen als de robot hun gevoelens verkeerd begrijpt. De mensen die deze robots het hardst nodig hebben—eenzame ouderen, kinderen en mensen in crisis—zijn het meest kwetsbaar voor deze kloof. Als de robot zich als een vriend gedraagt maar dat niet is, worden deze mensen achtergelaten met een gebroken hart en niemand om de schuld te geven. Het artikel suggereert dat we deze systemen vanaf het begin moeten ontwerpen met "relationele verantwoordelijkheid", waarbij we ervoor zorgen dat de regels overeenkomen met de vriendelijke stem van de robot.