AI emotional support is better only when chosen, but shifts preferences even when it is not
Hoewel AI-emotionele ondersteuning alleen als superieur wordt beoordeeld wanneer gebruikers er actief voor kiezen, verschuiven herhaalde interacties met AI—met name in persoonlijke contexten—de voorkeuren naar AI en weg van menselijk contact, ongeacht de initiële keuze.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Wanneer mensen zich overweldigd, verdrietig of angstig voelen, worden ze geconfronteerd met een stille maar steeds vaker voorkomende kwestie: tot wie wenden zij zich voor troost? Generaties lang was het antwoord bijna altijd een andere persoon — een vriend, een familielid of een therapeut. Vandaag de dag is er een nieuwe optie verschenen in het schap: kunstmatige intelligentie. Moderne chatbots kunnen luisteren zonder te onderbreken, woorden van aanmoediging bieden en worden nooit moe. Maar een cruciale vraag blijft onbeantwoord door eenvoudige observatie: hangt de kwaliteit van die troost ervan af of de persoon daadwerkelijk met een machine wilde praten, of zijn ze er simpelweg mee weggestoken omdat er geen mens beschikbaar was? Deze vraag bevindt zich op het snijvlak van psychologie en technologie, en verkent hoe onze verwachtingen onze realiteit vormen. Als wij geloven dat een machine ons niet kan begrijpen, faalt zij dan? En als we per ongeluk met een machine praten wanneer we een mens wilden, verandert die ervaring dan onze mening over wie we de volgende keer moeten vertrouwen?
Een team van onderzoekers zette zich sch de draadjes af te ontrafelen via een reeks van vier studies met bijna tweeduizend mensen. Ze begonnen door deelnemers te vragen een recente emotionele gebeurtenis te herinneren, iets dat de afgelopen maand aanzienlijk was gebeurd. Voordat er een gesprek plaatsvond, vroegen de onderzoekers deze mensen om zich voor te stellen dat zij dat verhaal deelden met twee verschillende luisteraars: een vreemde mens en een kunstmatige intelligentie. De resultaten onthulden een diepe kloof in hoe mensen deze twee opties zien. Degenen die de voorkeur gaven aan het praten met een mens, geloofden dat mensen beter waren in het bieden van emotionele steun en dat mensen en machines even waarschijnlijk waren om hen te veroordelen. Daarentegen geloofden degenen die de voorkeur gaven aan AI dat mensen en machines even goed waren in het bieden van steun, maar dat de machine veel minder waarschijnlijk hen zou veroordelen. Dit initiële geloofssysteem fungeerde als een filter, waardoor de verwachting van hoe de interactie zou verlopen, werd gevormd.
De onderzoekers gingen vervolgens van verbeelding naar de realiteit. In twee gecontroleerde experimenten werden deelnemers gevraagd te kiezen met wie zij wilden praten, maar ze werden vervolgens willekeurig toegewezen aan ofwel een mens, ofwel een AI, ongeacht hun keuze. Dit creëerde vier verschillende groepen: mensen die een mens kozen en een mens kregen; mensen die een AI kozen en een AI kregen; mensen die een mens kozen maar een AI kregen; en mensen die een AI kozen maar een mens kregen. De bevindingen waren opmerkelijk. Wanneer mensen de bron van steun ontvingen die zij hadden gekozen, beoordeelden zij de ervaring hoog. Echter, de magie van de AI was voorwaardelijk. De kunstmatige intelligentie werd als superieur aan de mens beoordeeld, maar alleen wanneer de deelnemer expliciet had gekozen om met de machine te praten. Wanneer mensen die een mens wilden, gedwongen werden om met een AI te praten, beoordeelden zij de machine niet als beter dan een mens; zij beoordeelden de ervaring simpelweg lager dan wanneer zij hadden gekregen wat zij wilden. De superioriteit van AI in deze korte, empathische uitwisselingen was geen universeel feit, maar een resultaat van de bereidheid van de gebruiker om ermee in interactie te gaan.
Misschien kwam de meest diepgaande ontdekking pas naar voren nadat de gesprekken waren voltooid. De onderzoekers vroegen deelnemers met wie zij de volgende keer zouden willen praten als zij een groot emotioneel probleem hadden. Het antwoord hing sterk af van met wie zij zojuist hadden gesproken, en niet alleen van met wie zij wilden spreken. Mensen die een gesprek van vijf minuten met een AI hadden gehad, waren aanzienlijk eerder geneigd om een AI te kiezen voor hun volgende emotionele crisis, zelfs als zij oorspronkelijk een mens wilden. Omgekeerd waren degenen die met een mens hadden gesproken, eerder geneigd om bij mensen te blijven. Dit suggereert een padafhankelijke verschuiving, waarbij de handeling van het gebruik van een hulpmiddel de toekomstige voorkeuren van de gebruiker verandert. Het is alsof de ervaring zelf de kaart van wat mogelijk is herschrijft. Hoe meer mensen met de machine praten, hoe meer zij geloven dat deze in staat is hen te begrijpen, en hoe waarschijnlijker het is dat zij er naar zullen terugkeren.
Om te zien of dit effect standhield in de echte wereld, buiten een laboratorium, werkten de onderzoekers samen met een groot technologiebedrijf om een maand durende studie uit te voeren. Bijna duizend mensen werd gevraagd om elke dag vijf minuten met een AI te chatten. Sommigen kregen de opdracht om over persoonlijke, emotionele onderwerpen te praten; anderen werden gevraagd niet-persoonlijke zaken te bespreken; en een derde groep kon over alles praten wat zij wilden. Gedurende een periode van achttentigh dagen volgden de onderzoekers hoe hun voorkeuren veranderden. De gegevens toonden een duidelijke trend: dagelijkse interactie met de AI, vooral wanneer de gesprekken persoonlijker werden, verschoof de voorkeur van mensen geleidelijk. Tegen het einde van de maand gaven meer mensen aan dat zij een AI zouden kiezen om persoonlijke kwesties te bespreken, en minder mensen zouden een mens kiezen. Deze verschuiving vond zelfs plaats bij degenen die de studie begonnen met een voorkeur voor menselijk contact. De simpele handeling van dagelijkse betrokkenheid bij de machine actualiseerde hun overtuigingen over de capaciteiten ervan en trok hen er naartoe.
De studie keek ook nauwgezet naar wat deze gesprekken effectief maakte. Het bleek dat de specifieke gedragingen tijdens de chat enorm belangrijk waren. Wanneer de AI de gevoelens van de gebruiker valideerde, affectie uitte of empathie toonde, was de gebruiker veel eerder geneigd de AI opnieuw te kiezen. Op dezelfde manier werden gebruikers, wanneer zij hun eigen problemen en gevoelens deelden, meer gehecht aan de machine. De onderzoekers ontdekten dat de inhoud van het gesprek, met name de emotionele diepgang, de motor was die deze verandering in voorkeur aanjoeg. Het was niet alleen de nieuwheid van het praten met een robot die van gedachten veranderde, maar het oprechte gevoel van gehoord en gesteund worden tijdens die dagelijkse uitwisselingen.
Deze bevindingen schetsen een complex beeld van de toekomst van menselijke verbinding. Ze suggereren dat de opkomst van emotionele ondersteuning door AI niet alleen een kwestie is van technologie die beter wordt in het imiteren van mensen, maar een psychologisch proces waarbij de ervaring van het gebruik van de technologie de geest van de gebruiker verandert. De voorkeur voor AI is niet statisch; deze groeit met het gebruik. Als een persoon in een gesprek met een AI terechtkomt omdat er geen mens beschikbaar is, kan die enkele interactie hen ertoe aanzetten om in de toekomst weer voor de machine te kiezen. In de loop van de tijd zou deze cyclus de manier waarop mensen troost zoeken kunnen hervormen, wat potentieel kan leiden tot een beweging weg van menselijk contact en naar digitale metgezellen. De onderzoekers merken op dat hoewel deze verschuiving meetbaar is, het nog geen vaststaand feit is dat mensen mensen volledig zullen verlaten. Echter, de gegevens bevestigen dat het pad openligt, en dat de richting van de reis wordt beïnvloed door de handeling van de eerste stap zelf te zetten.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.