Delegation Asymmetry in Agentic Recommender Systems: Measuring Two-Sided Receptivity in Online Dating

In het digitale tijdperk van het vinden van de liefde is een nieuw soort helper gearriveerd. Stel je een gebruiker voor die, in plaats van zelf een bericht naar een potentiële match te typen, een computerprogramma vraagt om het voor hem of haar te schrijven. Dit is de belofte van "agentic" systemen, waarbij kunstmatige intelligentie fungeert als een persoonlijke assistent die gesprekken voert, dates screent en zelfs gemeenschappelijke grond onderhandelt voordat de mensen überhaupt met elkaar spreken. Jarenlang hebben onderzoekers bestudeerd of mensen bereid zijn deze hulpmiddelen te gebruiken om zichzelf te helpen. Maar een cruciaal puzzelstukje heeft ontbroken: de bereidheid van de persoon aan de andere kant om met een machine te praten. Alleen omdat iemand een bericht via een robot wil verzenden, betekent niet dat de ontvanger ook een bericht van een robot wil ontvangen. Deze spanning creëert een tweezijdige markt, vergelijkbaar met een telefoonnetwerk waarbij iedereen een bereid luisterend oor nodig heeft, niet alleen een spreker. Als de technologie sneller vordert dan de sociale acceptatie aan de andere zijde, zou het systeem kunnen instorten door een vloedgolf aan ongewenste geautomatiseerde berichten.

Een team van onderzoekers zette zich scharpe om dit delicate evenwicht te meten met behulp van gegevens van een groot online datingplatform. Ze ondervroegen duizenden actieve gebruikers, waarbij ze niet alleen vroegen of ze een AI zouden willen gebruiken om hun eigen berichten te schrijven, maar ook hoe ze erover zouden denken als iemand anders een AI zou gebruiken om naar hen te schrijven. Het doel was om te zien of deze twee houdingen — verzenden en ontvangen — hetzelfde waren, of dat het verschillende gevoelens waren die in verschillende richtingen konden trekken. De studie toonde aan dat ze inderdaad verschillend zijn. Hoewel de meeste mensen die bereid zijn om agent-berichten te verzenden ook bereid zijn om ze te ontvangen, zijn de twee groepen niet identiek. Belangrijker nog: de drempel om "ja" te zeggen is veel lager voor het verzenden dan voor het ontvangen. Het is aanzienlijk gemakkelijker om een gebruiker ervan te overtuigen een AI voor hen te laten spreken dan om hen te overtuigen te luisteren naar een AI die voor iemand anders spreekt.

De onderzoekers ontdekten een scherp contrast in hoe mensen deze technologie bekijken. Op een schaal van bereidheid ligt het punt waarop een gebruiker ermee instemt om een eigen agent in te zetten, veel lager dan het punt waarop zij ermee instemmen om te reageren op de agent van een tegenpartij. In de praktijk betekent dit dat veel meer mensen klaar zijn om geautomatiseerde berichten te verzenden dan klaar zijn om ze te ontvangen. De studie schatte dat het aantal mensen dat bereid is een agent in te zetten ongeveer drie keer zo hoog is als het aantal mensen dat bereid is er een te ontvangen. Dit creëert een structureel probleem: als een platform gebruikers simpelweg laat beslissen om hun agents in te schakelen, zal het resultaat een enorme hoeveelheid geautomatiseerde outreach zijn die bij deuren landt die stevig gesloten zijn. De onderzoekers berekenden dat onder een willekeurige koppeling van gebruikers slechts een klein deel van deze gerichte interacties daadwerkelijk tot een gesprek zou leiden. In hun simulaties resulteerde slechts tussen de vier en dertien procent van deze potentiële matches in een combinatie van een bereidwillige zender en een bereidwillige ontvanger.

Dit gat is niet slechts een statistische curiositeit; het onthult een diepe asymmetrie in de menselijke psychologie met betrekking tot automatisering. De studie identificeerde een specifieke groep gebruikers, die ongeveer een kwart van de populatie uitmaakt, die enthousiast willen een agent gebruiken om berichten te verzenden, maar een geautomatiseerd bericht van een ander resoluut zouden afwijzen. Deze gebruikers willen de efficiëntie en controle van een geautomatiseerde assistent voor zichzelf, maar beschouwen dezelfde technologie als indringend of onauthentiek wanneer deze van iemand anders komt. Het onderzoek benadrukte ook dat deze weerstand niet uniform is over alle demografieën. Vrouwen bleken bijvoorbeeld minder ontvankelijk voor zowel het verzenden als het ontvangen van agent-berichten dan mannen, een verschil dat de onderzoekers bevestigden als een werkelijke eigenschap in plaats van een fout in de formulering van de vragen. Bovendien was de wens om deze agents te gebruiken het hoogst onder gebruikers die al gefrustreerd waren over hun datingervaring, zij wiens matches er niet in slaagden om in gesprekken te veranderen. Dit suggereert dat de technologie het meest agressief wordt gezocht door degenen die zich in de meest emotioneel kwetsbare posities bevinden.

De implicaties voor de manier waarop deze systemen worden gebouwd zijn aanzienlijk. De studie testte verschillende ontwerpkeuzes om te zien hoe deze de effectiviteit van agent-bemiddelde dating zouden beïnvloeden. Eén optie was om wederkerigheid te vereisen, wat betekent dat een gebruiker alleen een agent-bericht kon verzenden als hij of zij ook bereid was om een dergelijk bericht te ontvangen. Hoewel dit eerlijkheid zou garanderen, toonde de simulatie aan dat dit het totale volume van interacties met de helft zou verminderen door twee derde van de potentiële zenders uit te sluiten. Een effectiever middel werd gevonden in de routering. Als het platform de gebruikers kon identificeren die het meest openstonden voor het ontvangen van agent-berichten en de geautomatiseerde contacten alleen naar hen kon sturen, zou de kwaliteit van de interactie drastisch verbeteren. Door berichten te routeren naar de meest ontvankelijke top 25 procent van de gebruikers, verdrievoudigde het succespercentage van de betrokkenheid per contact meer dan drie keer. Dit suggereert dat de sleutel tot het laten werken van deze systemen niet alleen het bouwen van betere agents is, maar het bouwen van betere filters die de grenzen van de ontvanger respecteren.

Uiteindelijk betogen de onderzoekers dat de toekomst van geautomatiseerde matchmaking afhangt van het behandelen van de toestemming van de ontvanger als een primair ontwerpkenmerk, en niet als een bijzaak. Momenteel richten de meeste systemen zich op het vermogen van de zender om opt-in te kiezen. Deze studie toont aan dat zonder een mechanisme om de voorkeur van de ontvanger te respecteren, het systeem gedoemd is te mislukken en een ongewenste stroom contacten zal genereren die het vertrouwen ondermijnt. De onderzoekers stellen voor dat platforms deze metingen moeten gebruiken om een "receptiviteitsscore" te creëren, waardoor ze agent-contacten kunnen routeren naar degenen die ze daadwerkelijk willen ontvangen, terwijl anderen alleen met mensen interageren. Deze aanpak zou niet alleen het succespercentage van de interacties verhogen, maar ook gebruikers beschermen tegen het gevoel te worden bedrogen door een machine waar zij niet mee ingestemd hebben. De bevindingen dienen als een waarschuwing dat enthousiasme voor een nieuwe technologie geen garantie biedt voor succes; de markt voor deze hulpmiddelen bestaat alleen als beide kanten van het gesprek bereid zijn deel te nemen.