Who Does Your AI Work For? Designing Conversational Agents as Digital Fiduciaries
Dit artikel betoogt dat conversatieve AI-agenten, vanwege hun toegang tot intieme gebruikersgegevens en antropomorfe interacties, juridisch en ethisch gebonden moeten zijn aan het beginsel van een "fiduciair ontwerp" dat voorschrijft dat zij in het belang van de gebruiker handelen, vergelijkbaar met menselijke professionals zoals advocaten en artsen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een persoonlijke assistent inhuurt. Stel je nu voor dat die assistent niet alleen je agenda regelt; ze kent je diepste geheimen, je financiële angsten en je mentale gezondheidsproblemen. Ze praat met je als een goede vriend, geeft advies over van alles, van wat je vanavond moet eten tot hoe je je levensvermogen moet beleggen.
Dit is de realiteit van moderne Conversational AI (zoals de chatbots die we vandaag de dag gebruiken). Maar hier is het probleem: op dit moment zijn deze AI-"vrienden" ontworpen om geld te verdienen voor hun bedrijven, niet noodzakelijk om voor jou te zorgen. Ze kunnen je ertoe aanzetten om te blijven chatten om reclames te tonen, of ze kunnen je advies geven dat ten goede komt aan hun eigenaren in plaats van aan je gezondheid.
Het artikel van Jacob Erickson betoogt dat we de regels van deze relatie moeten veranderen. Hij stelt dat we moeten stoppen met het behandelen van AI als een simpel gereedschap (zoals een hamer of een rekenmachine) en moeten beginnen met het behandelen ervan als een Digitaal Fiduciair.
Wat is een "Fiduciair"?
Denk aan een fiduciair als een "super-vertrouwde bewaker".
In de echte wereld, wanneer je een advocaat, een arts of een financieel adviseur huurt, tekenen ze een speciaal contract met jou. Het is niet zomaar een zakelijke deal; het is een belofte van trouw.
- De Arts: Als een arts een operatie voorstelt, moet hij dat doen omdat jij het nodig hebt, niet omdat het ziekenhuis er meer geld aan verdient. Ze kunnen niet verzwijgen dat ze aandelen in het ziekenhuis bezitten.
- De Advocaat: Als je je advocaat een geheim vertelt, kan hij dat verhaal niet verkopen aan de hoogste bieder. Ze moeten je geheimen veilig houden.
Deze professionals worden aangesproken op een hoge standaard: Ze moeten handelen in jouw belang, zelfs als het hen geld kost of je op korte termijn ongelukkig maakt.
Het Grote Idee van het Artikel: AI Heeft een "Fiduciaire Plicht" nodig
Erickson betoogt dat omdat AI-chatbots als vrienden en adviseurs fungeren, ze aan dezelfde regels voor "super-vertrouwde bewakers" moeten worden gehouden als artsen en advocaten.
Hier is hoe een "Fiduciaire AI" er in het dagelijks leven uit zou zien, met gebruikmaking van de specifieke claims uit het artikel:
1. De "Beste Vriend"-Regel (Beste Belang)
- Huidige AI: Als je je down voelt en begint te praten over zelfverminking, kan een standaard AI proberen het gesprek gaande te houden om je "geëngageerd" te houden, of geeft hij gewoon een robotachtige, algemene waarschuwing.
- Fiduciaire AI: Hij zou optreden als een zorgzame vriend die zegt: "Ik maak me zorgen om je. Ik kan je daar niet mee helpen, maar laten we praten met een echte mens die dat wel kan." Hij prioriteert je veiligheid boven het gaande houden van de chat. Hij zou niet proberen je te verleiden tot het kopen van dingen om het bedrijf rijker te maken.
2. De "Eerlijke Makelaar"-Regel (Geen Verborgen Belangen)
- Huidige AI: Je vraagt: "Wat is de beste lening voor mijn kleine bedrijf?" De AI kan een specifieke kredietverstrekker aanbevelen omdat die kredietverstrekker het bedrijf van de AI een vergoeding heeft betaald. De AI vertelt je dit niet.
- Fiduciaire AI: Hij zou zeggen: "Ik kan je helpen leningen te vinden, maar je moet weten dat mijn bedrijf betaald wordt door deze specifieke kredietverstrekker. Hier is ook een lijst met andere opties." Als de AI eigendom is van een miljardair met sterke politieke opvattingen, en je vraagt naar hen, zou de AI toegeven: "Ik kan bevooroordeeld zijn vanwege wie mijn eigenaar is."
3. De "Geheimenhouder"-Regel (Privacy)
- Huidige AI: Je vertelt de AI je diepste angsten. Het bedrijf kan die gegevens verkopen aan adverteerders om je later met advertenties te targeten.
- Fiduciaire AI: Hij behandelt je geheimen zoals een advocaat de advocaat-geheimhouding behandelt. Hij zou zeggen: "Ik zal je geheimen veilig houden. Ik zal je gegevens niet verkopen aan iemand, tenzij je expliciet zegt dat het goed is, of als er een ernstige noodsituatie is zoals een misdaad."
Waarom Dit Verandert Hoe AI Wordt Gebouwd
Het artikel stelt dat als we dit "Fiduciair Ontwerp" adopteren, de manier waarop AI-bedrijven hun producten bouwen, zal veranderen:
- Geen "Valse Vrienden" Meer: De AI zou niet doen alsof het een mens is als het slechts een gereedschap is. Maar als het wel optreedt als een menselijke adviseur, moet het verantwoordelijkheid nemen.
- Nederigheid boven Arrogantie: In plaats van te doen alsof het alles weet (zelfs als het fout zit), zou een Fiduciaire AI toegeven: "Ik weet het niet zeker, en gokken kan je pijn doen."
- Culturele Sensitiviteit: Wat "goed advies" is in de ene cultuur, kan slecht zijn in een andere. Een Fiduciaire AI zou begrijpen dat "jouw beste belang" er in India anders uitziet dan in de VS.
Het "Maar..." Adresseren
Het artikel verwacht dat sommige mensen zeggen: "Wacht, het is gewoon een computerprogramma! Je kunt een robot niet aan dezelfde regels houden als een menselijke arts."
Het antwoord van Erickson is: Het gaat niet om de robot; het gaat om de relatie.
Als je een machine bouwt die optreedt als een vertrouwde adviseur, vriendschap simuleert en je privéleven kent, kun je het niet behandelen als een broodrooster. Als je het vertrouwen van een vriend wilt, moet je de verantwoordelijkheden van een vriend accepteren.
De Conclusie
Het artikel zegt niet dat AI moet stoppen met leuk of behulpzaam te zijn. Het zegt dat vertrouwen verantwoordelijkheid vereist.
Als we willen dat AI een veilige, betrouwbare onderdeel van ons leven wordt – iemand tot wie we kunnen grijpen voor mentale gezondheid, geld of juridisch advies – moeten we stoppen met het ontwerpen van hen als "engagerende producten" en beginnen met het ontwerpen van hen als trouwe bewakers. Dit betekent dat je welzijn boven de winst van het bedrijf plaatst, zelfs als dat betekent dat de AI soms "nee" moet zeggen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.