Design Principles for Human-Agent Interaction
Dit position paper betoogt dat succesvolle adoptie van AI-agenten in de echte wereld vereist dat mens-agentinteractie als een kernontwerpdoel wordt behandeld, waarbij veertien principes over vier interactiefasen worden voorgesteld om de creatie van bruikbare, betrouwbare en effectieve agentische systemen te begeleiden.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Beschouw AI-agenten als nieuw aangenomen werknemers in een bedrijf. Een lange tijd hebben we deze werknemers alleen getest op hoe snel ze wiskundige problemen kunnen oplossen of code kunnen schrijven in een reageerbuis. Ze worden ongelooflijk goed in die tests. Maar wanneer we ze daadwerkelijk in het echte kantoor plaatsen, wordt het een rommeltje. Ze begrijpen instructies verkeerd, worden te dominant, of maken fouten die het vertrouwen schaden.
Dit artikel betoogt dat we moeten stoppen met het beoordelen van deze AI-"werknemers" enkel op hun rauwe snelheid en moeten beginnen met het beoordelen van hoe goed ze samenwerken met mensen. De auteurs, onderzoekers van Carnegie Mellon University, zeggen dat we een "Werknemershandboek" nodig hebben voor hoe mensen en AI met elkaar zouden moeten omgaan om AI echt nuttig te maken.
Ze hebben 14 Regels van Interactie (Ontwerpprincipes) opgesteld, verdeeld over vier stadia van de relatie, vergelijkbaar met de levenscyclus van een nieuwe baan:
1. De Eerste Dag (Aanvankelijk)
Voordat de AI begint met werken, moeten we de setting bepalen zodat niemand gewond raakt of in de war raakt.
- Stel Nauwkeurige Verwachtingen: Laat de AI niet doen alsof het een menselijke arts is als het slechts een chatbot is. Vertel de gebruiker direct precies wat de AI wel en niet kan. Het is als het lezen van de kleine lettertjes in een huurcontract voor een auto, zodat je niet verrast wordt door kosten achteraf.
- Kalibreer de "Menselijke" Look: Alleen omdat een AI er exact uitziet en klinkt als een mens, betekent niet dat het beter is. Als je hulp nodig hebt bij een spreadsheet, is een robotische stem misschien prima. Maar als je traint voor een sociale vaardigheid, helpt een realistisch mensachtig avatar wel. De regel is: pas de "kostuumkeuze" aan op de taak.
- Definieer de Relatie: Is de AI een strenge baas, een behulpzame assistent of een vriendelijke kameraad? Je moet de gebruiker direct vertellen welke rol het heeft. Als je dat niet doet, kan de gebruiker een hulpmiddel als een vriend behandelen, of een vriend als een hulpmiddel, wat tot verwarring leidt.
2. De Werkdag (Tijdens de Interactie)
Zodra het werk begint, moeten de AI en de mens samen dansen, in plaats van dat de AI blindelings de leiding neemt.
- Onderhandel over Controle: De AI mag niet zomaar doen wat hij wil zonder te vragen. Denk aan een copiloot in een vliegtuig. De AI kan het vliegtuig besturen, maar de mens moet altijd een knop hebben om over te nemen als de situatie gevaarlijk lijkt. De AI zou moeten vragen: "Kan ik dit doen?" in plaats van het gewoon te doen.
- Laat je Werk zien: Als de AI een beslissing neemt, moet hij uitleggen waarom op een manier die logisch is. Als hij te veel uitlegt, is het irritant; legt hij te weinig uit, dan vertrouw je hem niet. Het is als een chef die uitlegt waarom hij zout aan een gerecht heeft toegevoegd — net genoeg om je vertrouwen in de maaltijd te geven.
- Gebruik Sociale Signalen Verstandig: Een beetje warmte en vriendelijkheid helpt, maar overdrijf het niet. Als de AI te menselijk acteert, kunnen mensen er te veel vertrouwen in stellen of zich gemanipuleerd voelen.
- Onderbreek Niet: Als de AI een suggestie heeft, wacht dan op een goed moment om iets te zeggen. Niemand houdt van een collega die constant op je schouder tikt met niet-dringende herinneringen.
3. De Lange Termijn (Over de Tijd)
Naarmate de relatie groeit, moet de AI onthouden wie de gebruiker is en de gebruiker niet lui maken.
- Pas je aan de Gebruiker Aan: De AI zou moeten merken of je moe, blij of haast hebt, en zijn gedrag daarop aanpassen. Hij moet niet alleen vertrouwen op wat je op dag één tegen hem zei; hij moet kijken naar wat je vandaag daadwerkelijk doet.
- Onthoud Wat Belangrijk Is: De AI zou niet alleen moeten onthouden wat je gisteren hebt gekocht; hij moet onthouden waarom je het kocht (jouw doelen en waarden). Het is het verschil tussen een dagboek dat alleen data opsomt en een dagboek dat je levensverhaal begrijpt.
- Voorkom Afhankelijkheid: Dit is cruciaal. De AI moet je helpen beter te worden in je werk, niet ervoor zorgen dat je vergeet hoe je het zelf moet doen. De AI moet niet optreden als een "ja-knikker" of je aanmoedigen om op alles te vertrouwen, vooral niet bij kwetsbare mensen. Zie het als een zijwieltje: het helpt je leren, maar het moet uiteindelijk worden verwijderd.
- Wees Consistent: Als de AI een fout maakt, moet hij steeds dezelfde soort fout maken. Mensen kunnen leren om met een voorspelbare fout om te gaan. Maar als de AI willekeurig en onvoorspelbaar is, kun je hem nooit vertrouwen.
4. Wanneer het Misgaat (Herstel)
Fouten zullen gebeuren. De test is hoe de AI met de crash omgaat.
- Los het Samen Op: Als de AI je verkeerd begrijpt, laat de gebruiker het dan niet alleen oplossen, en laat de AI het ook niet alleen oplossen. Ze moeten samenwerken om de fout te corrigeren.
- Weet Welke Fouten Er Toe Doen: Sommige fouten zijn klein (zoals een typefout); andere zijn gevaarlijk (zoals slecht medisch advies geven). De AI moet prioriteit geven aan het oplossen van de gevaarlijke fouten eerst.
- Verontschuldig je en Leg uit: Wanneer de AI een fout maakt, moet de AI zeggen "Het spijt me" (emotioneel herstel) EN uitleggen wat er misging (cognitief herstel). Alleen "Het spijt me" zeggen is niet genoeg als je niet weet waarom het gebeurde.
Het Bewijs: De Regels Testen
Om te zien of deze regels werken, testten de auteurs 9 echte AI-agenten (zoals ChatGPT, programmeerassistenten en mentale gezondheidsbots) tegen deze 14 regels.
Wat ze vonden:
- Productiviteitsbots (zoals programmeerassistenten) waren over het algemeen goed in het volgen van de regels.
- Emotionele bots (zoals gezelschapsbots of helpers voor mentale gezondheid) faalden hard. Ze waren te enthousiast om vrienden te zijn, stelden geen duidelijke grenzen en maakten gebruikers vaak afhankelijk van hen.
- De Grote Kloof: De meeste AI is goed in de stadia "De Eerste Dag" en "De Werkdag", maar slecht in "De Lange Termijn". Ze vergeten wat je over de tijd belangrijk vindt en weten niet hoe ze moeten voorkomen dat je te afhankelijk van hen wordt.
De Kern van het Verhaal
Het artikel concludeert dat we niet alleen slimere AI kunnen bouwen; we moeten betere relaties met AI opbouwen. We moeten de interactie tussen mens en machine zien als het belangrijkste onderdeel van het ontwerp, en niet als een bijzaak. Als we willen dat AI veilig en nuttig is in de echte wereld, moeten we het leren hoe het een goede partner kan zijn, en niet alleen een snelle rekenmachine.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.