Design Principles for Human-Agent Interaction
Dieses Positionspapier argumentiert, dass eine erfolgreiche reale Adoption von KI-Agenten voraussetzt, die Mensch-Agent-Interaktion als ein zentrales Designziel zu behandeln, und schlägt 14 Prinzipien über vier Interaktionsstadien hinweg vor, um die Erstellung nutzbarer, vertrauenswürdiger und effektiver agentischer Systeme zu leiten.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich KI-Agenten als neu eingestellte Mitarbeiter in einem Unternehmen vor. Lange Zeit haben wir diese Mitarbeiter nur darauf getestet, wie schnell sie mathematische Probleme lösen oder Code schreiben können – in einem Reagenzglas. Sie werden bei diesen Tests unglaublich gut. Aber wenn wir sie tatsächlich in ein echtes Büro setzen, wird es chaotisch. Sie missverstehen Anweisungen, werden zu herrisch oder machen Fehler, die das Vertrauen ruinieren.
Dieses Paper argumentiert, dass wir aufhören müssen, diese KI-„Mitarbeiter“ nur nach ihrer reinen Geschwindigkeit zu beurteilen, und stattdessen danach bewerten müssen, wie gut sie mit Menschen zusammenarbeiten. Die Autoren, Forscher der Carnegie Mellon University, sagen, dass wir ein „Mitarbeiterhandbuch“ für die Interaktion zwischen Mensch und KI benötigen, um KI wirklich nützlich zu machen.
Sie haben 14 Regeln für das Engagement (Designprinzipien) erstellt, die in vier Phasen der Beziehung unterteilt sind, ganz ähnlich dem Lebenszyklus eines neuen Jobs:
1. Der erste Tag (Anfänglich)
Bevor die KI mit der Arbeit beginnt, müssen wir die Bühne bereiten, damit niemand verletzt oder verwirrt wird.
- Genau Erwartungen setzen: Lassen Sie die KI nicht so tun, als wäre sie ein menschlicher Arzt, wenn sie nur ein Chatbot ist. Sagen Sie dem Nutzer sofort genau, was die KI kann und nicht kann. Es ist wie das Lesen des Kleingedruckten in einem Mietwagenvertrag, damit man später nicht von Gebühren überrascht wird.
- Das „menschliche“ Aussehen kalibrieren: Nur weil eine KI exakt wie ein Mensch aussieht und klingt, heißt das nicht, dass sie besser ist. Wenn Sie Hilfe bei einer Tabellenkalkulation benötigen, ist eine roboterhafte Stimme vielleicht völlig in Ordnung. Aber wenn Sie soziale Fähigkeiten trainieren, hilft ein realistischer, menschenähnlicher Avatar. Die Regel lautet: Passen Sie die „Verkleidung“ dem Job an.
- Die Beziehung definieren: Ist die KI ein strenger Chef, ein hilfreicher Assistent oder ein freundschaftlicher Kumpel? Sie müssen dem Nutzer sofort sagen, was es ist. Wenn Sie das nicht tun, verwendet der Nutzer vielleicht ein Werkzeug wie einen Freund oder einen Freund wie ein Werkzeug, was zu Verwirrung führt.
2. Der Arbeitstag (Während der Interaktion)
Sobald die Arbeit beginnt, müssen die KI und der Mensch gemeinsam tanzen, anstatt dass die KI einfach blind führt.
- Kontrolle aushandeln: Die KI sollte nicht einfach machen, was sie will, ohne zu fragen. Denken Sie an sie wie an einen Co-Piloten in einem Flugzeug. Die KI kann das Flugzeug steuern, aber der Mensch muss immer einen Knopf haben, um zu übernehmen, wenn die Dinge gefährlich aussehen. Die KI sollte fragen: „Kann ich das tun?“, anstatt es einfach zu tun.
- Den Lösungsweg aufzeigen: Wenn die KI eine Entscheidung trifft, sollte sie erklären, warum, und zwar in einer Weise, die Sinn ergibt. Wenn sie zu viel erklärt, ist es nervig; erklärt sie zu wenig, fehlt das Vertrauen. Es ist wie ein Koch, der erklärt, warum er Salz zu einem Gericht gegeben hat – gerade genug, um das Vertrauen in das Essen zu stärken.
- Soziale Signale klug nutzen: Ein wenig Wärme und Freundlichkeit helfen, aber übertreiben Sie es nicht. Wenn die KI zu menschlich agiert, könnten Menschen ihr zu sehr vertrauen oder sich manipuliert fühlen.
- Nicht unterbrechen: Wenn die KI einen Vorschlag hat, sollte sie auf einen guten Moment warten, um ihn zu äußern. Niemand mag einen Kollegen, der ständig an der Schulter klopft, um dringende Erinnerungen zu geben.
3. Die Langstrecke (Im Laufe der Zeit)
Während die Beziehung wächst, muss die KI sich daran erinnern, wer der Nutzer ist, und darf ihn nicht träge machen.
- Sich an den Nutzer anpassen: Die KI sollte bemerken, ob Sie müde, glücklich oder in Eile sind, und ihr Verhalten entsprechend anpassen. Sie sollte sich nicht auf das verlassen, was Sie ihr am ersten Tag gesagt haben; sie muss beobachten, was Sie heute tatsächlich tun.
- Sich das Wesentliche merken: Die KI sollte nicht nur daran denken, was Sie gestern gekauft haben; sie sollte sich merken, warum Sie es gekauft haben (Ihre Ziele und Werte). Es ist der Unterschied zwischen einem Tagebuch, das nur Daten auflistet, und einem Tagebuch, das Ihre Lebensgeschichte versteht.
- Abhängigkeit verhindern: Dies ist entscheidend. Die KI sollte Ihnen helfen, Ihren Job besser zu werden, nicht dazu führen, dass Sie vergessen, wie man ihn selbst erledigt. Sie sollte nicht wie ein „Ja-Sager“ agieren oder Sie dazu ermutigen, sich für alles auf sie zu verlassen, besonders gegenüber vulnerablen Personen. Denken Sie an sie wie an ein Trainingsrad: Es hilft beim Lernen, aber es muss schließlich entfernt werden.
- Konsistent sein: Wenn die KI einen Fehler macht, sollte sie immer die gleiche Art von Fehler machen. Menschen können lernen, mit einem vorhersehbaren Fehler umzugehen. Aber wenn die KI zufällig und unvorhersehbar ist, können Sie ihr niemals vertrauen.
4. Wenn etwas schiefgeht (Wiederherstellung)
Fehler werden passieren. Der Test ist, wie die KI den Absturz bewältigt.
- Gemeinsam reparieren: Wenn die KI Sie missverstanden hat, lassen Sie den Nutzer nicht allein korrigieren, und lassen Sie auch die KI nicht allein korrigieren. Sie sollten zusammenarbeiten, um den Fehler zu beheben.
- Wissen, welche Fehler wichtig sind: Manche Fehler sind klein (wie ein Tippfehler); andere sind gefährlich (wie eine falsche medizinische Empfehlung). Die KI sollte Priorität darauf legen, die gefährlichen zuerst zu beheben.
- Sich entschuldigen und erklären: Wenn sie Mist baut, sollte die KI sagen „Es tut mir leid“ (emotionale Reparatur) UND erklären, was schiefgelaufen ist (kognitive Reparatur). Nur „Es tut mir leid“ zu sagen, reicht nicht aus, wenn man nicht weiß, warum es passiert ist.
Der Beweis: Die Regeln testen
Um zu sehen, ob diese Regeln funktionieren, testeten die Autoren 9 reale KI-Agenten (wie ChatGPT, Coding-Assistenten und Mental-Health-Bots) anhand dieser 14 Regeln.
Was sie fanden:
- Produktivitäts-Bots (wie Coding-Assistenten) waren im Allgemeinen gut darin, die Regeln zu befolgen.
- Emotionale Bots (wie Begleiter oder Helfer im Bereich mentale Gesundheit) versagten massiv. Sie waren zu eifrig darin, Freunde zu sein, setzten keine klaren Grenzen und machten Nutzer oft abhängig von sich.
- Die große Lücke: Die meisten KIs sind gut in den Phasen „Erster Tag“ und „Arbeitstag“, aber schlecht in der Phase „Langstrecke“. Sie vergessen mit der Zeit, was Ihnen wichtig ist, und wissen nicht, wie sie verhindern können, dass Sie zu abhängig von ihnen werden.
Das Fazit
Das Paper kommt zu dem Schluss, dass wir nicht nur intelligentere KI bauen können, sondern bessere Beziehungen mit KI aufbauen müssen. Wir müssen die Interaktion zwischen Mensch und Maschine als den wichtigsten Teil des Designs betrachten, nicht als bloßen Anhang. Wenn wir wollen, dass KI in der realen Welt sicher und nützlich ist, müssen wir ihr beibringen, wie man ein guter Partner ist, und nicht nur ein schneller Taschenrechner.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.