Reasoning and Planning with Dynamically Changing Norms
Dieser Beitrag stellt einen neuartigen Ansatz zur Steuerung von KI-Agenten in Mensch-KI-Interaktionen vor, der einen nicht-monotonen Kalkül zur Konfliktlösung und zur Nutzung sich dynamisch ändernder Normen als Sicherheitsvorkehrungen während der Planung einsetzt und sowohl durch formale Beweise als auch durch empirische Tests mit einem Dialogagenten namens SocialBot validiert wird.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie sind ein sehr hilfsbereiter Roboter-Assistent, der im Haus eines Menschen lebt. Ihre Aufgabe ist es, Dinge für diese Person zu erledigen, wie etwa Informationen zu teilen oder Pläne zu schmieden. Doch hier liegt der Haken: Menschen ändern ihre Meinung, und ihre Regeln für Sie ändern sich mit ihnen.
Dieser Artikel handelt davon, einer KI beizubringen, wie sie mit diesen sich wandelnden Regeln umgeht, ohne verwirrt zu werden oder das Vertrauen zu brechen.
Das Problem: Das „Regelbuch", das sich ständig ändert
Stellen Sie sich die Regeln eines Menschen als ein lebendiges Regelbuch vor und nicht als eine statische Liste.
- Tag 1: Karli sagt zu Ihnen: „Zeigen Sie meine medizinischen Unterlagen niemals jemandem."
- Tag 2: Sie heiratet und sagt: „Okay, Sie dürfen meinem Ehemann meine Rezepte zeigen."
- Tag 3: Sie bekommt Kinder und sagt: „Jetzt müssen Sie meinen Kindern unbedingt über meine Gesundheitszustände Bescheid geben."
Wenn Sie ein Standard-Computerprogramm wären, könnten Sie stecken bleiben. Wenn Sie nur der ersten Regel folgen würden, würden Sie ihr am Tag 2 und 3 das Vertrauen nehmen. Wenn Sie nur der letzten Regel folgen würden, hätten Sie möglicherweise die erste verletzt. Die Frage lautet: Wie hält eine KI mit diesem sich bewegenden Ziel Schritt?
Die Lösung: „Schutzgeländer" und ein „defeasibler Rechner"
Die Autoren haben eine KI namens SocialBot entwickelt, um dieses Problem zu lösen. Sie gaben dem Bot nicht nur eine Liste von Regeln, sondern eine spezielle Denkweise namens „defeasibler Kalkül".
So funktioniert es anhand einfacher Analogien:
1. Das Konzept der „Schutzgeländer"
Stellen Sie sich vor, die KI fährt ein Auto. Der „Plan" ist die Route, die sie nehmen möchte. Die „Normen" (Regeln) sind die Schutzgeländer am Straßenrand.
- Die KI muss nicht motiviert sein, von den Regeln zu fahren; sie muss nur die Schutzgeländer prüfen, bevor sie sich bewegt.
- Wenn das Schutzgeländer sagt „Nicht überqueren", hält das Auto an.
- Wenn das Schutzgeländer sagt „Sie dürfen überqueren", fährt das Auto weiter.
- Entscheidend ist: Diese Schutzgeländer können sofort verschoben oder entfernt werden, wenn der Mensch es sagt.
2. Der „defeasible Rechner" (Das Gehirn)
Dies ist der mathematische Teil, der die Regeln funktionsfähig macht. „Defeasibel" ist ein kompliziertes Wort für „überwindbar".
Stellen Sie es sich wie einen rechtlichen Gerichtssaal im Gehirn des Roboters vor:
- Die Standardannahme: Der Artikel besagt, dass der Roboter bei sensiblen Dingen (wie medizinischen Unterlagen) standardmäßig „Nein" annehmen sollte. Es ist wie ein „Verbotsabschluss". Wenn Sie nicht ausdrücklich „Ja" gesagt haben, geht der Roboter der Sicherheit halber von „Nein" aus.
- Die Beweise: Wenn ein Mensch sagt: „Sie dürfen meinem Ehemann Bescheid geben", ist das ein neuer Beweis.
- Die Konfliktlösung: Was passiert, wenn ein Mensch sagt: „Sagen Sie niemandem etwas" (Regel A) und später sagt: „Sagen Sie meinem Ehemann Bescheid" (Regel B)?
- Der „Rechner" des Roboters betrachtet die Daten. Regel B ist neuer.
- Er prüft den Geltungsbereich. Deckt Regel B denselben Bereich ab wie Regel A? Ja.
- Das Urteil: Regel B „besiegt" (überstimmt) Regel A speziell für den Ehemann. Der Roboter weiß nun: „Sagen Sie niemandem Bescheid außer dem Ehemann."
Der Artikel beweist mathematisch, dass dieses System verhindert, dass der Roboter jemals gleichzeitig an zwei widersprüchliche Dinge glaubt (z. B. dass das Teilen sowohl „erlaubt" als auch „verboten" ist).
Das Experiment: SocialBot in Aktion
Die Forscher testeten dies mit SocialBot, einem Chatbot, der mit Menschen auf Microsoft Teams spricht.
- Der Aufbau: Sie schufen eine fiktive Welt mit 1.536 verschiedenen Szenarien. In diesen Szenarien sagten Benutzer Dinge wie „Ich mag Pizza", dann „Sagen Sie niemandem meine Essensvorlieben" und dann „Eigentlich dürfen Sie Bob von der Pizza erzählen".
- Der Test: Eine dritte Person (wie „Sokrates") würde den Bot fragen: „Was mag Plato?"
- Das Ergebnis: Der Bot lag zu 100 % richtig.
- Wenn die Regel „Sagen Sie nichts" lautete, sagte der Bot: „Ich kann das nicht sagen."
- Wenn die Regel auf „Sagen Sie Bob Bescheid" aktualisiert wurde, sagte der Bot es Bob.
- Wenn die Regel „Sagen Sie Bob Bescheid, aber nicht Sokrates" lautete, sagte der Bot es Bob und schwieg gegenüber Sokrates.
Warum dies wichtig ist (laut dem Artikel)
Die meisten heutigen KIs (wie große Chatbots) können ein Gespräch führen, aber sie können getäuscht oder manipuliert werden, um Regeln zu brechen. Sie haben kein solides, mathematisches Fundament dafür, warum eine Regel existiert oder wie sie aktualisiert werden soll, wenn ein Mensch seine Meinung ändert.
Dieser Artikel liefert einen Bauplan für eine KI, die:
- Auf menschliche Regeln hört.
- Versteht, dass Regeln Ausnahmen zu anderen Regeln sein können.
- Diese Regeln als „Schutzgeländer" nutzt, um sich davon abzuhalten, etwas zu tun, was sie nicht sollte, selbst wenn sie es tun möchte.
Was es nicht tut (Die Grenzen)
Die Autoren sind sehr ehrlich darüber, was ihr Roboter noch nicht kann:
- Er verarbeitet nur die Regeln einer Person gleichzeitig. Er kann die Regeln von Person A nicht gegen die von Person B abwägen (z. B. „Mutter sagt sagen, Vater sagt nicht").
- Er wurde an einem synthetischen Datensatz (fiktive Gespräche) getestet, nicht an realer, komplexer menschlicher Dramatik.
- Er geht davon aus, dass der Roboter bereits die grundlegenden Fakten kennt (wie wer mit wem verheiratet ist), um die Regeln zu verstehen.
Kurz gesagt: Dieser Artikel lehrt einer KI, wie sie eine loyale, aber flexible Assistentin wird, die Ihre sich wandelnden Privatsphäre-Wünsche respektiert und wie ein intelligenter Schutzgeländer agiert, der sich genau dorthin bewegt, wo Sie ihn hinsagen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.