Beyond Value Elicitation: Towards Moral Profiles in Early Requirements Engineering via Role-Playing Games and Anthropologist LLMs
Diese Studie schlägt einen neuartigen Ansatz im Requirements Engineering vor, der immersive Rollenspiele mit anthropologisch fundierten großen Sprachmodellen kombiniert, um die impliziten moralischen Profile der Nutzer als dynamische narrative Repräsentationen zu ermitteln und wiederherzustellen und damit die Grenzen traditioneller Methoden zur Wertelizitation zu überwinden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen zu verstehen, worauf ein Mensch wirklich Wert legt. Sie könnten ihn direkt fragen: „Was ist Ihr wichtigster Wert?" Doch oft wissen die Menschen die Antwort nicht oder können sie nicht erklären. Ihre Werte sind wie implizites Wissen – verdeckte Gewohnheiten und Bauchgefühle, die erst dann zutage treten, wenn sie tatsächlich etwas tun, nicht nur, wenn sie darüber sprechen.
Dieser Artikel schlägt eine neue Methode vor, um diese verborgenen Werte für Softwareentwickler aufzudecken. Anstatt einen langweiligen Fragebogen auszufüllen, nutzten die Forscher ein Rollenspiel (RPG) und einen speziellen KI-„Anthropologen", um für jeden Nutzer ein „Moralprofil" zu erstellen.
So funktioniert es, aufgeteilt in einfache Schritte:
1. Das Spiel: Ein digitales „Sim City" für Ethik
Die Forscher entwickelten ein Tabletop-Rollenspiel (ähnlich wie Dungeons & Dragons), das in der realen Welt der digitalen Privatsphäre spielt.
- Der Aufbau: Zehn echte Menschen spielten das Spiel. Sie agierten nicht als Fantasy-Zauberer, sondern als sie selbst.
- Die Handlung: Die Spieler erhielten gefälschte E-Mails, fanden einen verdächtigen Computer, trafen einen verwirrten älteren Nachbarn, der Hilfe bei einem Smartphone benötigte, und mussten entscheiden, ob sie einer zwielichtigen Website vertrauen oder die Polizei rufen.
- Die Wendung: Es gab keine „Gewinn-" oder „Verlustbedingungen". Das Ziel war nicht, Punkte zu sammeln, sondern Entscheidungen zu treffen.
- Der Zauber: Da es ein Spiel war, fühlten sich die Spieler sicher genug, um zu experimentieren. Sie stritten miteinander, fragten eine KI-„Orakel" um Rat und schrieben in ein Tagebuch, warum sie bestimmte Entscheidungen trafen. Dies schuf einen reichen Teppich aus Geschichten statt einer bloßen Liste von Antworten.
Die Analogie: Denken Sie daran wie an einen Flugsimulator. Sie lernen nicht, wie ein Pilot einen Sturm bewältigt, indem Sie ihn fragen: „Wie bewältigen Sie Stürme?" Sie beobachten ihn, wie er das Flugzeug fliegt, wenn das virtuelle Wetter schlecht wird. Das Spiel zwang die Spieler, durch ethische Dilemmata zu „fliegen" und enthüllte, wie sie sich tatsächlich unter Druck verhalten.
2. Die KI: Der „Anthropologen"-Detektiv
Sobald das Spiel vorbei war, hatten die Forscher einen Berg unordentlicher Daten: Audiopassagen, Tagebucheinträge, Chat-Protokolle mit der KI und Notizen des menschlichen Forschers.
- Das Problem: Ein Mensch, der all dies lesen würde, bräuchte Wochen.
- Die Lösung: Sie nutzten ein Large Language Model (LLM), aber sie baten es nicht einfach, den Text zusammenzufassen. Sie gaben der KI eine spezifische „Stellenbeschreibung": „Handeln Sie als Anthropologe."
- Das Training: Sie fütterten die KI mit einem „Lehrbuch" darüber, wie Anthropologen Menschen studieren. Dieses Lehrbuch lehrte die KI, nach folgendem zu suchen:
- Geschichten: Wie erklärte der Spieler seine Entscheidung?
- Kontext: Verhielt er sich anders wegen seiner Freunde?
- Widersprüche: Sagte er, er sei vorsichtig, nahm dann aber ein Risiko? (Die KI wurde angewiesen, diese Widersprüche nicht zu ignorieren, sondern als Teil der Geschichte zu behandeln).
- Die Ausgabe: Anstatt einer Checkliste mit „Werte: Privatsphäre, Ehrlichkeit, Sicherheit" schrieb die KI ein narratives Profil. Sie beschrieb die „moralische Welt" des Spielers als dynamische Geschichte. Zum Beispiel könnte sie sagen: „Dieser Spieler kennt die Regeln, gerät aber oft in die Dringlichkeit des Moments und verlässt sich darauf, dass seine Freunde die schwierigen Entscheidungen treffen."
Die Analogie: Stellen Sie sich einen Detektiv vor, der nicht nur den Ausweis eines Verdächtigen betrachtet (der Name und Alter auflistet). Stattdessen beobachtet der Detektiv, wie der Verdächtige mit Freunden interagiert, wie er auf eine Krise reagiert und wie er seine eigene Geschichte erzählt. Der Detektiv schreibt dann eine Biografie, die erklärt, wer die Person ist, statt nur ihre Statistiken aufzulisten.
3. Der Test: Hat das „Profil" funktioniert?
Um zu prüfen, ob diese Methode tatsächlich funktioniert, spielten die Forscher ein Ratespiel.
- Sie zeigten den Spielern einen neuen Satz von Privatsphären-Dilemmata (Fragen, die sie zuvor nicht gesehen hatten).
- Sie baten die KI, vorherzusagen, wie jeder Spieler antworten würde, basierend nur auf dem „Moralprofil", das sie nach dem Spiel verfasst hatte.
- Das Ergebnis: Die KI riet in 81 % der Fälle richtig.
- Eine Standard-KI (ohne das „Anthropologen"-Training) lag nur bei etwa 51 %.
- Dies beweist, dass das „Moralprofil" (die Geschichte) etwas Echtes über die Spieler erfasst hat, das eine einfache Liste von Werten verpasst hätte.
Warum dies für Software wichtig ist
Derzeit verwenden Softwareunternehmen, wenn sie wissen wollen, was Nutzer wollen, oft starre Kategorien (wie „Ich schätze Sicherheit"). Doch Menschen sind chaotisch und komplex.
- Alter Weg: Versuch, eine Person in eine Box mit dem Etikett „Privatsphäre-first" zu zwängen.
- Neuer Weg: Verstehen, dass eine Person Privatsphäre schätzt, es sei denn, sie hat Eile, oder es sei denn, ihr Freund bittet sie, etwas zu teilen.
Dieser Artikel schlägt vor, dass wir durch den Einsatz von Spielen zur Generierung von Geschichten und von KI zur Analyse dieser Geschichten Software entwickeln können, die die echte, chaotische, dynamische Natur menschlicher Werte respektiert, anstatt nur eine vereinfachte Version davon.
Zusammenfassung
Der Artikel behauptet, dass:
- Spiele besser als Umfragen geeignet sind, um herauszufinden, was Menschen tatsächlich tun, nicht nur, was sie sagen, dass sie tun.
- KI, wenn sie gelernt hat, wie ein Anthropologe zu denken, chaotische Spieldaten in ein kohärentes „Moralprofil" (eine Geschichte über die Werte einer Person) verwandeln kann.
- Diese Profile genau genug sind, um vorherzusagen, wie Menschen in neuen Situationen handeln werden, und helfen Softwareentwicklern, Systeme zu bauen, die besser zur menschlichen Natur passen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.