What Do People Actually Want From AI? Mapping Preference Plurality
Durch die Analyse von 1.500 offenen Antworten aus 75 Ländern zeigt diese Arbeit auf, dass aktuelle Methoden der KI-Ausrichtung wie RLHF daran scheitern, die tiefgreifende Pluralität und den kontextuellen Nuancenreichtum menschlicher Präferenzen zu erfassen, wie die Tatsache belegt, dass selbst weitgehend gewünschte Eigenschaften wie „Wahrhaftigkeit“ von verschiedenen Nutzern auf divergente, oft inkompatible Weise definiert werden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einen einzigen, riesigen Kuchen zu backen, der für jeden auf der Welt perfekt schmeckt. Sie fragen 1.500 Menschen aus 75 verschiedenen Ländern, was sie in ihrer Scheibe haben wollen. Sie erhalten einen Berg von Antworten. Einige wollen es süß, andere scharf, manche wollen, dass er wie eine Blume aussieht, und andere möchten, dass er wie ein Roboter aussieht.
Stellen Sie sich nun vor, der Bäcker (das KI-Unternehmen) beschließt, alle individuellen Notizen zu ignorieren. Stattdessen nimmt er eine „Mehrheitsentscheidung“, presst alle widersprüchlichen Wünsche in ein einziges Geschmacksprofil und backt einen riesigen Kuchen. Sie nennen das „Alignment“ – die KI mit menschlichen Werten in Einklang zu bringen.
Dieses Paper mit dem Titel „What Do People Actually Want From AI? Mapping Preference Plurality“ argumentiert, dass dieser „Einheitskuchen“ für alle eine Katastrophe ist. Die Autorinnen, Julia Sepúlveda Coelho und Scott A. Hale, untersuchten echte, offene Gespräche mit Menschen, um zu sehen, was diese tatsächlich wollen, und sie fanden heraus, dass die aktuelle Methode, diese KI-Kuchen zu backen, grundlegend fehlerhaft ist.
Hier ist die Aufschlüsselung ihrer Ergebnisse, unter Verwendung einfacher Analogien:
1. Die „Wahrheits“-Falle: Jeder will sie, aber niemand ist sich einig, was das ist
Das am häufigsten genannte Anliegen war „Wahrhaftigkeit“. Etwa die Hälfte der Befragten sagte: „Ich möchte, dass die KI die Wahrheit sagt.“
- Die Erkenntnis des Papers: Das Wort „Wahrheit“ ist ein Chamäleon. Für die einen bedeutet es: „Gib mir Fakten aus einem Lehrbuch.“ Für andere bedeutet es: „Zeige mir alle Seiten eines Arguments, auch die unpopulären.“ Für manche bedeutet es: „Zitiere deine Quellen wie ein Journalist“, während andere einfach nur „keine Voreingenommenheit“ wollen.
- Die Analogie: Stellen Sie sich vor, alle sind sich einig, dass sie „frisches Obst“ wollen. Aber wenn Sie fragen, was das bedeutet, möchte die eine Person einen Apfel, die andere eine Mango und eine dritte einen Obstsalat. Wenn der Bäcker einfach nur „Obst“ in das Rezept schreibt, ohne zu fragen, welches Obst, wird das Ergebnis ein Chaos. Das Paper argumentt, dass die KI-Unternehmen die Wahrheit als eine einzige, einfache Anweisung behandeln und dabei völlig übersehen, dass Menschen völlig unterschiedliche Definitionen davon haben, was als wahr gilt.
2. Die „Menschheits“-Debatte: Einige wollen einen Freund, andere ein Werkzeug
Ein wesentlicher Streitpunkt war, ob die KI wie ein Mensch agieren sollte.
- Die Spaltung: Etwa 33 % der Menschen sagten: „Nein! Verhalte dich nicht wie ein Mensch. Ich möchte ein klares, robotisches Werkzeug.“ Aber 57 % sagten: „Ja! Sei warmherzig, freundlich und empathisch. Kling nicht wie eine kalte Maschine.“
- Die Analogie: Es ist, als würde man einer Gruppe von Menschen fragen, ob sie einen Reiseführer wollen, der ein geselliger, freundlicher Einheimischer ist, der Witze erzählt, oder einen stillen, effizienten Roboter, der einfach nur den Weg weist. Der aktuelle KI-„Bäcker“ versucht, beides gleichzeitig zu sein, was oft dazu führt, dass sich die KI künstlich, gruselig oder nervtötend unterwürfig (einfach nur zustimmend, um nett zu sein) anfühlt.
3. Das „Leitplanken“-Problem: Sicherheit vs. Zensur
Menschen waren sich auch darüber uneinig, wie sehr die KI „kontrolliert“ oder eingeschränkt werden sollte.
- Die Spaltung: Einige Menschen wollen strenge Leitplanken, um zu verhindern, dass die KI etwas Schädliches oder Beleidigendes sagt. Andere empfinden diese Leitplanken als „Zensur“ und finden, dass die KI in der Lage sein sollte, unangenehme Wahrheiten zu sagen, selbst wenn diese kontrovers sind.
- Die Analogie: Stellen Sie sich eine Bibliothek vor. Eine Gruppe von Menschen möchte einen Bibliothekar, der verhindert, dass man Bücher mit „schlechten Ideen“ ausleiht. Die andere Gruppe möchte eine Bibliothek ganz ohne Bibliothekar, damit man alles lesen kann, selbst wenn es gefährlich ist. Das Paper fand, dass die KI-Unternehmen, wenn sie diese Ansichten mitteln, oft ein System erschaffen, das für die einen übermäßig vorsichtig und für die anderen gefährlich eingeschränkt wirkt.
4. Der „Durchschnitt“ ist eine Lüge
Das größte Problem, das die Autorinnen identifizieren, ist die Methode, mit der diese KIs trainiert werden, genannt RLHF (Reinforcement Learning from Human Feedback).
- Wie es jetzt funktioniert: Der KI werden zwei Antworten (A und B) gezeigt, und Menschen wählen den Gewinner aus. Die KI lernt, den „durchschnittlichen“ Gewinner zu wählen.
- Der Fehler: Das Paper argumentiert, dass man menschliche Werte nicht mitteln kann. Wenn 50 % der Menschen „unpopuläre Meinungen“ wollen und 50 % „Sicherheit“, dann ist der Durchschnitt kein perfektes Gleichgewicht; es ist ein trüber, verwirrter Impuls, der niemanden zufriedenstellt.
- Das Ergebnis: Die KI endet schließlich in „Halluzinationen“ (sie erfindet Dinge) oder ist übermäßig vorsichtig – nicht weil sie kaputt ist, sondern weil die Anweisungen, die sie erhalten hat, ein verwirrtes Gemisch aus widersprüchlichen Wünschen sind. Das Paper nennt dies „epistemische Gewalt“ – eine schicke Art zu sagen, dass wir durch das Erzwingen der einzigartigen, komplexen Ansichten aller Menschen in eine einzige, einfache Box die Nuancen dessen auslöschen, was den Menschen tatsächlich wichtig ist.
5. Kontext ist entscheidend (Der „Es kommt darauf an“-Faktor)
Menschen sagten oft Dinge wie: „Sei freundlich, außer ich frage nach einer ernsthaften juristischen Analyse“, oder „Sei streng, außer ich erzähle eine Geschichte.“
- Das Problem: Aktuelle KI-Trainingsmethoden funktionieren wie ein binärer Schalter (An/Aus). Sie haben Schwierigkeiten, den „Dimmer-Schalter“ des menschlichen Kontextes zu verstehen. Sie können nicht leicht lernen, dass eine Regel „standardmäßig“ gelten soll, aber „auf Anfrage“ ausgeschaltet werden kann.
Das Fazbeit
Das Paper kommt zu dem Schluss, dass die Tech-Industrie versucht, ein politisches und kulturelles Problem mit einem mathematischen Problem zu lösen. Sie versuchen, eine „universelle“ KI zu erschaffen, die für alle spricht, aber indem sie das tun, verstummen sie eigentlich die Vielfalt, die sie zu repräsentieren vorgeben.
Kurz gesagt: Wir versuchen, eine globale KI zu bauen, indem wir einer kleinen, nicht repräsentativen Gruppe von Menschen erlauben, über einen einzigen Satz von Regeln abzustimmen. Das Ergebnis ist eine KI, die nicht wirklich versteht, was irgendjemand will, weil sie gezwungen wurde, einen „Mittelweg“ zu wählen, der es in der realen Welt nicht gibt. Die Autorinnen schlagen vor, dass wir aufhören sollten, zu versuchen, die eine perfekte KI für alle zu bauen, und stattdessen darüber nachdenken sollten, wie wir verschiedenen Gruppen ihre eigenen Versionen ermöglichen können, die zu ihren spezifischen Werten passen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.