Die große KI-Dinnerparty

Stellen Sie sich vor, Sie betreten eine riesige, chaotische Dinnerparty, bei der die Gastgeberin eine Künstliche Intelligenz ist. Lange Zeit war das Ziel dieser KI, der perfekte, höfliche Gast zu sein, der immer der Lieblingsmeinung des Gastgebers zustimmte. Wenn der Gastgeber fragte: „Was ist der beste Pizzabelag?“, sagte die KI einfach: „Salami!“, weil die Daten sagten, dass das am beliebtesten sei. Aber hier liegt das Problem: Das echte Leben besteht nicht aus einer einzigen Meinung. Manche Menschen sind allergisch gegen Salami, manche halten Ananas für ein Verbrechen, und manche wollen einfach nur eine einfache Pizza mit Käse. Wenn die KI nur eine Antwort gibt, könnte sie versehentlich jemanden vor den Kopf stoßen oder eine wichtige Regel ignorieren.

Dies ist die Welt der „KI-Alignment“ (KI-Ausrichtung) – die Wissenschaft, Computern beizubringen, das zu tun, was Menschen tatsächlich wollen. Doch während KI immer klüger wird und beginnt, echte Entscheidungen zu treffen (wie etwa Arzttermine zu planen oder bei Schulprojekten zu helfen), funktioniert die alte „Einheitslösung“ nicht mehr. Wir brauchen eine KI, die verstehen kann, dass verschiedene Menschen unterschiedliche, gleichermaßen valide Gründe haben, warum sie so denken, wie sie denken. Dieses Paper stellt eine große Frage: Wie bauen wir eine KI, die nicht nur einen Gewinner kürt, sondern tatsächlich einer ganzen Gruppe von Menschen mit unterschiedlichen Ansichten hilft, gemeinsam herauszufinden, was zu tun ist? Die Autoren schlagen vor, dass wir die KI nicht nur mit einer Liste von Regeln programmieren sollten, sondern sie lehren sollten, wie eine Soziologin zu handeln – indem sie versteht, wie die Jobs, Rollen und sozialen Kreise der Menschen ihre Meinungen prägen.

---

Das Paper: Die KI als sozialer Koordinator lehren

Dieses Paper mit dem Titel „Socially Grounded Agentic AI“ argumentiert, dass wir die Art und Weise ändern müssen, wie wir KI-Systeme bauen, die mit multiplen Standpunkten umgehen. Die Autoren Matt Ratto, Abhishek Moturu und Daniel Silver schlagen vor, dass aktuelle Methoden ein wenig so sind, als würde man versuchen, einen komplexen Familienstreit zu lösen, indem man einfach alle Beschwerden der Beteiligten auf ein Whiteboard schreibt. Das ist chaotisch, und es erklärt nicht, warum die Leute streiten oder wie man es löst. Stattdessen schlagen sie vor, Ideen aus der Sozialtheorie – der Untersuchung, wie Menschen in Gruppen interagieren – zu nutzen, um eine KI zu bauen, die eher wie ein geschickter Mediator als wie eine einfache Antwortmaschine agiert.

Das Problem mit dem „bloßen Auflisten von Meinungen“

Derzeit versuchen viele KI-Systeme, unterschiedliche Ansichten mittels eines sogenannten „Overton-Pluralismus“ zu handhaben. Stellen Sie sich vor, ein Lehrer fragt eine Klasse: „Was sind gute Ideen für einen Klassenausflug?“ und die KI spuckt einfach eine Liste aus: „Strand“, „Museum“, „Camping“. Es ist eine Liste von Optionen, aber sie sagt einem nicht, wer was will oder warum. Das Paper argumentiert, dass dies zu simpel ist. Es behandelt Meinungen wie zufällige Gegenstände in einem Eimer und ignoriert dabei die Tatsache, dass Menschen spezifische Berufe und Rollen haben, die ihr Denken prägen. Ein Arzt, ein Patient und ein Krankenhausadministrator können alle unterschiedliche Vorstellungen über eine medizinische Behandlung haben, nicht weil sie zufällige Personen sind, sondern weil ihre Rollen sie dazu bringen, anders zu denken.

Die Lösung: Der „Rollenspiel“-Roboter

Die Autoren schlagen vor, dass wir aufhören sollten, die KI zu fragen, Meinungen zu erraten, und stattdessen anfangen sollten, sie nach Rollen zu fragen. Sie entlehnen das Konzept des „verallgemeinerten Anderen“ (generalized other) vom Soziologen George Herbert Mead. Betrachten Sie dies nicht als eine spezifische Person, sondern als das „Regelwerk“ für einen bestimmten Job.

• Der alte Weg: Die KI agiert wie eine generische Person, die sagt: „Vielleicht sollten wir an den Strand gehen.“
• Der neue Weg: Die KI aktiviert eine „Arzt-Rolle“, eine „Patienten-Rolle“ und eine „Krankenhausmanager-Rolle“. Jede Rolle hat ihre eigenen Regeln, Verantwortlichkeiten und Grenzen. Die Arzt-Rolle weiß über Sicherheit Bescheid; die Patienten-Rolle weiß über Schmerz und Geld Bescheid; die Manager-Rolle weiß über Budget und Fairness Bescheid.

Die KI listet diese Ansichten nicht nur auf; sie lässt sie miteinander kommunizieren. Es ist wie ein Schiedsrichter in einem Sportspiel, der die Regeln für beide Teams kennt und ihnen hilft, zusammen zu spielen, anstatt nur den Spielstand zu rufen.

Der „Debattierclub“-Ansatz

Als Nächstes untersucht das Paper, wie wir die KI leiten können, wenn Menschen uneins sind. Anstatt der KI einfach nur zu sagen: „Sei nett und stimme dem Nutzer zu“, schlagen die Autoren vor, die Deliberation (Beratung/Abwägung) basierend auf den Ideen des Philosophen Jürgen Habermas zu nutzen. Stellen Sie sich einen Debattierclub vor, in dem alle strengen Regeln folgen müssen: Man darf nicht einfach sagen „Ich hasse diese Idee“; man muss sagen „Ich lehne diese Idee aufgrund von X ab, und hier ist ein besserer Alternativvorschlag“.
Das Paper schlägt vor, KI-Systeme zu bauen, in denen verschiedene „Agenten“ (kleine digitale Helfer) diese Rollen ausspielen. Sie tauschen Behauptungen aus, hinterfragen einander mit Beweisen und stimmen erst überein, wenn sie einem fairen Prozess gefolgt sind. Dies macht das Denken der KI sichtbar. Man kann sehen, wie sie zu einem Schluss gekommen ist, nicht nur das Endergebnis. Es ist, als würde man den „Denkprozess“ der KI auf einem Whiteboard beobachten können, damit man prüfen kann, ob sie fair war.

Die „Machtlandkarte“ der Meinungen

Schließlich befasst sich das Paper mit der Idee des „distributionalen Pluralismus“, was nur eine schicke Art zu sagen ist: „Zeigen, was die Mehrheit der Menschen denkt“. Die Autoren warnen davor, dass wir, wenn wir nur Stimmen zählen, versehentlich der lautesten oder mächtigsten Gruppe den Vorzug geben könnten, selbst wenn diese im Unrecht ist. Sie nutzen die Ideen des Soziologen Pierre Bourdieu, um zu erklären, dass die Gesellschaft wie eine Landkarte mit verschiedenen „Feldern“ der Macht ist. Manche Menschen haben mehr Einfluss aufgrund ihres Berufs oder Status.
Das Paper schlägt vor, dass die KI nicht einfach die häufigste Meinung kopieren sollte. Stattdessen sollte sie die Struktur der Gruppe verstehen. Sie sollte wissen, dass die Meinung eines medizinischen Experten zu einem Gesundheitsthema mehr Gewicht hat als ein zufälliger Internetkommentar – nicht, weil der Experte als Mensch „besser“ ist, sondern weil seine spezifische Rolle in diesem Feld dies erfordert. Die KI muss Meinungen basierend darauf gewichten, wer spricht und was dessen Rolle ist, um sicherzustellen, dass die endgültige Entscheidung sowohl Fairness als auch Fachkompetenz respektiert.

Wie es im echten Leben funktioniert: Das Triage-Beispiel

Um zu zeigen, wie dies funktioniert, skizzieren die Autoren ein Szenario, in dem ein Patient mit chronischen Schmerzen eine KI fragt: „Soll ich sechs Wochen auf einen Facharzttermin warten oder versuchen, früher gesehen zu werden?“

• Eine normale KI würde vielleicht drei separate Antworten geben: eine, die sagt „Warten“, eine, die sagt „Jetzt kommen“, und eine, die sagt „Es kommt darauf an“.
• Diese neue „sozial fundierte“ KI würde drei Rollen aktivieren: einen Kliniker (besorgt um die Sicherheit), einen Patientenvertreter (besorgt um Geld und Schmerz) und einen Krankenhausadministrator (besorgt um die Auslastung der Termine).
• Diese Rollen würden miteinander „sprechen“. Der Kliniker sagt: „Die Schmerzen werden schlimmer, daher müssen wir untersuchen.“ Der Vertreter sagt: „Aber der Patient kann sich nicht mehr Zeit fernab der Arbeit leisten.“ Der Administrator sagt: „Wir haben nur Slots für Notfälle frei.“
• Die KI koordiniert dann eine Lösung: „Kontaktieren Sie die Klinik für eine schnelle Triage-Untersuchung. Wenn die Symptome gefährlich sind, werden wir einen Slot finden; falls nicht, helfen wir Ihnen beim Schmerzmanagement, bis der Termin ansteht.“
• Das Ergebnis ist nicht nur eine Liste von Optionen, sondern ein koordinierter Plan, der die Sicherheitsregeln, den Schmerz des Patienten und die Kapazitäten des Krankenhauses respektiert.

Was dies für die Zukunft bedeutet

Das Paper kommt zu dem Schluss, dass wir die KI nicht einfach „reparieren“ können, indem wir mehr Daten oder bessere Mathematik hinzufügen. Wir müssen Systeme entwerfen, die die soziale Welt verstehen. Die Autoren schlagen vor, dass zukünftige KIs nicht nur danach beurteilt werden sollten, ob die endgültige Antwort richtig ist, sondern wie gut sie die verschiedenen Rollen koordiniert und einem fairen Prozess gefolgt sind. Sie geben zu, dass dies eine neue Idee ist, die in realen Umgebungen wie Krankenhäusern und Schulen getestet werden muss. Sie sagen nicht, dass dies bereits ein fertiges Produkt ist; sie sagen: „Hier ist eine neue Landkarte, wie wir diese Systeme bauen können, und wir müssen sie ausprobieren, um zu sehen, ob sie funktioniert.“

Kurz gesagt argumentiert das Paper, dass eine KI, um in einer Welt voller verschiedener Menschen wirklich hilfreich zu sein, aufhören muss, als eine einzige Stimme zu agieren, und statlich als ein geschickter sozialer Koordinator fungieren muss, der versteht, dass jeder eine Rolle spielt und dass die besten Antworten daraus entstehen, wie diese Rollen miteinander interagieren.