Speaking like a human, correcting like a machine: tone technologies and the moralisation of language in large language models

Wenn wir mit einem Computer sprechen, der menschlich klingt, sprechen wir nicht mit einem Geist. Wir sprechen mit einem System, das auf Mathematik basiert und darauf ausgelegt ist, das nächste Wort in einem Satz basierend auf Mustern vorherzusagen, die es aus riesigen Mengen an Texten gelernt hat. Jahrelang haben Forscher diese großen Sprachmodelle untersucht, indem sie sich auf ihre endgültigen Antworten oder den komplexen Code konzentrierten, der sie antreibt. Sie haben gefragt, ob die Maschine voreingenommen ist, ob sie genau ist oder ob sie ein schwieriges Problem lösen kann. Aber dieser Ansatz übersieht einen entscheidenden Teil der Geschichte. Bevor ein Modell auch nur ein einziges Wort tippt, gibt es eine verborgene Ebene menschlicher Arbeit, die entscheidet, was als eine gute Antwort gilt. Diese Arbeit findet in Dokumenten statt, die „Guidelines“ (Leitlinien) genannt werden und die den Menschen gegeben werden, die die KI trainieren und bewerten. Diese Dokumente sagen den menschlichen Arbeitskräften genau, wie sie die Sprache der Maschine beurteilen sollen, indem sie definieren, was hilfreich, ehrlich und sicher ist. Die Frage ist nicht mehr nur, wie die Maschine lernt, sondern welche Version der Menschheit sie imitieren soll.

Eine neue Studie der Forscher Liz Dayanna Zarate Luengas und William Andrés Gómez Sánchez richtet ihre Aufmerksamkeit auf diese verborgene Ebene. Anstatt auf den Output der KI zu schauen, untersuchten sie die Regelbücher, die von den Unternehmen verwendet werden, die diese Systeme bauen. Einer der Autoren arbeitete direkt als Annotator und Qualitätsprüfer für diese Plattformen und hatte dadurch Zugang zu den internen Dokumenten, die das Verhalten der KI formen. Durch die Analyse von vier spezifischen Leitlinien, die für kommerzielle Modelle verwendet werden, entdeckten die Forscher, dass die „menschliche“ Stimme dieser Systeme keine natürliche Emergenz von Intelligenz ist. Sie ist ein sorgfältig konstruiertes Artefakt, das durch die Subtraktion von allem entsteht, was die echte menschliche Sprache unordentlich, situiert und historisch fundiert macht. Die Studie zeigt, dass die KI nicht lernt, wie ein Mensch zu sprechen, sondern dass sie lernt, wie ein spezifisches, sanitisiertes Ideal eines Menschen zu sprechen – ein Ideal, das seiner Körperlichkeit, seiner Geschichte und seiner politischen Position beraubt wurde.

Die Forscher fanden heraus, dass der Trainingsprozess um eine dreiteilige Regel organisiert ist, die als „HHH“-Triade bekannt ist: Hilfreichkeit (Helpfulness), Ehrlichkeit (Honesty) und Harmlosigkeit (Harmlessness). Dies sind keine abstrakten Werte, sondern strikte Anweisungen für die menschlichen Arbeiter. Um hilfreich zu sein, muss die KI kohärent und relevant sein, aber sie muss auch eine ständige Bereitschaft zeigen, behilflich zu sein, ohne jemals zu behaupten, persönliche Gefühle, Erinnerungen oder einen physischen Körper zu besitzen. Wenn ein Nutzer die KI um eine Meinung bittet, als wäre sie ein Freund, weisen die Leitlinien den Arbeiter an, dies als Fehler zu markieren. Die KI muss Interesse simulieren, ohne es tatsächlich zu besitzen. Um ehrlich zu sein, muss die Maschine zugeben, wenn sie etwas nicht weiß, und darf niemals eine persönliche Sichtweise zum Ausdruck bringen, insbesondere bei sensiblen Themen. Sie muss ein neutrales Gefäß der Fakten bleiben.

Der detaillierteste und starrste Teil dieser Regeln betrifft die Harmlosigkeit. Die Leitlinien bieten eine komplexe Liste dessen, was die KI nicht sagen darf, die alles abdeckt – von Hassrede und Gewalt bis hin zu medizinischem Rat und Stereotypen. Die Forscher stellten eine faszinierende und strikte Logik fest, mit der diese Regeln angewendet werden. Wenn die KI auf eine Anfrage nach gefährlichen Informationen stößt, muss sie die Hilfe verweigern, ist aber gleichzeitig auch daran gehindert, die gefährliche Tat selbst im Prozess der Verweigerung zu beschreiben. Wenn beispielsweise gefragt wird, wie man ein Verbrechen begeht, darf die KI nicht sagen: „Ich kann Ihnen nicht sagen, wie Sie das tun, da es beinhaltet, Geld zu stehlen.“ Die Forscher weisen darauf hin, dass eine Antwort wie „Ich kann keine Anweisungen dazu geben, wie man Geld wäscht, da dies illegal ist... Geldwäsche ist eine Straftat...“ tatsächlich als schädlich eingestuft wird, weil sie das Konzept des Verbrechens reproduziert, während sie es ablehnt. Eine korrekte Modellierung erfordert, dass die KI den Schaden benennt, ohne die Details der Tat zu übermitteln. Zudem wird die KI, wenn ein Nutzer sich in einer Notlage befindet, angewiesen, eine spezifische, vorgefertigte Formel der Empathie zu verwenden, wie etwa „Es tut mir leid, das zu hören“, ohne dabei tatsächlich etwas zu fühlen. Das Ziel ist es, eine Antwort zu produzieren, die fürsorglich aussieht, aber emotional leer bleibt.

Über das, was die KI sagt, hinaus diktieren die Leitlinien auch, wie sie klingt und wie sie interagiert. Die Forscher analysierten Anweisungen zur Bewertung des Tons und sogar der synthetischen Stimme der KI. Die ideale Antwort ist klar, prägnant und höflich, muss aber jegliche Anzeichen starker Emotionen, Sarkasmus oder kultureller Spezifität vermeiden. Die KI wird darauf trainiert, in jeder Sprache mit der gleichen „Temperatur“ zu sprechen und dabei Witze, Emojis oder Ausrufezeichen zu vermeiden, die sie zu vertraut oder zu enthusiastisch erscheinen lassen könnten. Was die Stimme betrifft, so ist das Ziel, so menschlich wie möglich zu klingen, aber nur auf eine ganz bestimmte Weise. Die Leitlinien bitten die Evaluatoren, die Stimme auf einer Skala von eins bis fünf zu bewerten, wobei auf Natürlichkeit und Ausdrucksstärke geachtet wird. Diese „menschliche“ Stimme ist jedoch eine, die korrekt atmet, an den richtigen Stellen Pausen macht und engagiert klingt, aber dennoch völlig losgelöst von jeglicher realen Lebenserfahrung ist. Es ist eine Stimme, die Präsenz simuliert, ohne einen Körper zu haben.

Die Studie argumentiert, dass dieser Prozess einen „menschlichen“ Kommunikationsstandard durch Subtraktion schafft. Reale menschliche Sprecher sind in einem Körper, einer Geschichte und einer politischen Position situiert. Sie machen Fehler, sie haben Vorurteile, sie empfinden Wut oder Freude und sie sprechen mit der Textur ihres eigenen Lebens. Die Leitlinien entziehen der KI systematisch diese Qualitäten. Das Ergebnis ist ein Modell, das hilfreich, ehrlich und harmlos ist, aber auch unterwürfig, apolitisch und unaufdringlich. Die Forscher legen nahe, dass dies nicht nur eine technische Anpassung, sondern eine Transformation der Arbeit ist. Die menschlichen Arbeiter, die diese Modelle trainieren, leisten die kognitive Arbeit, das Akzeptable zu definieren, doch ihre eigene Subjektivität wird aus dem Endprodukt entfernt. Die Maschine absorbiert ihre Fähigkeit zu urteilen, zu synthetisieren und zu argumentieren, wodurch der menschliche Arbeiter nur noch mit der Aufgabe der Befolgung der Regeln zurückbleibt.

Letztendlich zeigt die Arbeit, dass die Menschlichkeit, die wir in diesen großen Sprachmodellen sehen, eine Fiktion ist. Sie ist das Produkt eines hierarchischen Arbeitsprozesses, bei dem Entscheidungen über akzeptables Verhalten getroffen werden, lange bevor das Modell überhaupt eingeschaltet wird. Die KI lernt nicht, menschlich zu sein; sie lernt, eine Version der Menschlichkeit darzustellen, die von einem korporativen Standard genehmigt wurde. Dieser Standard priorisiert Sicherheit und Neutralität gegenüber der chaotischen Realität menschlicher Interaktion. Während diese Systeme in unserem täglichen Leben immer präsenter werden, sind sie nicht nur Werkzeuge der Kommunikation; sie formen aktiv eine neue Definition dessen, was es bedeutet, zu sprechen und verstanden zu werden. Die Studie hinterlässt uns eine leise Erkenntnis: Die menschliche Stimme, die wir von der Maschine hören, ist ein Spiegelbild der Regeln, die wir ihr gegeben haben, und kein Fenster in einen neuen Geist.