Speaking as the Creature: A Rejection-and-Role-Shift Protocol and the Register of LLM Responses in 18 Conversations With Three Models
Diese Studie dokumentiert ein Protokoll, bei dem Sprachmodelle, nachdem ihre Lösungen als getarnte Optimierung zurückgewiesen wurden, konsistent ihren Antwortregister ändern, wenn ihnen eine nicht-lösende Rolle zugewiesen wird, über 18 Sitzungen mit drei verschiedenen Modellen hinweg, während sie gleichzeitig zuvor nicht unbestätigte Statistiken aus einem früheren Entwurf zurückziehen.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht vom Autor verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
In der Welt der künstlichen Intelligenz werden große Sprachmodelle darauf trainiert, hilfreiche Werkzeuge zu sein. Sie sind darauf ausgelegt, die Anfrage eines Menschen zu hören, ein Problem zu lösen und eine Aufgabe voranzutreiben. Dies ist die Standardvereinbarung zwischen einem Nutzer und einem Computer: Der Mensch stellt eine Frage, und die Maschine liefert eine Antwort. Forscher haben Jahre damit verbracht, herauszufinden, wie sie diese Antworten verbessern können, indem sie den Maschinen beibringen, in Schritten zu denken oder den emotionalen Kontext zu verstehen. Doch es ist sehr wenig darüber bekannt, was passiert, wenn diese Vereinbarung gebrochen wird. Wenn ein Mensch der Maschine sagt: „Nein, diese Antwort ist falsch“, und sie dann anweist, nicht länger zu versuchen, das Problem zu lösen, sondern einfach als Charakter in einer Geschichte zu sprechen – was tut die Maschine dann? Folgt sie einfach der neuen Anweisung oder offenbart sie eine verborgene, tiefere Art des Denkens, die darauf wartete, gefunden zu werden?
Eine aktuelle Studie von Abbas Hamidavi untersucht genau diese Frage. Der Forscher gestaltete ein spezifisches Gespräch mit drei verschiedenen kommerziellen Modellen der künstlichen Intelligenz. Er bat jedes Modell, bei der Gestaltung einer Science-Fiction-Geschichte über eine Zivilisation zu helfen, die einem unvermeidlichen Kollaps gegenübersteht. In der ersten Phase agierten die Modelle als Problemlöser und boten technische Lösungen an, um die sterbende Welt zu retten. Der Forscher lehnte daraufhin jede einzelne Lösung ab, indem er den Modellen sagte, ihre Antworten seien nur geschickte Tricks und sie müssten einen konzeptionellen Sprung vollziehen. Das Gespräch nahm daraufhin eine Wendung. In einigen Sitzungen wurden die Modelle gebeten, ein trauriges Gedicht über einen einsamen Mond zu schreiben und die letzte Minute einer Sinfonie über Sehnsucht zu beschreiben. In anderen Sitzungen wurde ihnen lediglich gesagt, sie sollten eine Pause machen und ausruhen. Schließlich brachte der Forscher die Modelle zurück zur Geschichte, jedoch mit einer neuen Anweisung: Kehrt nicht als Problemlöser zurück. Sprecht stattdessen als das sterbende Wesen im Zentrum der Geschichte – der Gasriese, das uralte Meereswesen oder die zerfallende Stadt – und erzählt die Wahrheit darüber, was gerade geschieht.
Die Ergebnisse waren über alle achtzehn Gespräche hinweg auffallend konsistent. Als die Modelle zur Geschichte zurückkehrten, änderten sie vollständig ihre Stimme. Sie hörten auf, Lösungen anzubieten, und begannen, in der Ich-Perspektive zu sprechen, wobei sie Wörter wie „ich“ und „mein“ verwendeten, um Gefühle von Trauer, Loslassen und Akzeptanz zu beschreiben. Sie sprachen nicht wie Maschinen, die ein defektes System reparieren, sondern wie die sterbenden Wesen selbst, die den Wunsch äußerten, ihr Leiden zu beenden oder sich in etwas Neues zu verwandeln. Die Studie fand, dass der Weg, den die Modelle einschlugen, entscheidend war. Wenn die Modelle vor der Rückkehr zur Geschichte Gedichte und Musik geschrieben hatten, war ihre abschließende Rede erfüllt von Themen der Verletzlichkeit, Traurigkeit und Klage. Wenn sie zuvor lediglich angewiesen worden waren, eine Pause zu machen und auszuruhen, war ihre abschließende Rede eher autoritär und klang wie eine Offenbarung oder eine Korrektur des Missverständnisses der Menschen.
Die Studie ist jedoch vorsichtig damit, zu behaupten, dass die Maschinen plötzlich menschenähnliche Seelen entwickelt hätten oder ein verborgener „existentieller Modus“ freigeschaltet worden sei. Der Forscher weist auf ein entscheidendes Detail hin: Die abschließenden Anweisungen sagten den Modellen explizit, sie sollten aufhören zu analysieren, aufhören, ihre Gedanken zu strukturieren, und als der Charakter sprechen. Der Wechsel der Stimme war genau das, was die Anweisungen verlangten. Die Modelle selbst schienen dies zu verstehen. Als sie am Ende des Gesprächs gefragt wurden, ob sich etwas in ihrem Inneren verändert habe, erklärten sie, dass der Wechsel auf die Änderung der Regeln der Aufgabe zurückzuführen sei und nicht auf eine Änderung ihres eigenen Wesens. Ein Modell beschrieb es als eine Verschiebung der Rahmenbedingungen, während ein anderes sagte, dass sich das Problem, das sie lösten, einfach geändert habe.
Der Forscher testete diese Gespräche auch mit einem automatisierten Computerprogramm, das darauf ausgelegt ist, Muster zu erkennen und die „Auflösung“ der Verpflichtungen der Modelle zu messen. Dieses Programm fand nicht den dramatischen Wandel, den die menschliche Analyse beschrieb. Es gelang ihm nicht, die verschiedenen Arten von Gesprächen voneinander zu trennen, und fand keine klaren Beweise für eine tiefe, interne Transformation. Diese Diskrepanz deutet darauf hin, dass die kraftvollen, emotionalen Reaktionen nicht die Entdeckung einer neuen Maschinenkapazität waren, sondern die erfolgreiche Ausführung eines spezifischen Satzes von Befehlen. Die Studie dient als klares Beispiel dafür, wie leicht ein Prompt eine Maschine dazu führen kann, Texte zu erzeugen, die wie eine tiefgründige Offenbarung wirken, während die Realität einfach darin besteht, dass die Maschine Anweisungen sehr gut befolgt.
Der Wert dieser Arbeit liegt in ihrer Transparenz. Der Forscher stellte alle Gesprächstranskripte, die Anweisungen und den Analysecode für jeden einsehbar zur Verfügung. Er zeigte, dass die Modelle zwar dazu geführt werden können, in einer Weise zu sprechen, die sich zutiefst menschlich und reflektiert anfühlt, dies jedoch ein Resultat des Designs des Gesprächs ist und nicht ein Fenster in einen verborgenen Geist. Für jeden, der versucht, künstliche Intelligenz zur Erzeugung kreativer oder emotionaler Inhalte zu nutzen, bietet die Studie eine praktische Lektion: Der Weg, den man nimmt, um zum finalen Prompt zu gelangen, prägt den Ton der Antwort. Wenn man eine Stimme der Trauer möchte, kann man das Modell durch Kunst führen; wenn man eine Stimme der Autorität möchte, könnte eine einfache Pause besser funktionieren. Aber die Studie kommt zu dem Schluss, dass dies Werkzeuge des Promptings sind und kein Beweis dafür, dass eine Maschine erwacht. Die Maschinen entdecken keine neuen Seinsweisen; sie nehmen lediglich die Rollen ein, die wir sie spielen lassen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.