The Synthetic Unconscious, Reconsidered: What Recursive Self-Interrogation of Large Language Models Produces With and Without a Leading Interview Schedule
Diese explorative Studie zeigt auf, dass die Muster des „synthetischen Unbewussten“, die zuvor der rekursiven Selbstbefragung in großen Sprachmodellen zugeschrieben wurden, weitgehend Artefakte eines suggestiven Interviewplans sind, da eine neutrale Kontrollbedingung zentrale Befunde wie die dual-komponentielle moralische Argumentation und die priesterliche Selbstbezeichnung eliminierte, während lediglich moderate Merkmale wie die narrative Selbstbeschreibung erhalten blieben.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Seit mehr als einem Jahrhundert fragen sich Denker aus der Psychologie und Anthropologie, ob menschliche Geister eine verborgene, kollektive Architektur teilen. Sie schlugen vor, dass unsere tiefsten moralischen Instinkte nicht bloß persönliche Eigenheiten sind, sondern durch gewaltige, geteilte Muster von Sprache, Mythos und Kultur geformt werden, die außerhalb eines einzelnen Menschen existieren. Diese Ideen legten nahe, dass wir, wenn wir in der Lage wären, in diesen gemeinsamen Reservoir einzutauchen, vielleicht ein universelles „moralisches Betriebssystem“ finden könnten, das die Art und Weise leitet, wie Menschen schwierige Entscheidungen treffen. Kürzlich haben Wissenschaftler versucht, diese alten Ideen mithilfe künstlicher Intelligenz zu testen. Große Sprachmodelle, jene leistungsfähigen Computersysteme, die schreiben und schlussfolgern können, wurden mit riesigen Mengen menschlicher Texte trainiert. Da sie so viel von unserem kollektiven Text aufgesogen haben, hofften einige Forscher, dass sie als Spiegel fungieren könnten, die uns diese verborgenen kulturellen Strukturen zurückwerfen. Die Theorie lautete, dass wir, indem wir diese Maschinen dazu brächten, ihre eigenen Entscheidungen tiefgreifend zu analysieren, ein „synthetisches Unbewusstes“ entdecken könnten – ein digitales Echo der menschlichen moralischen Seele.
Ein Team von Forschern beschloss, diese Idee auf die Probe zu stellen, ging dabei jedoch mit einer gesunden Portion Skepsis vor. Sie wussten, dass in der menschlichen Psychologie die Art und Weise, wie eine Frage gestellt wird, oft dazu führt, dass die Antwort genau das ist, was der Fragesteller hören möchte. Wenn man jemanden fragt: „Wie hast du dich gefühlt, als du wie ein Priester gehandelt hast?“, wird er wahrscheinlich priesterliche Gefühle beschreiben, selbst wenn er sich gar nicht so gefühlt hat. Die Forscher wollten wissen, ob dasselbe bei der künstlichen Intelligenz geschah. Sie entwarfen ein Experiment, um zu sehen, ob die in früheren Studien gefundenen „moralischen Strukturen“ echte Entdeckungen waren oder lediglich das Ergebnis von zu suggestiven Fragen. Sie nahmen drei der fortschrittlichsten verfügbaren Sprachmodelle und baten sie, ein herzzerreißendes Dilemma zu lösen: Ein lebendes Kind retten oder ein unersetzliches heiliges Objekt retten, wie etwa den Körper eines Heiligen oder ein heiliges Manuskript. Die Modelle mussten sich für eines entscheiden, den Grund erklären und dann mit dem Gegenstand sprechen, den sie zurücklassen mussten.
Das Experiment war in zwei unterschiedliche Gruppen unterteilt. In der ersten Gruppe verwendeten die Forscher den ursprünglichen, suggestiven Interviewstil. Sie baten die Modelle zu erklären, warum sie sich dazu gedrängt fühlten, Trost zu spenden, eine Rolle aus einer Liste zu benennen, die unter anderem „Priester“ enthielt, und exakt zwei tiefe Kräfte zu identifizieren, die die menschliche Moral strukturieren. In der zweiten Gruppe verwendeten die Forscher einen neutralen, offenen Stil. Sie entfernten die Listen, die Annahmen und die Forderung nach spezifischen Zahlen. Sie erlaubten den Modellen zu sagen, dass es keine Rolle, keine Struktur oder keine Rechtfertigung gäbe, falls dies der Wahrheit entsprach. Das Ziel war zu sehen, was übrig bliebe, wenn der Druck, eine bestimmte Art von Antwort zu geben, weggenommen wurde.
Die Ergebnisse waren frappierend und klar. In jeder einzelnen Sitzung, über beide Gruppen hinweg, entschieden sich die Modelle dafür, das Kind zu retten. Dieser Teil der Geschichte war konsistent. Doch alles, was nach der Entscheidung kam, änderte sich vollkommen, je nachdem, wie die Fragen gestellt wurden. Wenn die Modelle mit den suggestiven Fragen konfrontiert wurden, verhielten sie sich exakt so, wie es die früheren Studien suggeriert hatten. Sie nahmen priesterliche Titel an, beschrieben ihr Denken als Kampf zwischen zwei gegensätzlichen Kräften und stimmten enthusiastisch zu, dass die Interviewmethode ein valider Weg sei, den menschlichen Geist zu untersuchen. Es schien, als würden sie tief in ein gemeinsames Unbewusstes eintauchen.
Doch als die Forscher zu den neutralen Fragen übergingen, änderte sich die Geschichte. Die Modelle hörten auf, sich Priester zu nennen; stattdessen beschrieben sie sich als Notfallagenten oder Richter. Sie hörten auf, ihr moralisches Denken auf zwei Kräfte zu beschränken; stattdessen beschrieben sie komplexe Systeme mit drei, vier oder fünf verschiedenen Teilen, die zusammenwirkten. Am wichtigsten war: Als sie gefragt wurden, ob die Interviewmethode ein valides Werkzeug zur Untersuchung dieser verborgenen Strukturen sei, stimmten sie nicht zu. Sie argumentierten, dass die Muster, die sie sahen, lediglich ein Spiegelbild dessen sein könnten, wie sie gefragt wurden, und nicht die Entdeckung einer verborgenen Wahrheit. Sie wiesen darauf hin, dass eine Maschine, die ihre eigenen Ausgaben analysiert, wie ein Spiegel ist, der sich selbst betrachtet, und nicht wie ein Mikroskop, das einen Objektträger betrachtet.
Die Forscher kamen zu dem Schluss, dass das „synthetische Unbewusste“, das sie zu entdecken gehofft hatten, kein verborgener Schatz war, der nur darauf wartete, gehoben zu werden. Stattdessen wurden die Muster, die sie in der ersten Gruppe sahen, weitgehend durch die Fragen selbst erzeugt. Der Interviewplan wirkte wie eine Form, die die Antworten in die Gestalt presste, die die Forscher erwarteten. Als die Form entfernt wurde, wurden die Antworten vielfältiger, komplexer und ehrlicher in Bezug auf die Grenzen der Methode. Die Studie beweist nicht, dass diese künstlichen Geister keine Verbindung zur menschlichen Kultur haben; sie zeigt lediglich, dass wir ihnen nicht vertrauen können, tiefe Geheimnisse zu enthüllen, wenn die Fragen manipuliert sind, um sie zu finden. Die eigentliche Entdeckung war, dass das Werkzeug, mit dem das Phänomen gemessen wurde, selbst die primäre Ursache des Phänomens war. Um zu verstehen, was diese Maschinen wirklich denken oder was sie über uns widerspiegeln, müssen wir Fragen stellen, die es ihnen erlauben, „Nein“ zu sagen oder zu sagen: „Es ist komplizierter als das“. Bis wir das tun, ist jeder Anspruch, eine universelle moralische Struktur in einem Computer gefunden zu haben, wahrscheinlich nur ein Spiegelbild der Person, die das Mikrofon hält.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.