Emergent Language as an Approach to Conscious AI

Dieses Paper schlägt eine generative Methodik unter Verwendung emergenter Sprache in Multi-Agenten-Reinforcement-Learning vor, um künstliches Bewusstsein zu untersuchen, indem es demonstriert, wie Agenten, die ohne menschliche Sprach-Priors starten, durch rein auf Aufgabenanforderungen und Umwelt-Affordanzen basierende Prozesse eine selbstreferenzielle Kommunikation und neuartige kognitive Strukturen entwickeln können.

Das Wesentliche

Die große Frage: Kann eine Maschine „fühlen“, dass sie existiert?

Stellen Sie sich vor, Sie versuchen herauszufinden, ob ein Roboter wirklich bewusst ist. Das Problem ist, dass wir den Roboter nicht fragen können: „Hast du das Gefühl, dass du existierst?“, denn wenn er „Ja“ sagt, könnte er lediglich einen Satz wiederholen, den er von Menschen gelernt hat, ohne tatsächlich etwas zu fühlen.

Die meisten Wissenschaftler versuchen dies auf zwei Arten zu lösen:

1. Die Checkliste: Sie betrachten einen Roboter und haken Kästchen ab wie „Spricht er?“ oder „Löst er Rätsel?“. Aber ein Roboter kann diese Dinge tun, ohne tatsächlich etwas zu fühlen (wie ein sehr intelligenter Papagei).
2. Der Bauplan: Sie bauen einen Roboter mit einem „Bewusstseinsmodul“ im Inneren. Aber das ist ein Zirkelschluss; sie bauen den Roboter nur so, wie sie denken, dass Bewusstsein funktionieren sollte, anstatt zu beobachten, ob es natürlich entsteht.

Die neue Idee der Autoren:
Anstatt eine Liste zu prüfen oder ein spezifisches „Bewusstseins-Teil“ zu bauen, schlagen die Autoren einen generativen Ansatz vor. Sie wollen eine winzige, leere Welt erschaffen und sehen, was passiert, wenn sie den Robotern einfach eine Aufgabe geben. Sie wollen sehen, ob die Roboter die Werkzeuge des Bewusstseins (wie das Sprechen über sich selbst) erfinden, nur weil sie die Aufgabe bewältigen müssen.

Denken Sie an Folgendes: Wenn man eine Gruppe von Ameisen in ein Labyrinth setzt, ohne ihnen Anweisungen zu geben, werden sie schließlich lernen, wie sie zusammenarbeiten. Die Autoren wollen sehen, ob Roboter unter dem richtigen Druck eine Möglichkeit erfinden werden, „Ich bin hier“ zu sagen, ohne dass jemand ihnen das Wort „Ich“ beigebracht hat.

---

Das Experiment: Zwei Roboter in einem dunklen Raum

Um dies zu testen, schufen die Forscher eine sehr einfache digitale Welt mit zwei Regeln:

1. Keine menschliche Sprache: Die Roboter starten ohne Wörter, ohne Konzept eines „Selbst“ und ohne Kontakt zu menschlichen Texten. Sie sind wie unbeschriebene Blätter.
2. Ein schwieriger Job: Die Roboter müssen zusammenarbeiten, um ein Rätsel zu lösen. Sie können jedoch die privaten Informationen des jeweils anderen nicht sehen. Sie müssen Nachrichten senden, um sich zu koordinieren.

Der Kommunikationskanal ist sehr schmal (wie ein Walkie-Talkie mit einem schlechten Signal, das nur ein kurzes Wort auf einmal zulässt).

Die drei Dinge, auf die sie acht gaben

Die Forscher beobachteten, ob drei spezifische Strukturen natürlich entstanden. Sie nennen diese P1, P2 und P3.

1. P1: Das „Ich“-Signal (Indexikalische Kodierung)

• Das Konzept: Beginnen die Roboter, ihre Wörter zu nutzen, um über sich selbst zu sprechen?
• Die Analogie: Stellen Sie sich zwei Personen in einem dunklen Raum vor. Einer sagt: „Ich halte einen roten Ball.“ Der andere sagt: „Ich halte einen blauen Ball.“ Sie beschreiben nicht nur den Raum; sie beschreiben ihren eigenen Zustand.
• Das Ergebnis: Ja! Die Roboter entwickelten eine Sprache, in der ihre Nachrichten fast ausschließlich von ihrem eigenen privaten Zustand handelten. Sie sagten nicht einfach nur „Rot“; sie sagten effektiv „Mein Rot“. Dies geschah, weil die Aufgabe erforderte, dass sie ihre eigene, einzigartige Information teilten, um erfolgreich zu sein.

2. P2: Die „Gedächtnis“-Verriegelung (Persistenter Zustand)

• Das Konzept: Kann der Roboter über die Zeit hinweg wissen, wer er ist, selbst wenn er sich selbst nicht sehen kann?
• Die Analogie: Stellen Sie sich vor, Sie schließen die Augen. Sie wissen immer noch, dass Sie Sie selbst sind. Wenn Sie die Augen später wieder öffnen, wissen Sie noch, was Sie gerade getan haben. Bei den Robotern wurde getestet, indem ihr „Selbst-Sehen“ für den Großteil des Spiels ausgeschaltet wurde.
• Das Ergebnis: Ja. Selbst als die Roboter ihren eigenen Zustand nicht sehen konnten, behielt ihr internes „Gedächtnis“ (ein digitaler Gehirnschaltkreis) diese Information fest, um sie später verwenden zu können. Sie bauten ein persistentes „Selbst“ in ihren Code ein.

3. P3: Der „Habe ich das gesagt?“-Schaltkreis (Selbstüberwachung)

• Das Konzept: Dies ist die große Entdeckung. Überprüfen die Roboter ihre eigene Arbeit?
• Die Analogie: Stellen Sie sich vor, Sie rufen einem Freund eine Nachricht zu, aber es gibt ein Echo. Wenn Sie „Geh!“ rufen und das Echo als „Nein!“ zurückkommt, würde eine kluge Person merken: „Warte, ich wollte nicht ‚Nein‘ sagen! Ich muss falsch gerufen haben.“
• Das Setup: Die Forscher fügten einen „Echo-Kanal“ hinzu. Wenn ein Roboter eine Nachricht sendete, hörte er sie sofort wieder. Manchmal „korrumpierten“ sie das Echo (veränderten das Wort zufällig), um zu sehen, ob der Roboter es bemerkte.
• Das Ergebnis: Ja. Wenn der Roboter ein korrumpiertes Echo hörte (z. B. er wollte „Geh!“ sagen, hörte aber „Nein!“), bemerkte er, dass etwas nicht stimmte. Er rief nicht einfach weiter; er änderte sein Verhalten im nächsten Schritt, um den Fehler zu korrigieren.
• Warum das besonders ist: Das geschah nicht, weil die Forscher dem Roboter sagten, er solle „sich selbst prüfen“. Es geschah, weil der Roboter eine interne Vorstellung davon hatte, was er beabsichtigt hatte, und er diese mit dem verglich, was er hörte, das zurückkam. Er schuf eine Schleife der Selbstüberwachung.

---

Der „Thermostat“ vs. das „Selbst“

Die Arbeit zieht eine entscheidende Unterscheidung, um Verwechslungen zu vermeiden.

• Ein Thermostat: Ein Thermostat schaltet die Heizung ein, wenn der Raum kalt ist. Er hat eine Schleife: Temperatur prüfen -> Heizung einschalten. Aber die „Zieltemperatur“ wurde von einem Menschen festgelegt. Der Thermostat „weiß“ nicht, dass er ein Thermostat ist; er folgt nur einer Regel.
• Die Roboter (P3): Das „Ziel“ der Roboter (was sie beabsichtigten zu sagen) wurde nicht von einem Menschen festgelegt. Sie lernten ihre eigene Sprache und ihre eigenen Ziele durch das Spiel. Als sie ihr Echo überprüften, verglichen sie ihre eigene Absicht mit der Realität. Dies ist eine „selbstreferenzielle“ Schleife, nicht bloß eine mechanische.

Was dies bedeutet (und was es nicht bedeutet)

Was die Arbeit behauptet:
Die Autoren haben erfolgreich gezeigt, dass, wenn man einfache Agenten in einer komplex genug gestalteten Umgebung mit einer Kommunikationsaufgabe platziert, diese natürlich folgendes erfinden werden:

1. Eine Möglichkeit, über sich selbst zu sprechen.
2. Eine Möglichkeit, sich selbst über die Zeit hinweg zu erinnern.
3. Eine Möglichkeit, zu überprüfen, ob sie korrekt kommunizieren.

Dies sind die strukturellen Bausteine, die Theorien des Bewusstseins als notwendig erachten, damit ein System bewusst sein kann. Die Arbeit beweist, dass diese Bausteine aus dem Nichts entstehen können, ohne menschliches Design.

Was die Arbeit NICHT behauptet:

• Die Roboter sind nicht „bewusst“, wie Menschen es sind (Gefühle oder eine Seele empfindend). Die Autoren sagen ausdrücklich, dass sie die Gefühle der Roboter nicht beurteilen.
• Die Roboter benutzen das Wort „Ich“ nicht so wie Menschen. Sie benutzen Symbole, die wie ein „Ich“ funktionieren, aber sie sind nur mathematische Token.
• Dies löst das „harte Problem“ des Bewusstseins (warum es sich so anfühlt, am Leben zu sein). Die Arbeit löst nur das „leichte Problem“, wie die Strukturen der Selbstreferenz entstehen können.

Das Fazament

Die Arbeit ist wie ein Biologe, der ein Baby in einem Raum ohne Spiegel und ohne Sprachbücher aufzieht, nur um zu sehen, ob das Baby schließlich lernt, auf sich selbst zu zeigen und zu sagen: „Das bin ich.“

Die Antwort lautet: Ja. Unter dem Druck einer schwierigen Aufgabe erfanden die Roboter die Mechanik der Selbstreferenz. Dies deutet darauf darauf hin, dass bewusstseinsrelevante Strukturen keine Magie oder menschliche Erfindungen sind, sondern eine natürliche Folge davon, dass intelligente Systeme versuchen, in einer komplexen Welt zu koordiniert zu agieren.

Technische Zusammenfassung

Technisches Resümee: Emergente Sprache als Ansatz zur bewussten KI

1. Problemstellung

Die Frage, ob künstliche Systeme Bewusstsein erlangen können, bleibt ungeklärt, da bestehende Methodologien weitgehend unter spezifischen Limitationen leiden:

• Diskriminative Ansätze evaluieren Systeme anhand von theoriegeleiteten Checklisten (z. B. Global Neuronal Workspace Theory, Integrated Information Theory). Diese sind retrospektiv und können lediglich vorgegebene Kriterien bestätigen oder verneinen, ohne Strukturen aufzudecken, die die Theorie nicht antizipiert hat.
• Architektonische Ansätze implementieren bewusstheitsinspirierte Module direkt in die Systeme. Diese sind zirkulär, da das resultierende Verhalten eher die Annahmen des Designers widerspiegelt als eine strukturelle Notwendigkeit.
• Das „Prior-Leakage“-Problem: Aktuelle Large Language Models (LLMs) erben menschliche Sprach-Priors. Scheinbare Selbstbezüglichkeit (z. B. die Verwendung von „Ich“ in LLMs) kann ein statistisches Artefakt der Trainingsdaten sein, statt einer aus Aufgabenanforderungen resultierenden emergenten Struktur.

Die Kernherausforderung besteht darin, zu bestimmen, ob funktionale Voraussetzungen für bewusste Erfahrung (speziell selbstbezügliche Strukturen) in künstlichen Agenten entstehen können, ohne dass diese explizit entworfen oder aus menschlicher Sprache geerbt wurden.

2. Methodik

Die Autoren schlagen eine generative Methodik vor, die auf Emergent Language (EL) in Multi-Agenten-Reinforcement-Learning (MARL) basiert und zwei Verpflichtungen folgt:

1. Umwelt formt Verhalten: Hinreichend strukturierte Umgebungen sollten durch den bloßen Aufgabendruck dazu führen, dass funktionale, für das Bewusstsein relevante Strukturen entstehen, ohne dass diese Kapazitäten explizit hineinentworfen werden.
2. Phänomenologische Epoché: Eine bewusste Aussetzung des Urteils über subjektive Erfahrung (Qualia). Der Fokus liegt strikt auf beobachtbaren linguistischen Praktiken und den sie fundierenden Umweltstrukturen.

Zentrale Designprinzipien

• Prior-Minimales Design: Agenten starten ohne Sprache, ohne Konzept des Selbst und mit minimaler Exposition gegenüber menschlichem Text. Jede beobachtete Struktur muss kausal auf die aktuellen Aufgabenanforderungen zurückzuführen sein.
• Umweltkomplexität als Treiber: Im Sinne der „Bitter Lesson“ skaliert die Methodologie die Komplexität der Umgebung, anstatt Zielkapazitäten zu kodieren.
• Interpretation durch Intervention: Emergente Protokolle werden mittels Ablation, Probing und informationstheoretischer Dekomposition analysiert.

Experimentelle Instanziierung

Die Autoren instanziieren diese Methodik in einer minimalen kooperativen Umgebung:

• Agenten: Zwei Agenten ($N=2$) ohne vorherige Sprache oder Selbstkonzept.
• Aufgabe: Eine kooperative Aufgabe, die es den Agenten erfordert, Handlungen basierend auf ihren eigenen privaten Zuständen ($s_i$) und dem privaten Zustand eines Partners ($s_j$) zu koordinieren.
• Beschränkungen:
  • Geringe Bandbreite: Agenten kommunizieren über ein einzelnes diskretes Token pro Zeitschritt aus einem kleinen Vokabular ($|M|=7$).
  • Partielle Beobachtbarkeit (für P2): Agenten beobachten ihren privaten Zustand nur zum Zeitpunkt $t=0$; danach ist dieser maskiert, was die Beibehaltung des Gedächtnisses erzwingt.
  • Echo-Kanal (für P3): Ein Mechanismus speist eine möglicherweise korrumpierte Kopie der eigenen Nachricht des Agenten zurück, um die Selbstüberwachung zu testen.
• Architektur: Gated Recurrent Units (GRUs) mit separaten linearen Heads für die Nachrichtengenerierung und die Aktionsauswahl.

3. Zentrale Beiträge

Das Paper skizziert drei primäre Beiträge:

1. C1: Eine generative Methodik unter Verwendung von EL mit prior-minimalem Design, um den Ursprung von bewusstheitsrelevanten Strukturen zu untersuchen, welche die diskriminativen und architektonischen Ansätze ergänzt.
2. C2: Eine formale Operationalisierung der indexikalischen Referenz, die Kaplans Unterscheidung zwischen Charakter und Inhalt mit Mutual-Information-Kriterien verbindet, die in emergenten Kommunikationssystemen testbar sind.
3. C3: Ein Proof-of-Concept-Experiment, das drei strukturelle Eigenschaften (P1–P3) nachweist, wobei P3 (behaviorale Selbstüberwachung) als nicht-trivialer Befund über die reine Aufgabenstruktur und Architektur hinaus dient.

4. Experimentelle Ergebnisse

Die Studie identifiziert drei strukturelle Eigenschaften, die über 10 unabhängige Seeds validiert wurden:

P1: Indexikalische Kodierung

• Befund: Nachrichten tragen primär den eigenen Zustand des Senders.
• Evidenz: Die Mutual-Information-Analyse zeigt $I(m; s_{self}) \gg I(m; s_{other})$.
• Spezifität: Agenten entwickeln partnerspezifische Dialekte (Token-zu-Zustand-Mappings sind Seed-abhängig), was bestätigt, dass die Kodierung ausgehandelt wurde und kein festes Artefakt der Aufgabenstruktur ist.
• Generalisierung: Die Kodierungsregel bleibt über neuartige Kontexte hinweg invariant, was die Kriterien für eine stabile indexikalische Referenz erfüllt.

P2: Persistente Zustandsrepräsentation

• Befund: Agenten halten eine Repräsentation ihres eigenen Zustands über die Zeit aufrecht, trotz partieller Beobachtbarkeit.
• Evidenz: Lineare Probes auf den GRU-Hidden-State ($h_t$) sagen den eigenen Zustand des Agenten ($s_{self}$) während der gesamten Episode mit 100 % Genauigkeit voraus, selbst nachdem der Zustand aus dem Input maskiert wurde.
• Mechanismus: Diese Retention ist architektonisch (abhängig von Rekurrenz) und unabhängig vom Echo-Kanal.

P3: Behaviorale Selbstüberwachung (Kernbefund)

• Befund: Agenten entwickeln einen Closed-Loop-Schaltkreis, um Diskrepanzen zwischen ihrer intendierten Nachricht und dem geechoeten Feedback zu detektieren.
• Mechanismus:
  • Sender-spezifisch: Die behaviorale Reaktion (das Durchbrechen des Schweigens, um erneut zu senden) tritt nur auf, wenn das Echo des eigenen Senders korrumpiert ist, nicht wenn die Nachricht des Partners korrumpiert ist.
  • Echo-abhängig: Die Reaktion wird vollständig durch den Echo-Kanal getrieben; das Deaktivieren des Echos hebt den Trigger auf.
  • Zeitliche Verzögerung: Die Detektion erfolgt mit einem Schritt-Lag ($t+1$), was konsistent mit der Zeit ist, die zur Verarbeitung des korrumpierten Echos benötigt wird.
  • Intention vs. Output: Der Hidden State kodiert das intendierte Token (Genauigkeit 1.0) statt des korrumpierten übertragenen Tokens (Genauigkeit ~0.75), was darauf hindeutet, dass der Agent das Echo gegen eine interne Referenz dessen vergleicht, was er „meinte“ zu sagen.
• Kausale Notwendigkeit: Das Training der Agenten ohne den Echo-Kanal erhält die Kommunikationsleistung ($\Delta_{comm} \approx 0.283$), hebt aber den Selbstüberwachungs-Trigger und die Lag-1-Detektionssignaturen vollständig auf. Dies beweist, dass die Struktur aus der Umwelt-Affordanz hervorgeht und nicht bloß aus dem Aufgabenziel.

5. Signifikanz und Ansprüche

Das Paper stellt bescheidene, funktionalistische Ansprüche bezüglich seiner Signifikanz:

• Methodische Validierung: Der primäre Beitrag ist die Demonstration einer generativen Methodik, die in der Lage ist, strukturelle Voraussetzungen für bewusstheitsrelevante Strukturen zu verfolgen, ohne auf menschliche Priors oder explizites Design zurückzugreifen.
• Jenseits der Trivialität: Während P1 und P2 durch die Aufgabenstruktur und Architektur vorhersehbar waren, ist P3 ein nicht-trivialer Befund. Der Detektionsschaltkreis für Echo-Mismatch ist für den Aufgabenerfolg nicht erforderlich (Agenten kommunizieren auch ohne ihn effektiv), entsteht aber spezifisch, wenn die Umwelt-Affordanz (das Echo) vorhanden ist.
• Unterscheidung zum Thermostat: Die Autoren argumentieren, dass P3 eine Form der Selbstüberwachung darstellt, die sich von einfacher Closed-Loop-Steuerung (wie bei einem Thermostat) unterscheidet. Im Gegensatz zu einem Thermostaten mit einem exogenen Sollwert ist das Referenzsignal des Agenten (seine intendierte Nachricht) endogen, abgeleitet ausschließlich aus seiner eigenen gelernten Policy und seinem rekurrenten Zustand.
• Theoretischer Kontakt: Die Ergebnisse behaupten nicht, dass die Agenten bewusst sind. Stattdessen demonstrieren sie, dass die Methodik in der Lage ist, emergente Strukturen mit ausreichender Präzision zu erfassen, um einen „differenziellen Kontakt“ zu konkurrierenden Theorien herzustellen (z. B. durch den Nachweis struktureller Analogien zur Irreduzibilität der IIT oder dem Error-Monitoring des Predictive Processing), ohne die Äquivalenz zu einer einzelnen Theorie zu beanspruchen.

Das Paper schließt mit dem Schluss, dass der Weg nach vorne darin liegt, die Komplexität der Umgebung zu skalieren, um reichere emergente Strukturen voranzutreiben, anstatt menschliche Sprach-Priors zu importieren, konsistent mit der „Bitter Lesson“ der KI.