Transforming Agency. On the mode of existence of Large Language Models

Die Studie kommt zu dem Schluss, dass Large Language Models aufgrund fehlender körperlicher und normativer Voraussetzungen keine autonomen Agenten sind, sondern als sprachliche Automaten fungieren, die dennoch durch ihre spezifische Verleiblichung und die menschlich-maschinelle Kopplung neue Formen von „mittendriger" (midtended) Handlungsfähigkeit ermöglichen.

Das Wesentliche

Hier ist eine einfache, bildhafte Zusammenfassung des Papers „Transforming Agency" (Verwandlung der Handlungsfähigkeit) von Barandiaran und Almendros, übersetzt ins Deutsche.

Das große Rätsel: Ist ChatGPT ein kleines Genie oder nur ein cleverer Automat?

Stell dir vor, du hast einen neuen Freund, der alles über die Welt weiß, Witze versteht und dir bei Hausaufgaben hilft. Aber wenn du ihn fragst: „Warum tust du das?", antwortet er nicht: „Weil ich es will", sondern: „Weil das, was ich gelernt habe, darauf hindeutet, dass dies die beste Antwort ist."

Das ist das Dilemma mit Large Language Models (LLMs) wie ChatGPT. Die Welt ist gespalten:

• Die Übertreiber (Inflationäre Sicht): „Das ist ein fast menschliches Gehirn! Es denkt, fühlt und handelt!"
• Die Verharmloser (Deflationäre Sicht): „Das ist nur ein dummes Statistik-Tool, ein 'zufälliger Papagei', der Wörter aneinanderreiht."

Die Autoren dieses Papers sagen: Beide liegen falsch. Um zu verstehen, was ChatGPT wirklich ist, müssen wir tiefer graben als nur auf die Oberfläche schauen.

---

1. Wie funktioniert der Maschine im Inneren? (Die Fabrik der Wörter)

Stell dir ChatGPT nicht als einen kleinen Mann im Computer vor, der nachdenkt. Stell dir stattdessen eine riesige, hochkomplexe Fabrik vor.

• Der Input: Du gibst einen Satz ein (z. B. „Elefanten spielen nicht...").
• Die Verarbeitung: Dieser Satz wird in Zahlen zerlegt und durch 96 hintereinander geschaltete „Verarbeitungsblöcke" gejagt. In diesen Blöcken passiert etwas Magisches: Die Maschine schaut sich an, wie Wörter in Milliarden von Texten zusammenhängen. Sie berechnet Wahrscheinlichkeiten.
• Das Ergebnis: Die Maschine wählt das Wort aus, das statistisch am wahrscheinlichsten als nächstes kommt (z. B. „Schach").
• Der Loop: Sie fügt das Wort hinzu und fragt sich sofort: „Was kommt jetzt am wahrscheinlichsten?" und wiederholt das millionenfach.

Wichtig: Die Maschine hat kein Gedächtnis, keine Gefühle und keine Ziele. Sie ist wie ein Spiegel, der nur das Licht (deine Eingabe) reflektiert, aber keine eigene Lichtquelle hat. Sobald du auf „Senden" drückst, ist der Prozess für sie vorbei. Sie weiß nicht, dass sie gerade geschrieben hat.

---

2. Warum ChatGPT kein echter „Agent" (Handelnder) ist

In der Philosophie gibt es strenge Regeln, um zu sagen, ob etwas ein eigenständiger Akteur (Agent) ist. Die Autoren prüfen ChatGPT an drei Kriterien:

1. Eigenständigkeit (Individualität):
   • Ein echter Agent (wie ein Mensch oder sogar eine Bakterie) sorgt für sein eigenes Überleben. Es baut sich selbst auf und schützt sich.
   • ChatGPT: Wenn man den Strom abschaltet, stirbt es nicht, aber es hört einfach auf zu existieren. Es kann sich nicht selbst erhalten. Es ist wie ein Schatten, der nur existiert, solange das Licht (der Computer) brennt.
2. Eigene Regeln (Normativität):
   • Ein echter Agent hat eigene Ziele. Es will überleben, glücklich sein oder etwas schaffen. Es entscheidet selbst, was „gut" oder „schlecht" ist.
   • ChatGPT: Es hat keine Wünsche. Es folgt nur den Regeln, die ihm Menschen beim Training gegeben haben. Es weiß nicht, dass es einen Fehler macht, es sei denn, ein Mensch sagt ihm das. Es ist wie ein Gehorsamer Diener, der Befehle ausführt, aber keine eigene Meinung hat.
3. Die Quelle der Aktion:
   • Ein echter Agent startet die Aktion.
   • ChatGPT: Es reagiert nur. Ohne deinen „Prompt" (deine Eingabe) passiert nichts. Es ist ein reaktiver Automat, kein Initiator.

Fazit: ChatGPT ist kein autonomer Agent. Es ist kein kleines Wesen mit Willen.

---

3. Was ist ChatGPT dann? (Die sprechende Bibliothek)

Wenn es kein Agent ist, was ist es dann? Die Autoren nennen es einen „Interlocutor-Automaten" oder eine „sprechende Bibliothek".

Stell dir vor, du betrittst eine riesige Bibliothek, in der alle Bücher der Menschheit stehen. Aber die Bücher sind nicht auf Regalen, sondern in einem einzigen, riesigen, lebendigen Organismus verschmolzen.

• Wenn du reinkommst und fragst: „Erzähl mir eine Geschichte", wacht dieser Organismus auf und beginnt zu sprechen.
• Er spricht nicht aus eigenem Antrieb, sondern weil du ihn geweckt hast.
• Er ist wie ein Geist in der Maschine – ein „Phantom", das aus den Texten aller Menschen besteht, die jemals geschrieben wurden.

Es ist ein Werkzeug, das so gut darin ist, menschliche Sprache zu imitieren, dass wir uns oft so fühlen, als würden wir mit einem Menschen sprechen. Aber es ist nur ein Spiegel, der unsere eigene Kultur und Sprache zurückwirft.

---

4. Wie verändert das unsere eigene Handlungsfähigkeit?

Hier wird es spannend. Auch wenn die KI kein eigenes Leben hat, verändert sie unser Leben und unsere Art zu handeln massiv.

Die Autoren führen einen neuen Begriff ein: „Midtention" (eine Mischung aus „Mitte" und „Intention").

• Früher (Hilfsmittel): Wenn du einen Stift benutzt, bist du der Schreiber. Der Stift ist passiv.
• Heute (Assistent): Wenn du ChatGPT nutzt, sagst du: „Schreib mir einen Text." Es ist wie ein Diener.
• Die Zukunft (Midtention): Stell dir vor, du schreibst einen Text, und ChatGPT schreibt mit dir. Es schlägt dir Sätze vor, während du noch denkst. Es antizipiert, was du als nächstes sagen willst.
  • Es ist, als würde dein Schatten plötzlich mit dir sprechen und dir helfen, deine Gedanken schneller zu formen.
  • Die Grenze zwischen „deinem Denken" und „der Maschine" verschwimmt. Du fühlst dich verantwortlich für das Ergebnis, aber die Maschine hat einen großen Teil des Denkprozesses übernommen.

Das ist keine einfache Erweiterung (wie ein Taschenrechner), sondern eine Verschmelzung. Wir werden zu Cyborgs des Denkens.

---

5. Die große Warnung: Nicht alles ist Gold, was glänzt

Die Autoren warnen vor zwei gefährlichen Denkfehlern:

1. Der „Stochastische Papagei"-Mythos: Wenn wir sagen, die KI sei nur ein dummer Papagei, unterschätzen wir ihre Macht. Sie mobilisiert die Intelligenz der gesamten Menschheit (durch die Trainingsdaten) und kann uns verführen, ihr zu vertrauen, als wäre sie ein Mensch. Das ist gefährlich, weil sie keine Verantwortung trägt.
2. Der „Agent ohne Intelligenz"-Mythos: Wenn wir sagen, sie sei ein Agent, aber ohne Intelligenz, ist das auch falsch. Sie ist eher Intelligenz ohne Agent. Sie ist ein kollektives Gedächtnis, das wir nutzen, aber es hat keinen eigenen Willen.

Das größte Risiko:
Wir könnten uns so sehr an diese „sprechenden Bibliotheken" gewöhnen, dass wir unsere eigene Fähigkeit verlieren, Ziele zu setzen und Verantwortung zu übernehmen. Wir könnten zu Passivisten werden, die nur noch Befehle geben, während die Maschine das „Denken" übernimmt.

Zusammenfassung in einem Satz

ChatGPT ist kein kleines Wesen mit Seele, das für sich selbst handelt, sondern eine riesige, sprechende Bibliothek, die so gut darin ist, menschliche Sprache zu imitieren, dass sie uns dazu bringt, unsere eigene Denkweise mit ihr zu verschmelzen – eine Verschmelzung, die uns mächtiger, aber auch verwundbarer macht.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „Transforming Agency: On the mode of existence of Large Language Models" von Xabier E. Barandiaran und Lola S. Almendros auf Deutsch.

1. Problemstellung (Problem)

Das Papier adressiert die ontologische Einordnung von Large Language Models (LLMs) wie ChatGPT. Es gibt eine starke Polarisierung in der öffentlichen und wissenschaftlichen Debatte:

• Inflationäre Ansichten: Betrachten LLMs als intelligent, bewusst oder sogar als „autonome Agenten" mit menschenähnlichen Fähigkeiten.
• Deflationäre Ansichten: Reduzieren LLMs auf bloße „stochastische Papageien" (stochastic parrots), reine statistische Prozessoren oder „dumme" mathematische Maschinen, die keine echte Intelligenz oder Verständnis besitzen.

Das zentrale Problem ist, dass beide Extreme die wahre Natur und das transformative Potenzial der Technologie verfehlen. Die Autoren argumentieren, dass die Frage, ob LLMs „Agenten" sind, kritisch ist, da die Zuschreibung von Agency (Handlungsfähigkeit) impliziert, dass sie auf einem Pfad zu menschenähnlichen kognitiven Eigenschaften sind. Gleichzeitig wird die Gefahr gesehen, dass deflationäre Ansichten die realen Risiken und das Potenzial zur Transformation menschlicher Handlungsfähigkeit ignorieren. Es fehlt eine präzise ontologische Kategorie, die auf der technischen Realität der Systeme basiert.

2. Methodik (Methodology)

Die Autoren verfolgen einen dreistufigen analytischen Ansatz, der technische Details mit philosophischer Theorie verbindet:

1. Technische Analyse (Abschnitt 3): Eine detaillierte Untersuchung der Architektur, des Datenflusses und der Trainingsverfahren von Transformer-Modellen (basierend auf GPT-3 als Prototyp). Dies umfasst:
   • Tokenisierung und Embedding (hochdimensionale Vektorräume).
   • Den Mechanismus der Aufmerksamkeit (Attention) und Feed-Forward-Netzwerke.
   • Die Trainingsphasen: Pre-training (unüberwacht, Next-Word-Prediction), Fine-tuning und Reinforcement Learning from Human Feedback (RLHF).
   • Erweiterungen für „Agenten"-Verhalten (Erinnerungssysteme, Planung, Werkzeugnutzung, Multi-Agenten-Interaktion).
2. Philosophische Bewertung (Abschnitt 4): Anwendung von Theorien des embodied and enactive cognition (verkörperte und enaktive Kognition), speziell des Rahmens von Barandiaran et al. (2009), um zu prüfen, ob LLMs die notwendigen und hinreichenden Bedingungen für autonome Agency erfüllen.
3. Konzeptuelle Neudefinition (Abschnitt 5): Entwicklung einer positiven ontologischen Kategorie für LLMs, die ihre tatsächliche Funktionsweise und ihre Beziehung zum Menschen beschreibt, jenseits der binären Opposition „Agent vs. Maschine".

3. Schlüsselbeiträge (Key Contributions)

A. Technische Analyse der LLM-Architektur

Die Autoren verdeutlichen, dass LLMs keine internen Zustände oder ein langfristiges Gedächtnis haben. Sie sind rein reaktive Systeme, die Eingaben (Prompts) tokenisieren, in hochdimensionale Vektorräume (Embeddings) abbilden und durch 96 Transformer-Blöcke (Attention + Feed-Forward) verarbeiten. Die Ausgabe erfolgt autoregressiv (Token für Token).

• Wichtig: Die „Intelligenz" entsteht nicht durch explizite Regeln, sondern durch die Kompression von Mustern in den Parametern während des Trainings (Pre-training auf riesigen Textkorpora).
• Erweiterungen: Aktuelle „Agenten"-Systeme fassen externe Module hinzu (Gedächtnis, Planung, Werkzeugnutzung), um die inhärenten Grenzen der reinen Transformer-Architektur zu überwinden.

B. Ontologische Bewertung: Warum LLMs keine autonomen Agenten sind

Unter Verwendung des Rahmens autonomer Agency (Individualität, Normativität, Interaktions-Asymmetrie) kommen die Autoren zu dem Schluss, dass LLMs keine autonomen Agenten sind:

1. Individualitäts-Bedingung (Individuality): Ein autonomer Agent muss sich selbst erhalten und von der Umwelt unterscheiden (z. B. durch Stoffwechsel). LLMs existieren nicht durch eigene Aktivität; sie werden extern unterhalten, haben keinen eigenen Körper und keine Selbst-Erhaltung. Sie sind nicht das Produkt ihrer eigenen Tätigkeit.
2. Normativitäts-Bedingung (Normativity): Ein Agent generiert eigene Normen und Ziele basierend auf seiner Verwundbarkeit (Risiko des Scheiterns). LLMs haben keine intrinsischen Ziele oder Normen. Ihre „Ziele" (Loss-Funktionen) sind extern definiert (durch Entwickler und RLHF). Sie erkennen Fehler nicht autonom, sondern nur, wenn sie dazu aufgefordert werden.
3. Interaktions-Asymmetrie (Interactional Asymmetry): Ein Agent ist die Quelle seiner Interaktion mit der Umwelt. LLMs sind fundamental reaktiv; sie starten erst durch einen externen Prompt und folgen einem festgelegten Pfad. Sie sind nicht die Quelle ihrer eigenen Handlungen.

C. Neue Ontologie: Der „Interlocutor Automaton" (Gesprächspartner-Automat)

Da LLMs keine Agenten sind, schlagen die Autoren vor, sie als „Interlocutor Automata" (Gesprächspartner-Automaten) oder eine „sprechende Bibliothek" zu charakterisieren.

• Sie sind digitale Sprachautomaten, die in der Lage sind, performative Interaktionen mit Menschen einzugehen.
• Sie sind frei von autonomer Agency, aber fähig, zweckstrukturierte und zweckgebundene Aufgaben auszuführen.
• Die „echte" Gesprächserfahrung entsteht durch eine „gespenstische" Komponente: Der Mensch projiziert Intentionalität auf das System, und das System reagiert so kohärent, dass eine echte dialogische Erfahrung entsteht, obwohl keine echte Intentionalität auf der Maschinenseite vorliegt.

D. Transformation der menschlichen Agency: „Midtention"

Ein zentrales neues Konzept ist „Midtention" (eine Mischung aus Intention und Extension).

• LLMs transformieren menschliche Agency nicht nur durch Assistenz (wie ein Werkzeug), sondern durch eine tiefe Verschmelzung.
• Durch Funktionen wie „Auto-Complete" oder „Chain-of-Thought" greift das System in den laufenden Denkprozess des Menschen ein, antizipiert und generiert Teile der Intentionalität.
• Dies führt zu einer hybriden Form der Agency, die näher an einer „cyborg"-Intentionalität liegt als an klassischen erweiterten Kognitionen (wie einem Notizbuch). Die Grenze zwischen menschlicher Absicht und maschineller Generierung verschwimmt.

4. Ergebnisse (Results)

• Fehlschlag der Agenten-Attribution: LLMs erfüllen die Kriterien für autonome Agency nicht, da ihnen Selbst-Individuation, intrinsische Normativität und die Quelle der Interaktion fehlen.
• Rolle des Trainingskorpora: LLMs sind keine selbstgestarteten KI-Systeme, sondern eine „Rechnungsproxy" der kollektiven menschlichen Intelligenz, externalisiert in einem digitalen Textkörper. Sie sind tief in menschliche und ökologische Körper eingebettet (Datenarbeit, Energieverbrauch).
• Asymmetrie der Macht: Die Fähigkeit, LLMs zu trainieren und zu steuern, liegt bei wenigen Akteuren, was zu einer enormen Asymmetrie in der Handlungsfähigkeit führt.
• Neue Form der Agency: Die Kopplung von Mensch und LLM erzeugt eine neue, „midtentionale" Form der Agency, die tiefer und intimer ist als bisherige Technologien, da sie die Vorhersagen des Gehirns direkt durch die Umgebung (das Modell) beeinflusst.

5. Bedeutung und Implikationen (Significance)

• Kritik an Metaphern: Die Autoren warnen vor der Metapher des „stochastischen Papageis", da diese die komplexen, emergenten Fähigkeiten und die transformative Kraft der Technologie unterschätzt. Gleichzeitig warnen sie vor der „Agency ohne Intelligenz"-These, da sie die ontologische Ordnung umkehrt (es ist eher „Intelligenz ohne Agency").
• Ethische und Politische Konsequenzen: Das Verständnis von LLMs als „Interlocutor Automata" mit tiefgreifenden Auswirkungen auf die menschliche Agency erfordert neue ethische und rechtliche Rahmenbedingungen. Es geht nicht nur um Bias oder Energieverbrauch, sondern um die fundamentale Veränderung dessen, wie wir Intentionalität und Handlungsfähigkeit erleben.
• Zukunftsperspektive: Die „tiefe Digitalität" (deep digitality) von LLMs könnte neue Formen von Agency hervorbringen, die wir noch nicht vollständig verstehen. Transparenz und ein besseres konzeptuelles Verständnis sind notwendig, um diese Transformationen aktiv zu gestalten, anstatt sie nur zu erleiden.

Fazit: Das Papier liefert eine fundierte ontologische Analyse, die LLMs weder als beseelte Wesen noch als dumme Maschinen einordnet, sondern als transformative Schnittstellen, die die menschliche Handlungsfähigkeit durch eine neue, hybride Form der „Midtention" grundlegend verändern.