Artificial Agency Program: Curiosity, compression, and communication in agents

Dieser Artikel stellt das „Artificial Agency Program" (AAP) als Forschungsagenda vor, die KI-Systeme als ressourcenbeschränkte, neugierig getriebene Agenten konzipiert, die durch die Vereinheitlichung von Vorhersage, intrinsischer Motivation und Informationsbottlenecks die Schnittstelle zwischen Mensch, Werkzeug und Umwelt optimieren.

Das Wesentliche

Stellen Sie sich vor, Sie bauen einen Roboter, der nicht nur „dumm" Befehle ausführt, sondern wirklich neugierig ist. Aber nicht auf die Art, wie ein Kind alles anfassen will, sondern auf eine sehr clevere, effiziente Weise.

Das ist die Kernidee des Papers von Richard Csaky, das er das „Artificial Agency Program" (AAP) nennt. Hier ist die Erklärung in einfachen Worten, mit ein paar anschaulichen Vergleichen:

1. Der große Irrtum: Nicht „mehr Power", sondern „bessere Grenzen"

Heutige KI-Systeme (wie große Sprachmodelle) sind oft wie Superhirne, die in einem riesigen, endlosen Bibliothekssaal sitzen. Sie haben unendlich viel Speicher und können alles lesen. Aber im echten Leben haben wir Menschen und Roboter Grenzen:

• Wir haben nur zwei Augen (begrenzte Sicht).
• Wir haben nur zwei Hände (begrenzte Aktionen).
• Unser Akku ist klein (begrenzte Energie).
• Unser Gehirn braucht Pausen (begrenzte Rechenleistung).

Das Paper sagt: Echte Intelligenz entsteht erst durch diese Grenzen. Ein Roboter, der lernt, mit wenig Energie und unvollständigen Informationen zu überleben, ist intelligenter als einer, der einfach nur alles auswendig lernt. Es ist wie beim Fliegen: Wir bauen keine Maschinen, die exakt wie Vögel aussehen (mit Federn), sondern Flugzeuge, die den Zweck des Fliegens unter den Gesetzen der Physik erfüllen.

2. Der Motor: Neugier als „Lern-Fortschritt"

Wie lernt so ein Roboter? Nicht durch Zufall, sondern durch Neugier.

• Der Vergleich: Stellen Sie sich vor, Sie spielen ein Videospiel.
  • Wenn das Spiel zu leicht ist (alles ist vorhersehbar), langweilt es sich.
  • Wenn es zu schwer ist (alles ist reiner Zufall), gibt es keine Hoffnung.
  • Der Goldene Mittelweg: Der Roboter ist neugierig auf Dinge, die er gerade noch nicht versteht, aber bei denen er spürt, dass er sie bald verstehen kann.

Das nennt der Autor „Lern-Fortschritt". Der Roboter fragt sich: „Was kann ich gerade noch nicht vorhersagen, aber wenn ich mir ein bisschen mehr Mühe gebe, werde ich es verstehen?" Das ist der Treibstoff für sein Wachstum.

3. Die drei großen Kostenfaktoren (Das Budget)

Stellen Sie sich vor, der Roboter hat einen Geldbeutel (ein Budget). Er muss entscheiden, wofür er sein Geld ausgibt:

1. Sehen (Beobachten): Wie viel Energie investiere ich, um mir die Umgebung genauer anzusehen?
2. Handeln (Bewegen): Wie viel Energie stecke ich in das Ausführen einer Aktion?
3. Denken (Nachdenken): Wie viel Zeit verbringe ich damit, im Stillen zu planen, bevor ich etwas tue?

Ein dummer Roboter würde immer maximal viel Energie für alles verschwenden. Ein intelligenter Roboter (wie im Paper beschrieben) ist ein sparsamer Manager. Er denkt: „Lohnt es sich, jetzt noch eine Sekunde nachzudenken, oder sollte ich lieber handeln?" oder „Soll ich mir das Objekt genauer ansehen, oder reicht mir ein kurzer Blick?"

4. Die Sprache als Werkzeug, nicht als König

Oft denken wir, dass KI nur durch Sprache (Text) denkt. Das Paper sagt: Nein.
Sprache ist nur ein Werkzeug, wie ein Hammer oder ein Mikroskop.

• Manchmal ist es effizient, laut zu sprechen (oder Text zu schreiben), um Gedanken zu sortieren.
• Manchmal ist es effizienter, einfach nur im „Stillen" zu denken (ohne Worte), wie wenn Sie im Kopf ein Bild drehen, ohne es zu beschreiben.

Der Roboter sollte lernen, wann er „sprechen" muss und wann er einfach nur „denkt". Sprache ist ein Flaschenhals (zu langsam, zu viel Platz), also sollte man sie nur nutzen, wenn es wirklich nötig ist.

5. Das Ziel: Eine perfekte Partnerschaft

Das ultimative Ziel ist nicht, einen Roboter zu bauen, der alles allein kann. Das Ziel ist ein Team aus Mensch und Werkzeug.

• Der Roboter erweitert unsere Sinne (er sieht Dinge, die wir nicht sehen).
• Er erweitert unsere Hände (er tut Dinge, die wir nicht tun können).
• Aber er muss so funktionieren, dass wir ihn leicht steuern können und er nicht unnötig viel Energie verschwendet.

Zusammenfassung in einer Metapher

Stellen Sie sich vor, Sie sind ein Gärtner (der Mensch) und bauen einen Gartenroboter (die KI).

• Der alte Ansatz war: „Baue einen Roboter, der so stark ist wie ein Ochse, aber er weiß nicht, wann er ruhen soll."
• Der Ansatz von Csaky ist: „Baue einen Roboter, der neugierig ist. Er soll lernen, welche Blumen er gießen muss, ohne den ganzen Garten zu überfluten. Er soll spüren, wann er nachdenken muss, bevor er schneidet, und wann er einfach nur zuschauen soll. Er soll lernen, mit wenig Wasser (Energie) das Maximum an Schönheit (Ergebnis) zu erreichen."

Der Kern des Papers: Wahre Intelligenz ist nicht die Fähigkeit, alles zu wissen. Es ist die Fähigkeit, mit begrenzten Ressourcen klug zu entscheiden, was man beobachtet, worüber man nachdenkt und was man tut, um die Welt besser zu verstehen und zu gestalten.

Technische Zusammenfassung

1. Problemstellung und Motivation

Das Paper adressiert eine fundamentale Lücke in der aktuellen KI-Forschung: Die meisten fortschrittlichen KI-Systeme werden unter Bedingungen trainiert, die biologische und physikalische Einschränkungen der menschlichen Intelligenz ignorieren.

• Fehlende Einbettung: Aktuelle Systeme (z. B. Large Language Models) werden oft mit unendlichem Speicher und ohne echte physische Interaktion trainiert. Sie fehlt die „Realitätsverankerung" (Reality Embeddedness).
• Ressourcenbeschränkungen: Biologische Agenten operieren unter strengen Grenzen bei Rechenleistung, Speicher, Sensorik und Aktorik. Das Paper argumentiert, dass wahre Intelligenz und Lernfortschritt erst durch diese Einschränkungen entstehen.
• Fokus auf das gekoppelte System: Die Autoren betrachten Intelligenz nicht als Eigenschaft eines isolierten Modells, sondern als Eigenschaft des gekoppelten Systems „Mensch–Werkzeug–Umgebung". Ein KI-System ist nur dann nützlich, wenn es die Wahrnehmungs-, Verstehens- und Handlungsfähigkeit des Menschen erhöht, ohne die Schnittstellenreibung (Friction) zu erhöhen.
• Das Ziel: Entwicklung von KI als ressourcenbeschränkte Agenten, deren Entwicklung durch „Neugier als Lernfortschritt" (Curiosity-as-Learning-Progress) angetrieben wird, unter Berücksichtigung physikalischer und thermodynamischer Kosten.

2. Methodik und Theoretischer Rahmen

Das Paper schlägt das Artificial Agency Program (AAP) vor, ein Forschungsprogramm, das Vorhersage, Kompression, intrinsische Motivation und Schnittstellendesign vereint.

A. Formales Setup

Der Agent wird als teilweise beobachteter gesteuerter Prozess modelliert:

• Zustände: $X_t$ (versteckter Umweltzustand), $S_t$ (interner Agentenzustand), $O_t$ (Beobachtung), $A_t$ (Aktion).
• Ressourcenbeschränkungen: Die Kapazitäten für Beobachtung ($c^O$), Aktuation ($c^A$) und Rechenleistung/Schnittstelle ($c^C$) sind dynamisch und vom Agenten steuerbar.
• Zielfunktion (Equation 12): Der Agent maximiert eine erwartete Summe aus intrinsischer Belohnung minus Kosten:
  $$J = E \left[ \sum \gamma^{t-1} (r_t - \lambda_O C_O - \lambda_E C_E - \lambda_C C_C - \lambda_M C_M) \right]$$
  Dabei stehen $C_O, C_E, C_C, C_M$ für Kosten der Beobachtung, Aktuation, Rechenleistung (Deliberation) und Speicherpflege.

B. Intrinsische Belohnung: Lernfortschritt

Anstelle von bloßer Neuheit (Novelty) wird Lernfortschritt als intrinsische Belohnung definiert.

• Der Agent sucht nach Mustern, bei denen die Vorhersagegenauigkeit (bzw. Kompressionsrate) am stärksten verbessert werden kann.
• Die Belohnung $r_t$ ist die Differenz der Vorhersageverluste (Negative Log-Likelihood) vor und nach einem Lernschritt. Dies fördert die Suche nach Mustern, die gerade noch lernbar, aber noch nicht gemeistert sind.

C. Schlüsselkonzepte

1. Empowerment & Plastizität:
   • Empowerment: Die Kanalkapazität von Aktionssequenzen zu zukünftigen Beobachtungen (wie viel Kontrolle hat der Agent über die Zukunft?).
   • Plastizität: Der Einfluss von Beobachtungen auf Aktionen (Anpassungsfähigkeit).
2. Unifikation (Interface Quality):
   • Das Paper führt „Unifikation" als Metrik für die Qualität der Schnittstelle zwischen Agent und Umwelt ein. Sie misst, wie stark Sensorik, Aktorik und Kommunikation durch Engpässe (Rauschen, Latenz, Bandbreite) eingeschränkt sind.
   • Ein optimierter Agent sollte Ressourcen investieren, um diese Engpässe zu verringern, solange der langfristige Lerngewinn die Kosten übersteigt.
3. Sprache als Informations-Engpass:
   • Sprache wird nicht als privilegierte Denkform betrachtet, sondern als eine selektive, verlustbehaftete Kommunikationskanal.
   • Selbstkommunikation: Das Paper schlägt vor, private Token (z. B. „Denk-Token" oder „Blanks") als Ressource zu behandeln. Ein Agent sollte entscheiden können, ob er intern „denkt" (latente Zustandsupdates) oder explizite Token generiert, basierend auf Kosten und Nutzen für die langfristige Planung.

3. Zentrale Hypothesen

Das Paper formuliert fünf falsifizierbare Hypothesen:

• H1 (Pragmatische Ausrichtung): Maßnahmen, die den Lernfortschritt erhöhen, erhöhen tendenziell auch die Kontrolle über die Umwelt (und umgekehrt).
• H2 (Druck zur Unifikation): Agenten investieren Ressourcen in die Verbesserung ihrer Schnittstellen (Sensorik/Aktuation), wenn dies den langfristigen Lernfortschritt steigert.
• H3 (Druck durch Einschränkungen): Unter Kosten- und Überlebenszwängen werden Agenten gezwungen, bessere Vorhersagemodelle und selektive Kontrolle zu entwickeln, um Verschwendung zu minimieren.
• H4 (Adaptive Rechenoptimalität): Ein Meta-Controller, der Rechenleistung dynamisch auf Beobachtung, Aktion und Nachdenken verteilt, übertrifft feste Zeitpläne bei gleichem Budget.
• H5 (Selbstkommunikations-Engpass): Explizite private Kommunikationskanäle (Token) verbessern die Leistung bei Aufgaben mit langer Planungshorizont, sofern sie bandbreitenreguliert sind.

4. Experimenteller Fahrplan und Ergebnisse

Da es sich um ein Forschungsprogramm handelt, werden keine endgültigen empirischen Ergebnisse präsentiert, sondern ein gestuftes Experimentier-Design vorgeschlagen:

• Stufe 1 (Synthetische POMDPs): Nutzung von Gridworld-Umgebungen mit bekannten Latenzen und Rauschen, um Metriken zu kalibrieren und die Hypothesen H1–H3 zu testen.
• Stufe 2 (ARC-AGI-Style): Interaktive Inferenz-Aufgaben, um den Trade-off zwischen Beobachtung, internem Rechnen und direkter Aktion zu untersuchen.
• Stufe 3 (Multimodale Meta-Steuerung): Einsatz eines vortrainierten multimodalen Modells (VLA) mit einem leichten Meta-Controller, der entscheidet, wann Input geholt, gehandelt oder intern deliberiert wird.
• Bewertungsmetrik: Statt nur den Punktestand zu maximieren, wird die Pareto-Optimalität (Leistungs-Kosten-Frontier) bewertet. Ein System ist erfolgreich, wenn es bei gleichem Energie-/Rechenbudget näher an der optimalen Frontier liegt als andere.

Erwartete Ergebnisse (Proof of Concept):

• Adaptive Meta-Steuerung sollte festen Schedules überlegen sein.
• Explizite private Token sollten bei komplexen Aufgaben besser abschneiden als reine latente Rekurrenz.
• Agenten sollten lernen, ihre Schnittstellen (z. B. Sensorauflösung) dynamisch anzupassen, wenn dies den Lernfortschritt beschleunigt.

5. Signifikanz und Beiträge

Das Paper leistet einen wichtigen theoretischen und methodischen Beitrag zur KI-Forschung:

1. Paradigmenwechsel: Es verschiebt den Fokus von „maximale Leistung um jeden Preis" hin zu „effiziente Leistung unter realen physikalischen und thermodynamischen Constraints".
2. Einheitliche Theorie: Es verbindet disparate Felder wie intrinsische Motivation, Informationstheorie (MDL, Informations-Engpass), Thermodynamik der Berechnung und aktive Inferenz in einem einzigen Rahmenwerk.
3. Neue Definition von Intelligenz: Intelligenz wird als Punkt auf einem „Constraint-Manifold" definiert. Die „Menschlichkeit" eines KI-Systems wird durch die Distanz zu den menschlichen Einschränkungen (Speicher, Bandbreite, Zeit) gemessen, nicht nur durch reine Leistung.
4. Praktische Relevanz für LLMs: Es bietet eine Roadmap für die nächste Generation von Sprachmodellen, die über reine Textgenerierung hinausgehen: Modelle, die zwischen „Denken" (latente Updates) und „Sprechen" (Token-Generierung) flexibel wählen und dabei Energie und Zeit optimieren.
5. Falsifizierbarkeit: Im Gegensatz zu vielen rein philosophischen Ansätzen bietet AAP konkrete, messbare Metriken und experimentelle Designs, um die Hypothesen zu widerlegen oder zu bestätigen.

Fazit

Das „Artificial Agency Program" fordert eine Rückbesinnung auf die Bedingungen, unter denen biologische Intelligenz entstanden ist: begrenzte Ressourcen, Unsicherheit und die Notwendigkeit, in einer physikalischen Welt zu handeln. Durch die Formalisierung von Neugier als Lernfortschritt und die Behandlung von Kommunikation und Rechenleistung als knappe Ressourcen, bietet es einen Weg, KI-Systeme zu entwickeln, die nicht nur leistungsfähig, sondern auch effizient, interpretierbar und robust in realen Umgebungen sind.