Cognitive Models and AI Algorithms Provide Templates for Designing Language Agents

1. Problemstellung

Die aktuellen Large Language Models (LLMs) sind zwar in isolierten Aufgaben zunehmend leistungsfähig, stoßen jedoch bei komplexen Problemen an ihre Grenzen, die über die Fähigkeiten eines einzelnen Modells hinausgehen. Ein zentrales Hindernis bei der Entwicklung von Sprachagenten (Systeme, die auf LLMs basieren und mit Tools oder anderen Agenten interagieren) ist die Unsicherheit darüber, wie man mehrere LLMs effektiv zu einem modularen Ganzen kombiniert.

• Suchraum: Der Raum möglicher Agentenarchitekturen ist enorm groß. Eine brute-force-Erkundung ist aufgrund fehlender Daten und Ressourcen in hochriskanten Anwendungsfeldern (z. B. Gesundheitswesen) unpraktikabel.
• Willkür: Erfolgreiche Designs wirken oft willkürlich oder basieren auf „Folk Intuition" statt auf fundierten theoretischen Grundlagen.
• Fehlende Heuristiken: Es mangelt an effektiven Heuristiken, um Agenten-Designs systematisch zu entwickeln, die interpretierbar und robust sind.

2. Methodik und Definition

Die Autoren argumentieren, dass kognitive Modelle (aus der Kognitionswissenschaft) und bestehende KI-Algorithmen als bewährte „Vorlagen" (Templates) für das Design von Sprachagenten dienen können.

Formale Definition eines Agent-Templates:
Die Autoren definieren ein Agent-Template formal als einen gerichteten, azyklischen Graphen (DAG) $G = (V, E)$:

• Knoten ($V$): Repräsentieren Module, die entweder LLMs oder externe Tools sind. Jedes Modul ist eine Funktion, die Eingaben (Text) in Ausgaben (Text/Verteilung) umwandelt.
• Kanten ($E$): Definieren den Datenfluss und die Ausführungsreihenfolge zwischen den Modulen.
• Struktur: Das Template spezifiziert, welche Rollen die LLMs einnehmen (z. B. Generator, Bewerter, Planer) und wie diese Funktionen zusammengesetzt werden, um ein Problem sequenziell zu lösen.

Die Methodik besteht darin, bestehende Sprachagenten aus der Literatur zu analysieren und ihre zugrundeliegenden Architekturen auf bekannte kognitive Modelle oder KI-Algorithmen zurückzuführen.

3. Schlüsselbeiträge und Ergebnisse

Das Papier kategorisiert und illustriert erfolgreiche Agent-Designs anhand von Vorlagen aus zwei Hauptbereichen:

A. Vorlagen basierend auf kognitiven Modellen

Kognitive Modelle beschreiben mechanistische Hypothesen menschlicher Denkprozesse.

1. Kommunikation (Rational Speech Acts - RSA):
   • Konzept: Kommunikation als rationale Wahl unter Unsicherheit mit rekursiver sozialer Inferenz („Ich denke, dass du denkst, dass...").
   • Anwendung: Agenten wie in Liu et al. (2023) nutzen ein Template mit Modulen für Beratung, Generierung, Profilierung und Simulation von Publikumsreaktionen. Dies implementiert „episodisches Zukunftsdenken" explizit und verbessert die kommunikative Leistung.
2. Schlussfolgern und Planen:
   • Konzept: Planung als Reasoning über Handlungen (inspiriert von der Funktion des präfrontalen Kortex).
   • Anwendung: Das „Modular Agentic Planner" (MAP) von Webb et al. (2025) nutzt sechs Module (Zerlegung, Aktionsvorschlag, Fehlerüberwachung, Zustandsvorhersage etc.), die menschliche Planungsprozesse nachahmen und auf Benchmarks wie „Tower of Hanoi" erfolgreich sind.
3. Repräsentation (Language of Thought):
   • Konzept: Denken als Ausführung von Code in einer universellen Programmiersprache.
   • Anwendung: Frameworks wie „Program of Thoughts" oder „CodeAct" nutzen ein Template mit einem Reasoner (Code-Generator) und einem Interpreter (Code-Ausführer). Dies übertrifft reine Text-Reasoning-Ansätze in mathematischen und symbolischen Aufgaben.

B. Vorlagen basierend auf KI-Algorithmen

Bestehende Algorithmen bieten testbare Lösungen für Such- und Entscheidungsprobleme.

1. Suchalgorithmen (Search):
   • Konzept: Graph- oder Baumsuche (BFS, DFS, A*, Beam Search).
   • Anwendung: Frameworks wie „Tree of Thoughts" (ToT) oder „Self-Evaluation Guided Beam Search" implementieren explizit Generatoren und Evaluatoren als separate LLMs, um Suchbäume zu durchlaufen. Dies macht den Heuristik-Prozess der LLMs transparent und steuerbar.
2. Divide and Conquer:
   • Konzept: Zerlegung komplexer Probleme in Teilprobleme, Lösung und Aggregation.
   • Anwendung: „Least-to-Most Prompting" oder „Decomposed Prompting" nutzen Templates mit Dekomponierer und Löser, um komplexe Aufgaben schrittweise zu bewältigen.
3. Reinforcement Learning (RL) Algorithmen:
   • Policy Iteration (ICPI): Agenten, die Policy Evaluation und Policy Improvement durch separate LLMs (für Transition, Reward und Policy) approximieren, um MDPs (Markov Decision Processes) zu lösen.
   • Posterior Sampling (PSRL): Ein Template, das eine „verbale Posterior-Verteilung" über die Umwelt aufrechterhält, um Exploration und Exploitation effizient zu balancieren (z. B. im Wordle-Spiel).
   • Information-Directed Sampling (IDS): Ein fortschrittlicheres Template, das Regret und Informationsgewinn explizit bewertet, um suboptimale Aktionen zur Informationsgewinnung zu wählen.

4. Signifikanz und Implikationen

• Erhöhte Interpretierbarkeit: Im Gegensatz zu rein datengetriebenen, optimierten Architekturen (z. B. durch genetische Algorithmen) bieten Templates, die auf kognitiven Modellen basieren, eine klare semantische Struktur. Man versteht warum ein Agent so agiert, weil die Architektur einem bekannten theoretischen Modell folgt.
• Effizienz im Design: Forscher müssen den Suchraum nicht von Null durchsuchen. Sie können auf eine Bibliothek bewährter Algorithmen und kognitiver Theorien zurückgreifen, die bereits für spezifische Problemtypen (z. B. Exploration, Planung, Kommunikation) optimiert sind.
• Brücke zwischen Disziplinen: Das Papier stellt eine direkte Verbindung zwischen der KI-Forschung und der Kognitionswissenschaft her. Es zeigt, dass LLMs nicht nur als Blackbox-Modelle, sondern als Implementierungswerkzeuge für etablierte theoretische Konzepte dienen können.
• Skalierbarkeit und Generalisierung: Durch die Nutzung von Natural Language als Schnittstelle für diese Templates können komplexe Algorithmen (wie MCTS oder Bayes-Optimierung) in neuen Domänen und größeren Maßstäben angewendet werden, die für reine numerische Modelle schwer zugänglich wären.

Fazit

Die Autoren fordern die Forschungscommunity auf, die Fülle an bestehenden kognitiven Modellen und KI-Algorithmen aktiv als Blaupausen für das Design von Sprachagenten zu nutzen. Dieser Ansatz verspricht nicht nur leistungsfähigere und zuverlässigere Agenten, sondern auch Systeme, deren Entscheidungsprozesse für Menschen nachvollziehbar und interpretierbar sind. Das Papier stellt einen Paradigmenwechsel dar: Weg vom reinen „Trial-and-Error" im Design von Agenten-Workflows hin zu einem theoretisch fundierten, modularen Engineering.