Self-Evolving Software Agents
Dieser Beitrag stellt eine sich selbst entwickelnde Software-Agentenarchitektur vor, die BDI-Reasoning mit Large Language Models integriert, um Ziele, Schlussfolgerungen und ausführbaren Code autonom basierend auf Erfahrung zu aktualisieren, und demonstriert sowohl die Machbarkeit als auch die aktuellen Grenzen von durch LLM gesteuerte Softwareevolution in dynamischen Multi-Agenten-Umgebungen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich einen Roboter-Koch vor. In der Vergangenheit musste, wenn man wollte, dass dieser Koch lernt, einen Kuchen zu backen, ein menschlicher Programmierer sich hinsetzen und das Rezeptbuch des Kochs umschreiben. Der Koch konnte die Anweisungen zwar perfekt befolgen, aber er konnte nicht selbst entscheiden, ein neues Rezept zu erfinden. Er war fest in den Zielen und Fähigkeiten verankert, die ihm beim Bau gegeben wurden.
Diese Arbeit stellt eine neue Art von „selbstentwickelndem" Software-Agenten vor, der wie ein Koch agiert, der nicht nur Rezepte befolgt, sondern neue schreiben, seine eigene Kochphilosophie ändern und sogar während der Arbeit neue Küchengeräte bauen kann.
So erklären die Autoren, Marco Robol und Paolo Giorgini, diesen Durchbruch:
Das Problem: Der „starr eingestellte" Roboter
Derzeit sind die meisten intelligenten Computerprogramme (Agenten) wie GPS-Systeme. Sie können Sie umleiten, wenn Stau herrscht (sie passen sich der Umgebung an), aber sie können nicht entscheiden, ihr Ziel zu ändern oder einen neuen Weg dorthin zu erfinden. Ihre Ziele und Regeln werden von Menschen vor dem Start „hart codiert". Sie können sich anpassen, aber sie können sich nicht wirklich entwickeln.
Die Lösung: Ein Zwei-Gehirn-System
Die Autoren schlagen ein System vor, das zwei leistungsstarke Ideen kombiniert:
- BDI (Glaube-Wunsch-Absicht): Stellen Sie sich dies als das „tägliche Gehirn" des Agenten vor. Es betrachtet ständig die Welt, entscheidet, was es tun möchte, und wählt einen Plan aus, um dies zu tun.
- LLM (Large Language Model / Großes Sprachmodell): Dies ist der „kreative Architekt". Es ist der Teil der KI, der Sprache verstehen, neue Ideen imaginieren und Code schreiben kann.
Die Magie entsteht durch die Hinzufügung eines speziellen „Evolutionmoduls", das parallel zum täglichen Gehirn läuft.
Wie es funktioniert: Die Analogie der „Abendkurse"
Stellen Sie sich vor, der Agent ist ein Schüler, der tagsüber arbeitet (die BDI-Schleife). Wenn er auf ein Problem stößt, das er nicht lösen kann – wie etwa eine Tür ohne Griff zu öffnen –, gibt er nicht einfach auf.
Stattdessen macht er eine Pause und ruft seine „Abendkurse" (das Evolutionmodul) hinzu. Dieses Modul fungiert wie ein Lehrer, der sagt:
- „Sie haben versagt, weil Sie kein Werkzeug dafür haben."
- „Lassen Sie uns ein neues Ziel erfinden: 'Einen Weg finden, die Tür zu öffnen'."
- „Lassen Sie uns einen neuen Plan schreiben und sogar ein neues Werkzeug (Code) bauen, um es zu tun."
Der Agent versucht dann diesen neuen Plan. Wenn er funktioniert, behält er das neue Werkzeug und das neue Ziel in seinem dauerhaften Gedächtnis. Wenn er scheitert, verwirft er die Idee. Im Laufe der Zeit baut der Agent eine Bibliothek eigener Erfindungen auf und verändert seine eigene „DNA", ohne dass ein menschlicher Programmierer den Code berührt.
Das Experiment: Lernen von Grund auf
Das Team baute einen Prototyp und setzte ihn in eine belebte, sich verändernde digitale Welt (inspiriert von einer Essensliefer-App). Sie gaben dem Agenten fast nichts zum Start – nur eine grundlegende Beschreibung der Welt und ein paar einfache Werkzeuge. Sie sagten ihm nicht, was zu tun sei.
Die Ergebnisse:
- Erfolg: Der Agent stellte selbstständig fest, dass er bestimmte Dinge tun musste (wie ein Paket zu liefern), und schrieb den Code dafür. Er entdeckte neue Ziele und schuf neues Verhalten aus fast null Vorwissen.
- Der Haken: Die Arbeit gibt zu, dass das System noch nicht perfekt ist. Manchmal, wenn die Umgebung zu kompliziert wird, hat der Agent Schwierigkeiten, sich an seine alten erfolgreichen Tricks zu erinnern oder sein neues Verhalten stabil zu halten. Es ist wie ein Schüler, der eine neue Matheformel lernt, aber vergisst, wie man einfache Addition durchführt.
Das Fazit
Diese Arbeit zeigt, dass wir Software bauen können, die nicht nur Befehlen folgt, sondern sich selbst neue Fähigkeiten beibringen und ihr eigenes Handbuch umschreiben kann. Obwohl es sich noch um einen Prototyp mit einigen Wachstumsproblemen handelt (insbesondere hinsichtlich Stabilität und des Behaltens vergangener Lektionen), beweist sie, dass die Idee von sich selbst entwickelnder Software möglich ist. Der nächste Schritt besteht darin, diesen Agenten beizubringen, ihre Lektionen besser festzuhalten, damit sie sie nicht vergessen, wenn es chaotisch wird.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.