💬 NLP

SePO: Self-Evolving Prompt Agent for System Prompt Optimization

Das Paper schlägt SePO vor, ein selbstreferenzielles Framework, das sowohl die System-Prompts der Task-Agenten als auch den eigenen System-Prompt des Prompt-Agenten durch eine zweistufige evolutionäre Suche optimiert und dabei im Vergleich zu bestehenden Methoden eine überlegene Generalisierung und Performance über diverse Benchmarks hinweg demonstriert.

Ursprüngliche Autoren: Wangcheng Tao, Han Wu, Weng-Fai Wong

Veröffentlicht 2026-06-04

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: Wangcheng Tao, Han Wu, Weng-Fai Wong

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben einen brillanten, aber eigensinnigen Roboter-Assistenten (den Task Agenten), der schwierige Rätsel lösen, Code schreiben oder Matheaufgaben erledigen muss. Um diesen Roboter besser arbeiten zu lassen, geben Sie ihm eine Reihe von Anweisungen, die man „System Prompt“ nennt.

Lange Zeit waren es Menschen, die diese Anweisungen schrieben. Wenn der Roboter scheiterte, schrieb ein Mensch die Anweisungen um, versuchte es erneut und hoffte das Beste. Einige neuere Methoden nutzen einen „Coach“ (den Prompt Agenten), um diese Anweisungen automatisch umzuschreiben. Aber hier liegt der Haken: Die Anweisungen des Coaches selbst wurden immer noch von einem Menschen geschrieben und änderten sich nie. Der Coach war an ein festes, von Hand geschriebenes Handbuch gebunden, egal wie oft er versuchte, dem Roboter zu helfen.

SePO (Self-Evolving Prompt Optimization) ändert das Spiel.

Die große Idee: Der Coach coacht sich selbst

Betrachten Sie SePO als ein Fitnessstudio für KI-Anleitungen.

Der alte Weg: Sie stellen einen persönlichen Trainer (den Coach) ein, um einem Klienten (dem Roboter) beim Fitwerden zu helfen. Aber der Trainingsplan des Trainers selbst wurde von einem Menschen geschrieben und wurde nie aktualisiert. Der Trainer wird zwar besser darin, dem Klienten zu helfen, aber der Trainer selbst wird nie fitter.
Der SePO-Weg: Der Trainer ist auch ein Klient. Der Trainer hilft dem Klienten, fit zu werden, aber der Trainer nutzt dieselben Trainingsmethoden auch, um seinen eigenen Trainingsplan zu verbessern. Der Trainer wird mit der Zeit klüger und stärker, nicht nur der Klient.

Wie es funktioniert: Zwei Phasen des Trainings

Das Paper beschreibt einen zweistufigen Prozess, ähnlich wie Menschen eine neue Fähigkeit erlernen:

Phase 1: Das „Bootcamp“ (Pre-training)
Bevor der Coach irgendeinem spezifischen Roboter hilft, absolviert er ein „Bootcamp“ mit einer riesigen Vielfalt an Herausforderungen (Mathe, Logikrätsel, Programmierung, Wissenschaft).

In dieser Phase versucht der Coach, diese Probleme zu lösen.
Wenn er scheitert, kritisiert er seine eigenen Anweisungen, schreibt sie um und versucht es erneut.
Er führt ein „Skizzenbuch“ (ein Archiv) seiner besten Anweisungen. Wenn eine neue Anweisung besser funktioniert als eine alte, behält er die neue.
Das Ergebnis: Der Coach entwickelt sich zu einem meisterhaften Instrukteur mit einer allgemeinen „Fähigkeit“, Anweisungen zu korrigieren, anstatt nur einen spezifischen Trick auswendig zu lernen.

Phase 2: Der „Spezialisten-Job“ (Fine-tuning)
Nun wird der Coach eingestellt, um einem spezifischen Roboter bei einer spezifischen Aufgabe zu helfen (z. B. beim Lösen von Sudoku).

Der Coach nutzt seine entwickelte, super-intelligente Anleitung, um dem Roboter zu helfen.
Er passt die Anweisungen des Roboters auf das spezifische Rätsel an.
Da der Coach in Phase 1 gelernt hat, wie man lernt, kann er sich schnell an neue Jobs anpassen, ohne dass zuerst ein Mensch sein eigenes Handbuch umschreiben muss.

Warum das wichtig ist (Die Ergebnisse)

Die Forscher testeten dies auf fünf sehr unterschiedlichen Arten von Herausforderungen:

Mathe (Schwierige Wettbewerbsaufgaben)
Abstraktes Denken (Visuelle Musterrätsel)
Wissenschaft (Fragen auf Graduate-Niveau)
Programmierung (Schreiben von Python-Programmen)
Logik (Sudoku-Rätsel)

Sie verglichen SePO mit:

Manual-CoT: Ein Mensch, der die Anweisungen schreibt.
TextGrad: Eine Methode, die Anweisungen anpasst, aber einen festen, von Menschen geschriebenen „Kritiker“ nutzt.
MetaSPO: Eine Methode, die eine globale Regel lernt, aber dennoch auf einen festen, von Menschen geschriebenen Optimierer angewiesen ist.

Das Ergebnis:
SePO gewann bei jeder einzelnen Aufgabe. Im Durchschnitt verbesserte es die Genauigkeit um 4,49 Punkte im Vergleich zur von Menschen geschriebenen Baseline.

Es hat nicht nur Antworten auswendig gelernt; es hat eine allgemeine „Fähigkeit“ erlernt, wie man bessere Anweisungen schreibt.
Selbst als es mit einem Rätsel (Sudoku) getestet wurde, das es während seines Bootcamps nie gesehen hatte, schnitt es immer noch besser ab als die anderen Methoden. Dies beweist, dass es eine übertragbare Fähigkeit erlernt hat und nicht nur einen spezifischen Trick.

Die Analogie des „Evolutionären Gartens“

Stellen Sie sich vor, die Anweisungen sind Pflanzen in einem Garten.

Alte Methoden: Sie pflanzen Samen (Anweisungen) und gießen sie. Wenn eine Pflanze stirbt, nehmen Sie einen neuen Samen aus einem Beutel und versuchen es erneut. Der Gärtner (der Coach) ändert sich nie.
SePO: Der Gärtner ist auch eine Pflanze. Der Gärtner wächst, entwickelt sich weiter und wird besser im Gärtnern, während er sich um die anderen Pflanzen kümmert. Der Garten führt ein Protokoll der besten Pflanzen (das Archiv) und nutzt diese als Trittsteine, um noch bessere Pflanzen zu züchten. Schließlich produziert der Garten einen Gärtner, der so geschickt ist, dass er alles anbauen kann, sogar Pflanzen, die er noch nie gesehen hat.

Zusammenfassung

SePO schließt den Kreis. Anstatt dass ein Mensch ein festes Handbuch für einen KI-Coach schreibt, lässt SePO den KI-Coach sein eigenes Handbuch schreiben und verbessern. Dies verwandelt den Coach von einem statischen Werkzeug in einen Lernpartner, der mit der Erfahrung klüger wird, was zu einer besseren Leistung in den Bereichen Mathematik, Wissenschaft, Programmierung und Logik führt.

Technisches Resümee: SePO (Self-Evolving Prompt Optimization)

1. Problemstellung

Aktuelle Methoden zur Optimierung von System-Prompts zielen darauf ab, das Verhalten von Agenten zu verbessern, ohne die zugrunde liegenden Modellgewichte zu verändern, wobei menschenlesbare, modellagnostische Instruktionen erzeugt werden. Es besteht jedoch eine kritische Asymmetrie in bestehenden Frameworks: Während der System-Prompt des Task-Agenten als Optimierungsziel behandelt wird, bleibt der Prompt-Agent (die Entität, die für die Verfeinerung des Prompt des Task-Agenten verantwortlich ist) handoptimiert und fixiert.

Bestehende Ansätze, wie etwa evolutionäre Suche oder Text-Gradient-Frameworks, verlassen sich auf einen Prompt-Agenten, der nicht besser wird, wenn er mit mehr Aufgaben konfrontiert wird. Infolgedessen ist der Optimierungsprozess durch das initiale menschliche Design des Prompt-Agenten begrenzt und kann keine Erfahrung sammeln oder Optimierungsfähigkeiten über verschiedene Domänen hinweg generalisieren. Das Kernproblem ist, dass der „Optimizer“ selbst nicht optimiert wird.

2. Methodik: SePO

Die Autoren schlagen Self-Evolving Prompt Optimization (SePO) vor, ein Framework, das den eigenen System-Prompt des Prompt-Agenten neben dem Prompt des Task-Agenten als Optimierungsziel behandelt. Dies wird durch ein selbstreferenzielles Design und eine zweistufige Trainingspipeline erreicht.

2.1 Selbstreferenzielles Design

SePO definiert eine „Prompt-Aufgabe“, bei der der Prompt-Agent als spezieller Task-Agent agiert. Sein Ziel ist es, die Prompts anderer Task-Agenten zu verbessern. Durch die Anwendung desselben Optimierungsverfahrens auf den eigenen System-Prompt des Prompt-Agenten ( $\tilde{p}$ ) wie auf den Prompt des Task-Agenten ( $p$ ), schafft SePO einen „selbstreferenziellen Abschluss“.

Mechanismus: Der Prompt-Agent verfeinert eine Kopie seiner selbst.
Evolutionäre Suche: Der Prozess nutzt eine offene evolutionäre Suche über eine Population von Kandidaten-Prompts. Er unterhält ein Archiv von Kandidaten-Prompts, wodurch frühere, erfolgreiche Prompts als „Trittsteine“ für spätere Verbesserungen dienen können, was verhindert, dass die Suche in lokalen Optima stecken bleibt.

2.2 Zweistufige Trainingspipeline

In Anlehnung an das Standard-Paradigma von Pre-training und Fine-tuning gliedert SePO die Optimierung in zwei distinkte Phasen:

Stufe 1: Pre-training (Self-Evolving Prompt Agent)
- Ziel: Den System-Prompt des Prompt-Agenten ( $\tilde{p}$ ) entwickeln, um breite, generalisierbare Prompt-Optimierungsfähigkeiten zu erwerben.
- Prozess: Der Prompt-Agent durchläuft eine evolutionäre Suche auf einem Multi-Task-Pool.
- Konfigurationen:
  - SePO-Generalist (Standard): Trainiert auf einer diversen Mischung von Aufgaben, um Robustheit und Generalisierung zu maximieren.
  - SePO-Specialist: Trainiert auf einer einzelnen Aufgabe, die identisch mit der Ziel-Fine-tuning-Aufgabe ist.
- Ergebnis: Ein einziger, evolvierter Prompt-Agent ( $\tilde{p}^*$ ), der in der Lage ist, Prompts über verschiedene Szenarien hinweg zu optimieren.
Stufe 2: Fine-tuning (Optimierung des Ziel-Task-Agenten)
- Ziel: Den System-Prompt ( $p$ ) für einen spezifischen Ziel-Task-Agenten optimieren.
- Prozess: Der evolvierte Prompt-Agent (aus Stufe 1) ist fixiert und wird verwendet, um die evolutionäre Suche für den Prompt des Ziel-Task-Agenten zu leiten.
- Effizienz: Die Kosten für die Selbst-Evolution des Prompt-Agenten werden über viele Fine-tuning-Aufgaben hinweg amortisiert, da der vortrainierte Prompt-Agent wiederverwendet wird.

3. Zentrale Beiträge

Schließung der Optimierungsschleife: SePO ist die erste Methode, die den Prompt-Agenten selbst als lernbare Komponente behandelt und damit die Abhängigkeit von einem fixierten, handoptimierten Optimizer aufhebt.
Selbstreferenzielle Evolution: Es führt einen Mechanismus ein, bei dem dasselbe Verfahren sowohl den Task-Agenten als auch den Prompt-Agenten verfeinert, was die Akkumulation von Optimierungsfähigkeiten ermöglicht.
Zweistufiges Training: Durch die Trennung von Pre-training (Kompetenzerwerb) und Fine-tuning (Aufgabenanwendung) entkoppelt die Methode die Kosten der Entwicklung des Optimizers von dessen Anwendung auf spezifische Aufgaben.
Archiv-basierte Suche: Die Verwendung eines Archivs ermöglicht es dem System, historische Erfolge als Trittsteine zu nutzen, was eine offene Evolution statt einer einfachen iterativen Verfeinerung erleichtert.

4. Experimentelle Ergebnisse

Die Autoren evaluierten SePO auf fünf diversen Benchmarks: AIME'25 (Mathematik), ARC-AGI-1 (abstraktes Denken), GPQA (wissenschaftliches Graduiertenniveau), MBPP (Codegenerierung) und Sudoku (Logikrätsel).

Leistung: SePO übertraf konsistent drei Baselines:
- Manual-CoT: Handgefertigte Prompts mit Chain-of-Thought.
- TextGrad: Ein Text-Gradient-Framework mit einem fixierten Prompt-Optimizer.
- MetaSPO: Ein Meta-Learning-Ansatz mit einem fixierten Meta-Optimizer.
Genauigkeitsgewinne: SePO-Generalist erreichte die höchste Genauigkeit bei allen fünf Aufgaben und verbesserte die durchschnittliche Genauigkeit um 4,49 Punkte im Vergleich zu Manual-CoT.
Generalisierung:
- Die während des Pre-trainings erlernten Prompt-Optimierungsfähigkeiten generalisierten auf Aufgaben außerhalb der Pre-training-Mischung (z. B. war Sudoku nicht im Pre-training-Set enthalten, dennoch verbesserte sich die Genauigkeit signifikant).
- Die Methode zeigte Robustheit über verschiedene Modellpaare hinweg (Austausch von DeepSeek-V3.2 und Gemini 3.1 Pro Preview gegen Gemini 3.1 Flash-Lite und Claude Opus 4.6).
Kosteneffizienz: Während das Pre-training Kosten verursacht, amortisiert SePO-Generalist diese über mehrere Aufgaben hinweg, was zu geringeren Kosten pro Aufgabe führt als das Training eines Spezialisten für jede Aufgabe oder die Nutzung von Methoden wie TextGrad, die das Training des Optimizers nicht amortisieren.

5. Bedeutung und Ansprüche

Das Paper behauptet, dass SePO die System-Prompt-Optimierung grundlegend von einem fixierten Werkzeug zu einer lernbaren Fähigkeit wandelt. Indem es dem Prompt-Agenten erlaubt, sich selbst zu verbessern, durchbricht das Framework die durch menschliches Hand-Engineering gesetzte Obergrenze.

Bescheidene Ansprüche: Die Autoren stellen explizit klar, dass SePO nur auf dem natürlichen Sprach-System-Prompt operiert und dabei Modellgewichte, Tools und Workflows unberührt lässt. Sie räumen ein, dass sich das selbstreferenzielle Design theoretisch auch auf Tools und Architekturen ausweiten könnte, sie beanspruchen dies jedoch nicht als implementiert.
Kernaspekt: Die primäre Bedeutung liegt in dem Nachweis, dass Prompt-Optimierung nicht bloß ein Suchproblem für eine einzelne Aufgabe ist, sondern eine Fähigkeit, die erworben und übertragen werden kann. Der „Prompt-Agent“ ist kein statisches Element mehr, sondern eine evolvierende Komponente, die mit zunehmender Erfahrung stärker wird.

Die Autoren schließen mit dem Hinweis, dass SePO die weitere Forschung zu selbst-evolvierenden Agenten anregt, die den Umfang ihrer eigenen Selbstverbesserung kontinuierlich erweitern können.