💬 NLP

AlignEvoSkill: Towards Knowledge-Aware and Task-Aligned Agent Skill Evolution

AlignEvoSkill ist ein neuartiges Framework, das die Leistung von LLM-basierten Agenten durch die Evolution wiederverwendbarer Fähigkeiten mittels einer gemeinsamen Optimierung von Wissensabdeckung und Aufgabenalignment verbessert und dabei mit geringeren Rechenkosten state-of-the-art-Ergebnisse erzielt.

Ursprüngliche Autoren: Dingzirui Wang, Xuanliang Zhang, Keyan Xu, Qingfu Zhu, Wanxiang Che, Yang Deng

Veröffentlicht 2026-05-27

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC0 1.0

Ursprüngliche Autoren: Dingzirui Wang, Xuanliang Zhang, Keyan Xu, Qingfu Zhu, Wanxiang Che, Yang Deng

Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie unterrichten einen sehr intelligenten Roboter-Assistenten darin, komplexe Aufgaben zu erledigen, wie etwa die Planung eines Meetings oder das Verfassen eines Gedichts. Anstatt jede einzelne Anweisung fest zu codieren, geben Sie dem Roboter ein „Werkzeugkasten" wiederverwendbarer Fähigkeiten (wie „Daten aus E-Mails extrahieren" oder „Reimschemata prüfen").

Das Problem ist, dass die alten Methoden zur Reparatur des Werkzeugkastens, wenn der Roboter bei einer Aufgabe scheitert, die Dinge oft verschlimmern. Sie könnten:

Den Kern verfehlen: Sie greifen eine Fähigkeit, die fast richtig ist, aber ein entscheidendes Stück Wissen übersieht (wie das Vergessen zu prüfen, ob jemand tatsächlich verfügbar ist).
Zu spezifisch werden: Sie erstellen eine Fähigkeit, die nur für diesen einen spezifischen Fehler funktioniert, anstatt dem Roboter eine allgemeine Regel für die Zukunft beizubringen.

Die Arbeit stellt ALIGNEVOSKILL vor, eine neue Methode zur Aufrüstung des Werkzeugkastens des Roboters. Denken Sie daran wie an einen intelligenten, doppelprüfenden Redakteur, der die Fähigkeiten des Roboters auf zwei spezifische Arten verbessert.

Der zweistufige „intelligente Redakteur"-Prozess

Schritt 1: Der „Wissens-Tag"-Detektiv (Das Fehlen beheben)
Stellen Sie sich vor, jede Fähigkeit im Werkzeugkasten des Roboters hat eine Reihe von Haftnotizen (Tags), die beschreiben, was sie tut.

Der alte Weg: Wenn der Roboter scheitert, könnten die alten Methoden einfach die am ähnlichsten aussehende Fähigkeit greifen oder zwei Fähigkeiten zufällig zusammenfügen. Das ist wie der Versuch, ein undichtes Rohr zu reparieren, indem man einen Schraubenschlüssel darauf klebt – es mag ähnlich aussehen, aber es schließt das Loch nicht wirklich.
Der ALIGNEVOSKILL-Weg: Zuerst betrachtet es die gescheiterte Aufgabe und fragt: „Welches spezifische Wissen fehlte hier?" Es erstellt eine Liste der „erforderlichen Tags" (z. B. „Verfügbarkeit prüfen", „Zeitzonen behandeln").
Dann scannt es den Werkzeugkasten, um Fähigkeiten zu finden, die passende Tags haben. Wenn einer Fähigkeit ein Tag fehlt (wie „Zeitzonen"), weiß das System genau, welche Lücke gefüllt werden muss. Anschließend baut es eine neue Fähigkeit, die die nützlichen Teile der alten Fähigkeiten kombiniert, aber spezifisch das fehlende Wissen hinzufügt.

Schritt 2: Der „Relevanz"-Filter (Das Irrelevante beheben)
Nachdem eine neue Kandidaten-Fähigkeit erstellt wurde, muss das System entscheiden: „Ist dies tatsächlich gut für den Job?"

Der alte Weg: Einige Methoden betrachten nur den gescheiterten Versuch des Roboters und sagen: „Okay, lassen Sie uns eine Fähigkeit erstellen, die diesen spezifischen Fehler vermeidet." Das ist wie ein Schüler, der die Antwort auf ein bestimmtes Matheproblem auswendig lernt, aber die Formel nicht versteht. Wenn sich die Zahlen ändern, scheitern sie erneut.
Der ALIGNEVOSKILL-Weg: Es verwendet einen „Relevanztest". Es fragt die KI: „Wenn Sie nur die Aufgabenbeschreibung erhalten würden, wie wahrscheinlich wäre es, dass Sie diese spezifische Fähigkeit generieren?"
- Wenn die Fähigkeit nur eine seltsame Beschreibung des vergangenen Versagens des Roboters ist, ist die Punktzahl niedrig.
- Wenn die Fähigkeit ein perfekter, allgemeiner Leitfaden für die Aufgabe ist, ist die Punktzahl hoch.
Das System behält nur die Fähigkeiten, die bei diesem Test eine hohe Punktzahl erzielen, und wirft die „verrauschten" oder irrelevanten weg.

Die Ergebnisse: Ein besserer Werkzeugkasten mit weniger Aufwand

Die Forscher testeten dies an drei verschiedenen „Prüfungs"-Sätzen (Benchmarks) unter Verwendung von vier verschiedenen Arten von Roboterhirnen (LLMs).

Großer Gewinn: Die neue Methode verbesserte die Leistung der Roboter um 34,7 % im Vergleich zum vollständigen Verzicht auf die Evolution von Fähigkeiten.
Die Konkurrenz schlagen: Sie schlug die bisherigen besten Methoden mit einem signifikanten Vorsprung und setzte einen neuen „Goldstandard" (SOTA).
Günstiger: Überraschenderweise leistete sie all dies bei geringerer Rechenleistung und kürzerer Zeit als die anderen Methoden. Sie ging nicht einfach gewaltsam auf Erfolg zu; sie war effizienter, weil sie frühzeitig aufhört, Zeit mit schlechten Ideen zu verschwenden.

Das Fazit

ALIGNEVOSKILL ist wie ein Meisterhandwerker, der nicht einfach mehr Werkzeuge auf ein Problem wirft. Stattdessen:

Identifiziert er genau, welches Werkzeug fehlt (unter Verwendung der „Wissens-Tags").
Er baut ein neues Werkzeug, das alte Werkzeuge kombiniert, aber diese Lücke schließt.
Er testet das neue Werkzeug, um sicherzustellen, dass es tatsächlich für den Job nützlich ist und nicht nur eine Kopie eines vergangenen Fehlers ist.

Das Ergebnis ist ein Roboter, der viel schneller aus seinen Fehlern lernt, weniger Fehler macht und seinen Job besser erledigt, ohne eine massive Menge zusätzlicher Rechenleistung zu benötigen.

Technische Zusammenfassung: ALIGNEVOSKILL

1. Problemstellung

Agenten auf Basis von Large Language Models (LLMs) verlassen sich auf wiederverwendbares prozedurales Wissen, oder „Fähigkeiten" (Skills), um ihre langfristigen Fähigkeiten zu verbessern. Während bestehende Methoden zur Evolution von Fähigkeiten darauf abzielen, Fähigkeitsbibliotheken automatisch aus vergangenen Erfahrungen zu verfeinern, leiden sie unter zwei kritischen Einschränkungen, die zu unvollständigen oder irrelevanten evolvierenden Fähigkeiten führen:

Unangemessene Wissensabdeckung: Aktuelle Methoden verlassen sich häufig auf eine einzelne bestehende Fähigkeit oder verketten einfach mehrere Fähigkeiten. Dieser Ansatz birgt das Risiko, aufgabenrelevantes Wissen zu übersehen, das über verschiedene Fähigkeiten verstreut ist, oder irrelevante und widersprüchliche Informationen einzuführen, was zu verrauschten oder unvollständigen Fähigkeitsdefinitionen führt.
Schwache Aufgabenausrichtung: Methoden, die Fähigkeiten aus Ausführungs-Trajektorien destillieren, konzentrieren sich oft zu stark auf die spezifische Historie eines fehlgeschlagenen Durchlaufs. Folglich spiegelt die evolvierte Fähigkeit eher den Ausführungspfad wider als die zugrunde liegenden Aufgabenanforderungen und führt den Agenten in zukünftigen Instanzen nicht effektiv zur Lösung der Zielaufgabe.

Diese Einschränkungen verhindern, dass evolvierte Fähigkeiten sowohl umfassend im Wissen als auch strikt mit den Zielen der Zielaufgabe ausgerichtet sind.

2. Methodik: ALIGNEVOSKILL

Die Autoren schlagen ALIGNEVOSKILL vor, ein Framework, das darauf ausgelegt ist, während des Evolutionsprozesses von Fähigkeiten sowohl die Wissensabdeckung als auch die Aufgabenausrichtung gemeinsam zu modellieren. Das Framework arbeitet mit fehlgeschlagenen Aufgagentrajektorien und aktualisiert eine externe Fähigkeitsbibliothek, während die Parameter des Basis-Agenten eingefroren bleiben. Der Prozess besteht aus drei Kernphasen:

A. Wissens-Tag-gesteuerte Auswahl der Quellfähigkeiten

Anstatt Fähigkeiten allein basierend auf semantischer Ähnlichkeit abzurufen, verknüpft ALIGNEVOSKILL jede Fähigkeit mit einer Reihe von Wissens-Tags (kurze Phrasen, die prozedurale Fähigkeiten beschreiben, z. B. „PDF-Textextraktion").

Tag-Inferenz: Für ein Paar aus fehlgeschlagener Aufgabe und Trajektorie $(x, \tau)$ inferiert ein LLM den erforderlichen Ziel-Wissens-Tag-Satz $K^\star$ , um die Aufgabe zu lösen.
Optimale Auswahl: Das System wählt eine Teilmenge von Quellfähigkeiten $S^\star$ aus der aktuellen Bibliothek aus, die die Abdeckung von $K^\star$ maximiert und gleichzeitig die Einführung irrelevanter Tags (Tags in $S^\star$ , die nicht in $K^\star$ enthalten sind) minimiert.
Lückenidentifikation: Es werden „nicht abgedeckte Tags" ( $K^\star_{un}$ ) identifiziert, die Wissen repräsentieren, das von der Aufgabe erforderlich ist, aber in den ausgewählten Quellfähigkeiten fehlt.

B. Wissens-Tag-gesteuerte Fähigkeitsgenerierung

Unter Verwendung der ausgewählten Quellfähigkeiten, der Fehlertrajektorie und der nicht abgedeckten Tags als Eingabe generiert ein LLM Kandidatenfähigkeiten.

Der Generierungsprozess ist so konditioniert, dass er nützliches Wissen aus den ausgewählten Fähigkeiten überträgt und das durch $K^\star_{un}$ identifizierte fehlende Wissen explizit adressiert.
Das Ziel ist es, eine wiederverwendbare Fähigkeit zu produzieren, die auf eine Klasse verwandter Aufgaben generalisiert, anstatt lediglich die spezifische Fehlertrajektorie zu beschreiben.

C. Fähigkeitsfilterung durch Abdeckung und Ausrichtung

Um hohe Qualität sicherzustellen, werden Kandidatenfähigkeiten unter Verwendung eines gemeinsamen Bewertungskriteriums gefiltert:

Wissens-Tag-Abdeckung ( $F_{tag}$ ): Berechnet den F1-Score zwischen den Tags der generierten Fähigkeit und den Tags der Zielaufgabe. Dies stellt sicher, dass die Fähigkeit das notwendige prozedurale Wissen abdeckt.
Wahrscheinlichkeitsbasierte Aufgabenausrichtung ( $A$ ): Misst die bedingte Wahrscheinlichkeit der Generierung der Fähigkeit unter der Aufgabenbeschreibung, normalisiert durch die unbedingte Wahrscheinlichkeit. Diese Metrik, $A(c) = \sigma(\frac{1}{|c|}(\log \hat{p}(c|x) - \log \hat{p}(c|\emptyset)))$ , stellt sicher, dass die Fähigkeit spezifisch in den Aufgabenanforderungen verankert ist und nicht ein generisches oder trajektorienspezifisches Artefakt darstellt.
Endpunktwert: Das System behält die am höchsten bewerteten Kandidaten basierend auf dem geometrischen Mittel der Abdeckungs- und Ausrichtungswerte bei: $Score(c) = \sqrt{F_{tag}(c) \cdot A(c)}$ .

3. Hauptbeiträge

Identifikation von Einschränkungen: Die Arbeit identifiziert und adressiert formal die dualen Herausforderungen der unangemessenen Wissensabdeckung und der schwachen Aufgabenausrichtung in aktuellen Paradigmen der Fähigkeitsentwicklung.
Neues Framework: Es wird ALIGNEVOSKILL eingeführt, das Wissens-Tags zur Steuerung der Auswahl von Quellfähigkeiten nutzt und eine wahrscheinlichkeitsbasierte Metrik zur Erzwingung der Aufgabenausrichtung während der Filterung einsetzt.
Umfassende Evaluation: Die Methode wird über 3 Benchmarks (SRA-Bench, SkillsBench, SkillLearnBench) und 4 diverse LLM-Backbones (DeepSeek-V4-Flash, Claude-Haiku-4.5, GPT-5.4-Nano, GPT-5.4) evaluiert.

4. Experimentelle Ergebnisse

Leistungssteigerung: ALIGNEVOSKILL erzielt einen relativen Gewinn von 34,7 % gegenüber der Nicht-Evolutions-Baseline (Base) und übertrifft bestehende State-of-the-Art-Baselines (CoEvoSkills, Trace2Skill, SkillX) im Durchschnitt um 3,3 bis 3,7 Punkte über alle Einstellungen hinweg.
State-of-the-Art: Die Methode etabliert einen neuen State-of-the-Art in der Fähigkeitsentwicklung und erzielt die besten Ergebnisse auf allen drei Benchmarks und über alle Modell-Backbones hinweg.
Effizienz: Trotz der Leistungssteigerung zeigt ALIGNEVOSKILL eine überlegene Effizienz und reduziert den Token-Verbrauch um etwa 33,2 % sowie die Wandzeit um 28,1 % im Vergleich zu bestehenden Baselines.
Komponentenanalyse: Ablationsstudien bestätigen, dass das Entfernen einer beliebigen Komponente (Sampling, Generierung oder Filterung) die Leistung erheblich verschlechtert, was die Notwendigkeit des gemeinsamen Optimierungsansatzes validiert.
Korrelation: Die Analyse zeigt eine starke positive Korrelation zwischen der Fähigkeit der Methode, die Wissens-Tag-Abdeckung (Anstieg um 9,9 %) und die Aufgaben-Ausrichtungs-Wahrscheinlichkeit (Anstieg um 8,9 %) zu verbessern, und der daraus resultierenden Downstream-Aufgabenleistung.

5. Bedeutung und Behauptungen

Die Arbeit behauptet, dass eine effektive Fähigkeitsentwicklung erfordert, sowohl das von einer Aufgabe erforderliche Wissen als auch die Ausrichtung der Fähigkeit auf dieses spezifische Aufgabenziel explizit zu modellieren. Indem ALIGNEVOSKILL über einfache Trajektorien-Destillation oder Fähigkeitsverkettung hinausgeht, demonstriert es, dass:

Fähigkeiten so evolviert werden können, dass sie sowohl wissensvollständig als auch aufgabenspezifisch sind.
Gezielte Evolution unter Verwendung von Wissens-Tags und Ausrichtungsfilterung effizienter und effektiver ist als breitere, ungesteuerte Destillationspipelines.
Der Ansatz über verschiedene Modellfamilien und Skalierungen hinweg robust ist und einen praktischen Weg zur Verbesserung der Agentenfähigkeiten ohne Neutrainieren des Basis-LLMs bietet.

Die Autoren erkennen Einschränkungen an und stellen fest, dass die Methode auf aussagekräftigen Fehlertrajektorien und zuverlässigem Aufgabenfeedback beruht und dass die aktuellen Experimente auf bestimmte Benchmarks und LLM-Backbones beschränkt sind. Die Ergebnisse deuten jedoch darauf hin, dass das vorgeschlagene Framework die in der aktuellen Agenten-Fähigkeitsentwicklung vorherrschenden Rausch- und Fehlausrichtungsprobleme effektiv mildert.