🤖 AI

VCE-Skill: Enhancing Skill Self-Evolution with Version-Change Experience

Das Papier schlägt VCE-Skill vor, ein neuartiges Framework, das die Selbstevolution von Agenten-Skills durch die adaptive Fusion von aufgabenspezifischen Ausführungstrajektorien mit destillierter, strukturierter Erfahrung aus öffentlichen Skill-Versionsverläufen verbessert, was zu signifikanten Leistungssteigerungen und stärkeren modellübergreifenden Transferfähigkeiten führt.

Ursprüngliche Autoren: Jianming Chen, Xuanbin Ye, Yawen Wang, Junjie Wang, Qing Wang, Fanjiang XU

Veröffentlicht 2026-08-18

📖 6 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Jianming Chen, Xuanbin Ye, Yawen Wang, Junjie Wang, Qing Wang, Fanjiang XU

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

In der sich schnell entwickelnden Welt der künstlichen Intelligenz bringen Forscher Computerprogrammen bei, sich eher wie menschliche Assistenten zu verhalten. Diese Programme, die oft als Agenten bezeichnet werden, beantworten nicht nur Fragen; sie führen Aufgaben aus, indem sie Werkzeuge benutzen, Anweisungen folgen und Dateien verwalten. Um diese Agenten zuverlässig zu machen, geben Entwickler ihnen „Fähigkeiten“ (Skills). Stellen Sie sich eine Fähigkeit als einen tragbaren Werkzeugkasten vor, der einen Satz von Anweisungen, Skripten und Ressourcen enthält, den der Agent aufheben und verwenden kann, wann immer er mit einer bestimmten Art von Problem konfrontiert wird. Doch genau wie ein Mensch aus Fehlern lernt, sind diese Werkzeuge bei ihrer Erstellung selten perfekt. Wenn sich die Welt verändert und neue Herausforderungen entstehen, müssen die Anweisungen innerhalb dieser Werkzeugkästen aktualisiert, gepatcht und verbessert werden. Die zentrale Frage für Wissenschaftler ist, wie sie diesen Verbesserungsprozess automatisieren können, damit die Agenten lernen können, sich selbst zu verbessern, um im Laufe der Zeit besser zu werden.

Über eine gewisse Zeit war der Standardansatz zur Selbstverbesserung darin bestehend, den Agenten eine Aufgabe versuchen zu lassen, zu beobachten, wo er scheitert, und dann die Anweisungen basierend auf diesem spezifischen Fehler neu zu schreiben. Diese Methode stützt sich vollständig auf die Beweise, die während des aktuellen Versuchs gesammelt wurden. Während dies funktioniert, hat es einen blinden Fleck: Es sieht nur die Fehler, die genau jetzt passieren. Es übersieht die breiteren Lehren, die andere Entwickler über Jahre hinweg bei der Wartung ähnlicher Werkzeuge gelernt haben. Ein Team von Forschern der Chinesischen Akademie der Wissenschaften und der Beijing University of Post and Telecommunications erkannte, dass dieser enge Fokus ein riesiges Archiv an Wissen ungenutzt ließ. Sie gingen der Frage nach, ob die Historie der Änderungen an öffentlichen Software-Werkzeugen einen Agenten zu etwas lehren könnte, das seine eigene unmittelbare Erfahrung ihm nicht vermitteln konnte.

Die Forscher begannen, indem sie zwei verschiedene Informationsquellen verglichen. Die erste Quelle war der eigene jüngste Versuch des Agenten an einer Aufgabe, der eine detaillierte, aber enge Sicht darauf bot, was schiefgelaufen war. Die zweite Quelle war die öffentliche Historie der Änderungen an ähnlichen Werkzeugen durch menschliche Entwickler im Laufe der Zeit. Als sie diese beiden Quellen nebeneinander analysierten, entdeckten sie einen klaren und nützlichen Unterschied. Die eigenen Versuche des Agenten konzentrierten sich hauptsächlich auf die Behebung unmittelbarer, spezifischer Fehler beim Aufruf von Werkzeugen oder beim Lesen von Anweisungen. Im Gegensatz dazu enthielt die öffentliche Historie eine viel größere Vielfalt an Verbesserungen, einschließlich Änderungen an der Organisation von Daten, der Struktur von Skripten und der Art und Weise, wie das Werkzeug mit unerwarteten Situationen umging. Die öffentlichen Aufzeichnungen boten eine breitere Perspektive, während die eigenen Aufzeichnungen des Agenten eine fundierte, aufgabenspezifische Realität lieferten. Die beiden Quellen wiederholten sich nicht; stattdessen füllten sie die Lücken des jeweils anderen.

Um diese Erkenntnis in die Praxis umzusetzen, entwickelte das Team ein neues System namens VCE-Skill. Dieses System fungiert als Brücke zwischen der aktuellen Erfahrung des Agenten und der kollektiven Weisheit der Vergangenheit. Der Prozess findet in zwei Hauptstadien statt. Zuerst bereinigt das System die rohen, ungeordneten Änderungshistorien aus öffentlichen Repositories. Es entfernt die spezifischen Details, die nur auf ein einzelnes Projekt anwendbar sind, und destilliert sie in allgemeine, wiederverwendbare Lektionen. Wenn beispielsweise viele Entwickler eine Prüfung hinzugefügt haben, um sicherzustellen, dass eine Datei existiert, bevor sie versucht, sie zu öffnen, lernt das System dies als allgemeine Regel und nicht als eine einzelne Korrektur. Diese destillierten Lektionen werden in einer strukturierten Bibliothek der Erfahrung gespeichert.

Im zweiten Stadium versucht der Agent eine Aufgabe und generiert eigene Ideen zur Verbesserung basierend auf dem Geschehen. Das System sucht dann in seiner Bibliothek destillierter Lektionen nach denjenigen, die für das aktuelle Problem am relevantesten sind. Es kopiert nicht einfach die alten Lektionen oder ignoriert die eigenen Ideen des Agenten. Stattdessen vermischt es beide sorgfältig. Wenn der Agent mit einem häufigen Problem kämpft, das die öffentliche Historie schon oft gelöst hat, stützt sich das System stark auf diese externe Weisheit. Wenn der Agent jedoch auf einen einzigartigen, seltsamen Fehler stößt, der noch nie zuvor gesehen wurde, vertraut das System eher der eigenen Beobachtung des Agenten. Dieses Gleichgewicht ist nicht starr; das System passt ständig an, wie sehr es die externe Bibliothek gegenüber der eigenen Erfahrung des Agenten gewichtet, abhängig davon, ob die Änderungen die Leistung des Agenten tatsächlich verbessern.

Die Ergebnisse dieses Ansatzes wurden über fünf verschiedene Arten von Aufgaben getestet, die von der Beantwortung komplexer Fragen und der Verwaltung von Tabellenkalkulationen bis hin zur Steuerung von Robotern in virtuellen Umgebungen reichten. Die Forscher nutzten vier verschiedene große Sprachmodelle, um die Agenten zu repräsentieren. In jedem Fall führte das Hinzufügen dieser externen Erfahrung zum Selbstverbesserungszyklus des Agenten zu einer besseren Leistung. Die Agenten erzielten im Durchschnitt höhere Werte, wobei die Verbesserungen in den verschiedenen Tests zwischen etwa drei und fünf Punkten lagen. Wichtiger noch war, dass die Fähigkeiten, die mit dieser Methode verbessert wurden, robuster erwiesen. Als die Forscher eine mit dieser Methode entwickelte Fähigkeit an einem anderen Computermodell testeten, als dem, auf dem sie trainiert worden war, schnitt sie signifikant besser ab als Fähigkeiten, die nur aus ihren unmittelbaren Fehlern gelernt hatten. Dies deutet darauf hin, dass die Agenten durch die Einbeziehung der breiteren Lektionen aus der öffentlichen Historie allgemeinere Prinzipien erlernt haben, die auf neue Situationen angewendet werden können, anstatt nur zu lernen, wie man einen spezifischen Fehler behebt.

Die Studie behauptet nicht, dass die alte Art, aus Fehlern zu lernen, nutzlos sei. Die eigene Erfahrung des Agenten bleibt essenziell für das Verständnis der spezifischen Details der jeweiligen Aufgabe. Die neue Methode fügt lediglich eine Ebene des Kontextes hinzu, die der Agent allein nicht finden könnte. Indem die Forscher die Historie öffentlicher Software-Änderungen als eine wertvolle Quelle für Vorwissen behandelten, haben sie gezeigt, dass Agenten lernen können, sich effektiver zu entwickeln. Sie haben demonstriert, dass der Weg zu einem intelligenteren, zuverlässigeren Agenten nicht nur darin besteht, zu beobachten, was im Moment geschieht, sondern auch darin, die lange Geschichte zu verstehen, wie ähnliche Werkzeuge im Laufe der Zeit verbessert wurden. Dieser Ansatz bietet einen praktischen Weg, um künstliche Intelligenz anpassungsfähiger zu machen und sicherzustellen, dass die Werkzeuge, die sie nutzt, nicht nur für heute funktional, sondern auch robust genug für die Zukunft sind.

Technisches Resümee: VCE-Skill

Problemstellung

Agentensysteme verlassen sich zunehmend auf wiederverwendbare Skills – portabel gebündelte Instruktionen, Skripte und Konfigurationen –, um ganze Klassen von Aufgaben zu lösen. Während jüngste Arbeiten die Selbstentwicklung von Skills durch ein trajektoriengetriebenes Paradigma automatisiert haben (Ausführung von Agenten, Diagnose von Fehlern und Revision von Skills), stößt dieser Ansatz an inhärente Grenzen. Aktualisierungen sind strikt durch die Qualität und Abdeckung der während des aktuellen Durchlaufs gesammelten Ausführungstrajektorien begrenzt. Verrauschte oder qualitativ minderwertige Trajektorien können die Ursachen von Fehlern verschleiern, während eine unvollständige Abdeckung von Fehlermodi zu Aktualisierungen führen kann, die auf begrenzte Beobachtungen überoptimiert sind. Folglich übersieht die trajektoriengetriebene Evolution oft breit nützliches Aktualisierungswissen, das durch die aktuellen Ausführungen nicht offenbart wird.

Obwohl öffentliche Skill-Versionshistorien (z. B. von GitHub oder ClawHub) eine reiche Quelle für Entwicklungswissen darstellen, das von Entwicklern während der Wartung genutzt wird, bleibt diese Ressource für die Selbstentwicklung von Skills weitgehend ungenutzt. Es ist unklar, ob diese öffentlichen Änderungen lediglich Strategien duplizieren, die in der trajektorienbasierten Evolution gefunden werden, oder ob sie komplementäres Wissen bieten. Zudem sind rohe Versions-Diffs feingranular und repositorspezifisch, was sie ohne Abstraktion schwierig für die direkte Anwendung auf aktuelle Aufgabenfehler macht.

Methodik: VCE-Skill

Die Autoren schlagen VCE-Skill (Version-Change Experience Skill) vor, ein Framework, das darauf ausgelegt ist, die Selbstentwicklung von Skills zu verbessern, indem es externe Erfahrung aus öffentlichen Skill-Versionshistorien mit internen Belegen aus Ausführungstrajektorien integriert. Die Methode operiert in zwei primären Phasen:

1. Erfahrungsextraktion (Experience Distillation)

Diese Phase transformiert rohe, verrauschte Versions-Diffs aus öffentlichen Repositories in wiederverwendbare, strukturierte Anleitung.

Änderungsabstraktion: Rohe Diffs zwischen benachbarten Skill-Versionen werden in Update-Events zerlegt. Jedes Event ist strukturiert als $u_j = \langle d_j, \{c_j\}, o_j, i_j \rangle$ , was den rohen Diff ( $d_j$ ), die betroffenen Komponenten ( $c_j$ ), die semantische Operation ( $o_j$ ) und die Update-Intention ( $i_j$ ) darstellt.
Generierung von Erfahrung: Diese Events werden in drei hierarchischen Ebenen von Wissen destilliert:
- Update-Muster (Update Patterns): Gruppen verwandter Events innerhalb der Historie eines Skills, zusammengefasst, um repositorspezifische Details zu entfernen.
- Evolutions-Einblicke (Evolution Insights): Synthetisierte Strategien, die wiederkehrende Update-Muster für einen spezifischen Skill charakterisieren.
- Domänen-Einblicke (Domain Insights): Generalisierte Prinzipien, die übertragbare Optimierungsstrategien für Skills in derselben Aufgaben-Domäne erfassen.
Erfahrungsbank (Experience Bank): Das destillierte Wissen wird in einer strukturierten Bank ( $B$ ) aggregiert, die als externer Wissenskörper dient.

2. Optimierung mit adaptiver Erfahrung-Aufmerksamkeit (Adaptive Experience Attention)

Diese Phase integriert die destillierte externe Erfahrung mit den durch Trajektorien abgeleiteten Vorschlägen des Basis-Evolvers.

Erfahrungsauswahl: In jeder Iteration wird ein Selektionskontext aus der Zielaufgabe, dem aktuellen Skill und dem Feedback der vorherigen Aktualisierung konstruiert. Ein LLM-basierter Selektor ruft die Top- $K$ relevanten Erfahrungen aus der Bank ab.
Selbst-Vorschlag-Generierung: Parallel dazu generiert ein Basis-Evolver (z. B. SkillOpt, EvoSkill) einen Selbst-Vorschlag ( $p^{self}_t$ ), der ausschließlich auf der aktuellen Ausführungstrajektorie basiert.
Adaptive Attention-Fusion: Das System fusioniert die externe Erfahrung-Anleitung ( $p^{exp}_t$ $p_{t}^{e x p}$ ) und den Selbst-Vorschlag ( $p^{self}_t$ $p_{t}^{se l f}$ ) unter Verwendung adaptiver Attention-Gewichte ( $\lambda^{exp}_t, \lambda^{self}_t$ $λ_{t}^{e x p}, λ_{t}^{se l f}$ ).
- Die Gewichte werden zunächst gleich gesetzt, werden aber dynamisch basierend auf dem Adaptations-Feedback angepasst.
- Feedback-Mechanismus: Nach einem Update analysiert das System die Provenienz der realisierten Änderungen (ob diese aus der externen Erfahrung oder dem Selbst-Vorschlag resultierten) und die Änderung der Validierungsleistung. Dieses vereinheitlichte Feedback ( $f_t$ ) passt die Attention-Gewichte für die nächste Iteration an, indem es die Abhängigkeit von der Quelle erhöht, die zu erfolgreichen Verbesserungen beigetragen hat, und die Abhängigkeit von Quellen verringert, die mit nicht-verbessernden Updates assoziiert sind.

Kernbeiträge

Motivationsstudie: Die Autoren führten eine Pilotstudie durch, die öffentliche Skill-Änderungen mit trajektorienbasierten Änderungen vergleicht. Sie zeigten eine komplementäre Abdeckung auf: Trajektorien-abgeleitete Änderungen konzentrieren sich stark auf Instruktionen und enge Intentionen, während öffentliche Historien breitere Komponenten abdecken und einzigartige Intentionen und Muster einführen, die in aktuellen Durchläufen nicht beobachtet werden.
VCE-Skill Framework: Die Einführung einer Methode, die rohe Versionsänderungen in strukturierte, wiederverwendbare Erfahrung destilliert und diese externe Prior während der iterativen Optimierung adaptiv mit trajektorienbasierten Vorschlägen fusioniert.
Empirische Validierung: Umfangreiche Experimente, die die Effektivität und Generalisierbarkeit von VCE-Skill über mehrere Benchmarks und Modelle hinweg demonstrieren.

Experimentelle Ergebnisse

Die Autoren evaluierten VCE-Skill auf fünf Benchmarks (SearchQA, OfficeQA, ALFWorld, Spreadsheet, BFCL-v4) unter Verwendung von vier LLMs (Qwen3.5-27B, GPT-5.2, DeepSeek-v3.2, Claude Sonnet 5) und drei Basis-Selbstentwicklungs-Methoden (EvoSkill, SkillClaw, SkillOpt).

Leistungssteigerung: VCE-Skill verbesserte die Leistung aller Basis-Evolver konsistent. Die Mittelwerte stiegen über verschiedene Konfigurationen hinweg um 3,20 bis 4,98 Punkte. Beispielsweise erreichte SkillOpt+VCE einen Durchschnittswert von 60,27 auf Qwen3.5-27B (eine Steigerung von +3,47 gegenüber SkillOpt) und 70,84 auf GPT-5.2 (eine Steigerung von +3,78).
Ablationsstudie: Das Entfernen der Erfahrungsextraktion (direkte Verwendung von rohen Diffs) führte zu einer signifikanten Leistungsverschlechterung, die oft unter dem Baseline-Niveau lag. Der Ersatz der adaptiven Attention durch feste Gleichgewichte führte ebenfalls zu schlechteren Ergebnissen, was die Notwendigkeit sowohl der Abstraktion als auch der dynamischen Gewichtung bestätigt.
Modellübergreifende Übertragbarkeit: Mit VCE-Skill entwickelte Skills zeigten eine stärkere Übertragbarkeit, wenn sie auf andere Modelle angewendet wurden, als dies bei ohne VCE entwickelten Skills der Fall war. Beim Transfer von einem Quellmodell auf Zielmodelle verbesserten die VCE-optimierten Skills die Durchschnittswerte um 5,15 bis ever 6,04 Punkte, ein Gewinn, der die Verbesserungen in der eigenen Evaluierung des Quellmodells übertraf. Dies deutet darauf hin, dass die destillierte Erfahrung das modellspezifische Overfitting reduziert.

Bedeutung und Ansprüche

Das Paper behauptet, dass öffentliche Skill-Versionshistorien eine bisher wenig genutzte, aber effektive Quelle für Vorabwissen zur Agenten-Skill-Evolution darstellen. Durch die Hervorhebung der Komplementarität zwischen externen Versionsänderungen und internen Trajektorien-Belegen erweitert VCE-Skill das trajektoriengetriebene Paradigma.

Die Autoren positionieren ihre Arbeit nicht als Ersatz für bestehende Selbstentwicklungs-Methoden, sondern als modulare Erweiterung, die es jedem Basis-Evolver ermöglicht, externe Erfahrung zu nutzen. Die Bedeutung liegt im Wechsel des Fokus: Weg von der ausschließlichen Abhängigkeit von aktuellen Ausführungsbelegen, hin zur Einbeziehung eines breiteren, historisch fundierten Satzes von Evolutions-Priors, wodurch robustere, generalisierbarere und auf den Modelltransfer fähigere Skills erzeugt werden.