💬 NLP

Parametric Skills

Das Paper stellt ParametricSkills vor, ein Framework, das freiformale textuelle Fähigkeiten mittels eines Hypernetworks in LoRA-Adapter umwandelt, um die Einschränkungen der kontextbasierten Befolgung von Fähigkeiten in LLMs zu überwinden, wobei es eine überlegene Leistung bei komplexen Software-Engineering-Aufgaben demonstriert und einen vielversprechenden Weg für kontinuierliches Lernen zur Testzeit bietet.

Ursprüngliche Autoren: Xuan Zhao, Haonan He, Qingyu Yang, Minglei Li, Jingqi Ye, Zelin Tan, Bo Wan, Peng Ye

Veröffentlicht 2026-06-30

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Xuan Zhao, Haonan He, Qingyu Yang, Minglei Li, Jingqi Ye, Zelin Tan, Bo Wan, Peng Ye

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Der „überforderte Bibliothekar“

Stellen Sie sich vor, Sie haben einen brillanten, superintelligenten Assistenten (eine KI), der fast alles kann. Wenn Sie ihm jedoch eine sehr spezifische, komplexe Aufgabe geben – wie etwa das Reparieren eines defekten Softwareprogramms – benötigt er ein „Rezept“ (eine Reihe von Anweisungen), dem er folgen muss.

Derzeit geben wir diese Rezepte als Text an. Wir kopieren ein langes, detailliertes Dokument in das Chatfenster und sagen: „Hier ist das Rezept, bitte befolgen Sie es.“

Die Arbeit argumentiert, dass dies zwei wesentliche Mängel hat:

Das „Nadel im Heuhaufen“-Problem: Wenn das Rezept lang ist und das Gespräch unübersichtlich wird, vergisst die KI oft die wichtigsten Teile der Anweisungen oder wird durch das „Rauschen“ verwirrt. Es ist, als würde man versuchen, eine bestimmte Seite eines Buches zu lesen, während jemand tausend andere Dinge gleichzeitig in das Ohr schreit.
Das „Statisch vs. Dynamisch“-Problem: Text ist einfach nur Text. Er liegt dort einfach nur herum. Er verändert nicht wirklich die Funktionsweise des Gehirns der KI. Es ist, als würde man einem Koch ein schriftliches Rezept geben, ihm aber nicht erlauben, während des Kochens tatsächlich zu probieren oder die Gewürze anzupassen.

Die Lösung: Rezepte in „Muskelgedächtnis“ verwandeln

Die Autoren schlagen ParametricSkills vor. Anstatt der KI ein schriftliches Rezept zum Lesen zu geben, verwandeln sie das Rezept direkt in Mathematik (speziell in kleine Anpassungen der internen Gewichte der KI, sogenannte LoRA-Adapter).

Die Analogie: Die „Magische Brille“
Stellen Sie sich vor, die KI ist ein Mechaniker.

Der alte Weg (Textanweisungen): Sie übergeben dem Mechaniker ein 50-seitiges Handbuch. Er muss anhalten, es lesen, die richtige Seite finden und versuchen, sich daran zu erinnern, während er arbeitet. Wenn das Handbuch zu lang ist, übersieht er einen Schritt.
Der neue Weg (ParametricSkills): Sie übergeben dem Mechaniker eine spezielle Brille. Sobald er die Brille aufsetzt, „weiß“ sein Gehirn sofort, wie er den Motor repariert. Er muss nichts mehr lesen. Das Wissen ist physisch in seine Sicht eingebettet. Er tut es einfach.

In technischer Hinsicht verwendet die Arbeit ein spezielles „Übersetzer“-Netzwerk (ein Hypernetwork), das das Textrezept betrachtet und es sofort in ein winziges mathematisches Paket (einen LoRA-Adapter) umwandelt, das die KI in ihr Gehirn einstecken kann.

Wie sie es gebaut haben (Das Training)

Um der KI beizubringen, diese „Brillen“ zu akzeptieren, mussten die Forscher einen massiven Trainingsplatz bauen:

Die Bibliothek: Sie sammelten 45.800 reale „Rezepte“ (Fähigkeiten) aus dem Internet und von erfolgreichen KI-Agenten, die Code reparierten.
Der Simulator: Sie erschufen eine Sandbox, in der sie diese Fähigkeiten übten. Sie ließen die KI Folgendes üben:
- Single-turn (Einmalige Interaktion): „Hier ist ein Rezept, behebe diesen einen Bug.“
- Multi-turn (Mehrere Interaktionen): „Hier ist ein Rezept, behebe diesen Bug, aber warte, der Nutzer hat gerade die Anforderungen geändert, und hier ist ein neuer Fehlerbericht...“
Der Übersetzer: Sie trainierten das Hypernetwork darauf, das Textrezept und die erfolgreiche Lösung zu betrachten und zu lernen, wie man diesen gesamten Prozess in ein winziges mathematisches Paket komprimiert.

Was sie herausfanden (Die Ergebnisse)

Sie testeten dies bei komplexen Software-Engineering-Aufgaben (wie dem Reparieren von Code, dem Migrieren von APIs oder dem Debugging).

Besser als Lesen: Die KI mit „ParametricSkills“ (der Brille) schnitt signifikant besser ab als die KI, die versuchte, die Textanweisungen zu lesen. Sie war präziser und machte weniger Fehler.
Besser als die „Text-zu-LoRA“-Baseline: Sie testeten eine ähnliche Methode namens SHINE, aber diese scheiterte. Warum? Weil SHINE lediglich versuchte, den Text zu komprimieren, aber nicht lernte, wie man die Fähigkeit anwendet. ParametricSkills lernte sowohl den Inhalt als auch die Methode der Ausführung.
Mischen von Fähigkeiten: Sie fanden heraus, dass sie mehrere „Brillen“ (Fähigkeiten) gleichzeitig kombinieren können. Wenn eine Aufgabe drei verschiedene Fähigkeiten erfordert, können sie die mathematischen Pakete zusammenführen, und die KI kann die komplexe Aufgabe nahtlos bewältigen.

Die Zukunft: Die „sich ständig verbessernde“ KI

Die Arbeit schlägt auch eine coole Funktion namens Self-Evolving (Selbstentwicklung) vor.
Stellen Sie sich vor, die KI versucht eine Aufgabe und scheitert.

Sie schreibt das Textrezept um, um es zu verbessern.
Sie wandelt dieses neue Rezept in eine neue „Brille“ (ein mathematisches Paket) um.
Sie führt dieses neue Paket in ihr Hauptgehirn zusammen.

Im Laufe der Zeit lernt die KI nicht nur, Anweisungen besser zu befolgen; sie akkumuliert buchstäblich Erfahrung in ihrer eigenen Gehirnstruktur. Sie wird klüger und fähiger, ohne neu trainiert werden zu müssen. Dies ist ein Schritt in Richtung „Continual Learning“ (Kontinuierliches Lernen) – eine KI, die kontinuierlich lernt und wächst, während sie arbeitet.

Zusammenfassung

ParametricSkills ist eine neue Art, KI zu lehren. Anstatt die KI zu zwingen, lange, verwirrende Handbücher zu lesen, verwandelt sie diese Handbücher in winzige, sofort verfügbare „Muskelgedächtnis“-Updates. Dies macht die KI schneller, präziser und fähig, neue Fähigkeiten im laufenden Betrieb zu erlernen, indem sie ihren eigenen internen Code basierend auf Erfahrung buchstäblich umschreibt.

Technisches Resümee: ParametricSkills

Problemstellung

Agentische Large Language Models (LLMs) verlassen sich stark auf Skills – strukturierte textuelle Rezepte, die Problemlösungserfahrung kodieren –, um komplexe reale Aufgaben wie Software Engineering (SWE) und wissenschaftliche Forschung zu bewältigen. Das vorherrschende Paradigma, diese Skills als In-Context-Text darzustellen, steht jedoch vor zwei grundlegenden Einschränkungen:

Engpass beim Befolgen von Instruktionen (Instruction Following Bottleneck): Modelle haben Schwierigkeiten, komplexe, langkontextige textuelle Instruktionen zu verstehen und zu befolgen. Lebenswichtige Anweisungen gehen oft verloren oder sind schwer zu lokalisieren, was zu suboptimalen Ergebnissen führt, insbesondere wenn die Modellgröße abnimmt.
Entkopplung von Evolution und Lernen: Die Optimierung oder Evolution von Skills im Textraum (z. B. das Umschreiben natürlicher Sprachdokumente) ist von der intrinsischen Lernfähigkeit des Modells entkoppelt. Während textbasierte Methoden die Downstream-Performance verbessern können, aktualisieren sie nicht die Parameter des Modells, wodurch die Kernfähigkeiten des Modells unoptimiert bleiben.

Methodik: ParametricSkills

Die Autoren schlagen ParametricSkills vor, ein Framework, das freie Text-Skills zur Testzeit mittels eines Hypernetworks in parametrische Adapter (speziell LoRA-Adapter) umwandelt. Dieser Ansatz eliminiert die Notwendigkeit des Verbrauchs des Kontextfensters und koppelt die Skill-Evolution direkt mit dem Lernen des Modells.

Kernarchitektur

Das System nutzt ein Hypernetwork ( $h_\theta$ ), das eine textuelle Skill-Beschreibung ( $s$ ) entgegennimmt, diese über einen eingefrorenen Text-Encoder ( $g(\cdot)$ ) in eine Repräsentation ( $z$ ) kodiert und in einem einzigen Vorwärtsdurchlauf LoRA-Parameter ( $\phi$ ) generiert:
$\phi = h_\theta(g(s))$
Diese Parameter werden in das Basismodell integriert ( $W_0 + \Delta W$ ), wodurch ein Skill-konditioniertes Modell entsteht, ohne die Basisgewichte zu verändern oder Kontext-Token zu verbrauchen.

Trainings-Pipeline

Der Trainingsprozess besteht aus drei Stufen:

Skill-Rekonstruktions-Pretraining: Das Hypernetwork wird auf einer großen Skill-Bibliothek mit drei selbstüberwachten Zielen trainiert, um eine getreue Kodierung des Skill-Inhalts zu gewährleisten:
- Vollständige Rekonstruktion: Rekonstruktion des gesamten Kontextes aus dem vollständigen Skill.
- Präfix-Vervollständigung: Ableitung des vollständigen Kontextes aus einem gekürzten Präfix.
- Sektionsweise Vervollständigung: Eine Cloze-Aufgabe, bei der ein funktionaler Abschnitt entfernt wird, was bidirektionales Schließen erfordert, um die fehlende Komponente zu rekonstruieren.
Skill-Exploitations-Fine-tuning: Das Hypernetwork wird auf synthetisierten agentischen Trajektorien (Single-Turn und Multi-Turn) feinjustiert. Dies verschiebt den Fokus von der bloßen Komprimierung von Inhalten hin zum Erlernen der Methodik der Skill-Exploitation, indem die Parameter in konkrete Verhaltensschritte (Planung, Werkzeugnutzung, Verifizierung) eingebettet werden.
Selbstentwickelnde Schleife (Self-Evolving Loop): Skills können im Textraum (über einen Generator-Verifier-Loop) verfeinert und in den Parameterraum rekompiliert werden. Für kontinuierliches Lernen werden erfolgreiche Aufgaben-Trajektorien zusammengefasst, in Parameter umgewandelt und mittels Exponential Moving Average (EMA) in einen globalen parametrischen Skill zusammengeführt.

Datenkuratierung

Die Autoren haben einen groß angelegten Datensatz konstruiert, bestehend aus:

Skill-Bibliothek: 45,8k hochwertige Skills aus Web-Repositories (z. B. GitHub, npm) und extrahiert aus erfolgreichen Agenten-Trajektorien über 13 Domänen hinweg (z. B. Software, KI/LLM, Security).
Trajektorien: Synthetische Single-Turn (QA-Stil und realistische Szenarien) und Multi-Turn (Sandbox-basiert) Exploitations-Trajektorien, die unter Verwendung der OpenCode Sandbox generiert wurden.

Skill-Merging

Um komplexe Aufgaben zu bewältigen, die mehrere Skills erfordern, unterstützt das Framework das Zusammenführen mehrerer LoRA-Adapter. Die Autoren schlagen eine Rang-Konkatenation (Rank-Concatenation) vor, bei der gewichtete Updates einzelner Adapter konkateniert werden, was eine einfache faktorweise lineare Kombination übertrifft.

Zentrale Beiträge

Großskalige Skill-Infrastruktur: Konstruktion einer 45,8k starken Skill-Bibliothek und eines entsprechenden Datensatzes von agentischen Trajektorien mit strenger Qualitätskontrolle.
Parametrisches Skill-Framework: Einführung eines Testzeit-Parametrisierungs-Frameworks, das die Methodik der Skill-Exploitation in kontextfreie Parameter internalisiert und so den Engpass des Instruktionsfolgens in langen Kontexten adressiert.
Empirische Überlegenheit: Umfassende Evaluierung, die zeigt, dass ParametricSkills In-Context-Learning-Baselines und Text-zu-LoRA-Baselines (SHINE) bei komplexen SWE-Aufgaben übertrifft.
Pfad für kontinuierliches Lernen: Demonstration, dass parametrische Skills nahtlos in selbstentwickelnde Pipelines integriert und via EMA akkumuliert werden können, was einen gangbaren Weg für das kontinuierliche Lernen zur Testzeit ohne Backpropagation bietet.

Experimentelle Ergebnisse

Evaluierung auf sechs komplexen SWE-Subaufgaben (z. B. Feature/Patch, Robustheit-Fix, Refactoring) unter Verwendung von DeepSeek-V4-Flash als Judge:

Performance: ParametricSkills erreichte eine durchschnittliche LLM-Judge-Punktzahl von 64,09 und übertraf damit die In-Context-Baseline (57,65) um 6,44 Punkte sowie die No-Skills-Baseline (50,21) deutlich.
Metriken: Es erzielte auch höhere BERT-Scores (+1,17) und F1-Scores (+5,53 %) im Vergleich zur In-Context-Baseline.
Baseline-Vergleich: Die Text-zu-LoRA-Baseline (SHINE) konnte die In-Context-Baseline nicht übertreffen (56,36 vs. 68,12), was verdeutlicht, dass eine naive Text-zu-Parameter-Konvertierung ohne spezifisches Training der Skill-Exploitation unzureichend ist.
Kontinuierliches Lernen: In Online-Akkumulationsexperimenten auf HumanEval erreichte das Setting „Online continual merge“ eine Pass-Rate von 51,61 %, was die unabhängige Self-Evolution-Baseline (38,71 %) signifikant übertraf.

Bedeutung

Die Arbeit postuliert, dass die Darstellung von Skills im Parameterraum statt im Textraum das agentische Paradigma grundlegend verändert. Durch die Konvertierung von Skills in LoRA-Adapter ermöglicht das Framework:

Die Unabhängigkeit von der Fähigkeit des Modells, komplexe Instruktionen in langen Kontexten zu lokalisieren und zu befolgen.
Dass die Skill-Evolution inhärent mit dem Modelllernen gekoppelt ist, da die Verbesserung des Skills direkt die Parameter des Modells verbessert.
Einen vorläufigen, aber vielversprechenden Weg für das kontinuierliche Lernen zur Testzeit, der es Modellen ermöglicht, Erfahrungen aus multiplen Trajektorien in einen globalen parametrischen Prior zu akkumulieren, ohne den Rechenaufwand traditioneller Feinabstimmung.