Semantics-Aligned, Curriculum-Driven, and Reasoning-Enhanced Vulnerability Repair Framework

1. Problemstellung und Motivation

Die automatische Behebung von Software-Schwachstellen (Automated Vulnerability Repair, AVR) steht vor erheblichen Herausforderungen, da die Menge an Sicherheitslücken die manuelle Korrektur übersteigt. Bestehende Ansätze, die überwiegend auf Supervised Fine-Tuning (SFT) basieren, leiden unter drei wesentlichen Mängeln:

• Syntaktisches Overfitting: SFT-Modelle lernen oft nur oberflächliche syntaktische Muster (Lexikalische Mimikry) statt der zugrunde liegenden semantischen Reparaturlogik. Dies führt dazu, dass Modelle bei kleinen, semantisch irrelevanten Änderungen (z. B. Umbenennung von Variablen) versagen.
• Suboptimierung bei komplexen Reparaturen: Reale Schwachstellen erfordern oft Änderungen an mehreren, nicht zusammenhängenden Codebereichen („Multi-Hunk"-Reparaturen). Bestehende Modelle scheitern häufig daran, lokale Sicherheitskorrekturen mit einer globalen syntaktischen Synchronisation zu vereinbaren.
• Verzerrte Evaluierung: Herkömmliche Benchmarks nutzen oft zufällige Aufteilungen auf Funktionsebene, was zu Datenlecks führt (Modelle „sehen" Projekte im Testset bereits im Training). Zudem ist die Metrik „Exact Match" zu starr, da sie semantisch äquivalente, aber syntaktisch unterschiedliche Patches als falsch bewertet.

Zusätzlich fehlt es an zuverlässigen Belohnungssignalen für Reinforcement Learning (RL), da die Ausführung von Code (Execution-based Rewards) in realen Szenarien oft aufgrund fehlender Build-Umgebungen nicht möglich ist.

2. Methodik: Der SeCuRepair-Ansatz

SeCuRepair ist ein Framework, das auf Reinforcement Learning (RL) basiert und drei Kernprinzipien verfolgt, um die oben genannten Grenzen zu überwinden. Die Architektur besteht aus einer zweistufigen Pipeline:

A. Reasoning-Enhanced Initialization (Initialisierung durch verstärktes Reasoning)

Um das Modell auf eine stabile Lernbasis zu bringen, wird eine Wissensdistillation durchgeführt:

• Ein „Lehrer"-LLM (z. B. GPT-5 mini) generiert Paare aus Reasoning (Schlussfolgerung) und Patch (Korrekturcode).
• Der Reasoning-Prozess folgt einem strukturierten Protokoll, das dem Workflow von Sicherheitsexperten entspricht: (1) Klassifizierung der Schwachstelle, (2) Analyse der Ursache (Root Cause) und (3) Planung der Reparaturstrategie.
• Durch Rejection Sampling werden inkorrekte oder syntaktisch ungültige Patches verworfen.
• Ein Schüler-Modell (Qwen2.5-7B) wird mittels SFT auf diesen hochwertigen Daten trainiert, um ein „Reason-then-Edit"-Muster zu erlernen.

B. Semantics-Aware RL (Semantik-bewusstes Reinforcement Learning)

Im zweiten Schritt wird das Modell mit dem GRPO-Algorithmus (Group Relative Policy Optimization) weiter optimiert. Der entscheidende Durchbruch liegt im Reward-Design:

• Statt einer reinen lexikalischen Ähnlichkeit (wie BLEU) oder einer unsicheren „LLM-as-Judge"-Bewertung, verwendet SeCuRepair einen multigranularen statischen Reward.
• Dieser Reward bewertet die generierten Patches auf drei Ebenen im Vergleich zum Referenz-Patch (Oracle):
  1. Lexikalisch: BLEU-Score (für korrekte Schlüsselwörter).
  2. Syntaktisch: AST-Ähnlichkeit (Abstract Syntax Tree) für strukturelle Korrektheit.
  3. Semantisch: Ähnlichkeit von Data-Flow Graphs (DFG) und Control-Flow Graphs (CFG). Für die CFG-Ähnlichkeit wird der effiziente Weisfeiler-Lehman Graph Kernel verwendet, um die NP-schwere Graph Edit Distance zu approximieren.
• Dies ermöglicht es dem Modell, semantisch äquivalente, aber syntaktisch diverse Lösungen zu belohnen.

C. Curriculum Learning (Lernen nach Schwierigkeitsgrad)

Um die Komplexität von Multi-Hunk-Reparaturen zu bewältigen, wird ein Curriculum-Training eingeführt:

• Die Trainingsdaten werden nach der Anzahl der betroffenen Code-Hunks (Änderungsbereiche) sortiert.
• Das Training beginnt mit einfachen Fällen (1–2 Hunks), um lokale Sicherheitskorrekturen zu meistern.
• Anschließend werden komplexere Fälle (3–5 Hunks und >5 Hunks) schrittweise eingeführt, um das Modell auf die globale Synchronisation vorzubereiten. Dies verhindert, dass das Modell in lokalen Optima stecken bleibt.

3. Wichtige Beiträge

1. SeCuRepair Framework: Ein RL-basiertes Framework, das die Starrheit von SFT durch semantik-bewusste Belohnungen überwindet.
2. Neue Reward-Mechanik: Einführung einer Kombination aus lexikalischen, syntaktischen und semantischen Metriken (AST, DFG, CFG), die eine skalierbare, ausführungsfreie Optimierung ermöglicht.
3. Curriculum & Reasoning: Eine Strategie, die Experten-Reasoning mit einem schrittweisen Schwierigkeitsanstieg kombiniert, um komplexe, verteilte Codeänderungen zu lernen.
4. Robustes Benchmarking: Einführung des neuen Datensatzes PrimeVulAVR und strikte Repository-Level-Splits, um Datenlecks zu eliminieren und die Generalisierungsfähigkeit auf unbekannte Projekte zu testen.

4. Ergebnisse

Die Evaluation erfolgte auf den Benchmarks BigVul und dem neuen PrimeVulAVR unter strikten Repository-Level-Splits:

• Überlegenheit gegenüber SOTA: SeCuRepair übertrifft alle bestehenden Baselines (VulMaster, FAVOR) und kommerzielle Modelle (GPT-4o) signifikant.
  • Steigerung von 37,21% im CodeBLEU auf BigVul gegenüber dem besten SFT-Modell.
  • Steigerung von 33,58% auf PrimeVulAVR gegenüber GPT-4o.
• Human Evaluation: In einer blinden Bewertung durch Sicherheitsexperten erreichte SeCuRepair den höchsten Anteil an „arbeitbaren Patches" (58,0%), gefolgt von GPT-4o (50,0%) und VulMaster (20,0%).
• Robustheit: Das Modell zeigt eine hohe Robustheit gegenüber Code-Perturbationen (z. B. Umbenennung von Variablen), wobei der Performance-Verfall im Vergleich zu SFT-Modellen minimal ist (nur 3,39% vs. 14,75%).
• Ablationsstudien: Jede Komponente (Reasoning-Initialisierung, semantische Rewards, Curriculum) trug messbar zur finalen Performance bei. Insbesondere die semantischen Rewards führten zu einer relativen Verbesserung von 7,67% gegenüber rein lexikalischen Rewards.

5. Bedeutung und Fazit

SeCuRepair adressiert die fundamentale Lücke zwischen syntaktischer Anpassung und semantischem Verständnis in der automatischen Sicherheitskorrektur. Durch den Verzicht auf reine Lexikal-Mimikry und die Einführung eines semantik-zentrierten RL-Ansatzes ermöglicht das Framework die Generierung von Patches, die nicht nur syntaktisch korrekt, sondern logisch und sicherheitstechnisch äquivalent zu menschlichen Lösungen sind.

Die Arbeit unterstreicht die Notwendigkeit, Evaluierungsmethoden von zufälligen Splitting-Verfahren zu strikten Repository-Level-Splits zu ändern, um die wahre Generalisierungsfähigkeit von AVR-Modellen zu messen. SeCuRepair stellt einen wichtigen Schritt hin zu skalierbaren, zuverlässigen und semantisch fundierten Werkzeugen für die Software-Sicherheit dar, die Entwickler bei der Behebung komplexer Schwachstellen unterstützen können.