RedSage: A Cybersecurity Generalist LLM

Das Paper stellt RedSage vor, ein lokal einsetzbares, quelloffenes Cybersecurity-LLM, das durch domänenspezifisches Vor- und Nachtraining sowie einen agentenbasierten Augmentierungsprozess entwickelt wurde und auf dem neu eingeführten RedSage-Bench sowie etablierten Benchmarks signifikante Verbesserungen gegenüber Baseline-Modellen erzielt.

Das Wesentliche

Stell dir vor, du hast einen sehr klugen, aber etwas weltfremden Bibliothekar. Er kennt sich mit Mathematik, Geschichte und Literatur aus, aber wenn du ihn fragst: „Wie finde ich eine Sicherheitslücke in einem Netzwerk?" oder „Was bedeutet dieser seltsame Code?", schaut er dich nur verwirrt an. Er hat zwar viel gelesen, aber nie wirklich mit Hackern gesprochen oder Sicherheitswerkzeuge benutzt.

Genau dieses Problem wollten die Forscher mit RedSage lösen. Hier ist die Geschichte von RedSage, erzählt wie eine einfache Geschichte:

1. Das Problem: Der fehlende Spezialist

In der Welt der Cybersicherheit (dem digitalen Schutzschild) gibt es eine riesige Lücke. Es gibt zu wenige echte Experten, und die, die es gibt, sind oft überlastet. Man wollte einen KI-Assistenten, der diesen Job übernehmen kann. Aber die bisherigen KIs waren wie zwei extreme Typen:

• Typ A (Die Geheimniskrämer): Sehr smart, aber sie leben in einer geschlossenen Wolke (Cloud). Du musst sie über das Internet anrufen, was riskant ist, weil deine sensiblen Daten dabei mitfliegen könnten.
• Typ B (Die Selbstlerner): Sie sind offen und kostenlos, aber sie haben nie richtig gelernt, worum es bei Sicherheit geht. Sie wissen viel über „Allgemeinwissen", aber wenig über „Hacking" oder „Sicherheitswerkzeuge".

2. Die Lösung: RedSage – Der lokale Sicherheits-Experte

Die Forscher haben RedSage gebaut. Stell dir RedSage wie einen digitalen Lehrling vor, der in einer riesigen, sicheren Werkstatt (auf deinem eigenen Computer) ausgebildet wird, damit keine sensiblen Daten die Werkstatt verlassen müssen.

Hier ist, wie sie ihn ausgebildet haben, mit ein paar lustigen Vergleichen:

Schritt 1: Der riesige Bücherstapel (Vortraining)

Zuerst haben sie dem Lehrling eine Bibliothek gegeben, die nur aus Sicherheitsbüchern besteht.

• Die Methode: Sie haben das gesamte Internet durchsucht (wie ein riesiger Staubsauger), aber nur die Seiten herausgefiltert, die wirklich über Cybersicherheit sprechen. Das sind 11,8 Milliarden Wörter (Tokens)!
• Der Clou: Damit der Lehrling nicht vergisst, wie man normale Sätze bildet (damit er nicht nur Fachchinesisch spricht), haben sie ein paar normale Bücher (wie Schulbücher) untergemischt.
• Das Ergebnis: Der Lehrling hat jetzt ein riesiges Grundwissen über Hacker-Techniken, Sicherheitslücken und Tools.

Schritt 2: Der Rollenspiel-Trainer (Agentic Augmentation)

Nur Bücher zu lesen reicht nicht. Man muss auch sprechen können. Hier kommt der kreative Teil ins Spiel.

• Das Szenario: Die Forscher haben einen „KI-Trainer" (einen Agenten) eingesetzt. Dieser Trainer nahm die trockenen Fakten aus den Büchern und verwandelte sie in 266.000 spannende Dialoge.
• Die Analogie: Stell dir vor, der Trainer sagt: „Okay, hier ist ein Text über ein Werkzeug namens nmap. Jetzt stell dir vor, du bist ein erfahrener Hacker und ich bin ein junger Auszubildender. Erkläre mir, wie man dieses Werkzeug benutzt, aber mach es so, als würden wir zusammen an einem Fall arbeiten."
• Das Ergebnis: RedSage hat nicht nur Fakten gelernt, sondern gelernt, wie man denkt, wie man Probleme löst und wie man einem Kollegen hilft. Er hat quasi „Rollenspiele" gespielt, um Erfahrung zu sammeln.

Schritt 3: Der strenge Prüfmeister (RedSage-Bench)

Wie weiß man, ob der Lehrling wirklich gut ist? Man gibt ihm eine Prüfung.

• Die Forscher haben eine eigene Prüfung entwickelt (RedSage-Bench). Diese besteht aus 30.000 Multiple-Choice-Fragen und 240 offenen Aufgaben.
• Der Test: Es geht nicht nur darum, „Was ist ein Virus?" zu beantworten. Es geht auch um: „Wie bediene ich dieses spezielle Linux-Tool?" oder „Erkläre mir, wie man einen Angriff simuliert."
• Das Ergebnis: RedSage hat die Prüfung mit Bravour bestanden und war besser als alle anderen 8-Milliarden-Parameter-Modelle, sogar besser als einige viel größere Modelle.

3. Warum ist das so cool? (Die Vorteile)

• Privatsphäre: Da RedSage auf deinem eigenen Computer läuft (wie ein Werkzeugkasten in deiner Garage), musst du keine sensiblen Firmendaten an Google oder OpenAI senden. Alles bleibt lokal.
• Allrounder: Das Tolle ist: Durch das Training ist RedSage nicht nur ein Sicherheits-Experte, sondern auch ein besserer Denker im Allgemeinen. Er kann jetzt nicht nur Hacken, sondern auch Matheaufgaben lösen oder Anweisungen besser befolgen als vorher.
• Offenheit: Im Gegensatz zu den „Geheimniskrämern" (wie SecGemini von Google) ist RedSage Open Source. Das bedeutet, jeder kann die Daten, den Code und das Modell herunterladen und selbst damit arbeiten.

Zusammenfassung in einem Satz

RedSage ist wie ein hochqualifizierter Sicherheits-Experte, der in einer sicheren Werkstatt auf deinem eigenen Computer lebt, der durch das Lesen von Millionen von Sicherheitsdokumenten und das Üben in Tausenden von Rollenspielen gelernt hat, dir bei Cyberangriffen zu helfen – ohne dass du dabei deine Geheimnisse verraten musst.

Die Forscher haben damit gezeigt, dass man mit der richtigen Mischung aus Daten und cleverem Training auch mit kleineren Modellen (8 Milliarden Parameter) Ergebnisse erzielen kann, die mit riesigen, teuren Modellen mithalten können.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „RedSage: A Cybersecurity Generalist LLM" auf Deutsch:

Titel: RedSage: Ein Open-Source-LLM für die Cybersicherheit

1. Problemstellung

Die Cybersicherheitslandschaft ist durch zunehmend komplexe Bedrohungen und einen globalen Fachkräftemangel geprägt. Bestehende KI-Lösungen für Cybersicherheitsaufgaben weisen erhebliche Mängel auf:

• Datenschutzrisiken: Viele kommerzielle Lösungen basieren auf proprietären APIs, was die Gefahr der Offenlegung sensibler Unternehmensdaten birgt.
• Fehlende Domänenanpassung: Open-Source-Modelle fehlen oft eine spezifische Anpassung an Cybersicherheitsdaten, was zu mangelnder Expertise führt.
• Unvollständige Trainingspipelines: Bisherige Ansätze konzentrieren sich oft nur auf eine Trainingsphase (z. B. nur Feinabstimmung ohne Vor-Training oder umgekehrt) und nutzen begrenzte Datensätze.
• Mangelnde Benchmarks: Existierende Evaluierungsstandards decken oft nur theoretisches Wissen ab und vernachlässigen praktische Fähigkeiten (Skills) und die Beherrschung von Sicherheitstools. Zudem sind viele Daten und Pipelines nicht öffentlich zugänglich, was die Reproduzierbarkeit einschränkt.

2. Methodik

RedSage (Retrieval-Enhanced Data-driven Security Assistant Guidance and Evaluation) ist ein offenes, lokal einsetzbares Modell (8B Parameter), das durch eine datenzentrierte Pipeline entwickelt wurde. Der Ansatz umfasst drei Hauptphasen:

A. Datenerstellung und Vorverarbeitung (Continual Pretraining)

• CyberFineWeb: Die Autoren filterten das große Web-Korpus „FineWeb" (ca. 15 Billionen Token) mit einem feinabgestimmten Klassifikator (basierend auf ModernBERT), um cybersicherheitsspezifische Inhalte zu extrahieren. Dies ergab einen Kandidatenpool von ca. 89,8 Mrd. Token.
• Vermeidung von „Catastrophic Forgetting": Um das allgemeine Weltwissen zu erhalten, wurde das Cyber-Korpus zu 30 % mit allgemeinen Bildungsdaten (FineWeb-Edu) gemischt.
• RedSage-Seed: Zusätzlich wurde ein hochwertiges, kuratiertes Korpus von ca. 28.600 Dokumenten (ca. 0,15 Mrd. Token) aus vertrauenswürdigen Quellen zusammengestellt. Dies umfasst Frameworks (MITRE ATT&CK, OWASP), offensive Techniken (Hacking-Tutorials, CTF-Write-ups) und Tool-Dokumentationen (CLI, Kali Linux).
• RedSage-Dump: Eine weitere Sammlung von ca. 459.000 Dokumenten (Standards, RFCs, NIST-Publikationen) wurde hinzugefügt, um die Vielfalt zu erhöhen.
• Ergebnis: Ein dedupliziertes Vor-Training-Korpus von ca. 11,7 Mrd. Token.

B. Agente Daten-Augmentierung (Post-Training / SFT)

• Um realistische Dialoge zu generieren, wurde ein agenter Augmentierungs-Pipeline entwickelt, inspiriert von AgentInstruct.
• Ein Planner-Agent analysiert die Seed-Daten und leitet daraus Skill-Sets und Augmentierungsstrategien ab.
• Ein Augmenter-Agent generiert daraus multi-turn Dialoge, die Experten-Workflows simulieren (z. B. Red-Team vs. Blue-Team, Tool-Nutzung, Schwachstellenanalyse).
• Ergebnis: Ein Datensatz namens RedSage-Conv mit ca. 266.000 Dialogen (ca. 353 Mio. Token).
• Allgemeine Instruktionen: Um die Fähigkeit zur Befolgung von Anweisungen zu erhalten, wurden diese Daten mit einem allgemeinen SFT-Datensatz (SmolTalk2) kombiniert.

C. Feinabstimmung und Ausrichtung

• Basis-Modell: Qwen3-8B-Base.
• Training: Zuerst Continued Pretraining (CPT) auf den Cyber-Daten, gefolgt von Supervised Fine-Tuning (SFT) auf den augmentierten Dialogen.
• Alignment: Anwendung von Direct Preference Optimization (DPO) unter Verwendung des Tulu-3-Preference-Mix-Datensatzes, um die Antworten menschlichen Präferenzen anzupassen.

D. Benchmark: RedSage-Bench

• Zur Evaluierung wurde ein umfassender Benchmark entwickelt, der 30.000 Multiple-Choice-Fragen (MCQs) und 240 offene Fragen (Open-Ended Q&A) enthält.
• Der Benchmark deckt drei Dimensionen ab: Wissen (Theorie), Fähigkeiten (praktische offensive Skills) und Tool-Expertise (CLI-Befehle, Kali Linux).
• Eine strenge mehrstufige Verifizierung (LLM-as-Judge + menschliche Prüfung) sichert die Qualität und verhindert Datenlecks.

3. Wichtige Beiträge

1. Umfassendes Korpus: Zusammenstellung eines 11,8 Mrd. Token großen Cybersicherheits-Korpus für das domain-spezifische Vor-Training.
2. Agente Augmentierung: Entwicklung einer Pipeline zur Generierung von 266.000 hochwertigen, multi-turn Dialogen, die reale Experten-Workflows simulieren.
3. RedSage-Bench: Ein neuer, umfassender Benchmark, der erstmals Wissen, praktische Fähigkeiten und Tool-Nutzung in einem einzigen Evaluierungsrahmen kombiniert und qualitativ hochwertige offene Antworten bewertet.
4. Open-Source-Modell: Veröffentlichung des 8B-Modells (RedSage), der gesamten Datensätze und des Codes, was Reproduzierbarkeit und lokale, datenschutzkonforme Nutzung ermöglicht.

4. Ergebnisse

RedSage wurde auf dem 8B-Parameter-Scale gegen führende Open-Source-Modelle (Llama-3.1, Qwen3, Foundation-Sec, DeepHat) und proprietäre Modelle (GPT-5, Qwen3-32B) evaluiert.

• Cybersicherheits-Benchmarks:

  • RedSage übertrifft die Baseline-Modelle konsistent.
  • Auf dem RedSage-Bench und etablierten Benchmarks (CTI-Bench, CyberMetric, SECURE, SecEval) erzielt RedSage Verbesserungen von bis zu +5,59 Punkten im Vergleich zu den besten 8B-Baselines.
  • Im Bereich der Tool-Nutzung (CLI, Kali) zeigt RedSage signifikante Fortschritte, wo andere Modelle oft scheitern.
  • RedSage-8B-DPO erreicht Ergebnisse, die nahe an einem 32B-Modell (Qwen3-32B) liegen und GPT-5 auf einigen Aufgaben nur ca. 5 Punkte hinter sich lässt.

• Allgemeine Benchmarks (Open LLM Leaderboard):

  • Im Gegensatz zu vielen spezialisierten Modellen, die an allgemeinen Fähigkeiten verlieren, verbessert RedSage auch die allgemeine Leistung.
  • Es erzielt +5,05 Punkte auf den Aufgaben des Open LLM Leaderboards (z. B. ARC-Challenge, GSM8K, MMLU) im Vergleich zu den Baselines.
  • Dies zeigt, dass domänenspezifisches Training mit agenter Augmentierung die allgemeine Schlussfolgerungsfähigkeit und Instruktionsbefolgung stärken kann.

5. Bedeutung und Fazit

RedSage demonstriert, dass eine sorgfältige Kombination aus großflächigem domain-spezifischem Vor-Training, agenter Daten-Augmentierung und strenger Evaluierung zu einem hochleistungsfähigen, spezialisierten KI-Assistenten führt.

• Praktische Relevanz: Da das Modell nur 8 Milliarden Parameter hat, kann es lokal auf Consumer-GPUs betrieben werden. Dies ermöglicht Organisationen, sensible Sicherheitsdaten ohne Cloud-Risiken zu verarbeiten.
• Forschungsbeitrag: Die Arbeit schließt die Lücke zwischen theoretischem Wissen und praktischer Anwendung in der KI-gestützten Cybersicherheit und setzt neue Maßstäbe für Reproduzierbarkeit durch die vollständige Offenlegung von Daten und Code.
• Ethik: Die Autoren betonen die Dual-Use-Natur der Technologie (offensive Sicherheitskenntnisse) und fordern verantwortungsvollen Einsatz sowie die Einhaltung ethischer Richtlinien.

Zusammenfassend stellt RedSage einen bedeutenden Schritt hin zu offenen, vertrauenswürdigen und hochspezialisierten KI-Systemen für die Cybersicherheit dar.