Co-RedTeam: Orchestrated Security Discovery and Exploitation with LLM Agents
Co-RedTeam is een beveiligingsbewust multi-agent framework dat LLM's benut met uitvoering-gegrondde redenering, gestructureerde interactie en langetermijngeheugen om bestaande baselines aanzienlijk te overtreffen in geautomatiseerde kwetsbaarheidsontdekking en -exploitatie door het spiegelen van real-world red-teaming workflows.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een enorm, complex huis hebt (een softwarecodebase) en je wilt elke mogelijke manier vinden waarop een inbreker kan binnenkomen. Traditioneel zou je een team van menselijke beveiligingsexperts inhuren om elke kamer door te lopen, elk raam te controleren en elke slot te proberen te kraken. Dit kost veel tijd, veel geld en is moeilijk op te schalen.
De paper introduceert Co-RedTeam, een nieuw systeem dat kunstmatige intelligentie (specifiek Large Language Models of "LLM's") gebruikt om te fungeren als een geautomatiseerd, superintelligent team van beveiligingsexperts. In plaats van dat slechts één AI gokt wat er mis zou kunnen zijn, organiseert Co-RedTeam een groep gespecialiseerde AI-agenten die samenwerken, net zoals een echt menselijk red-teaming team zou doen.
Hier is hoe het werkt, uitgelegd met eenvoudige analogieën:
Het probleem met oude AI-beveiligingstools
Eerdere pogingen om AI voor hacking te gebruiken, waren als het geven van een kaart aan een enkele robot met de opdracht: "Vind de zwakke plek."
- Het probleem: De robot gokte vaak fout, kwam vast te zitten, of probeerde binnen te breken zonder daadwerkelijk te testen of zijn plan werkte. Het miste "grounding" — het kon niet zien of zijn ideeën werkten in de echte wereld. Het vergat ook wat het had geleerd van eerdere pogingen.
De Co-RedTeam oplossing: Een gespecialiseerd SWAT-team
Co-RedTeam lost dit op door te fungeren als een gecoördineerd SWAT-team in plaats van een eenzame wolf. Het verdeelt de taak in twee hoofdfases, beheerd door een "Teamleider" (de Orchestrator).
Fase 1: Het detectiewerk (Vulnerability Discovery)
Voordat er geprobeerd wordt om binnen te breken, moet het team weten waar ze moeten kijken.
- De Analyst Agent: Deze agent is als een detective met een vergrootglas. Deze leest niet alleen de code; de agent gebruikt speciale tools om het hele "huis" (de codebase) te doorzoeken, naar de blauwdrukken (bestandsstructuur) te kijken en de regels te controleren (beveiligingsdocumentatie zoals CWE en OWASP). Het zoekt naar aanwijzingen die suggereren dat een slot misschien zwak is.
- De Critic Agent: Deze agent is als een sceptische redacteur. Wanneer de Analyst een potentieel zwak punt vindt, zegt de Critic: "Weet je dat zeker? Laat me het bewijs zien." Als het bewijs zwak is, stuurt de Critic de Analyst terug om harder te zoeken. Dit heen-en-weer gaan zorgt ervoor dat ze geen tijd verspillen aan valse alarmen.
Fase 2: De inbraak (Iterative Exploitation)
Zodra een potentieel zwak punt is gevonden, probeert het team daadwerkelijk binnen te breken om te bewijzen dat het bestaat.
- De Planner Agent: Deze agent is de strateeg. In plaats van blindelings stenen tegen de muur te gooien, schrijft hij een stapsgewijs plan: "Stap 1: Open het raam. Stap 2: Klim de ladder op."
- De Execution Agent: Dit is de "spierkracht" die het plan daadwerkelijk probeert uit te voeren binnen een veilige, geïsoleerde sandbox (een digitale simulatie van het doelwit). Het voert de code of commando's uit om te zien of de inbraak lukt.
- De Evaluation Agent: Deze agent houdt het resultaat in de gaten. Is het raam geopend? Ging het alarm af? Het vertelt de Planner: "Dat werkte niet omdat het raam van binnenuit op slot zat."
- De Loop: De Planner hoort deze feedback, past het plan aan ("Oké, probeer de achterdeur in plaats daarvan") en het team probeert het opnieuw. Ze blijven het plan verfijnen totdat ze succesvol zijn met de inbraak of bewijzen dat het onmogelijk is.
Het geheime wapen: Het "Experience Notebook" (Langetermijngeheugen)
Een van de grootste innovaties in Co-RedTeam is het Langetermijngeheugen.
- De analogie: Stel je een menselijke expert voor die, nadat een zaak is opgelost, een notitie in een dagboek schrijft: "Onthoud, als de deur op slot zit, probeer dan het sleutelgat in de brievenbus, niet de klink."
- Hoe het werkt: Co-RedTeam slaat drie soorten notities op:
- Patronen: "Dit type code heeft meestal deze specifieke zwakte."
- Strategieën: "Begin bij dit soort systemen met het controleren van de configuratiebestanden."
- Technische trucs: "Dit specifieke commando werkte om dat firewall te omzeilen."
- Het resultaat: Naarmate het systeem meer en meer taken uitvoert, wordt het slimmer. Het begint niet telkens vanaf nul; het leert van zijn eerdere successen en fouten, waardoor het sneller en effectiever wordt in het vinden van nieuwe kwetsbaarheden.
Wat ze hebben gevonden (De resultaten)
De onderzoekers hebben Co-RedTeam getest op verschillende uitdagende cybersecurity-opdrachten (zoals CyBench en BountyBench).
- Succespercentage: Het systeem vond en exploiteerde succesvol kwetsbaarheden in meer dan 60% van de gevallen waarin het werd getest.
- Verbetering: Het was aanzienlijk beter dan andere AI-methoden (waarvan sommige succespercentages onder de 10% hadden).
- Waarom het werkte: De paper toonde aan dat als je een deel van het team verwijdert (zoals de Critic, de Planner of het Geheugen), het systeem veel slechter wordt. De magie gebeurt omdat al deze onderdelen samenwerken in een lus van plannen, testen en leren.
Samenvatting
Co-RedTeam is als een upgrade van een enkele, verwarde robot die probeert een systeem te hacken naar een hooggeorganiseerd, zelfverbeterend beveiligingsteam. Het gebruikt een teamleider om specialisten te coördineren, controleert het eigen werk, leert van elke poging en gebruikt testen in de echte wereld om bevindingen te bewijzen, waardoor het veel effectiever is in het vinden van softwarezwakheden dan voorheen bekende AI-tools.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.