Stand-Alone Complex or Vibercrime? Exploring the adoption and innovation of GenAI tools, coding assistants, and agents within cybercrime ecosystems

Probleemstelling

Er heerst een wijdverbreid, vaak speculatief, narratief dat Generatieve Kunstmatige Intelligentie (GenAI) de cybercriminaliteit fundamenteel zal veranderen. Veel beleidsmakers en experts vrezen "existentiële risico's", waarbij geavanceerde AI-systemen of autonome agenten zich losmaken, kritieke infrastructuur overnemen en cybercrime-as-a-service (CaaS) volledig automatiseren tot een "crime-gang-in-a-box".

De auteurs stellen echter dat de werkelijke dreiging anders is. Er is een gebrek aan empirisch bewijs over hoe GenAI daadwerkelijk wordt geadopteerd in de ondergrondse cybercriminele ecosystemen. De centrale vraag is of GenAI leidt tot een radicale disruptie (het Stand-Alone Complex-scenario) of slechts een marginale, incrementele verandering teweegbrengt (het Vibercrime-scenario), en hoe dit de economische en culturele dynamiek van cybercriminaliteit beïnvloedt.

Methodologie

Het onderzoek is een mixed-methods empirische studie die data analyseert van CrimeBB, een dataset van het Cambridge Cybercrime Centre. Deze dataset bevat meer dan 100 miljoen forumposts en chatberichten van cybercriminele fora (zowel openbaar als Dark Web) over een periode van 15 jaar.

• Dataselectie: De auteurs filterden op posts na de lancering van ChatGPT (november 2022) tot december 2025. Ze gebruikten een woordlijst met termen zoals "AI", "LLM", "vibe coding", "jailbreak", "WormGPT", etc.
• Steekproef: Uit de oorspronkelijke dataset van 808.526 threads werd een finale steekproef van 97.895 threads geselecteerd voor analyse.
• Berekeningsmethoden (Quantitatief):
  • Toepassing van een hiërarchisch topic-model met BERTopic en HDBSCAN (met het embedding-model all-MiniLM-L6-v2).
  • Dit resulteerde in 122 onderwerpen, inclusief een "outlier"-categorie voor threads die niet in clusters pasten.
  • Analyse van trends over tijd en frequentie van specifieke productnamen (bijv. ChatGPT, Claude, Grok).
• Kwalitatieve Methoden:
  • Drie steekproefstrategieën werden gecombineerd:
    1. Gestratificeerde willekeurige steekproef (300 threads).
    2. Topic-model gestratificeerde steekproef (300 threads).
    3. LLM-gebaseerde classificatie (met een lokaal model openai/gpt-oss-20b) om threads te filteren op "vibe coding" en "vibe hacking" (2.603 threads).
  • Twee onderzoekers voerden thematische codering uit op een gecombineerde steekproef van 3.203 threads.
  • Ethnografische observatie: Een onderzoeker las extra 20.000 discussies en bezocht de fora in situ.
• Beperkingen: De auteurs erkennen dat LLM-classificatie soms onnauwkeurig was bij het labelen van specifieke subthema's en dat de dataset beperkt is tot publieke fora (geen besloten groepen of grotere bedreigingsactoren).

Belangrijkste Bijdragen en Concepten

De auteurs introduceren twee nieuwe termen om de mogelijke impact van GenAI op cybercriminaliteit te kaderen:

1. Stand-Alone Complex (Maximaal Scenario): Een hypothetisch scenario waarin autonome AI-agenten leiden tot een volledige industriële transformatie. Dit zou resulteren in "crime-gang-in-a-box" oplossingen die individuen in staat stellen bestaande CaaS-modellen volledig te automatiseren, wat leidt tot massale schaalvergroting en een verschuiving in de arbeidsverdeling binnen het criminele ecosysteem.
2. Vibercrime (Minimaal Scenario): Een scenario waarin GenAI-tools (zoals chatbots voor "vibe coding") de drempel voor beginners verlagen, maar de fundamentele economische structuren van cybercriminaliteit niet veranderen. Hierbij worden bestaande scripts en resources gebruikt met AI als hulpmiddel, zonder dat er sprake is van fundamentele innovatie of nieuwe bedreigingsmodellen.

Resultaten

De analyse van de data levert een "prozaïsch" beeld op dat de hype tegenspreekt:

• Beperkte Disruptie: Er is weinig bewijs dat GenAI de kern van de cybercriminele economie heeft verstoord. Er is geen sprake van een "crime-gang-in-a-box" revolutie.
• Geen Vermindering van Skill-barrières: GenAI verlaagt de instapdrempel voor beginners (neophytes) niet significant. In tegendeel: de meeste succesvolle adoptie komt van reeds bekwame ontwikkelaars die AI gebruiken als een "skill multiplier" (bijv. voor het snel genereren van boilerplate-code, foutopsporing of het vervangen van StackOverflow). Beginners vinden "vibe coding" vaak onbruikbaar omdat ze de code niet kunnen valideren of debuggen.
• Geen "Dark AI" Revolutie: Hoewel er veel discussie is over "Dark AI" (gejailbreakte modellen zoals WormGPT), wordt deze technologie zelden succesvol ingezet voor het ontwikkelen van nieuwe malware of exploits. De meeste "Dark AI" tools worden beschouwd als onbetrouwbaar of slechts als een jailbroken versie van bestaande modellen.
• Adoptie in Bestaande Modellen: De daadwerkelijke adoptie vindt plaats in reeds geautomatiseerde, laag-winstgevende secties:
  • SEO en Content Farming: Massale generatie van blogs en websites voor advertentie-inkomsten (SEO-fraud).
  • Romance Scams & eWhoring: Gebruik van AI voor het genereren van tekst, stemmen en afbeeldingen om slachtoffers te misleiden, maar vaak nog steeds met veel menselijke input en beheer.
  • Passive Income: Automatisering van "get-rich-quick" schema's.
• Rol van Guardrails: De auteurs constateren dat veiligheidsmaatregelen (guardrails) en jailbreak-moeilijkheden effectief zijn. Ze verhogen de "frictie" en kosten, waardoor het voor criminele actoren moeilijk is om deze tools op grote schaal te automatiseren. De markt voor jailbreaks is klein en tijdelijk.
• Culturele Impact: Er is een sterke culturele weerstand tegen "deskilling". De "hacker"-subcultuur waardeert technische vaardigheid en meesterschap. Het gebruik van AI wordt soms gezien als "slordig" of "skiddy" (onvolwassen), hoewel er ook discussie is over hoe AI deze vaardigheden kan aanvullen.
• Geen Nieuwe Bedreigingsmodellen: Er zijn geen aanwijzingen voor het ontstaan van fundamenteel nieuwe aanvalsmethoden (zoals complexe adversarial prompting of Living-off-the-LLM) binnen de ondergrondse gemeenschap. De innovatie blijft beperkt tot het toepassen van bestaande tools op bestaande businessmodellen.

Betekenis en Conclusie

De studie concludeert dat de angst voor een "Stand-Alone Complex" (autonome AI-criminaliteit) vooralsnog overdreven is. De realiteit is eerder een Vibercrime-scenario: GenAI wordt geadopteerd als een productiviteitsgereedschap voor bestaande, vaak triviale vormen van fraude en spam, maar verandert de fundamentele economie van cybercriminaliteit niet.

• Beleid en Veiligheid: De auteurs adviseren beleidsmakers en beveiligingsprofessionals om niet in paniek te raken. De grootste impact van AI ligt niet in het creëren van nieuwe, onbekbare malware, maar in de economische verzadiging van bestaande fraudemodellen (meer content, lagere kwaliteit, lagere winstmarges).
• Rol van Guardrails: Technische beperkingen (guardrails) werken effectief om schaalvergroting van nieuwe vormen van schade te voorkomen. Ze verhogen de kosten voor criminele actoren voldoende om massale automatisering te vertragen.
• Toekomstige Risico's: Het grootste risico is niet de technologie zelf, maar de maatschappelijke gevolgen (zoals werkloosheid onder ontwikkelaars) die bekwame mensen kunnen drijven naar de ondergrondse economie. Ook blijft de toepassing van AI voor harassment (zoals niet-consensuele deepfakes) een ernstig probleem, hoewel dit vaak afhankelijk is van specifieke, minder goed beveiligde modellen.

Kortom, GenAI verandert de economie van cybercriminaliteit (meer schaal, lagere marges, verzadiging), maar niet de technische kern of de fundamentele aard van de bedreigingsactoren op een revolutionaire manier.