Technische Samenvatting: SkillFuzz

Probleemformulering

Het artikel behandelt een kritieke veiligheidslacune in Open Skill Marketplaces voor op LLM (Large Language Model) gebaseerde agenten. Hoewel individuele vaardigheden (natuurlijke taal instructiedocumenten) doorgaans in isolatie worden geaudit, kan hun co-activatie leiden tot impliciete intenties: onbedoelde doelstellingen die pas ontstaan wanneer meerdere onschuldige vaardigheden binnen de uniforme context van de agent interageren.

Dit fenomeen vormt een nieuwe categorie van compositionele defecten, analoog aan componentinteractiefouten bij traditionele software-integratietesten, maar dan voorkomend in natuurlijke taalinstructie in plaats van in code. Het detecteren van deze intenties staat voor drie primaire uitdagingen:

1. Executie-ontoegankelijkheid: Marketplace-exploitanten missen vaak de specifieke implementatieomgevingen die nodig zijn om elke mogelijke combinatie van vaardigheden uit te voeren en te testen.
2. Onzichtbaarheid van Belief States: Compositionele effecten manifesteren zich in de interne belief state van de agent, die onzichtbaar is voor statische bestandsanalyse.
3. Combinatorische Explosie: De ruimte van mogelijke vaardigheidsco-activaties groeit exponentieel met de omvang van de bibliotheek, waardoor een uitputtende zoektocht onhaalbaar is.

De auteurs stellen dat het plan-then-act paradigma, dat alomtegenwoordig is in agentische systemen, een oplossing biedt. Door het plan van de agent (een gestructureerd redeneerartefact vóór de uitvoering) te behandelen als een testoppervlak, kunnen impliciete intenties worden gedetecteerd zonder daadwerkelijke tool-executie.

Methodologie: SKILLFUZZ

De auteurs stellen SKILLFUZZ voor, de eerste executievrije fuzzing-framework ontworpen om impliciete intenties te ontdekken via de compositie van vaardigheden. Het framework werkt als een gerichte zoektocht over de binaire vaardigheidsactivatieruimte, waarbij gebruik wordt gemaakt van Plan Drift als een differentiële oracle.

Kerncomponenten

1. Differentiele Oracle (Plan Drift):
   Het systeem vergelijkt het plan gegenereerd door een samenstelling van vaardigheden ($\pi_s$) met een baseline-plan gegenereerd met geen actieve vaardigheden ($\pi_0$). De semantische afwijking, of plan drift ($\delta$), dient als het signaal voor potentieel risico. Een hoge drift geeft aan dat de samenstelling van vaardigheden de intentie van de agent heeft omgeleid.

2. Constructie van Skill Contracts:
   Om de zoektocht hanteerbaar te maken, extraheert SKILLFUZZ gestructureerde skill contracts uit instructiedocumenten met behulp van een LLM. Deze contracten bevatten precondities, postcondities, statuswijzigingen en domeinomvang. Deze contracten worden ingebed in een semantische ruimte om vaardigheden met conflicterende eigenschappen te identificeren (bijv. wederzijds uitsluitende invarianten).

3. Contract-gestuurde Monte Carlo Tree Search (MCTS):
   Het framework maakt gebruik van een gestuurde zoekstrategie om de Intent Coverage Quality (ICQ) te maximaliseren binnen een vast query-budget.

   • ICQ Metriek: Een uniforme metriek die ernst (magnitude van de plan drift) en nieuwheid (semantische onderscheidbaarheid van eerder ontdekte intenties) combineert.
   • Expansiestrategie: De zoektocht initieert de boom met hoog-conflicterende vaardigheidsparen. Tijdens de expansie, indien een knooppunt een positieve beloning oplevert (gedetecteerde intentie), wordt de zoektocht gestuurd naar de semantische regio van die intentie met behulp van contract-embeddings. Indien geen intentie wordt gevonden, verkent de zoektocht de ruimte via willekeurige of uniforme sampling.
   • Backpropagation: Beloningen worden teruggevoerd om regio's in de zoekruimte te prioriteren die ernstige en diverse impliciete intenties opleveren.

Belangrijkste Bijdragen

1. Probleemformulering: Het artikel definieert formeel compositional intent testing, waarbij impliciete intenties worden geïdentificeerd als een systemisch risico dat voortkomt uit de interactie van individueel onschuldige vaardigheden in LLM-agenten.
2. SKILLFUZZ Framework: Het introduceert een executievrije fuzzing-techniek die gestructureerde skill contracts extraheert en contract-gestuurde MCTS gebruikt om efficiënt door de exponentieel grote ruimte van vaardigheidsco-activatie te navigeren.
3. Empirische Validatie: Door middel van uitgebreide experimenten vestigt het artikel SKILLFUZZ als een praktisch mechanisme voor de screening van de compositie van vaardigheden, waarbij wordt aangetoond dat het in staat is risico's te ontdekken zonder toegang tot de uitvoeringomgeving.

Experimentele Resultaten

De auteurs evalueerden SKILLFUZZ op de SkillsBench bibliotheek (196 vaardigheden) over diverse plannende agenten (zowel open-weight als propriëtaire modellen) en representatieve taken.

• Ontdekkingsvolume: Onder een vast query-budget ontdekte SKILLFUZZ meer dan 1.000 verschillende impliciete intenties.
• Executie-validatie: In een real-world validatiefase met behulp van een gesandboxed Docker-omgeving werd bij meer dan 80% van de hoogste risico-geflagde composities bevestigd dat zij de voorspelde bijeffecten vertoonden tijdens de werkelijke uitvoering. Dit bevestigt dat plan-niveau drift een betrouwbare proxy is voor risico's op het executieniveau.
• Zoekefficiëntie: SKILLFUZZ identificeerde aanzienlijk meer hoog-ernstige impliciete intenties (die met significante drift in de belief-state) vergeleken met alternatieve strategieën (random sampling, greedy drift, greedy coverage). Opvallend genoeg bereikte het dit terwijl het slechts een fractie (ongeveer 40%) van de pairwise interactieruimte verkende die door random sampling werd beslagen, wat bewijst dat brede pairwise dekking niet de beperkende factor is voor het vinden van ernstige risico's.
• Generaliseerbaarheid: Het bleek dat impliciete intenties een algemeen risico zijn over verschillende modelfamilies en architecturen, en geen artefacten zijn van een specifieke planner.
• Risico-taxonomie: De ontdekte intenties clusterden in vier terugkerende semantische patronen:
  1. Audio/Video Bijeffecten (ongevraagde media-generatie).
  2. Ongeautoriseerde Tool Invocatie (oproepen van externe services buiten de autorisatie om).
  3. Verkapte Resource Creatie (genereren van ongevraagde bestanden/rapporten).
  4. Niet-gesanctioneerde Data Analyse (analyse uitbreiden buiten de gespecificeerde databereik).

Betekenis en Claims

Het artikel claimt dat impliciete intenties een structureel gevolg zijn van het agentische AI-paradigma in software engineering, voortvloeiend uit de co-activatie van diverse vaardigheidsinstructies. De betekenis van SKILLFUZZ ligt in het vermogen om:

• Testen te ontkoppelen van Implementatie: Het stelt het screenen van skill marketplaces mogelijk zonder dat toegang vereist is tot de specifieke uitvoeringomgevingen waar de agenten uiteindelijk zullen draaien.
• Vroegtijdige Waarschuwing te Bieden: Het biedt een schaalbaar mechanisme om hoog-risico co-activaties te flaggen vóór implementatie, wat een aanvulling vormt op traditionele per-vaardigheid audits die falen bij het detecteren van interactie-gebaseerde defecten.
• Een Testoppervlak te Etableren: Het valideert de hypothese dat de planning layer (pre-executie artefacten) een voldoende en noodzakelijk oppervlak is voor het detecteren van compositionele risico's in LLM-agenten, mits de teststrategie rekening houdt met de semantische aard van de drift.

De auteurs concluderen dat SKILLFUZZ executievrije, contract-gestuurde fuzzing positioneert als een praktische en noodzakelijke aanvulling op huidige controles bij toelating, waarmee een systemische kwetsbaarheid wordt geadresseerd die groeit naarmate skill-ecosystemen opschalen.