CompAgent: An Agentic Framework for Visual Compliance Verification

Titel: CompAgent: Een Agentic Framework voor Visuele Compliance-verificatie

1. Het Probleem

Visuele compliance-verificatie (het controleren of afbeeldingen voldoen aan beleidsregels) is een kritiek maar onderbelicht probleem in de computer vision, vooral in sectoren zoals media, entertainment en reclame. De uitdagingen zijn:

• Complexiteit en Evolutie: Beleidregels zijn vaak complex, afhankelijk van cultuur en regio, en veranderen voortdurend.
• Beperkingen van Bestaande Methoden:
  • Gespecialiseerde Deep Learning-modellen: Vereisen handmatig gelabelde datasets, zijn duur om te bouwen en gebrek aan generalisatievermogen bij nieuwe beleidsregels.
  • Multimodale Large Language Models (MLLMs): Hoewel ze breed wereldkennis hebben, worstelen ze met fijnmazige visuele details en het toepassen van gestructureerde regels zonder hulp. Ze falen vaak bij het redeneren over contextuele nuances (bijv. het onderscheid tussen educatieve inhoud en promotie van zelfverminking).
• Kosten: Manuele review is te traag en arbeidsintensief voor de schaal van moderne mediapipelines.

2. Methodologie: Het CompAgent Framework

CompAgent is het eerste agentic framework dat is ontworpen voor visuele compliance-verificatie. In plaats van één monolithisch model te gebruiken, deconstrueert het de taak in modulaire stappen met behulp van een agent-architectuur die dynamisch werkt met visuele hulpmiddelen.

Het framework bestaat uit drie hoofdbestanddelen:

1. Planning Agent (De Planner):

   • Deze agent (gebaseerd op een LLM) interpreteert de compliance-beleidregels.
   • Het gebruikt een ReAct-loop (Reasoning and Acting) om te bepalen welke specifieke visuele hulpmiddelen nodig zijn voor een bepaalde afbeelding en beleidsregel.
   • Het selecteert geen vaste route, maar redeneert contextueel: welke regels ontbreken er nog bewijs voor? Welke tool (bijv. gezichtsdetectie voor leeftijdsrestricties, tekstdetectie voor tekstschendingen) is het meest relevant?
   • Het verzamelt bewijs door tools aan te roepen en bouwt een staat van "Thought-Action-Observation" op.

2. Tool Suite (De Hulpmiddelen):

   • Een modulaire collectie van kant-en-klare tools die geen hertraining vereisen.
   • Categorieën:
     • Samenvattingstools: Genereren natuurlijke taalbeschrijvingen van de scène.
     • Detectietools: Gezichts-, object- en tekstdetectie (OCR).
     • Content Moderation Tools: Flaggen van onveilige inhoud.
     • Gespecialiseerde Compliance Tools: LlavaGuard, Safe-CLIP en ICM Assistant voor specifieke veiligheidsbeoordelingen.
   • De agent behandelt deze als "black boxes" en combineert hun output voor cross-validatie.

3. Compliance Verification Agent (CVAgent - De Beslisser):

   • Nadat de Planning Agent heeft geconcludeerd dat alle nodige bewijs is verzameld, neemt de CVAgent de overhand.
   • Deze agent (een MLLM) integreert de originele afbeelding, het beleidscontext en de volledige keten van tool-outputs.
   • Het voert een multimodaal redeneringsproces uit om de uiteindelijke beoordeling te maken: Safe of Unsafe, inclusief een specifieke categorie en een onderbouwing (rationale).

Belangrijk kenmerk: Het systeem is trainingsvrij. Het vereist geen gelabelde data of fine-tuning, waardoor het direct aanpasbaar is aan veranderende beleidsregels.

3. Belangrijkste Bijdragen

• Het eerste Agentic Framework voor Visuele Compliance: Een systeem dat dynamisch hulpmiddelen orchestreert op basis van beleidsregels in plaats van statische modellen.
• Beleid-bewuste Agenten: Agents die beleidsregels parsen om relevante regels te identificeren, de juiste tools plannen en selecteren, en vervolgens een gezamenlijke redenering uitvoeren. Dit verbetert zowel precisie als interpretatieerbaarheid.
• Kosten- en Trainings-efficiëntie: Geen behoefte aan dure gelabelde datasets of fine-tuning, wat het ideaal maakt voor real-world implementatie en schaalbaarheid.
• Interpreteerbaarheid: Het systeem levert gedetailleerde rationale en bewijsketens, in plaats van alleen een binair label.

4. Resultaten

CompAgent is geëvalueerd op twee publieke benchmarks: LlavaGuard en UnsafeBench.

• Prestaties:

  • Op LlavaGuard bereikte CompAgent een Unsafe F1-score van 0,93, wat aanzienlijk hoger is dan de state-of-the-art methoden (LlavaGuard fine-tuned: 0,91, Zero-shot MLLMs: ~0,61).
  • Op UnsafeBench behaalde CompAgent een Unsafe F1-score van 0,76, een verbetering van 10% ten opzichte van de beste bestaande methoden.
  • Het presteerde consistent beter dan directe prompt-engineering van MLLMs en gespecialiseerde classifiers.

• Analyse van Tool-gebruik:

  • Het systeem toont dynamisch gedrag: veilige afbeeldingen worden vaak snel afgehandeld, terwijl onveilige afbeeldingen een "escalatie" tonen naar gespecialiseerde veiligheidstools (zoals ICM Assistant en Safe-CLIP).
  • Er werden 95 verschillende tool-gebruikspatronen waargenomen op LlavaGuard, wat aantoont dat het systeem zich aanpast aan de specifieke inhoud.

• Beleid-Responsiviteit:

  • CompAgent toonde superieure prestaties bij het omgaan met uitzonderingen in beleidsregels (bijv. het onderscheiden van educatieve inhoud over zelfverminking versus promotie daarvan).
  • Het systeem is zeer gevoelig voor de duidelijkheid van de beleidsregels; bij goed gestructureerde beleidsregels (v3 varianten) bereikte het bijna 100% nauwkeurigheid.

• Ablatie Studies:

  • Het verwijderen van samenvattingstools of detectietools leidde tot een significante daling in prestaties (F1 daalde met 22-25%), wat aantoont dat zowel hoog niveau begrip als fijnmazige detectie cruciaal zijn.
  • De keuze van het onderliggende LLM-model was belangrijk; Claude Sonnet 3.5 v2 presteerde beter dan nieuwere, grotere modellen (zoals Opus 4), wat suggereert dat het vermogen om tools te coördineren belangrijker is dan pure modelgrootte.

5. Betekenis en Toekomstperspectief

CompAgent markeert een verschuiving in contentmoderatie van statische, gespecialiseerde modellen naar flexibele, agent-gestuurde systemen.

• Schaalbaarheid: Door geen training te vereisen, kan het framework direct worden ingezet voor nieuwe beleidsregels of domeinen.
• Robuustheid: De combinatie van meerdere tools en cross-validatie vermindert fouten die ontstaan door de beperkingen van één enkel model.
• Toekomst: Hoewel het paper zich richt op afbeeldingen, biedt de modulaire architectuur een solide basis voor uitbreiding naar video-compliance, waar tijdsafhankelijke redenering nodig is.

Samenvattend biedt CompAgent een oplossing voor de trage en dure processen van handmatige review en de onbetrouwbaarheid van directe AI-prompting, door een slimme, tool-gedreven agent te introduceren die zich aanpast aan de complexiteit van moderne veiligheidsrichtlijnen.