Who judges the judges? Governance from metrics: a runtime framework for continuous LLM compliance monitoring
Dit artikel introduceert "govllm", een open-source framework dat "governance from metrics" implementeert om continue LLM-compliancebewaking onder de EU AI-wet te mogelijk maken door gebruik te maken van een panel van gespecialiseerde kleine taalmodellen als regelgevende rechters om real-time compliancesignalen te genereren en onzekerheid te markeren voor menselijke arbitrage.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Probleem: De "Compliance-Fictie"
Stel je voor dat je een auto koopt. Voordat je hem van de showroom rijdt, geeft een monteur hem een snelle inspectie en zegt: "Deze auto is veilig." Je tekent de papieren en rijdt weg.
Het paper stelt dat huidige AI-systemen op die manier worden behandeld. Ontwikkelaars voeren één keer een test uit, verklaren de AI "compliant" (conform) met wetten (zoals de EU AI Act), en laten hem vervolgens los in de echte wereld. De auteurs noemen dit de "Compliance-Fictie".
De Realiteit: AI is geen statische auto; het is meer als een huisdier. Het leert, verandert en reageert op hoe je ermee omgaat. Alleen omdat het dinsdag "veilig" was, betekent niet dat het vrijdag niets illegaals of gevaarlijks zal zeggen wanneer een gebruiker het probeert te misleiden of een vreemde vraag stelt. Het paper stelt dat we moeten stoppen met het behandelen van compliance als een eenmalige stempel en moeten beginnen met het behandelen ervan als een continu hartslagmonitor.
De Oplossing: govllm (Het "Governance-dashboard")
De auteurs hebben een open-source tool gebouwd die govllm heet. Denk hierbij aan een dashboard dat in het AI-systeem is geïnstalleerd en alles wat de AI zegt in real-time bewaakt.
In plaats van te wachten op een jaarlijkse audit, controleert govllm elk antwoord dat de AI geeft, direct ter plekke, om te zien of het de regels breekt.
Hoe Het Werkt: Het "Panel van Rechters"
In een rechtszaal vertrouw je niet op één rechter om een complex geval te beslissen; je hebt een jury. govllm doet hetzelfde.
Gespecialiseerde Rechters: In plaats van één AI die alles controleert, gebruikt het systeem een panel van kleinere, gespecialiseerde AI-modellen.
- Eén AI is de Privacy-expert (controleert of persoonsgegevens lekken).
- Eén is de Beveiliger (controleert of iemand probeert het systeem te hacken).
- Eén is de Toegankelijkheidsfunctionaris (controleert of de taal duidelijk en eerlijk is).
- Eén is de Transparantie-auditor (controleert of de AI liegt over mens te zijn).
Het "Profiel als Jury"-concept: Voor elke specifieke taak (zoals het schrijven van een medische samenvatting versus het samenvatten van een bankrapport) kiest het systeem de specifieke "jury" die nodig is voor die baan. Het gebruikt geen generieke rechter voor alles.
Het "Onzekerheidssignaal": Dit is een belangrijke innovatie. Normaal gesproken, als twee rechters het niet eens zijn, gaan we ervan uit dat één van hen fout is en kiezen we de meerderheid.
- De twist van govllm: Als de gespecialiseerde rechters het niet eens zijn, behandelt het systeem die meningsverschil als een rode vlag. Het zegt: "Hé, de regels zijn hier vaag. Wij mensen moeten ingrijpen en beslissen." Het verandert verwarring in een signaal voor menselijk toezicht, in plaats van te proberen de verwarring te verbergen.
De Experimenten: Het Testen van de Rechters
De auteurs testten dit systeem met vier kleine, open-source AI-modellen (variërend van 1,7 tot 7 miljard parameters) die volledig draaiden op een gewone laptop. Ze gebruikten geen enorme cloud-servers; ze wilden bewijzen dat dit lokaal en privé kon werken.
Ze creëerden een "testbank" van 49 lastige vragen en antwoorden (zoals een rijtest voor AI) die vijf grote juridische gebieden bestreken.
Belangrijkste Bevindingen:
- Grootte Maakt Niet Uit: De grootste AI (7 miljard parameters) was eigenlijk de slechtste rechter. De kleinere, meer gespecialiseerde modellen deden het vaak beter. "Slim" zijn in een algemeen opzicht maakte ze niet goed in het volgen van specifieke juridische regels.
- De "Volgorde"-valstrik: De rechters waren verrassend gevoelig voor hoe de vragen werden gesteld. Als je de volgorde van de vragen verwisselde, daalden de scores van sommige rechters met 25%. Dit toont aan dat kleine AI-modellen gemakkelijk in de war kunnen raken door de structuur van een prompt.
- Geen Perfecte Rechter: Geen enkel AI-model was perfect in alles. Sommigen waren geweldig in het opsporen van privacylekken, maar slecht in het opsporen van manipulatie. Dit bewees dat de "Panel van Rechters"-benadering noodzakelijk is, omdat geen enkele AI alles kan doen.
- Het "Welsprekend maar Fout"-probleem: Eén rechter (Mistral) was zeer consistent en gaf duidelijke redenen voor zijn antwoorden, maar was consequent fout. Het pleitte vloeiend voor de verkeerde conclusie. Dit benadrukt dat je niet zomaar op een AI kunt vertrouwen omdat het zelfverzekerd klinkt.
De "Compliance-poort"
Het systeem bevat een veiligheidschakelaar die de Compliance-poort heet.
- Stel je een bouncer in een club voor. Als de score van een AI-model onder een bepaalde lijn zakt (bijvoorbeeld: het lekt te vaak privacygegevens), sluit de poort automatisch.
- Het systeem stopt met het sturen van gebruikersverzoeken naar dat model en plaatst het in "quarantaine" totdat een mens het heeft opgelost. Dit gebeurt automatisch, zonder te wachten tot een mens het probleem opmerkt.
Waarom "On-premise" Belangrijk Is
De auteurs stellen dat dit hele systeem lokaal moet draaien (op de eigen computers van het bedrijf), niet in de cloud.
- Analogie: Als je een bank bent die zijn eigen beveiliging controleert, wil je je geheime klantgegevens niet naar een derde partij in de cloud sturen om alleen een "beveiligingscontrole" te krijgen. Dat zou op zich al een veiligheidsrisico zijn.
- govllm zorgt ervoor dat de data het gebouw nooit verlaat, waardoor strikte privacywetten (GDPR) en soevereiniteitseisen worden nageleefd.
De Conclusie
Het paper stelt dat we AI niet zomaar één keer kunnen "auditeren" en het daarna kunnen vergeten. We hebben een systeem nodig dat:
- De AI 24/7 bewaakt terwijl het werkt.
- Een team van gespecialiseerde, kleinere AI-rechters gebruikt in plaats van één grote, generieke.
- Meningsverschillen tussen rechters behandelt als een signaal om een mens te roepen, niet als een bug die je kunt negeren.
- Modellen die de regels beginnen te breken, automatisch uitschakelt.
Het is een verschuiving van "Is deze AI legaal?" (een ja/nee-vraag die één keer wordt gesteld) naar "Gedraagt deze AI zich nu legaal?" (een continu signaal).
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.