Technische Samenvatting: Latente Beleidsgordels (LPG)

1. Probleemstelling

Moderne AI-beveiligingssystemen vertrouwen op "gordels" om prompts en antwoorden te screenen. Hoewel traditionele gordels snel zijn, zijn ze getraind op vaste veiligheidstaxonomieën en kunnen ze zich niet aanpassen aan dynamische, door de gebruiker gespecificeerde beleidsregels (bijvoorbeeld specifieke bedrijfsregels of regelgevende beperkingen) zonder hertraining. Omgekeerd staan "beleidsbewuste" gordels die natuurlijke taalbeleidsregels bij inferentie accepteren, voor een kritieke afweging:

• Niet-redenerende modellen (bijvoorbeeld DynaGuard) zijn snel maar breekbaar; ze vertrouwen vaak op positionele artefacten of contentpriors in plaats van hun oordelen echt te verankeren in specifieke beleidsclausules.
• Redenerende modellen (bijvoorbeeld GuardReasoner, ThinkGuard) bereiken een hoge nauwkeurigheid door expliciete denkketens (CoT) te genereren om beleidsregels te analyseren, maar dit leidt tot onaanvaardbare latentie (vaak 10 keer trager), waardoor ze ongeschikt zijn voor real-time moderatie.

De kernuitdaging is het bouwen van een gordel die trouw redeneert over dynamische, heterogene beleidsregels om clausule-verankerde oordelen te produceren, terwijl de lage latentie wordt behouden die vereist is voor productiedeployments.

2. Methodologie: Latente Beleidsgordel (LPG)

LPG adresseert deze spanning door het deliberatieproces te comprimeren in een continue latente ruimte in plaats van verbaal tekstuele rationales te genereren. Het kader werkt op het principe dat redeneerstappen zich moeten committeren aan specifieke beleidsemantiek in plaats van diffuse veiligheidspriors.

2.1 Gestructureerde Evaluatiesjabloon

In plaats van vrij-vorm redenering, dwingt LPG een vaste drie-fase evaluatietrace af:

1. Intentie-analyse: Onderzoekt conversatiegeschiedenis om verborgen kwaadaardige intenties aan het licht te brengen (bijvoorbeeld jailbreaks via rollenspellen).
2. Beleidsanalyse: Selecteert relevant beleidsclausules uit een grote set, waarbij semantische matching wordt aangemoedigd boven positionele enumeratie.
3. Veroordelingsformulering: Produceert een compact, machine-parsbaar oordeel verankerd aan specifieke geschonden beleidsindices ($P^*$).

2.2 Latente Redenering via Continu-Denkcompressie

Fase 1 en 2 (Intentie- en Beleidsanalyse) worden gecomprimeerd tot continue latente tokens, terwijl Fase 3 (Veroordeling) expliciete tekst blijft om interpreteerbaarheid te behouden.

• Latente Tokenvervanging: Expliciete tokengeneratie voor de eerste twee fasen wordt vervangen door een reeks latente embeddingen ($e_{t+1} = \text{Proj}(h^{(L)}_t)$) die in latente ruimte doorgaan zonder te materialiseren tot discrete tokens.
• Fase-uitgelijnde Latente Slots: In tegenstelling tot eerdere werken die een enkele ongedifferentieerde buffer gebruiken, allocateert LPG aparte latente budgetten voor de intentie- en beleidsfasen, waardoor deze subtaken in scheidbare subruimtes kunnen wonen.

2.3 Toezichtstrategie

Een belangrijke innovatie is het toezichtsignaal, dat verschilt van wiskundige latente redenering (waar tokenreconstructie voldoende is). Omdat veiligheidsbeslissingen afhangen van heterogene gebruikersbeleidsregels en latente intenties, hanteert LPG een multi-objectieve verliesfunctie:

1. Veroordelingsoutputverlies ($L_{out}$): Standaard cross-entropy op de uiteindelijke compacte veroordelingsstring.
2. Lerare verborgen-toestand distillatie ($L_{distill}$):
   • Antwoordpositie-distillatie: Aligneert student- en leraar-verborgen toestanden bij de veroordelings-starttoken om de beslissing-producerende computationele staat over te dragen.
   • Fase-grensdistillatie: Aligneert de laatste latente van elke fase met de leraar-verborgen staat bij de corresponderende grenstoken.
3. Semantische-contenttoezicht ($L_{explain}$): In plaats van leraartokens te reconstrueren, reconstrueert het model een compacte leraarsamenvatting (intentie-kern of beleidsclausule-rationale) die via het basis LM wordt gerouteerd. Dit zorgt ervoor dat latentes semantisch betekenisvolle representaties van beleidsinhoud blijven, en geen ondoorzichtige computationele buffers.
4. Referentieredeneringverlies ($L_{ref}$): Een regularisator die de volledige expliciete redeneringssequentie van de leraar gebruikt om catastrofaal vergeten van redeneervermogens te voorkomen.

2.4 Trainingscorpus

LPG wordt getraind op een 40k-record mengsel van op beleid gebaseerde datasets (DynaBench, GuardSet-X) en algemene veiligheidsdatasets. Een kritiek curatieprincipe is dat geen enkel trainingsvoorbeeld dezelfde beleidslijst twee keer ziet. Beleidsregels worden herschreven tot enkelvoudige "beleidsboeken", en lijsten worden dynamisch gesynthetiseerd en per voorbeeld geschud om te voorkomen dat het model positionele shortcuts leert of reeksen met regels memoriseert.

3. Belangrijkste Bijdragen

• Latente Beleidsgordel (LPG): Het eerste kader dat latente redenering specifiek toepast op op beleid gebaseerde veiligheidsmoderatie, waarbij deliberatie wordt gecomprimeerd tot ~10 latente tokens.
• Semantische Latente Deliberatie: Een nieuw ontwerp waarbij latente fasen expliciet worden uitgelijnd met beleidsemantiek (intentie en clausulerelevantie) via leraardistillatie en samenvattingsreconstructie, in plaats van eenvoudige tokenreconstructie.
• Clausule-verankerde Veroordelingen: Een mechanisme dat het model dwingt specifieke geschonden beleidsindices uit te voeren, wat auditbaarheid garandeert en afhankelijkheid van veiligheidspriors voorkomt.
• Efficiëntie-Nauwkeurigheid Pareto-grens: Aantonen dat diepe beleidsredenering kan worden ontkoppeld van hoge latentie.

4. Experimentele Resultaten

Geëvalueerd op GuardSet-X, DynaBench (verrijkt met shuffling en contrafacten) en out-of-distribution benchmarks (HarmBench, WildGuardTest, PolicyGuardBench):

• Nauwkeurigheid: LPG-4B bereikt 84,5% gemiddelde veiligheidsnauwkeurigheid en 77,9% F1 op op beleid gebaseerde benchmarks, en presteert beter dan de sterkste dynamische baseline (DynaGuard-8B) en redenerende baselines (GuardReasoner).
• Robuustheid: Op de verrijkte DynaBench (met geschudde beleidsregels en contrafactuele regelforstelling) behoudt LPG hoge prestaties, terwijl niet-redenerende baselines zoals DynaGuard aanzienlijke dalingen in nauwkeurigheid lijden (bijvoorbeeld -7,4 punten onder shuffling), wat aangeeft dat LPG zijn beslissingen echt verankert in beleidsinhoud.
• Latentie: LPG draait ongeveer 11× sneller dan Qwen3-4B-Thinking en 5,4× sneller dan GuardReasoner-8B onder evaluatie van één steekproef, met een gemiddelde latentie van ~748ms.
• Ablatiestudies:
  • Het verwijderen van het verlies voor antwoordpositie-distillatie veroorzaakt een bijna 20-punts daling in nauwkeurigheid, wat het identificeert als het kritieke toezichtsignaal.
  • Een latente budget-sweep toont aan dat 10 latente tokens (4 voor intentie, 6 voor risico) de prestaties van volledige expliciete redenering benaderen met ~5× lagere latentie, met afnemende meeropbrengsten na 20 tokens.
• Out-of-Distribution (OOD): LPG generaliseert goed naar onbekende benchmarks (bijvoorbeeld 96,4% F1 op HarmBench), en presteert beter dan statische gordels en dynamische baselines die verslechteren wanneer beleidsruimtes veranderen.

5. Betekenis en Claims

Het artikel beweert dat LPG een praktische brug slaat tussen snelle statische classifiers en trage maar expressieve beleidsredenerende gordels. De primaire betekenis ligt in het aantonen dat latente compressie een haalbaar mechanisme is voor dynamische beleidsredenering.

Door deliberatie van oppervlaktetokens naar continue latente toestanden te verplaatsen die worden begeleid door beslissingsrelevante semantiek, bereikt LPG:

1. Dynamische Aanpasbaarheid: Het vermogen om willekeurige, door de gebruiker aangeleverde beleidsregels af te dwingen zonder hertraining.
2. Auditbaarheid: Veroordelingen zijn expliciet verankerd aan geschonden clausules, wat transparantie mogelijk maakt.
3. Real-time Haalbaarheid: De reductie in latentie maakt beleidsbewuste redenering haalbaar voor streamingtoepassingen (bijvoorbeeld chatbots, agent-toolgebruik) waar expliciete CoT te traag is.

De auteurs positioneren dit werk als een stap richting "latente compliance-redenering", wat suggereert dat elk AI-systeem dat runtime-gevolgzaamheid aan natuurlijke taalregels vereist, kan profiteren van deze architectuur. Zij merken op dat hoewel het huidige ontwerp zich richt op veiligheidsmoderatie, de principes uitbreiden tot regelgevende compliance en bedrijfsbeleidsafdwinging.