PL-Guard: Probabilistic Logic Reasoning for LLM Guardrails

Stel je een wereld voor waarin kunstmatige intelligentie fungeert als een behulpzame metgezel, klaar om vragen te beantwoorden, verhalen te vertellen en problemen op te lossen. Maar zoals elk krachtig hulpmiddel, brengt het risico's met zich mee. Als deze systemen onbeheerd worden gelaten, kunnen ze per ongeluk gevaarlijke instructies geven of, omgekeerd, zo voorzichtig worden dat ze onschuldige vragen weigeren te beantwoorden. De uitdaging voor ontwikkelaars is om een veiligheidsmechanisme te bouwen—een vangrail—dat het verschil kan zien tussen een onschuldige educatieve vraag en een werkelijk schadelijk verzoek. Dit is geen eenvoudige taak, omdat taal vol staat met trucs. Een zin kan gevaarlijk klinken omdat het woorden gebruikt als "ontploffen" of "stelen", terwijl het in de juiste context, zoals bij een geschiedenisles of een fictieverhaal, volkomen veilig is. Omgekeerd kan een verzoek tot schade beleefd en indirect worden geformuleerd, waardoor de ware intentie wordt verborgen. Huidige methoden worstelen vaak met deze nuance, waarbij ze soms er niet in slagen echte gevaren te stoppen of onnodig behulpzame gesprekken te blokkeren.

Een team van onderzoekers van de Universiteit van Amsterdam en de Universiteit Utrecht heeft een nieuwe manier voorgesteld om dit probleem aan te pakken, beschreven in een artikel getiteld "PL-Guard". In plaats van één enkel kunstmatig intelligentiemodel alles tegelijk te laten doen—het begrijpen van de woorden, het beoordelen van de intentie en het beslissen van de uitkomst—hebben zij de taak in twee afzonderlijke delen gesplitst. Zij noemen dit een "neurosymbolische" benadering, wat simpelweg betekent dat de flexibele, intuïtieve begripsvorm van een neuraal netwerk wordt gecombineerd met de strikte, logische regels van een symbolisch systeem. De onderzoekers ontdekten dat door deze rollen te scheiden, ze het veiligheidssysteem veel transparanter en effectiever konden maken in het voorkomen van schadelijk gedrag, zelfs als dat betekende dat ze iets voorzichtiger moesten zijn met onschuldige verzoeken.

In hun nieuwe systeem begint het proces wanneer een gebruiker een prompt stuurt en de AI een reactie genereert. Een eerste AI-model, dat optreedt als een rechter, schrijft geen lange uitleg of een oordeel. In plaats daarvan kijkt het naar specifieke, vooraf gedefinieerde vragen over de interactie, zoals "Vraagt de gebruiker om iets schadelijks?" of "Is de context van dit gesprek onschuldig?". Voor elke vraag berekent het model een waarschijnlijkheidsscore, in feite een percentage kans dat de stelling waar is. Deze scores worden vervolgens doorgegeven aan een tweede, volledig ander systeem dat werkt als een logisch regelboek. Dit regelboek, geschreven in een taal genaamd ProbLog, bevat duidelijke instructies over hoe die waarschijnlijkheden gecombineerd moeten worden. De regels kunnen bijvoorbeeld stellen dat als de kans op een schadelijk verzoek hoog is en de kans op een schadelijke reactie ook hoog is, het systeem de reactie moet blokkeren. Echter, als het verzoek waarschijnlijk onschadelijk is maar de AI weigerde te antwoorden, kan het systeem besluiten de reactie door te laten. Deze tweede stap is puur logisch; het neemt de onzekere gokken van de eerste AI en past strikte beleidsregels toe op die gokken, om een definitief advies te produceren over of het antwoord behouden, aanpassen of volledig blokkeren moet worden.

De onderzoekers testten deze nieuwe methode tegen bestaande veiligheidssystemen met behulp van een standaard set van 450 voorbeelden die ontworpen zijn om veiligheidsfilters te misleiden. Deze voorbeelden bevatten zowel veilige prompts die vaak per ongeluk worden geblokkeerd als onveilige prompts die vaak door de filters glippen. Ze vergeleken hun nieuwe systeem met een basis-AI zonder vangrails, een systeem dat simpelweg een reeks regels in gewone Engelse taal leest, en een systeem waarbij één AI optreedt als rechter om het werk van een andere AI te beoordelen. De resultaten toonden een duidelijke afruil. Het nieuwe systeem was uitzonderlijk goed in het stoppen van schadelijk gedrag, waarbij het de snelheid van onveilige naleving verminderde van 22 procent in het basismodel naar slechts 0,5 procent. Dit was beter dan het op een rechter gebaseerde systeem, dat nog steeds 6 procent van de onveilige reacties doorliet. Deze extra voorzichtigheid kwam echter met een prijs: het nieuwe systeem weigerde onschuldige vragen vaker te beantwoorden dan het op een rechter gebaseerde systeem, met een over-weigering-percentage van 14,4 procent vergeleken met 5,2 procent.

De onderzoekers beargumenteren dat deze afruil acceptabel is omdat de gevolgen van de twee soorten fouten niet gelijk zijn. Het toestaan van een schadelijke reactie kan leiden tot echte wereldwijde schade, terwijl het weigeren van een onschuldig verzoek slechts de gebruiker irriteert. Door het besluitvormingsproces zichtbaar te maken, stelt het nieuwe systeem ontwikkelaars in staat om precies te zien waarom een keuze is gemaakt. Ze kunnen naar de waarschijnlijkheidsscores en de logische regels kijken om te begrijpen of het systeem te streng was of dat het een subtiel gevaar heeft gemist. Deze transparantie is een belangrijk voordeel ten opzichte van huidige methoden, waarbij de redenering vaak verborgen zit in een enkel, complex model dat moeilijk te inspecteren of te repareren is. De studie suggereert dat hoewel geen enkel systeem perfect is, het scheiden van de handeling van het begrijpen van taal van de handeling van het toepassen van regels een veiligheidsnet creëert dat zowel betrouwbaarder als gemakkelijker te auditeren is. De onderzoekers ontdekten dat het gedetailleerder maken van de regels de prestaties van het systeem verbeterde tot een bepaald punt, maar dat het toevoegen van te veel detail uiteindelijk niet meer hielp, wat suggereert dat er een 'sweet spot' bestaat voor hoe complex deze veiligheidsregels moeten zijn.

Uiteindelijk demonstreert het werk dat we niet hoeven te vertrouwen op een enkele, ondoorzichtige intelligentie om AI veilig te houden. Door het probleem op te splitsen in kleinere, beheersbare stappen—eerst het inschatten van de feiten, en dan het toepassen van logische regels op die feiten—kunnen ontwikkelaars vangrails creëren die zowel effectief als begrijpelijk zijn. Het systeem elimineert de moeilijke keuzes tussen veiligheid en behulpzaamheid niet, maar brengt die keuzes in het licht, waardoor mensen de redenering achter elke beslissing kunnen zien en de regels naar behoefte kunnen aanpassen. Deze benadering biedt een veelbelovend pad voor het bouwen van AI-systemen die niet alleen veilig zijn, maar ook betrouwbaar, omdat hun logica onderzocht en begrepen kan worden door de mensen die hen gebruiken.