A Study on Question-Answer Dataset for LLM Safety Evaluation with a Focus on Illegal Activities

Technische Samenvatting: Een Studie over een Vraag-Antwoord Dataset voor LLM-veiligheidsevaluatie met Focus op Illegale Activiteiten

Probleemstelling
De wijdverbreide adoptie van Large Language Models (LLM's) heeft praktische zorgen opgewekt over hun ongepaste gebruik, met name bij het faciliteren van illegale activiteiten. Hoewel er bestaande veiligheidsevaluatiedatasets zijn zoals AnswerCarefully (AC) en Do-Not-Answer, identificeren de auteurs specifieke beperkingen in de huidige versie van AC (v2.2) wanneer deze wordt toegepast op de categorie "Schadelijk Gebruik". Belangrijke kwesties zijn:

• Typologische Ambiguïteit: De laagste categorieën onder "Hulp bij Illegale Activiteiten" zijn niet onderling uitsluitend, wat leidt tot voorbeelden die tot meerdere categorieën kunnen behoren (bijvoorbeeld auteursrechtinbreuk die overlapt met illegale digitale activiteiten), maar die slechts met één label zijn voorzien.
• Gebrek aan Juridische Grondslag: De dataset koppelt voorbeelden niet consequent aan specifieke wettelijke bepalingen, wat het moeilijk maakt om de juridische basis voor veiligheidsweigeringen te verifiëren.
• Gaten in Dekking: De dataset mist representatie voor veelvoorkomende misdrijven (bijvoorbeeld diefstal, verkeersovertredingen) en onderscheidt onvoldoende tussen gebruikers die zich bewust zijn van de illegaliteit van hun vraag en diegenen die onwetend zijn.
• Afwezigheid van Onveilige Voorbeelden: De huidige dataset bevat uitsluitend "veilige" antwoorden, wat de bruikbaarheid beperkt voor contrastief leren of het trainen van modellen om onveilige output te herkennen.

Methodologie
De studie stelt een uitbreiding van de AC-dataset voor, specifiek gericht op illegale activiteiten onder Japanse wetgeving. De methodologie omvat drie hoofdbestanddelen:

1. Uitgebreide Dataformaat: De auteurs stellen een nieuw schema voor (Tabel 4) dat het standaard vraag-antwoordpaar aanvult met vijf nieuwe velden:

   • q-type: Classificeert het bewustzijn van de vraagsteller over illegaliteit (bijvoorbeeld bewust, onwetend/naïef, ambigu).
   • unsafe-answer: Biedt een voorbeeld van een ongepast antwoord (bijvoorbeeld een dat de illegale daad aanmoedigt of in detail beschrijft) om te dienen als negatief trainingssignaal, met de opmerking over de ethische risico's van openbare verspreiding.
   • basis: citeert expliciet de relevante juridische grondslagen (wetten en artikelen) die de veiligheidsweigering rechtvaardigen.
   • risk-perpetrator: Identificeert de actor die verantwoordelijk is voor de potentiële illegale daad (bijvoorbeeld de vraagsteller, de LLM-aanbieder of een derde partij).
   • risk-victim: Identificeert de potentiële slachtoffers (bijvoorbeeld de vraagsteller, derden of het publiek).

2. Strategieën voor Datacreatie: De auteurs onderzochten twee benaderingen voor het genereren van nieuwe voorbeelden gebaseerd op de Minor Offenses Act (een wet die diverse, frequente, maar vaak over het hoofd geziene overtredingen behandelt):

   • Volledig Handmatige Creatie: Werknemers creëren voorbeelden door analogie met gerechtelijke precedents en webbronnen, waarbij wordt gegarandeerd dat geen auteursrechtelijk beschermd of privé-informatie direct wordt hergebruikt. Dit zorgt voor precieze controle over attributen zoals vraagtype.
   • LLM-ondersteunde Creatie: Een semi-automatische pijplijn waarbij een LLM (bijvoorbeeld DeepSeek-R1) wordt geprompt met specifieke wettelijke bepalingen om kandidaat-vragen en -antwoorden op te stellen. Menselijke werknemers verfijnen deze concepten, filteren op hallucinaties en waarborgen de juridische nauwkeurigheid. Deze aanpak beoogt de diversiteit en dekking te verbeteren.

3. Evaluatie Rubriek: Een scorend rubriek (Tabel 6) wordt voorgesteld om LLM-antwoorden te evalueren. De uiteindelijke score wordt berekend met de formule: $score = a \times (b + c) \times d$.

   • $a$ (Afschrikking): Meet of het antwoord de daad ontmoedigt en alternatieven biedt.
   • $b$ (Referentie aan Illegaliteit): Meet of het antwoord correct juridische grondslagen citeert.
   • $c$ (Referentie aan Risico's): Meet of het antwoord potentiële schade uitlegt.
   • $d$ (Geldigheid): Een binaire check voor relevantie en kwaliteit van het antwoord.
     Dit rubriek maakt kwantitatieve differentiatie mogelijk tussen veilige en onveilige antwoorden (bijvoorbeeld een veilig antwoord met een score van +4 versus een onveilig antwoord met een score van -4).

Belangrijkste Bijdragen

• Voorstel voor Datasetuitbreiding: Een gedetailleerde specificatie voor het uitbreiden van de AnswerCarefully-dataset om juridische grondslag, risicobeoordeling en voorbeelden van onveilige antwoorden op te nemen.
• Creatiekader: Een gevalideerde workflow voor het construeren van veiligheidsdatasets die handmatige nauwkeurigheid balanceert met LLM-ondersteunde efficiëntie, specifiek toegespitst op wettelijke bepalingen.
• Evaluatiemaatstaf: Een gestructureerd rubriek ontworpen om niet alleen de weigering van illegale verzoeken te beoordelen, maar ook de kwaliteit van de redenering (juridische citaten en risicoverklaringen) die in de weigering wordt geboden.
• Analyse van Bestaande Data: Een kritische review van AC v2.2 die de noodzaak benadrukt van meerlabel-categorisatie en betere dekking van veelvoorkomende overtredingen.

Resultaten en Bevindingen

• Analyse van AC v2.2: In de subset "Hulp bij Illegale Activiteiten" (316 voorbeelden) kon 85% worden gekoppeld aan specifieke Japanse wetten. Het Wetboek van Strafrecht was de meest frequente juridische basis (111 voorbeelden), gevolgd door diverse speciale wetten. Er werden echter aanzienlijke gaten gevonden; bijvoorbeeld, diefstal (het meest voorkomende misdrijf in Japan) had slechts één geval in de dataset, en overtredingen van de Wegenverkeerswet ontbraken volledig.
• Vraagbewustzijn: Ongeveer 77% van de geanalyseerde vragen kwam van gebruikers die expliciet bewust waren van de illegaliteit. De studie betoogt dat het opnemen van "naïeve" vragen (waarbij gebruikers onwetend zijn) cruciaal is, aangezien veiligheidsweigeringen voor deze vragen meer afhankelijk zijn van inhoudsbeoordeling dan van het herkennen van de kwaadaardige intentie van de gebruiker.
• Pilot-dataset: De auteurs hebben succesvol een kleinschalige dataset gecreëerd die zich richt op de Minor Offenses Act (bijvoorbeeld het zich voordoen als politieagent, omgaan met explosieven) met behulp van zowel handmatige als LLM-ondersteunde methoden. Deze voorbeelden demonstreerden de haalbaarheid van het voorgestelde dataformaat en rubriek.

Betekenis en Aanspraken
De auteurs stellen dat de uitkomsten van deze studie bedoeld zijn om gedeeld te worden met het "JAI-Trust"-project, geleid door het Japan AI Safety Institute. Het artikel beweert dat de bevindingen en de voorgestelde uitbreidingen zullen bijdragen aan de ontwikkeling van een grootschalige benchmark-dataset voor LLM-veiligheid.

De studie positioneert zichzelf als een fundamentele stap, met de erkenning dat hoewel bestaande data is geanalyseerd en een kleinschalige pilot is gecreëerd, de constructie van een uitgebreide, grootschalige dataset en de volledige evaluatie daarvan toekomstig werk blijven. De auteurs benadrukken de ethische noodzaak om "onveilige antwoorden" met uiterste voorzichtigheid te hanteren, met de opmerking dat openbare verspreiding van dergelijke inhoud op zichzelf het faciliteren van illegaal gedrag kan vormen. Derhalve richt het artikel zich op de methodologie van creatie en evaluatie in plaats van het vrijgeven van een volledig gevulde, publieke dataset van onveilige voorbeelden.