Social, Legal, Ethical, Empathetic and Cultural Norm Operationalisation for AI Agents

Dit artikel introduceert een systematisch raamwerk voor het vertalen van abstracte sociale, juridische, ethische, empathische en culturele (SLEEC) normen naar concrete, verifieerbare vereisten voor AI-agenten, en schetst een onderzoeks- en beleidsagenda om de uitdagingen bij deze operationalisatie aan te pakken.

De kern

Stel je voor dat je een robot bouwt die niet alleen slim is, maar ook moraal. Een robot die niet alleen weet hoe hij een taak moet uitvoeren, maar ook of hij die taak mag uitvoeren, en op welke manier. Dat is precies waar dit artikel over gaat.

De auteurs (een groep wetenschappers van universiteiten in het VK en Canada) zeggen: "We bouwen nu steeds geavanceerdere AI-robots voor ziekenhuizen, politie en zorg. Maar hoe zorgen we ervoor dat deze robots zich gedragen zoals een fatsoenlijke mens?"

Ze noemen dit SLEEC:

• Sociaal (wat past in de maatschappij?)
• Legaal (wat is toegestaan volgens de wet?)
• Ethisch (wat is moreel juist?)
• Empathisch (kan de robot zich inleven in gevoelens?)
• Cultureel (past het bij de cultuur van de gebruiker?)

Hier is de uitleg van hun oplossing, vertaald naar alledaagse taal met een paar creatieve vergelijkingen.

---

Het Probleem: De "Abstracte Rekenaar"

Stel je voor dat je een chef-kok (de AI) hebt die een recept moet volgen. De wetgever geeft hem een heel hoog niveau advies: "Wees aardig, wees eerlijk en zorg voor de gezondheid."

Dat is prima, maar de chef-kok vraagt: "Oké, maar als ik de soep moet roeren en er staat een kind voor de deur dat huilt, wat doe ik dan? Roer ik door of ga ik helpen?"

De huidige regels zijn te vaag. Ze zeggen niet hoe je dat moet doen. De auteurs zeggen: "We moeten die vaagheid omzetten in een stap-voor-stap instructieboekje dat de robot echt kan begrijpen en volgen."

De Oplossing: Het SLEEC-Operationalisatie-Proces

Ze hebben een 5-stappenplan bedacht om van een vaag idee naar een veilige, ethische robot te gaan. Denk aan dit proces als het bouwen van een slimme, onzichtbare regisseur die de robot in de gaten houdt.

Stap 1: Wat kan de robot eigenlijk? (De Capabilities)

Eerst kijken we naar de gereedschapskist van de robot.

• Vergelijking: Stel je een robot voor die een camera heeft en een telefoon.
• Het probleem: Omdat hij een camera heeft, kan hij mensen zien. Dat is goed om iemand te helpen die is gevallen, maar het is ook een inbreuk op privacy.
• De actie: We moeten beslissen: "Oké, je mag kijken, maar alleen als iemand in nood is." We maken een lijstje van wat de robot mag doen en wat hij moet doen.

Stap 2: De Regels schrijven (De Elicitatie)

Nu vertalen we de vaagheid naar concrete regels. We nodigen een groep mensen uit: juristen, ethici, zorgverleners en gebruikers.

• Vergelijking: Het is alsof je een juridisch team samenstelt om een wetboek te schrijven voor de robot.
• Hoe werkt het? Ze zeggen: "Het principe 'menselijke autonomie' betekent dat de robot niet mag bellen naar de ambulance als de gebruiker 'nee' zegt."
• Ze schrijven dit op in een speciale taal die de computer begrijpt: "Als de gebruiker valt, bel dan de ambulance... TENZIJ de gebruiker zegt 'niet doen'."

Stap 3: De Regels controleren (De Debugging)

Dit is misschien wel het belangrijkste stukje. Mensen maken fouten in regels.

• Vergelijking: Stel je voor dat je twee regels hebt:
  1. "Als er rook is, bel direct de brandweer."
  2. "Als iemand valt en zegt 'niet bellen', bel dan niet."
  • Het conflict: Wat als iemand valt én er is rook? En de persoon zegt 'niet bellen'? De robot is in de war.
• De actie: De auteurs gebruiken slimme computersoftware om deze conflicten op te sporen. Ze zeggen: "Hé, deze twee regels botsen! Laten we de regel aanpassen: 'Bel de brandweer altijd bij rook, zelfs als de persoon zegt 'niet bellen', want rook is levensgevaarlijk'."

Stap 4: De Robot Bouwen (De Implementatie)

Nu bouwen we de robot met deze regels ingebouwd.

• Vergelijking: Het is alsof je een onzichtbare veiligheidsriem om de robot heen spant.
• De robot leert tijdens zijn training niet alleen hoe hij pasta moet koken, maar ook wanneer hij dat niet mag doen (bijvoorbeeld als de gebruiker druk bezig is).
• Tijdens het werken (runtime) werkt deze veiligheidsriem als een rem. Als de robot iets wil doen wat tegen de regels is, blokkeert de rem het.

Stap 5: De Proefrit (De Verificatie)

Voordat de robot de straat op gaat, testen we hem grondig.

• Vergelijking: Het is als een crashtest voor een auto, maar dan voor gedrag.
• We simuleren duizenden situaties: "Wat gebeurt er als de gebruiker valt en niet reageert?" Als de robot in de simulatie faalt (bijvoorbeeld: hij wacht te lang met bellen), dan mag hij niet de markt op. Hij moet terug naar de tekentafel.

Wat als het mislukt?

Soms komen ze tot de conclusie dat het onmogelijk is om een veilige robot te maken voor een bepaalde taak.

• Vergelijking: Het is alsof je probeert een vliegtuig te bouwen dat nooit kan crashen, maar de techniek is er nog niet.
• In dat geval zeggen ze: "Stop met dit project." Dat klinkt negatief, maar de auteurs vinden het een positief resultaat. Het voorkomt dat we een gevaarlijke robot de wereld in sturen.

De Uitdagingen voor de Toekomst

De auteurs geven toe dat het nog niet perfect is. Er zijn nog hobbels:

1. De vertaalslag: Het is moeilijk om abstracte woorden als "waardigheid" om te zetten in computercode.
2. Conflicterende waarden: Soms moet je kiezen tussen privacy en veiligheid. Wie beslist dat?
3. Snelheid: Mensen denken langzaam, robots denken supersnel. Hoe zorg je dat de robot niet te snel handelt op basis van een verkeerd begrip?
4. Mensen: We hebben mensen nodig die zowel van techniek als van ethiek houden. Dat is een zeldzame combinatie.

Conclusie

Kortom: Dit artikel zegt dat we AI niet alleen moeten zien als een slimme rekenmachine. We moeten het zien als een sociaal wezen dat zich moet houden aan onze menselijke regels.

Ze bieden een bouwpakket (het 5-stappenplan) om ervoor te zorgen dat onze AI-robots niet alleen slim zijn, maar ook betrouwbaar, veilig en menselijk. Het is een manier om te voorkomen dat de robot de baas wordt, en ervoor te zorgen dat hij altijd in dienst blijft van de mens.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Social, Legal, Ethical, Empathetic and Cultural Norm Operationalisation for AI Agents" van Calinescu et al., geschreven in het Nederlands.

Probleemstelling

Kunstmatige Intelligentie (AI)-agenten worden steeds vaker ingezet in hoog-risicodomeinen zoals gezondheidszorg, wetshandhaving en vervoer. Deze agenten nemen vaak autonome beslissingen met ingrijpende gevolgen voor het menselijk leven. Hoewel er internationale kaders bestaan die hoge, abstracte normatieve principes voor AI definiëren (zoals privacy, autonomie en welzijn), bestaat er een significante kloof in het vertalen van deze abstracte principes naar concrete, verifieerbare technische vereisten.

Traditionele systeem- en requirements-engineeringmethoden zijn ontoereikend voor deze taak omdat ze:

1. Geen mechanismen hebben om een breed scala aan technische en niet-technische belanghebbenden (ethici, juristen, gebruikers) effectief te betrekken.
2. Moeite hebben met de complexe en subtiele conflicten die inherent zijn aan normatieve vereisten.
3. Geen garanties kunnen bieden voor de "goedvorming" (well-formedness) van SLEEC-vereisten (Sociale, Juridische, Ethische, Empathische en Culturele normen) of voor de naleving door de AI-agent.

Het resultaat is dat AI-agenten vaak niet kunnen garanderen dat hun gedrag in real-world situaties overeenkomt met wat een moreel menselijk agent zou doen.

Methodologie: Het SLEEC-Norm Operationalisatieproces

De auteurs stellen een systematisch, vijf-fasen proces voor om SLEEC-normen te operationaliseren. Dit proces is iteratief; feedback uit een latere fase kan leiden tot revisies in eerdere fasen. Als een fase faalt en niet kan worden opgelost, wordt de ontwikkeling of implementatie van de agent gestopt.

Het proces wordt geïllustreerd aan de hand van een assistentierobot (ALMI-project) voor mensen met cognitieve en fysieke beperkingen.

Fase 1: Specificatie van AI-agentcapaciteiten

• Doel: Bepalen welke functionele capaciteiten de agent nodig heeft om de omgeving waar te nemen en te beïnvloeden, en welke hiervan relevant zijn voor SLEEC-normen.
• Actie: Identificatie van sensoren, actuators en API's. Er wordt gekeken naar capaciteiten die normen activeren (bijv. een camera die privacyrisico's introduceert) en capaciteiten die nodig zijn om normen te voldoen (bijv. communicatiekanalen om hulp te roepen bij een noodsituatie).
• Output: Een lijst van informeel gespecificeerde capaciteiten en gebruiksscenario's.

Fase 2: Elicitatie van SLEEC-vereisten

• Doel: Vertaling van abstracte principes naar actievere operationele regels.
• Methode: Betrekken van diverse belanghebbenden om principes (bijv. non-maleficence, autonomie) te vertalen naar "proxies" (actievere placeholders) en deze te mappen naar agentcapaciteiten.
• Formalisatie: Definities van regels in een domeinspecifieke taal (DSL). De basisstructuur is:
  id when triggerEvent [and triggerGuard] then response [within timeframe]
  Daarnaast worden "defeaters" (uitzonderingen) gedefinieerd:
  unless defeaterGuard [then defeaterResponse]
• Output: Een set van gerechtvaardigde SLEEC-regels.

Fase 3: Controle op goedvorming (Well-Formedness Checking)

• Doel: Detectie en oplossing van complexe problemen zoals conflicten, redundanties, onvoldoendeheid of over-beperking in de regels.
• Methoden: Twee complementaire formele technieken worden gebruikt:
  1. Procesalgebra: Mapping van regels naar tock-CSP (Communicating Sequential Processes) en analyse met de FDR modelchecker. Dit detecteert conflicten en redundanties in sequentiële en getimde uitvoering.
  2. Logische methode: Encoding van de regels in First-Order Logic with relational objects (FOL)* en analyse met de LEGOS-satisfiability checker. Dit analyseert de globale interacties en controleert of het regelsysteem voldoende is om ongewenst gedrag te voorkomen zonder het doel van het systeem te ondermijnen.
• Resultaat: Debugging en herziening van regels (bijv. het verfijnen van een "defeater" zodat een robot wel hulp roept bij een bewusteloze persoon, ondanks het gebrek aan toestemming).

Fase 4: Implementatie van SLEEC-bewuste AI-agenten

• Doel: Integratie van de gevalideerde vereisten in het ontwerp, de training en de deploy.
• Actie:
  • Mapping van abstracte regels naar implementeerbare abstracties (gebeurtenissen, meetwaarden, interne staten).
  • Training: Dataset-schema's worden expliciet gestructureerd om SLEEC-conforme en niet-conforme situaties te coderen.
  • Runtime: Regels worden geïmplementeerd als "guardrails" (bewakingsmechanismen) die het gedrag van de agent monitoren en beperken. Deze guardrails zijn losgekoppeld van de kernlogica, wat dynamische aanpassing mogelijk maakt zonder volledige hertraining.

Fase 5: Verificatie van naleving

• Doel: Formeel verifiëren dat de geïmplementeerde agent voldoet aan de SLEEC-regels.
• Methode: Gebruik van een nieuw conformiteitsconcept dat timewise refinement voor tock-CSP uitbreidt. Een model van de agent (bijv. geschreven in RoboChart) wordt vergeleken met de SLEEC-regels.
• Output: Automatische verificatie of het genereren van tegenvoorbeelden (counterexamples) die aantonen waar en wanneer de regels worden geschonden (bijv. te lange reactietijd bij een noodsituatie).

Belangrijkste Bijdragen

1. Een gestructureerd raamwerk: Het definiëren van een end-to-end proces voor de operationalisatie van SLEEC-normen, van abstracte principes tot verifieerbare code.
2. Formele methodologie: Het introduceren en combineren van procesalgebra (tock-CSP) en logische methoden (FOL*) om conflicten en ambiguïteiten in normatieve regels formeel op te lossen.
3. Tooling en DSL: Het gebruik van een specifieke taal (SLEEC DSL) en tools zoals SLEEC-TK, LEGOS-SLEEC en RoboChart om de hele levenscyclus te ondersteunen.
4. Case Study: Een gedetailleerde toepassing op een assistentierobot (ALMI), die laat zien hoe conflicten (bijv. privacy vs. veiligheid) worden opgelost en hoe regels worden verfijnd.
5. Identificatie van uitdagingen: Een heldere inventarisatie van resterende technische en maatschappelijke uitdagingen.

Resultaten en Case Study (ALMI)

In de ALMI-case study bleek het proces effectief in het opsporen van kritieke fouten die door traditionele methoden zouden worden gemist:

• Conflictdetectie: Het proces ontdekte een conflict tussen een regel voor rookmelders (directe noodhulp) en een regel voor een val (hulp alleen met toestemming). Als een persoon viel en bewusteloos was (geen toestemming), maar er was ook rook, blokkeerde de val-regel de noodhulp.
• Oplossing: Door het proces werd de regel verfijnd met een nieuwe "defeater" die onderscheid maakt tussen een persoon die bewusteloos is (geen toestemming mogelijk) en een persoon die bewust is maar weigert. Dit vereiste een nieuwe capaciteit van de robot om bewustzijn te detecteren.
• Verificatie: Een automatische verificatie toonde aan dat een ontwerp waarin de robot eerst een taak afrondde voordat hij op een val reageerde, de SLEEC-regel voor reactietijd schond. Dit leidde tot een ontwerpwijziging.

Significantie en Toekomstperspectief

De paper benadrukt dat het operationaliseren van SLEEC-normen essentieel is voor het vertrouwen in AI, maar dat er nog aanzienlijke uitdagingen zijn:

• Reificatie van principes: Het vertalen van abstracte ethische principes naar technische specificaties blijft complex en vereist domeinspecifieke richtlijnen.
• Normatieve ambiguïteit: Het oplossen van waardenconflicten vereist niet alleen technische mechanismen (zoals defeaters), maar ook deliberatieve methoden voor belanghebbenden om prioriteiten te stellen.
• Technische uitdagingen: Traceerbaarheid, het reconciliëren van verschillende tijdschalen (ethiek vs. sensorverwerking) en de benodigde rekenkracht zijn grote obstakels.
• Runtime adaptatie: AI-agenten moeten in staat zijn om zich aan te passen aan veranderende normen en contexten tijdens de uitvoering, terwijl de formele garanties behouden blijven.
• Competentie: Er is een dringende behoefte aan multidisciplinaire educatie om zowel technici als niet-technici (juristen, ethici) een gemeenschappelijke taal en begrip van elkaars domeinen te geven.

Concluderend biedt dit papier een cruciaal raamwerk en een onderzoeksagenda om AI-agenten te ontwikkelen die niet alleen functioneel zijn, maar ook demonstratief en verifieerbaar in lijn zijn met menselijke waarden en normen.