Beyond Binary Moral Judgment: Modeling Ethical Pluralism in AI

Technische Samenvatting: Voorbij de Morele Tweedeling: Modellering van Ethisch Pluralisme in AI

Probleemstelling
Huidige benaderingen voor autonome morele besluitvorming in AI vertrouwen voornamelijk op scalair of binair oordeel (bijvoorbeeld moreel aanvaardbaar versus onaanvaardbaar). De auteurs betogen dat deze methoden ontoereikend zijn voor maatschappelijk ingrijpende domeinen zoals geneeskunde, recht en openbaar beleid, omdat ze geen verklarende kracht bieden en de contextuele en theoretische nuances negeren die nodig zijn voor verantwoordingsplicht. Menselijke moraliteit wordt beschreven als contextueel, plichtsgebonden en pluralistisch, terwijl standaard AI werkt via numerieke optimalisatie. Bestaande computationele ethiek gaat vaak uit van één universeel moreel kader of vertrouwt op binaire classificaties, waardoor ze "ethisch pluralisme" niet kunnen vangen – het fenomeen waarbij één handeling kan worden gerechtvaardigd door meerdere, soms concurrerende, normatieve ethische theorieën (bijvoorbeeld consequentiaalisme, deontologie en deugdethiek). Het artikel stelt dat een model dat accuraat maar ondoorzichtig is, of verklaarbaar maar zwak voorspellend, ontoereikend is voor praktische computationele ethiek.

Methodologie
Het artikel stelt een hiërarchisch kader voor dat morele redenering modelleert, niet als één vonnis, maar als een kansverdeling over normatieve ethische theorieën. De methodologie is gestructureerd rond een tweestromige normatief-semantische architectuur gecombineerd met een gestapelde ensemble-leerbenadering.

1. Taxonomie van Normatieve Ethiek en Simplex:

   • De auteurs definiëren een "normatief-ethisch simplex" waarin ethische beslissingen worden gemapt naar een driedimensionale ruimte gedefinieerd door Consequentiaalisme ($\alpha$), Deugdethiek ($\beta$) en Deontologie ($\gamma$).
   • Deze brede theorieën worden onderverdeeld in 15 fijnmazige subtheorieën (bijvoorbeeld Act Utilitarisme, Kantiaanse Deontologie, Aristotelische Deugdethiek, Zorgethiek).
   • Het kader behandelt ethische beslissingen als een "vage eenheidspartitie", waarbij de som van de lidmaatschapsscores over de drie assen gelijk is aan 1, wat overlappende ethische rechtvaardigingen mogelijk maakt.

2. Benchmarks Dataset:

   • Een gestructureerde benchmark van 450 real-world gevallen werd samengesteld, met 30 gevallen per subtheorie.
   • Gevallen zijn ontleend aan bestaande grootschalige datasets van ethisch dubbelzinnige natuurlijke taalverhalen.
   • Feature Engineering: De dataset omvat:
     • Semantische Kenmerken: Ruwe tekst en samenvattingen.
     • Contextuele Kenmerken: One-hot gecodeerde variabelen, waaronder actieve/passieve agenten, relaties, morele intenties, ernst van gevolgen, duur en nut.
     • Normatieve Priors: Scores voor de drie brede theorieën en subtheorieën, afgeleid met DeepSeek V3 (gevalideerd tegenover menselijke expert-akkoord) om te dienen als "ethische priors".

3. Architectuur:

   • Stroom 1: Normatieve Prior Stroom: Verwerkt de probabilistische uitlijningsscores ($\alpha, \beta, \gamma$) en afgeleide metrieken (entropie, scoremarges, paarverhoudingen) om de theoretische oriëntatie van een geval te vangen.
   • Stroom 2: Semantisch-Contextuele Stroom:
     • Semantische Embeddings: Gebruikt een Triple-BERT-aanpak, waarbij embeddings van drie verschillende transformers (all-MiniLM-L6-v2, all-distilRoBERTa-v1, multi-qa-mpnet-base-dot-v1) worden samengevoegd tot een 1920-dimensionale supervector. Dit vangt algemene inhoud, gedetailleerde samenvattingen en vraag-antwoord redeneerpatronen.
     • Contextuele Kenmerken: Integreert de ontworpen contextuele variabelen.
   • Gestapelde Ensemble Classificator: De outputs van beide stromen worden ingevoerd in een meta-learner.
     • Basislearners: Random Forest (Bagging), XGBoost (Boosting) en een lineaire SVM (Stacking).
     • Meta-Learner: Een tweede XGBoost-model combineert de basisvoorspellingen om de uiteindelijke classificatie onder de 15 subtheorieën te outputten.

Belangrijkste Bijdragen

• Modellering van Ethisch Pluralisme: Het artikel verschuift het paradigma van binaire morele classificatie naar een probabilistische verdeling over normatieve theorieën, en modelleert expliciet de overlap en ambiguïteit die inherent zijn aan ethische redenering.
• Normatief-Semantische Architectuur: Het introduceert een hybride architectuur die filosofische taxonomie (normatieve priors) samenvoegt met diepe semantische representaties (transformer-embeddings) en gestructureerde contextuele kenmerken.
• Gestructureerde Benchmark: De creatie van een benchmark van 450 gevallen gelabeld met 15 fijnmazige ethische subtheorieën, ontworpen om granulariteit in morele redenering te testen.
• Kwantificering van Ambiguïteit: Het kader biedt metrieken (entropie, confidencemarges, overlapscores) om de graad van ethische ambiguïteit en de "vage aard" van morele beslissingen te kwantificeren.

Resultaten

• Classificatieprestaties: De voorgestelde architectuur behaalde een exact-match nauwkeurigheid van 88,89% en een macro F1-score van 88,78% bij het classificeren van gevallen in de 15 subtheorieën.
• Ablatiestudies:
  • Het verwijderen van normatieve priors verlaagde de nauwkeurigheid naar 85,56%.
  • Het verwijderen van contextuele kenmerken verlaagde de nauwkeurigheid verder naar 81,11%.
  • Het gebruik van alleen semantische embeddings (zonder priors of context) liet de nauwkeurigheid dalen naar 77,78%.
  • Dit toont aan dat gestructureerde ethische representaties en contextuele grondslag significant bijdragen, verder dan analogische redenering alleen.
• Pluralisme-analyse:
  • Entropie: Normalisatie verlaagde de classificatie-entropie van 1,66 naar 0,61, wat aangeeft dat het model kan onderscheiden tussen duidelijke en dubbelzinnige gevallen.
  • Confidentie: Het model vertoonde hoge confidentie (>70%) voor slechts ongeveer 15% van de gevallen, waarbij lage confidentie correleerde met hoge ethische ambiguïteit of overlappende theorieën.
  • Visualisatie: UMAP-projecties van de 1920D supervectors toonden aan dat gevallen met vergelijkbare normatieve theorieën bij elkaar clusteren, wat de capaciteit van de architectuur valideert om de onderliggende ethische structuur te leren.

Betekenis en Claims
Het artikel claimt dat het modelleren van ethisch pluralisme als een probabilistische normatieve verdeling mensachtige morele redenering ondersteunt en analyse van ethische meningsverschillen faciliteert. Door voorbij scalair oordeel te gaan, stelt het kader AI-systemen in staat uit te leggen waarom een beslissing overeenkomt met specifieke ethische scholen van denken, in plaats van slechts een vonnis te geven. De auteurs benadrukken dat deze aanpak de kloof overbrugt tussen ondoorzichtige, hoog-accurate modellen en verklaarbare maar zwak voorspellende modellen.

De auteurs blijven bescheiden over hun claims, met de erkenning dat:

• De benchmark klein en gebalanceerd is, en niet volledig representatief is voor de complexiteit van de real-world omgeving.
• De normatieve priors vertrouwen op door LLM gegenereerde scores, die, hoewel gevalideerd tegenover menselijke annotators, een risico op bias met zich meebrengen.
• De 15 geselecteerde subtheorieën niet exhaustief zijn voor alle normatieve ethiek.
• Het kader momenteel neerkomt op een "best-fit" kans voor classificatie en geen adaptieve conflictoplossing uitvoert.

Uiteindelijk suggereert het werk dat toekomstige AI-uitlijning in complexe socio-technische omgevingen vereist dat men verschuift van vonnisgebaseerde redenering naar gestructureerde representaties van ethische pluraliteit om beter om te gaan met concurrerende morele interpretaties.