Bridging the Gap in the Responsible AI Divides

Dit artikel introduceert een model om de spanningen tussen AI-ethiek en AI-veiligheid te analyseren en pleit, op basis van een analyse van 3.550 papers, voor 'kritische overbrugging' als de meest constructieve aanpak voor een samenwerkend AI-beleid.

De kern

De Brug tussen twee Werelden: Een Simpele Uitleg over AI-Veiligheid en AI-Ethiek

Stel je voor dat er twee grote groepen mensen zijn die zich zorgen maken over de razendsnelle ontwikkeling van kunstmatige intelligentie (AI). Ze zitten aan dezelfde tafel, maar kijken vaak naar totaal verschillende dingen.

• Groep 1: De "AI-Veiligheids"-experts (AIS). Zij zijn als de bouwkundigen en brandweerlieden. Ze maken zich zorgen of het gebouw niet instort, of de brandblussers werken en of er geen ontploffingen gebeuren als de machine te sterk wordt. Hun focus ligt op technische fouten, crashes en het voorkomen van catastrofes in de verre toekomst.
• Groep 2: De "AI-Ethiek"-experts (AIE). Zij zijn als de sociologen en mensenrechtenactivisten. Ze kijken of het gebouw eerlijk is verdeeld, of de lift niet alleen voor rijke mensen is, of de bewoners niet worden gediscrimineerd en of de machine niet racistisch wordt. Hun focus ligt op onrecht, vooroordelen en schade die nu al gebeurt.

Het probleem? Deze twee groepen praten vaak langs elkaar heen. Soms zelfs ruziënd, alsof ze in verschillende kamers zitten die elkaar niet begrijpen. De auteurs van dit paper noemen dit de "Verantwoordelijke AI-scheiding".

De Vier Manieren om met deze Ruzie om te gaan

De auteurs kijken naar hoe deze groepen met elkaar omgaan en onderscheiden vier manieren:

1. De "Totaal-oorlog" (Radical Confrontation):

   • Analogie: Twee voetbalteams die elkaar niet alleen willen winnen, maar elkaar ook van het veld willen slaan.
   • Wat gebeurt er? De ene groep zegt: "Jullie ethiek is nutteloos, we moeten alleen kijken naar de techniek!" en de ander zegt: "Jullie veiligheid is een excuus om de echte sociale problemen te negeren!"
   • Gevolg: De sfeer wordt giftig, nieuwe mensen raken verward en er wordt geen oplossing gevonden.

2. De "Negeer het" (Disengagement):

   • Analogie: Twee buren die in hetzelfde huis wonen, maar hun deuren dichtdoen en doen alsof de ander niet bestaat.
   • Wat gebeurt er? Ze zeggen: "Laten we gewoon aan onze eigen werk doen en niet over die lastige verschillen praten."
   • Gevolg: Het lijkt rustig, maar onder de oppervlakte groeien de problemen. Uiteindelijk wordt er slecht beleid gemaakt omdat niemand de volledige plaat ziet.

3. De "Parallelle Sporen" (Compartmentalized Coexistence):

   • Analogie: Een grote conferentie waar de ethici in zaal A zitten en de veiligheids-experts in zaal B. Ze drinken koffie in dezelfde hal, maar praten nooit echt met elkaar.
   • Wat gebeurt er? Ze doen alsof ze samenwerken, maar in werkelijkheid lost niemand de echte knelpunten op. Ze gebruiken elkaars woorden als decoratie, zonder de inhoud te veranderen.

4. De "Kritische Brug" (Critical Bridging) – De Oplossing!

   • Analogie: Twee eilanden die een brug bouwen. Ze erkennen dat ze op verschillende eilanden wonen (verschillende meningen), maar ze bouwen een stevige brug om samen te werken aan de problemen die beide eilanden raken.
   • Wat gebeurt er? Ze zeggen: "Oké, jullie denken hier anders over, maar laten we samen kijken naar dit specifieke probleem waar we allebei last van hebben." Ze werken samen zonder hun eigen identiteit op te geven.

Wat hebben ze ontdekt? (De Schatgravers)

De auteurs hebben een enorme schat aan onderzoek (3.550 wetenschappelijke artikelen) onderzocht om te zien waar deze twee groepen eigenlijk wel hetzelfde doen. Ze gebruikten slimme computerprogramma's om te kijken welke woorden en onderwerpen vaak terugkwamen.

Wat bleek er?
Hoewel ze vaak over verschillende dingen praten, zijn er grote gebieden waar hun paden kruisen:

• Transparantie: Beide groepen willen weten hoe de AI tot een besluit komt. De ethici willen weten of het eerlijk is; de veiligheids-experts willen weten of het betrouwbaar is.
• Fouten in de data: Beide groepen zien dat als de AI slechte data krijgt, hij slechte beslissingen neemt.
• Toezicht: Beide groepen vinden dat we de AI goed moeten bewaken, zodat hij niet uit de hand loopt of mensen benadeelt.

Het grote verschil:

• De Ethici kijken vooral naar sociale onrechtvaardigheid (racisme, armoede, uitsluiting).
• De Veiligheidsexperts kijken vooral naar technische instabiliteit (crashes, hackers, AI die zichzelf te slim af is).

Waarom is deze "Brug" zo belangrijk?

De auteurs zeggen: "Laten we stoppen met ruziën en beginnen met het bouwen van bruggen."

Als we alleen kijken naar veiligheid, bouwen we misschien een perfecte, veilige machine die toch racistisch is. Als we alleen kijken naar ethiek, bouwen we een eerlijke machine die technisch instabiel is en crasht.

De boodschap is simpel:
Om AI echt veilig en eerlijk te maken, moeten de bouwkundigen en de sociologen hand in hand werken. Ze moeten samen zoeken naar de "brugproblemen": de specifieke uitdagingen waar ze allebei last van hebben en waar ze samen een oplossing voor kunnen vinden.

Conclusie in één zin:
In plaats van te vechten over wie het belangrijkst is, moeten we samenwerken aan de problemen die ons allemaal raken, zodat we AI kunnen bouwen die niet alleen veilig is, maar ook eerlijk voor iedereen.

Technische samenvatting

Titel: Het Overbruggen van de Kloof in de Verantwoordelijke AI-splitsingen

Auteurs: Bálint Gyevnár en Atoosa Kasirzadeh (Carnegie Mellon University)

---

1. Het Probleem: De "Verantwoordelijke AI-splitsing" (Responsible AI Divides)

Het artikel identificeert een toenemende spanning en een kloof tussen twee belangrijke domeinen binnen het AI-beleid: AI Veiligheid (AIS - AI Safety) en AI Ethiek (AIE - AI Ethics).

• De Kernkwestie: Hoewel beide domeinen streven naar "verantwoordelijke AI", benaderen ze risico's en oplossingen vaak vanuit fundamenteel verschillende perspectieven. Dit leidt tot een strijd om schaarse middelen (financiering, publieke aandacht, beleidsruimte).
• Oorzaken van de Spanning:
  • AIS focust vaak op een anticipatoire aanpak, gericht op het mitigeren van existentiële risico's, catastrofale uitkomsten en het beheersen van AI-capaciteiten (bijv. alignment, robustness tegen adversarial attacks).
  • AIE focust vaak op huidige, tastbare schade, zoals discriminatie, onrecht, gebrek aan transparantie en sociale ongelijkheid veroorzaakt door bestaande systemen.
• Gevolg: Deze divergentie resulteert in een gebrek aan samenwerking, wat de effectiviteit van AI-governance ondermijnt.

2. Methodologie

De auteurs gebruiken een mixed-methods aanpak die kwantitatieve tekstmining combineert met kwalitatieve deductieve codering om een dataset van 3.550 wetenschappelijke papers te analyseren.

• Dataverzameling:
  • AIE Corpus (n=1.770): Proceedings van de conferenties AIES en FAccT (sinds 2018).
  • AIS Corpus (n=1.780): Gebaseerd op een bestaande open-source dataset, uitgebreid met papers van 35 vooraanstaande veiligheidslaboratoria en individuele onderzoekers (tot juli 2025).
• Kwantitatieve Analyse:
  • Gebruik van VOSViewer voor co-occurrence netwerken van termen.
  • Gebruik van BERTopic (met SentenceBERT embeddings) voor onbewaakte topic modeling om clusters van documenten te identificeren.
  • Berekening van log-likelihood ratios om onderscheidende termen tussen de corpora te vinden.
  • Analyse van de evolutionaire ontwikkeling van semantische gelijkenis over de tijd (cosine similarity).
• Kwalitatieve Analyse (Deductieve Codering):
  • De auteurs ontwikkelden een twee-niveau taxonomie voor risico's en mitigatiestrategieën.
  • Papers werden handmatig gecodeerd door een annotator (geblind voor de volgorde) om risico's en oplossingen toe te wijzen aan specifieke categorieën.
  • Dit resulteerde in een gedetailleerde vergelijking van welke problemen en oplossingen door welk veld worden behandeld.

3. Belangrijkste Bijdragen

Het artikel biedt een conceptueel kader en empirische bewijzen voor het overbruggen van de kloof:

1. Conceptueel Kader: Vier Modellen van Engagement:
   De auteurs definiëren vier manieren waarop de gemeenschappen met elkaar omgaan:

   • Radicale confrontatie: Directe pogingen om de andere kant te diskwalificeren (leidt tot polarisatie).
   • Desengagement: Weigering om de spanningen aan te pakken onder het mom van neutraliteit (leidt tot onopgeloste conflicten).
   • Gecompartimentaliseerd co-existentie: Samenkomsten zonder echte integratie (praten langs elkaar heen).
   • Kritisch Overbruggen (Critical Bridging): De voorgestelde ideale staat. Dit houdt in: gestructureerde onenigheid, gedeelde probleemdefinitie en gezamenlijk institutioneel werk, waarbij men erkent dat sommige meningsverschillen onoplosbaar zijn maar toch samenwerkt op gedeelde uitdagingen.

2. Focus op "Overbruggende Problemen" (Bridging Problems):
   In plaats van te proberen filosofische wereldbeelden of gemeenschappen volledig te integreren (wat te complex is), focust het artikel op het identificeren van gemeenschappelijke probleemruimtes waar beide velden kunnen samenwerken.

3. Gedetailleerde Taxonomieën:
   Het artikel presenteert uitgebreide taxonomieën van risico's en mitigatiestrategieën voor zowel AIS als AIE, inclusief een analyse van waar deze overlappen en waar ze verschillen.

4. Resultaten

De analyse onthult zowel significante verschillen als cruciale overlappen:

• Thematische Kloven:

  • AIE is sterk gericht op sociale impact: discriminatie, toxiciteit, gebrek aan toegang, onrecht, en menselijke waarden.
  • AIS is sterk gericht op technische capaciteiten en toekomstige risico's: systematische misspecificatie, onveilige exploratie, reward hacking, en catastrofale uitkomsten.

• Significante Overlappen (De "Bruggen"):
  Ondanks de verschillen zijn er meerdere gebieden waar beide velden dezelfde problemen aanpakken, vaak met verschillende methoden:

  • Interpreteerbaarheid en Transparantie: Beide velden zoeken naar manieren om AI-systemen begrijpelijk te maken, hoewel AIE focust op verantwoording en vertrouwen, en AIS op controle en monitoring.
  • Reproduceerbaarheid en Benchmarks: Beide velden zijn bezorgd over de onbetrouwbaarheid van benchmarks en de "reproducibility crisis".
  • Governance en Toezicht: Gebrek aan globale coördinatie en toezichtmechanismen wordt door beide velden als een risico gezien.
  • Data-distributieverschuivingen: Risico's van data drift en out-of-distribution inputs worden in beide velden onderzocht.
  • Menselijke Waarden en Reward Modeling: Beide velden werken aan het modelleren en leren van menselijke voorkeuren (bijv. via Inverse RL of participatieve methoden).
  • Adversarial Robustness: Hoewel AIS hier meer werk doet, begint AIE ook onderzoek te doen naar jailbreaking en misbruik.

• Trend: De semantische gelijkenis tussen de corpora neemt toe over de tijd, wat suggereert dat AIS zich steeds meer richt op ethische aspecten (of vice versa), mogelijk gedreven door generatieve AI-tools die de schrijfstijl homogeniseren.

5. Betekenis en Conclusie

Het artikel concludeert dat kritisch overbruggen de meest pragmatische en constructieve weg is voor de toekomst van verantwoordelijke AI.

• Praktische Implicaties: Door te focussen op gedeelde problemen (zoals transparantie, governance en robustness) kunnen AIS en AIE samenwerken zonder hun fundamentele filosofische verschillen op te moeten geven.
• Beleid en Governance: De bevindingen bieden beleidsmakers een overzicht van waar samenwerking mogelijk is en waar specifieke expertise nodig is. Het benadrukt dat een geïsoleerde aanpak (alleen veiligheid of alleen ethiek) ontoereikend is.
• Toekomstgericht: De auteurs pleiten voor nieuwe institutionele structuren (zoals gezamenlijke PhD-programma's of cross-disciplinaire red-teaming) die "hybride gemeenschappen" vormen. Ze erkennen echter ook dat er nog open vragen zijn over de politieke economie van financiering en hoe om te gaan met fundamenteel onoplosbare meningsverschillen.

Kortom, het papier biedt een empirisch onderbouwde roadmap om de versplintering in het AI-domein te overwinnen door te focussen op concrete, gedeelde uitdagingen in plaats van ideologische strijd.