From Democracies to Autocracies: How AI Systems Enable Authoritarianism by Design

Stel je voor dat je een gereedschapskist hebt. In die kist zitten elektrische gereedschappen zoals boormachines en zagen. Meestal denken we over deze gereedschappen als neutraal; een boormachine kan een huis bouwen of een deur afbreken, afhankelijk van wie hem vasthoudt en hoe hij wordt gebruikt.

Dit artikel betoogt dat met Kunstmatige Intelligentie (AI) de "boormachine" zelf wordt gebouwd met een specifiek ontwerp dat het veel makkelijker maakt om deuren af te breken en moeilijker om te stoppen, ongeacht wie hem vasthoudt. De auteurs, onderzoekers van Harvard en Oxford, keken naar zes verschillende AI-systemen die worden gebruikt in landen variërend van de Verenigde Staten en het VK tot China en Rusland. Ze wilden zien of deze tools alleen gevaarlijk zijn in "slechte" landen (autocratieën) of dat ze ook een "goed" land (democratie) kunnen veranderen in een plek waar mensen worden bekeken en gecontroleerd.

Hier is de uiteenzetting van hun bevindingen met behulp van eenvoudige analogieën:

1. De kernontdekking: Het gaat niet alleen om de "slechte jongens"

De grootste verrassing in het artikel is dat autoritarisme (het praktiseren van controle over mensen door middel van angst en surveillance) niet alleen een kenmerk is van "kwade" dictaturen.

Denk aan een razende auto. Je zou denken dat alleen een roekeloze bestuurder in een gevaarlijke buurt te hard rijdt. Maar dit artikel laat zien dat zelfs een voorzichtige bestuurder in een veilige, welvarende buitenwijk te hard kan gaan als de cruise control van de auto te hoog staat ingesteld, de remmen zwak zijn en de snelheidslimietborden worden genegeerd. Het ontwerp van de auto (het AI-systeem) doet er net zo toe als de bestuurder (de overheid).

De auteurs ontdekten dat dezelfde "gevaarlijke kenmerken" voorkomen in zowel democratieën (zoals de VS en het VK) als autocratieën (zoals China en Rusland).

2. De zes "gevarenzones" (Hoe AI controle mogelijk maakt)

De onderzoekers identificeerden zes manieren waarop deze AI-systemen fungeren als een "gereedschapskist voor controle". Hier is hoe ze werken, met analogieën:

• Dwangcapaciteit (De grote stok):
  • Wat het is: Het vermogen om gemakkelijk geweld of de dreiging van geweld te gebruiken.
  • De analogie: Stel je een beveiligingsbeambte voor die met één druk op de knop een SWAT-team kan oproepen. In het geval van het Lavender-systeem (gebruikt door het Israëlische leger), helpt de AI bij het identificeren van doelwitten voor luchtaanvallen. Omdat het systeem is geïntegreerd met wapens en een hoge foutmarge heeft, verlaagt het de "drempel" voor het gebruik van dodelijk geweld. Het maakt het makkelijker om geweld te triggeren.
• Erosie van Verantwoording (De onzichtbare hand):
  • Wat het is: Het moeilijk maken om te weten wie verantwoordelijk is wanneer er iets misgaat.
  • De analogie: Stel je een spelletje "warme aardappel" voor waarbij de aardappel een fout is. Als een politieagent in het VK een Live Facial Recognition Van gebruikt en onterecht iemand staande houdt, kan de agent zeggen: "De computer zei dat ik het moest doen," en het bedrijf kan zeggen: "Wij hebben alleen de software verkocht." Niemand neemt de schuld op zich. Het systeem is zo ontworpen dat verantwoordelijkheid verloren gaat in de chaos.
• Symbolische Waarborgen (De valse autogordel):
  • Wat het is: Het hebben van regels die op papier goed lijken, maar in de praktijk niet werken.
  • De analogie: Het is als een auto die een autogordel heeft, maar de gesp is kapot. Het Lavender-systeem heeft een regel dat een mens het doelwit moet controleren voordat een aanval plaatsvindt. Maar rapporten laten zien dat mensen slechts 20 seconden controleren, net genoeg om een vinkje te zetten. De "waarborg" bestaat, maar het is een schijnvertoning.
• Informatiecontrole (De eenrichtingsspiegel):
  • Wat het is: De overheid weet alles over jou, terwijl jij niets over hen weet.
  • De analogie: Stel je een enorme bibliotheek voor waar de bibliothecaris elk boek dat je ooit hebt geleend, elke notitie die je hebt geschreven en elke keer dat je naar het toilet bent gegaan, kan lezen, maar jij kunt niet zien wat de bibliothecaris in zijn logboek schrijft. Het IJOP-systeem in China doet dit door politiedata te combineren met medische dossiers, energierekeningen en zelfs gegevens over de verkoop van tweedehands auto's om een totaal beeld van iemands leven op te bouwen.
• Anticiperende Repressie (De kristallen bol):
  • Wat het is: Mensen straffen voordat ze iets fout hebben gedaan, simpelweg omdat de AI denkt dat ze het zouden kunnen doen.
  • De analogie: Stel je een uitsmijter bij een club voor die je eruit stuurt omdat je er "verdacht" uitziet of omdat je onlangs je telefoonnummer hebt gewijzigd, ook al heb je nog geen regels overtreden. Het Sfera-systeem in Rusland gebruikt gezichtsherkenning om mensen aan te houden voordat ze zelfs maar een protest plannen, gebaseerd op het idee dat ze misschien gaan protesteren.
• Grensbewaking (De "Wij versus Zij" muur):
  • Wat het is: Het creëren van digitale categorieën die bepaalde groepen mensen behandelen als minder menselijk of minder veilig.
  • De analogie: Stel je een filter voor op een foto-app voor dat automatisch mensen met een specifiek accent of een bepaalde huidskleur vervaagt en hen als "risicovol" bestempelt. Het IJOP-systeem richt zich specifief op Oeigoerse moslims, en het SlimmeCheck-systeem in Nederland werd erop aangewezen dat het niet-Nederlandse burgers veel vaker aanmerkte voor fraude met sociale voorzieningen dan lokale burgers. De AI leert bepaalde groepen als "de vijand" te zien.

3. De twee manieren waarop het systeem faalt: Centraal versus Gefragmenteerd

Het artikel maakt een zeer belangrijk punt over hoe deze systemen zijn georganiseerd.

• Centrale Systemen (De Grote Baas):
  • Voorbeeld: De IJOP in China of Sfera in Rusland.
  • Hoe het werkt: Eén grote autoriteit controleert alles.
  • Het risico: Het is als een enkele, enorme dam. Als de dam doorbreekt, overstroomt de hele vallei. Omdat één groep alle macht in handen heeft, zijn er minder mensen om "Stop" te zeggen.
• Gefragmenteerde Systemen (De Zwerm):
  • Voorbeeld: FlockSafety in de VS.
  • Hoe het werkt: Dit is een netwerk van kentekenplaatcamera's die eigendom zijn van duizenden verschillende buurten, bedrijven en politieafdelingen.
  • Het risico: Dit is als een zwerm bijen. Je kunt niet zomaar één bij doden om de zwerm te stoppen. Omdat het systeem verspreid is, is er geen centrale persoon in charge. Als een buurtvereniging de camera misbruikt, is het moeilijk te reguleren omdat er geen centrale "baas" is om te ontslaan. Het artikel stelt dat deze "zwerm" eigenlijk moeilijker te controleren is dan de "Grote Baas", omdat de verantwoordelijkheid zo verdund is.

4. Het "Levenscyclus"-probleem

De auteurs zeggen dat we bij AI meestal vragen: "Is de wiskunde slim genoeg?" (Het Model). Zij zeggen dat we moeten vragen: "Hoe is dit hulpmiddel gebouwd, verkocht en gebruikt?" (De Levenscyclus).

Ze vergeleken de systemen over 10 stadia, van het initiële idee tot de huidige dag. Ze ontdekten dat het gevaar niet alleen in het eindproduct zit, maar in de keuzes die onderweg zijn gemaakt:

• Wie kocht het? (Vaak private bedrijven die samenwerken met overheden).
• Hoe werd het getest? (Vaak gebrekkig of helemaal niet).
• Wie houdt de wachters in de gaten? (Vaak niemand).

5. De Conclusie

Het artikel concludeert dat AI-gestuurde autoritarisme een ontwerpkeuze is, geen onvermijdelijk gevolg van technologie.

Het is niet dat de AI van nature "slecht" is. Het is dat ontwikkelaars, overheden en gebruikers keuzes hebben gemaakt om:

1. De AI te koppelen aan te veel data.
2. De regels die mensen moeten beschermen te negeren.
3. Systemen te bouwen die moeilijk te stoppen zijn zodra ze eenmaal zijn gestart.

De auteurs waarschuwen dat dit niet alleen een probleem is voor "slechte" landen. Democratieën lopen ook risico, vooral wanneer ze deze tools gebruiken voor "efficiëntie" of "veiligheid" zonder te beseffen dat ze langzaam een kooi bouwen. Ze dringen aan op ontwikkelaars om "remmen" in het systeem in te bouwen en op overheden om ervoor te zorgen dat de "autogordels" echt werken voordat ze de auto laten rijden.