Living with Algorithms: Human-AI Assemblages and Ethical Governance in West African Pastoral Conflict

Het Grote Plaatje: Wanneer Computers het Dorp Proberen te Besturen

Stel je een groep buren voor die al eeuwenlang samenleeft. Ze hebben een complex, ongeschreven pakket aan regels voor het delen van water, graasland en het beslechten van ruzies. Het is een systeem gebaseerd op fluisteringen, handdrukken en precies weten wie wat aan wie verschuldigd is. Het is rommelig, flexibel en diep menselijk.

Stel je nu voor dat er een team van tech-experts arriveert en zegt: "Wij hebben een superintelligent computerprogramma dat al uw problemen sneller en eerlijker kan oplossen dan uw oude methoden." Ze installeren camera's, biometrische ID-scanners en een AI die voorspelt waar gevechten zullen plaatsvinden.

Dit artikel vraagt zich af: Maakt deze computer het echt beter, of breekt het het delicate sociale weefsel dat de vrede bewaart?

De onderzoekers bestudeerden precies deze situatie op twee plaatsen: de staat Plateau in Nigeria en de regio Tillabéri in Niger. Dit zijn gebieden waar boeren en herders vaak botsen over land en middelen.

De Belangrijkste Ontdekking: De "Legitimiteitskloof"

De studie ontdekte een vreemde paradox. De computers waren eigenlijk goed in hun technische taak. Ze waren sneller in het versturen van waarschuwingen en beter in het herkennen van patronen dan de oude menselijke systemen.

Maar, de mensen die daar woonden, vertrouwden ze niet.

Denk hierbij aan een GPS die je de snelste route geeft, maar je door de woonkamer van je buurman stuurt. De GPS is technisch gezien "correct" (het is de snelste weg), maar je zou hem niet gebruiken omdat hij de sociale normen schendt en je buren boos maakt.

Het artikel noemt dit de "Legitimiteitskloof". Het systeem was efficiënt (snel), maar het miste legitimiteit (het werd niet als eerlijk of juist gezien door de gemeenschap). Wanneer mensen het systeem niet vertrouwen, stoppen ze met samenwerken, en uiteindelijk stopt het systeem met werken.

Drie Manieren waarop het Systeem Vastliep

De onderzoekers vonden drie specifieken manieren waarop het "slimme" systeem botste met het "echte" leven:

1. Het "Rigide ID-kaart" Probleem

• De Tech: Het systeem gebruikte biometrische ID-kaarten om mensen te identificeren. Als je een herder was, zei de kaart: "Herder." Als je een boer was, zei de kaart: "Boer."
• De Realiteit: In deze gemeenschappen zijn identiteiten vloeiend. Een man kan vee drijven in het droge seizoen en gewassen verbouwen in het natte seizoen. Hij kan deels Fulani en deels Berom zijn.
• De Analogie: Stel je een bibliotheek voor die je alleen boeken laat lenen als je ID zegt: "Fictielezer." Als je een kookboek wilt lenen, zegt de computer: "Nee, je ID zegt Fictie." De computer begrijpt niet dat je een heel mens bent met veel verschillende interesses.
• Het Resultaat: De computer labelde mensen verkeerd, wat leidde tot oneerlijke beslissingen over wie wel en wie geen hulp kreeg.

2. Het "Het Systeem Bespelen" Probleem

• De Tech: De AI voorspelde conflicten op basis van gegevens zoals de grootte van de kuddes en hun bewegingen.
• De Realiteit: Mensen realiseerden zich dat de computer keek. Dus begonnen ze het systeem te misleiden.
• De Analogie: Het is als een student die weet dat de leraar een relatieve beoordeling hanteert. In plaats van te studeren, ontdekt de student precies welke vragen de leraar graag stelt en studeert alleen die onderwerpen.
• Het Resultaat: Herders begonnen hun GPS-halsbanden 's nachts te verbergen of loog over het aantal koeien dat ze hadden. Dit "bespelen" maakte de gegevens van de computer rommelig en minder nauwkeurig. Het systeem werd dommer omdat mensen actief probeerden de computer te slim af te zijn.

3. Het "Stille Opstand" Problement

• De Tech: De AI gebruikte een "risicoscore" (een gekleurde kaart) om te beslissen wie noodhulp kreeg. Als de regen laat kwam, zei de computer: "Het is te riskant om te planten; geen hulp voor jou."
• De Realiteit: De boeren wisten dat de computer ernaast zat, omdat zij de lokale seizoenen beter kenden dan de satelliet. In plaats van met de computer te discussiëren, negeerden ze hem gewoon.
• De Analogie: Stel je een strenge ouder voor die zegt: "Als het regent, mag je niet naar buiten." De kinderen weten dat het slechts een beetje motregen is, dus gaan ze toch naar buiten en doen alsof er niets aan de hand is.
• Het Resultaat: De computer dacht dat alles in orde was (omdat niemand de plantactiviteiten rapporteerde), maar in werkelijkheid waren de boeren hard aan het werk. De computer was blind voor de waarheid omdat de mensen weigerden volgens de rigide regels te spelen.

De Oplossing: Het "Mens-AI Hybride Tribunaal"

Het artikel betoogt dat we niet alleen de code kunnen repareren. We moeten veranderen hoe de computer en de mensen samenwerken. Ze stellen een nieuw systeem voor genaamd een "Mens-AI Assemblage".

Zie dit niet als een robotrechter, maar als een co-piloot systeem.

Ze testten een driestapsoplossing:

1. Participatieve Drempelwaarden (Samen de Regels Bepalen):
   In plaats van dat het techbedrijf bepaalt wat een "gevarenzone" is, hielden ze een workshop met boeren, herders en lokale leiders. Ze pasten de gevoeligheid van de computer samen aan.

• Resultaat: Ze verminderden valse alarmen met 50% omdat de lokale bevolking wist dat de computer te paranoïde was.

2. Publieke Bias-Audits (De Scorekaart Controleren):
   Elke paar maanden controleerden ze publiekelijk of de computer verschillende groepen eerlijk behandelde. Als de computer herders 18% vaker hulp weigerde dan boeren, werd dit direct gemeld.

• Resultaat: Dit dwong het systeem om zijn fouten te corrigeren voordat ze te veel schade aanrichtten.

3. Hybride Tribunalen (De Menselijke Override):
   Ze creëerden een lokale rechtbank bestaande uit gekozen boeren, herders en een tech-expert. Als de computer zei "Geen Hulp", kon deze groep zeggen: "Wacht even, wij weten dat dit gezin echt in nood is. Overschrijf de computer."

• Resultaat: Mensen begonnen het systeem weer te vertrouwen omdat ze wisten dat een mens een computerfout kon herstellen. De samenwerking steeg van 58% naar 79%.

De "Formaliseringsfrontier"

Het artikel introduceert een interessant concept: de "Formaliseringsfrontier".

Stel je voor dat je probeert een recept voor een perfecte stoofpot op te schrijven.

• 0% tot 55%: Je schrijft de ingrediënten en de kooktijd op. Dat helpt erg veel.
• 55%: Je loopt tegen een muur aan. Als je probeert om elk klein detail op te schrijven (de exacte stemming van de chef, de luchtvochtigheid in de keuken, het specifieke merk zout), wordt het recept nutteloos. Het is te rigide.

De onderzoekers ontdekten dat zodra je probeert meer dan 55% van het lokale leven om te zetten in harde data, het systeem het vertrouwen begint te verliezen. Je kunt menselijke flexibiliteit niet perfect coderen.

De Kernboodschap

Het artikel concludeert dat je geen succesvol AI-systeem kunt hebben zonder vertrouwen.

• Oude manier: Bouw een snellere, slimmere computer en hoop dat mensen hem gebruiken.
• Nieuwe manier: Bouw een systeem waarbij de computer een hulpmiddel is, maar de mensen de baas zijn. De computer levert data, maar de mensen zorgen voor het oordeel, de eerlijkheid en de context.

De studie bewijst dat 63% van het succes van het systeem afhangt van "Ethische Legitimiteit" (het vertrouwen van de mensen), en niet alleen van hoe snel de computer rekent. Als je het menselijke element negeert, zal de computer uiteindelijk door de mensen worden genegeerd.