Voices in the Loop: Mapping Participatory AI
Dit artikel presenteert de opbouw van een open, interactieve atlas en een reproduceerbaar protocol voor het in kaart brengen van participatieve AI-initiatieven, waarbij geografische en thematische concentraties in bestaande inspanningen worden blootgelegd en tegelijkertijd een levend raamwerk wordt vastgesteld ter ondersteuning van vergelijkend onderzoek, beleidsleren en gemeenschapscontrole.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je probeert een uitgestrekte, mistige archipel van eilanden in kaart te brengen. Elk eiland staat voor een project waarbij mensen samen met de gemeenschappen die ze raken, kunstmatige intelligentie (AI) proberen te bouwen. Sommige eilanden zijn goed verlicht en hebben duidelijke kaarten; andere zijn gehuld in nevel, of hun kaarten zijn zoekgeraakt.
Dit artikel, "Stemmen in de Lus: Participatieve AI in Kaart Brengen," gaat over het bouwen van een levende, interactieve atlas om ons te helpen deze eilanden duidelijk te zien. De auteur, Rashid Mushkani, betoogt dat hoewel veel mensen claimen aan AI "te participeren", we geen helder beeld hebben van wie wat doet, waar en hoe effectief.
Hieronder volgt een uiteenzetting van de reis van het artikel, met behulp van eenvoudige analogieën:
1. Het Probleem: Een Verspreide Bibliotheek
Stel je een bibliotheek voor waar boeken over "gemeenschaps-AI-projecten" overal verspreid liggen. Sommige bevinden zich in overheidsarchieven, andere in kelders van universiteiten, sommige zijn slechts blogposts, en weer andere zijn geschreven in talen die moeilijk te doorzoeken zijn.
- Het Probleem: Omdat de informatie zo gefragmenteerd is, kunnen onderzoekers en beleidsmakers projecten niet vergelijken. Ze kunnen niet zeggen of een project in Kenia vergelijkbaar is met een in Canada, of of een project mensen daadwerkelijk een echte stem gaf in beslissingen, of of het slechts "participatie-was" was (doen alsof je luistert zonder iets daadwerkelijk te veranderen).
- Het Doel: De auteur wilde deze verspreide boeken verzamelen, ordenen en op één interactieve kaart plaatsen.
2. De Oplossing: De "AI-Atlas" Bouwen
De auteur bouwde een open repository en interactieve atlas met 131 specifieke projecten. Denk aan deze atlas niet als een statisch fotoboek, maar als een levende wiki die kan worden bijgewerkt, gecorrigeerd en waarover kan worden gedebatteerd.
- Het Recept (Het Protocol): De auteur raakte niet zomaar op welke projecten ze moesten opnemen. Ze creëerden een strikt, herhaalbaar recept (een protocol) voor het vinden van projecten, het controleren of ze echt zijn, en het organiseren van de data.
- De Filter: Ze namen alleen projecten op waarbij een AI-systeem daadwerkelijk werd gebouwd of gebruikt, EN waarbij er bewijs was dat gewone mensen (stakeholders) een echte stem hadden in hoe die AI werd ontworpen of bestuurd. Als een project AI alleen gebruikte om een vergadering te leiden, telde het niet mee.
- De Kaart: Ze plotten deze 131 projecten op een wereldkaart, met notities over details zoals:
- Waar het plaatsvond (Geografie).
- Wie erbij betrokken was (Gemeenschapsgroepen, universiteiten, NGO's).
- Wanneer in het proces mensen betrokken waren (Helpden ze het probleem definiëren? Of keken ze alleen naar het eindproduct?).
3. Wat de Kaart Onthulde (De Bevindingen)
Toen de auteur naar de voltooide kaart keek, kwamen vier hoofdpatronen naar voren, als onderscheidende weerspatronen op de archipel:
- De "Rijke" Buurten: De meeste gedocumenteerde projecten zijn geconcentreerd in een paar rijke landen, specifiek de Verenigde Staten, het Verenigd Koninkrijk, Canada en Kenia.
- De Metafoor: Het is alsof je een wereldkaart hebt waarop de meeste straatlantaarns in Noord-Amerika en Europa staan. Dit betekent niet dat AI-participatie alleen daar plaatsvindt, maar het betekent wel dat die plaatsen de enige zijn met duidelijke, zoekbare "straatborden" (documentatie).
- De "Voordoor" vs. De "Keuken": De meeste participatie vindt plaats aan het begin (het definiëren van het probleem) of aan het eind (het evalueren van de resultaten). Weinig mensen zijn betrokken in het midden (het daadwerkelijk trainen van het AI-model).
- De Metafoor: Stel je een restaurant voor. Mensen worden uitgenodigd om te helpen het menu te kiezen (probleemformulering) en om het eten te proeven (evaluatie). Maar bijna niemand wordt uitgenodigd in de keuken om het maal te helpen bereiden (modelontwikkeling).
- Het "Wie" en "Hoe": De meest voorkomende vormen van participatie zijn door de gemeenschap geleide initiatieven en co-ontwerp (samenwerken).
- De Ontbrekende Pagina's: Veel informatie ontbreekt. Voor veel projecten weten we niet wanneer ze eindigden, wie alle partners waren, of of er een tweede bron is om het verhaal te bevestigen. Het is alsof je een biografie leest waarvan de helft van de pagina's is uitgescheurd.
4. De "Levende" Eigenschap: Waarom Deze Atlas Anders Is
De meeste onderzoeksartikelen zijn als een snapshot: ze maken op één moment een foto van data en publiceren deze. Dit artikel betoogt dat een atlas van AI een levend organisme moet zijn.
- Correctiekanalen: Als een projectteam zegt: "Hé, jullie hebben onze details verkeerd," of "We hebben mensen wel degelijk laten stemmen over het model," dan staat de atlas hen toe een correctie in te dienen.
- Geschillenzones: Als een gemeenschap zegt: "Dit project claimt participatief te zijn, maar we werden genegeerd," dan heeft de atlas een plek om dat geschil vast te leggen.
- Versiebeheer: Net als software-updates brengt de atlas "versies" uit. Dit betekent dat onderzoekers een specifieke versie van de kaart kunnen citeren, wetende precies welke data op dat moment was opgenomen, zelfs als de kaart later verandert.
5. Het Blauwdruk voor de Toekomst
Tot slot stelt het artikel een besturingskader voor. Het suggereert dat AI pas echt participatief kan zijn als de tools die we gebruiken om het te volgen (zoals deze atlas) ook participatief zijn.
- De Regel: Documentatie mag niet alleen een lijst met feiten zijn; het moet een systeem zijn dat betwistbaarheid (het uitdagen van feiten), provenance (weten waar de info vandaan komt) en gemeenschapsrechten (gemeenschappen in staat stellen gevoelige informatie te verbergen indien nodig) mogelijk maakt.
Samenvatting
Kortom, dit artikel zegt: "We kunnen niet repareren wat we niet zien, en we kunnen niet verbeteren wat we niet kunnen vergelijken."
De auteur heeft een dynamische, door de menigte gegenereerde kaart van 131 AI-projecten gebouwd om ons te laten zien waar participatie plaatsvindt, waar het ontbreekt en waar de documentatie zwak is. Het ultieme doel is niet alleen om projecten te tellen, maar om een systeem te creëren waarin de "stemmen" in de AI-lus niet alleen gehoord, maar ook vastgelegd, geverifieerd en in de loop van de tijd in staat worden gesteld het register te corrigeren.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.