Whose Good, Whose Place? The Moral Geography of Agentic AI for Social Good

Technische Samenvatting: "Wien welzijn, wiens plek? De morele geografie van agentische AI voor maatschappelijk goed"

Probleemstelling
Het artikel adresseert een kritieke lacune in de opkomende literatuur over agentische AI voor maatschappelijk goed. Hoewel onderzoekers steeds vaker autonome systemen voorstellen (plannen, coördineren, middelen toewijzen, overtuigen) om de Duurzame Ontwikkelingsdoelstellingen (SDG's) van de Verenigde Naties te bevorderen, impliceert de oproep tot "maatschappelijk goed" niet vanzelfsprekend verantwoordelijkheid jegens de specifieke gemeenschappen die deze systemen beweren te dienen. De auteurs betogen dat het vakgebied lijdt aan contextuele onderbepaaldheid, met name wat betreft geografische focus. Dit gebrek aan specificiteit is niet uniform; het is geconcentreerd in domeinen waar lokale politieke, juridische en culturele contexten het meest cruciaal zijn voor haalbaarheid en legitimiteit. Bovendien bestaat er een aanzienlijke kloof tussen conceptuele voorstellen en real-world implementatie, waarbij het merendeel van de literatuur op het niveau van simulatie of theorie blijft zonder empirische validatie in ingezette settings.

Methodologie
De auteurs voerden een gestructureerd onderzoek uit naar 112 papers gepubliceerd tussen 2015 en 2026 (91% vanaf 2020). Het corpus werd samengesteld aan de hand van een PRISMA-stijl systematische review over vier academische platforms (Google Scholar, ACL Anthology, Semantic Scholar, Elicit), met behulp van zoekopdrachten georganiseerd rondom alle 17 SDG's om retrieval-bias te minimaliseren.

• Annotatieprocedure: Om de schaal van annotatie over acht dimensies te beheren, hanteerden de auteurs een dual-LLM annotatieprocedure met GPT-4o en Llama-3.3-70B, gebruikmakend van identieke prompts met gecontroleerde vocabulaire.
• Menselijke Validatie: Een gestratificeerde steekproef van 50 papers werd handmatig gecodeerd door een menselijke annotator om de LLM-outputs te valideren. Consensuslabels werden samengesteld door menselijke labels voor de steekproef te prioriteren en voor het overige deel de LLM te selecteren met de hoogste mens-LLM overeenstemming (Cohen's $\kappa$).
• Coderingsdimensies: Elke paper werd gecodeerd voor:
  1. Domein
  2. SDG-uitlijning (1–17)
  3. Agent-type (bijv. LLM-agenten, multi-agent systemen)
  4. Autonomieniveau
  5. Status van real-world inzet
  6. Type evaluatie
  7. Agent-doel
  8. Geografische focus (gecodeerd als "Niet gespecificeerd", "Globaal/Breed", of "Concreet")
• Statistische Analyse: Het onderzoek maakte gebruik van beschrijvende statistieken en inferentiële tests (Chi-kwadraattoetsen op onafhankelijkheid, Fisher's exacte toetsen) om relaties te onderzoeken tussen SDG-clusters en geografische specificatie. Sensitiviteitsanalyses werden uitgevoerd met alternatieve SDG-clustertoewijzingen en strikte versus brede definities van geografische codering.

Belangrijkste Bijdragen

1. Gestructureerde Mapping: Het artikel biedt de eerste systematische taxonomie van agentische AI voor maatschappelijk goed, waarbij het vakgebied wordt in kaart gebracht over domeinen, architecturen, autonomieniveaus en evaluatietypes.
2. Identificatie van Moreel-Geografische Asymmetrie: De auteurs identificeren een niet-uniform patroon van contextuele abstractie. Waar gezondheids- en ecologische domeinen vaak een geografische context specificeren, falen institutionele en sociaal-beleidsdomeinen (specifiek die welke zijn uitgelijnd met SDG 16: Vrede, Rechtvaardigheid en Sterke Instellingen) overweldigend om dit te doen.
3. Agenda voor Verantwoordelijkheid: Het artikel stelt een minimale rapportagestandaard voor en identificeert vijf specifieke verantwoordelijkheidskloven die de volwassenheid van het vakgebied beperken, en pleit voor een verschuiving van "mogelijkheid" naar "verantwoordelijke socio-technische interventie".

Resultaten

• Geografische Onderbepaaldheid: 73% (82/112) van de papers specificeert geen geografische context. Dit ontbreken is scherp ongelijk verdeeld.
  • Papers die zijn uitgelijnd met gezondheids- of fysieke/ecologische SDG's specificeren een geografie 37–40% van de tijd.
  • Papers die zijn uitgelijnd met institutionele en sociaal-beleids SDG's specificeren een geografie slechts 13% van de tijd (brede codering) en 0% onder strikte codering (die "globale" claims uitsluit).
  • SDG 16 is het meest gedekte doel in het corpus (39 papers) maar heeft het laagste percentage geografische specificatie (13% breed; 2,6% strikt).
  • Statistische analyse bevestigt dat deze asymmetrie significant is ($\chi^2(2) = 8,78, p = .012$) en robuust is in zeven van de acht sensitiviteitsconfiguraties.
• Kloof tussen Voorstel en Praktijk: Slechts 25% (28/112) van de papers rapporteert enige real-world inzet of kleinschalige test. De overige 75% is conceptueel of uitsluitend simulatie.
  • Deze kloof is vakgebiedsbreed, niet gelokaliseerd tot specifieke architecturen of periodes. Papers die een geografie noemen, worden niet vaker ingezet dan die welke dat niet doen. Post-2023 LLM-agent papers worden niet minder vaak ingezet dan eerdere multi-agent werk.
• Evaluatie-tekorten: Evaluatiepraktijken spiegelen de inzetkloof. 36 papers zijn conceptuele studies en 30 zijn simulaties. Slechts 5 rapporteren veldstudies.
• Ambiguïteit rond Autonomie: De overeenstemming tussen verschillende LLM's over het "Autonomieniveau" was laag ($\kappa = 0,56$), wat aangeeft dat het vakgebied geen precieze definities mist voor de grens tussen door het systeem geïnitieerde en door mensen geautoriseerde actie.

Betekenis en Aanspraken
Het artikel stelt dat de huidige koers van het vakgebied institutioneel goed als universeel behandelt op een manier waarop het gezondheids- of ecologisch goed niet behandelt. Deze "morele abstractie" is ethisch problematisch omdat institutionele interventies (bestuur, justitie, beleid) sterk afhankelijk zijn van lokale politieke en juridische contexten. Door de gemeenschappen of plaatsen waar deze systemen dienen niet bij naam te noemen, verduistert de literatuur machtsdynamieken en verantwoordelijkheid.

De auteurs betogen dat het vakgebied voorbij moet gaan aan de vraag "wat agenten kunnen doen" naar de vraag "wat agentische AI voor maatschappelijk goed verschuldigd is aan de mensen en plaatsen namens wie het is gebouwd". Zij stellen dat toekomstig werk moet:

1. Doelcontexten specificeren (gemeenschappen, instellingen, settings).
2. Bewijs matchen aan claims (bijv. veldstudies voor claims van gemeenschapsvoordeel).
3. Betrokken stakeholders vroeg betrekken in het ontwerpproces.
4. Architecturale complexiteit en autonomieniveaus expliciet rechtvaardigen.
5. Mislukkingen en niet-inzettingen documenteren om collectief leren mogelijk te maken.

Het artikel concludeert dat uitbreiding in het aantal voorstellen niet gelijkstaat aan volwassenheid; ware volwassenheid vereist contextspecifieke, participatieve en verantwoorde systemen.