Feature Selection for Multidimensional Poverty Measurement: Taming Indicator Dimensionality

Armoede is lang gemeten aan de hand van één enkel getal: hoeveel geld een persoon of gezin heeft. Als hun inkomen onder een bepaalde lijn zakt, worden ze als arm geteld. Maar dit nauwe perspectief mist de realiteit van ontbering. Een gezin kan genoeg hebben om voedsel te kopen, maar een tekort hebben aan schoon water, elektriciteit of toegang tot een arts. Om dit vollediger beeld te vatten, hebben sociale wetenschappers en beleidsmakers zich gericht op multidimensionale armoedemeting. In plaats van naar slechts één ding te kijken, volgen ze tientallen verschillende indicatoren—zoals of kinderen naar school gaan, of het huis een toilet met doorspoelfunctie heeft, of dat volwassenen lijden aan chronische ziekten. Door deze vele signalen te combinerend, kunnen ze identificeren wie werkelijk op meerdere manieren tekortkomingen ervaart. Deze benadering is nu de wereldwijde standaard voor het begrijpen van armoede, gebruikt door organisaties zoals de Verenigde Naties om hulp en beleid in meer dan honderd landen te sturen. Toch, naarmate deze lijsten met indicatoren langer worden en vaak oplopen tot in de honderden, ontstaat er een nieuw probleem. Het verzamelen en verwerken van zoveel gegevens wordt ongelooflijk duur en traag, waardoor het voor overheden moeilijk wordt om de armen effectief in realtime te monitoren.

Een onderzoeker aan de Fudan Universiteit in China, Kan Sun, zette zich in om deze praktische flessenhals op te lossen. De vraag was niet of we veel aspecten van het leven moesten meten, maar of we echt elk afzonderlijk aspect hoefden te meten om een nauwkeurig resultaat te krijgen. Sun vroeg zich af of er een manier was om het overtollige gewicht van deze enorme lijsten te verwijderen zonder het vermogen te verliezen om de armen correct te identificeren. Om het antwoord te vinden, maakte de onderzoeker gebruik van instrumenten die gewoonlijk zijn voorbehouden aan kunstmatige intelligentie en machine learning. Specifiek gebruikte de studie een reeks technieken die "feature selection" worden genoemd. In eenvoudige termen zijn dit methoden die werken als een zeef, die door een grote berg gegevens sorteert om de weinige items te vinden die de belangrijkste informatie bevatten en de rest als redundant wegwerpt. Het doel was om te zien of een kleine, zorgvuldig gekozen groep indicatoren hetzelfde werk kon doen als een veel grotere, onhandelbare set.

De studie testte deze ideeën met behulp van een enorme enquête onder meer dan 42.000 huishoudens in India, die 15 verschillende tekenen van ontbering bij onderwijs, gezondheid en levensstandaard bijhield. De onderzoeker paste vijf verschillende machine-learning algoritmen toe op deze gegevens. Elk algoritme fungeerde als een verschillende rechter, waarbij de 15 indicatoren rangschikte op basis van hoe nuttig ze waren voor het voorspellen of een huishouden arm was. De resulten waren opmerkelijk. De algoritmen waren het er unaniem over eens dat een zeer kleine subset van indicatoren bijna alle noodzakelijke informatie bevatte. Helemaal bovenaan de lijst stond het onderwijs van vrouwen. De gegevens toonden aan dat weten of de meest geschoolde vrouw in een huishouden minder dan zes jaar onderwijs had genoten, voldoende was om armoede te voorspellen met een nauwkeurigheid die bijna identiek was aan de volledige set. Als een vrouw in het huis dit basisniveau van onderwijs miste, was het huishouden bijna zeker op meerdere dimensies arm. Als zij dit wel had, was het huishouden bijna zeker niet arm.

Naast het onderwijs van vrouwen bleken ook enkele andere factoren, zoals de gezondheid van volwassenen en de kern van de levensstandaard, zeer informatief. In contrast hiermee bleken de indicatoren die op papier belangrijk leken, nutteloos voor het onderscheiden van de armen van de niet-armen. Zo werd computerbezit onderaan de lijst gerangschikt. Dit was niet omdat computers onbelangrijk zijn, maar omdat bijna niemand in de enquête een computer bezat; aangezien bijna iedereen tekortkwam aan dit item, kon het niet helpen om een arm gezin te onderscheiden van een iets minder arm gezin. Op dezelfde manier was elektriciteit zo algemeen dat de afwezigheid ervan zeldzaam was, wat het een slecht instrument maakte voor sortering. De studie vond dat door de minst nuttige indicatoren te schrappen, de onderzoekers de lijst van 15 items konden terugbrengen naar 8 zonder veel nauwkeurigheid te verliezen; het systeem kon de armen nog steeds met bijna identieke nauwkeurigheid identificeren. De nauwkeurigheid neemt echter pas scherp af wanneer er minder dan 5 indicatoren overblijven. Deze bevinding bleef standhouden, zelfs toen de onderzoekers de regels veranderden voor wat als "arm" werd beschouwd of de weging van verschillende categorieën aanpasten.

Om er zeker van te zijn dat dit niet slechts een eigenaardigheid van de Indiase data was, herhaalde de onderzoeker de oefening met een vergelijkbare enquête uit Zuid-Afrika. De resultaten waren bijna identiek. Ook in dat land vormden onderwijs en gezondheid een kleine, krachtige kern die het gewicht van het gehele meetsysteem droeg, terwijl een groot aantal indicatoren van de levensstandaard redundant bleek te zijn. De studie bevestigde dat dit patroon geen toevalstreffer is van één dataset, maar een structureel kenmerk van hoe armoede zich in deze regio's manifesteert.

Het is cruciaal om te begrijpen wat deze studie wel en niet zegt. Het onderzoek betoogt niet dat we moeten stoppen met het meten van zaken zoals computerbezit of de kwaliteit van muren omdat ze onbelangrijk zijn voor het menselijk welzijn. De keuze welke dimensies worden opgenomen in een armoetsmeting is een morele en politieke beslissing, gebaseerd op wat een samenleving waardeert. Deze studie maakt die keuzes niet. In plaats daarvan fungeert het als een praktisch hulpmiddel voor de mensen die die keuzes al hebben gemaakt. Het laat hen zien dat wanneer zij hebben besloten om 15 dingen te meten, ze misschien niet de gegevens van alle 15 hoeven te verzamelen om een betrouwbare telling van de armen te krijgen. Door te identificeren welke indicatoren statistisch redundant zijn, biedt de studie een manier om monitoringssystemen voor armoede goedkoper, sneller en gemakkelijker te beheren zonder aan nauwkeurigheid in te boeten. De uiteindelijke beslissing over wat te meten blijft bij beleidsmakers, maar zij kunnen dat nu doen met een heldere kaart van welke indicatoren essentieel zijn en welke slechts extra zijn.