Cleaning the Chaos: Building a Structured Corpus from Rajya Sabha Debates

In het uitgestrekte archief van menselijk bestuur bezit het gesproken woord een unieke macht. Wanneer wetgevers van een natie samenkomen om te debatteren over wetten, budgetten en crises, creëren zij een levend verslag van hoe een samenleving denkt, argumenteert en haar toekomst beslist. Voor onderzoekers zijn deze transcripten een schatkist; ze bieden een manier om de hartslag van een democratie te meten, de opkomst en ondergang van politieke zorgen te volgen en de emotionele toon van het openbaar beleid te begrijpen. Het omzetten van deze gesproken woorden naar iets wat een computer kan bestuderen, is echter vaak een monumentale taak. De ruwe verslagen zijn frequent slordig, begraven in gescande documenten, gemengd tussen verschillende talen en verontrust door procedurele ruis die de werkelijke argumenten vertroebelt. Om zin te geven aan deze chaos, gebruiken wetenschappers een vakgebied genaamd natural language processing, dat machines leert om menselijke tekst te lezen en te begrijpen. Door deze verslagen op te schonen en te organiseren, kunnen onderzoekers grote vragen stellen: Welke kwesties domineren het gesprek? Hoe voelen politici zich erbij? En hoe veranderen deze thema's in de loop van de tijd?

Een onderzoeker aan het Indian Institute of Information Technology in Nagpur heeft deze uitdaging specifiek aangepakt voor de Rajya Sabha, de hogere kamer van het Indiase parlement. Jarenlang waren de officiële verslagen van deze debatten online beschikbaar, maar ze bestaan als ongestructureerde, gescande documenten die moeilijk te analyseren zijn. De onderzoeker zette zich in om een brug te slaan tussen deze ruwe, slordige bestanden en de schone, georganiseerde gegevens die nodig zijn voor moderne computeranalyse. Hun doel was niet alleen om de tekst op te slaan, maar om deze te transformeren tot een gestructureerde bibliotheek waar elke toespraak is geïdentificeerd, schoongemaakt en voorzien van een label voor het hoofdonderwerp. Dit werk creëert een fundamentele dataset die iedereen in staat stelt de geschiedenis van het Indiase politieke discours te bestuderen met krachtige computationele instrumenten.

De reis begon met de verzameling van ruwe gegevens. De onderzoeker raadpleegde de officiële parlementaire website en downloadde duizenden debatverslagen die de periode van 2008 tot 2025 beslaan. Zij concentreerden zich op een specifieke periode waarin de verslagen beschikbaar waren als gestructureerde digitale bestanden, waarbij uiteindelijk meer dan 6.300 documenten werden verzameld. Deze bestanden waren geen eenvoudige tekstdocumenten; het waren gescande afbeeldingen van pagina's, wat betekende dat de tekst gevangen zat in plaatjes. Om de woorden te bevrijden, gebruikte de onderzoeker een technologie genaamd optical character recognition, die fungeert als een digitaal oog dat letters uit een afbeelding kan lezen. Dit proces zette de gescande pagina's om in ruwe tekst, maar het resultaat was verre van perfect. De geëxtraheerde tekst zat vol fouten, herhaalde koppen, paginanummers en fragmenten van zinnen die op zichzelf geen zin maakten.

Het opschonen van deze tekst vereiste een zorgvuldige, stapsgewijze aanpak. De onderzoeker moest de procedurele ruis verwijderen, zoals herhaalde titels en administratieve aantekeningen, om enkel de werkelijk gesproken woorden van de parlementsleden over te houden. Zij moesten ook de puzzel oplossen van wie wat zei. In de ruwe tekst verscheen de naam van een spreker vaak vlak voor een dubbele punt, gevolgd door hun toespraak. De onderzoeker schreef een programma om deze patronen te vinden, waardoor de lange, continue stroom van tekst werd gescheiden in individuele toespraken. Zij verwijderden eerbiedigheidsvormen en herstelden afgebroken regels, om ervoor te zorgen dat elke toespraak een samenhangend blok tekst was dat verbonden was aan een specifiek persoon en een datum. Het resultaat was een enorme, georganiseerde collectie van bijna 95.000 individuele toespraken, bestaande uit bijna 9 miljoen woorden, allemaal klaar voor analyse.

Zodod de tekst schoon was, stond de onderzoeker voor de volgende uitdaging: begrijpen waar deze toespraken over gingen. Omdat de gegevens geen labels hadden, konden zij niet simpelweg het onderwerp opzoeken. In plaats daarvan gebruikten zij een hybride benadering die menselijk redeneren combineerde met statistische groepering. Eerst gebruikten zij een large language model, een type geavanceerd computerprogramma dat getraind is op enorme hoeveelheden tekst, om elke toespraak te lezen en een korte beschrijving van het hoofdonderwerp voor te stellen. Deze suggesties werden vervolgens ingevoerd in een clusteringsysteem, dat vergelijkbare toespraken bij elkaar groepeerde op basis van hun betekenis. De onderzoeker ontdekte dat de toespraken van nature uiteenvielen in ongeveer 47 verschillende groepen. Om deze groepen nog duidelijker te maken, gebruikten zij een statistische methode om de meest voorkomende woorden uit elke groep te extraheren, wat de kernonderwerpen van de discussies onthulde.

De analyse schetste een duidelijk beeld van het parlementaire landschap. De onderwerpen varieerden van brede thema's zoals nationale veiligheid en terrorisme tot specifieke zorgen over landbouw, onderwijs en gezondheidszorg. Sommige clusters richtten zich op de begroting en overheidsfinanciering, terwijl andere gingen over sociale welzijn en armoede. De onderzoeker koppelde duidelijke, menselijk leesbare namen aan deze groepen, zoals "Boeren en Landbouw" of "Medisch en Gezondheid", waardoor een kaart ontstond van de kwesties die het meest belangrijk zijn voor het Indiase parlement. Vervolgens volgden zij hoe deze onderwerpen in de loop van de tijd verschenen, waarbij zij observeerden hoe de focus van de debatten verschoof met de veranderende seizoenen van de politieke kalender en de opkomst van nationale gebeurtenissen.

Om de emotionele toon van deze debatten te begrijpen, analyseerde de onderzoeker ook het sentiment van de toespraken. Omdat de tekst een mix was van Hindi en Engels, en omdat de toespraken vaak erg lang waren, worstelde een enkel computermodel om het juiste antwoord te krijgen. In plaats daarvan combineerde de onderzoeker de oordelen van verschillende modellen, waarbij zij lieten stemmen of een toespraak positief, negatief of neutraal was. Deze ensemble-aanpak leverde een betrouwbaarder resultaat op. De analyse toonde aan dat de overgrote meerderheid van de toespraken als negatief werd geclassificeerd. Deze bevinding suggereert dat het parlementaire discours in India sterk gericht is op kritiek, probleemoplossing en het uiten van zorgen, in plaats van op lof of een positieve inkadering. Het vertrouwen in deze voorspellingen was matig, wat de inherente moeilijkheid weerspiegelt van het interpreteren van formele politieke taal die twee talen mengt en vaak complexe, genuanceerde kwesties behandelt.

Ten slotte testte de onderzoeker of hun nieuwe dataset nuttig was voor toekomstige studies. Zij trainden verschillende machine learning-modellen om het onderwerp van een toespraak te voorspellen op basis uitsluitend van de tekst. De modellen waren in staat om de patronen in de data met een hoge mate van nauwkeurigheid te leren, wat bewees dat de door hen geïdentificeerde onderwerpen consistent en betekenisvol waren. De best presterende modellen waren de modellen die de flow van een zin over de tijd konden onthouden, wat suggereert dat de context van een toespraak cruciaal is voor het begrijpen van het onderwerp. Dit succes bevestigde dat de schoongemaakte en georganiseerde dataset een robuuste bron is, in staat om diepere onderzoeken naar politiek gedrag en beleidstrends te ondersteunen.

Het werk van deze onderzoeker transformeert een chaotisch archief van gescande pagina's in een gestructureerde, doorzoekbare bibliotheek van menselijk denken. Door ongestructureerde verslagen om te zetten in een schone dataset, hebben zij de deur geopend naar een nieuw soort politieke wetenschap, één die de volledige geschiedenis van het parlementaire debat kan analyseren met de snelheid en schaal van een computer. Hoewel de data niet perfect is en de methoden nog in ontwikkeling zijn, legt het fundament dat zij hebben gebouwd de basis waarmee onderzoekers patronen in de ruis kunnen zien. Het biedt een manier om de geschiedenis van de debatten van een natie te zien ontvouwen, niet slechts als een verzameling woorden, maar als een gestructureerd verhaal van hoe een democratie debatteert, beslist en vooruitgaat.