Technische Samenvatting: Schalen van Participatie in Modulaire AI-systemen

Probleemstelling

Huidige Large Language Models (LLM's) worden voornamelijk ontwikkeld door een klein aantal private bedrijven als gecentraliseerde, monolithische entiteiten. Deze "top-down" benadering creëert een structurele mismatch tussen de uniforme aard van deze modellen en de veelzijdige diversiteit van menselijke kennis, redenering en waarden. De opaciteit van deze black-box systemen ondermijnt het publieke vertrouwen, terwijl hun training op vertekende data en benchmarks voorkomt dat ze de pluralistische behoeften van de samenleving geloofwaardig kunnen vertegenwoordigen. Bovendien beperkt de afhankelijkheid van enkele, massieve modellen de mogelijkheid om diverse, gespecialiseerde prioriteiten van verschillende belanghebbenden te integreren. Het artikel betoogt dat voor AI die beslissingen medieert die de hele mensheid aangaan, de transitie van gecentraliseerde silo's naar een open, bottom-up en collaboratief paradigma noodzakelijk is.

Methodologie

De auteurs stellen Scaling Participation voor, een paradigma waarbij modulaire AI-systemen bottom-up worden geconstrueerd door de bijdragen van diverse belanghebbenden. De methodologie bestaat uit twee primaire fasen:

1. Het oproepen van participatie

De auteurs hebben een selectie samengesteld van 61 taalmodellen die zijn vrijgegeven als academische onderzoeksartefacten. Deze modellen zijn bijgedragen door onderzoekers van 236 academische laboratoria wereldwijd, wat diverse architecturen, trainingsdomeinen en onderzoeksagenda's vertegenwoordigt die verder gaan dan commerciële belangen. Deze modellen dienen als gespecialiseerde, modulaire bouwstenen in plaats van pogingen om één enkel verenigd fundamenteel model te creëren.

2. Het orkestreren van participatie

De studie maakt gebruik van 14 verschillende collaboratieve algoritmen over drie niveaus van informatie-uitwisseling om deze diverse modellen te integreren in compositionele systemen:

• API-niveau samenwerking: Richt zich op routering en selectie. Methoden omvatten Prompt Routing, Trained Router, Graph Routing en Switch Generation, waarbij een controller de kandidaat-modellen selecteert of tussen hen schakelt op basis van de input.
• Tekstniveau samenwerking: Bet involves de uitwisseling van gegenereerde tekst. Methoden omvatten Multi-Agent Refine (iteratieve discussie en verfijning), Multi-Agent Finetuning, LLM Blender (rangschikken en fuseren van antwoorden), AggLM (reinforcement learning voor aggregatie), Sparta Alignment (competitieve reputatie-gebaseerde alignment) en Heterogeneous Swarms (DAG-gebaseerde orchestratie).
• Gewichts-niveau samenwerking: Bet involves rekenkundige operaties op modelparameters. Methoden omvatten Dare-Ties (pruning en sign consensus), Greedy Soup (iteratieve gewicht-averaging), Weight Extrapolation (ExPO), en Model Swarms (particle swarm optimization in de parameterruimte).
  • Noot: Voor gewichts-niveau methoden die identieke architecturen vereisen, hebben de auteurs kennisdistillatie uitgevoerd van de diverse bijgedragen modellen naar een verenigde student-architectuur (Qwen-2.5-7B) om specialisatie te behouden terwijl parameter-merging mogelijk wordt gemaakt.

De experimenten schaalden het aantal participerende modellen van 2 tot 32 binnen deze collaboratieve kaders, waarbij ze werden getest tegen niet-modulaire en niet-participatieve baselines.

Belangrijkste Resultaten

Uitgebreide evaluaties over 5 domeinen (General QA, Reasoning, Knowledge, Safety, Instruction Following) en 15 taken leidden tot de volgende bevindingen:

• Prestatie-superioriteit: Participatieve AI-systemen presteerden tot gemiddeld 15,4% beter dan niet-modulaire en/of niet-participatieve baselines. Opvallend genoeg presteerden de beste collaboratieve systemen beter dan de grootste monolithische baseline (Llama 3.1 405B), die 2,38 keer groter is dan de gecombineerde omvang van alle 32 participerende modellen.
• Schaalvergrotingstrend: De prestaties verbeterden consistent naarmate het aantal participerende modellen toenam van 2 naar 32, met een gemiddelde verbetering van 28,78% over het gehele schaalbereik.
• Diversiteit als Drijver: Gecontroleerde experimenten toonden aan dat de verbeteringen niet louter toe te schrijven waren aan toegenomen rekenkracht, maar significant werden gedreven door modeldiversiteit. Systemen gebouwd met modellen van diverse instituten en internationale bronnen vertoonden grotere prestatiewinsten (tot 18,8% en 18,0% respectievelijk) vergeleken met minder diverse composities.
• Collaboratieve Emergentie: De systemen vertoonden emergente capaciteiten en losten meer dan 15% van de problemen op waarbij alle individuele participerende modellen faalden. Dit suggere houdt aan dat samenwerking de systemen in staat stelt te generaliseren voorbij de capaciteiten van hun individuele componenten.
• Representatie van Menselijke Diversiteit: Participatieve systemen toonden een uniek voordeel in het vertegenwoordigen van menselijke diversiteit, waarbij ze monolithische modellen met 21,58% versloegen op taken met betrekking tot culturele contexten en waarden (CultureBench, Value Kaleidoscope), een grotere marge dan op algemene nutstaken.
• Compositionele versus Individuele Sterkte: De studie vond geen correlatie tussen de individuele kracht van een model en zijn "compositionele kracht" (zijn bijdrage aan een collaboratief systeem). Dit geeft aan dat optimalisatie voor individuele prestaties niet garandeert dat het nuttig is in een participatief kader.
• Voordeel voor Participant: Evaluaties op de oorspronkelijke prioriteiten van de model-bijdragers bevestigden dat de compositionele systemen de prestaties verbeterden op de specifieke taken en domeinen die de bijdragers oorspronkelijk targetten, wat een tastbaar stimulans voor participatie biedt.

Betekenis en Claims

Het artikel claimt een technische fundering te bieden voor de transitie van AI-ontwikkeling van een monolithische status quo naar een open, gedemocratiseerde en collaboratieve toekomst. De betekenis ligt in verschillende gebieden:

1. Paradigmaverschuiving: Het demonstreert dat "bottom-up" AI, gebouwd uit diverse, gespecialiseerde bijdragen, in staat is om centrale, state-of-the-art monolithische modellen te evenaren en te overtreffen.
2. Pluralistische Alignment: Het biedt een mechanisme om de rijkdom van menselijk talent en behoeften te reflecteren in AI-systemen, waarmee het democratische legitimiteitsgat in huidige AI-governance wordt geadresseerd.
3. Nieuwe Evaluatiemetriek: Het introduceert het concept van "compositionele kracht", en stelt dat toekomstig AI-onderzoek modellen moet evalueren op basis van hun nut binnen collaboratieve systemen in plaats van uitsluitend op individuele benchmarks.
4. Haalbaarheid: Door gebruik te maken van bestaande open-source modellen en slechts toestemming voor gebruik te vereisen (in plaats van wijzigingen in workflows), wordt de aanpak gepresenteerd als een laagdrempelige, direct acteerbare weg naar participatieve AI.

De auteurs concluderen dat het schalen van participatie niet alleen een technische optimalisatie is, maar een noodzakelijke evolutie om AI-systemen te bouwen die transparanter, pluralistischer en beter in staat zijn om de diverse behoeften van de samenleving te dienen.