💬 NLP

Merge and Conquer: Instructing Multilingual Models by Adding Target Language Weights

Dit onderzoek toont aan dat het samenvoegen van een instructie-tuned LLM met taalspecifieke basismodellen een efficiënt en computatievriendelijk alternatief biedt om instructiegedrag in laag-resource talen zoals Baskisch, Catalaans, Galicisch en Spaans te realiseren zonder de noodzaak van uitgebreide taalspecifieke instructiedata of herhaald fijnafstemmen.

Oorspronkelijke auteurs: Eneko Valero, Maria Ribalta i Albado, Oscar Sainz, Naiara Perez, German Rigau

Gepubliceerd 2026-03-31

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Eneko Valero, Maria Ribalta i Albado, Oscar Sainz, Naiara Perez, German Rigau

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Probleem: De Taalbarrière in de AI-Wereld

Stel je voor dat je een superintelligente robot hebt die alles weet over de wereld, maar die alleen perfect spreekt en begrijpt in het Engels. Deze robot is getraind op enorme hoeveelheden Engelse boeken en websites.

Als je hem nu vraagt om in het Baskisch, Galicisch of Catalaans te praten (taalvarianten die minder vaak op internet voorkomen), stuit je op twee grote problemen:

Geen woordenboek: De robot kent deze talen slecht omdat er te weinig data over is.
Geen instructieboekje: Zelfs als je de robot de taal leert, weet hij nog niet hoe hij moet luisteren naar specifieke commando's (zoals "schrijf een gedicht" of "samenvat dit"). Om dat te leren, heb je duizenden voorbeelden nodig van mensen die in die taal instructies geven. Dat is heel duur en moeilijk te vinden.

De traditionele oplossing? De robot opnieuw "opvoeden" met duizenden nieuwe boeken en instructies. Dit kost echter een enorme hoeveelheid rekenkracht (en geld), alsof je een hele fabriek moet herbouwen voor elke nieuwe taal.

De Oplossing: De "Model-Merge" (Het Koppelen van Breinen)

De onderzoekers van deze paper hebben een slimme, goedkopere manier bedacht. Ze noemen het "Merge and Conquer" (Samenvoegen en Veroveren).

In plaats van de robot opnieuw te trainen, doen ze het volgende:

Ze nemen de originele, slimme robot (die goed is in instructies, maar slecht in de lokale taal).
Ze nemen een gespecialiseerde robot die perfect die lokale taal spreekt, maar die geen instructies kent (hij is alleen getraind op boeken in die taal).
Ze voegen deze twee breinen samen.

De Analogie: Het Koken van een Soep
Stel je voor dat je een meesterkok hebt die fantastische soep kan maken, maar alleen met Engelse ingrediënten. Je wilt dat hij ook soep kan maken met Baskische ingrediënten.

De oude manier: Je laat de meesterkok maandenlang in de Baskische keuken werken, proeft elke dag, en leert hem stap voor stap. Dit kost tijd en geld.
De nieuwe manier (Merge): Je neemt de meesterkok en een Baskische boer (die de ingrediënten kent). Je "mengt" hun kennis direct. De meesterkok behoudt zijn kookvaardigheid (instructies), maar krijgt direct de kennis van de boer (de taal) in zijn hoofd. Het resultaat is een kok die zowel kan koken als Baskisch spreekt, zonder dat hij maandenlang opnieuw hoeft te leren.

Wat hebben ze ontdekt?

De onderzoekers hebben dit getest met vier Iberische talen (Baskisch, Galicisch, Catalaans, Spaans) en twee populaire AI-modellen (Llama en Qwen). Hier zijn de belangrijkste bevindingen:

Het werkt! Door de twee modellen simpelweg "te mixen" (wiskundig de gewichten van hun hersenen te middelen), kreeg de instructie-robot plotseling vloeiend de lokale taal onder de knie.
Sparen van energie: Het kostte een fractie van de rekenkracht vergeleken met het opnieuw trainen van het model. Het is alsof je een bestaande auto een nieuwe motor geeft in plaats van een hele nieuwe fabriek te bouwen.
Meerdere talen in één: Je kunt zelfs meerdere "taal-specialisten" (bijvoorbeeld één voor Baskisch en één voor Galicisch) tegelijkertijd mixen met de instructie-robot. Zo krijg je één robot die meerdere talen tegelijk goed spreekt.
De "Recept" is belangrijk: Niet elke manier van mixen werkt even goed.
- Sommige methoden werken als een soep: je giet alles bij elkaar en roert.
- Andere methoden zijn als een chef die alleen de beste ingrediënten selecteert en de rest weggooit.
- De onderzoekers ontdekten dat er geen "één perfecte methode" is voor alle talen. Voor Baskisch werkt de ene methode het beste, voor Spaans weer een andere. Het is een beetje zoals koken: voor elke taal moet je het recept iets aanpassen.

Waarom is dit belangrijk?

Voor talen die minder vaak worden gesproken (zoals Baskisch), is dit een revolutie.

Democratisering: Kleine gemeenschappen of onderzoeksgroepen die niet over miljoenen dollars aan computerkracht beschikken, kunnen nu toch hun eigen AI-modellen maken.
Toekomstbestendig: Als er morgen een nog slimmere AI-robot wordt uitgebracht, hoeven ze niet opnieuw te beginnen. Ze hoeven alleen maar die nieuwe robot te "mixen" met hun taal-specialist.

Conclusie

Kortom: In plaats van AI-modellen moeizaam en duur opnieuw te trainen voor elke nieuwe taal, kun je ze nu simpelweg "samenvoegen" met bestaande taal-experts. Het is een slimme, goedkope en snelle manier om AI voor iedereen toegankelijk te maken, ongeacht welke taal je spreekt.

Het is alsof je een universele vertaler niet meer hoeft te bouwen, maar gewoon een slimme vertaler en een lokale gids aan elkaar koppelt.

Probleemstelling

Grote Taalmodellen (LLMs) vertonen nog steeds een sterke bias naar het Engels en presteren vaak slecht in talen met weinig bronnen (low-resource languages), zoals Baskisch, Galicisch en Catalaans. Bestaande aanpassingsmethoden, zoals continual pre-training (voortgezette vooropleiding) en fine-tuning met instructiedata, vereisen aanzienlijke rekenkracht en grote hoeveelheden hoogwaardige instructie-data in de doeltaal. Voor gemeenschappen met minder bronnen is het verzamelen van dergelijke data en het uitvoeren van dure trainingcycli vaak onhaalbaar. Bovendien moet bij elke release van een krachtiger instructie-model het aanpassingsproces opnieuw worden doorlopen, wat een continue computercost met zich meebrengt.

Methodologie

De auteurs onderzoeken of model merging (samenvoegen van modellen) een efficiënt alternatief biedt om instructie-vaardigheden naar een specifieke taal te transfereren zonder opnieuw te hoeven trainen. De methode volgt een drie-staps proces:

Voortgezette vooropleiding (Continual Pre-training): Er worden taalspecifieke base-modellen getraind voor vier Iberische talen (Baskisch, Galicisch, Catalaans en Spaans). Om eerlijke vergelijkingen mogelijk te maken, wordt de corpusgrootte voor alle talen beperkt tot een vergelijkbaar aantal tokens (ongeveer 3,5 tot 3,8 miljard tokens). Een klein Engels corpus wordt toegevoegd om "catastrophic forgetting" (het vergeten van algemene kennis) te voorkomen.
Merging (Samenvoegen): Het getrainde taalspecifieke base-model wordt samengevoegd met een bestaand, algemeen instructed model (bijv. Llama 3.1 Instruct of Qwen 3 Instruct). Hierbij worden de gewichten van de twee modellen geïnterpoleerd.
Evalueringsstrategie: De auteurs testen verschillende merging-technieken:
- Linear Merging: Een eenvoudige gewogen lineaire interpolatie van de parameters.
- Task Arithmetic: Het optellen van "task vectors" (het verschil tussen het instructie-model en het base-model) aan het base-model.
- DARE (Drop And REscale): Het willekeurig weglaten en herschalen van parameters om interferentie te verminderen.
- Breadcrumbs: Het filteren van verwaarloosbare en extreme parameter-updates.

Het experiment omvat zowel monolinguale merging (één taal toevoegen aan een instructie-model) als multilinguale merging (meerdere taalspecifieke modellen combineren in één multitaal model).

Belangrijkste Bijdragen

Validatie van Merging voor Low-Resource Talen: Het paper demonstreert dat het mogelijk is om een instructie-LLM een nieuwe taal aan te leren door deze te mergen met een taalspecifiek base-model, zonder dat er specifieke instructie-data in die taal nodig is.
Uitgebreide Analyse: Er wordt een diepgaande analyse uitgevoerd van verschillende merging-technieken en hyperparameters (zoals de weging $w_i$ ) over twee model families (Llama 3.1 en Qwen 3) en vier talen.
Dataset Uitbreiding: De auteurs hebben het IFEval-benchmark (voor het evalueren van instructie-opvolging) vertaald en aangepast voor Baskisch en Galicisch, wat een belangrijke bijdrage is aan de evaluatie van deze minder vertegenwoordigde talen.
Open Source: Alle getrainde base-modellen, instructie-modellen en de nieuwe IFEval-datasets zijn openbaar gemaakt.

Resultaten

De experimenten leverden de volgende inzichten op:

Prestaties op Taalvaardigheid: De gemerged modellen presteren aanzienlijk beter in de doeltaal dan de originele instructie-modellen, en komen vaak in de buurt van de prestaties van modellen die via traditionele joint training (voortgezette pre-training + instructie-tuning) zijn ontwikkeld. Vooral voor de laagste-resource talen (Baskisch, Galicisch) zijn de verbeteringen op benchmarks en machine translation (BLEU-scores) aanzienlijk.
Instructie-opvolging: De resultaten voor instructie-opvolging (gemeten met IFEval) zijn gemengd. Hoewel de modellen de instructie-vaardigheden grotendeels behouden, presteren ze vaak iets slechter dan de oorspronkelijke instructie-baselines. Dit suggereert dat taalvaardigheid en instructie-opvolging niet altijd perfect lineair overdraagbaar zijn via merging.
Merging-Technieken: Er is geen "one-size-fits-all" methode.
- Linear Merging en Task Arithmetic presteren over het algemeen het beste.
- De optimale weging ( $w_i$ ) is cruciaal: een te hoge weging van het taalspecifieke model verbetert de taalvaardigheid maar kan de instructie-opvolging verslechteren. Een bereik van $w_i \in [0.5, 1.0)$ bleek vaak robuust.
- Multilinguale merging (het samenvoegen van meerdere taalspecifieke modellen) resulteert in een gebalanceerd model dat competent is in meerdere talen, hoewel de prestaties per taal iets lager liggen dan bij monolinguale merging.
Efficiëntie: De methode vereist slechts één keer training van het base-model in de doeltaal. Zodra dat beschikbaar is, kan het worden gemerged met elk nieuw, krachtiger instructie-model zonder extra training, wat rekenkosten drastisch verlaagt.

Betekenis en Conclusie

Dit onderzoek toont aan dat model merging een haalbaar, kostenefficiënt en schaalbaar alternatief is voor traditionele aanpassingsmethoden van LLMs voor talen met weinig bronnen. Het biedt gemeenschappen met beperkte rekenkracht de mogelijkheid om state-of-the-art instructie-modellen aan te passen aan hun eigen talen zonder de zware last van volledige fine-tuning-cycli.

Hoewel er nog ruimte is voor verbetering in het behoud van de precisie van instructie-opvolging tijdens het taaltransferproces, opent deze aanpak een nieuwe weg voor het bouwen van meer toegankelijke en multilinguale taalmodellen. De beschikbaarheid van de modellen en datasets versnelt verder onderzoek in dit domein.