💬 NLP

LuxInstruct: A Cross-Lingual Instruction Tuning Dataset For Luxembourgish

Dit artikel introduceert LuxInstruct, een hoogwaardige kruislingse instructie-afstemmingsdataset voor het Luxemburgs die is gecreëerd door gebruik te maken van uitgelijnde gegevens uit het Engels, Frans en Duits om de valkuilen van machinevertaling te vermijden, waardoor zowel de kruislingse afstemming als de generatieve vermogens van het model in deze minderheidstaal worden verbeterd.

Oorspronkelijke auteurs: Fred Philippy, Laura Bernardy, Siwen Guo, Jacques Klein, Tegawendé F. Bissyandé

Gepubliceerd 2026-07-28

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Fred Philippy, Laura Bernardy, Siwen Guo, Jacques Klein, Tegawendé F. Bissyandé

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een superintelligente robot probeert te leren hoe hij met mensen moet praten. In de wereld van de computerwetenschappen wordt dit "Instruction Tuning" genoemd. Beschouw een Large Language Model (LLM) als een briljante maar verlegen student die bijna elk boek in de bibliotheek heeft gelezen, maar niet precies weet hoe hij een specifieke vraag moet beantwoorden zoals: "Schrijf een gedicht over een verdrietige broodrooster." Instruction tuning is het proces waarbij je deze student duizenden voorbeelden laat zien van vragen en perfecte antwoorden, om hem te trainen om instructies op te volgen in plaats van alleen maar feiten op te dreunen.

Er is echter een groot probleem: de meeste van deze trainingsboeken zijn geschreven in het Engels, Frans of Duits. Voor talen die door minder mensen worden gesproken, zoals het Luxemburgs, is de bibliotheek bijna leeg. Om de planken te vullen, proberen onderzoekers Engelse instructies vaak naar de lokale taal te vertalen met behulp van een machinevertaler. Maar dit is alsof je iemand probeert te leren hoe je Italiaans kookt door een recept woord voor woord vanuit het Engels te vertalen; de machine kan de culturele "specerijen", de lokale idiomen of de specifieke manier waarop een grootmoeder zou zeggen "zachtjes laten pruttelen" missen. Het resultaat is een robot die de taal spreekt, maar robotachtig, onhandig of cultureel verward klinkt. Dit artikel duikt in hoe we dit voor het Luxemburgs kunnen oplossen zonder te vertrouwen op die onhandige machinevertalingen.

De onderzoekers achter deze studie, werkzaam aan de Universiteit van Luxemburg en het Luxemburg Institute of Science and Technology, besloten een gloednieuw trainingsdataset genaamd LUXINSTRUCT te bouwen. In plaats van Engelse instructies blindelings naar het Luxemburgs te vertalen, kozen zij voor een slimme, kruislingse aanpak. Ze verzamelden hoogwaardige, door mensen geschreven inhoud in het Luxemburgs — zoals artikelen uit Wikipedia, nieuwsberichten en woordenboekvermeldingen — en vroegen vervolgens een krachtige AI om de instructies in het Engels, Frans of Duits te schrijven, terwijl de antwoorden in perfect, natuurlijk Luxemburgs bleven.

Denk aan een kookles waarbij de leraar Engels spreekt, maar de studenten aan het leren zijn om een traditioneel Luxemburgs gerecht te maken. De leraar geeft het recept en de stappen in het Engels (de instructie), maar de studenten oefenen met het maken van het gerecht en het beschrijven van de smaak in hun eigen moedertaal, het Luxemburgs (de output). Omdat de "antwoorden" afkomstig zijn van echte menselijke bronnen in plaats van een machinevertaler, behoudt de taal haar natuurlijke smaak, culturele nuances en correcte grammatica. Het team creëerde meer dan 391.000 van deze kruislingse paren, plus nog eens 145.000 voorbeelden waarbij zowel de vraag als het antwoord in het Luxemburgs waren.

Toen ze deze nieuwe methode testten, waren de resultaten verrassend goed. Ze ontdekten dat het trainen van de robot met deze gemengde taalinstructies de robot ook hielp om het Luxemburgs beter te begrijpen dan wanneer ze alleen instructies volledig in het Luxemburgs hadden gebruikt. Het was alsof de robot leerde om de verbanden te leggen tussen de grote, goed begrepen talen (Engels, Frans, Duits) en de kleinere taal, waardoor er een sterkere brug in zijn brein werd gecreëerd. Specifiek leken instructies in het Engels of Frans het meest te helpen, terwijl het gebruik van Duitse instructies soms niet zozeer hielp als verwacht werd, wat suggereert dat een beetje afstand tussen talen soms helpt bij het leerproces.

Het artikel toonde ook aan dat deze methode de robot veel beter maakte in het opvolgen van instructies in een "few-shot" setting, wat zoiets is als de robot een paar voorbeelden van een taak geven voordat je hem om een nieuwe taak vraft. Wanneer de robot voorbeelden zag geschreven in het Engels of Frans, maar moest reageren in het Luxemburgs, presteerde hij beter dan wanneer hij uitsluitend voorbeelden in het Luxemburgs zag. Dit suggereert dat de kruislingse aanpak niet alleen de grammatica corrigeert, maar de robot ook helpt om de intentie van de vraag dieper te begrijpen.

Kortom, de auteurs suggereren dat voor talen met weinig middelen, zoals het Luxemburgs, de beste manier om een AI te onderwijzen niet is om een machinevertaling op te leggen, maar om de taal te laten leren van hoogwaardige menselijke inhoud terwijl andere talen als gids dienen. Ze beweerden niet dat dit alle problemen in de wereld oplost, en ze gaven toe dat hun dataset nog beperkt is tot ongeveer zeven soorten taken, maar ze bewezen dat deze "kruislingse" strategie een krachtig, hoogwaardig alternatief is voor de gebruikelijke shortcuts met machinevertalingen. Het is een fris recept om robots te leren lokale talen te spreken met een menselijke toets.

Technische Samenvatting: LUXINSTRUCT

Probleemstelling

Instructie-tuning is essentieel gebleken voor het afstemmen van Large Language Models (LLMs) op menselijke intentie, maar deze techniek stuit op aanzienlijke barrières in talen met weinig middelen. Voor het Luxemburgs, een West-Germaanse taal met ongeveer 400.000 sprekers, vormt het tekort aan hoogwaardige datasets voor het opvolgen van instructies een primaire flessenhals. Traditionele benaderingen om dit tekort te overwinnen, leunen zwaar op Machinale Vertaling (MT) van bestaande Engelstalige instructiedatasets. De auteurs stellen echter dat MT zorgt voor semantische mismatch, culturele onnauwkeurigheden en onnatuurlijke formuleringen, wat de prestaties van het model kan verslechteren. Bov�ofendien is de handmatige creatie van inheemse instructiedatasets arbeidsintensief en duur, omdat vaak moedertaalsprekers met domeinexpertise nodig zijn. Bijgevolg is er een gebrek aan robuuste, cultureel gewortelde instructiedata voor het Luxemburgs, wat de ontwikkeling van effectieve LLMs voor de taal beperkt.

Methodologie

Om deze uitdagingen aan te pakken, introduceren de auteurs LUXINSTRUCT, een cross-linguale instructie-tuning dataset voor het Luxemburgs. De kerninnovatie is een constructiestrategie die vermijdt dat Luxemburgse tekst via machinale vertaling wordt gegenereerd. In plaats daarvan maakt de dataset gebruik van gealigneerde data uit talen met veel middelen (Engels, Frans en Duits) om instructie-outputparen te creëren waarbij de instructie in een brontaal staat en de output in het Luxemburgs.

De dataset wordt geconstrueerd uit drie primaire door mensen gecureerde bronnen:

Wikipedia: Met behulp van een 'reverse instruction generation'-benadering promptten de auteurs gpt-4.1-mini om coherente fragmenten uit Luxemburgse Wikipedia-artikelen te extraheren en bijbehorende instructies in het Engels te genereren. Deze methode omzeilt de noodzaak om de brontekst eerst naar het Engels te vertalen, waardoor de oorspronkelijke Luxemburgse inhoud behouden blijft. De resulterende paren werden gefilterd via heuristieken (lengte, taalconsistentie, extractievaliditeit). Een subset van de instructies werd vervolgens vertaald naar het Duits en Frans.
Nieuwsartikelen: Door gebruik te maken van RTL Luxembourg, dat parallelle content publiceert in het Luxemburgs, Frans en Engels, gebruikten de auteurs embedding-modellen (text-embedding-3-small) om semantisch vergelijkbare tweetalige artikelparen op te halen. Deze werden gebruikt om taken te creëren zoals het genereren van Luxemburgse koppen uit buitenlandse artikelen (Artikel-naar-Titel) en het genereren van hypothetische artikelen uit buitenlandse koppen (Titel-naar-Artikel). Daarnaast werd een cross-linguale parafraseringstaak (CL-Paraphrase) afgeleid van de LUXALIGN-corpus.
Online Woordenboek: Een publiek Luxemburgs woordenboek leverde lexicale termen met vertalingen en voorbeelden. Deze bron ondersteunde taken zoals het generen van voorbeeldzinnen voor specifieke woorden (Woord-naar-Voorbeeld), het vereenvoudigen van colloquiale zinnen (Colloquial-naar-Standaard) en woordvertaling (Woord-Vertaling).

De uiteindelijke dataset bestaat uit 391.551 cross-linguale samples (instructies in het Engels, Frans of Duits; outputs in het Luxemburgs) en 145.793 monolinguale Luxemburgse samples.

Belangrijkste Bijdragen

LUXINSTRUCT Dataset: De eerste cross-linguale instructie-tuning dataset specifiek afgestemd op het Luxemburgs, met bijna 540.000 samples verdeeld over zeven taaktypen.
Cross-Linguale Constructiestrategie: Een methodologie die hoogwaardige Luxemburgse outputs genereert door deze af te stemmen op instructies in het Engels, Frans en Duits, waardoor de valkuilen van machinaal vertaalde Luxemburgse tekst worden vermeden.
Empirische Validatie: De auteurs leveren bewijs dat cross-linguale instructie-tuning zowel de representatieve alignment over talen heen als de generatieve capaciteiten van het model in het Luxemburgs verbetert.

Resultaten

De auteurs voerden twee primaire experimenten uit om de effectiviteit van LUXINSTRUCT te evalueren:

Cross-Linguale Alignment: Met behulp van Centered Kernel Alignment (CKA)-scores op FLORES-200 data, mat de studie de alignment tussen de Luxemburgse embedding-ruimtes en die van het Engels, Frans en Duits na fine-tuning. De resultaten gaven aan dat cross-linguale tuning (bijv. Engelse instructies $\to$ Luxemburgse output) minstens even effectief, en vaak effectiever was, dan monolinguale tuning (Luxembische instructies $\to$ Luxemburgse output). Opvallend genoeg leverde het koppelen van het Luxemburgs aan het Engels of Frans hogere alignment-winsten op dan de koppeling met het Duits, wat suggereert dat verre talen in deze context betere alignment-voordelen kunnen bieden dan nauw verwante talen.
Few-Shot In-Context Learning: De auteurs evalueerden de prestaties bij het opvolgen van instructies met behulp van Gemma 3 (12B en 27B) modellen. Ze vergeleken instellingen waarbij few-shot voorbeelden instructies in het Luxemburgs, Engels, Frans, Duits of een gemengde taal gebruikten. Prestaties werden beoordeeld via G-Eval (met behulp van LLM-judges) over vier dimensies: Helderheid, Coherentie, Vloeiendheid en Relevantie. De resultaten toonden aan dat cross-linguale few-shot voorbeelden consistent beter presteerden dan monolinguale Luxemburgse voorbeelden, waarbij instructietalen in het Engels en Frans vaak de hoogste scores behaalden.

Betekenis

Het artikel stelt dat LUXINSTRUCT een belangrijke stap voorwaarts is voor de ontwikkeling van middelen voor de Luxemburgse NLP. Door prioriteit te geven aan door mensen gegenereerde seed-data en een cross-lingueel ontwerp, zorgt de dataset voor natuurlijke, betrouwbare targets en een cultureel geworteld begrip van de taal binnen LLMs. De auteurs beweren dat deze aanpak de gebruikelijke ruis en vertaalfouten associeert met grootschalige machinale vertaling vermijdt, en een levensvatbaar pad biedt voor de ontwikkeling van robuuste LLMs voor talen met weinig middelen. Het werk dient als fundament voor toekomstige ontwikkelingen en suggereert dat cross-linguale datacuratie direct kan bijdragen aan taalontwikkeling zonder afhankelijk te zijn van synthetische vertalingsartefacten.