Training Models on Dialects of Translationese Shows How Lexical Diversity and Source-Target Syntactic Similarity Shape Learning
Dit onderzoek toont aan dat het trainen van kleine Engelstalige modellen op vertaalde tekst de taalprestaties beïnvloedt door de bron taal, waarbij de grammaticale nauwkeurigheid sterk correleert met de typologische gelijkenis aan het Engels en de algemene perplexiteit voornamelijk wordt bepaald door de lexische diversiteit van het corpus.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een jonge, slimme taalstudent wilt opleiden om perfect Engels te spreken. Je hebt echter geen toegang tot boeken of films van native speakers (moedertaalsprekers). Wat doe je dan? Je pakt boeken die in het Engels zijn vertaald vanuit andere talen.
Dit is precies wat onderzoekster Jenny Kunz heeft gedaan. Ze heeft gekeken wat er gebeurt als je een kunstmatige intelligentie (een taalmodel) traint op vertaalde teksten in plaats van op originele teksten. Ze noemt dit fenomeen "translationese" – een soort "vertaalspreek" die net even anders klinkt dan natuurlijk Engels.
Hier is wat ze ontdekte, vertaald naar een begrijpelijk verhaal:
1. De "Gedrukte" Stem van de Vertaling
Vertaalde tekens zijn vaak net iets minder levendig dan originele teksten. Het is alsof iemand een verhaal vertelt dat ze net hebben vertaald; ze houden zich vaak te strikt aan de zinsbouw van de oorspronkelijke taal.
- Het resultaat: De modellen die op deze vertalingen zijn getraind, klinken iets stijver en maken meer fouten in de grammatica dan modellen die op echte, native Engelse teksten zijn getraind. Het is alsof je een spreekbeurt doet met een zware, onnatuurlijke accent.
2. De Belangrijkheid van de "Oorsprong" (De Brontaal)
De onderzoekster heeft modellen getraind met vertalingen uit 24 verschillende talen, variërend van Zweeds en Duits (ver verwant aan Engels) tot Swahili en Tamil (ver verwant). Ze wilde weten: Maakt het uit uit welke taal de vertaling komt?
Het antwoord is: Ja, enorm. Maar het hangt af van wat je wilt bereiken:
A. Algemene Vlotheid (Het "Grote Plaatje")
Als je wilt dat het model gewoon goed Engels spreekt (zoals het lezen van nieuws of een reisgids), dan is de rijkdom aan woorden in de vertaling belangrijker dan de taal zelf.
- Analogie: Stel je voor dat je een kok bent die een gerecht moet koken. Als je groenten koopt die heel vers en divers zijn (veel verschillende woorden), maakt het niet uit of ze uit Frankrijk of Italië komen; het gerecht smaakt goed.
- Conclusie: Voor algemene vaardigheid telt het vooral of de bron-tekst rijk aan woorden is. De grammaticale gelijkenis met Engels is hier minder belangrijk.
B. Grammatica en Structuur (De "Regels")
Als je wilt dat het model de regels van de taal perfect begrijpt (zoals werkwoordspelling of complexe zinsconstructies), dan is de oorspronkelijke taal cruciaal.
- Analogie: Stel je voor dat je een dansstijl wilt leren. Als je een dansstijl wilt leren die lijkt op die van de Engelse dansers, is het veel makkelijker om te leren van iemand die al een beetje op die stijl lijkt (bijvoorbeeld een Duitser of Zweed) dan van iemand met een heel andere dansstijl (bijvoorbeeld iemand uit een heel andere cultuur).
- Conclusie: Hoe meer de structuur van de brontaal lijkt op die van het Engels, hoe beter het model de grammaticale regels leert. Dit effect wordt sterker naarmate het model meer data krijgt.
3. De "Taal-Clan" Effect
De studie toonde aan dat modellen die zijn getraind op vertalingen uit taalkundig verwante talen (bijvoorbeeld Zweeds), elkaar beter "verstaan" dan modellen die op totaal verschillende talen zijn getraind.
- Analogie: Het is alsof je twee mensen hebt die beide een beetje een "Zweedse" accent hebben in het Engels. Ze begrijpen elkaar makkelijker dan iemand met een "Zweedse" accent en iemand met een "Japans" accent. De vertalingen uit verwante talen creëren een soort van "dialect" dat op elkaar lijkt.
4. De Grootte van de Data
- Kleine datasets: Als je weinig data hebt, is de diversiteit aan woorden het belangrijkst.
- Grote datasets: Als je veel data hebt, wordt de taalkundige gelijkenis het belangrijkste. Dan helpt het echt om een bron te kiezen die grammaticaal lijkt op het Engels.
Samenvattend: Wat moeten we onthouden?
Het gebruik van vertaalde data is een tweesnijdend zwaard. Het is een fantastische manier om modellen te trainen wanneer er geen native teksten zijn (zoals voor minderheidstalen), maar het heeft een prijs:
- De modellen worden iets minder "natuurlijk" in hun taalgebruik.
- De keuze van de brontaal is cruciaal: voor grammatica is het slim om te kiezen voor een taal die grammaticaal lijkt op het doelwit (Engels).
De les voor de toekomst: Als je een AI wilt bouwen die perfect Engels spreekt, probeer dan niet zomaar willekeurige vertalingen te gebruiken. Kies slim: als je grammaticale precisie wilt, kies dan een bron die "verwantschap" toont met het Engels. Als je alleen maar een rijke woordenschat wilt, zoek dan naar de rijkste bron, ongeacht de taal.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.