LEVOS: Leveraging Vocabulary Overlap with Sanskrit to Generate Technical Lexicons in Indian Languages

Probleemstelling

Het vertalen van technische termen naar lexicaal vergelijkbare, maar "low-resource" Indiase talen blijft een uitdaging. De belangrijkste obstakels zijn:

1. Beperkte parallelle data: Er is een tekort aan grote, gelabelde datasets voor vertaling tussen Engels en specifieke Indiase talen, vooral in technische domeinen.
2. Taalkundige complexiteit: De structuren van Indiase talen zijn complex, met name door het gebruik van samengestelde woorden (compounds) en sandhi-regels (klankveranderingen aan woordgrenzen bij het samenvoegen).
3. Onderschatting van bronnen: Hoewel Engels de standaard is in hoger onderwijs, is er een dringende behoefte aan kwalitatief hoogwaardig educatief materiaal in regionale talen. Bestaande methoden voor generatie van technische lexica missen vaak de diepere taalkundige connecties tussen deze talen.

Methodologie

De auteurs stellen LEVOS voor, een raamwerk dat gebruikmaakt van de grote lexicaal overlap tussen Indiase talen en Sanskriet om technische termen te vertalen. De aanpak bestaat uit twee hoofdfasen:

1. Sanskriet Woordsegmentatie (Sanskrit Word Segmentation - SWS)

Om de onderliggende morfologische eenheden van samengestelde woorden te ontrafelen, ontwikkelen de auteurs een model genaamd CharSS.

• Architectuur: Ze gebruiken een Character-level Transformer (specifiek ByT5). Dit model verwerkt tekst als reeksen bytes/tekens in plaats van tokens, waardoor het taal- en scriptonafhankelijk is en complexe orthografieën aankan.
• Taak: Het model wordt getraind om een enkel Sanskriet-woord (unigram) te splitsen in betekenisvolle subwoorden.
• Input/Output: De input is een Sanskriet-woord. De output is de gesegmenteerde sub-tokens, gescheiden door een + symbool, met & en $ als markers voor het begin en einde van de splitsing.
• Doel: Dit lost de complexiteit van sandhi (klankverbindingen) op en identificeert de juiste morfologische grenzen, wat essentieel is voor accurate vertaling.

2. Taalkundig Geïnformeerde Vertaling (Technical Term Translation)

De kerninnovatie is het gebruik van Sanskriet-gebaseerde input augmentatie voor het trainen van vertaalmodellen.

• Hindi als Brontaal: Omdat Hindi relatief meer digitale bronnen heeft dan andere Indiase talen, wordt een bestaande Engels-Hindi vertaalbron gebruikt.
• Augmentatieproces:
  1. Een Engelse technische term wordt vertaald naar Hindi.
  2. Hindi-specifieke affixes worden verwijderd om de stam (lemma) te krijgen.
  3. Deze lemma's worden gesegmenteerd met het CharSS-model (gebaseerd op Sanskriet-regels).
  4. Deze gesegmenteerde Sanskriet-achtige subwoorden worden als extra input aan het vertaalmodel (NLLB - No Language Left Behind) gegeven naast de Engelse input.
• Redenering: Veel Indiase talen (zowel Indo-Arisch als Dravidisch) delen een groot lexicaal erfgoed met Sanskriet. Door de input te verrijken met deze gedeelde subwoorden, kan het model de context beter begrijpen en nauwkeurigere technische termen genereren voor low-resource talen.

Belangrijkste Bijdragen

1. CharSS Model: Een nieuw, op tekens gebaseerd Transformer-model voor de segmentatie van samengestelde Sanskriet-woorden (inclusief sandhivicchēda), dat prestaties verbetert ten opzichte van bestaande lexicon-gedreven parsers.
2. Sanskriet-gebaseerde Input Augmentatie: Een innovatieve methode om technische lexica voor low-resource talen te genereren door gebruik te maken van de lexicaal overlap met Sanskriet, ondersteund door data uit de rijkere Hindi-taal.
3. Empirische Validatie: Uitgebreide experimenten die aantonen dat deze methode leidt tot significante verbeteringen in de kwaliteit van vertalingen voor technische termen.

Resultaten

De auteurs hebben hun methoden getest op twee experimentele settings:

1. Sanskriet Woordsegmentatie (SWS):

   • Het CharSS-model (ByT5) behaalde superieure resultaten op drie benchmark datasets (UoH+SandhiKosh, SIGHUM, Hackathon).
   • Op de UoH+SandhiKosh dataset verbeterde het model de Split Prediction Accuracy (SPA) met 6,72% en de Location Prediction Accuracy (LPA) met 4,86% ten opzichte van de beste bestaande baselines.

2. Vertaling van Technische Termen:

   • Setting 1 (Directe vertaling): Het trainen van het NLLB-model met de Sanskriet-augmentatie leidde tot een gemiddelde verbetering van 8,46 punten in de chrF++ score (een metriek voor vertaalkwaliteit) over verschillende domeinen (administratie, biotechnologie, chemie) en talen.
   • Setting 2 (Zero-shot): Het trainen op Hindi, Gujarati en Tamil en testen op Marathi, Kannada en Odia (talen waarvoor het model niet specifiek getraind was) toonde een consistente verbetering van 6,79 punten in de chrF++ score.
   • Menselijke Evaluatie: Een post-hoc menselijke evaluatie voor Punjabi en Malayalam bevestigde dat de gegenereerde lexica praktisch nuttig zijn. De Recall@1 (R@1) scores waren hoger dan die van een bestaande concurrent (LexGen), wat aantoont dat de juiste vertalingen vaker in de top-1 van de voorspellingen voorkomen.

Betekenis en Impact

• Onderwijs en Inclusiviteit: De methode faciliteert de creatie van toegankelijke, hoogwaardige leermaterialen in Indiase talen, wat essentieel is voor de implementatie van meertalig onderwijs in India.
• Brug voor Low-Resource Talen: Het paper toont aan dat men de "resource gap" kan overbruggen door slim gebruik te maken van taalkundige verwantschappen (via Sanskriet) en beschikbare data uit een iets rijkerere taal (Hindi), zonder dat er enorme nieuwe parallelle corpora nodig zijn.
• Technische Vooruitgang: Het bewijst dat character-level modellen effectief zijn voor complexe morfologische taken zoals sandhi-splitting en dat taalkundig geïnformeerde augmentatie de prestaties van neurale vertaalmodellen aanzienlijk kan verhogen in domeinen waar data schaars is.

Beperkingen: De methode is afhankelijk van de beschikbaarheid van Hindi-gegevens en werkt het beste voor talen met een sterke lexicaal overlap met Sanskriet. Voor talen met minder overlap (zoals sommige Dravidische talen met minder Sanskriet-invloed) kan de winst beperkter zijn.