LEVOS: Leveraging Vocabulary Overlap with Sanskrit to Generate Technical Lexicons in Indian Languages

1. Problématique

La traduction de termes techniques vers des langues indiennes à ressources limitées (low-resource) constitue un défi majeur, principalement en raison de :

• La pénurie de données parallèles : Le manque de corpus bilingues de haute qualité pour les domaines techniques (administration, biotechnologie, chimie).
• La complexité linguistique : Les langues indiennes, en particulier celles de la famille indo-aryenne et dravidienne, partagent une forte racine lexicale avec le sanskrit. Cependant, la formation de mots composés et les règles de sandhi (modifications phonétiques à la jonction des mots) rendent la segmentation et la traduction automatique difficiles.
• Le besoin éducatif : Il est urgent de créer des matériaux pédagogiques accessibles dans les langues régionales pour soutenir les politiques éducatives multilingues en Inde, mais la traduction manuelle est trop coûteuse et lente.

2. Méthodologie

Les auteurs proposent une approche novatrice nommée LEVOS, qui exploite le chevauchement lexical massif entre le sanskrit et les langues indiennes modernes pour générer des lexiques techniques. La méthode se décompose en deux étapes principales :

A. Segmentation des mots sanskrits (Sanskrit Word Segmentation - SWS)

Pour décomposer les mots composés complexes (souvent issus de règles de sandhi), l'équipe utilise un modèle de type Transformer au niveau des caractères (spécifiquement ByT5).

• Architecture : Le modèle traite le texte comme une séquence de bytes/caractères, évitant ainsi la nécessité d'une tokenisation spécifique à la langue.
• Tâche : Le modèle prend un mot sanskrit composé en entrée et prédit sa segmentation en sous-unités lexicales significatives (morphèmes).
• Format de sortie : Les segments sont concaténés avec un symbole « + » et encadrés par « & » et « $ » pour délimiter précisément les frontières des morphèmes.
• Prétraitement : Une normalisation est appliquée aux données (notamment la conversion de l'anusvāra en ses formes correspondantes selon la grammaire sanskrite) avant la segmentation.

B. Traduction de termes techniques avec augmentation de données

Une fois les segments sanskrits identifiés, ils sont utilisés pour enrichir l'entrée des modèles de traduction neuronale (NMT).

• Stratégie d'augmentation :
  1. On part d'un terme technique en anglais et de sa traduction en Hindi (langue à ressources relativement riches).
  2. On normalise le terme Hindi et on supprime les affixes spécifiques pour obtenir le lemme.
  3. On segmente ce lemme en utilisant le modèle CharSS (Sanskrit Word Segmentation) développé précédemment.
  4. Ces segments sanskrits sont injectés comme entrée supplémentaire (augmentée) dans le modèle de traduction, aux côtés du terme anglais.
• Objectif : Cette approche permet au modèle de désambiguïser le contexte technique et de générer des termes dans des langues à ressources limitées (comme le Marathi, le Kannada, l'Odia) en s'appuyant sur la racine étymologique commune (sanskrite).

3. Contributions Clés

• Modèle CharSS : Introduction d'un modèle Transformer au niveau des caractères (ByT5) pour la segmentation des mots sanskrits, surpassant les méthodes précédentes sur plusieurs benchmarks.
• Méthode d'augmentation linguistique : Proposition d'une méthode pour générer des lexiques techniques dans des langues à ressources limitées en utilisant des données Hindi et la segmentation sanskrite, sans nécessiter de données parallèles directes pour la langue cible.
• Validation empirique : Démonstration de l'efficacité de cette approche sur trois domaines techniques (Administration, Biotechnologie, Chimie) et sur plusieurs paires de langues.

4. Résultats Expérimentaux

Les expériences ont été menées sur des jeux de données bilingues (Anglais vers 6 langues indiennes) et évaluées via le score chrF++.

• Segmentation (SWS) : Le modèle ByT5 a obtenu des performances supérieures aux méthodes de base (DD-RNN, outils de segmentation existants) sur les jeux de données UoH+SandhiKosh, SIGHUM et Hackathon, avec des gains absolus significatifs en précision de localisation et de segmentation.
• Traduction de termes techniques :
  • Configuration standard : L'ajout d'entrées basées sur le sanskrit a amélioré les scores chrF++ moyens de 8,46 points par rapport à un modèle utilisant uniquement l'entrée anglaise.
  • Configuration Zero-Shot : Dans un scénario où le modèle est entraîné sur le Hindi, le Gujarati et le Tamil, puis testé sur des langues non vues (Marathi, Kannada, Odia), l'approche augmentée a également démontré des gains constants (moyenne de 6,79 points d'amélioration).
• Évaluation humaine (Post-hoc) : Une évaluation humaine sur le Punjabi et le Malayalam a confirmé que les lexiques générés étaient plus pertinents contextuellement. Les scores R@1 et R@3 ont montré une compétitivité, voire une supériorité, par rapport à la méthode de référence LexGen, notamment pour la désambiguïsation de termes polysémiques (ex: "mass" ou "composition" dans des contextes spécifiques).

5. Signification et Impact

• Inclusion éducative : Cette méthode permet de combler le fossé des ressources pour les apprenants dans les communautés linguistiques à ressources limitées, facilitant l'accès à l'éducation supérieure et aux manuels techniques dans les langues locales.
• Partage de ressources inter-langues : L'étude valide l'hypothèse que l'exploitation de la richesse lexicale d'une langue (Hindi/Sanskrit) peut booster les performances de traduction pour d'autres langues apparentées, même en l'absence de données directes.
• Limites : La méthode dépend de la disponibilité de données Hindi et de l'overlap lexical avec le sanskrit. Elle est moins efficace pour les langues ayant peu de racines sanskrites (comme certaines langues dravidiques avec un vocabulaire non-sanskrit prédominant) ou pour les domaines administratifs où le vocabulaire est déjà très courant et moins dépendant de la terminologie technique étymologique.

En conclusion, LEVOS propose une solution élégante et linguistiquement fondée pour la génération de lexiques techniques, transformant la complexité morphologique du sanskrit en un atout pour la traduction automatique dans les langues indiennes.