Bhasha-Rupantarika: Algorithm-Hardware Co-design approach for Multilingual Neural Machine Translation

Résumé Technique : Bhasha-Rupantarika – Co-conception Algorithme-Matériel pour la Traduction Automatique Neuronale Multilingue

Énoncé du Problème
Le document traite du défi du déploiement de systèmes de traduction automatique neuronale multilingue (MNMT) dans des environnements à ressources limitées, ciblant spécifiquement les zones rurales en Inde et les dispositifs IoT. Les approches MNMT traditionnelles reposent souvent sur des modèles distincts pour différentes paires de langues ou sur des calculs de haute précision (FP32), ce qui exige une puissance de calcul et une mémoire considérables. Cela crée une barrière pour la traduction en temps réel sur des appareils de bord (edge devices) aux ressources limitées. De plus, les accélérateurs matériels existants négligent souvent les besoins spécifiques des moteurs de traitement du langage naturel (NLP), se concentrant plutôt sur la vision ou l'apprentissage profond général, ce qui entraîne des inefficacités en termes de surface, de puissance et de latence lors de la gestion de modèles de traduction basés sur les Transformers.

Méthodologie
Les auteurs proposent « Bhasha-Rupantarika », un système conçu via une approche de co-conception étroite entre algorithme et matériel pour permettre une traduction multilingue efficace sur des plateformes de bord.

• Stratégie Algorithmique :

  • Modèle Unifié : Au lieu d'enchaîner des modèles séparés (ex. : Langue Indienne $\to$ Anglais $\to$ Langue Étrangère), le système utilise un modèle bidirectionnel unique basé sur NLLB-200 (No Language Left Behind). Ce modèle prend en charge 200 langues, incluant des langues indiennes à faibles ressources.
  • Quantification : L'innovation algorithmique centrale implique une quantification agressive en précision sous-octet. L'étude examine le déploiement aux niveaux FP8, INT8, INT4 et FP4. Une version distillée de 600 millions de paramètres en INT4 de NLLB-200 est employée, utilisant une architecture Transformer encodeur-décodeur avec des couches de mélange d'experts (Mixture-of-Experts - MoE) pour gérer l'efficacité des paramètres sans augmenter les coûts de calcul par jeton (token).
  • Pipeline : Le système intègre OpenAI Whisper Large-v3 pour la reconnaissance vocale de la langue étrangère, AI4Bharat IndicConformer pour la reconnaissance vocale des langues indiennes, et Coqui XTTS v3/IndicParler pour la synthèse de la parole (text-to-speech), le tout orchestré autour du noyau de traduction quantifié NLLB.

• Architecture Matérielle :

  • Moteur de Traitement Neural (NPE) : Un accélérateur matériel personnalisé a été conçu en utilisant SystemVerilog, comprenant une unité de contrôle (CU), des unités de lecture/écriture de mémoire, un moteur de multiplication de matrice SIMD (MME) et un tableau vectoriel MIMD non linéaire (NMV).
  • Unités de Calcul Personnalisées :
    • MME : Implémente un réseau systolique paramétré basé sur des opérations de multiplication-accumulation (MAC) SIMD. Il supporte plusieurs précisions (1$\times$BF16, 3$\times$FP8, 6$\times$FP4, 6$\times$INT4) en un seul cycle d'horloge grâce à un nouveau bloc RMMEC (Reconfigurable Multi-Mode Exponent and Mantissa Computation).
    • NMV : Gère les fonctions d'activation non linéaires (NAF) telles que Sigmoid, Tanh, ReLU et SoftMax à l'aide d'une unité FASST basée sur CORDIC. Cette unité est conçue pour être reconfigurable et supporte les précisions FP8 et BF16, répondant ainsi au coût élevé en surface des unités de calcul NAF dans les TPU commerciaux.
  • Flux de Données (Dataflow) : L'architecture utilise un flux de données stationnaire en sortie (output-stationary) pour maximiser la réutilisation des données et minimiser la latence d'accès à la mémoire hors puce.

Principales Contributions

1. Modèle Quantifié Unifié : Démonstration qu'un modèle unique NLLB-200 distillé en INT4 peut gérer efficacement la traduction bidirectionnelle entre les langues indiennes et internationales, remplaçant les pipelines complexes multi-modèles.
2. Accélérateur Matériel Personnalisé : Développement d'une architecture NPE spécialisée avec des unités RMMEC et FASST novatrices qui supportent des opérations à ultra-basse précision (jusqu'à 4 bits), spécifiquement optimisées pour les charges de travail de type Transformer.
3. Validation de la Co-conception : Une évaluation complète montrant que la quantification algorithmique (FP4/INT4) combinée à une conception matérielle personnalisée produit des gains significatifs en utilisation de ressources et en débit par rapport aux solutions FPGA et ASIC existantes.

Résultats
Le système a été évalué sur un FPGA ZCU104 et simulé via Cadence Innovus (CMOS 28 nm) pour les métriques ASIC.

• Efficacité du Modèle : Le modèle quantifié en FP4 a atteint une réduction de 4,1$\times$ de la taille du modèle (descendant à 0,56 Go) par rapport au FP32.
• Performance d'Inférence : Le système a atteint un débit de 66 jetons/seconde, représentant une accélération de 4,2$\times$ de la vitesse d'inférence et une amélioration de 4,8$\times du débit par rapport aux attentes de base.
• Utilisation des Ressources Matérielles (FPGA) :
  • LUTs : Réduits de 1,96$\times$ par rapport au meilleur accélérateur de NLP de l'état de l'art (SoTA), l'OPU.
  • Flip-Flops (FFs) : Réduits de 1,65$\times$.
  • Débit : A obtenu une amélioration de 2,2$\times$ par rapport à l'OPU et de 4,6$\times$ par rapport à l'HPTA.
• Métriques ASIC : Les unités MAC et NAF personnalisées ont démontré des réductions significatives de surface et de consommation d'énergie par rapport aux conceptions SoTA, l'unité MAC montrant une réduction de 90 % de l'utilisation des LUT par rapport à certains travaux antérieurs.
• Précision : Le système a maintenu une qualité de traduction satisfaisante à travers les paires bidirectionnelles (langues indiennes $\leftrightarrow$ langues internationales) malgré la quantification agressive, comme le vérifient les sorties qualitatives (ex. : « Vérification et Validation du Modèle »).

Signification et Revendications
L'article affirme que Bhasha-Rupantarika fournit une solution déployable et viable pour l'IA multilingue dans les contextes à faibles ressources. En prouvant que la quantification à ultra-basse précision (FP4/INT4) n'altère pas la capacité de traduction lorsqu'elle est couplée à un matériel spécialisé, ce travail permet la traduction en temps réel sur des dispositな IoT et des plateformes de bord. Les auteurs soulignent que cette approche est particulièrement significative pour les populations ayant un accès limité à l'éducation formelle qui doivent interagir avec des langues étrangères pour le tourisme ou les affaires. L'étude conclut que la co-conception algorithme-matériel est essentielle pour équilibrer performance, précision et contraintes de ressources dans le domaine du NLP en périphérie (edge), offrant une voie vers un déploiement de l'IA économe en énergie et durable dans les régions en développement. Les auteurs notent que bien que le présent travail se concentre sur le déploiement en périphérie, la scalabilité de cette approche pourrait potentiellement bénéficier aux implémentations cloud de haute performance à l'avenir.