A Pocket Offline Model for Simultaneous Speech Translation as CUNI Submission to IWSLT 2026
Cet article présente la soumission de CUNI à la tâche partagée IWSLT 2026 sur la traduction automatique simultanée de la parole, qui adapte le modèle hors ligne Canary de 1 milliard de paramètres avec la politique AlignAtt afin d'obtenir une traduction simultanée multilingue de haute qualité entre le tchèque, l'anglais, l'allemand et l'italien avec de faibles exigences computationnelles.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous avez un traducteur multilingue très intelligent nommé Canary. Ce traducteur est incroyablement talentueux pour écouter un discours entier, puis pour en écrire la traduction parfaitement. Cependant, il y a un hic : Canary est habitué à attendre que l'orateur ait terminé toute sa phrase avant de commencer à travailler. C'est comme un serveur qui refuse de prendre votre commande avant que vous n'ayez fini de lire l'intégralité du menu, même si vous voulez juste commander un café.
L'équipe de l'Université Charles (CUNI) voulait apprendre à Canary à être un traducteur simultané — quelqu'un qui écoute et traduit en même temps, mot par mot, tout comme un interprète humain.
Voici comment ils ont procédé, en utilisant des analogies simples :
1. La stratégie du « Stop-and-Go » (AlignAtt)
Pour permettre à Canary de fonctionner en temps réel, l'équipe ne lui a pas réappris tout le processus de zéro. Au lieu de cela, ils lui ont donné un nouvel ensemble de règles appelé AlignAtt.
Imaginez que le cerveau de Canary possède une paire de « lunettes d'attention ». Lorsque le traducteur entend un nouveau fragment d'audio, il regarde la phrase qu'il est en train de construire. La règle AlignAtt dit : « Dès que vous entendez un son qui correspond à un point spécifique de l'audio que vous venez d'entendre, arrêtez d'écrire le reste de la phrase. »
C'est comme un jeu du « téléphone arabe » où vous ne transmettez les mots que si vous en êtes sûr à 100 %. Si le traducteur commence à deviner un mot basé sur un audio qui n'est pas encore totalement arrivé, le système coupe cette supposition. Cela empêche le traducteur de « halluciner » (inventer des choses) ou de se répéter.
2. Une puissance de poche
L'une des choses les plus cool de ce projet est la taille du traducteur. La plupart des traducteurs de haute qualité sont comme des superordinateurs massifs qui nécessitent tout un centre de données pour fonctionner. Canary, cependant, est un modèle à 1 milliard de paramètres.
Les auteurs appellent cela un « Modèle Hors Ligne de Poche ». Imaginez faire tenir dans une application de smartphone un traducteur de la taille d'une application. Il est assez petit pour fonctionner sur un téléphone ordinaire sans avoir besoin d'envoyer des données vers un énorme serveur dans le cloud. Cela signifie que vous pourriez l'utiliser même si vous n'avez pas de connexion internet, et il serait beaucoup plus rapide car il n'aurait pas besoin d'attendre qu'un signal fasse l'aller-retour.
3. Les écouteurs à réduction de bruit
L'audio du monde réel est désordonné. Les gens toussent, les voitures klaxonnent et les pièces résonnent. Pour gérer cela, l'équipe a ajouté un « filtre à bruit » (appelé Silero VAD). Considérez cela comme une paire d'écouteurs à réduction de bruit de haute technologie pour le traducteur. Il ignore le silence et les bruits de fond, ne prêtant attention que lorsqu'une voix humaine parle réellement. Cela empêche le traducteur de s'embrouiller ou d'essayer de traduire le bruit d'une porte qui claque.
4. La course contre la montre (Les résultats)
L'équipe a testé leur nouveau système dans une course simulée contre d'autres traducteurs de haut niveau (les « bases de référence ») pour trois paires de langues : tchèque vers anglais, anglais vers allemand et anglais vers italien.
- La configuration : Ils ont testé deux scénarios : une course à « Haute Latence » (où le traducteur peut attendre un peu plus longtemps pour plus de précision) et une course à « Basse Latence » (où la vitesse est primordiale).
- Le résultat :
- Vitesse vs Qualité : Leur système a été un champion dans les deux catégories. Dans la course à « Haute Latence », il a traduit nettement mieux que les meilleurs systèmes existants des organisateurs (améliorant les scores de 4 à 8 points).
- Battre la concurrence : Même dans la course à « Basse Latence » (où il devait être super rapide), il a tenu bon, battant souvent les meilleurs systèmes précédents.
- La fenêtre glissante : Ils ont également comparé leur méthode à une autre façon de faire fonctionner les modèles hors ligne en temps réel (appelée « Fenêtre Glissante », qui consiste à relire constamment un paragraphe pour corriger les erreurs). Leur méthode « Stop-and-Go » (AlignAtt) était bien meilleure, produisant des traductions de meilleure qualité avec moins de délai.
5. Ce qu'ils ont appris (et ce qu'ils n'ont pas appris)
L'équipe a conclu que prendre un traducteur hors ligne puissant et lui donner un « manuel de règles en temps réel » est une stratégie gagnante. C'est simple, efficace et ne nécessite pas d'entraînement coûteux.
Cependant, ils ont rencontré un petit obstacle. Ils ont essayé de donner au traducteur des « indices de contexte » (comme lui dire : « C'est une réunion politique, donc utilisez des mots formels »), mais lorsqu'ils ont essayé de combiner ces indices avec leurs nouvelles règles « Stop-and-Go », le traducteur s'est embrouillé et a cessé de fonctionner. Ils soupçonnent que c'est parce que le traducteur n'a pas été entraîné sur assez d'exemples de cette combinaison spécifique.
Le mot de la fin
L'équipe de CUNI a réussi à transformer un traducteur de type « attend la fin » en un traducteur de type « écoute et traduit au fur et à mesure » qui tient dans votre poche. Ils ont prouvé qu'il n'est pas nécessaire d'avoir un superordinateur géant pour obtenir une traduction simultanée de haute qualité ; un petit modèle intelligent avec les bonnes règles peut faire le travail aussi bien, voire mieux, que les gros systèmes.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.