Imaginez que vous essayiez d'apprendre à un robot à écouter et à comprendre le monde. Pendant longtemps, les scientifiques ont été très doués pour apprendre aux robots à comprendre les grandes langues populaires comme l'anglais ou le mandarin, principalement parce qu'ils disposent de montagnes de conversations enregistrées et de notes écrites pour étudier. Mais pour des milliers d'autres langues, particulièrement celles parlées à travers l'Afrique, le robot est effectivement sourd. Ce n'est pas parce que le robot est trop stupide pour apprendre ; c'est parce qu'il n'y a presque pas de « devoirs » pour qu'il puisse s'exercer. Il existe très peu d'enregistrements de personnes parlant ces langues, et encore moins de transcriptions écrites pour correspondre à l'audio. Ce document, écrit par une équipe appelée Khaya AI, s'attaque à ce problème en construisant un nouveau type de « cerveau d'écoute » spécifiquement conçu pour ces langues sous-desservies.

Pour comprendre leur solution, vous devez connaître deux choses. Premièrement, il existe des modèles d'« apprentissage auto-supervisé ». Considérez-les comme un étudiant qui peut apprendre les sons d'une langue simplement en écoutant des heures de radio, même s'il ne connaît pas encore la signification des mots. Il devient très doué pour reconnaître le rythme et la mélodie de la parole. Deuxièmement, il y a l'idée du « fine-tuning » (ajustement fin). Une fois que l'étudiant a appris les sons, vous lui donnez un manuel spécifique (un ensemble plus petit de données étiquetées) pour apprendre les mots et la grammaire réels d'une langue spécifique. Le défi a été que pour beaucoup de langues africaines, même ce « manuel » est manquant ou très réduit. Ce document présente une nouvelle famille de modèles appelée DONDO (qui signifie Democratizing Oral Neural Dialect Ontology). C'est un ensemble d'outils qui prend un puissant cerveau d'écoute pré-entraîné et lui apprend à parler 27 variétés de langues africaines, en utilisant une astuce ingénieuse pour rendre un seul cerveau capable de gérer plusieurs langues à la fois.

Le Problème : La Bibliothèque Manquante

Pour la majeure partie du monde, la technologie de la parole est un outil mature. Vous pouvez demander à un téléphone de régler une minuterie ou dire à une voiture de jouer de la musique dans votre langue maternelle. Mais pour des millions de personnes parlant des langues comme le ga, l'ewe, le haoussa ou le shona, cette technologie n'existe tout simplement pas. Le goulot d'étranglement n'est pas que les ordinateurs ne peuvent pas être construits ; c'est qu'il y a un manque de « l'audio transcrit ». Pour enseigner à un ordinateur, vous avez besoin d'enregistrements de personnes parlant accompagnés du texte exact de ce qu'elles ont dit. Pour beaucoup de langues africaines, ces données sont éparpillées, minuscules ou inexistantes.

Les auteurs de ce document ont décidé de ne plus attendre des données parfaites, mais de commencer à construire avec ce qu'ils avaient. Ils ont réalisé que, bien qu'il n'y ait pas beaucoup de conversations informelles enregistrées, il y a un endroit où les gens enregistrent et transcrivent la parole depuis des décennies : les textes religieux. Ces enregistrements sont partout, ils sont généralement gratuits à utiliser (licence libre), et le texte est très cohérent. Le compromis est qu'ils sonnent un peu formels et étroits, comme la lecture d'un livre à haute voix plutôt que comme une discussion lors d'une fête. Mais les auteurs y ont vu un point de départ parfait — une fondation sur laquelle bâtir.

La Solution : Un Cerveau Intelligent et Partagé

L'équipe a construit DONDO, une famille de 26 modèles (21 pour des langues uniques et 5 qui gèrent des groupes de langues). Ils ont commencé avec un puissant « cerveau d'écoute » préexistant appelé w2v-BERT 2.0, qui avait déjà écouté une quantité massive d'audio provenant du monde entier. Au lieu d'entraîner un nouveau cerveau à partir de zéro pour chaque langue, ils ont pris ce cerveau partagé et lui ont donné un programme d'entraînement spécifique.

Voici la partie ingénieuse : ils n'ont pas simplement injecté toutes les langues dans le cerveau d'un coup en espérant que cela fonctionne. Ils ont utilisé un processus d'apprentissage en deux étapes (parfois trois étapes pour certains groupes).

1. Étape 1 (Le Brouillon) : Ils ont appris au cerveau à reconnaître toutes les langues d'un groupe à un rythme rapide. C'était comme un croquis rapide ; le cerveau avait l'idée générale mais faisait beaucoup d'erreurs.
2. Étape 2 (Le Polissage) : Ils ont considérablement ralenti la vitesse d'apprentissage. Cela a permis au cerveau d'affiner sa compréhension, de corriger les erreurs et d'aiguiser sa capacité à distinguer des sons similaires.

Ce « learning-rate annealing » (une façon sophistiquée de dire « ralentir pour bien faire les choses ») était la recette secrète. Cela a permis aux modèles de se remettre de la confusion initiale et, dans de nombreux cas, de performer aussi bien que s'ils avaient été entraînés sur une seule langue.

Le Tour de Magie : La Carte d'Identité Linguistique

Habituellement, si vous avez un modèle qui connaît cinq langues, vous devez lui indiquer laquelle utiliser en modifiant l'architecture logicielle ou en ajoutant des composants supplémentaires. DONDO utilise une astuce beaucoup plus légère appelée prefix-frame language conditioning (conditionnement de la langue par trame de préfixe).

Imaginez que l'audio est un long film. Avant que le film ne commence, on montre au modèle une minuscule « carte d'identité » invisible (quelques trames de données) qui dit : « Aujourd'hui, nous parlons le swahili » ou « Aujourd'hui, nous parlons le yoruba ». Cette carte d'identité est collée juste au début du flux audio. Le modèle lit cette carte, change son « mode dialecte » interne, puis écoute le reste de l'audio. Cela signifie qu'un seul fichier de modèle peut gérer plusieurs langues simplement en changeant cette minuscule carte d'identité au début. Pas besoin de modifier la lourde machinerie.

Les Résultats : Combler l'Écart

L'équipe a testé ces modèles sur 27 variétés linguistiques à travers le Ghana, la Sierra Leone, le Nigeria, le Sénégal, le Kenya et le Zimbabwe.

• Les Chiffres : Après l'étape de « polissage », les modèles multilingues ont atteint un taux d'erreur de mots (WER) moyen de 10 à 13 %. C'est une mesure de la façon dont l'ordinateur se trompe de mots ; plus le chiffre est bas, mieux c'est.
• La Comparaison : Dans de nombreux cas, ces modèles partagés étaient presque aussi bons que les modèles entraînés sur une seule langue. Pour certaines langues, comme le français et le fante, le modèle partagé a même été meilleur que le modèle à langue unique, suggérant que l'apprentissage de plusieurs langues ensemble a aidé le cerveau à mieux comprendre les sons.
• La Portée : Les auteurs estiment que ces modèles couvrent environ 115 millions de locuteurs natifs. Si l'on inclut les personnes qui parlent ces langues comme seconde langue (comme le haoussa ou le pidgin nigérian, qui sont utilisés comme langues de commerce), le nombre grimpe à environ 290 millions de personnes.

Pourquoi cela compte

La partie la plus importante de ce document n'est pas seulement la technologie ; c'est la philosophie. Les auteurs ont publié les 26 modèles gratuitement sous une licence qui permet à quiconque de les utiliser, même pour des produits commerciaux, à condition de citer la source. Ils appellent cela « démocratiser » la technologie.

Ils ne prétendent pas que ces modèles sont parfaits pour chaque situation. Parce qu'ils ont été entraînés sur des lectures religieuses, ils pourraient avoir des difficultés avec des marchés de rue bruyants ou des conversations rapides remplies d'argot, jusqu'à ce que quelqu'un d'autre les affine avec ces données spécifiques. Mais ils ont fourni le « camp de base » pour l'ascension. En donnant au monde une fondation solide et ouverte, ils espèrent que les développeurs, les chercheurs et les communautés à travers l'Afrique pourront désormais construire leurs propres outils de parole, donnant enfin une voix à des millions de personnes qui ont été laissées de côté dans la conversation numérique.

En bref, DONDO prouve que vous n'avez pas besoin d'une bibliothèque parfaite pour commencer à apprendre à un robot à écouter. Avec un peu de créativité, un cerveau partagé et une approche lente et prudente, vous pouvez construire un pont vers l'avenir pour des centaines de millions de locuteurs.