💬 NLP

TF1-EN-3M: Three Million Synthetic Moral Fables for Training Small, Open Language Models

L'article présente TF1-EN-3M, un nouvel ensemble de données ouvert de trois millions de fables morales synthétiques en anglais générées par de petits modèles de langage à poids ouverts utilisant un échafaudage structuré à six emplacements et un pipeline d'évaluation reproductible, démontrant que la narration morale de haute qualité à grande échelle peut être réalisée sans recourir à des modèles géants propriétaires.

Auteurs originaux : Mihai Nadas, Laura Diosan, Andrei Piscoran, Andreea Tomescu

Publié 2026-05-06

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Mihai Nadas, Laura Diosan, Andrei Piscoran, Andreea Tomescu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous voulez enseigner à un enfant la différence entre le bien et le mal. Pendant des siècles, les gens ont utilisé des fables — de courtes histoires mettant en scène des animaux parlants ou des personnages simples, se terminant par une leçon claire (comme « L'honnêteté est la meilleure politique »). Ces histoires sont comme des systèmes de navigation GPS moraux : elles guident l'auditeur d'une situation confuse vers une destination éthique claire.

Cependant, dans le monde de l'informatique (spécifiquement le traitement automatique du langage naturel), les chercheurs ont rencontré un mur. Ils avaient besoin d'une bibliothèque massive de ces histoires pour enseigner aux ordinateurs à comprendre et à raconter des récits moraux, mais les collections existantes (comme les Fables d'Ésope) étaient trop petites. Ils ne voulaient pas non plus dépenser des millions de dollars en utilisant d'énormes modèles d'IA coûteux pour les créer.

Voici TF1-EN-3M. Considérez ce projet comme une usine d'histoires massive et automatisée, construite par des chercheurs en Roumanie. Voici comment ils ont procédé, expliqué simplement :

1. Le Livre de Recettes (Le Moteur d'Instructions)

Au lieu de demander à un ordinateur de « rédiger une histoire » et d'espérer le meilleur, les chercheurs ont élaboré une recette stricte. Ils ont créé un « échafaudage » avec six emplacements spécifiques, comme une fiche à trous :

Personnage : (par exemple, un Renard)
Trait : (par exemple, Cupide)
Cadre : (par exemple, Une ferme animée)
Conflit : (par exemple, Voler de la nourriture)
Résolution : (par exemple, Se faire prendre)
Morale : (par exemple, « La cupidité mène à l'ennui »)

Ils n'ont pas écrit une seule recette ; ils ont créé un moteur combinatoire. Imaginez avoir 100 personnages différents, 100 traits différents et 100 cadres différents. Si vous les mélangez et les associez, vous obtenez des millions d'idées d'histoires uniques. Ils ont utilisé ce moteur pour générer 3 millions d'instructions uniques.

2. Les Boulangers (Les Modèles d'IA)

Les chercheurs n'ont pas utilisé les modèles d'IA les plus coûteux et surdimensionnés (les « grands chefs » qui coûtent une fortune à faire fonctionner). À la place, ils ont testé dix modèles d'IA « compacts » différents (allant de 1 milliard à 8 milliards de paramètres). Imaginez-les comme des boulangers amateurs plutôt que des usines industrielles.

Ils ont demandé à ces boulangers amateurs de suivre les recettes strictes. Pour déterminer quel boulanger était le meilleur, ils ont mis en place un jury.

Les Juges : Au lieu d'embaucher des critiques humains coûteux, ils ont utilisé trois autres modèles d'IA pour noter les histoires sur la grammaire, la créativité, la clarté de la morale et le respect de la recette par le boulanger.
Le Gagnant : Ils ont découvert qu'un modèle spécifique appelé Llama-3.1-8B était le choix « Boucle d'Or ». Il n'était pas le meilleur dans chaque catégorie individuelle, mais il était le meilleur pour équilibrer qualité et coût. Il pouvait rédiger des histoires de haute qualité sur un ordinateur standard (matériel grand public) pour environ 0,135 $ pour 1 000 histoires.

3. Le Résultat : Une Bibliothèque de 3 Millions d'Histoires

Le résultat est le jeu de données TF1-EN-3M.

Taille : 3 000 000 de fables en anglais.
Contenu : Chaque histoire est courte (d'environ la longueur d'une histoire du soir), utilise des mots simples adaptés aux enfants âgés de 4 à 7 ans, et se termine par une leçon morale claire.
Sécurité : Les chercheurs ont vérifié les histoires et ont constaté qu'elles sont sûres. Bien qu'elles contiennent des conflits légers (comme voler ou se battre), ceux-ci sont toujours utilisés pour enseigner une leçon, et non pour nuire.
Coût : Toute la bibliothèque a été créée pour un coût total de 405 $.

4. Pourquoi Cela Compte (Selon l'Article)

L'article affirme qu'il s'agit d'une percée car cela prouve que vous n'avez pas besoin d'un supercalculateur pour créer du contenu éducatif massif et de haute qualité.

Reproductibilité : Ils ont publié le code, les données et les « recettes » gratuitement. N'importe qui peut faire fonctionner l'usine à nouveau et obtenir exactement les mêmes résultats.
Efficacité : Cela montre que les petits modèles open-source peuvent faire le travail de « narration morale » aussi bien que les géants coûteux.
Cas d'usage : L'article suggère que ce jeu de données peut être utilisé pour entraîner de plus petits modèles d'IA à mieux raconter des histoires, à comprendre les morales, ou à aider dans des outils éducatifs pour enfants.

Le Revers de la Médaille (Limites)

Les auteurs sont honnêtes sur les limites. Parce que les histoires sont construites à partir d'une recette stricte, elles peuvent sembler un peu répétitives (comme une chanson avec la même progression d'accords). Ils ont également noté que les histoires sont basées sur la tradition des fables occidentales (comme Ésope), elles pourraient donc ne pas refléter la vision de la morale de chaque culture.

En résumé : Les chercheurs ont construit une machine qui mélange et associe des ingrédients d'histoires pour cuire 3 millions de fables morales. Ils ont prouvé que l'on peut le faire rapidement et à bas coût en utilisant de petits modèles d'IA open-source, et ils ont offert la recette et les biscuits au monde entier gratuitement.

Résumé technique : TF1-EN-3M

Énoncé du problème

Bien que les contes moraux (fables) soient un moyen éprouvé de transmettre des valeurs, le traitement automatique du langage naturel (TALN) moderne manque d'un corpus structuré à grande échelle associant des récits cohérents à des leçons éthiques explicites. Les collections classiques existantes (par exemple, les Fables d'Ésope) sont trop petites pour la modélisation basée sur les données, et la génération actuelle de données synthétiques manque souvent de la rigueur structurelle spécifique requise pour les tâches de raisonnement moral. De plus, il est nécessaire de déterminer si des modèles de langage (LLM) compacts et à poids ouverts, s'exécutant sur du matériel grand public, peuvent générer de manière fiable des récits instructifs de haute qualité sans dépendre de modèles géants propriétaires ou d'une infrastructure d'évaluation basée sur des API coûteuses.

Méthodologie

1. Conception des invites et génération de données

Les auteurs ont développé un moteur d'invites combinatoire pour générer 3 000 000 de fables anglaises uniques. Le processus de génération repose sur une structure à six slots dérivée de la théorie narrative :

Personnage : Protagoniste (par exemple, archétype animal ou humain).
Trait : Un attribut définissant (par exemple, avide, gentil).
Cadre : Lieu contextuel.
Conflit : Le défi ou le dilemme central.
Résolution : Le résultat démontrant un jugement moral.
Morale : La leçon éthique explicite.

L'espace d'entrée est défini par le produit cartésien de listes curatées pour chaque slot ( $T = n \times m \times k \times c \times r \times l$ ), où chaque paramètre a été fixé à 100 options. Pour garantir la qualité, le système emploie :

Messages système : Cadrage de la tâche comme une écriture de fable morale avec des contraintes spécifiques sur le ton, le public cible (visant les 4–7 ans) et la structure.
Contraintes stylistiques : Instructions pour « montrer, ne pas dire », éviter les noms de personnages, utiliser un vocabulaire simple et maintenir une longueur concise (~250 mots).
Safeguards d'échantillonnage : Échantillonnage aléatoire uniforme avec déduplication, filtrage de fréquence pour les associations courantes et équilibrage de la couverture pour garantir que chaque slot apparaît également.

2. Cadre d'évaluation

Pour sélectionner le générateur optimal, les auteurs ont évalué dix LLM à poids ouverts et adaptés aux instructions (allant de 1 à 32 milliards de paramètres) en utilisant un pipeline multifacette :

Panneau de juges LLM multiples : Trois modèles à poids ouverts de familles distinctes (Granite 4.1 30B, EXAONE 3.5 32B et Granite 3.3 8B) ont noté 1 000 fables générées chacune sur quatre dimensions : Grammaire et style, Créativité, Clarté morale et Adhésion à l'invite.
Métriques sans référence : Statistiques au niveau du corpus incluant le Self-BLEU (diversité), Distinct-1 (richesse lexicale) et la Facilité de lecture Flesch (lisibilité).
Classification par groupe d'âge : Un classifieur LLM a assigné chaque histoire à l'un des cinq tranches d'âge (A–E) pour vérifier l'alignement avec la démographie cible (4–7 ans).
Score composite : Un score pondéré ( $W_m$ ) a été calculé, donnant la priorité à l'Adhésion à l'invite (0,35) et à la Clarté morale (0,20), suivis de la Grammaire, de la Créativité et des métriques sans référence.

3. Sélection du modèle

Dix candidats ont été testés, incluant des variantes de Llama-3, Mistral, Qwen, Falcon et Phi. Bien que Llama-3.1-Tulu-3-8B ait obtenu le score composite le plus élevé (0,957) basé sur les métriques brutes, Llama-3.1-8B-Instruct a été sélectionné pour la génération à grande échelle. Cette décision a été motivée par son alignement supérieur avec le groupe d'âge cible (92 % de ses sorties ont été classées comme appropriées pour les 4–7 ans) et son compromis qualité-coût favorable sur du matériel grand public.

Contributions clés

Jeu de données TF1-EN-3M : La publication du premier jeu de données ouvert à grande échelle de fables synthétiques en anglais, contenant 3 millions d'histoires. Chaque entrée inclut le récit, l'invite structurée et les métadonnées de génération (comptages de tokens, latence, coût, spécifications matérielles).
Génération efficace à poids ouverts : Démonstration que du contenu instructif de haute qualité peut être généré à grande échelle en utilisant des modèles de 1 à 8 milliards de paramètres. L'ensemble du corpus a été généré pour environ 405,76 $ (environ 0,135 $ par 1 000 fables) sur du matériel grand public.
Évaluation reproductible à juges multiples : Un cadre entièrement reproductible utilisant un panneau de juges LLM à poids ouverts de familles distinctes, combiné à des métriques sans référence. Cette approche évite la dépendance à une infrastructure d'évaluation propriétaire tout en atténuant le biais d'auto-préférence.

Résultats

Qualité du jeu de données : Le corpus final présente une grande diversité lexicale (Distinct-1 = 0,452) et une bonne lisibilité (score de Facilité de lecture Flesch de 78,9, correspondant à un niveau scolaire de 5,5 ans), s'alignant sur le public cible des jeunes lecteurs. La détection de quasi-duplicates a confirmé que l'approche combinatoire a produit des récits véritablement distincts.
Performance du modèle : Les modèles modernes adaptés aux instructions de 7 à 8 milliards de paramètres ont convergé en termes de qualité, les meilleurs performants (Llama-3.1-Tulu-3-8B, Falcon3-7B-Instruct, Llama-3.1-8B-Instruct) obtenant des scores élevés sur tous les axes. Les modèles plus petits (par exemple, 1 à 3 milliards) ont montré un fort potentiel pour les applications à faible latence.
Fiabilité de l'évaluation : Le panneau de juges à poids ouverts a montré un fort accord d'ordre de classement avec un juge propriétaire (GPT-o4-mini), avec un $\tau$ de Kendall de 0,78, validant que les modèles ouverts peuvent remplacer l'infrastructure d'évaluation propriétaire dans la sélection de modèles.
Sécurité du contenu : Un scan de sécurité de 5 000 échantillons a révélé que 87,8 % ne contenaient aucun mot-clé signalé. Les termes restants signalés (par exemple, « voler », « se battre ») apparaissaient dans des contextes didactiques renforçant des valeurs prosociales, sans contenu grave détecté.

Signification et revendications

L'article revendique que TF1-EN-3M ouvre de nouvelles voies de recherche dans le suivi des instructions, l'intelligence narrative, l'alignement des valeurs et l'IA éducative adaptée aux enfants. Les auteurs affirment que la narration morale à grande échelle ne nécessite pas de modèles géants propriétaires ni d'infrastructure d'évaluation coûteuse.

En fournissant une ressource associant des récits cohérents à des leçons éthiques explicites, le jeu de données permet :

Le fine-tuning de modèles plus petits pour la génération de fables et l'évaluation du raisonnement moral.
L'entraînement de classificateurs ou de modèles de question-réponse sur du contenu moral.
L'évaluation comparative des modèles génératifs sur l'alignement narratif et le raisonnement de bon sens.

Le travail souligne que, grâce à une ingénierie d'invites ciblée et des pipelines curatés, des modèles ouverts de taille moyenne peuvent produire des récits diversifiés à thème éthique, rendant l'IA chargée de valeurs plus accessible et socialement ancrée. Les auteurs notent explicitement des limitations, reconnaissant que le jeu de données reflète les traditions de fables occidentales et peut manquer de nuances pour des dilemmes éthiques contemporains complexes, suggérant que les travaux futurs devraient explorer des morales à plusieurs niveaux et des contextes culturels diversifiés.