Pramana: Fine-Tuning Large Language Models for Epistemic Reasoning through Navya-Nyaya

Le papier présente Pramana, une approche novatrice qui améliore le raisonnement épistémique des grands modèles de langage en les affinant sur la logique Navya-Nyaya, un cadre indien de 2 500 ans structuré en six phases pour réduire les hallucinations et ancrer les affirmations dans des preuves traçables.

L'essentiel

🧠 Le Problème : Les IA qui "rêvent" en étant sûres d'elles

Imaginez un élève très brillant qui a lu tous les livres du monde, mais qui n'a jamais appris à penser vraiment. Quand on lui pose une question, il répond avec une fluidité incroyable et un ton très confiant. Mais si vous creusez un peu, vous réalisez qu'il a souvent inventé des faits ou qu'il a mélangé les causes et les effets.

C'est le problème actuel des grands modèles de langage (comme ceux qui font fonctionner les chatbots). Ils excellent à imiter le raisonnement, mais ils échouent souvent à réaliser un raisonnement logique solide. Si vous leur donnez une information inutile (comme "Alice aime le violet" dans un problème de mathématiques), ils se trompent massivement. Ils ne font pas de logique, ils font du "devinage statistique".

🏛️ La Solution : Une vieille recette de 2 500 ans

Les chercheurs de l'Université de York ont eu une idée géniale : au lieu d'essayer d'inventer une nouvelle façon de raisonner, pourquoi ne pas emprunter une méthode qui a déjà fait ses preuves depuis 2 500 ans ?

Ils ont choisi Navya-Nyaya, une école de logique et d'épistémologie (la science de la connaissance) issue de la philosophie indienne.

Imaginez que l'IA est un cuisinier débutant qui prépare des plats délicieux mais parfois toxiques. Navya-Nyaya, c'est comme lui donner un livre de recettes strict et infaillible qui l'oblige à suivre 6 étapes précises avant de servir le plat.

🪜 Les 6 Étapes de la "Recette" (Le Framework Pramana)

Au lieu de laisser l'IA improviser, le modèle Pramana est entraîné à suivre scrupuleusement ces 6 phases, comme un inspecteur de police qui enquête sur un crime :

1. SAMSHAYA (Le Doute) : Avant de répondre, l'IA doit dire : "Attends, qu'est-ce qui est flou ici ?" Elle doit identifier le problème exact. C'est comme arrêter de courir pour mieux regarder le chemin.
2. PRAMANA (Les Preuves) : L'IA doit lister ses sources. "Je ne le sais pas par magie, je le sais parce que le texte dit X, ou parce que la logique Y le prouve." Elle ne peut pas inventer de faits.
3. PANCHA AVAYAVA (Le Syllogisme) : C'est le cœur du raisonnement. L'IA doit construire son argument comme un pont solide : une règle universelle + un exemple concret + l'application au cas présent. Pas de sauts logiques !
4. TARKA (Le Test Contrefactuel) : C'est le moment du "Et si... ?". L'IA doit essayer de prouver le contraire de sa propre conclusion. "Si je dis que c'est vrai, est-ce que ça mène à une absurdité ?" Si oui, elle doit recommencer. C'est son propre avocat du diable.
5. HETVABHASA (La Chasse aux Erreurs) : L'IA doit vérifier si elle a commis des erreurs classiques (comme confondre la cause et l'effet, ou faire un raisonnement circulaire). Elle se fait son propre examen de passage.
6. NIRNAYA (La Conclusion) : Seulement après tout cela, elle donne la réponse. Et si les preuves ne suffisent pas, elle a le droit de dire : "Je ne sais pas, il me manque des infos" au lieu d'inventer une réponse.

🧪 Les Résultats de l'expérience

Les chercheurs ont entraîné deux modèles (un petit et un moyen) sur cette méthode avec seulement quelques dizaines d'exemples (comme apprendre à un enfant avec 50 exercices bien choisis).

Voici ce qu'ils ont découvert, et c'est fascinant :

• Le contenu est parfait, la forme est imparfaite : Dans 100 % des cas, le modèle a trouvé la bonne réponse (la logique était parfaite). Cependant, il n'a réussi à suivre le format exact (les titres, les sections) que dans 40 % des cas.
  • L'analogie : Imaginez un étudiant qui rédige une dissertation brillante et logique, mais qui oublie parfois de mettre le titre "Introduction" ou "Conclusion" en gras. Le fond est excellent, la forme est un peu brouillonne.
• C'est apprenable : Même avec un petit nombre d'exemples, l'IA a compris qu'elle devait raisonner ainsi. Elle a internalisé la méthode, même si elle a du mal à respecter strictement la "mise en page".
• Moins de hallucinations : En forçant l'IA à citer ses preuves et à tester ses hypothèses, elle arrête de mentir avec assurance.

🚀 Pourquoi c'est important pour nous ?

Aujourd'hui, les IA sont comme des oracles magiques : elles donnent une réponse, mais on ne sait pas comment elles l'ont trouvée. C'est dangereux si on les utilise pour la médecine ou le droit.

Pramana transforme l'IA en un détective transparent.

• Vous pouvez voir chaque étape de son enquête.
• Vous pouvez voir où elle a cherché ses preuves.
• Vous pouvez voir si elle a vérifié ses erreurs.

C'est comme passer d'une boule de cristal (qui donne une réponse mystérieuse) à un tableau blanc rempli de calculs (que l'on peut vérifier).

🎯 En résumé

Ce papier nous dit que pour rendre les IA plus intelligentes et plus fiables, il ne faut pas seulement leur donner plus de données, mais leur apprendre comment penser. En leur enseignant une méthode rigoureuse vieille de 2 500 ans, on obtient des machines qui ne se contentent pas de "deviner" la bonne réponse, mais qui sont capables de justifier leur raisonnement, de détecter leurs propres erreurs et de dire "je ne sais pas" quand il le faut.

C'est un pas vers une intelligence artificielle qui ne nous trompe pas, mais qui nous aide vraiment à comprendre le monde.

Résumé technique

1. Le Problème : Le "Fossé Épistémique" des LLM

Les grands modèles de langage (LLM) actuels, bien que capables de générer du texte fluide, souffrent d'une incapacité fondamentale à raisonner de manière systématique. Ils reposent sur l'appariement de motifs statistiques plutôt que sur une logique rigoureuse, ce qui entraîne :

• Hallucinations confiantes : Génération de fausses affirmations sans mécanisme de vérification interne.
• Fragilité : Une performance qui s'effondre (jusqu'à 65 % de dégradation selon des études d'Apple) lorsqu'on ajoute du contexte non pertinent aux problèmes.
• Manque de traçabilité : L'incapacité à distinguer la connaissance justifiée de la simple croyance probabiliste, rendant le processus de décision opaque et non auditable.
• Limites du "Chain-of-Thought" (CoT) : Le CoT standard améliore la précision mais reste basé sur des motifs implicites appris lors du pré-entraînement, sans imposer de structure logique explicite ni de rigueur épistémologique.

2. Méthodologie : L'Intégration de la Navya-Nyaya

L'approche proposée, nommée Pramana, consiste à affiner (fine-tuning) des LLM en utilisant la Navya-Nyaya, un cadre épistémologique et logique indien vieux de 2 500 ans. Contrairement à la logique formelle occidentale qui sépare la validité logique de la source de la connaissance, la Navya-Nyaya intègre les deux.

Le modèle est entraîné à suivre une méthodologie explicite en 6 phases pour chaque problème de raisonnement :

1. SAMSHAYA (Analyse du Doute) : Identification et classification du type d'incertitude (ex: ambiguïté, contradiction) avant de chercher une solution.
2. PRAMANA (Sources de Connaissance) : Identification explicite des sources valides de connaissance pour chaque affirmation :
   • Pratyaksha (Perception directe/fait observable).
   • Anumana (Inférence logique).
   • Upamana (Comparaison/Analogie).
   • Shabda (Témoignage/Autorité logique).
3. PANCHA AVAYAVA (Syllogisme à 5 membres) : Construction d'arguments formels incluant une règle universelle (Vyapti) ancrée dans un exemple concret (Drishtanta), évitant ainsi le raisonnement purement abstrait.
4. TARKA (Vérification Contrefactuelle) : Test de la conclusion par reductio ad absurdum (supposer le contraire pour dériver une contradiction).
5. HETVABHASA (Détection des Sophismes) : Audit automatique pour identifier 5 types de fautes de raisonnement (ex: corrélation confondue avec causalité, raisonnement circulaire).
6. NIRNAYA (Ascertainment) : Conclusion définitive distinguant la "Connaissance Justifiée" de l'hypothèse, avec une expression explicite de l'humilité épistémique si les preuves sont insuffisantes.

Implémentation Technique :

• Modèles : Affinage de Llama 3.2-3B (Stage 0) et DeepSeek-R1-Distill-Llama-8B (Stage 1).
• Données : Création d'un jeu de données structuré (Markdown avec YAML) contenant 20 exemples (Stage 0) puis 55 exemples (Stage 1), incluant des exemples négatifs pour apprendre les erreurs.
• Entraînement : Utilisation de QLoRA (4-bit) via Unsloth pour un ajustement efficace des paramètres.
• Architecture : Système modulaire avec validation structurelle (parsing), vérification sémantique et intégration potentielle de solveurs Z3 pour la vérification formelle.

3. Contributions Clés

• Premier affinage LLM sur la Navya-Nyaya : Démonstration qu'un modèle de langage peut apprendre une méthodologie de raisonnement épistémologique ancienne et complexe.
• Séparation du contenu et de la forme : Mise en évidence que les modèles peuvent internaliser le contenu du raisonnement (exactitude sémantique) même si l'adhésion stricte au format (structure syntaxique) est imparfaite.
• Ressources Open-Source : Publication complète des modèles affinés, des jeux de données, du code d'entraînement et d'une démo interactive sur Hugging Face.
• Cadre interprétable : Fourniture d'une alternative transparente aux modèles "boîte noire" comme o1, où chaque étape du raisonnement est traçable et vérifiable.

4. Résultats Expérimentaux

L'évaluation a été menée sur deux étapes avec des métriques de conformité au format et de justesse sémantique (réponse correcte).

• Exactitude Sémantique (Semantique Correctness) :
  • Stage 1 (DeepSeek 8B) : Atteint 100 % d'exactitude sémantique sur l'ensemble de test (10/10 exemples), surpassant le Stage 0 (50 %).
  • Cela prouve que le modèle a appris la logique du raisonnement, indépendamment des erreurs de formatage.
• Adhésion au Format (Format Adherence) :
  • Les deux stages ont obtenu 40 % d'adhésion stricte au format (4/10 exemples).
  • Les échecs principaux concernaient l'omission de sections (notamment Hetvabhasa et Nirnaya) ou l'utilisation de types de doutes non canoniques.
  • Analyse : L'augmentation de la taille du modèle (3B -> 8B) et du jeu de données n'a pas résolu le problème de conformité stricte, suggérant que l'apprentissage de la structure nécessite des techniques au-delà du simple affinement supervisé (ex: décodage contraint, récompenses RL).
• Efficacité : L'entraînement a été très rapide et peu coûteux (< 1 $ par étape, < 20 minutes de temps GPU).
• Comparaison Base vs. Affiné : Les modèles de base (non affinés) avaient 0 % d'adhésion au format et une exactitude sémantique très faible, confirmant que la structure Nyaya est bien apprise via le fine-tuning.

5. Signification et Impact

• Bridging Ancient and Modern : Ce travail prouve que les cadres épistémologiques anciens peuvent structurer le raisonnement neuronal moderne, comblant le fossé entre la logique formelle et l'IA générative.
• Fiabilité et Auditabilité : Contrairement aux modèles de pointe actuels dont le "raisonnement" est opaque, Pramana offre une traçabilité complète. Chaque affirmation est liée à une source de connaissance (Pramana) et vérifiée par des tests de contradiction (Tarka).
• Humilité Épistémique : Le cadre force le modèle à reconnaître l'incertitude et à distinguer la connaissance justifiée de l'hypothèse, réduisant ainsi les hallucinations confiantes.
• Limites et Perspectives : Bien que l'exactitude sémantique soit excellente, la conformité au format reste un défi. Les travaux futurs (Stage 2 et 3) prévoient l'utilisation de l'apprentissage par renforcement (GRPO) avec des récompenses spécifiques au format, l'expansion vers des domaines non logiques (juridique, médical) et l'intégration de vérificateurs formels (Z3) pour une validation automatique.

En résumé, Pramana démontre qu'il est possible d'enseigner aux LLM non seulement quoi penser, mais comment penser de manière systématique, justifiée et vérifiable, en s'inspirant de traditions philosophiques millénaires.