Pramana: Fine-Tuning Large Language Models for Epistemic Reasoning through Navya-Nyaya

Dit paper introduceert Pramana, een methode die grote taalmodellen fijnstemt op de 2.500 jaar oude Indiase redeneerframework Navya-Nyaya om hun epistemische redeneervermogen te verbeteren en hallucinaties te verminderen door gestructureerde, zesfasige logische analyse toe te passen.

De kern

Stel je voor dat je een zeer slimme, maar nogal ongeduldige robot hebt die alles kan vertellen. Deze robot leest miljoenen boeken en kan prachtige verhalen schrijven. Maar als je hem vraagt: "Hoeveel 'r's zitten er in het woord 'aardbei'?", begint hij te twijfelen, te redeneren en uiteindelijk een fout antwoord te geven, terwijl hij er heel zeker van klinkt. Hij "hallucineert" feiten.

Dit is precies het probleem met de huidige kunstmatige intelligentie (AI). Ze zijn goed in het nabootsen van taal, maar slecht in echt, systematisch nadenken. Ze zoeken naar patronen in hun geheugen in plaats van feiten te controleren.

In dit paper introduceert de auteur, Sharath Sathish, een oplossing genaamd Pramana. Het klinkt als een ingewikkeld woord, maar het is eigenlijk een oude, Indiase manier van denken die al 2.500 jaar bestaat. Laten we het uitleggen met een paar simpele analogieën.

1. Het Probleem: De "Snelle" maar "Onbetrouwbare" Chef-kok

Stel je voor dat de huidige AI een chef-kok is die blindelings recepten nabootst. Als je hem vraagt een taart te maken, doet hij het snel en het ziet er mooi uit. Maar als je een nieuw ingrediënt toevoegt (bijvoorbeeld "de keuken is blauw" in plaats van "deeg"), raakt hij in paniek en maakt hij een rottaart. Hij weet niet waarom hij de ingrediënten gebruikt, hij doet het alleen omdat hij het zo heeft gezien in zijn trainingsdata.

Hij mist een receptboek met regels. Hij weet niet hoe hij moet controleren of zijn redenering klopt voordat hij het bord op tafel zet.

2. De Oplossing: Het Oude "Navya-Nyaya" Recept

De auteur pakt een oud, 2.500 jaar oud receptboek uit India, genaamd Navya-Nyaya. Dit is geen gewoon recept, maar een strikt stappenplan voor hoe je tot een waarheid komt. Het is als een detective die nooit iets afdoet zonder bewijs.

In plaats van de AI te laten "gokken", dwingen we hem om dit oude stappenplan te volgen. Het bestaat uit 6 stappen, die we kunnen vergelijken met het bouwen van een huis:

1. Samshaya (De Twijfel):
   • Analogie: Voordat je begint te bouwen, zeg je: "Waar twijfel ik precies?"
   • De AI moet eerst erkennen: "Ik weet niet zeker wie welke hond heeft." Zonder deze stap begint de AI te gissen.
2. Pramana (Het Bewijs):
   • Analogie: "Waar haal ik mijn bakstenen vandaan?"
   • De AI moet zeggen: "Ik heb dit gezien (ooggetuige), ik heb dit afgeleid (logica), of ik heb het gehoord van een betrouwbare bron." Geen enkele bewering zonder een bron.
3. Pancha Avayava (De Bouwstijl):
   • Analogie: Het bouwen van de muren volgens een vast patroon.
   • De AI moet een argument opbouwen met een stelling, een reden, een universele regel ("Waar je X ziet, zie je Y"), een toepassing en een conclusie. Het is als een stevige muur in plaats van een hoop losse stenen.
4. Tarka (De "Wat-als" Test):
   • Analogie: De bouwinspecteur die zegt: "Stel dat we deze muur niet bouwen, wat gebeurt er dan?"
   • De AI moet proberen het tegenovergestelde te bewijzen. Als dat leidt tot een onzin (een "paradox"), dan weet hij dat zijn oorspronkelijke idee klopt.
5. Hetvabhasa (De Foutencontrole):
   • Analogie: De veiligheidscontroleur die kijkt of je geen valkuilen hebt gemaakt.
   • De AI moet zelf checken: "Heb ik een logische fout gemaakt? Heb ik een oorzaak verward met een toeval?"
6. Nirnaya (Het Besluit):
   • Analogie: De sleutel overhandigen.
   • Pas nu zegt de AI: "Ik weet het zeker." Of, als er niet genoeg bewijs is: "Ik weet het niet, ik moet meer onderzoek doen." Dit voorkomt dat de AI met zekerheid liegt.

3. Wat hebben ze gedaan? (Het Experiment)

De auteurs hebben twee robot-hersenen (AI-modellen) getraind met dit oude recept.

• Stap 1: Ze leerden een klein model (3 miljard "neuronen") met 20 voorbeelden.
• Stap 2: Ze leerden een groter, slimmer model (8 miljard "neuronen") met 55 voorbeelden.

Het verrassende resultaat:
De robots leerden het denken (de logica) perfect. Als je ze vroeg om het antwoord, gaven ze 100% de juiste oplossing. Maar ze waren nog een beetje slordig met de vorm. Ze vergeten soms een stapje in het stappenplan (zoals de "foutencontrole" stap) of schreven het niet in de perfecte volgorde.

Het is alsof je een student hebt die de wiskundige som perfect uitrekent, maar soms de "antwoord:" regel vergeet te schrijven. De inhoud is perfect, de formaat is nog niet 100%.

4. Waarom is dit belangrijk?

Vroeger was AI als een magische zwarte doos: je gaf een vraag, en hij gaf een antwoord. Je wist niet hoe hij erbij kwam.
Met Pramana maken we de doos transparant.

• Je kunt zien waar de AI zijn informatie vandaan haalt.
• Je kunt zien hoe hij tot een conclusie komt.
• Je kunt zien waar hij een fout maakt (als hij de "Tarka"-stap niet goed doet).

Dit is cruciaal voor dingen waar fouten niet mogen, zoals in de geneeskunde of de wet. Je wilt niet dat een AI zegt: "Deze patiënt heeft kanker" zonder te kunnen uitleggen waarom en welke bewijzen hij heeft gebruikt.

Samenvatting in één zin

De auteurs hebben een oude Indiase filosofie gebruikt om moderne AI's te leren niet alleen te "gokken" met antwoorden, maar om als een systematische detective te werken: eerst twijfelen, dan bewijs zoeken, dan logisch redeneren, dan testen, dan fouten checken, en pas dan een zeker antwoord geven.

Het is een stap in de richting van AI die we kunnen vertrouwen, omdat we kunnen zien hoe het denkt, in plaats van alleen blindelings naar het antwoord te kijken.

Technische samenvatting

Titel: Pramana: Fine-tuning van Groot Taalmodellen voor Epistemisch Redeneren via Navya-Nyaya

Auteur: Sharath Sathish (Universiteit van York)
Datum: April 2026

---

1. Het Probleem: Het Epistemische Kruispunt

Groot Taalmodellen (LLM's) genereren vloeiende tekst maar kampen met fundamentele tekortkomingen in systematisch redeneren. Ze neigen tot "hallucinaties" (het confident presenteren van ongefundeerde claims) en missen de mogelijkheid om beweringen te onderbouwen met traceerbaar bewijs.

• Fragiliteit: Onderzoek van Apple (2024) toont aan dat het toevoegen van irrelevante context aan wiskundige problemen de prestaties van LLM's met wel 65% kan laten dalen. Dit onthult dat modellen vaak complexe patroonherkenning toepassen in plaats van echt te redeneren.
• Het Epistemische Kruispunt: Het vermogen om geldige kennis te onderscheiden van probabilistische associaties ontbreekt. Standaard methoden zoals "Chain-of-Thought" (CoT) prompting verbeteren de nauwkeurigheid, maar vertrouwen op impliciete patronen die tijdens het pre-training zijn geleerd, zonder expliciete logische structuren of verificatiemechanismen.

2. Methodologie: Navya-Nyaya als Scaffolding

Het paper introduceert Pramana, een nieuwe aanpak die LLM's leert een 2.500 jaar oud Indiaas epistemologisch raamwerk: Navya-Nyaya ("Nieuwe Logica"). In tegenstelling tot Westerse formele logica, die logische geldigheid loskoppelt van epistemische grondslag, integreert Navya-Nyaya logica met kennisbronnen.

De methologie dwingt het model op te treden volgens een gestructureerde 6-fasen redeneercyclus:

1. SAMSHAYA (Twijfelanalyse): Classificatie van het type onzekerheid of ambiguïteit in het probleem (bijv. meerdere entiteiten met dezelfde eigenschappen).
2. PRAMANA (Kennisbronnen): Identificatie van geldige bronnen voor kennis:
   • Pratyaksha (Directe waarneming/facten uit de prompt).
   • Anumana (Inferentie/Logische afleiding).
   • Upamana (Vergelijking/Analogie).
   • Shabda (Testimonie/Autoritaire principes).
3. PANCHA AVAYAVA (5-ledige Syllogisme): Constructie van formele argumenten met een universele regel (Vyapti) en een concreet voorbeeld (Drishtanta), gevolgd door toepassing en conclusie.
4. TARKA (Contradictie-Test): Verificatie van conclusies via reductio ad absurdum (aanname van het tegendeel om een contradictie af te leiden).
5. HETVABHASA (Foutdetectie): Systematische controle op vijf soorten redeneerfouten (bijv. correlatie verwarren met causaliteit, cirkelredenering).
6. NIRNAYA (Zekerheid): Het trekken van een definitieve conclusie of het erkennen van onvoldoende bewijs (epistemische nederigheid).

Implementatie:

• Fine-tuning: Supervised Fine-Tuning (SFT) met QLoRA (4-bit kwantisatie) via Unsloth.
• Modellen:
  • Stage 0: Llama 3.2-3B (Proof of Concept, 20 voorbeelden).
  • Stage 1: DeepSeek-R1-Distill-Llama-8B (Minimum Viable Reasoner, 55 voorbeelden, inclusief negatieve voorbeelden).
• Data: Handmatig geverifieerde datasets met constraint satisfaction en Boolean SAT problemen, opgeslagen in gestructureerd Markdown met YAML-frontmatter.

3. Belangrijkste Bijdragen

1. Eerste LLM met expliciete Nyaya-methodologie: Demonstratie dat taalmodellen systematische redeneerpatronen kunnen leren uit een oud epistemologisch raamwerk, met outputs die alle zes fasen bevatten.
2. Empirische analyse over twee fasen: Vergelijking van modelgrootte (3B vs 8B) en datasetgrootte (20 vs 55 voorbeelden).
3. Open-source release: Alle modellen, datasets en trainingsinfrastructuur zijn beschikbaar gesteld op Hugging Face, inclusief een interactieve demo.

4. Resultaten

De experimenten tonen een opmerkelijke dissociatie tussen semantische correctheid (het juiste antwoord) en format-gevolg (strakke structuur).

• Semantische Correctheid:
  • Stage 0: 50% (5/10).
  • Stage 1: 100% (10/10). Het model leert de redeneerinhoud effectief, zelfs als de structuur niet perfect is.
• Format-gevolg (Structuur):
  • Beide stadia behaalden slechts 40% strikte format-gevolg (4/10 voorbeelden).
  • Veelvoorkomende fouten: Ontbreken van de Hetvabhasa (foutdetectie) of Nirnaya (conclusie) sectie, of het gebruik van niet-standaard classificaties voor twijfel.
• Ablatie-studies:
  • De interactie tussen prompt-structuur en temperatuur verschilt per stadium.
  • Stage 1 (DeepSeek) presteerde robuuster en vereiste een hogere temperatuur (0.7) voor optimale semantische prestaties, terwijl Stage 0 (Llama) beter presteerde bij lage temperatuur (0.0).
• Conclusie: Modellen leren de inhoud van het redeneren (epistemische structuur) veel sneller dan ze de strikte syntaxis van het outputformaat beheersen.

5. Betekenis en Toekomstperspectief

• Interpreteerbaarheid: Pramana biedt een transparante "audit trail" voor AI-redenering. In tegenstelling tot de "black box" van o1 of DeepSeek-R1, kunnen gebruikers elke stap (bewijsbron, syllogisme, foutcontrole) inspecteren.
• Epistemische Nijverheid: Het systeem dwingt modellen om onderscheid te maken tussen kennis en hypothese, wat hallucinaties van zelfverzekerdheid voorkomt.
• Kosten: De methode heeft een hogere token-overhead (ca. 3-6x meer dan standaard CoT) voor de winst in betrouwbaarheid en traceerbaarheid.
• Toekomst (Stage 2 & 3):
  • Uitbreiding van de dataset naar 200-500 synthetische voorbeelden met strikte kwaliteitscontrole.
  • Implementatie van Reinforcement Learning (GRPO) met een samengestelde beloningsfunctie die specifiek format-gevolg en epistemische kwaliteit beloont.
  • Integratie van formele verificatie (Z3 SMT-solver) voor logische consistentie.

Samenvattend: Dit paper bewijst dat oude, niet-westerse epistemologische systemen (Navya-Nyaya) effectief kunnen worden vertaald naar neurale netwerken om de "epistemische kloof" in AI te dichten. Hoewel strikte format-gevolg nog een uitdaging blijft, is het vermogen van LLM's om systematisch, onderbouwd en foutgevoelig te redeneren via fine-tuning bewezen.