Making Bielik LLM Reason (Better): A Field Report

Dit artikel beschrijft een onderzoeksprogramma gericht op het evalueren en verbeteren van de redeneervermogens van het Poolse grote taalmodel Bielik, waarbij de resultaten worden vergeleken met andere modellen en toekomstperspectieven worden geschetst om Bielik competitief te houden in de snel veranderende AI-landschap.

De kern

Verslag: Hoe we Bielik, de Poolse AI, leren nadenken

Stel je voor dat je een jonge student hebt die net naar de universiteit is gegaan. Hij is slim, spreekt perfect het lokale dialect (Poolse), maar als je hem een lastig raadsel geeft, kijkt hij je vaak met lege ogen aan. Dat is wat er gebeurde met Bielik, een kunstmatige intelligentie (AI) die in Polen is ontwikkeld.

Deze paper is eigenlijk een dagboek van een team van onderzoekers dat Bielik heeft opgeleid om niet alleen te praten, maar echt te nadenken. Hier is wat ze hebben gedaan, vertaald in alledaags taalgebruik:

1. De start: Van "kletsen" naar "nadenken"

Aan het begin kon Bielik (versie 2.3) best aardige zinnen maken, maar als je hem vroeg om een logisch probleem op te lossen, ging het mis. Het was alsof je een kind vraagt om een ingewikkeld bordspel te spelen zonder de regels te kennen. Het team merkte dat ze niet handmatig konden blijven controleren of Bielik het goed deed; dat was te veel werk.

Dus bouwden ze een automatische scheidsrechter. Dit is een andere, slimmere AI die naar het antwoord van Bielik kijkt en zegt: "Goed gedaan!" of "Nee, dat klopt niet." Ze maakten een enorme lijst met puzzels:

• Logische raadsels: Denk aan de bekende "Einstein-raadsels" (wie heeft de vis?).
• Wiskundige reeksen: Wat komt er na 2, 6, 18, 54?
• Dagelijkse situaties: "Iemand loopt met een kopje koffie, waar is die vandaan gekomen?"

2. De training: De "Gymzaal" voor Bielik

Het team besefte dat Bielik gewoon oefening nodig had. Ze bouwden een speciale trainingscyclus, vergelijkbaar met hoe je een atleet voorbereidt op de Olympische Spelen:

1. Het leerboek (SFT): Ze gaven Bielik 1,3 miljoen voorbeelden van goede redeneerprocessen (uit andere talen) om te kopiëren.
2. De feedbackronde (DPO): Ze leerden hem wat "beter" is dan "goed".
3. De wedstrijd (Reinforcement Learning): Dit was de zware training. Bielik kreeg duizenden Poolse wiskunde- en logische problemen. Als hij het goed deed, kreeg hij een puntje (beloning). Als hij het fout deed, kreeg hij een tik op de vingers.

Het resultaat? Een nieuwe versie genaamd Bielik-R. Dit is de eerste Poolse AI die specifiek is getraind om eerst na te denken (in een denk-bubbel) voordat hij antwoordt.

3. De resultaten: De grote wedstrijd

Toen ze Bielik-R tegen andere wereldwijde AI's (zoals die van Google, OpenAI en DeepSeek) lieten strijden op een lijst met moeilijke puzzels, was het resultaat gemengd:

• De top: De internationale zwaargewichten wonnen met gemak (soms met 87% juiste antwoorden).
• Bielik-R: Haalde ongeveer 56%. Dat is niet slecht voor een lokale speler, maar het laat zien dat er nog een wereld te winnen valt.
• De verrassing: Bielik was soms beter in formele logica (zoals wiskundige bewijzen) dan in andere taken. Maar hij had een probleem: hij gebruikte vaak te veel "woorden" (tokens) om een antwoord te vinden, alsof hij te veel praatte voordat hij de oplossing had.

4. De toekomst: Van solospeler naar teamspeler

Het team heeft een belangrijke les geleerd: AI hoeft niet alles alleen te doen.

Stel je voor dat Bielik niet de enige speler is in een team, maar de coördinator.

• Voor wiskundeproblemen: Bielik schrijft de code voor een rekenmachine (SymPy) om het antwoord te controleren, in plaats van het zelf uit te rekenen.
• Voor juridische vragen: Bielik zoekt in een bibliotheek met wetboeken (RAG) en vat de regels samen.
• Voor spelletjes: Bielik leert strategieën door te spelen en fouten te maken, net als een mens.

Ze bouwen nu een AI-tutor voor Poolse scholieren die wiskunde kan uitleggen, en een systeem dat kan analyseren of iemand in een discussie logische fouten maakt (zoals een "demagoog-detecteur").

Conclusie: De reis gaat door

Deze paper vertelt het verhaal van een nationaal project dat probeert bij te blijven in de wereldwijde AI-race. Polen heeft een paar jaar achterstand, maar met Bielik bouwen ze aan een sterke lokale speler.

Het is als het bouwen van een auto. Eerst hadden ze een fiets (Bielik 2.3). Nu hebben ze een racefiets met een motor (Bielik-R). Hij is nog niet zo snel als de Formule 1-auto's van de grote tech-giganten, maar hij rijdt steeds beter. En het allerbelangrijkste: ze leren de auto hoe hij zelf kan nadenken over de weg, in plaats van alleen maar de weg te volgen.

Kort samengevat: Ze hebben Bielik getraind om niet alleen te praten, maar om echt te redeneren, fouten te maken, te leren van die fouten, en uiteindelijk samen te werken met andere slimme tools om complexe problemen op te lossen.

Technische samenvatting

` delimiters om het redeneerproces (Chain-of-Thought) te scheiden van het eindantwoord.
* Data: Constructie van een grote Poolse dataset (490k taken) voor RLVR (Reinforcement Learning with Verifiable Rewards) die wiskunde, code, STEM en logica omvat.

• Multi-Agent Systemen:
  • Voor wiskundige taken werd een multi-agent systeem (Bielik-M) ontwikkeld met gespecialiseerde agents (Analytisch, Executor, Samenvatting, Formalizer) en lokale RAG (Retrieval-Augmented Generation) voor Poolse examenvragen.

3. Belangrijkste Bijdragen

• Bielik-R: De introductie van het eerste Poolse LLM met ingebouwde redeneercapaciteiten, specifiek getraind voor het Poolse taalgebied.
• Gedetailleerde Benchmark: Een uitgebreide benchmark-suite voor Poolse redeneertaken, inclusief formele logica, wiskunde en logische puzzels, met een transparante taxonomie.
• Evaluatie-infrastructuur: Een robuust systeem voor het automatisch evalueren van redeneerprestaties, inclusief het meten van redundantie in redeneerteksten en hallucinaties.
• Multi-Agent Architectuur: Bewijs dat een relatief klein model (11B parameters) complexe wiskundige problemen (matura-niveau) kan oplossen door taakontleding en samenwerking met gespecialiseerde agents en symbolische verificatie (SymPy).
• Inzicht in Redeneerpatronen: Analyse van het gedrag van modellen, zoals de neiging tot "shortcutting" (heuristieken toepassen in plaats van diep redeneren) en het probleem van het "niet weten hoe te beginnen" bij bepaalde taken.

4. Resultaten

• Benchmark Scores (Bielik-R vs. Concurrentie):
  • In de algemene ranking scoort Bielik-R (11B) met 56%, wat lager is dan toonaangevende modellen zoals gemini-3-pro-preview en o3 (beide 87%), maar beter dan eerdere versies van Bielik (Bielik-v2.3 en v2.5 scoorden rond de 29%).
  • Formele Logica: Bielik-R presteerde verrassend goed in specifieke subgebieden: 89% in eerste-orde logica en 80% in propositielogica.
  • Token Gebruik: Bielik-R gebruikt gemiddeld 3.152 tokens voor redenering, wat vergelijkbaar is met of zelfs hoger ligt dan commerciële modellen (bijv. o1 gebruikt 2.751 tokens), wat suggereert dat het model grondig redeneert, maar soms vastloopt in redundantie.
• Zwakke Punten:
  • Bielik heeft moeite met het verlaten van initiële aannames bij gewijzigde probleemstellingen.
  • Het model faalt vaak bij het initiëren van procedures ("niet weten hoe te beginnen") in plaats van puur deductieve zwaktes.
  • Er is een structurele asymmetrie: modellen zoals Gemma krijgen soms deels credit voor foutieve antwoorden, terwijl Bielik punten verliest door het overschrijden van tokenlimieten, zelfs als het op de goede weg was.

5. Betekenis en Toekomstperspectief

• Nationale Positie: Het project is cruciaal voor het verbeteren van de positie van Polen in het wereldwijde AI-landschap en biedt een competitief lokaal alternatief voor internationale platforms.
• Van Voorspelling naar Redenering: Het werk markeert de transitie van Bielik van een voorspellend model naar een model dat kan redeneren, wat essentieel is voor autonome AI-agenten in domeinen zoals recht, wetenschap en onderwijs.
• Toekomstige Richtingen:
  • Uitbreiding naar complexere cognitieve domeinen: discoursanalyse, Winograd-taken en morele dilemma's.
  • Ontwikkeling van een "Demagog"-systeem voor het analyseren van argumentatieve discoursen.
  • Verdere optimalisatie van het onderscheid tussen memorisatie en echt redeneren.
  • Integratie van Bielik in multi-component systemen voor specifieke domeinen (wiskunde, recht), waarbij het model fungeert als coördinator in een grotere pipeline.

Concluderend biedt dit paper een realistisch en technisch onderbouwd overzicht van de voortgang van een lokaal AI-project. Hoewel Bielik-R nog niet de top van de wereldranglijst bereikt, toont het aan dat met gerichte training, verifieerbare data en multi-agent architecturen, significante vooruitgang mogelijk is in redeneercapaciteiten, zelfs voor modellen van middelgrote grootte (11B parameters).