Large Language Models Are Bad Dice Players: LLMs Struggle to Generate Random Numbers from Statistical Distributions

Titel: Large Language Models Are Bad Dice Players

Auteurs: Minda Zhao, Yilun Du, Mengyu Wang (Harvard University)

1. Het Probleem

Naarmate Large Language Models (LLMs) evolueren van chatbots naar kerncomponenten van stochastische systemen (zoals synthetische data-generatie, agenten-simulaties en geautomatiseerde evaluaties), wordt de capaciteit om betrouwbaar te bemonsteren uit specifieke kansverdelingen een functionele vereiste in plaats van een theoretische curiositeit.

Huidige praktijken vertrouwen vaak op LLMs om Python-code te genereren die externe bibliotheken (zoals numpy.random) aanroept om willekeurige getallen te genereren. Dit paper onderzoekt de fundamentele vraag: Hebben LLMs een interne, functionele mechanisme om probabilistische steekproeven te trekken zonder externe hulpmiddelen?

De auteurs stellen dat als een model afhankelijk is van een externe "rekenmachine" om zelfs maar basisverdelingen te genereren, het waarschijnlijk alleen taalkundige beschrijvingen van willekeur heeft geleerd, zonder de onderliggende functionele competentie.

2. Methodologie

De auteurs voeren de eerste grootschalige, statistisch onderbouwde audit uit van de native probabilistische bemonstering in 11 state-of-the-art LLMs (waaronder GPT-4o, GPT-5.2, DeepSeek-V3.2, Llama-3.3, etc.).

Experimenteel Ontwerp:

• Datasets: 15 verschillende kansverdelingen, ingedeeld in drie complexiteitsniveaus:
  • Tier I: Basisverdelingen (Uniform, Gaussisch, Bernoulli).
  • Tier II: Beperkte of discrete domeinen (Beta, Binomiaal, Poisson, Exponentieel).
  • Tier III: Complexe/Heavy-tailed verdelingen (Cauchy, Student's t, Chi-kwadraat, Gamma, etc.).
• Steekproefgrootte: $N=1000$ samples per configuratie (veel hoger dan eerdere studies die vaak $N=100$ gebruikten), wat een statistisch krachtige analyse van convergentie mogelijk maakt.
• Dual-Protocol Design: Om verschillende faalmodi te ontrafelen, worden twee protocollen gebruikt:
  1. Batch Generatie: Het model genereert alle 1000 samples in één enkele respons (contextafhankelijk).
  2. Onafhankelijke Verzoeken: Het model maakt 1000 stateless calls, waarbij elke call slechts één sample genereert (geen gedeelde context).
• Metingen:
  • Wasserstein-1 afstand ($W_1$): Meet de geometrische kosten om de gegenereerde verdeling naar de target te transporteren.
  • Statistische Toetsen: Kolmogorov-Smirnov (KS) voor continue verdelingen en Chi-kwadraat ($\chi^2$) voor discrete verdelingen (met $\alpha = 0.01$).
  • Downstream Taken: Evaluatie van de impact op Multiple Choice Questions (MCQ) generatie (uniforme antwoordpositie) en tekst-naar-afbeelding promptgeneratie (demografische balans).

3. Belangrijkste Bevindingen en Resultaten

A. Protocollaire Asymmetrie (Batch vs. Onafhankelijk)

Er is een scherp verschil in prestaties tussen de twee protocollen:

• Batch Generatie: Bereikt slechts bescheiden statistische validiteit. De mediane "pass rate" is slechts 7%. De beste modellen halen ongeveer 40% pass rate op de eenvoudigste verdelingen.
• Onafhankelijke Verzoeken: Vrijwel totale mislukking. 10 van de 11 modellen halen 0% pass rate op alle verdelingen.
• Conclusie: De schijnbare willekeurigheid in batch-modus is geen bewijs van een intern bemonsteringsmechanisme, maar een emergent eigenschap van autoregressieve conditionering (zelfcorrectie binnen de context). Zonder context (stateless) vallen de modellen terug op systematische interne biases.

B. Complexiteit en Schaal

• Complexiteit: De bemonsteringskwaliteit verslechtert monotoon naarmate de verdelingscomplexiteit toeneemt (van Tier I naar Tier III). Zware staarten (zoals Cauchy) zijn onmogelijk voor de modellen te repliceren.
• Inverse Schaling (Sample Size): In tegenstelling tot de verwachte convergentie ($O(N^{-1/2)}$), verslechtert de bemonsteringskwaliteit naarmate de steekproefgrootte $N$ toeneemt. Bij grotere $N$ worden de statistische discrepanties duidelijker en ontkennen de modellen hun eigen bias. De $W_1$-afstand neemt toe naarmate $N$ groeit.

C. Downstream Impact (Real-world Bias)

De tekortkomingen in native sampling leiden tot systematische biases in toepassingen:

• MCQ Generatie: Ondanks expliciete instructies voor een uniforme verdeling van juiste antwoorden (A, B, C, D), vertonen alle modellen sterke positionele voorkeuren (bijv. GPT-OSS plaatst 54,6% van de juiste antwoorden op positie C).
• Demografische Prompt Generatie: Bij het genereren van prompts met specifieke demografische verdelingen (geslacht, etniciteit, lengte), schenden modellen de targets systematisch.
  • Voorbeeld: Modellen vertonen extreme gender-bias (bijv. Llama-4 genereert 97,2% vrouwen) en "variance collapse" bij lengte (standaardafwijkingen van 1-6 cm in plaats van de gevraagde 10 cm).
  • Kleuren: Modellen "crashen" naar modale voorkeuren (bijv. 96% groene jassen) in plaats van een uniforme verdeling over 7 kleuren.

4. Bijdragen

1. Fout in Interne Mechanismen: Het bewijs dat huidige LLMs geen functioneel intern mechanisme hebben voor probabilistische bemonstering. Ze simuleren willekeur via taalpatronen, niet via wiskundige competentie.
2. Complexiteitsgrens: De prestaties zijn strikt begrensd door de complexiteit van de verdeling; modellen kunnen geen verdelingen generaliseren die niet goed vertegenwoordigd zijn in hun trainingsdata of die complexe wiskundige structuren vereisen.
3. Schaalparadox: Het identificeren dat het vergroten van het bemonsteringsbudget ($N$) de prestaties verslechtert in plaats van verbetert, wat in strijd is met klassieke statistische convergentie.

5. Betekenis en Implicaties

De bevindingen hebben grote gevolgen voor de toepassing van LLMs:

• Noodzaak van Externe Tools: Voor toepassingen die statistische garanties vereisen (zoals wetenschappelijke simulaties, eerlijke evaluaties of synthetische datasets), is het onmisbaar om externe numerieke bibliotheken (zoals NumPy) te gebruiken. LLMs kunnen niet als betrouwbare "dice players" worden ingezet.
• Risico op Bias: De afhankelijkheid van native sampling introduceert systematische, onzichtbare biases in downstream taken. Dit ondermijnt de eerlijkheid en validiteit van gegenereerde content.
• Toekomstig Onderzoek: Het paper suggereert dat het vermogen om werelddynamica te simuleren (een vereiste voor Algemene Kunstmatige Intelligentie) momenteel ontbreekt als het gaat om fundamentele probabilistische competentie.

Conclusie: LLMs zijn momenteel "slechte dobbelstenen". Ze kunnen geen betrouwbare random numbers genereren uit specifieke verdelingen zonder externe hulp, en hun output vertoont systematische, context-afhankelijke biases die de statistische integriteit van complexe systemen in gevaar brengen.