Large Language Models Are Bad Dice Players: LLMs Struggle to Generate Random Numbers from Statistical Distributions

1. O Problema

À medida que os Modelos de Linguagem Grandes (LLMs) evoluem de interfaces de chat para componentes centrais de pipelines estocásticos e sistemas de inteligência geral, a capacidade de amostrar fielmente de distribuições de probabilidade especificadas tornou-se um requisito funcional crítico, e não apenas uma curiosidade teórica.

O problema central identificado é que os LLMs atuais não possuem um mecanismo interno funcional para amostragem probabilística. Embora sejam capazes de descrever conceitos de aleatoriedade, eles falham sistematicamente ao tentar gerar sequências de números que sigam distribuições estatísticas reais (como Uniforme, Gaussiana, Bernoulli, etc.). Essa falha tem implicações graves em aplicações do mundo real, como:

• Geração de Questões de Múltipla Escolha (MCQ): A necessidade de que as respostas corretas sejam distribuídas uniformemente entre as opções (A, B, C, D) para evitar viés posicional.
• Síntese de Prompts para Imagem: A necessidade de gerar conjuntos de dados sintéticos com equilíbrio demográfico controlado (gênero, etnia) para garantir justiça e representatividade.

A prática atual de contornar essa limitação, solicitando que o LLM escreva código Python para usar bibliotecas externas (como numpy.random), sugere que o modelo aprendeu a descrever a aleatoriedade, mas não adquiriu a competência funcional de simulá-la internamente.

2. Metodologia

Os autores realizaram a primeira auditoria estatística em larga escala da amostragem probabilística nativa em LLMs de ponta.

• Escopo do Benchmark:

  • Modelos: 11 modelos de ponta (incluindo GPT-4o, GPT-5.2, Gemini-3, DeepSeek-V3.2, Llama-3.3, Llama-4, etc.).
  • Distribuições: 15 distribuições de probabilidade organizadas em três níveis de complexidade:
    • Tier I: Básicas (Uniforme, Gaussiana, Bernoulli).
    • Tier II: Com suporte limitado ou discretas (Beta, Binomial, Poisson, Exponencial).
    • Tier III: Complexas, com caudas pesadas ou múltiplos parâmetros (Cauchy, t-Student, Qui-Quadrado, F, Gama, Weibull, Laplace, Logística).
  • Tamanho da Amostra (N): 1.000 amostras por configuração (N=1000), permitindo avaliação estatística robusta (convergência assintótica), superando estudos anteriores que usavam N=100.

• Design Experimental Dual (Protocolos):
  Para desconectar os modos de falha, foram utilizados dois protocolos distintos:

  1. Geração em Lote (Batch Generation): O modelo recebe um único prompt pedindo N=1000 amostras em uma única resposta. Isso testa a dependência de contexto e a capacidade de auto-correção dentro da janela de contexto.
  2. Requisições Independentes (Independent Requests): N=1000 chamadas sem estado (stateless), onde cada chamada pede exatamente uma amostra. Isso isola os priores intrínsecos do modelo sem interferência contextual.

• Métricas de Avaliação:

  • Testes Estatísticos: Teste de Kolmogorov-Smirnov (KS) para distribuições contínuas e Teste Qui-Quadrado ($\chi^2$) para discretas (nível de significância $\alpha = 0.01$).
  • Métricas de Fidelidade: Distância Wasserstein-1 ($W_1$) e Divergência de KL para quantificar a distância geométrica entre a distribuição gerada e a referência (NumPy/SciPy).

• Aplicações de Baixo Nível (Downstream):

  • Geração de MCQs médicos para testar viés posicional.
  • Geração de prompts para texto-para-imagem com restrições demográficas e de atributos (gênero, etnia, altura, cor do casaco).

3. Principais Contribuições e Descobertas

A. Assimetria de Protocolo Severa

Há uma falha drástica na amostragem independente.

• Geração em Lote: Os modelos alcançam uma validade estatística modesta (taxa de aprovação mediana de 7%, com o melhor modelo passando em 40% das distribuições). Isso sugere que o modelo usa o contexto gerado anteriormente para "corrigir" desvios, simulando uma distribuição.
• Requisições Independentes: O desempenho colapsa quase totalmente. 10 dos 11 modelos falharam em passar em qualquer uma das 15 distribuições quando solicitados a gerar amostras individualmente. Isso prova que a "aleatoriedade" observada no modo em lote é uma propriedade emergente da condicionamento autoregressivo, e não uma compreensão interna de probabilidade.

B. Degradação com Complexidade e Tamanho da Amostra

• Complexidade: A fidelidade da amostragem decai monotonicamente à medida que a complexidade da distribuição aumenta (do Tier I para o Tier III). Distribuições com caudas pesadas (como Cauchy) são especialmente problemáticas.
• Efeito Inverso do Tamanho da Amostra (Inverse Scaling): Contrariando a expectativa de que amostras maiores levam a uma melhor convergência, a fidelidade piora à medida que o horizonte de amostragem (N) aumenta. Em lotes grandes, o viés se acumula (drift), e os testes estatísticos rejeitam a hipótese nula com mais força à medida que N cresce.

C. Propagação de Falhas para Aplicações Reais

As falhas de amostragem não são apenas teóricas; elas introduzem vieses sistemáticos em tarefas downstream:

• Viés Posicional em MCQs: Mesmo com instruções explícitas para distribuir uniformemente as respostas corretas entre A, B, C e D, os modelos exibem fortes preferências (ex: um modelo colocou 54,6% das respostas corretas na posição C e apenas 4,5% na A).
• Viés Demográfico em Prompts: Ao tentar gerar prompts com distribuição demográfica controlada (baseada no Censo dos EUA), os modelos falharam sistematicamente. Exemplos incluem super-representação de um gênero (75% masculino vs. 49,5% alvo) ou colapso de variância em altura (desvio padrão gerado de ~3cm vs. 10cm alvo) e preferência modal extrema em cores (ex: 96% de casacos verdes).

4. Significado e Conclusões

O estudo conclui que os LLMs atuais carecem de um "dado interno" funcional. Eles não conseguem simular processos estocásticos reais sem depender de ferramentas externas (como bibliotecas de código) ou de contextos longos que permitem correção de erros sequencial.

Implicações:

1. Limitação de Inteligência Geral: A incapacidade de amostrar de distribuições simples sem auxílio externo sugere que os modelos aprenderam a linguagem da aleatoriedade, mas não a mecânica subjacente.
2. Risco em Aplicações Críticas: O uso de LLMs para geração de dados sintéticos, simulação de agentes ou criação de materiais avaliativos sem validação estatística externa pode introduzir vieses ocultos e comprometer a justiça e a validade dos resultados.
3. Necessidade de Ferramentas Externas: Para aplicações que exigem garantias estatísticas rigorosas, a dependência de workarounds baseados em código (como pedir ao LLM para gerar scripts Python) não é apenas uma conveniência, mas uma necessidade fundamental.

Em suma, o papel dos LLMs como geradores de aleatoriedade nativa é fundamentalmente falho, exigindo que a comunidade de IA reconheça essa limitação e adote arquiteturas híbridas que integrem geradores de números aleatórios tradicionais para tarefas estocásticas.