Resumo Técnico: A Ilusão da Estocasticidade em LLMs

1. O Problema

À medida que os Grandes Modelos de Linguagem (LLMs) são cada vez mais implantados como agentes autônomos, eles não apenas precisam inferir políticas ótimas, mas também agir de acordo com essas políticas de forma estocástica (aleatória). Em muitos cenários, como em jogos, exploração em ambientes complexos ou geração de questionários justos, a capacidade de amostrar de distribuições de probabilidade específicas é fundamental.

O problema central identificado neste trabalho é que, embora os LLMs possam entender teoricamente uma distribuição de probabilidade, eles falham fundamentalmente ao amostrar diretamente dela de forma confiável. Existe uma lacuna entre o "saber" (entender a distribuição) e o "fazer" (gerar a amostra aleatória correta). Os autores argumentam que a aleatoriedade observada nos LLMs atuais é frequentemente uma "ilusão de estocasticidade", impulsionada por vieses nos dados de treinamento ou na arquitetura do modelo, em vez de uma verdadeira geração de números aleatórios controlada pela distribuição alvo.

2. Metodologia

Os autores realizaram uma análise empírica rigorosa abrangendo múltiplas famílias de modelos (Gemini, Qwen3, OLMO-3), tamanhos de modelos e estilos de prompting. O estudo foi dividido em várias abordagens experimentais:

• Amostragem Independente: Os modelos foram instruídos a gerar uma amostra de distribuições simples (Uniforme Discreta, Uniforme Contínua, Gaussiana) repetidamente (N=1024 vezes) sem contexto de histórico.
• Amostragem Sequencial e em Lote (Batched): Investigação de como a inclusão de amostras anteriores no contexto (histórico completo ou apenas a última amostra) ou a geração de múltiplas amostras de uma vez afeta a distribuição.
• Uso de Ferramentas (Tool-Use): Os modelos foram autorizados a gerar e executar código Python para simular geradores de números pseudoaleatórios (PRNGs), com e sem instruções específicas para definir uma seed (semente) baseada no tempo.
• Simulação de Algoritmos (Chain-of-Thought): Os modelos foram fornecidos com o código de um PRNG e uma seed, solicitando que calculassem o resultado passo a passo (sem execução de código externo).
• Conversão de Distribuição: Os modelos receberam um número aleatório uniforme pré-gerado (de [0,1]) e foram solicitados a convertê-lo para a distribuição alvo (ex: Gaussiana) usando raciocínio determinístico.

3. Principais Contribuições e Resultados

A. Falhas na Amostragem Direta (Amostragem Independente)

• Vieses Distribucionais e Posicionais: Os LLMs falharam consistentemente em seguir distribuições alvo. Em distribuições discretas, eles tendiam a favorecer números específicos (ex: 7, 42) ou posições específicas na lista de opções (ex: a opção "C" em questões de múltipla escolha).
• Testes de Ajuste (Goodness-of-Fit): Os testes estatísticos (Chi-Square e Kolmogorov-Smirnov) resultaram em valores-p próximos de zero para todos os modelos testados, rejeitando a hipótese nula de que as amostras seguem a distribuição alvo.
• Ineficácia de Parâmetros: Ajustes de parâmetros de decodificação (temperatura, top-p, top-k) e o uso de Chain-of-Thought (raciocínio passo a passo) não corrigiram o problema. Modelos maiores e mais avançados (como Gemini-3.0-Pro e Qwen3-32B) ainda apresentaram falhas significativas.

B. Limitações de Amostragem Sequencial e em Lote

• Vieses Temporais: A amostragem sequencial introduziu fortes correlações temporais. A abordagem com "todo o histórico" mostrou uma tendência de evitar o estado anterior (viés repulsivo), enquanto a abordagem com "último histórico" mostrou padrões periódicos indesejados.
• Falhas em Lotes: Ao pedir a geração de 1024 números de uma vez, os modelos frequentemente falharam em gerar a quantidade exata de números (devido à dificuldade de contagem) e exibiram padrões repetitivos (ex: sequências cíclicas), tornando-os previsíveis e exploráveis.

C. Uso de Ferramentas e Simulação de PRNG

• Dependência de Sementes (Seeds): Quando os modelos geravam código Python, o ambiente de execução muitas vezes reutilizava a mesma seed, tornando os resultados determinísticos. A instrução explícita para usar o tempo atual como seed melhorou a confiabilidade, mas apenas em modelos muito avançados (Gemini-3.0-Pro).
• Simulação de Algoritmos: Modelos suficientemente grandes (>4B parâmetros) conseguiram simular algoritmos PRNG para distribuições Uniformes com alta precisão (>90%).
• Falha em Distribuições Complexas: A simulação falhou drasticamente para distribuições Gaussianas. O motivo identificado foi a incapacidade dos LLMs de realizar multiplicações precisas com números muito grandes que surgem durante a segunda iteração de geração de números aleatórios (necessária para a Transformação de Box-Muller), levando a erros de cálculo.

D. Conversão de Distribuição (O "Pulo do Gato")

• Conversão Determinística: O resultado mais promissor foi que, quando fornecido com um número aleatório uniforme pré-gerado (de uma fonte externa confiável), os LLMs conseguiram converter esse número para a distribuição alvo (Uniforme Discreta, Gaussiana, Mixture Models) com alta precisão.
• Propriedade Emergente: Essa capacidade de conversão mostrou-se uma propriedade emergente dependente do tamanho do modelo. Modelos maiores (>4B para Gaussiana, >1.7B para Uniforme) conseguiram realizar a transformação determinística (ex: Inverse Transform Sampling) corretamente através do raciocínio.

4. Significância e Conclusões

O trabalho demonstra que a estocasticidade nativa dos LLMs é fundamentalmente defeituosa para aplicações de agentes que exigem amostragem controlada de distribuições. A "aleatoriedade" percebida é, na verdade, um viés estrutural.

• Implicações para Agentes: Sistemas de agentes que dependem da exploração estocástica ou de políticas probabilísticas podem ser facilmente explorados ou falhar em tarefas críticas devido a essa falta de verdadeira aleatoriedade.
• Solução Prática: A conclusão pragmática é que os LLMs não devem ser usados como geradores de números aleatórios. Em vez disso, para tarefas de amostragem, deve-se fornecer ao LLM uma semente ou número aleatório externo (de um PRNG confiável) e instruí-lo a realizar a conversão determinística para a distribuição desejada.
• Limitações Futuras: O uso de PRNGs via ferramentas ou simulação de código é computacionalmente proibitivo para amostragem repetida em tempo real e exige gerenciamento de estado que os LLMs (geralmente stateless) não possuem nativamente.

Em suma, o artigo alerta que a capacidade de "pensar" sobre probabilidade não se traduz na capacidade de "agir" probabilisticamente, exigindo novas arquiteturas ou integrações de ferramentas para agentes LLMs confiáveis.