Resumo Técnico: UNPREDICTABENCH

Declaração do Problema

Grandes Modelos de Linguagem (LLMs) são cada vez mais implantados como proxies para o comportamento humano e sistemas estocásticos em aplicações como simulações econômicas, modelagem epidemiológica e ambientes multiagentes. Embora os LLMs demonstrem a capacidade de raciocinar sobre distribuições de probabilidade e estimar probabilidades, existe uma lacuna crítica em sua habilidade de gerar amostras que reflitam fielmente as distribuições alvo subjacentes. Os modelos atuais frequentemente exibem uma tendência de "colapso" em direção a uma única resposta plausível ou a uma faixa estreita de saídas, falhando em capturar a imprevisibilidade e a variância reais inerentes aos processos estocásticos do mundo real. O trabalho existente para melhorar a diversidade de saída é insuficiente para essas tarefas de simulação, que requerem amostras calibradas para uma distribuição alvo específica, em vez de meramente saídas variadas. Há uma falta de avaliação sistemática para determinar se os LLMs podem produzir resultados incertos que sejam estatisticamente consistentes com distribuições de verdade fundamental (ground-truth).

Metodologia

Para abordar essa lacuna, os autores introduzem o UNPREDICTABENCH, um benchmark projetado para avaliar a aleatoriedade distributiva de LLMs.

Construção do Benchmark

O benchmark consiste em 448 instâncias de teste derivadas de 40 distribuições de probabilidade alvo (variando de unimodais a multimodais, discretas a contínuas). As tarefas são categorizadas em sete tipos para investigar o entendimento distributivo através de diversas representações:

1. Texto Explícito: A distribuição e os parâmetros são nomeados explicitamente; o modelo deve gerar uma amostra.
2. Texto Implícito: Um cenário do mundo real é descrito sem nomear a distribuição; o modelo deve inferir o processo estocástico e amostrar.
3. Código Explícito: O modelo prevê a saída de um programa Python que amostra diretamente de uma distribuição (ex: via NumPy).
4. Código Implícito: O modelo prevê a saída de um programa onde a distribuição alvo é induzida através de transformações (ex: razões de variáveis gama) sem nomeação explícita.
5. Multimodal: Amostragem de misturas de duas ou mais distribuições componentes.
6. Embaralhamento (Shuffling): Gerar uma permutação aleatória uniforme de uma lista (codificada via códigos de Lehmer para avaliação).
7. Cenários do Mundo Real: Tarefas curadas manualmente envolvendo ambientes inerentemente incertos (ex: condições de corrida, dinâmica de MCMC, simulações de rede).

Métrica de Avaliação: KS@N

A principal métrica de avaliação é o KS@N, que quantifica a fidelidade distributiva usando o teste estatístico de Kolmogorov-Smirnov (KS).

• Procedimento: Para um dado problema, o modelo gera $N$ amostras independentes (tipicamente $N=100$). Estas são comparadas contra um conjunto de referência de $M=10.000$ amostras extraídas da distribuição de verdade fundamental.
• Cálculo: Um teste KS de duas amostras é realizado para obter um p-valor. Se o p-valor exceder um limiar rigoroso ($p_{threshold} = 0,0001$), as amostras do modelo não são rejeitadas como inconsistentes com a verdade fundamental.
• Pontuação: KS@N é definido como a fração de problemas onde as amostras do modelo não são rejeitadas. Uma pontuação mais alta indica melhor calibração distributiva.
• Métricas Complementares: O estudo também reporta a Distância de Wasserstein-1 Desenviesada (WDZ) para capturar o comportamento de cauda e deslocamentos de localização, e a Divergência de Jensen–Shannon (JSD) para medir desalinhamentos de forma no nível da densidade.

Principais Resultados

Os autores avaliaram um conjunto diversificado de modelos de pesos abertos e proprietários (incluindo GPT-4o/5.4, Claude Sonnet, Llama 3, Qwen, Nemotron e DeepSeek).

• Desempenho Geral: Nenhum modelo alcançou uma pontuação KS@100 acima de 40%. O modelo com melhor desempenho, Nemotron-3 Super 120B, atingiu 32,64%, enquanto muitos modelos de fronteira (ex: GPT-5.4, Claude Sonnet 4.6) pontuaram abaixo de 15%. A maioria dos modelos agrupou-se entre 0% e 20%.
• Modos de Falha: Os modelos falham de duas maneiras distintas: (1) falta de uma representação interna da distribuição alvo, ou (2) compreensão da forma bruta, mas colapso para uma faixa estreita de saída (colapso de modo).
• Dificuldade das Tarefas:
  • Embaralhamento e tarefas de Código foram as mais desafiadoras, com nenhum modelo excedendo 40% e vários modelos fortes colapsando para 0%.
  • Tarefas do Mundo Real geraram as maiores pontuações individuais para alguns modelos (ex: Llama-3.2-1B atingiu 59,09%), provavelmente devido a faixas de saída efetivas mais estreitas nesses cenários específicos.
  • Distribuições Multimodais provaram ser significativamente mais difíceis para modelos com tendências determinísticas fortes, frequentemente causando colapso total.
• Impacto de Intervenções:
  • Raciocínio (Reasoning): Habilitar tokens de raciocínio melhorou o desempenho da saída final para alguns modelos, mas revelou que outros "sabem mais do que dizem", pois seus tokens de raciocínio continham um conjunto de candidatos mais amplo do que suas saídas finais.
  • Ajuste de Instrução (Instruction Tuning): O ajuste de instrução proporcionou apenas benefícios marginais e, em alguns casos, reduziu ativamente a diversidade de saída em comparação aos modelos base.
  • Temperatura: Temperaturas mais altas (ex: $T=1,2$) geralmente melhoraram o KS@100 ao aumentar a diversidade, embora modelos mais fracos tenham sofrido com o aumento de desvios de cauda.
  • Prompt de Lista (List Prompting): Pedir aos modelos para gerar listas de amostras (ex: 10 por vez) melhorou a cobertura global para modelos capazes, mas prejudicou o desempenho para outros (ex: Llama-3.2-1B).

Significância e Alegações

O artigo posiciona o UNPREDICTABENCH como um primeiro passo necessário para o uso de LLMs como substitutos confiáveis para sistemas estocásticos complexos.

• Fundamentação Estatística: Diferente das avaliações do tipo "LLM-como-juiz", o UNPREDICTABENCH oferece uma métrica estatisticamente fundamentada (KS@N) que mede diretamente a fidelidade distributiva contra verdades fundamentais conhecidas.
• Correlação com Utilidade: O benchmark correlaciona-se fortemente com métricas de utilidade de benchmarks de criatividade (NoveltyBench, CREATE), sugerindo que a fidelidade distributiva captura um aspecto genuíno da qualidade do modelo relevante para geração criativa e diversa.
• Limitações Atuais: Os autores enfatizam que mesmo a simulação distributiva simples continua sendo um desafio significativo para os modelos atuais. A grande lacuna entre o desempenho atual e o teto teórico (Máquina Aleatória) indica que os LLMs ainda não estão prontos para tarefas de simulação de alto risco que exijam aleatoriedade fiel.
• Roteiro Futuro: O benchmark fornece um modelo para trabalhos futuros, oferecendo uma curva de dificuldade escalável (via aumento de $N$) e um ambiente de teste unificado para investigar aleatoriedade, calibração de incerteza e os efeitos dos objetivos de treinamento (ex: RLHF) no comportamento estocástico.

O artigo conclui que, embora os LLMs possam raciocinar sobre a aleatoriedade, sua capacidade de produzi-la permanece fundamentalmente falha, necessitando de mais pesquisas em arquiteturas de modelos e estratégias de treinamento que preservem a diversidade de saída sem sacrificar a calibração.