Experiments or Outcomes? Probing Scientific Feasibility in Large Language Models

Título: Experimentos ou Resultados? Investigando a Viabilidade Científica em Grandes Modelos de Linguagem (LLMs)

1. Problema e Motivação

A avaliação de viabilidade científica é uma tarefa fundamental que determina se uma afirmação (hipótese) é consistente com o conhecimento estabelecido e se admite experimentos concretos que possam apoiá-la ou refutá-la. Embora os LLMs estejam sendo cada vez mais integrados em fluxos de trabalho científicos (desde revisão de literatura até planejamento experimental), sua capacidade de realizar essa tarefa de raciocínio diagnóstico permanece pouco compreendida.

O problema central abordado é:

• Os LLMs conseguem avaliar a viabilidade apenas com seu conhecimento paramétrico interno?
• Como a provisão de contexto explícito (descrições de experimentos, resultados de experimentos ou ambos) altera os julgamentos de viabilidade?
• Quão robustos são esses julgamentos quando a informação experimental está incompleta?

O estudo identifica que a viabilidade depende não apenas de recuperar artigos relevantes, mas de avaliar se os desenhos experimentais e seus resultados correspondem especificamente à hipótese, considerando variáveis como magnitude da intervenção e pontos finais medidos.

2. Metodologia

Os autores propõem um Framework de Conhecimento Controlado para isolar o impacto de diferentes tipos de evidência no desempenho do modelo.

• Formulação do Problema: A tarefa é tratada como um problema de previsão estruturada binária: dado uma hipótese $h$ e um contexto opcional $x$, o modelo deve prever um rótulo $\hat{y} \in \{\text{VIÁVEL}, \text{NÃO VIÁVEL}\}$ e fornecer uma justificativa.
• Condições de Conhecimento Controlado: O estudo avalia os modelos sob quatro cenários distintos variando o contexto $x$:
  1. H (Apenas Hipótese): O modelo usa apenas conhecimento interno (linha de base).
  2. H+E (Hipótese + Experimentos): O modelo recebe descrições dos métodos experimentais, mas não os resultados.
  3. H+O (Hipótese + Resultados): O modelo recebe resumos dos resultados, mas não os procedimentos experimentais.
  4. H+E+O (Hipótese + Experimentos + Resultados): O modelo recebe o contexto experimental completo.
• Análise de Estabilidade (Robustez): Para testar a robustez, os autores introduzem um protocolo de revelação parcial. Eles removem progressivamente partes dos experimentos ($k_1$) e dos resultados ($k_2$), variando de 0% a 100% (incluindo 50%). Isso permite observar se a degradação do desempenho é suave (monotônica) ou se ocorre colapso brusco (não monotônico) quando a evidência é incompleta.
• Modelos e Dados:
  • Modelos: Vários LLMs proprietários de diferentes fornecedores e níveis de capacidade (GPT-5.1, GPT-4o, Gemini-2.5-Pro/Flash, Grok-4.1).
  • Datasets:
    • MATTER-OF-FACT: Afirmações paired com artigos fonte onde a evidência pode apoiar, contradizer ou abordar apenas parcialmente a hipótese.
    • REASONS: Afirmações explicitamente apoiadas por literatura citada (cenário de viabilidade positiva).
  • Controle de Vazamento: Aplicação de filtros pós-corte de conhecimento para minimizar vazamento de dados de pré-treinamento.

3. Contribuições Principais

1. Framework de Conhecimento Controlado: Uma metodologia sistemática para medir como experimentos e resultados alteram separadamente os julgamentos de viabilidade.
2. Análise de Estabilidade: Uma quantificação da robustez dos modelos sob omissões de evidência, revelando padrões de degradação não monotônica.
3. Descoberta de Fragilidade: A demonstração de que evidência parcial pode ser ativamente prejudicial, levando a modelos a performarem pior do que quando não possuem nenhuma evidência externa.

4. Resultados e Análise

Os resultados, baseados em múltiplos modelos e datasets, revelam três padrões consistentes:

• RQ1: Conhecimento Interno: Os modelos conseguem realizar julgamentos de viabilidade apenas com conhecimento paramétrico (H), mas essa base é frágil e frequentemente baseada em plausibilidade genérica em vez de restrições experimentais explícitas.
• RQ2: Resultados vs. Descrições de Experimentos:
  • Resultados (H+O) são mais estáveis: Fornecer apenas os resultados dos experimentos tende a melhorar ou manter a precisão em comparação com a linha de base.
  • Descrições de Experimentos (H+E) são frágeis: Fornecer apenas a descrição do método, sem os resultados, frequentemente degrada o desempenho em relação à linha de base. Isso sugere que os LLMs atuais têm dificuldade em inferir resultados a partir de descrições de métodos, introduzindo ambiguidade.
• RQ3: Robustez e Degradação Não Monotônica:
  • Mais evidência não é sempre melhor: Em muitos casos, o cenário completo (H+E+O) não supera o cenário apenas com resultados (H+O).
  • Degradação Adversarial: A remoção parcial de evidências (ex: 50%) frequentemente resulta em desempenho pior do que a remoção total (0%) ou a evidência completa (100%). Isso indica que o contexto parcial confunde o modelo, levando-o a ancorar-se em fragmentos de informação e fazer julgamentos incorretos com confiança, em vez de expressar incerteza.

Causas das Falhas Identificadas:

1. Alinhamento Superficial: Os modelos sobrepesam o alinhamento léxico/tópico entre a hipótese e a descrição do experimento, ignorando variáveis críticas (ex: dose, controle).
2. Falta de "Gating" de Relevância: Os modelos raramente questionam se a evidência fornecida realmente testa a hipótese; eles tentam reconciliar qualquer contexto fornecido.
3. Ancoragem em Informação Parcial: Sob evidência incompleta, os modelos comprometem-se excessivamente com o fragmento disponível.

5. Significado e Conclusão

O estudo conclui que os LLMs atuais tratam a avaliação de viabilidade científica mais como uma classificação de superfície do que como um julgamento condicionado à evidência robusta.

• Implicações Práticas: A simples adição de contexto de recuperação (RAG) com descrições de experimentos pode ser contraproducente se os resultados não forem claros. Para aplicações científicas confiáveis, é necessário desenvolver mecanismos que modelam explicitamente a relevância da evidência, a incerteza e o alinhamento de variáveis, em vez de apenas fornecer mais texto.
• Avaliação Diagnóstica: O framework proposto revela modos de falha que passam despercebidos em avaliações padrão de verificação de afirmações ou RAG tradicional. A avaliação de LLMs em fluxos de trabalho científicos deve incluir testes de robustez sob condições de evidência incompleta para evitar a aceitação automática de julgamentos frágeis.

Em suma, o trabalho alerta que, embora os LLMs tenham potencial para a ciência, sua dependência de alinhamento superficial e sua fragilidade diante de evidências parciais exigem novas arquiteturas de avaliação e raciocínio antes de serem confiados em tarefas críticas de decisão científica.