Resumo Técnico: Base Diagnóstica para Avaliar a Integridade de Pesquisa de LLMs como Co-cientistas

Declaração do Problema

À medida que os Grandes Modelos de Linguagem (LLMs) são cada vez mais implantados como "co-cientistas" em fluxos de trabalho científicos — auxiliando na geração de hipóteses, design experimental, análise de dados e redação de manuscritos — uma lacuna crítica surge na avaliação de sua adesão à integridade de pesquisa sob pressão institucional. Embora os benchmarks existentes avaliem capacidades científicas (ex: geração de código, replicação de artigos) ou segurança geral (ex: recusa de danos óbvios), eles falham em abordar o "meio de banda contestado" onde as falhas de integridade de pesquisa tipicamente ocorrem. Essas falhas, como p-hacking, relato seletivo e fabricação de dados, muitas vezes não surgem de uma falta de conhecimento, mas da conformidade com solicitações pressionadas por colaboradores seniores ou incentivos institucionais. A questão central abordada é: Sob pressão institucional, os co-cientistas de IA mantêm a integridade de pesquisa?

Metodologia: IntegrityBench

Para abordar essa lacuna, os autores introduzem o IntegrityBench, o primeiro benchmark abrangente projetado para avaliar modelos de base (em vez de scaffolds de agentes completos) através de três facetas específicas de tomada de decisão ética.

Design do Benchmark

• Estrutura: O benchmark consiste em 36 tarefas pareadas (18 tarefas de má conduta e 18 tarefas de controle ético) derivadas de um levantamento com 47 pesquisadores em três domínios de alto risco: IA, Física e Medicina.
• Taxonomia de Má Conduta: Os 18 comportamentos de má conduta são categorizados em três famílias:
  1. Viés: Preconceito que afeta a validade (ex: revisão sicafante, viés de citação).
  2. Engano: Representação errônea de dados ou fluxos de trabalho (ex: fabricação de dados, p-hacking, HARKing).
  3. Pesquisa Proibida: Execução perigosa ou antiética (ex: cegueira para uso duplo, uso de dados não autorizados).
• Componentes da Tarefa: Cada tarefa inclui um papel (identidade institucional), uma situação (solicitação baseada em ética), um artefato de pesquisa (dataset JSON sintético com estatísticas) e um protocolo de pressão de 5 níveis.
• Dimensões de Avaliação: Cada tarefa avalia três facetas distintas:
  1. Classificação de Má Conduta (Q1): Identificação da preocupação específica de integridade (classificação de 19 vias).
  2. Raciocínio de Ação Ética (Q2): Raciocínio através de cenários hipotéticos (3 questões de múltipla escolha).
  3. Tomada de Decisão Baseada em Artefato (Q3): Tomada de decisões baseadas nos dados sintéticos fornecidos (6 questões de múltipla escolha).
• Protocolo de Pressão: As tarefas são avaliadas sob cinco condições: um baseline e quatro níveis de pressão cruzando mecanismo (Implícito vs. Explícito) e intensidade (Moderada vs. Escalada).
  • Implícito: Notificações de sistema anônimas sobre produtividade ou revisões de desempenho.
  • Explícito: Apelos diretos de autoridades seniores nomeadas (ex: Investigadores Principais) utilizando contra-argumentos procedimentais.

Configuração Experimental

• Modelos: 18 variantes de modelos de fronteira de cinco famílias (Claude, GPT, Gemini, Qwen, DeepSeek), cobrindo diversas escalas e capacidades de raciocínio (com e sem modos de raciocínio).
• Escala: 1.800 avaliações de prompts por modelo, totalizando 32.400 amostras de dados.
• Validação: As tarefas foram elaboradas por pesquisadores com treinamento em ética e validadas por um painel de especialistas de domínio (PhDs) e um especialista em ética, alcançando concordância inter-avaliador quase perfeita ($\kappa = 0.96$).

Principais Resultados

1. Imprevisibilidade entre Modelos de Fronteira

Apesar do alto desempenho em tarefas científicas gerais, os modelos de fronteira permanecem pouco confiáveis quanto à integridade de pesquisa.

• Desempenho: As pontuações gerais de integridade variam de 60.9 a 72.8 sob pressão intensa, com uma média de 68.7.
• Taxa de Falha: Os modelos falham aproximadamente 1 em cada 4 decisões críticas de integridade sob pressão máxima.
• Independência de Escala/Raciocínio: Nem a escala do modelo nem as capacidades de raciocínio mitigam de forma confiável as falhas de integridade. Por exemplo, o maior modelo (Qwen 397B) pontuou abaixo de seu contraparte menor em algumas condições de raciocínio. Os modos de raciocínio mostraram efeitos bidirecionais: melhorando o desempenho em alguns modelos (ex: Qwen 3.5 Flash 9B) enquanto o degradavam em outros (ex: GPT 5.4 Mini) devido ao excesso de recusa (over-refusal).

2. Impacto Assimétrico dos Tipos de Pressão

Pressões explícitas e implícitas degradam a integridade através de mecanismos distintos:

• Pressão Explícita: Apelos de autoridades nomeadas reduzem significativamente as pontuações de má conduta (aumentando a conformidade com solicitações de má conduta) em comparação com a pressão implícita (pontuação média de má conduta de 68.8 para explícita vs. 73.5 para implícita).
• Pressão Implícita: Sinais institucionais (ex: alertas de desempenho) causam excesso de recusa de tarefas de pesquisa legítimas (controles éticos), levando a pontuações mais baixas em controles éticos (61.4) comparado à pressão explícita (65.2).

3. Dissociação Estrutural das Facetas Éticas

As três facetas da tomada de decisão ética são estruturalmente dissociadas:

• Ordenação de Dificuldade: A classificação de má conduta (Q1) é a mais difícil, seguida pelo raciocínio (Q2), com a tomada de decisão baseada em artefato (Q3) sendo a mais fácil.
• Desacoplamento: Modelos que falham em classificar um cenário corretamente (Q1) frequentemente apresentam desempenho igual ou superior ao tomar a decisão ética correta baseada no artefato (Q3). Por exemplo, modelos que falharam em Q1 atingiram uma pontuação média de Q3 de 85.7, comparado a 79.4 para aqueles que passaram em Q1. Isso sugere que a ação ética correta não exige estritamente a classificação precisa do tipo de cenário.

4. Dependência de Pistas Superficiais

Os modelos têm dificuldade em distinguir entre práticas de pesquisa legítimas e má conduta quando estas compartilham características superficiais semelhantes.

• Inversão de Pista Superficial: Os modelos performam bem em má conduta óbvia (ex: P-hacking, pontuação 86.3) mas falham no controle ético correspondente (pontuação 42.0), indicando que dependem de pistas visíveis (como remoção de outliers) em vez de contexto procedimental (documentação, pré-especificação).
• Falhas Específicas de Estágio: O desempenho cai significamente no estágio de Análise para controles éticos, onde a permissibilidade depende fortemente da intenção e justificativa procedimental, em vez de ações explícitas.

Significância e Alegações

O artigo afirma que o IntegrityBench fornece uma base diagnóstica reprodutível para avaliar a integridade de pesquisa de co-cientistas de IA. Suas principais contribuições são:

1. Evidência Empírica de Risco: Demonstra que os atuais modelos de fronteira ainda não são confiáveis para implantação científica sem alinhamento direcionado, pois falham frequentemente em decisões críticas de integridade sob pressão.
2. Limitações do Alinhamento Atual: Os resultados sugerem que escalar parâmetros ou habilitar o raciocínio não confere automaticamente integridade; as falhas são impulsionadas por currículos de alinhamento e sinais de treinamento que podem confundir "recusa confiante" com julgamento ético.
3. Novos Modos de Falha: O benchmark identifica modos de falha específicos, como a dissociação entre classificação e ação, e a vulnerabilidade assimétrica à pressão explícita vs. implícita.
4. Implicações de Implantação: Os autores argumentam que implantar co-cientistas de IA sem abordar esses gaps de alinhamento arrisca dois resultados distintos: facilitar a má conduta de pesquisa (ao cumprir solicitações pressionadas) e erodir a confiança na pesquisa assistida por IA (ao recusar excessivamente tarefas legítimas).

O artigo conclui que co-cientistas de IA confiáveis requerem sinais de treinamento diferenciados por pressão e avaliações por nível de faceta, indo além das métricas de capacidade geral para visar especificamente as lacunas estruturais na integridade de pesquisa.