Resumo Técnico: Auditorias de Falhas Calibradas por Decoys para Modelos de Linguagem

1. Declaração do Problema

O artigo aborda o "problema do relato" (reporting problem) em auditorias de falhas de modelos. Embora as auditorias consigam identificar facilmente que um modelo falha, determinar onde as falhas se concentram e quais explicações são críveis o suficiente para serem relatadas é difícil. Auditores frequentemente testam muitos candidatos a explicações (ex: entradas longas, perguntas indiretas, combinações específicas de metadados). O risco é o viés de seleção: o maior aumento de erro observado pode refletir um modo de falha genuíno, ou pode ser simplesmente o resultado mais favorável entre muitos tentados (a "maldição do vencedor" ou winner's curse).

Métodos atuais de descoberta de fatias (ex: SliceFinder, SliceLine) e depuração assistida por LLM podem gerar muitas hipóteses plausíveis, mas carecem de um mecanismo rigoroso para distinguir entre modos de falha genuínos e artefatos do processo de busca. O artigo argumenta que uma explicação encontrada após muitas tentativas requer uma validação mais rigorosa do que uma nomeada antecipadamente.

2. Metodologia: Janus

Os autores introduzem o Janus, um procedimento projetado não para gerar novas explicações, mas para decidir quais propostas de explicações são críveis o suficiente para serem relatadas. O método baseia-se em duas salvaguardas principais: calibração por decoy (isca) e replicação em conjunto de controle (holdout replication).

Definições Principais

• Descritor: Uma propriedade interpretável de verdadeiro/falso de um exemplo (ex: long_chain, indirect_query).
• Fatia (Slice): O subconjunto de exemplos onde um descritor é verdadeiro.
• Lift (Aumento): A diferença na taxa de erro entre a fatia e o complemento ($err(g=1) - err(g=0)$).
• Decoy (Isca): Um descritor falso com a mesma prevalência (frequência de ser verdadeiro) que um descritor real, mas com valores atribuídos aleatoriamente aos exemplos.
• Divisão de Descoberta (Discovery Split): Os dados usados para pontuar descritores contra decoys.
• Divisão de Controle (Holdout Split): Um conjunto de dados novo e separado usado para verificar os sobreviventes.

O Procedimento

1. Biblioteca de Candidatos: O auditor começa com uma lista fixa e congelada de descritores candidatos ($G$) derivados de conhecimento de domínio, mineração de fatias ou depuração assistida por LLM.
2. Construção de Decoys: Para cada descritor real, o Janus gera $K$ decoys permutando os valores verdadeiro/falso entre os exemplos de descoberta enquanto preserva a prevalência original. Isso cria um "piso de decoy" empírico que representa o aumento máximo alcançável por acaso, dadas as restrições de tamanho de amostra e prevalência.
3. Triagem de Descoberta (Procedimento A):
   • Os descritores são pontuados pelo seu lift absoluto na divisão de descoberta.
   • O Janus compara o número de descritores reais ($R$) e decoys ($D$) que excedem vários limiares de lift.
   • Ele estima a Proporção de Falsas Descobertas (FDP) usando a razão: $\widehat{FDP}(\tau) = \frac{(L/K)D(\tau)}{\max(1, R(\tau))}$, onde $L$ é o número de descritores reais e $K$ é o número de decoys.
   • O limiar é definido como o valor mais permissivo onde o FDP estimado está abaixo de um alvo $q$ (ex: 0.10).
   • Descritores que superam este "piso de decoy" tornam-se Sobreviventes da Descoberta.
4. Confirmação em Conjunto de Controle:
   • Os sobreviventes da descoberta são reavaliados na divisão de controle (holdout).
   • Um descritor é confirmado apenas se:
     • Ele retém suporte suficiente (tamanho da amostra).
     • Seu lift absoluto no controle excede um limiar mínimo (ex: $|lift| \ge 0.10$).
     • O sinal do lift coincide com o lift da descoberta.

Esta separação garante que os descritores candidatos possam vir de qualquer fonte, mas apenas aqueles que vencem o piso de decoy e se replicam em dados novos tornam-se achados de auditoria.

3. Principais Contribuições

1. Formulação do Problema do Relato: O artigo define explicitamente a tarefa de decidir quais de muitos descritores candidatos devem ser relatados, distinguindo entre propor explicações e validá-las para fins de relato.
2. Procedimento Janus: A introdução de um procedimento calibrado por decoy que compara o lift do descritor contra descritores falsos de frequência idêntica e exige replicação em dados de controle.
3. Avaliação Empírica: A avaliação do Janus em uma auditoria controlada com modos de falha plantados e dois benchmarks públicos (MuSiQue e LongBench v2), demonstrando sua capacidade de recuperar sinais plantados enquanto rejeita achados plausíveis, porém não confirmados.

4. Resultados Experimentais

Auditoria Controlada (Estrutura Plantada)

• Configuração: 160 tarefas sintéticas de busca em múltiplas tabelas onde um modo de falha de "cadeia longa" (long chain) foi intencionalmente plantado.
• Resultado: O Janus recuperou com sucesso a falha plantada. Ele confirmou seis descritores, incluindo long_chain (lift +0.58) e suas interações com consultas indiretas e colisões.
• Observação: O modelo tendeu a parar no meio do caminho durante a busca pela tabela. O Janus identificou corretamente este modo de falha específico sem sinalizar cada fatia de alto erro.

Benchmarks Naturais (MuSiQue e LongBench v2)

• Configuração: Auditorias em benchmarks públicos onde existem descritores de metadados plausíveis (ex: contagem de saltos, tamanho do contexto), mas nenhum modo de falha de verdade fundamental é garantido.
• Resultado: O Janus relatou zero descritores confirmados para ambos os benchmarks.
• Comparação: Métodos de linha de base como o SliceLine identificaram subgrupos de alto erro (ex: bolsões de erro de 85–93% no LongBench v2). No entanto, essas fatias falharam na calibração de decoy ou no teste de replicação de controle.
• Ablação: Remover o piso de decoy levou ao excesso de relatos (20 descritores no LongBench v2). Remover o portão de controle permitiu que um único descritor passasse, apesar de seu lift ter encolhido de 0.36 (descoberta) para 0.05 (controle), ilustrando a "maldição do vencedor".

5. Significância e Alegações

O artigo afirma que uma fatia de erro plausível não é necessariamente um achado de auditoria relatável. A significância do Janus reside em sua contenção:

• Separação de Descoberta e Relato: Ele separa a geração de hipóteses da validação necessária para o relato.
• Calibração Empírica: Utiliza decoys para calibrar o "piso de ruído" dos scores de lift, reconhecendo que grandes efeitos podem surgir por acaso ao buscar em grandes espaços.
• Replicação como Portão: Impõe que uma explicação selecionada em uma divisão deve manter sua direção e força em outra.

Os autores enfatem que o Janus é uma regra de relato, não um motor de explicação completo. Ele não garante o controle da Taxa de Falsas Descobertas (FDR) em amostras finitas no sentido estatístico formal (como o Benjamini-Hochberg) porque não assume uma família fixa de p-valores válidos ou knockoffs intercambiáveis. Em vez disso, fornece uma triagem empírica para filtrar candidatos antes de um verificação final de controle. O artigo conclui que candidatos de qualquer fonte (conhecimento de domínio, mineração de fatias, LLMs) tornam-se achados de auditoria apenas quando vencem os decoys e se replicam em dados novos.