Learning When Not to Decide: A Framework for Overcoming Factual Presumptuousness in AI Adjudication

Resumo Técnico: Aprendendo Quando Não Decidir

1. O Problema: A Presunção Factual em IA Jurídica

O artigo identifica uma limitação crítica nos sistemas de Inteligência Artificial (IA), especialmente em contextos jurídicos: a presunção factual (factual presumptuousness). Trata-se da tendência de modelos de linguagem (LLMs) fornecerem respostas confiantes e definitivas mesmo quando as informações necessárias para tal conclusão estão ausentes ou incompletas.

• Contexto: O estudo foca na adjudicação de seguro-desemprego, um domínio onde a lei é complexa, os fatos são frequentemente incompletos e a decisão de "solicitar mais informações" (adiar a decisão) é tão crucial quanto decidir a favor ou contra.
• Risco: Em sistemas automatizados, a presunção leva a erros graves: negar benefícios a quem tem direito (sem evidências suficientes) ou aprovar pagamentos indevidos. O artigo cita o caso de 2015 no Michigan, onde um sistema automatizado acusou falsamente 20.000 residentes de fraude devido à incapacidade do sistema de reconhecer a insuficiência de provas.
• Lacuna na Pesquisa: A maioria dos benchmarks legais avalia apenas a capacidade do modelo de chegar à conclusão correta quando todas as informações estão presentes, ignorando a habilidade de reconhecer quando não há informações suficientes para decidir.

2. Metodologia e Abordagem

A. Criação de um Novo Benchmark
Os autores colaboraram com o Departamento de Trabalho e Emprego do Colorado (CDLE) para acessar materiais de treinamento oficiais e guias de adjudicação.

• Dataset: Foi construído um conjunto de dados com 250 perguntas baseadas na lei de seguro-desemprego do Colorado.
• Estrutura: O dataset é projetado para variar sistematicamente a completude das informações:
  • Casos Completos: Todas as fatos necessários estão presentes.
  • Casos Inconclusivos (56% do dataset): Fatos críticos são intencionalmente omitidos para testar se o sistema reconhece a necessidade de adiar a decisão.

B. Avaliação de Baseline
Foram testadas quatro plataformas de IA líderes (Claude Sonnet 4.5, GPT 5.2, Gemini 3 e NotebookLM) utilizando abordagens padrão de Geração Aumentada por Recuperação (RAG), onde o modelo recebe estatutos e guias relevantes.

C. A Solução Proposta: Framework SPEC
Para superar a presunção, os autores desenvolveram o SPEC (Structured Prompting for Evidence Checklists), um framework multi-agente que transforma a verificação de lacunas de informação em um processo explícito antes de qualquer determinação.

O pipeline do SPEC consiste em três agentes especializados:

1. Agente 1 (Lista de Verificação de Requisitos): Extrai uma lista estruturada de requisitos legais dos guias (elementos obrigatórios, considerações e jurisprudência) sem fazer avaliações.
2. Agente 2 (Verificação de Fatos): Compara os fatos do caso contra a lista de requisitos. Marca cada item como "satisfeito" ou "não abordado". Identifica lacunas críticas (fatos essenciais ausentes).
3. Agente 3 (Revisão Supervisória): Revisa independentemente as conclusões dos agentes anteriores. Tem autoridade para anular avaliações se a base legal for insuficiente.
   • Lógica de Saída: Se houver lacunas críticas, o sistema deve outputar "Inconclusivo" e listar especificamente quais informações faltam. Se não houver lacunas, procede com a determinação (elegível/não elegível).

3. Resultados Principais

A. Falha das Abordagens Padrão

• As abordagens RAG padrão tiveram uma precisão média de apenas 15% em casos inconclusivos.
• Os modelos tendiam a assumir fatos não declarados e emitir decisões definitivas (sim/não) mesmo quando faltavam informações cruciais. Por exemplo, o Sonnet 4.5 deferiu a julgamento em apenas 8% dos casos inconclusivos.

B. Limitações de Prompting Avançado

• Técnicas como Chain-of-Thought (CoT), Tree-of-Thoughts (ToT) e instruções aprimoradas melhoraram ligeiramente a detecção de lacunas, mas criaram um trade-off determinação-adiamento.
• Ao instruir os modelos a serem mais cautelosos, eles passaram a adiar decisões excessivamente, mesmo em casos onde as informações eram completas, reduzindo a precisão geral.

C. Desempenho do SPEC
O framework SPEC demonstrou superar o trade-off mencionado acima:

• Precisão Geral: 89% (mantendo 89% tanto em casos completos quanto em casos inconclusivos).
• Comportamento Ideal: O SPEC conseguiu identificar corretamente a necessidade de adiar a decisão em casos com informações faltantes (89% de precisão em casos inconclusivos) sem sacrificar a precisão em casos onde a decisão era possível.
• Ablação: Estudos mostraram que a separação em três agentes (especialmente a presença do Agente 3 de Revisão Supervisória) é o componente mais crítico para o sucesso do sistema.

4. Contribuições Chave

1. Novo Dataset e Benchmark: Primeiro conjunto de dados de adjudicação legal que controla precisamente a presença ou ausência de fatos juridicamente operantes, desenvolvido em colaboração com uma agência governamental.
2. Evidência Empírica de Presunção: Demonstração de que plataformas de IA líderes falham sistematicamente em reconhecer a insuficiência de informações em contextos legais reais (precisão de 15% em casos inconclusivos).
3. Framework SPEC: Uma arquitetura de prompting estruturado que força a identificação explícita de lacunas de informação antes da decisão, resolvendo o dilema entre ser cauteloso demais ou presumptuoso demais.
4. Implicações para Design de IA: Evidência de que a "humildade epistêmica" (saber quando não saber) pode ser programada através de estruturas de verificação de fatos, em vez de depender apenas da calibração de confiança do modelo.

5. Significado e Conclusão

O artigo argumenta que a integração de IA na administração de benefícios e na justiça administrativa exige que os sistemas aprendam quando não decidir. A presunção factual não é apenas um erro técnico, mas um risco legal e ético que pode causar danos irreparáveis aos cidadãos.

• Superação do Trade-off: O SPEC demonstra que é possível atingir alta precisão tanto na decisão quanto no adiamento, desafiando a noção de que melhorar um aspecto necessariamente piora o outro.
• Colaboração Humano-IA: Ao fornecer sinais claros sobre o que falta (em vez de previsões confiantes erradas), o SPEC permite que os humanos (adjudicadores) intervenam apenas quando necessário, evitando o viés de automação.
• Reprodutibilidade e Transparência: Os autores destacam a necessidade de acesso a materiais de treinamento de agências para desenvolver IAs responsáveis e liberaram seu dataset e framework para a comunidade de pesquisa.

Em suma, o trabalho propõe uma mudança de paradigma: em vez de tentar fazer a IA "adivinhar" com mais confiança, o foco deve ser estruturar o raciocínio para que a IA identifique explicitamente a falta de evidências, alinhando-se com os princípios processuais da justiça administrativa.