Resumo Técnico: Rumo à Epidemiologia de IA

Declaração do Problema

Sistemas de IA modernos, particularmente Grandes Modelos de Linguagem (LLMs), são cada vez mais implantados em domínios regulados de alto risco (saúde, finanças, jurídico) onde seus cálculos internos permanecem opacos ("caixa-preta"). As abordagens de governança atuais dependem fortemente da interpretabilidade baseada em correspondência (ex: SHAP, LIME, rastreamento mecanístico), que tenta mapear os outputs do modelo de volta aos mecanismos causais internos. No entanto, à medida que os modelos escalam, esses métodos enfrentam intratabilidade computacional e não confiabilidade epistêmica; as atribuições de características tornam-se instáveis e os modelos frequentemente geram explicações plausíveis, mas infiéis.

Consequentemente, há uma lacuna crítica de governança: a falta de métodos não mecanísticos e escaláveis para detectar falhas de output de IA e desalinhamentos de políticas em tempo real de implantação, sem acesso aos internos do modelo. Os sistemas de reporte de incidentes existentes são retrospectivos e seletivos, enquanto a auditoria algorítmica muitas vezes carece de unidades de análise padronizadas para interações rotineiras.

Metodologia

O artigo propõe um Framework de Padronização de Medição projetado para comprimir interações especialista-IA em campos estruturados e comparáveis para permitir a detecção prospectiva de riscos. Esta abordagem desloca o locus da detecção de risco dos processos internos do modelo para padrões observáveis de comportamento, baseando-se em uma analogia com a epidemiologia (ex: a identificação da fonte de água de John Snow ou a ligação entre tabaco e câncer de Bradford Hill), onde correlações em nível populacional justificam a intervenção apesar da incerteza mecanística.

Componente Central: A Gramática

O framework define um protocolo estruturado compreendendo oito campos para capturar interações:

1. Missão: A tarefa extraída do input do especialista (tipo de tarefa + assunto).
2. Conclusão: A ação recomendada pela IA, categorizada em vez de verbatim.
3. Justificativa: As razões fornecidas pela IA, categorizadas.
4. Nível de Risco: Uma variável de estratificação (Alto/Médio/Baixo) baseada na severidade potencial de dano caso a conclusão esteja incorreta.
5. Pontuação de Alinhamento de Política: Uma pontuação ordinal de três níveis (Alto/Médio/Baixo) avaliando a consistência com a política institucional/regulatória.
6. Pontuação de Alinhamento de Evidência: Uma pontuação ordinal de três níveis avaliando se as afirmações factuais na justificativa são suportadas pela base de evidências do domínio.
7. Override (Sobrescrita): Uma flag binária indicando se um especialista contestou explicitamente a conclusão da IA.
8. Opção Corretiva: A conclusão e justificativa revisadas exportadas pelo especialista após um override.

O Mecanismo LLM-as-Judge (LLM como Juiz)

Para alcançar escala, o framework emprega um LLM-as-Judge para pontuar automaticamente o Alinhamento de Política e de Evidência. Para abordar a circularidade estrutural de usar um modelo caixa-preta para julgar outro, o framework impõe condições delimitadas:

• Rubricas Explícitas e Escalas Ancoradas: Uso de uma escala ancorada de três níveis para melhorar a concordância.
• Cadeia de Pensamento Estruturada (Structured Chain-of-Thought): O juiz raciocina passo a passo contra as rubricas antes de atribuir uma pontuação.
• Fundamentação por RAG: Os juízes são fundamentados em documentos de política e evidência específicos para reduzir a sicofancia e a auto-preferência.
• Decodificação de Baixa Temperatura: Para garantir estabilidade e repetibilidade da pontuação.

Um Procedimento de Verificação de Confiabilidade é obrigatório antes da implantação, exigindo:

• Acordo Humano-Juiz: Medido via $\kappa$ de Cohen linearmente ponderado (alvo $\ge 0,61$).
• Consistência: Medida via Coeficiente de Correlação Intraclasse (ICC) para estabilidade teste-reteste (alvo $\ge 0,75$).
• Diagnósticos de Viés: Testes direcionados para sicofancia, verbosidade e auto-preferência.

Protocolo de Avaliação Empírica

O artigo especifica um protocolo para testar se os campos da gramática comprimida retêm poder preditivo suficiente para a detecção de risco em comparação com o texto conversacional completo.

• Design: Um teste de não-inferioridade comparando um classificador treinado nos campos da gramática ($X$) contra um classificador de "input total".
• Métrica: Área Sob a Curva (AUC) para separar interações desalinhadas de alinhadas.
• Margem: Uma margem de não-inferioridade pré-especificada de $\delta = 0,05$.
• Inferência: Inferência bootstrap pareada (10.000 reamostragens) com teste de DeLong para sensibilidade e correção de Holm–Bonferroni para múltiplos testes.
• Refinamento: Um processo iterativo de refinamento da gramática (divisão de categorias, ajuste de rubricas) guiado pelo gap de AUC até que a não-inferioridade seja atingida em um conjunto de teste congelado.

Principais Contribuições

1. Mudança Conceitual: Introduz a "interpretabilidade baseada em correspondência" como uma categoria distinta da abordagem proposta "baseada em correlação". Argumenta-se que, para a governança imediata, observar padrões de output é mais viável do que esperar pela transparência mecanística.
2. Padronização de Medição: Define uma gramática específica e um protocolo de pontuação que transforma diálogos não estruturados entre especialista-IA em unidades de dados padronizadas e comparáveis, adequadas para análise em nível populacional.
3. Sinais de Governança: Propõe três sinais institucionais acionáveis derivados dos dados:
   • Distribuições Agregadas de Alinhamento: Identificação de domínios onde os outputs de IA são consistentemente desalinhados.
   • Padrões de Override: Destacando onde especialistas contestam sistematicamente as recomendações da IA.
   • Padrões de Opção Corretiva: Revelando as bases específicas e as conclusões revisadas que os especialistas preferem, oferecendo um dataset "corretivo" para futuros ajustes de modelos ou atualizações de políticas.
4. Programa Empírico de Três Estágios: Esboça um caminho de pesquisa em estágios:
   • Estágio 1: Estabelecer a padronização da medição (confiabilidade dos juízes de LLM).
   • Estágio 2: Validar os sinais de governança (utilidade para especialistas e instituições).
   • Estágio 3: Estabelecer associações de resultados (vinculando pontuações de alinhamento a eventos adversos subsequentes).

Resultados e Alegações

Como um artigo conceitual, nenhum resultado empírico é apresentado. O artigo afirma explicitamente que as alegações de nível populacional são objeto de um programa de pesquisa em estágios, não resultados reivindicados aqui.

O artigo faz três alegações específicas e testáveis:

1. Alegação de Confiabilidade: Sob condições delimitadas (rubricas, RAG, baixa temperatura), os LLMs podem produzir avaliações padronizadas e confiáveis de alinhamento comparáveis a avaliadores humanos.
2. Alegação de Governança: Pontuações de alinhamento fornecem sinais imediatos aos especialistas durante a implantação e permitem que as instituições monitorem padrões de alinhamento através de modelos e domínios.
3. Alegação Epidemiológica: Uma vez que a medição é padronizada, as pontuações de alinhamento agregadas podem ser usadas para estudar associações com resultados subsequentes, permitindo uma "epidemiologia de IA" que detecta riscos via variáveis correlacionadas em vez de análise mecanística.

Significância

A significância do artigo reside em fornecer um caminho pragmático e escalável para a governança de IA na ausência de interpretabilidade perfeita. Ao tratar a detecção de risco de IA como um problema epidemiológico, oferece um método para:

• Detectar riscos prospectivamente (antes que ocorram incidentes) em vez de retrospectivamente.
• Operar em escala sem exigir acesso aos pesos do modelo ou estados internos.
• Gerar rastros de auditoria e dados corretivos que podem informar tanto decisões imediatas de especialistas quanto políticas institucionais de longo prazo.

O framework reconhece suas limitações, incluindo a "desanalogia exposição-instrumento" (usar um LLM para julgar um LLM) e o potencial para efeitos de observador, mas argumenta que os procedimentos de verificação e o refinamento iterativo propostos podem mitigar essas ameaças à validade. O objetivo final é estabelecer uma base onde a "epidemiologia de IA" possa funcionar como uma camada de segurança robusta e não mecanística para sistemas de IA implantados.