Resumo Técnico: Stratum-eval

Definição do Problema

Os atuais frameworks de avaliação de aprendizado de máquina (ML) clínico sofrem de um erro de ordenação crítico: eles priorizam métricas de desempenho discriminativo enquanto postergam questões normativas sobre quais erros importam, para quem importam e sob quais condições um modelo deve ser implantado. Essa abordagem leva a "falhas latentes" — métricas que parecem plausíveis, mas que ocultam problemas sistêmicos como invariância espúria, impossibilidades de equidade e emergência sociotécnica. O artigo argumenta que, sem um compromisso prévio com especificações normativas, as métricas não podem informar confiavelmente as decisões de implantação clínica. Os benchmarks existentes frequentemente falham em detectar esses problemas porque carecem de um mecanismo para impor a compatibilidade dos critérios de equidade com as distribuições de dados observadas (ex: o teorema da impossibilidade de Chouldechova) antes do início da modelagem.

Metodologia

Os autores propõem o stratum-eval, um framework de avaliação de código aberto que inverte o pipeline padrão ao tornar a Especificação Normativa um pré-requisito para qualquer computação de métrica. A metodologia consiste em três componentes principais:

1. O Documento de Especificação Normativa (NSD)

Antes de qualquer manipulação de dados, os avaliadores devem completar um NSD, um artefato validado por máquina que codifica:

• Caso de Uso: Descrição em linguagem natural do papel decisório do modelo.
• Critério de Equidade: Seleção de uma prioridade moral específica (ex: igualdade de oportunidades, calibração, paridade demográfica).
• Racional de Equidade: Uma declaração obrigatória reconhecendo os trade-offs e custos para os grupos não favorecidos pelo critério escolhido.
• Limites de Erro Aceitáveis: Limites socialmente negociados para Taxas de Falsos Negativos (FNR) e Taxas de Falsos Positivos (FPR).
• Horizonte de Validade e Condição de Descontinuidade: Validade limitada no tempo e condições específicas para a retirada do modelo.

O NSD passa por uma "validação rígida". Se campos estiverem faltando, se o racional carecer de linguagem de trade-off, ou se o horizonte de validade tiver expirado, o pipeline gera um erro StratumNSDError e interrompe a execução.

2. O Protocolo de Avaliação de Cinco Camadas

Uma vez validado o NSD, o framework executa um protocolo sequencial de cinco camadas:

• Camada 1 (Benchmarking Testado por Invariância): Detecta correlações espúrias usando o Índice de Correlação Espúria (SCI) derivado de Minimização de Risco Invariante (IRM) e Extrapolação de Risco baseada em variância (v-REx).
• Camada 2 (Qualidade de Rótulo e Incerteza): Aplica o modelo Dawid-Skene para qualidade de rótulo (exigindo $\ge$3 anotadores) e verifica pressupostos de intercambialidade conformal.
• Camada 3 (Equidade de Grupo): Calcula FNR e FPR por grupo contra os limiares do NSD.
• Camada 4 (Disparidade Interseccional): Avalia disparidades na interseção de variáveis de agrupamento. Células com $n < 30$ são sinalizadas como subdimensionadas em vez de suprimidas, mantendo a visibilidade, mas retendo as estimativas pontuais.
• Camada 5 (Robustez Temporal): Computa o drift de desempenho através de quartis cronológicos ou utiliza verificações de estabilidade de bootstrap para dados não temporais.

3. Ferramentas de Diagnóstico

• Visualizador de Impossibilidade de Equidade: Pré-computa a fronteira de impossibilidade de Chouldechova para mostrar se um critério de equidade escolhido é matematicamente compatível com as taxas de base observadas antes do treinamento do modelo.
• StratumCard: Um cartão de modelo estruturado gerado a partir dos resultados, contendo exportações regulatórias legíveis por máquina e resumos legíveis por humanos ancorados aos compromissos do NSD.

Principais Contribuições

1. Arquitetura Prioritária à Norma: O framework impõe que os compromissos normativos (critérios de equidade, limiares de erro) sejam definidos e validados antes da computação das métricas, evitando a racionalização "post-hoc" de falhas do modelo.
2. Taxonomia de Falhas de Avaliação: O artigo identifica oito modos canônicos de falha (F1–F8), categorizados por origem (Dados, Métrica, Implantação, Normativa) e detectabilidade (Manifesta vs. Latente). Destaca que seis destes são latentes, exigindo testes diagnósticos específicos não encontrados em toolkits padrão.
3. Governança Forçada por Código: Diferente de Model Cards ou Datasheets que dependem da boa-fé do autor, o stratum-eval usa código para impor restrições. Um NSD expirado impede a geração de um StratumCard, e a ausência de racionais de trade-off causa a falha do pipeline.
4. Operacionalização da Impossibilidade: O framework expõe explicitamente o teorema da impossibilidade de Chouldechova (a incompatibilidade entre calibração, igualdade de oportunidades e diferentes taxas de base) como uma restrição estrutural a ser resolvida via deliberação de stakeholders, não via ajuste algorítmico.

Resultados Experimentais

O framework foi aplicado ao MIMIC-IV Clinical Database Demo (v2.2), uma coorte de 140 internações em UTI com desfecho Sepsis-3 (prevalência de 41,4%).

• Características do Dataset: A coorte exibiu uma diferença de taxa de base de 14,8 pontos percentuais entre pacientes do sexo masculino (48,1%) e feminino (33,3%), desencadeando a condição de impossibilidade de Chouldechova.
• Desempenho do Modelo: Um classificador XGBoost alcançou um AUROC global de 0,905. No entanto, a análise por grupo revelou disparidades significativas.
• Achados da Camada 3: O modelo violou o limiar aceitável de FNR (0,15) do NSD para pacientes do sexo masculino (Grupo A), com um FNR observado de 0,429. Pacientes do sexo feminino (Grupo B) atenderam ao limiar (FNR 0,143).
• Achados da Camada 2: O Grupo B apresentou calibração substancialmente melhor (ECE 0,110) em comparação ao Grupo A (ECE 0,237).
• Análise de Impossibilidade: O framework identificou corretamente que a diferença na taxa de base tornava impossível a satisfação simultânea de calibração e igualdade de oportunidades. O NSD havia selecionado a calibração como critério; o framework evidenciou que essa escolha forçava estruturalmente um FPR mais alto para o grupo de menor prevalência (feminino) ou, neste caso específico de configuração de limiar, uma violação do limiar de FNR para o grupo de maior prevalência (masculino).
• Limitações: Devido ao pequeno tamanho da amostra ($N=140$), os resultados da Camada 4 (Interseccional) e Camada 5 (Temporal) foram sinalizados como subdimensionados ou não confiáveis, servindo apenas como prova de conceito.

Significância e Alegações

O artigo afirma que o stratum-eval muda o paradigma da avaliação de IA clínica de "documentação como gesto de transparência" para "documentação como um portão operacional".

• Alinhamento Regulatório: O mecanismo de NSD operacionaliza diretamente o Plano de Ação de IA/ML do FDA (especificamente a Ação 3 sobre boas práticas de ML e a Ação 5 sobre monitoramento no mundo real) e aborda os requisitos de transparência da Lei de IA da UE.
• Requisito de Governança: Os autores afirmam que instituições sem uma estrutura de governança capaz de produzir um NSD nomeado e assinado não estão prontas para implantar modelos de risco clínico sob este protocolo. Isso é apresentado não como uma limitação do framework, mas como um achado necessário.
• Modéstia: Os autores declaram explicitamente que o stratum-eval é um framework de avaliação, não uma ferramenta de desenvolvimento de modelos ou de adjudicação regulatória. Ele expõe informações para permitir a tomada de decisão responsável, mas não toma as decisões de implantação por si só. O framework reconhece que sua validação lexical de racionais de "trade-off" é um proxy para a deliberação genuína e que a representação dos stakeholders é documentada, mas não verificada nesta prova de conceito.

A conclusão central é que o "teste mais difícil" para o ML clínico não é se um modelo roda em um conjunto de dados, mas se o comitê de governança de um hospital está disposto a se comprometer formalmente com limiares de erro e trade-offs de equidade específicos em um documento limitado no tempo antes que uma única métrica seja computada.