Resumo Técnico: Operacionalizando a Equidade sob Limites Rígidos de Recursos

Declaração do Problema

A implementação de aprendizado de máquina em domínios de alto risco (ex: estratificação de risco clínico, justiça criminal, concessão de crédito) enfrenta um descompasso crítico entre definições teóricas de equidade e realidades operacionais. As intervenções de equidade existentes frequentemente assumem recursos ilimitados, empregando limiares de decisão específicos por grupo que violam regulamentações antidiscriminação (ex: a Lei de Igualdade de Oportunidades de Crédito) ou recomendam volumes de intervenção que excedem orçamentos viáveis.

Em cenários do mundo real, os recursos são finitos (ex: leitos de UTI limitados, pipelines de entrevistas fixos). Quando o número de casos previstos como de alto risco ultrapassa a capacidade disponível, as heurísticas de equidade padrão frequentemente colapsam, levando a uma utilidade próxima de zero ou ao abandono do sistema. As abordagens atuais lutam para satisfazer conjuntamente três prioridades operacionais concorrentes sob restrições rígidas de capacidade:

1. Segurança: Minimizar falsos negativos (casos de alto risco não detectados).
2. Eficiência: Minimizar falsos positivos (desperdício de recursos escassos).
3. Equidade: Garantir a alocação justa do orçamento de intervenção limitado entre subgrupos demográficos sem violar proibições legais sobre tratamento díspar (limiares específicos de grupo).

Metodologia

Os autores propõem um framework de otimização de limiar post-hoc e agnóstico ao modelo que desacopla explicitamente a pontuação preditiva da avaliação de política. O mecanismo central impõe um limiar de decisão único e global para garantir a conformidade legal e restringir estritamente as taxas de intervenção.

Formalização

Seja $f(x)$ uma função de pontuação de risco bem calibrada que produz probabilidades $p(x) \in [0, 1]$. A regra de decisão é definida como $d_\tau(x) = \mathbb{I}\{p(x) \geq \tau\}$. O framework busca um limiar ótimo $\tau^*$ que minimize uma função de perda ética parametrizada $L(\tau)$ sujeita a uma restrição de capacidade rígida $C$:

$$\tau^* = \arg \min_{\tau \in [0,1]} L(\tau) \quad \text{sujeito a} \quad P(d_\tau(x) = 1) \leq C$$

Onde a perda ética é:
$$L(\tau; \alpha, \beta, \gamma) = \alpha \cdot \text{FNR}(\tau) + \beta \cdot \text{FPR}(\tau) + \gamma \cdot \Delta(\tau)$$

• $\alpha, \beta, \gamma$: Pesos contextuais para segurança (Taxa de Falsos Negativos), eficiência (Taxa de Falsos Positivos) e equidade (disparidade de subgrupo, operacionalizada como a diferença absoluta máxima nas Taxas de Verdadeiros Positivos).
• $C$: A fração máxima de intervenção permitida.

A Regra de Decisão

O framework define dois limiares críticos:

1. $\tau_{free}$: O ótimo ético não restrito que minimiza $L(\tau)$.
2. $\tau(C)$: O limiar condicionado à capacidade, definido como o quantil $(1-C)$ das pontuações de risco previstas ($F_p^{-1}(1-C)$).

O limiar final implantado é determinado por:
$$\tau^* = \max(\tau(C), \tau_{free})$$

Lógica Operacional:

• Se a capacidade for abundante ($\tau(C) \leq \tau_{free}$), as prioridades éticas ($\alpha, \beta, \gamma$) ditam o ponto de operação.
• Se a capacidade for limitante ($\tau(C) > \tau_{free}$), o sistema assume o limiar mais rigoroso baseado na capacidade $\tau(C)$, garantindo a viabilidade independentemente da ponderação ética.

Propriedades Teóricas

Os autores provam diversas propriedades analíticas de $\tau^*$:

• Monotonicidade: $\tau^*$ é não crescente em relação ao peso de segurança $\alpha$ e não decrescente em relação ao peso de eficiência $\beta$.
• Capacidade Crítica: Existe uma capacidade crítica $C^*$ tal que para $C < C^*$, o limiar é inteiramente determinado pelo limite de recurso, tornando os pesos éticos irrelevantes para a fronteira de decisão final.
• Saturação: O aumento dos pesos de segurança além de um certo ponto não gera qualquer mudança operacional adicional quando as restrições estão ativas.

Avaliação Experimental

O framework foi avaliado em três conjuntos de dados de alto risco: ACS Income (previsão de oportunidade), COMPAS (risco de reincidência) e um proxy de Diabetes Clínica (risco de readmissão). Experimentos utilizaram Regressão Logística, Gradient Boosting e Random Forest com uma restrição de capacidade fixa de $C=0,25$ (taxa de intervenção de 25%).

Principais Resultados

1. Dominância das Restrições de Recurso: Em 80,8% de todas as configurações testadas (através de 9.000 combinações fatoriais), o limiar implantado $\tau^*$ foi determinado exclusivamente pela restrição de capacidade $\tau(C)$ em vez do ótimo ético $\tau_{free}$. Isso indica que, em ambientes com recursos limitados, a viabilidade operacional se sobrepõe ao ajuste ético refinado.
2. Desempenho vs. Baselines:
   • Otimização Não Restrita: Alcançou alto recall (~0,99), mas violou o orçamento em quase 4x, tornando-se impossível de implantar.
   • Heurísticas de Equidade Padrão (Paridade Demográfica/Igualdade de Oportunidades): Satisfizeram o orçamento, mas colapsaram para uma utilidade próxima de zero (recall tão baixo quanto 0,006 no Diabetes Clínico), não performando melhor do que a alocação aleatória.
   • Framework Proposto: Manteve com sucesso uma alta identificação de risco (recall variando de 0,409 a 0,702) enquanto aderiu estritamente ao orçamento de 25%. Alcançou de 1,6x a 2,8x o recall do acaso (random guessing).
3. Análise de Sensibilidade:
   • Saturação de Segurança: O aumento do peso de segurança $\alpha$ além de ~2,0 resultou em 100% de ativação da restrição, sem mudanças operacionais adicionais.
   • Trade-off de Equidade: O aumento do peso de equidade $\gamma$ reduziu a disparidade, mas diminuiu sistematicamente o recall geral.
   • Impacto da Capacidade: O recall mostrou uma dependência aproximadamente linear da capacidade $C$. Expandir o orçamento foi o mecanismo mais eficaz para melhorar a segurança, superando amplamente o ajuste de pesos éticos.

Significância e Alegações

O artigo afirma preencher a lacuna entre a equidade teórica e a implantação operacional ao fornecer um mecanismo prático e juridicamente conforme para navegar em trade-offs éticos inevitáveis em ambientes com recursos limitados.

• Realismo Operacional: O estudo demonstra que os objetivos de equidade teóricos devem ser explicitamente subordinados aos limites de capacidade operacional. Sem essa subordinação, as intervenções de equidade podem tornar-se praticamente inúteis em contextos de triagem de alto risco.
• Conformidade Legal: Ao impor um limiar global único, o framework evita as armadilias legais do tratamento díspar associado a limiares específicos de grupo, tornando-o adequado para domínios regulados como crédito e emprego.
• Desacoplamento: O framework permite que as partes interessadas realizem análises de cenário sistemáticas e ajustem as prioridades de política (segurança, eficiência, equidade) sem retreinar o modelo preditivo subjacente.
• Orientação Acionável: A identificação de "regimes de capacidade crítica" e "pontos de saturação" fornece aos profissionais ferramentas fundamentadas para entender quando o ênfase adicional em segurança ou equidade gera retornos marginais decrescentes.

Os autores concluem que, embora o ajuste ético seja valioso, ele só é eficaz dentro da estreita região viável definida pelos limites de recursos. O framework proposto operacionaliza a equidade ao garantir que as fronteiras de decisão permaneçam viáveis, interpretáveis e juridicamente conformes.