Shape-Adaptive Conditional Calibration for Conformal Prediction via Minimax Optimization

1. Problema e Motivação

A Previsão Conformal (Conformal Prediction - CP) é uma ferramenta estatística fundamental para gerar conjuntos de previsão que garantem uma cobertura marginal válida (ou seja, a probabilidade de o rótulo verdadeiro estar no conjunto é $\ge 1-\alpha$) sem assumir distribuições específicas dos dados.

No entanto, a garantia marginal pode ser insuficiente em cenários de alto risco (como diagnóstico médico ou sistemas autônomos), pois pode falhar em fornecer confiabilidade uniforme para subgrupos específicos ou regiões heterogêneas do espaço de covariáveis. O objetivo ideal é a cobertura condicional: $P\{Y \in C(X) | X\} \ge 1-\alpha$ quase certamente.

O artigo identifica três desafios principais na literatura atual:

1. Rigidez Geométrica: Métodos existentes (como a Calibração Condicional - CC de Gibbs et al., 2025) geralmente ajustam apenas o volume de um conjunto de previsão baseado em uma função de pontuação (score) pré-treinada e fixa. Eles não conseguem adaptar a forma (rotação, razão de aspecto) do conjunto para capturar correlações locais ou heterocedasticidade multivariada.
2. Variáveis de Condicionamento Ocultas: Muitos métodos exigem que a variável de condicionamento $Z$ (ex: atributos sensíveis como raça ou gênero) esteja disponível tanto na calibração quanto no teste. Em cenários de justiça algorítmica, $Z$ pode estar disponível na calibração, mas ser mascarado (não observado) no momento da previsão.
3. Dificuldade Teórica: Garantir cobertura condicional exata em amostras finitas sem conjuntos triviais é impossível. Métodos aproximados muitas vezes carecem de garantias teóricas rigorosas sobre o erro de cobertura.

2. Metodologia: MOPI (Minimax Optimization Predictive Inference)

Os autores propõem o MOPI, um novo framework que reformula a inferência condicional como um problema de otimização minimax.

A. Formulação do Problema

O objetivo é encontrar um conjunto de previsão $C(X)$ que minimize o desvio máximo da cobertura condicional em relação ao nível alvo $\alpha$. Utilizando a relaxação "condicional para marginal" via restrições de momento, o problema é formulado como:

$$\min_{C \in \mathcal{C}} \max_{f \in \mathcal{F}} \mathbb{E}\left[ f(Z) \left( \mathbb{1}\{Y \notin C(X)\} - \alpha \right) - f^2(Z) \right]$$

Onde:

• $\mathcal{C}$ é uma classe de funções de conjuntos estruturados (não apenas subníveis de scores fixos).
• $\mathcal{F}$ é uma classe de funções de peso definida no domínio da variável de condicionamento $Z$.
• O termo $-f^2(Z)$ atua como regularização para tornar o problema bem-definido e estritamente côncavo em relação a $f$.

B. Adaptação à Forma (Shape-Adaptivity)

Diferente dos métodos anteriores que apenas ajustam um limiar escalar, o MOPI otimiza a estrutura geométrica do conjunto $C(X)$. O conjunto é definido como:
$$C(x; h) = \{ y \in \mathcal{Y} : T(h(x), y) \le 0 \}$$
Onde $h(x)$ pode codificar parâmetros geométricos complexos, como:

• Caixas (Boxes): Ajustando vetores de média e desvio padrão por dimensão.
• Elipsoides: Ajustando vetores de média e matrizes de covariância locais.
  Isso permite que o conjunto de previsão "gire" e mude sua razão de aspecto para se adequar à densidade local dos dados.

C. Lidando com Variáveis Mascaradas

Uma inovação crucial é a desacoplagem entre a função de mapeamento preditivo (dependente de $X$) e a imposição de cobertura (dependente de $Z$).

• Durante a calibração, o algoritmo utiliza $Z$ (mesmo que sensível) para guiar a otimização de $h(x)$ e garantir que a cobertura seja justa entre grupos definidos por $Z$.
• Durante o teste, apenas $X$ é necessário para gerar o conjunto $C(X)$. O conhecimento de $Z$ foi incorporado na estrutura aprendida de $h(x)$, permitindo inferência válida mesmo quando $Z$ não é observado.

D. Implementação Empírica

Como o indicador de erro $\mathbb{1}\{Y \notin C(X)\}$ não é diferenciável, o MOPI utiliza um surrogado suave (como a função Sigmoid ou erro Gaussiano) para permitir a otimização via gradiente descendente estocástico.
Para classes de funções finitas (ex: grupos discretos), o problema interno de maximização tem uma forma fechada, transformando o problema minimax em um problema de minimização de risco empírico eficiente.

3. Contribuições Principais

1. Generalização da Calibração Condicional: O MOPI generaliza o framework de Gibbs et al. (2025), permitindo que a geometria do conjunto de previsão evolua com a densidade local dos dados, em vez de apenas escalar um conjunto pré-definido.
2. Inferência com Atributos Sensíveis Mascarados: É o primeiro método que garante cobertura condicional válida em atributos sensíveis (disponíveis na calibração, mas não no teste) através da otimização minimax, sem violar princípios de privacidade ou justiça no momento da previsão.
3. Garantias Teóricas Rigorosas:
   • Estabelecimento de desigualdades oráculo não assintóticas para o Erro Quadrático Médio de Cobertura (MSCE).
   • Demonstra-se que a taxa de convergência do MSCE atinge a ordem ótima (até fatores logarítmicos) sob condições de regularidade.
   • Prova de que o MOPI minimiza o MSCE quando a classe de funções de peso $\mathcal{F}$ é suficientemente expressiva.
4. Eficiência Computacional: A derivação de formas fechadas para a maximização interna permite a aplicação escalável em grandes conjuntos de dados.

4. Resultados Experimentais

Os autores avaliaram o MOPI em dados sintéticos e reais, comparando com métodos baselines como Previsão Conformal Dividida (SCP), Calibração Condicional (CC) e Previsão Conformal Localizada Aleatória (RLCP).

• Dados Multivariados (Heterocedasticidade): Em cenários com rótulos vetoriais e variância heterogênea, o MOPI produziu conjuntos de previsão significativamente menores (mais eficientes) e com cobertura condicional superior (menor MSCE e melhor cobertura no pior caso) em comparação com baselines que apenas ajustam o volume.
• Atributos Sensíveis (Fairness): Em experimentos onde a variável de condicionamento (ex: raça ou gênero) estava mascarada no teste:
  • Métodos como CC e RLCP falharam em manter a cobertura equilibrada entre os grupos, pois não puderam usar $Z$ na calibração.
  • O MOPI manteve a cobertura condicional equilibrada (equalized coverage) entre os grupos, demonstrando sua capacidade de aprender a estrutura de $Z$ durante a calibração e transferi-la para a função de mapeamento baseada apenas em $X$.
• Dados Reais:
  • Households Dataset: Melhor cobertura local para diferentes níveis de renda.
  • Communities and Crime: Cobertura equilibrada entre grupos raciais mesmo quando a raça não estava disponível no teste.
  • FashionMNIST: Melhor desempenho em cobertura condicional por classe e cluster.

5. Significado e Conclusão

O artigo MOPI representa um avanço significativo na teoria e prática da Previsão Conformal. Ao introduzir a otimização minimax e a adaptabilidade geométrica, ele resolve limitações críticas de métodos anteriores:

1. Flexibilidade: Permite que os conjuntos de previsão se adaptem à complexidade local da distribuição de dados, não apenas ao seu volume.
2. Justiça e Privacidade: Oferece uma solução teórica e prática para garantir equidade (fairness) em cenários onde informações sensíveis não podem ser usadas no momento da decisão, mas podem ser usadas para treinar o modelo.
3. Robustez Teórica: Fornece garantias de convergência e limites de erro que conectam a otimização minimax diretamente à minimização do erro de cobertura condicional.

Este trabalho abre caminho para aplicações de IA mais seguras e justas em áreas críticas, onde a incerteza deve ser quantificada de forma precisa e equitativa para todos os subgrupos da população.