Resumo Técnico: Classificação Conformal Justa via Aprendizado de Grupos Baseados em Representação

1. Declaração do Problema

A Previsão Conformal (CP) fornece garantias de cobertura marginal estatisticamente rigorosas para modelos de aprendizado de máquina, assegurando que o rótulo verdadeiro caia dentro de um conjunto previsto com uma probabilidade especificada pelo usuário (por exemplo, $1-\alpha$). No entanto, os métodos padrão de CP garantem cobertura apenas em média em toda a população. Essa garantia marginal falha em contabilizar vieses algorítmicos, onde subgrupos específicos (definidos por características sensíveis como raça ou gênero) podem sofrer cobertura desproporcionalmente ruim.

Embora métodos de "cobertura igualizada" tentem garantir cobertura válida em grupos pré-definidos, eles enfrentam limitações significativas:

1. Expressividade: Métodos existentes (por exemplo, Romano et al., 2020a) tipicamente definem grupos com base em características únicas. Eles lutam para capturar interações complexas e não lineares entre características (por exemplo, o subgrupo definido por "Mulher Branca OU Homem Negro" em uma relação OU Exclusivo).
2. Escalabilidade e Eficiência: A busca exaustiva por todos os subgrupos plausíveis é computacionalmente inviável. Abordagens adaptativas anteriores (por exemplo, Zhou & Sesia, 2024) dependem de seleção gananciosa de características discretas ou suposições de Naïve Bayes, o que limita sua capacidade de lidar com características contínuas e definições de grupos não lineares.

O desafio central é desenvolver um framework de inferência conformal que identifique adaptativamente subgrupos tratados injustamente definidos por combinações complexas e não lineares de características, mantendo a eficiência computacional e produzindo conjuntos de previsão compactos e informativos.

2. Metodologia: FAREG

Os autores propõem o FAREG (Previsão Conformal Justa para Grupos Baseados em Representação), um framework baseado em aprendizado que identifica adaptativamente grupos afetados por viés e ajusta conjuntos de previsão para alcançar cobertura igualizada adaptativa.

2.1 Aprendizado de Grupos Baseados em Representação

Em vez de extrair grupos diretamente das características de entrada brutas $X$, o FAREG codifica $X$ em uma representação latente $Z$ via um mapeamento $Z = f(X)$. O método emprega uma arquitetura de Gargalo de Informação Variacional Profunda (Deep VIB) para aprender um indicador de pertencimento ao grupo $S$ (onde $S=1$ indica pertencimento a um grupo tratado injustamente $\hat{G}$) com base em $Z$.

O objetivo de otimização maximiza a informação mútua entre a representação latente $Z$ e tanto o pertencimento ao grupo $S$ quanto a entrada $X$, enquanto minimiza a informação mútua entre $Z$ e as identidades individuais das amostras $i$ para garantir privacidade e generalização. A função de perda é formulada como:
$$\mathcal{L} = \mathcal{L}_{CC} + \mathcal{L}_{MSE} - \beta \mathcal{L}_{KL}$$
Onde:

• $\mathcal{L}_{CC}$: Perda de cobertura condicional empírica, minimizada para identificar grupos com cobertura ruim.
• $\mathcal{L}_{MSE}$: Perda de reconstrução (Erro Quadrático Médio) garantindo que $Z$ retenha informações suficientes para reconstruir $X$, mantendo assim a interpretabilidade.
• $\mathcal{L}_{KL}$: Termo de divergência de Kullback-Leibler comprimindo $Z$ para uma distribuição normal padrão.

A seleção de grupos é restringida por uma proporção mínima de tamanho de grupo $\delta$. Os autores utilizam Descida de Gradiente Projetada (PGD) para otimizar os parâmetros do decodificador, projetando as probabilidades previstas de pertencimento ao grupo de volta sobre o conjunto viável para satisfazer a restrição de tamanho.

2.2 Construção de Conjuntos de Previsão Adaptativos

Uma vez que os grupos injustos são identificados, o FAREG constrói o conjunto de previsão final $C(X_{N+1})$ para uma instância de teste:

1. Um conjunto de previsão conformal padrão $C_m(X_{N+1}, D)$ é construído usando o conjunto de calibração completo.
2. O modelo amostra $T$ vetores $s_t$ da distribuição de Bernoulli conjunta aprendida, cada um definindo um grupo específico $\hat{G}_{s_t}$.
3. Conjuntos conformais separados são construídos para cada grupo amostrado.
4. O conjunto de previsão final é a união do conjunto padrão e todos os conjuntos específicos do grupo:
   $$C(X_{N+1}) = C_m(X_{N+1}, D) \cup \bigcup_{t=1}^{T} C_m(X_{N+1}, \hat{G}_{s_t})$$

2.3 Métrica de Avaliação Aprimorada: WSC+

Para avaliar a eficácia da identificação de grupos injustos não lineares, os autores introduzem o WSC+, uma extensão não linear da métrica de Cobertura de Lâmina Ponderada (WSC). Enquanto o WSC tradicional avalia a cobertura sobre lâminas lineares ($a \leq v^T X \leq b$), o WSC+ avalia a cobertura sobre funções não lineares arbitrárias $\pi(X)$ (especificamente funções quadráticas nos experimentos). Isso permite uma avaliação mais precisa de se o procedimento conformal cobre grupos definidos por interações complexas de características.

3. Contribuições Principais

1. Framework FAREG: Um método de previsão conformal novel que usa uma arquitetura codificador-decodificador para identificar adaptativamente subgrupos com cobertura ruim definidos por combinações não lineares de características, superando as limitações de definições de grupos lineares ou de características únicas.
2. Métrica WSC+: Uma nova métrica de cobertura condicional não linear projetada para capturar e avaliar melhor o desempenho de procedimentos conformais em subgrupos complexos e tratados injustamente.
3. Garantias Teóricas: O artigo prova que o FAREG alcança cobertura igualizada adaptativa (Eq. 1) sobre o conjunto de grupos selecionado, desde que os dados sejam trocáveis. A análise teórica via dimensão VC sugere que o espaço de grupos candidatos do FAREG é um superconjunto do de métodos adaptativos anteriores (como AFCP), oferecendo maior expressividade.
4. Eficiência: O método mantém complexidade de tempo comparável à previsão conformal padrão ($O(N+M)$), superando significativamente a complexidade $O(N \log N + NM)$ do método AFCP de última geração.

4. Resultados Experimentais

Os autores avaliaram o FAREG em conjuntos de dados sintéticos e do mundo real (Nursery, ACSIncome).

• Dados Sintéticos (Cenário de Diagnóstico de Doença Mental):

  • Cobertura: O FAREG foi o único método a alcançar consistentemente cobertura condicional válida (≥0.9) no subgrupo-alvo definido por uma relação NOR Exclusiva (XNOR) entre características, enquanto as linhas de base (Marginal, Parcial, AFCP1, AFCP2) falharam em manter essa cobertura ou exigiram tamanhos de amostra significativamente maiores.
  • Eficiência: O FAREG manteve tamanhos de conjuntos de previsão médios competitivos, evitando os tamanhos de conjuntos excessivos observados no AFCP2 quando este tentou cobrir o grupo-alvo.
  • Seleção de Características: O FAREG identificou com sucesso as combinações não lineares de características relevantes (X[0] e X[1]) com maior frequência do que as linhas de base à medida que o tamanho da amostra aumentava.
  • Tempo de Execução: O FAREG demonstrou custos de tempo significativamente menores em comparação com o AFCP, com o tempo de treinamento escalando linearmente com o tamanho da amostra.

• Dados do Mundo Real (Nursery e ACSIncome):

  • No conjunto de dados Nursery, o FAREG superou consistentemente todas as linhas de base nas métricas de Cobertura de Grupo e WSC+, mantendo cobertura marginal válida.
  • No conjunto de dados ACSIncome, o FAREG alcançou cobertura condicional válida (0.9) e eficiência competitiva em comparação com o AFCP2.

• Validação da Métrica: Os experimentos confirmaram que o WSC+ identifica grupos com cobertura pior do que a métrica WSC linear, validando sua utilidade na detecção de vieses não lineares.

5. Significado e Alegações

O artigo alega que o FAREG fornece um caminho prático em direção a um aprendizado de máquina confiável, equilibrando o trade-off entre a eficiência da previsão conformal (tamanhos de conjuntos pequenos) e as demandas de justiça algorítmica (cobertura igualizada).

• Expressividade: Ao aprender representações latentes, o FAREG captura vieses algorítmicos complexos que métodos lineares ou abordagens de características únicas perdem.
• Interpretabilidade: Apesar de usar representações latentes, a estrutura codificador-decodificador permite a reconstrução de características de entrada, mitigando a preocupação de "caixa preta" e demonstrando que os grupos aprendidos refletem interações significativas de características (por exemplo, relações XNOR).
• Robustez: O framework oferece uma abordagem flexível que pode ser adaptada a diferentes noções de justiça sem exigir estruturas de grupo pré-definidas.

Os autores reconhecem uma limitação: a expressividade aprimorada de grupos baseados em representação pode parcialmente sacrificar a interpretabilidade direta de grupos definidos em características manifestas, embora argumentem que a capacidade de reconstrução compensa isso. O trabalho posiciona-se como um avanço sobre métodos conformais justos adaptativos existentes, abordando a lacuna de expressividade na identificação de grupos.