Resumo Técnico: Predição Conformal Posterior (PCP)

1. Declaração do Problema

A predição conformal (PC) é uma técnica amplamente utilizada, livre de modelos, para construir intervalos de previsão com garantias de cobertura livres de distribuição. No entanto, os métodos padrão de PC, como a Predição Conformal Dividida (PCD), fornecem apenas validade marginal. Isso significa que a garantia de cobertura ($1-\alpha$) vale em média sobre toda a população, mas pode falhar para subgrupos ou indivíduos específicos, particularmente quando os dados de teste são extraídos de uma subpopulação com poucos dados de treinamento (por exemplo, condados rurais na previsão eleitoral ou grupos demográficos sub-representados).

Alcançar a validade condicional — garantindo cobertura para cada vetor de características específico $X$ — é teoricamente impossível em cenários livres de distribuição sem fazer suposições fortes (por exemplo, suavidade), pois exigiria comprimentos de intervalo esperados infinitos. Abordagens existentes para aproximar a validade condicional, como localização (ponderando vizinhos pela distância de características) ou agrupamento (particionando por atributos sensíveis), enfrentam limitações:

• Localização: Em espaços de alta dimensão, "vizinhos" podem estar distantes, levando a dados esparsos e intervalos instáveis.
• Agrupamento: O particionamento por atributos sensíveis pode levar à perda de cobertura para indivíduos minoritários dentro desses grupos (por exemplo, mulheres altas em um grupo predominantemente feminino) devido a tamanhos de amostra pequenos.

O artigo aborda a necessidade de um método que equilibre a validade marginal e condicional, identificando "tipos latentes" de pontos de dados com base em seu comportamento de resíduos, em vez da proximidade bruta de características.

2. Metodologia: Predição Conformal Posterior (PCP)

A PCP introduz um framework que modela a distribuição de escores de não conformidade (resíduos) como uma mistura finita de distribuições de clusters. Em vez de definir similaridade com base em características brutas $X$, a PCP define similaridade com base nas probabilidades de pertencimento a clusters dos resíduos.

Mecanismo Central

1. Modelagem de Mistura: Assume-se que os escores de não conformidade $R_i = |Y_i - \hat{\mu}(X_i)|$ seguem um modelo de mistura:
   $$R_i | X_i \sim \sum_{k=1}^K \pi_k(X_i) f_k$$
   onde $\pi(X_i)$ é um vetor de probabilidades de pertencimento a clusters e $f_k$ são distribuições distintas de clusters.
2. Pesos Aleatórios: Para construir um intervalo de previsão para um ponto de teste $X_{n+1}$, a PCP não utiliza o verdadeiro $\pi(X_{n+1})$ (desconhecido). Em vez disso, introduz uma etapa de randomização:
   • Amostra-se $L^* \sim \text{Multi}(m, \pi(X_{n+1}))$ (ou uma versão estimada $\hat{\pi}$) para obter frequências empíricas $\pi^*(X_{n+1}) = L^*/m$.
   • Este "ruído" na probabilidade de pertencimento impede que o ponto de teste seja unicamente identificado, preservando a trocabilidade.
3. Quantil Ponderado: O intervalo de previsão é construído usando um quantil empírico ponderado dos resíduos. O peso $w_i$ para um ponto de validação $i$ é proporcional à probabilidade de que seu pertencimento a clusters $\pi(X_i)$ tenha gerado a observação aleatorizada $\pi^*(X_{n+1})$:
   $$w_i \propto \prod_{k=1}^K [\pi_k(X_i)]^{m \pi^*_k(X_{n+1})}$$
   Isso efetivamente aumenta o peso de pontos de validação cujas distribuições de resíduos (pertencimentos a clusters) são semelhantes às do ponto de teste, mesmo que suas características brutas sejam distantes.

Tratamento de Parâmetros Desconhecidos

Como o verdadeiro $\pi(X)$ é desconhecido, a PCP o aprende a partir dos dados. O algoritmo:

• Imputa a resposta de teste $Y_{n+1} = y$ para todos os candidatos $y$.
• Utiliza um algoritmo de aprendizado simétrico para estimar as probabilidades de pertencimento $\hat{\pi}_y$ a partir do conjunto de dados aumentado.
• Emprega um algoritmo de correspondência eficiente (gradeamento, ajuste e agrupamento) com complexidade linear no tamanho da amostra para estimar essas probabilidades sem reajustar modelos complexos para cada candidato $y$.

3. Contribuições Principais e Garantias Teóricas

Validade Teórica

• Validade Condicional no Pertencimento a Clusters: O Teorema 1 estabelece que o intervalo PCP satisfaz $P(Y_{n+1} \notin \hat{C}_n(X_{n+1}) \mid \pi^*(X_{n+1})) \le \alpha$. Isso garante validade condicional na atribuição aleatorizada de clusters do ponto de teste.
• Validade Condicional Aproximada: À medida que o parâmetro de precisão $m$ aumenta, $\pi^*(X_{n+1})$ concentra-se em torno do verdadeiro $\pi(X_{n+1})$. O artigo mostra que o intervalo se aproxima da validade condicional no próprio ponto de teste, desde que o modelo de mistura aproxime bem a verdadeira distribuição de resíduos.
• Comprimento de Intervalo Finito: Diferentemente de métodos de localização estrita que podem produzir intervalos infinitos em altas dimensões, a PCP pode manter intervalos finitos mesmo com $m$ grande, se um número suficiente de pontos de validação compartilhar probabilidades de pertencimento a clusters semelhantes (Teorema 2).
• Garantias PAC: Sob suposições de estabilidade no algoritmo de aprendizado de mistura, a PCP satisfaz garantias "Provavelmente Corretas Aproximadamente" (PAC), assegurando que a validade se mantenha com alta probabilidade sobre a realização dos dados de validação (Seção D).

Extensões

• Cobertura Condicional Equalizada: A PCP é aplicada para garantir cobertura para subgrupos (por exemplo, gênero) enquanto assegura que o intervalo seja assintoticamente independente da pertença ao subgrupo. Isso previne a perda de cobertura do "minoritário dentro de um minoritário" observada em métodos de partição padrão (Proposição 3).
• Cobertura Adaptativa ao Nível para Classificação: Para respostas categóricas, a PCP ajusta o nível de cobertura alvo com base nas probabilidades preditivas do classificador. Se um classificador for bem calibrado e confiante, a PCP produz conjuntos de previsão menores (singleton) enquanto mantém a validade (Proposição 4).

4. Resultados Experimentais

Os autores avaliam a PCP em conjuntos de dados sintéticos e do mundo real, comparando-a com PCD, PCD com Calibração Condicional (PCD+CC) e Predição Conformal Localizada Aleatoriamente (PCL-A).

• Conjunto de Dados Comunidades e Crime: A PCP alcança uma taxa de cobertura condicional de "pior fatia" próxima ao alvo (0,9), superando significativamente a PCD (aprox. 0,8) e igualando métodos avançados como PCL-A e PCD+CC. Crucialmente, a PCP mantém comprimentos de intervalo comparáveis à PCD, enquanto a PCL-A produz intervalos significativamente mais largos.
• Dados Sintéticos (Resíduos Não Lineares): Em cenários onde a variância dos resíduos depende não linearmente de uma característica, a PCP identifica com sucesso a característica relevante e adapta as larguras dos intervalos, mantendo a cobertura em toda a faixa da característica. A PCL-A e a PCD+CC falham em capturar essas não linearidades, levando a lacunas de cobertura.
• Pesquisa de Despesas Médicas (MEPS): Em um cenário com subgrupos desbalanceados (por exemplo, gênero), métodos de particionamento padrão (PCD+Partição) falham em cobrir indivíduos minoritários dentro do grupo majoritário. A PCP corrige isso ampliando intervalos para indivíduos sub-representados e estreitando-os para bem representados, alcançando cobertura uniforme entre subgrupos sem sacrificar a eficiência geral.
• HAM10000 (Lesões de Pele): Para classificação, a PCP gera conjuntos de previsão menores para classificadores bem calibrados em comparação com conjuntos conformais padrão, alinhando o tamanho do conjunto com a confiança do classificador.

5. Significado e Alegações

O artigo afirma que a PCP oferece uma abordagem radicalmente diferente para modelar similaridade na predição conformal. Ao deslocar o foco do espaço de características brutas para a distribuição de escores de não conformidade, a PCP aproveita informações não locais para construir intervalos mais estreitos e robustos.

O significado reside em sua capacidade de:

1. Preencher a lacuna entre validade marginal e condicional sem exigir suposições distribucionais sobre as características.
2. Equilibrar automaticamente o trade-off entre cobertura condicional e comprimento do intervalo, evitando a "maldição da dimensionalidade" que aflige métodos de localização.
3. Aumentar a equidade garantindo cobertura para indivíduos sub-representados dentro de subgrupos, abordando um modo de falha específico de métodos baseados em partição.
4. Adaptar-se à confiança do classificador em tarefas de classificação, produzindo conjuntos de previsão mais acionáveis.

Os autores enfatizam que, embora a PCP dependa do aprendizado de um modelo de mistura, ela permanece um método livre de distribuição no sentido de que não assume uma forma paramétrica específica para a distribuição condicional de $Y|X$, apenas que os resíduos podem ser aproximados por uma mistura de clusters. O método demonstrou ser computacionalmente eficiente (linear no tamanho da amostra) e eficaz em diversos domínios, incluindo socioeconomia, ciência dos materiais e saúde.