Resumo Técnico: Quando o Recorte Ajuda a Predição Conformal?

Declaração do Problema

A predição conformal depende da trocabilidade entre as pontuações de calibração e de teste para fornecer garantias de cobertura em amostras finitas. No entanto, essa trocabilidade falha sob contaminação de calibração, onde a amostra de calibração é extraída de uma distribuição mista $P^\star = (1-\epsilon)P + \epsilon Q$ (com $P$ sendo a lei alvo limpa e $Q$ uma lei contaminante desconhecida), enquanto o ponto de teste permanece extraído de $P$.

Uma resposta comum da prática é recortar pontos de calibração com altas pontuações de anomalia antes de calcular o quantil conformal. Embora intuitivo, o artigo argumenta que esse procedimento não simplesmente "purifica" os dados. Em vez disso, ele transforma a lei de calibração em uma lei retida $R$. A validade do conjunto de predição resultante para o alvo limpo $P$ torna-se um problema de transferência de $R$ de volta para $P$. A questão central é: Sob quais condições o recorte realmente melhora a cobertura do alvo limpo, e quando ele falha ou até mesmo degrada o desempenho?

Metodologia

A Estrutura da Lei Retida

Os autores reencaram o recorte de limiar fixo não como purificação de dados, mas como condicionamento. Dada uma pontuação de anomalia $S$ e um limiar $t^\star$, os pontos de calibração são retidos se $S(Z) \le t^\star$. O conjunto de calibração retido resultante é i.i.d. da lei retida:
$$R = P^\star(\cdot \mid S \le t^\star)$$
Essa lei geralmente não é nem a lei contaminada original $P^\star$ nem a lei limpa $P$.

Diagnósticos Teóricos

O artigo deriva uma identidade exata de amostra finita para a cobertura limpa marginal, que depende da distribuição da contagem retida e da relação entre a lei retida $R$ e a lei limpa $P$.

Para tornar isso tratável, os autores introduzem uma lacuna de transferência escalar $d_{R \to P, +} = \sup_t (F^A_R(t) - F^A_P(t))_+$, onde $F^A$ denota a função de distribuição acumulada (FDA) da pontuação de não conformidade $A$. A garantia de cobertura é limitada por:
$$\text{Cobertura} \ge [1 - \alpha - d_{R \to P, +}]_+$$

Usando a decomposição de mistura de $R$, os autores derivam um limite superior componente a componente para essa lacuna:
$$d_{R \to P, +} \le (1 - \tilde{\epsilon}^\star) \Delta^A_{\text{trim}, +} + \tilde{\epsilon}^\star D_{Q, +}$$
onde:

1. $\Delta^A_{\text{trim}, +}$ (Custo do lado limpo): A distorção da distribuição da pontuação de não conformidade limpa causada pelo condicionamento na retenção. O artigo prova que isso é exatamente uma covariância unilateral entre o indicador de retenção e a pontuação de não conformidade sob a lei limpa $P$.
2. $\tilde{\epsilon}^\star$ (Coeficiente de mistura retido): O nível efetivo de contaminação no conjunto retido, dado por $\tilde{\epsilon}^\star = \frac{\epsilon p_d}{(1-\epsilon)p_c + \epsilon p_d}$, onde $p_c$ e $p_d$ são as probabilidades de retenção para pontos limpos e sujos, respectivamente.
3. $D_{Q, +}$ (Discrepância suja retida): A discrepância entre o componente sujo retido e o alvo limpo.

Principais Insights Teóricos

• Identidade de Covariância: O custo de recortar dados limpos é impulsionado pela dependência entre a pontuação de anomalia $S$ e a pontuação de não conformidade $A$ sob $P$. Se $S$ e $A$ forem independentes sob $P$ (por exemplo, pontuações apenas de covariáveis em regressão homoscedástica), o custo do lado limpo é zero.
• Dicotomia de Separação em Nível de Coeficiente: O recorte reduz a contaminação apenas se a pontuação de anomalia separar pontos limpos e sujos ($p_d \ll p_c$). Se $p_d \approx p_c$, então $\tilde{\epsilon}^\star \approx \epsilon$, e o recorte não pode reduzir o coeficiente de mistura. Nesse regime de "sem separação", o recorte pode estritamente piorar a cobertura ao introduzir distorção do lado limpo sem reduzir a contaminação.
• Nitidez de Amostra Finita: O limite inferior escalar é mostrado como minimax ótimo dentro da classe de problemas definidos apenas pela restrição de discrepância escalar. Nenhum limite inferior uniforme usando apenas a lacuna escalar pode exceder esse valor.

Modelos de Certificado

Como as quantidades populacionais são desconhecidas na prática, o artigo fornece modelos de certificado para garantias numéricas:

1. Auditoria Componente a Componente: Limitando os ingredientes ($p_c, p_d, \Delta^A_{\text{trim}, +}, D_{Q, +}$) usando informações independentes (por exemplo, amostras de auditoria limpas ou conhecimento de domínio).
2. Auditoria Direta: Usando uma amostra de auditoria limpa independente para certificar o conjunto selecionado final via inversão binomial exata ou limites de Kolmogorov-Smirnov.
3. Seleção na Mesma Amostra: Um limite de FDA empírica em grade finita é fornecido para casos onde o limiar é selecionado da mesma amostra de calibração, incorrendo em uma penalidade de $\sqrt{\log K / N}$.

Resultados Experimentais

Os autores avaliam a teoria em uma tarefa de regressão heteroscedástica com contaminação geométrica de covariáveis.

• Regime de Pontuação Visível: Quando a pontuação de anomalia (norma da pontuação de Stein) separa efetivamente as distribuições de covariáveis dos dados limpos e sujos, o recorte melhora significativamente a cobertura. A melhoria é impulsionada por uma redução no coeficiente de mistura retido $\tilde{\epsilon}^\star$ (que cai para próximo de zero) e um custo do lado limpo gerenciável.
• Regime de Sem Separação: Quando pontos limpos e sujos têm probabilidades de retenção semelhantes, o recorte falha em reduzir $\tilde{\epsilon}^\star$. A cobertura permanece baixa, confirmando que o recorte não pode ajudar sem separação.
• Contaminação Apenas de Rótulo: Quando apenas a resposta $Y$ é corrompida (e $X$ está limpa), o recorte baseado em covariáveis não tem alavancagem. O método identifica corretamente que o recorte não pode melhorar a cobertura nesse cenário.
• Tamanho de Amostra Grande: Aumentar o tamanho da calibração $m$ reduz a folga de amostra finita, mas não elimina o déficit de cobertura ao nível populacional causado pela lacuna de transferência da lei retida. A cobertura limitante é governada pelos diagnósticos populacionais, não pelo tamanho da amostra.

Significado e Alegações

O artigo alega fornecer um diagnóstico ao nível populacional que explica quando e por que o recorte ajuda, indo além da crença heurística de que "remover outliers sempre ajuda".

1. Reenquadramento do Recorte: Estabelece que o recorte é uma transformação da lei de calibração, não uma restauração da lei original. A validade é exata apenas para a lei retida, exigindo uma transferência para o alvo limpo.
2. Princípios de Design: Formaliza que uma boa pontuação de anomalia para recorte deve ser neutra em pontuação na população limpa (minimizando a covariância com a pontuação de não conformidade) enquanto é separativa entre populações limpas e sujas.
3. Limitações: Demonstra que o recorte não pode reduzir a contaminação através do coeficiente de mistura se a pontuação falhar em separar as probabilidades de retenção. Nesses casos, o recorte pode estritamente degradar o desempenho.
4. Segurança Operacional: O artigo distingue entre diagnósticos populacionais (explicações mecanicistas usando leis de simulação conhecidas) e certificados numéricos (garantias que exigem dados de auditoria independentes), garantindo que os praticantes não confundam limites teóricos com certificados baseados em dados sem auditoria adequada.

O trabalho conclui que o recorte não é uma solução universal para contaminação; sua eficácia é estritamente governada pela interação entre a capacidade da pontuação de anomalia de separar a contaminação e sua neutralidade em relação à distribuição do alvo limpo.