Loss-Shift Transfer via Bayes Quotients

Resumo Técnico: Deslocamento de Perda via Quocientes de Bayes

Enunciado do Problema
O aprendizado por transferência é tradicionalmente analisado através da lente do deslocamento de distribuição, onde a lei conjunta $P(X, Y)$ muda entre os cenários de origem e destino. Este artigo identifica um modo de falha ortogonal denominado deslocamento de perda (loss shift). Neste cenário, a distribuição conjunta $P(X, Y)$ permanece fixa, mas a função de perda preditiva muda. O problema central é que uma representação otimizada para uma perda de origem "grossa" (ex: acurácia de classificação zero-um) pode descartar informações que são irrelevantes para o objetivo de origem, mas essenciais para uma perda de destino "fina" (ex: predição probabilística sob perda de log). Uma vez que uma representação é congelada, os cabeçalhos (heads) subsequentes não conseguem recuperar a informação descartada durante a fase de treinamento de origem, levando a uma falha fundamental de transferência, mesmo quando a distribuição dos dados é idêntica.

Metodologia e Estrutura Teórica
O artigo formaliza este fenômeno utilizando quocientes de Bayes, um conceito extraído da teoria da decisão e da elicitação de propriedades.

1. Quocientes de Bayes e Suficiência: Para uma distribuição $P$ fixa e uma perda $\ell$, o quociente de Bayes $q_{\ell, P}(X)$ identifica as classes de equivalência de entradas que produzem a mesma ação ótima de Bayes. Uma representação $H = h(X)$ é Bayes-suficiente para $(P, \ell)$ se ela preserva este quociente (ou seja, $\sigma(q_{\ell, P}(X)) \subseteq \sigma(H)$). Ela é Bayes-mínima se contiver exatamente este quociente.
2. Preordenação de Perda: O artigo define uma preordenação $\preceq_P$ sobre perdas baseada no refinamento de seus quocientes de Bayes induzidos. $\ell_1 \preceq_P \ell_2$ se cada distinção exigida por $\ell_1$ também for exigida por $\ell_2$. O refinamento estrito ($\ell_1 \prec_P \ell_2$) implica que $\ell_2$ exige estritamente mais informação do que $\ell_1$.
3. Obstrução Qualitativa: O resultado teórico central (Proposição 3.2) afirma que, se $\ell_{origem} \prec_P \ell_{destino}$, qualquer representação que seja Bayes-mínima para a perda de origem é insuficiente para a perda de destino. Consequentemente, o risco excessivo de transferência congelada é estritamente positivo.
4. Identidade Quantitativa para Perda de Log: Para perda de log de saída finita, o artigo deriva uma identidade exata para a lacuna de transferência congelada (Teorema 3.3). O risco excessivo é precisamente a informação mútua condicional perdida pela representação:
   $$R^*_{\log, P}(H) - R^*_{\log, P}(X) = I(Y; X | H) = \mathbb{E} [ D_{KL}(P(Y|X) \parallel P(Y|H)) ]$$
   Isso quantifica a penalidade como a informação condicional sobre $Y$ descartada pela representação congelada $H$.

Principais Contribuições

• Identificação do Deslocamento de Perda: O artigo estabelece o deslocamento de perda como um modo de falha de transferência distinto, separado do deslocamento de distribuição, onde a mudança no objetivo de função exige diferentes representações mesmo sob uma distribuição de dados idêntica.
• Substrato Teórico-Representacional: Utiliza o arcabouço de quociente Bayes-suficiente para ordenar as perdas por refinamento, fornecendo um mecanismo rigoroso para comparar as demandas informacionais de diferentes objetivos.
• Caracterização Exata da Penalidade de Transferência: Para a perda de log, o artigo fornece uma fórmula de informação exata para a lacuna de transferência, ligando-a diretamente à informação mútua condicional e à divergência KL esperada.
• Exemplo de Classificação Binária: Demonstra explicitamente que uma representação mínima de acurácia (preservando apenas a decisão da classe de Bayes) é insuficiente para a predição de perda de log, que requer o vetor completo de probabilidade condicional.

Resultados Experimentais
O artigo valida a teoria através de quatro configurações experimentais onde $P(X, Y)$ é fixa, mas a perda muda:

1. Modelo Binário Controlado: Um modelo discreto sintético onde o quociente de Bayes para classificação é conhecido exatamente. Os resultados mostram que uma representação que preserva apenas a classe de Bayes ($S$) atinge acurácia idêntica à da representação completa ($X$), mas incorre em um NLL (Log-Verossimilhança Negativa) significativamente maior. A lacuna empírica de NLL coincide com a lacuna de KL condicional teórica com alta precisão (correlação > 0,999).
2. Representações de Gargalo Aprendidas: Usando um MLP aprendido com um gargalo e ruído no tempo de origem, o estudo mostra que uma representação treinada para acurácia de classificação (perda hinge) e depois congelada falha em atingir o desempenho ideal de perda de log downstream. O ajuste fino (fine-tuning) do codificador recupera o desempenho, confirmando que a informação estava presente em $X$, mas foi descartada pela representação congelada.
3. Experimento de Imagem dSprites: Um setup baseado em imagens usando fatores latentes para classe ($S$) e nível de probabilidade ($T$). Representações treinadas com perda hinge preservaram $S$, mas comprimiram $T$, levando a um NLL maior comparado a representações treinadas com perda de log, que preservaram mais informação sobre $T$.
4. Rótulos Humanos CIFAR-10H: Usando distribuições de rótulos suaves (soft-labels) humanos, o artigo compara o treinamento de rótulos rígidos (hard-labels/majority vote) contra o treinamento de rótulos suaves. Codificadores congelados de rótulo rígido, apesar de alcançarem acurácia comparável de maioria, desempenham significativamente pior em NLL de rótulo suave e divergência KL, particularmente em imagens ambíguas onde a incerteza humana é alta.

Significância e Alegações
O artigo alega que a utilidade de uma representação é determinada pelo par $(P, \ell)$. Uma representação pode ser ótima para uma perda e intrinsecamente insuficiente para outra, mesmo quando os dados de origem e destino são extraídos da mesma distribuição.

A significância reside em complementar o deslocamento de distribuição como um mecanismo fundamental no aprendizado por transferência. Identifica que a transferência congelada falha não apenas quando os dados mudam, mas também quando o objetivo muda, especificamente quando a perda de destino estritamente refina a perda de origem. O arcabouço fornece uma ferramenta de diagnóstico: se uma representação congelada é comprimida em relação ao quociente da perda de destino, os cabeçalhos subsequentes não podem recuperar a informação descartada relevante para o destino. Isso explica por que representações equivalentes em classificação podem ter desempenhos de perda de log distintos e motiva o uso de perdas alinhadas ao destino durante o pré-treinamento ou a evitar compressão agressiva quando a tarefa de destino exige distinções probabilísticas mais finas.