Loss-Shift Transfer via Bayes Quotients

Sintesi Tecnica: Trasferimento di Spostamento della Perdita tramite Quozienti di Bayes

Enunciato del Problema
L'apprendimento per trasferimento (transfer learning) è tradizionalmente analizzato attraverso la lente dello spostamento della distribuzione (distribution shift), in cui la legge congiunta $P(X, Y)$ cambia tra l'impostazione sorgente e quella target. Questo articolo identifica una modalità di fallimento ortogonale denominata spostamento della perdita (loss shift). In questo scenario, la distribuzione congiunta $P(X, Y)$ rimane fissa, ma la funzione di perdita predittiva cambia. Il problema centrale è che una rappresentazione ottimizzata per una perdita sorgente "grossolana" (ad esempio, l'accuratezza di classificazione zero-uno) può scartare informazioni che sono irrilevanti per l'obiettivo sorgente ma essenziali per una perdita target più "fine" (ad esempio, la predizione probabilistica sotto log loss). Una volta congelata, una rappresentazione non permette alle teste a valle di recuperare l'informazione scartata durante la fase di addestramento sorgente, portando a un fallimento fondamentale del trasferimento anche quando la distribuzione dei dati è identica.

Metodologia e Quadro Teorico
L'articolo formalizza questo fenomeno utilizzando i quozienti di Bayes, un concetto derivato dalla teoria delle decisioni e dall'elicitazione delle proprietà.

1. Quozienti di Bayes e Sufficienza: Per una distribuzione $P$ fissa e una perdita $\ell$, il quoziente di Bayes $q_{\ell, P}(X)$ identifica le classi di equivalenza degli input che producono la stessa azione ottima di Bayes. Una rappresentazione $H = h(X)$ è Bayes-sufficiente per $(P, \ell)$ se preserva questo quoziente (ovvero $\sigma(q_{\ell, P}(X)) \subseteq \sigma(H)$). È Bayes-minima se contiene esattamente questo quoziente.
2. Preordine della Perdita: L'articolo definisce un preordine $\preceq_P$ sulle perdite basato sul raffinamento dei loro quozienti di Bayes indotti. $\ell_1 \preceq_P \ell_2$ se ogni distinzione richiesta da $\ell_1$ è anche richiesta da $\ell_2$. Il raffinamento stretto ($\ell_1 \prec_P \ell_2$) implica che $\ell_2$ richiede un'informazione strettamente maggiore rispetto a $\ell_1$.
3. Ostruzione Qualitativa: Il risultato teorico centrale (Proposizione 3.2) afferma che se $\ell_{source} \prec_P \ell_{target}$, qualsiasi rappresentazione che sia Bayes-minima per la perdita sorgente è insufficiente per la perdita target. Di conseguenza, l'eccesso di rischio del trasferimento congelato è strettamente positivo.
4. Identità Quantitativa per la Log Loss: Per la log loss a output finito, l'articolo deriva un'identità esatta per il gap di trasferimento congelato (Teorema 3.3). L'eccesso di rischio è precisamente l'informazione mutua condizionale persa dalla rappresentazione:
   $$R^*_{\log, P}(H) - R^*_{\log, P}(X) = I(Y; X | H) = \mathbb{E} [ D_{KL}(P(Y|X) \parallel P(Y|H)) ]$$
   Questo quantifica la penalità come l'informazione condizionale su $Y$ scartata dalla rappresentazione congelata $H$.

Contributi Chiave

• Identificazione dello Spostamento della Perdita: L'articolo stabilisce lo spostamento della perdita come una modalità distinta di fallimento del trasferimento, separata dallo spostamento della distribuzione, in cui il cambiamento dell'obiettivo richiede rappresentazioni diverse anche sotto una distribuzione di dati identica.
• Substrato Teorico della Rappresentazione: Utilizza il quadro dei quozienti Bayes-sufficienti per ordinare le perdite per raffinamento, fornendo un meccanismo rigoroso per confrontare le richieste informative di diversi obiettivi.
• Caratterizzazione Esatta della Penalità di Trasferimento: Per la log loss, l'articolo fornisce una formula informativa esatta per il gap di trasferimento, collegandola direttamente all'informazione mutua condizionale e alla divergenza KL attesa.
• Esempio di Classificazione Binaria: Dimostra esplicitamente che una rappresentazione minima per l'accuratezza (che preserva solo la decisione della classe di Bayes) è insufficiente per la predizione log-loss, la quale richiede l'intero vettore di probabilità condizionale.

Risultati Sperimentali
L'articolo valida la teoria attraverso quattro impostazioni sperimentali in cui $P(X, Y)$ è fissa ma la perdita cambia:

1. Modello Binario Controllato: Un modello discreto sintetico dove il quoziente di Bayes per la classificazione è noto esattamente. I risultati mostrano che una rappresentazione che preserva solo la classe di Bayes ($S$) ottiene un'accuratezza identica alla rappresentazione completa ($X$) ma incorre in una Negative Log Likelihood (NLL) significativamente più alta. Il gap empirico della NLL corrisponde con alta precisione al gap della KL condizionale teorica (correlazione > 0.999).
2. Rappresentazioni di Bottleneck Apprese: Utilizzando un MLP appreso con un bottleneck e rumore durante il tempo sorgente, lo studio mostra che una rappresentazione addestrata per l'accuratezza di classificazione (hinge loss) e successivamente congelata fallisce nel raggiungere le prestazioni ottimali di log-loss a valle. Il fine-tuning dell'encoder recupera le prestazioni, confermando che l'informazione era presente in $X$ ma scartata dalla rappresentazione congelata.
3. Esperimento dSprites Immagine: Un setup basato su immagini utilizzando fattori latenti per la classe ($S$) e il livello di probabilità ($T$). Le rappresentazioni addestrate con hinge loss hanno preservato $S$ ma hanno compresso $T$, portando a una NLL più alta rispetto alle rappresentazioni addestrate con log loss, che hanno preservato più informazioni su $T$.
4. CIFAR-10H Etichette Umane: Utilizzando distribuzioni di etichette morbide (soft-label) umane, l'articolo confronta l'addestramento con etichette dure (majority vote) rispetto all'addestramento con etichette morbide. Gli encoder congelati con etichette dure, nonostante raggiungano un'accuratezza comparabile per la maggioranza delle etichette, performano significativamente peggio sulla NLL della soft-label e sulla divergenza KL, particolarmente su immagini ambigue dove l'incertezza umana è elevata.

Significato e Rivendicazioni
L'articolo sostiene che l'utilità di una rappresentazione è determinata dalla coppia $(P, \ell)$. Una rappresentazione può essere ottimale per una perdita e intrinsecamente insufficiente per un'altra, anche quando i dati sorgente e target sono tratti dalla stessa distribuzione.

La significatività risiede nel completare lo spostamento della distribuzione come meccanismo fondamentale nel transfer learning. Identifica che il trasferimento congelato fallisce non solo quando i dati cambiano, ma anche quando l'obiettivo cambia, specificamente quando la perdita target raffina strettamente la perdita sorgente. Il framework fornisce uno strumento diagnostico: se una rappresentazione congelata è compressa rispetto al quoziente della perdita target, le teste a valle non possono recuperare l'informazione scartata rilevante per il target. Ciò spiega perché rappresentazioni equivalenti per la classificazione possono avere diverse prestazioni ottime per la log-loss e motiva l'uso di perdite allineate al target durante il pre-addestramento o l'evitare una compressione aggressiva quando il compito a valle richiede distinzioni probabilistiche più fini.