Riepilogo Tecnico: Valutazione Condizionata al Regime nell'Ottimizzazione Bayesiana Multi-Contesto

Enunciato del Problema

Le attuali valutazioni dell'Ottimizzazione Bayesiana (BO) di trasferimento e delle funzioni di acquisizione soffrono di un difetto fondamentale di misurazione: riportano gli Effetti Medi del Trattamento (ATE) su variabili di regime nascoste, anziché gli Effetti Medi del Trattamento Condizionati (CATE) specifici per il contesto del praticante. L'articolo sostiene che la classifica delle prestazioni delle funzioni di acquisizione (ad esempio, Greedy vs UCB) non è una proprietà intrinseca dell'algoritmo, ma una funzione del regime di valutazione, definito specificamente dal rapporto di budget ($B/|A|$), dalla qualità dell'a priori ($\rho$), dal numero di contesti ($K$) e dal tipo di metrica.

Un'audit di 40 articoli recenti (2022–2025) rivela che il 98% non varia il rapporto di budget $B/|A|$ come asse controllato e l'80% riporta solo una singola famiglia di metriche. Di conseguenza, le classifiche esistenti sono "non controllate per il regime". Gli autori dimostrano che benchmark identici possono produrre conclusioni opposte esclusivamente in base al budget: sul benchmark di risposta ai farmaci GDSC2, Greedy supera UCB di 0,050 Hit@1 a $B=50$, mentre UCB supera Greedy di 0,035 Hit@1 a $B=100$. Questi non sono contraddizioni, ma diversi CATE. L'articolo ipotizza che, senza il controllo di queste variabili di regime, qualsiasi classifica riportata sia una proprietà della configurazione di misurazione, non dell'algoritmo.

Metodologia

1. Il Punteggio di Regime Portatile (PRS)

Per rendere il regime osservabile, gli autori definiscono il Punteggio di Regime Portatile (PRS):
$$PRS = \frac{B}{|A|} (1 - \rho)$$
Dove:

• $B$: Budget per contesto.
• $|A|$: Dimensione dello spazio delle azioni.
• $\rho$: Correlazione di rango di Spearman tra le medie a priori e i veri valori delle azioni (misurabile da una corsa pilota).

Il PRS funge da parametro d'ordine monodimensionale. Un PRS elevato indica un budget ampio rispetto allo spazio delle azioni e/o un a priori debole, suggerendo che l'esplorazione è probabile che sia redditizia. Un PRS basso indica un a priori forte o un budget limitato, favorendo lo sfruttamento (Greedy).

2. Quadro Teorico

L'articolo introduce la Proposizione del Leaderboard Senza Gratuito (Proposizione A.11). Dimostra che se il CATE di una scelta di acquisizione cambia segno attraverso una variabile di regime (come osservato con il PRS), allora l'ATE riportato su qualsiasi benchmark è un parametro libero determinato dalla miscela del benchmark. Scegliendo opportunamente le condizioni di valutazione, è possibile ottenere qualsiasi classifica (inclusi pareggi o inversioni) senza falsificazioni. Questo formalizza il motivo per cui i leaderboard agnostici al regime sono strumenti decisionali inaffidabili.

3. REGIMEPLANNER

Per dimostrare che la visione del regime è sfruttabile, gli autori propongono REGIMEPLANNER, un algoritmo adattivo che:

1. Stima $\hat{\rho}$ online all'interno di ogni contesto utilizzando medie a priori in cache e risultati osservati.
2. Calcola il PRS dinamico ($\hat{PRS}_t$).
3. Passa da Greedy a UCB in base a una soglia $\theta = 0,10$.
   • Se $\hat{PRS}_t < \theta$: Passa a Greedy (sfruttamento).
   • Se $\hat{PRS}_t \ge \theta$: Passa a UCB (esplorazione).

Ciò permette al pianificatore di adattarsi agli spostamenti di regime all'interno di un singolo contesto, una capacità che le politiche fisse non possiedono.

4. Audit Empirico e Validazione

• Audit: Una revisione sistematica di 40 articoli su BO di trasferimento (NeurIPS, ICML, ICLR, ecc.) ha quantificato la mancanza di controllo del regime (il 98% non esegue sweep su $B/|A|$).
• Benchmark: Gli esperimenti sono stati condotti su tre benchmark principali:
  • Buchwald-Hartwig: Un compito di ottimizzazione di reazioni chimiche con a priori mescolati per isolare gli effetti della qualità dell'a priori.
  • GDSC2: Un benchmark biologico di risposta ai farmaci con osservazioni rumorose.
  • HPO-B: Un benchmark comunitario di ottimizzazione degli iperparametri su 16 spazi di ricerca.
• Analisi: Gli autori hanno analizzato 79 condizioni che coprono questi benchmark, misurando Hit@1 e Discovery AUC.

Risultati Chiave

1. Prevedibilità del Regime

Il PRS predice fortemente il "vantaggio dell'esplorazione" (il divario di prestazioni tra strategie di esplorazione e sfruttamento).

• Su 79 condizioni, il PRS correla con il vantaggio dell'esplorazione con un coefficiente di modello gerarchico $\beta = 0,50$ ($p = 1,1 \times 10^{-9}$).
• Le correlazioni all'interno del benchmark sono forti: GDSC2 ($r=0,96$), HPO-B ($r=0,83$) e Buchwald ($r=0,75$).
• Il PRS supera i suoi componenti individuali ($B/|A|$ da solo o $1-\rho$ da solo) come predittore.

2. Inversione delle Classifiche

Lo studio conferma che le classifiche di acquisizione si invertono completamente in base al regime:

• Inversione del Budget: Su GDSC2, Greedy vince a bassi budget ($B=50$), mentre UCB/REIGN vincono ad alti budget ($B=100$).
• Inversione della Qualità dell'A Priori: Su Buchwald, con un a priori debole, vince l'esplorazione; con un a priori strutturato forte, Greedy domina con un ampio margine (0,481 vs 0,389 Hit@1), comprimendo il valore della scelta di acquisizione.
• Inversione della Metrica: Su GDSC2, Greedy domina il Discovery AUC a tutti i budget, mentre UCB/REIGN dominano Hit@1 solo al di sopra della soglia di regime.

3. Prestazioni di REGIMEPLANNER

• GDSC2: A $B=50$, REGIMEPLANNER ottiene 0,676 Hit@1, superando tutti i pianificatori fissi e superando l'oracolo {Greedy, UCB} abbinato per contesto del 18%.
• HPO-B: A $B=100$, REGIMEPLANNER vince su tutti i 16 spazi di ricerca contro Greedy (media +0,103 Hit@1) e si classifica #1 in assoluto, mentre Greedy si classifica ultimo.
• Adattività: REGIMEPLANNER ha successo tracciando l'evoluzione di $\hat{\rho}$ all'interno di un contesto. Su GDSC2, $\hat{\rho}$ sale da ~0,12 a ~0,66 durante un episodio, permettendo al pianificatore di passare dall'esplorazione allo sfruttamento a metà percorso, un risultato impossibile per le politiche fisse.

4. Modi di Fallimento e Zone di Equivalenza

• Accuratezza: Il PRS predice il vincitore empirico nel 74,7% delle 79 condizioni.
• Zona di Equivalenza: Il 19% delle condizioni rientra in una zona di equivalenza ($|vantaggio| < 0,01$ Hit@1) dove le differenze sono praticamente indistinguibili, eppure queste "non-differenze" generano spesso classifiche pubblicabili.
• Fallimenti ai Confini: Le previsioni peggiorano vicino alla soglia ($PRS \in [0,05, 0,15)$) e nei casi con numeri di contesto molto bassi ($K < K_{min}$) dove l'a priori non ha ancora differenziato i pianificatori.
• Validazione Pre-registrata: Su 40 condizioni tenute da parte, il metodo ha raggiunto un'accuratezza del 67,5%, al di sotto dell'obiettivo del 90%, evidenziando che la soglia non è universalmente agnostica al dominio senza stima del rumore.

Significato e Affermazioni

L'articolo rivendica tre contributi principali:

1. Prevedibilità: Il regime è prevedibile prima di qualsiasi esecuzione di confronto utilizzando il PRS, che ordina il vantaggio dell'esplorazione attraverso domini diversi (chimica, biologia, HPO).
2. Sfruttabilità: Il CATE è sfruttabile online. REGIMEPLANNER dimostra che una regola adattiva basata su quantità osservabili ($B/|A|$ e $\hat{\rho}$) può superare le politiche fisse e persino gli oracoli per contesto in regimi specifici.
3. Trasparenza Diagnostica: La proposizione "No-Free-Leaderboard" formalizza il motivo per cui le classifiche agnostiche al regime sono inaffidabili. L'articolo sostiene che omettere $B/|A|$, $\rho$, $K$ e il tipo di metrica produce "affermazioni di misurazione, non algoritmiche".

Gli autori concludono che il campo ha discusso su non-differenze (zone di equivalenza) e che la funzione di acquisizione "migliore" è una proprietà del regime in cui è stata valutata. Propongono un nuovo protocollo di reporting: i confronti di acquisizione devono riportare la condizione a priori, il rapporto di budget, il tipo di metrica e il numero di contesti per essere interpretabili. Il lavoro funge da strumento diagnostico (PRS) e prova di esistenza (REGIMEPLANNER) che la valutazione condizionata al regime è necessaria per una valutazione algoritmica affidabile.