Riepilogo Tecnico: Apprendimento Focalizzato sulla Decisione tramite Proiezione nello Spazio Tangente dell'Errore di Previsione

1. Enunciato del Problema

Nelle pipeline "prevedi-poi-ottimizza", un modello predittivo stima parametri (ad esempio, vettori di costo) per un problema di ottimizzazione a valle, che quindi calcola una decisione finale. L'Apprendimento Focalizzato sulla Decisione (DFL) tradizionale mira ad addestrare i predittori per minimizzare il rimpianto—la subottimalità sostenuta agendo su parametri previsti anziché su quelli veri—piuttosto che semplicemente minimizzare l'errore di previsione (ad esempio, Errore Quadratico Medio, MSE).

Tuttavia, calcolare il gradiente del rimpianto rispetto ai parametri del predittore è impegnativo. Gli approcci esistenti presentano limitazioni significative:

• Strati di Ottimizzazione Differenziabili: I metodi che differenziano attraverso le iterazioni del solver (ad esempio, tramite le condizioni KKT) possono essere computazionalmente costosi, numericamente instabili (a causa di sistemi lineari mal condizionati) e dipendenti dal solver.
• Funzioni di Perdita Surrogate: I metodi che utilizzano surrogate convessi (ad esempio, SPO+) o stimatori perturbati spesso si discostano dall'obiettivo reale del rimpianto, possono mancare di generalità oltre i costi lineari o richiedere chiamate aggiuntive al solver.

Il documento affronta la necessità di un metodo che calcoli i gradienti del vero rimpianto in modo efficiente, senza differenziare attraverso le iterazioni del solver o affidarsi a obiettivi proxy, mantenendo al contempo la stabilità numerica.

2. Metodologia: PEAR

Gli autori propongono PEAR (Projected Error As Regret-gradient), un metodo fondato sulla caratterizzazione geometrica dei gradienti del rimpianto in condizioni di regolarità standard.

Fondamento Teorico

Sotto le ipotesi di convessità stretta, Qualificazione dell'Indipendenza Lineare dei Vincoli (LICQ) e Scioltezza Complementare Stretta, l'insieme attivo dei vincoli alla soluzione ottimale rimane localmente stabile sotto piccole perturbazioni. All'interno di questa regione, il documento stabilisce che il gradiente del rimpianto ammette una caratterizzazione geometrica in forma chiusa:
$$\nabla_{\hat{c}} R(\hat{c}; c) = P_H (\hat{c} - c) = P_H e$$
dove:

• $e = \hat{c} - c$ è l'errore di previsione.
• $P_H$ è un operatore di sensibilità definito come $P_H = H^{-1} - H^{-1}J^\top(JH^{-1}J^\top)^{-1}JH^{-1}$.
• $H$ è l'Hessiana della funzione obiettivo (curvatura locale).
• $J$ è lo Jacobiano dei vincoli attivi.

Interpretazione Geometrica: Il gradiente del rimpianto è equivalente all'errore di previsione proiettato sullo spazio tangente dei vincoli attivi, scalato dalla curvatura locale. Ciò implica che il segnale di apprendimento filtra i componenti "irrilevanti per la decisione" dell'errore (quelli ortogonali alla regione ammissibile) e trattiene solo i componenti che influenzano la decisione.

Implementazione Algoritmica

PEAR calcola questo gradiente senza formare esplicitamente l'operatore di proiezione denso $P_H$. Invece, utilizza un sistema lineare ridotto derivato dai vincoli attivi:

1. Passo in Avanti: Risolvere il problema di ottimizzazione per ottenere la soluzione primale-duale e identificare l'insieme attivo $\mathcal{A}$ tramite scioltezza complementare.
2. Passo all'Indietro:
   • Calcolare l'errore di previsione $e$.
   • Risolvere un sistema lineare compatto $k \times k$ (dove $k$ è il numero di vincoli attivi) utilizzando una riduzione tramite complemento di Schur: $(JH^{-1}J^\top)v = JH^{-1}e$.
   • Ricostruire il gradiente proiettato: $g = H^{-1}e - H^{-1}J^\top v$.

Gestione dei Programmi Lineari (LP): Poiché gli LP mancano di curvatura ($H$ è singolare) e hanno mappe di soluzione a tratti costanti, PEAR aggiunge un piccolo termine di regolarizzazione quadratica ($\phi(z) = \frac{\lambda}{2}\|z\|^2$) per garantire la differenziabilità. Per impedire che il gradiente svanisca in regioni piatte, PEAR impiega l'iniezione normale, aggiungendo selettivamente un componente controllato del gradiente dello spazio normale alla proiezione tangente per stabilizzare l'apprendimento.

3. Contributi Chiave

1. Caratterizzazione Geometrica: Il documento stabilisce una relazione geometrica esplicita tra errore di previsione e gradienti del rimpianto, mostrando che i gradienti del rimpianto sono semplicemente gradienti MSE filtrati per rimuovere le direzioni irrilevanti per la decisione.
2. Calcolo Efficiente (PEAR): Il metodo proposto calcola i gradienti del rimpianto tramite un sistema lineare ridotto sui vincoli attivi. Ciò evita la differenziazione attraverso le iterazioni del solver, elimina la necessità di funzioni di perdita surrogate e migliora la stabilità numerica rispetto agli strati differenziabili esistenti.
3. Prestazioni Empiriche: PEAR dimostra qualità decisionale superiore ed efficienza di addestramento attraverso benchmark sintetici di Programmazione Lineare (LP) e un compito di ottimizzazione di portafoglio di Programmazione Quadratica (QP) del mondo reale.

4. Risultati Sperimentali

Gli autori hanno valutato PEAR rispetto a baseline tra cui MSE (due stadi), SPO+, DBB, PFYL e LAVA.

• Benchmark Sintetici LP (Percorso Minimo e Zaino):

  • Rimpianto: PEAR ha ottenuto il rimpianto normalizzato più basso attraverso vari gradi polinomiali di generazione dei costi, superando o eguagliando tutte le baseline.
  • Efficienza: PEAR è stato costantemente il più efficiente dal punto di vista computazionale, spesso addestrandosi significativamente più velocemente degli strati differenziabili (ad esempio, 2 volte più veloce di SPO+ sul Percorso Minimo) ed evitando i timeout che affliggevano altri metodi su istanze complesse di Zaino.
  • Robustezza: Sotto rumore moltiplicativo nella generazione dei costi, PEAR ha mantenuto il rimpianto più basso, dimostrando robustezza alla specificazione errata del modello.

• QP del Mondo Reale (Ottimizzazione di Portafoglio Media-Varianza):

  • Su dati S&P 100, PEAR ha ottenuto il rimpianto normalizzato più basso e ha tradotto questo in prestazioni di portafoglio realizzate superiori, inclusi i rendimenti cumulativi/annualizzati più alti, il miglior rapporto di Sharpe e il massimo drawdown più basso.
  • PEAR è stato più veloce degli strati QP differenziabili (QPTH, CvxpyLayers) e ha esibito gradienti più stabili, portando a migliori prestazioni fuori campione.

• Spostamenti dei Vincoli:

  • Il documento ha testato la robustezza quando i vincoli al momento del test differivano da quelli di addestramento (ad esempio, cambiando le coppie origine-destinazione nel Percorso Minimo, stringendo la capacità dello Zaino o permettendo la vendita allo scoperto nei portafogli).
  • PEAR è degradato costantemente meno tra i metodi DFL e ha mantenuto il rimpianto più basso, suggerendo che apprende strutture di costo trasferibili piuttosto che memorizzare percorsi ottimali specifici.

5. Significato e Affermazioni

Il documento afferma che PEAR fornisce un'alternativa più semplice e diretta agli approcci DFL esistenti rivelando che i gradienti del rimpianto sono strutturalmente correlati agli errori di previsione tramite proiezione nello spazio tangente.

• Interpretabilità: Il metodo chiarisce perché certi componenti dell'errore sono importanti per le decisioni (quelli nello spazio tangente) e quali no (quelli nello spazio normale).
• Efficienza e Stabilità: Disaccoppiando il solver in avanti dal calcolo all'indietro tramite un sistema lineare ridotto, PEAR evita il sovraccarico computazionale e l'instabilità numerica associati alla differenziazione attraverso solver complessi.
• Generalità: L'approccio si applica a problemi di ottimizzazione con obiettivi lineari o quadratici, offrendo un gradiente di rimpianto deterministico senza richiedere stime basate su perturbazioni o chiamate aggiuntive al solver.

Gli autori concludono che PEAR raggiunge una qualità decisionale superiore con tempi di addestramento ridotti e una migliore robustezza sotto spostamenti dei vincoli, offrendo un quadro principiato ed efficiente per l'Apprendimento Focalizzato sulla Decisione.