Decision-Focused Continual Learning for Seaport Power-Logistics Scheduling: Generalization across Varying Tasks

Definizione del Problema

I moderni porti operano come Sistemi di Potenza–Logistica (PLS) in cui l'approvvigionamento energetico e le operazioni logistiche (ad esempio, l'attracco delle navi, la programmazione delle gru di banchina) sono co-ottimizzati. La pratica industriale prevalente segue una pipeline predict-then-optimize (predici e poi ottimizza): i modelli di previsione prevedono il carico netto e i prezzi dell'elettricità, che vengono poi inseriti in uno scheduler di ottimizzazione.

Il documento identifica un limite critico negli approcci esistenti di Decision-Focused Learning (DFL). Mentre il DFL allinea l'addestramento della previsione con gli esiti decisionali a valle (minimizzando il rimpianto operativo piuttosto che l'errore statistico come l'MSE), il DFL standard è intrinsecamente task-specific (specifico per il compito). Nelle operazioni portuali, la struttura del compito di ottimizzazione evolve dinamicamente con l'arrivo delle navi. Ogni nuova configurazione di arrivi introduce vincoli distinti, dimensioni delle variabili decisionali e geometrie della regione ammissibile differenti. Di conseguenza, un modello DFL addestrato su una specifica configurazione di task non riesce a generalizzare a nuove strutture di task non viste, portando a un degrado delle prestazioni quando applicato sequenzialmente a scenari operativi in evoluzione.

Metodologia

Gli autori propongono un framework di Decision-Focused Continual Learning (DFCL) progettato per adattarsi online a un flusso di task di programmazione variabili senza dimenticanza catastrofica o necessità di replay dei dati.

1. Formulazione del Problema:
Il framework tratta il problema della programmazione come un flusso di task $\{\tau_1, \dots, \tau_K\}$. L'obiettivo è apprendere i parametri di previsione $\Theta$ che minimizzino il rimpianto cumulativo attraverso tutti i task incontrati. Il rimpianto è definito come la differenza tra il costo effettivo incorso utilizzando le previsioni e il costo realizzabile con una conoscenza perfetta del futuro.

2. Regolarizzazione basata sull'Informazione di Fisher:
Per evitare la perdita di conoscenza dai task precedenti mentre ci si adatta a nuovi task, gli autori derivano un metodo di regolarizzazione ispirato all'Elastic Weight Consolidation (EWC).

• Assunzione di Pseudo-Verosimiglianza: Assumono che la perdita di rimpianto induca una pseudo-verosimiglianza di tipo Gibbs.
• Approssimazione di Laplace: La distribuzione a posteriori dei parametri dei task precedenti è approssimata come una distribuzione Gaussiana.
• Curvatura simile a Fisher: La matrice di precisione di questa Gaussiana è approssimata utilizzando la matrice di informazione di Fisher empirica, calcolata come il prodotto esterno dei gradienti del rimpianto.
• Funzione Obiettivo: L'obiettivo di apprendimento per un nuovo task $k$ minimizza il rimpianto del task corrente più un termine di penalità quadratica: $\lambda (\Theta - \Theta^*_{k-1})^\top \Lambda_{k-1} (\Theta - \Theta^*_{k-1})$. Questo vincola gli aggiornamenti ai parametri critici per i task precedenti.

3. Pipeline Differenziabile End-to-End:
Una sfida principale è che il problema di programmazione PLS comporta vincoli misti-interi (decisioni discrete per l'assegnazione delle navi e la programmazione delle gru), rendendolo non differenziabile.

• Modello Surrogato: Gli autori introducono un surrogato convesso differenziabile basato su una regressione K-Nearest Neighbors (KNN). Questo modello predice le variabili logistiche discrete (potenza delle gru di banchina e assegnazione delle navi) sulla base delle previsioni a monte.
• Convexificazione: Fissando queste variabili discrete predette, il problema di programmazione rimanente diventa un problema di Programmazione Lineare (LP) convessa.
• Differenziazione Implicita: I gradienti della perdita di rimpianto rispetto ai parametri di previsione sono calcolati differenziando attraverso lo strato di ottimizzazione convessa tramite differenziazione implicita (tramite le condizioni KKT).

Contributi Chiave

1. Framework Novello: Il documento propone il primo framework di apprendimento continuo task-adattivo per la programmazione PLS che consente l'apprendimento continuo di modelli di previsione allineati alle decisioni su un flusso illimitato di task.
2. Meccanismo di Regolarizzazione: Introduce un metodo di regolarizzazione basato sull'informazione di Fisher che migliora la generalizzazione tra i task senza l'oneroso overhead computazionale del replay dei dati storici o del riaddestramento sui task passati.
3. Pipeline Differenziabile: Sviluppa una pipeline di apprendimento end-to-end che utilizza un surrogato differenziabile per convessificare il problema di programmazione misto-intero incorporato, stabilizzando la backpropagation del gradiente tramite differenziazione implicita.

Risultati Sperimentali

Il metodo è stato valutato utilizzando un benchmark calibrato su Jurong Port, Singapore, combinando dati reali sull'arrivo delle navi con dati sintetici di carico e prezzo. Sono stati creati sei scenari di task distinti per simulare l'evoluzione dei pattern di arrivo delle navi.

• Performance vs. Baseline: Il DFCL proposto (EWC) ha superato costantemente:
  • Statistical Baseline Learning (SBL): Che minimizza l'MSE ma ignora il valore decisionale.
  • Task-Specific DFL: Che fallisce nel generalizzare a nuove strutture di task.
  • Naïve Continual DFL (Adam): Che soffre di dimenticanza catastrofica.
  • Freezing-based Continual DFL (Adam-F): Che offre una adattabilità limitata.
• Metriche: Il DFCL ha ottenuto il rimpianto cumulativo e il rapporto di rimpianto (RR) più bassi attraverso lo stream di task. Ha ridotto il rimpianto cumulativo fino al 2,5% e la misura della dimenticanza (FM) fino al 27,7% rispetto al continual learning ingenuo.
• Generalizzazione: Il modello ha mantenuto un basso rimpianto sui task precedenti anche dopo aver appreso task successivi strutturalmente diversi, dimostrando una robusta generalizzazione tra i task.
• Efficienza: Il DFCL ha dimostrato costi computazionali e di memoria limitati. A differenza dell'apprendimento multi-task o del riaddestramento per task, il tempo di addestramento e l'impronta di memoria del DFCL sono rimasti quasi costanti all'aumentare del numero di task, evitando la necessità di memorizzare dati storici o molteplici modelli.
• Sensibilità: Il metodo è rimasto robusto ad aggiornamenti in tempo reale imperfetti e ha mostrato prestazioni stabili attraverso diverse sequenze di ordinamento dei task.

Significatività e Rivendicazioni

Il documento afferma che il framework DFCL proposto affronta una lacuna specifica nella letteratura sui sistemi energetici: l'incapacità degli attuali metodi focalizzati sulla decisione di gestire evoluzioni nelle strutture dei task comuni nella logistica reale.

• Praticità: L'approccio consente agli operatori portuali di sostenere decisioni di programmazione di alta qualità sotto condizioni operative mutevoli (ad esempio, variazioni nelle dimensioni della flotta e nei profili di carico) senza l'onere computazionale di riaddestrare modelli su misura per ogni nuovo scenario.
• Vantaggio Relativo: Gli autori dichiarano modestamente che i risultati dimostrano guadagni relativi sotto spostamenti controllati della struttura dei task utilizzando un benchmark a fonti miste. Non pretendono che il dataset assemblato riproduca perfettamente tutte le specifiche condizioni di mercato di Singapore, ma sostengono che il vantaggio algoritmico nel gestire le variazioni strutturali dei task sia il contributo primario.
• Lavoro Futuro: Il documento nota che la futura validazione dovrebbe coinvolgere dataset portuali geograficamente co-localizzati ed estensioni alla programmazione correttiva a orizzonte mobile o a più stadi con ricorso parziale.