In-Context Multi-Objective Optimization

Sintesi Tecnica: Ottimizzazione Multi-Obiettivo in Contesto (TAMO)

Enunciato del Problema
L'ottimizzazione multi-obiettivo (MOO) è una sfida pervasiva nei domini scientifici e ingegneristici, come la scoperta di farmaci e i sistemi autonomi, dove i praticanti devono bilanciare obiettivi in competizione (ad esempio, efficacia vs. tossicità, accuratezza vs. costo). L'approccio standard, l'Ottimizzazione Bayesiana Multi-Obiettivo (MOBO), si basa sull'adattamento di surrogati probabilistici (tipicamente Processi Gaussiani) e sull'ottimizzazione delle funzioni di acquisizione a ogni passo. Tuttavia, gli autori identificano tre limitazioni critiche nel deployment nel mondo reale:

1. Sovraccarico Computazionale: Ogni nuovo problema richiede l'addestramento di surrogati da zero e l'ottimizzazione ripetuta della funzione di acquisizione, creando colli di bottiglia in loop paralleli o sensibili al tempo.
2. Mancanza di Trasferibilità: Le prestazioni sono altamente sensibili alle scelte di modellazione (kernel, verosimiglianze) e raramente si trasferiscono a nuovi problemi senza un riaggiustamento.
3. Miopia: La maggior parte delle funzioni di acquisizione è miope, ottimizzando per guadagni a un passo piuttosto che per la scoperta della frontiera di Pareto a lungo orizzonte, che spesso richiede una pianificazione multi-step.

Metodologia: TAMO
Il documento introduce TAMO (Task-Agnostic Multi-Objective), una politica completamente ammortizzata e universale per l'ottimizzazione multi-obiettivo a scatola nera. A differenza della MOBO tradizionale, TAMO elimina l'adattamento del surrogato per task e l'ingegneria delle acquisizioni mappando l'intera storia delle osservazioni direttamente alla prossima query tramite una singola passata in avanti di una rete neurale.

• Architettura: TAMO utilizza una spina dorsale transformer progettata per essere agnostica rispetto alla dimensione sia sugli input che sugli output. Impiega un nuovo "incapsulatore aggregatore di dimensioni" che mappa osservazioni scalari a vettori indipendentemente dalle dimensioni di input ($d_x$) o output ($d_y$). Ciò consente al modello di essere pre-addestrato su task eterogenei con dimensionalità variabili e trasferito a nuovi problemi senza riaddestramento.
• Strategia di Addestramento: Il modello è addestrato offline utilizzando un approccio in due fasi:
  1. Riscaldamento per Predizione: Il modello viene prima addestrato su un task di regressione in contesto ausiliario per apprendere il paesaggio della funzione e stabilizzare le rappresentazioni.
  2. Apprendimento per Rinforzo (RL): La politica è ottimizzata tramite RL per massimizzare il miglioramento cumulativo del volume iperbolico su traiettorie complete. Lo stato include la storia delle osservazioni, il passo temporale corrente e il budget totale. La ricompensa è il volume iperbolico normalizzato, incoraggiando la pianificazione a lungo orizzonte piuttosto che guadagni miopi.
• Inferenza: Al momento del test, il modello pre-addestrato propone il prossimo design valutando un insieme di candidati in una singola passata in avanti, condizionato all'intera storia delle query.

Contributi Chiave

1. Politica Completamente Ammortizzata: TAMO è la prima architettura end-to-end, agnostica rispetto alla dimensione, per l'ottimizzazione multi-obiettivo a scatola nera che opera interamente in contesto, eliminando la necessità di un adattamento iterativo del surrogato.
2. Agnosticismo Dimensionale: L'architettura transformer proposta gestisce dimensioni di input e output variabili, consentendo il pre-addestramento su corpora sintetici diversificati e il trasferimento a task del mondo reale con dimensionalità inedite.
3. Ottimizzazione a Lungo Orizzonte: Ottimizzando per il volume iperbolico cumulativo su traiettorie complete tramite RL, TAMO affronta la miopia intrinseca nelle funzioni di acquisizione standard.

Risultati Sperimentali
Gli autori hanno valutato TAMO su task GP sintetici, benchmark analitici standard (ad esempio, Ackley-Rastrigin, Branin-Currin) e problemi del mondo reale (progettazione di assorbenti per petrolio, accelerazione Laser-Plasma).

• Prestazioni: TAMO raggiunge una qualità Pareto competitiva o superiore (misurata tramite rimpianto semplice e volume iperbolico) rispetto a forti baseline basate su GP (qNEHVI, qNParEGO, qHVKG) e baseline ammortizzate come BOFormer.
• Efficienza: Il guadagno più significativo è nella velocità di inferenza. TAMO riduce il tempo di proposta di 50× fino a 1000× rispetto ai metodi basati su GP. Ciò è dovuto al fatto che TAMO evita il sovraccarico del rifitting del surrogato e dell'ottimizzazione dell'acquisizione, eseguendo solo una singola passata in avanti per proposta.
• Generalizzazione: Il modello dimostra una robusta generalizzazione a task fuori distribuzione (OOD), inclusi quelli con dimensioni di input/output inedite (ad esempio, addestramento su $d_x \in \{1,2\}$ e test su $d_x=4$) e impostazioni di osservazione disaccoppiata dove gli obiettivi sono misurati indipendentemente.

Significato e Affermazioni
Il documento afferma che TAMO stabilisce una strada verso ottimizzatori di stile fondazionale, plug-and-play per la scoperta scientifica. Dimostrando che i transformer possono eseguire l'ottimizzazione multi-obiettivo interamente in contesto, il lavoro suggerisce che il campo può allontanarsi dall'ingegneria di surrogati specifici per task verso politiche universali addestrate su dati diversificati. Gli autori posizionano TAMO come un motore universale capace di gestire dataset legacy eterogenei e di accelerare laboratori in ciclo chiuso, campagne ad alto rendimento e flussi di lavoro sensibili al tempo, dove i costi di valutazione sono bassi o la parallelizzazione è elevata. Il lavoro rimane modesto riguardo alle limitazioni, notando che le prestazioni dipendono dalla composizione del corpus di pre-addestramento sintetico e che l'inferenza corrente presuppone un pool discreto di candidati, il che potrebbe limitare l'applicazione in spazi di design generativi continui o combinatori senza un'ulteriore adattamento architetturale.