Riepilogo Tecnico: MO-CAPO: Ottimizzazione del Prompt Consapevole dei Costi Multi-Obiettivo

1. Enunciato del Problema

I Modelli Linguistici di Grandi Dimensioni (LLM) dimostrano prestazioni elevate in compiti diversificati, ma rimangono altamente sensibili alla progettazione del prompt, rendendo necessaria un'ottimizzazione automatica dei prompt. Sebbene i metodi esistenti si concentrino principalmente sulla massimizzazione delle prestazioni, spesso ignorano obiettivi concorrenti come il costo di inferenza e la latenza. Inoltre, il processo di ottimizzazione stesso è costoso, richiedendo numerose chiamate agli LLM.

Gli approcci attuali affrontano due limitazioni principali:

1. Focus su un Singolo Obiettivo: La maggior parte degli ottimizzatori (ad esempio, CAPO, GEPA) ottimizza per le prestazioni da sole o utilizza la scalarizzazione con un peso di compromesso fisso e predefinito per penalizzare la lunghezza del prompt. Questo approccio non riesce a catturare l'intero spettro dei compromessi prestazioni-costi e richiede agli utenti di regolare manualmente i pesi, un compito non banale.
2. Metodi Multi-Obiettivo inefficienti: Gli ottimizzatori di prompt multi-obiettivo esistenti si basano tipicamente su algoritmi pronti all'uso come NSGA-II. Questi metodi spesso mancano di efficienza nei costi nelle loro procedure di ottimizzazione, valutando i candidati su interi dataset senza meccanismi per scartare soluzioni poco promettenti in anticipo. Inoltre, utilizzano spesso la lunghezza del prompt come proxy per il costo, ignorando i profili computazionali distinti dei token di input rispetto a quelli di output negli LLM moderni (dove la generazione di output è significativamente più costosa).

Il problema fondamentale consiste nello sviluppare un algoritmo di ottimizzazione del prompt che ottimizzi congiuntamente prestazioni e costo di inferenza, scopra un insieme diversificato di soluzioni Pareto-ottimali (il fronte di Pareto) e lo faccia in modo efficiente sotto un budget di valutazione limitato.

2. Metodologia: MO-CAPO

Gli autori propongono MO-CAPO (Ottimizzazione del Prompt Consapevole dei Costi Multi-Obiettivo), un algoritmo che estende la strategia evolutiva di CAPO per gestire esplicitamente più obiettivi integrando meccanismi di allocazione del budget.

2.1 Obiettivo di Costo

MO-CAPO introduce un obiettivo di costo orientato al deployment che tiene conto del profilo computazionale completo dell'inferenza LLM. A differenza dei metodi precedenti che penalizzano solo la lunghezza del prompt, MO-CAPO definisce il costo come una somma pesata dei token di input e di output:
$$c_\Phi(p, x) = w_{in} \cdot tok_{in}(p; x) + w_{out} \cdot tok_{out}(p; x)$$
Dove $w_{in}$ e $w_{out}$ sono pesi specifici del modello derivati dai prezzi delle API o dalle metriche di latenza. Questa formulazione riflette la realtà secondo cui i token di output sono tipicamente più costosi a causa della decodifica autoregressiva sequenziale.

2.2 Framework Algoritmico

MO-CAPO opera come un algoritmo genetico con una popolazione di prompt composta da istruzioni ed esempi few-shot. Integra concetti derivati da NSGA-II e dal metodo di configurazione automatica degli algoritmi multi-obiettivo MO-SMAC.

• Insieme Incumbent e Popolazione: L'algoritmo mantiene una popolazione ($P_\mu$) e un insieme dedicato di incumbent ($P_{inc}$) che rappresenta l'approssimazione corrente del fronte di Pareto.
• Selezione dei Genitori: A differenza della selezione casuale di CAPO, MO-CAPO utilizza una selezione a torneo binario adattata per livelli di valutazione eterogenei. Favorisce gli incumbent (soluzioni sul fronte di Pareto) e utilizza la distanza di affollamento (CD) per mantenere la diversità. Per i non-incumbent con diversi livelli di valutazione, applica un criterio di dominanza più debole per garantire un confronto equo.
• Intensificazione (Allocazione del Budget): Questo è il meccanismo centrale di efficienza. Invece di valutare ogni candidato sull'intero set di sviluppo, i challenger vengono valutati progressivamente su blocchi di dati.
  • Un challenger viene confrontato con l'incumbent più vicino nello spazio degli obiettivi.
  • Se il challenger è dominato dall'incumbent sul sottoinsieme di dati valutato finora, la sua valutazione viene interrotta anticipatamente ("rifiutata"), risparmiando budget.
  • Se sopravvive, viene valutato su ulteriori blocchi fino a quando non domina un incumbent o completa la valutazione su tutti i blocchi condivisi.
  • I challenger sopravvissuti vengono aggiunti alla popolazione e potenzialmente all'insieme degli incumbent.
• Selezione Ambientale: Per mantenere la dimensione della popolazione, i candidati dominati vengono rimossi. Se i candidati hanno livelli di valutazione eterogenei, quelli con meno valutazioni vengono scartati per primi per prevenire bias.

3. Contributi Chiave

Il documento delinea quattro contributi principali:

1. Algoritmo MO-CAPO: Un nuovo algoritmo di ottimizzazione del prompt multi-obiettivo che scopre approssimazioni complete del fronte di Pareto bilanciando prestazioni e costo di inferenza, mantenendo al contempo l'efficienza dei costi attraverso un meccanismo di intensificazione.
2. Obiettivo di Costo Realistico: Una nuova funzione obiettivo che pesa separatamente i token di input e di output, fornendo una misura realistica dei costi di deployment per gli LLM moderni, superando i semplici proxy basati sulla lunghezza del prompt.
3. Protocollo di Valutazione Rigoroso: La prima valutazione su larga scala dell'ottimizzazione del prompt multi-obiettivo che considera generalizzazione e robustezza utilizzando:
   • R2 Rumoso (nR2): Misura la robustezza della selezione simulando la selezione delle preferenze utente sul set di sviluppo e valutando sul set di test.
   • Gap di Approssimazione: Quantifica la differenza tra fronti di Pareto ottimistici (non dominati sul set di test) e pessimistici (non dominati sul set di sviluppo).
   • Superfici di Raggiungimento Empiriche (EAS): Visualizza la stabilità delle prestazioni su più esecuzioni.
4. Benchmarking Completo: Un confronto rispetto a ottimizzatori single-obiettivo all'avanguardia (CAPO, GEPA, EvoPromptGA) e a una baseline basata su NSGA-II su tre LLM e quattro compiti, dimostrando superiorità nelle metriche multi-obiettivo e nell'efficienza.

4. Risultati Sperimentali

Gli autori hanno valutato MO-CAPO su tre LLM (GPT-OSS-120B, Qwen3-30B, Mistral-3.2-24B) e quattro compiti (AG News, GSM8K, Subj, MBPP) con un budget di token di 7,5 milioni.

• Prestazioni Multi-Obiettivo: MO-CAPO ha superato la baseline basata su NSGA-II in 8 casi su 12 combinazioni modello-dataset riguardo alla metrica R2 rumoroso. Ha identificato in modo coerente approssimazioni del fronte di Pareto forti, robuste e diversificate.
• Efficienza: MO-CAPO ha dimostrato un'efficienza significativamente superiore. Ha trovato insiemi di soluzioni competitivi a budget molto più bassi (spesso richiedendo meno di 1/3 del budget per raggiungere l'80% delle prestazioni finali) rispetto a NSGA-II-PO. Il meccanismo di intensificazione ha permesso a MO-CAPO di valutare fino a 5,7 volte più candidati rispetto alla baseline.
• Diversità delle Soluzioni: Gli insiemi di soluzioni scoperti hanno coperto compromessi prestazioni-costi diversificati, inclusi soluzioni a basso costo omesse dagli ottimizzatori single-obiettivo e soluzioni ad alte prestazioni. I prompt variavano nel dettaglio delle istruzioni, nel numero di esempi few-shot e nei rapporti tra token di input e output.
• Competitività con Metodi Single-Obiettivo: Nonostante l'ottimizzazione per il costo, i candidati con le migliori prestazioni trovati da MO-CAPO sono rimasti competitivi rispetto agli ottimizzatori single-obiettivo all'avanguardia. In termini di classifiche di accuratezza, MO-CAPO è stato statisticamente indistinguibile da CAPO e GEPA in molte configurazioni e ha superato significativamente EvoPrompt e le istruzioni iniziali.
• Studi di Ablazione:
  • Intensificazione: La rimozione di questo meccanismo (ripristinando NSGA-II-PO) ha portato a una convergenza più lenta e a un maggiore consumo di token.
  • Pesi del Costo: Il peso del token di input ($w_{in}$) è stato identificato come il driver dominante per il controllo del costo del prompt. La sua rimozione ha portato a un aumento drammatico dell'uso dei token di input e a una qualità di ottimizzazione degradata (nR2).

5. Significato e Affermazioni

Il documento afferma che MO-CAPO consente ai praticanti di selezionare da un insieme efficientemente scoperto di più prompt che offrono diversi compromessi tra prestazioni e costo, piuttosto che essere costretti a una singola soluzione o a una scalarizzazione regolata manualmente.

Le affermazioni chiave riguardanti il significato includono:

• Efficienza: L'integrazione dell'allocazione del budget multi-obiettivo (intensificazione) nell'ottimizzazione evolutiva dei prompt permette la scoperta di fronti di Pareto robusti sotto budget computazionali ristretti.
• Realismo: Modellando esplicitamente i costi dei token di input e di output, il metodo fornisce una rappresentazione più accurata dei costi reali di deployment rispetto ai proxy basati sulla lunghezza.
• Robustezza: L'uso dei gap di approssimazione e delle metriche R2 rumoroso fornisce una valutazione più realistica della qualità della soluzione, tenendo conto degli errori di generalizzazione e della variabilità stocastica spesso mascherati da metriche standard come l'Ipervolume.
• Utilità Pratica: Il metodo offre un insieme diversificato di alternative valide a basso costo ignorate dai metodi basati solo sulle prestazioni, affrontando la realtà pratica secondo cui i guadagni marginali di accuratezza spesso non giustificano aumenti sostanziali nei costi di inferenza.

Gli autori posizionano questo lavoro come la prima valutazione approfondita dell'ottimizzazione multi-obiettivo per l'apprendimento automatico che estende metodologie preliminari all'ottimizzazione dei prompt, sottolineando la necessità di metriche robuste e consapevoli della generalizzazione in questo dominio.