Riepilogo Tecnico: Instradamento Continuo dei Modelli in Hub di Modelli in Evoluzione

1. Definizione del Problema

La rapida espansione degli hub di modelli AI (ad es. Hugging Face) ha spostato la sfida centrale dalla costruzione di modelli alla selezione del modello pre-addestrato appropriato per una specifica query. Sebbene le architetture Mixture-of-Experts (MoE) e le pipeline di orchestrazione abbiano dimostrato il valore dell'instradamento, gli approcci esistenti affrontano due limitazioni fondamentali quando applicati a hub reali in evoluzione:

1. Scalabilità: L'instradamento deve scalare a migliaia di esperti candidati, rendendo non fattibile la valutazione esaustiva post-inferenza o la classificazione ingenua.
2. Non Stazionarietà: Gli hub di modelli sono dinamici; nuovi esperti vengono aggiunti, quelli esistenti vengono aggiornati e altri diventano obsoleti. I metodi di recupero statici (ad es. classificazione basata sulla similarità delle schede del modello) sono fragili in spazi ampi e in evoluzione, e il recupero potenziato per l'addestramento standard (RAT) non garantisce prestazioni di instradamento stabili man mano che lo spazio target si sposta.

Gli autori formalizzano questo scenario come Instradamento Continuo dei Modelli (CMR), trattando la selezione del modello pre-inferenza come un compito di classificazione continuo in cui lo spazio delle etichette (l'insieme dei modelli disponibili) cresce nel tempo. L'obiettivo è progettare un instradatore in grado di adattarsi incrementalmente ai nuovi modelli mantenendo la competenza su quelli precedentemente osservati, senza riaddestramento da zero.

2. Metodologia: CARvE

Per affrontare il CMR, gli autori propongono CARvE (Instradatore Ancorato Continuo con Embedding Contrastivi). A differenza delle baseline che si basano sulle schede dei modelli (descrizioni in linguaggio naturale) o eseguono i modelli candidati, CARvE instrada basandosi sulla similarità degli embedding tra una query utente e un registro appreso di embedding dei modelli.

Componenti Principali

• Instradatore Basato su Embedding: L'instradatore utilizza un modello linguistico di base congelato (ad es. LLaMA2-7B) con adattatori LoRA addestrati a ogni esperienza. Proietta le query tokenizzate in uno spazio di embedding a dimensione fissa ($\mathbb{R}^d$) e le confronta con un registro di embedding dei modelli appresi utilizzando la similarità del coseno scalata con temperatura.
• Ancoraggio Asimmetrico: Per mitigare l'oblio catastrofico, CARvE impiega un meccanismo di ancoraggio basato sui checkpoint. All'inizio di ogni esperienza $t$, viene scattata una fotografia dei parametri dell'instradatore (testa di proiezione e embedding dei modelli) da $t-1$. Durante l'addestramento su $E_t$, la funzione di perdita penalizza la deriva per gli embedding degli ID dei modelli già visti, mentre gli embedding per i modelli nuovamente introdotti rimangono non ancorati e liberi di adattarsi. Ciò preserva la stabilità geometrica del registro esistente.
• Addestramento su Insieme di Candidati: Per evitare il costo computazionale di un softmax completo su migliaia di modelli, l'addestramento viene eseguito su insiemi di candidati di dimensione fissa ($K$). Questi insiemi includono il modello ground-truth, negativi difficili (estratti dal pool corrente), negativi semantici (stesso dominio) e negativi lontani (domini diversi).
• Replay Strutturato: Il metodo utilizza un buffer di replay di coreset dominio–modello. Invece del campionamento casuale, alloca quote di replay per dominio e utilizza il campionamento del punto più lontano (FPS) all'interno dei domini per selezionare esempi diversificati, garantendo la copertura della distribuzione a coda lunga dei modelli.

3. Benchmark: CMRBench

Gli autori introducono CMRBench, il primo benchmark specificamente progettato per l'instradamento continuo dei modelli.

• Struttura: Simula l'espansione realistica degli hub attraverso quattro esperienze sequenziali, integrando APIBench, ToolMMBench e un nuovo dataset, HuggingBench.
• Scala: Il benchmark copre oltre 2.000 modelli candidati in diversi domini.
• Metriche: Oltre alle standard accuratezza per ID del Modello e per Dominio, gli autori introducono l'Accuratezza della Famiglia di Modelli. Questa metrica a granularità intermedia raggruppa varianti funzionalmente simili (ad es. diversi livelli di quantizzazione della stessa architettura) per catturare meglio la qualità dell'instradamento semantico senza essere eccessivamente rigida sugli identificatori esatti del modello.

4. Risultati Sperimentali

Esperimenti estesi confrontano CARvE con baseline robuste, tra cui fine-tuning zero-shot, metodi basati solo sul recupero (BM25, BGE-M3), fusione di modelli (TIES, DARE) e varie strategie di apprendimento continuo (EWC, LwF, replay casuale).

• Prestazioni: CARvE supera significativamente tutte le baseline. Con un budget di replay del 10%, CARvE raggiunge un'Accuratezza di Dominio dell'80,7% con un Oblio del solo 5,9%, rispetto al 75,9% di accuratezza e al 13,1% di oblio del replay casuale standard. Al 20% di replay, raggiunge l'82,9% di accuratezza con il 3,0% di oblio.
• Confronto con i Limiti Superiori: CARvE riduce il divario rispetto all'addestramento congiunto (addestramento su tutti i dati simultaneamente) e, in alcune metriche a livello di dominio, lo supera operando sotto il vincolo continuo più rigoroso.
• Studi di Ablazione:
  • Ancoraggio: Disabilitare l'ancoraggio della proiezione causa un calo significativo dell'accuratezza e un picco nell'oblio, confermando il suo ruolo critico nel stabilizzare lo spazio degli embedding.
  • Strategia di Replay: Il replay del coreset stratificato per dominio supera il replay casuale, in particolare a budget di replay più bassi (5-10%).
  • Inizializzazione: L'inizializzazione casuale degli embedding dei modelli supera il riavvio caldo dagli embedding delle schede dei modelli, poiché il testo della scheda codifica la similarità linguistica piuttosto che la discriminabilità per l'instradamento.
• Efficienza: CARvE riduce i costi computazionali (TFLOPs e ore GPU) di circa il 45–60% rispetto al riaddestramento cumulativo o da zero, rendendolo praticabile per il deployment su larga scala.

5. Significato e Affermazioni

Il lavoro si afferma come il primo a dimostrare empiricamente il ruolo centrale dell'apprendimento continuo nell'instradamento dei modelli attraverso benchmark e analisi su larga scala. I suoi contributi principali sono:

1. Formalizzazione: Definire il CMR come un problema di apprendimento incrementale per classi in cui l'instradatore deve scalare a migliaia di esperti e adattarsi a pool non stazionari.
2. Benchmarking: Fornire CMRBench come punto di riferimento riproducibile per la comunità, superando i pool di candidati statici.
3. Metodologia: Dimostrare che CARvE, attraverso embedding contrastivi, replay strutturato e ancoraggio asimmetrico, abilita la selezione di esperti scalabile e robusta.

Gli autori sottolineano che il loro approccio affronta un collo di bottiglia pratico dei sistemi: selezionare un modello specialista prima dell'inferenza per ridurre latenza e costi. Osservano che, sebbene CARvE riduca la dipendenza dall'archiviazione di storie utente grezze, non elimina i rischi per la privacy, e un instradamento migliore potrebbe involontariamente amplificare i pregiudizi se non accompagnato da politiche di sicurezza. Il lavoro suggerisce che il futuro della selezione dei modelli non risiede in modelli monolitici, ma in ecosistemi di modelli in evoluzione e interazione gestiti da sistemi di apprendimento continuo.