Bootstrapping Code Translation with Weighted Multilanguage Exploration

1. Il Problema

La traduzione del codice tra diversi linguaggi di programmazione è fondamentale per la modernizzazione dei sistemi legacy e l'interoperabilità cross-platform. Tuttavia, l'addestramento di modelli di linguaggio (LLM) per questo compito incontra due ostacoli principali:

1. Scarsità di dati paralleli verificabili: Esiste una carenza di dataset paralleli di alta qualità (codice sorgente e target allineati) dotati di test oracle eseguibili. Spesso, i test unitari sono disponibili solo in un linguaggio "pivot" (es. Python), rendendo difficile l'addestramento supervisionato per le direzioni di traduzione inverse o incrociate (es. Java $\to$ C++).
2. Squilibrio nell'ottimizzazione (Optimization Imbalance): Quando si addestra un modello su più direzioni di traduzione simultaneamente, le difficoltà variano notevolmente a causa delle differenze sintattiche e semantiche tra i linguaggi. I modelli tendono a convergere rapidamente sulle direzioni più facili (dove i reward sono più facili da ottenere), trascurando quelle più difficili, portando a una competenza multilingue subottimale.

2. Metodologia: BootTrans

Gli autori propongono BootTrans, un metodo di bootstrapping che utilizza l'apprendimento per rinforzo (RL) per superare la dipendenza dai dati paralleli. La metodologia si basa su due pilastri principali:

A. Esplorazione Multilingue Bootstrapped (Dual-Pool Architecture)

Il metodo sfrutta l'invarianza funzionale e la portabilità dei test suite. Invece di affidarsi a un corpus parallelo statico, il sistema costruisce dinamicamente il proprio dataset di addestramento:

• Pool di Semi (Seed Pool): Contiene un dataset iniziale in un linguaggio pivot ricco di risorse (es. Python) con codice sorgente e suite di test corrispondenti.
• Pool di Esplorazione (Exploration Pool): Durante l'addestramento, il modello genera traduzioni per tutti i linguaggi target. Le traduzioni che passano con successo i test (verificate tramite esecuzione) vengono aggiunte a questo pool.
• Ciclo di Apprendimento: Il modello utilizza le traduzioni verificate dal Pool di Esplorazione come nuovi dati di input per le iterazioni successive. Questo permette di generare dati di addestramento per direzioni che non esistevano nel dataset originale (es. imparare a tradurre da Java a Python partendo da dati Python $\to$ Java).
• Reward: Il reward è binario e basato sull'esecuzione: 1 se il codice tradotto compila e passa tutti i test, 0 altrimenti.

B. Ottimizzazione Ponderata Consapevole del Linguaggio (Language-aware Weighting)

Per risolvere lo squilibrio nell'ottimizzazione, viene introdotto un meccanismo di pesatura dinamica:

• Concetto: Se il modello performa bene su alcuni linguaggi "fratelli" (sibling) per lo stesso codice sorgente ma fallisce su un altro, il peso dell'errore su quel linguaggio difficile viene aumentato.
• Calcolo del Peso ($w_{i,k}$): Per un codice sorgente $x_i$ e un linguaggio target $L_k$, il peso è calcolato come il rapporto tra il reward cumulativo degli altri linguaggi target ($R_{i, \neg k}$) e il reward totale.
  $$w_{i,k} = \frac{R_{i, \neg k}}{R_{i,k} + R_{i, \neg k}}$$
• Effetto: Questo meccanismo forza il modello a concentrarsi sulle direzioni di traduzione più difficili dove la comprensione semantica è già presente (dimostrata dai linguaggi fratelli) ma la traduzione sintattica fallisce, bilanciando l'apprendimento.
• Algoritmo: L'ottimizzazione avviene tramite GRPO (Group Relative Policy Optimization), una variante di PPO che non richiede un modello di valore separato.

3. Contributi Chiave

1. Corpus Multilingue Verificabile: Sfruttare un linguaggio pivot ricco per generare un corpus di addestramento verificabile per tutte le direzioni, eliminando la necessità di dati paralleli umani.
2. Meccanismo di Ponderazione Dinamica: Un approccio innovativo per mitigare lo squilibrio di ottimizzazione nelle traduzioni multilingue, adattando dinamicamente la priorità di apprendimento in base alle prestazioni relative.
3. Risultati Sperimentali: Dimostrazione che un modello piccolo (es. Qwen3-1.7B) addestrato con BootTrans può superare modelli molto più grandi (fino a 70B parametri) e metodi di fine-tuning supervisionato esistenti.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti sui benchmark HumanEval-X e TransCoder-Test su tre linguaggi: Python (P), Java (J) e C++ (C).

• Performance Generali: BootTrans ha superato i modelli base (LLM non addestrati) e i metodi di baseline (inclusi CoTran, PPOCoder, MultiPL-T) in tutte le direzioni di traduzione.
  • Su HumanEval-X, BootTrans ha migliorato le prestazioni del modello base Qwen3-1.7B fino al 26.82% in media.
  • Su TransCoder-Test, il miglioramento è stato del 7.46%.
• Confronto con Modelli Grandi: Un modello da 1.7B parametri addestrato con BootTrans ha raggiunto prestazioni paragonabili o superiori a modelli da 32B e 70B parametri su diverse direzioni.
• Ablation Study:
  • Rimuovere il Pool di Esplorazione ha causato un calo medio del 4%, confermando l'importanza dell'espansione dei dati.
  • Rimuovere la Ponderazione ha causato un calo del 2.5%, evidenziando la necessità di bilanciare le direzioni difficili (es. P $\to$ C).
• Robustezza: Il metodo ha funzionato bene anche con pivot diversi (Java, C++) e ha mostrato capacità di generalizzazione su linguaggi non visti in addestramento (Go, Dlang, Racket) e su compiti di livello classe (ClassEval-T).

5. Significato e Impatto

Il lavoro di BootTrans rappresenta un passo significativo nell'evoluzione della traduzione del codice guidata dall'IA:

• Superamento della Scarsità di Dati: Dimostra che non è necessario un corpus parallelo massiccio per addestrare traduttori multilingue; è sufficiente un linguaggio pivot con test unitari robusti.
• Efficienza Computazionale: Permette a modelli più piccoli di competere con modelli di grandi dimensioni, rendendo la traduzione del codice accessibile e scalabile.
• Paradigma RLVR (Reinforcement Learning from Verifiable Rewards): Conferma l'efficacia dell'uso dei test eseguibili come reward function per l'ottimizzazione semantica, spostando il focus dalla semplice similarità sintattica alla correttezza funzionale.
• Flessibilità: Il metodo è compatibile con strategie di inferenza (come la raffinamento iterativo) e può essere esteso ad altri linguaggi e domini.

In sintesi, BootTrans risolve il collo di bottiglia dei dati e l'instabilità dell'ottimizzazione multilingue, offrendo un framework robusto per la modernizzazione del software e l'interoperabilità cross-linguistica.