💬 NLP

Function-Aware Fill-in-the-Middle as Mid-Training for Coding Agent Foundation Models

Questo articolo introduce il pre-addestramento function-aware fill-in-the-middle (FIM), un approccio auto-supervisionato che sfrutta la somiglianza strutturale tra i cicli degli agenti di codifica e le chiamate di funzione per aumentare significativamente le prestazioni degli agenti di codifica su benchmark come SWE-Bench, preservando simultaneamente le capacità generali di codifica e di uso di strumenti che spesso vengono degradate dal post-addestramento standard.

Autori originali: Yubo Wang, Jiarong Liang, Yuxuan Zhang, Xuye Liu, Cong Wei, Yuyu Zhang, Ping Nie, Wenhu Chen

Pubblicato 2026-07-15

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Yubo Wang, Jiarong Liang, Yuxuan Zhang, Xuye Liu, Cong Wei, Yuyu Zhang, Ping Nie, Wenhu Chen

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di insegnare a un robot come correggere i bug in una gigantesca e disordinata biblioteca di codice. Di solito, insegniamo a questi robot facendo leggere loro i libri dall'inizio alla fine, da sinistra a destra. Ma c'è un problema: quando un robot va effettivamente a correggere un bug, non si limita a leggere in avanti. Compie un passo, guarda cosa è successo (magari uno strumento ha restituito un errore) e poi decide cosa fare dopo. È un ciclo: Azione → Osservazione → Passo Successivo.
L'azione del robot è come una funzione che chiama un'altra funzione.
L'osservazione del robot è come quella funzione che restituisce un valore.
Il passo successivo del robot è come il resto del codice che utilizza quel valore.
La grande idea? Invece di far leggere semplicemente il codice in avanti, gli autori hanno insegnato ai loro modelli robot a giocare a un gioco di "riempimento degli spazi vuoti" con queste chiamate di funzione. Lo chiamano Function-Aware Fill-in-the-Middle (FIM) Mid-Training.

Il Gioco: "Indovina il Pezzo Mancante"

Immagina di avere una storia in cui un personaggio (il "chiamante") chiede a un amico (il "chiamato") di svolgere un compito, ma il lavoro effettivo dell'amico è nascosto. Il robot deve indovinare cosa ha fatto l'amico e spiegare perché lo ha fatto, basandosi solo sul contesto precedente e successivo.
Per rendere efficace questo gioco, gli autori non hanno scelto casualmente le parole da nascondere. Hanno usato una mappa speciale del codice (un "Program Dependency Graph") per trovare gli enigmi perfetti. Cercavano funzioni che fossero:

Abbastanza complesse da rappresentare una buona sfida (non troppo facili, non impossibili).
Abbastanza prevedibili affinché il robot potesse effettivamente capirle partendo dagli indizi circostanti.

Hanno anche fatto scrivere al robot una "nota di ragionamento" (una Chain-of-Thought) prima di scrivere il codice mancante, costringendolo a pensare prima di agire, proprio come farebbe un programmatore umano.

I Risultati: Funziona?

Gli autori hanno testato questo metodo su tre diversi cervelli robotici (modelli): due della famiglia Qwen2.5-Coder (7 miliardi e 14 miliardi di parametri) e uno della più recente famiglia Qwen3 (8 miliardi di parametri). Hanno addestrato questi robot su un enorme dataset di 2,6 miliardi di token (parole e simboli) tratti da 968 repository Python reali.

Ecco cosa hanno scoperto:

Migliore nel correggere i bug: Quando testati su un celebre benchmark chiamato SWE-Bench-Verified (che simula problemi software del mondo reale), i robot sono migliorati significativamente.
- Il modello da 7B è migliorato del +2,8%.
- Il modello da 14B è migliorato del +3,0%.
- Il modello da 8B è migliorato del +3,2%.
Ancora migliore nei compiti più semplici: Su una versione più leggera del test (SWE-Bench-Lite), i guadagni sono stati ancora più alti, con il modello da 8B che è balzato del +5,4%.
Funziona ovunque: Questi miglioramenti si sono verificati anche quando i robot venivano addestrati usando metodi diversi successivamente. Ciò suggerisce che l'addestramento "fill-in-the-middle" ha fornito loro una solida base che è rimasta costante, indipendentemente da quanto venissero rifiniti in seguito.

La Sorpresa: Non ha distrutto altre abilità

Di solito, quando si addestra un robot per essere un super-specialista (come un agente per la correzione dei bug), esso dimentica come fare altre cose, come scrivere codice semplice o usare strumenti. Gli autori temevano che questo sarebbe accaduto.
Ma il "mid-training" ha effettivamente salvato le altre abilità dei robot!

Senza questo addestramento extra, i robot diventavano meno bravi a scrivere codice autonomamente (scendendo nei benchmark come LiveCodeBench).
Con l'addestramento FIM, non solo sono rimasti uguali, ma sono diventati più bravi (+11,1% su LiveCodeBench).
Nonostante i dati di addestramento fossero solo codice Python, i robot sono diventati più bravi a usare strumenti in contesti completamente diversi (come τ-bench e BFCL), suggerendo che hanno appreso una capacità generale di "pensare a causa ed effetto" che si è trasferita ad altri compiti.

Ciò che hanno esplicitamente escluso

Gli autori sono stati cauti nel precisare cosa questo metodo non sia:

Non è solo copiare un insegnante intelligente: Hanno testato se il robot stesse solo memorizzando le risposte di un'IA potente (Gemini-3-Flash) che ha aiutato a generare i dati di addestramento. Hanno scoperto che anche quando il robot generava le proprie note di ragionamento, migliorava comunque. Quindi, la magia non è solo "copiare l'insegnante"; è la struttura stessa del gioco.
Non è una bacchetta magica per tutto: Il metodo funziona meglio quando il codice è modulare (diviso in funzioni ordinate). Se il codice è un enorme script disordinato dove tutto è mescolato, il metodo non funziona altrettanto bene perché non riesce a trovare enigmi chiari basati sulle "chiamate di funzione".
Non è ancora provato per tutti i linguaggi: I dati di addestramento erano solo Python. Sebbene i robot siano diventati più bravi in altri compiti, gli autori ammettono di non aver ancora dimostrato che questo funzioni per Java, C++ o Rust.

Quanto sono sicuri?

Gli autori sono piuttosto fiduciosi nei loro numeri perché hanno eseguito i test tre volte con diversi seed casuali per assicurarsi che i risultati non fossero frutto del caso. Hanno misurato i miglioramenti con precisione (ad esempio, +2,8%, +3,0%) e hanno dimostrato che i robot risolvevano costantemente più problemi e commettevano meno errori quando si trovavano in difficoltà.

Suggeriscono che questo stadio di "mid-training" sia l'anello mancante fondamentale. È come dare al robot un tipo specifico di allenamento in palestra prima di mandarlo nel mondo reale, assicurandosi che abbia i muscoli giusti per gestire il complesso ciclo di "agire, osservare e continuare" senza perdere le sue altre capacità.

Riepilogo Tecnico: Function-Aware Fill-in-the-Middle come Mid-Training per Modelli di Fondazione per Agenti di Coding

Problematica

Gli agenti di coding progettati per risolvere problemi reali di ingegneria del software si affidano a una specifica struttura di condizionamento: mantenere una cronologia ( $h_t$ ), campionare un'azione ( $a_t$ ), ricevere un'osservazione esterna ( $o_{t+1}$ ) e continuare il ragionamento basandosi sull'intera traccia. Sebbene il pre-addestramento standard del codice (next-token prediction da sinistra a destra) esponga i modelli al codice, raramente ottimizza questo specifico ciclo "azione $\to$ osservazione $\to$ continuazione". Di conseguenza, esiste un divario tra il pre-addestramento del modello base e le richieste delle pipeline di post-training agentiche (es. SWE-Gym, R2E-Gym).

Inoltre, l'obiettivo standard di Fill-in-the-Middle (FIM) utilizzato nel pre-addestramento del codice è disallineato con il ragionamento agentico per tre ragioni:

Confini Arbitrari: Il masking di span casuali spesso interrompe le espressioni, fallendo nel catturare le dipendenze a livello di funzione.
Mancanza di Ragionamento: Il FIM standard richiede la generazione diretta senza passaggi di ragionamento intermedi (Chain-of-Thought), diversamente dal pattern "pensa-e-agisci" degli agenti.
Segnale Amortizzato: Quando il FIM viene dissolto in un massiccio pre-addestramento, il prior strutturale viene diluito in trilioni di token non correlati prima che inizi il post-training agentico.

Metodologia

Gli autori propongono il Function-Aware FIM Mid-Training, uno stadio di auto-apprendimento supervisionato dedicato, inserito tra il pre-addestramento e il post-training agentico. Questo approccio sfrutta l'isomorfismo strutturale tra lo step di un agente di coding e un sito di chiamata di funzione in un codice ordinario:

Contesto/Cronologia: Il codice pre-chiamata che stabilisce l'intento.
Azione/Chiamata: La chiamata alla funzione stessa.
Osservazione/Ritorno: Il valore calcolato dalla funzione chiamata (fuori dallo scope immediato).
Continuazione: Il codice a valle che consuma il valore di ritorno.

Componenti Core

Selezione del Target Consapevole della Funzione (Function-Aware Target Selection):
Invece di span casuali, il metodo seleziona i target di masking alla granularità della funzione utilizzando l'analisi dei Program Dependency Graph (PDG).
- Punteggio di Complessità ( $\hat{H}$ ): Misura la difficoltà intrinseca basata su Linee di Codice (LoC), Complessità Ciclotomica di McCabe e profondità di annidamento.
- Punteggio di Inferibilità ( $\hat{I}$ ): Misura quanto una funzione sia recuperabile dal suo contesto, aggregando segnali da argomenti del chiamante, dipendenze della funzione chiamata, firme dei tipi, docstring e classi fratelli.
- Criterio di Selezione: I target sono selezionati tramite una combinazione simile alla media armonica di $\hat{H}$ e $\hat{I}$ , penalizzando i target che sono o troppo banali o non apprendibili anche con il contesto completo.
Augmentation Chain-of-Thought (CoT):
Per i target selezionati, il modello è addestrato a generare una razionale passo dopo passo prima del corpo della funzione.
- Generazione: Un modello di frontiera (Gemini-3-Flash) genera la razionale e un corpo candidato basandosi solo sul contesto del file mascherato (senza accesso alla verità di base/ground truth).
- Filtraggio: Un modello giudice filtra le coppie in base alla fattibilità e alla qualità.
- Formato di Addestramento: Il prompt di addestramento segue <fim_prefix> ... <fim_suffix> ... <fim_middle> <rationale> <body>. Questo forza il modello a imparare la struttura "pensa-e-agisci".
Curatela dei Dati:
Il corpus consiste in 968 repository Python decontaminati da GitHub (2.6B di token). I repository che si sovrappongono alle fonti di SWE-Bench sono rimossi, e i commit sono limitati a date precedenti ai commit base di SWE-Bench per prevenire la fuga di dati (leakage) al tempo di test.

Contributi Chiave

Analogia Strutturale: Inquadrare i siti di chiamata di funzione come l'analogo su scala internet del ciclo azione–osservazione–continuazione dell'agente, motivando il FIM a granularità di funzione come un prior auto-supervisionato.
Design della Pipeline: Una pipeline di mid-training che combina la selezione basata su PDG, un doppio criterio complessità–inferibilità e razionali CoT incorporati.
Validazione della Robustezza: Dimostrare guadagni consistenti attraverso diverse dimensioni di modello (Qwen2.5-Coder 7B/14B, Qwen3-8B), diversi pipeline di post-training (R2E-Gym, SWE-Smith, SWE-Lego) e diverse famiglie di modelli base.
Trasferimento Cross-Domain: Mostrare che un mid-training basato solo su Python migliora le prestazioni sui benchmark di tool-use non-coding ( $\tau$ -bench, BFCL) e preserva le capacità di coding generali (LiveCodeBench) che tipicamente si erodono durante il post-training agentico.
Rilascio Open: Rilascio del corpus decontaminato di 968 repository, della pipeline di selezione e dei checkpoint mid-trained.

Risultati Sperimentali

Performance Agente In-Domain

Il metodo è stato valutato su SWE-Bench-Verified e SWE-Bench-Lite.

Qwen2.5-Coder-7B: Guadagno del +2.8% su Verified, +3.7% su Lite (rispetto al solo post-training).
Qwen2.5-Coder-14B: Guadagno del +3.0% su Verified, +4.0% su Lite.
Qwen3-8B: Guadagno del +3.2% su Verified, +5.4% su Lite.
Indipendenza dalla Pipeline: I guadagni sono stati osservati in tutte le pipeline R2E-Gym, SWE-Smith e SWE-Lego, indicando che il prior non è specifico per una singola distribuzione di dati.

Preservazione delle Capacità e Trasferimento Cross-Domain

È stato scoperto che il solo post-training agentico degrada significativamente le capacità non target (es. LiveCodeBench è sceso di 13.1 punti per il modello 14B).

Restaurazione: L'aggiunta del mid-training prima del post-training ha ripristinato la performance di LiveCodeBench di +11.1 punti, chiudendo quasi il gap con il ceiling dell'instruction-tuning.
Tool Use: Nonostante il corpus contenga solo codice Python e nessuna traiettoria di tool-use, il mid-training ha migliorato le performance su $\tau$ -bench (+3.9) e BFCL (+2.4). Ciò serve come prova che il bias induttivo della chiamata di funzione si trasferisce al ragionamento di tool-use generale.

Analisi Comportamentale

L'analisi delle traiettorie degli agenti ha rivelato:

Recupero dagli Errori: L'agente mid-trained è recuperato da osservazioni negative (es. stack trace) con un tasso del 28.8% rispetto al 24.8% del baseline.
Iterate-and-Verify: Il modello ha adottato una policy di più edizioni e traiettorie più lunghe (23.6 step vs 15.1), riducendo i fallimenti di tipo "no-patch" di un ordine di grandezza.
Granularità: I guadagni sono stati più pronunciati su task che richiedono il ragionamento su dipendenze cross-funzione all'interno di un singolo file (+9.1 punti sui task multi-funzione), confermando l'ipotesi dell'isomorfismo strutturale.

Significato e Rivendicazioni

Il paper sostiene che il codice sorgente contenga un "approvvigionamento su scala internet di segnale rilevante per gli agenti" sotto forma di siti di chiamata di funzione. Addestrando esplicitamente i modelli a ragionare bidirezionalmente su queste dipendenze tramite FIM consapevole della funzione, il metodo installa un prior strutturale che:

Migliora la Performance dell'Agente: Aumenta direttamente i tassi di successo sugli benchmark di ingegneria del software.
Mitiga l'Oblio Catastrofico: Previene l'erosione delle capacità generali di coding e tool-use spesso causata dal post-training agentico specializzato.
Generalizza: I benefici si trasferiscono tra diverse famiglie di modelli e a task di ragionamento di tool-use non legati al coding, suggerendo che il bias induttivo appreso è fondamentale per il loop di ragionamento dell'agente piuttosto che specifico alla generazione di codice Python.

Gli autori notano alcune limitazioni, tra cui la dipendenza da un corpus esclusivamente Python, la dipendenza da un insegnante di frontiera (Gemini-3-Flash) per la generazione di CoT (sebbene il self-CoT recuperi la maggior parte dei guadagni) e l'assunzione di strutture di codice modulari.