Riepilogo Tecnico: Apprendimento dell'Esecuzione Parallela Adattiva per una Localizzazione del Codice Efficiente

Problema

La localizzazione del codice — l'identificazione di entità di codice specifiche (file, funzioni, snippet) necessarie per risolvere un problema software — è un collo di bottiglia critico nelle pipeline di sviluppo software automatizzate. Studi recenti indicano che gli agenti allo stato dell'arte dedicano oltre il 50% delle loro risorse computazionali a questo compito. Gli approcci attuali si affidano tipicamente all'esecuzione sequenziale degli strumenti, dove gli agenti raffinano iterativamente le query e ispezionano i risultati turno per turno.

Questo paradigma sequenziale affronta un compromesso fondamentale sotto budget computazionali ristretti (turni di interazione limitati):

1. Inedia Informativa (Information Starvation): Gli agenti esauriscono la loro quota di interazione prima di aver raccolto prove contestuali sufficienti, portando a un drastico degrado dell'accuratezza.
2. Parallelismo Inefficiente: Sebbene l'esecuzione parallela degli strumenti (invocare più strumenti in un singolo turno) offra una soluzione per aumentare la densità informativa, le implementazioni naive spesso impongono una larghezza di parallelismo fissa. Ciò risulta in un'alta ridondanza; il paper nota che il 34,9% delle chiamate agli strumenti in parallelo forzate nei sistemi esistenti è ridondante, non fornendo alcun guadagno incrementale di informazioni e sprecando risorse e introducendo rumore.

La sfida centrale è ottenere una parallelizzazione esaustiva ma non ridondante: massimizzare la copertura informativa per evitare l'inedia, eliminando al contempo l'esplorazione di codice precedentemente esaminato o irrilevante.

Metodologia: FuseSearch

Gli autori propongono FuseSearch, un agente di localizzazione del codice minimalista che riformula la localizzazione parallela del codice come un compito di ottimizzazione congiunta qualità–efficienza.

1. Set di Strumenti Minimalista

FuseSearch opera senza infrastrutture ausiliarie (ad es., grafi di codice, AST o parser specifici per il linguaggio). Si affida a tre strumenti di sola lettura, indipendenti dal linguaggio:

• grep: Ricerca per pattern basata su regex nel contenuto dei file.
• glob: Corrispondenza di pattern di percorso dei file.
• read_file: Lettura dei contenuti dei file con specifica opzionale dell'intervallo di righe.

2. Formulazione a Doppio Obiettivo

Il framework ottimizza due metriche complementari:

• Qualità della Localizzazione ($F1$): Misurata tramite precisione, recall e punteggi F1 sia a livello di file che di funzione.
• Efficienza dello Strumento ($e$): Definita come il rapporto tra il guadagno di informazioni uniche e il numero totale di invocazioni.
  • Per ogni chiamata allo strumento $i$, il guadagno di informazioni $g_i$ è calcolato confrontando le entità restituite con la cronologia cumulativa delle entità scoperte ($H$).
  • $g_i = \frac{|E_i \setminus H|}{|E_i|}$ se $|E_i| > 0$, altrimenti $0$.
  • L'efficienza $e$ è la media del guadagno di informazioni su tutti i $k$ richiami di strumenti in una traiettoria: $e = \frac{1}{k} \sum g_i$.

3. Pipeline di Addestramento per l'Ottimizzazione Congiunta

FuseSearch impiega un approccio di addestramento in due fasi per apprendere strategie parallele adattive:

• Fase 1: Supervised Fine-Tuning (SFT) con Filtraggio a Doppio Metrica

  • Un modello insegnante capace (Kimi-K2-Instruct) sintetizza le traiettorie di addestramento.
  • Per garantire un'inizializzazione di alta qualità, le traiettorie vengono filtrate per trattenere solo quelle che soddisfano sia $F1 \geq \rho_F$ che $e \geq \rho_e$.
  • Ciò produce un dataset di circa 6K traiettorie di alta qualità utilizzate per il fine-tuning di modelli base (Qwen3-4B e Qwen3-30B), stabilendo una base per un'esecuzione parallela affidabile (2–8 strumenti per turno).

• Fase 2: Reinforcement Learning (RL) con Reward Congiunta

  • Utilizzando la Group Relative Policy Optimization (GRPO), il modello viene ulteriormente ottimizzato per massimizzare sia $F1$ che $e$.
  • La funzione di reward è progettata come:
    $$R(\tau) = \alpha \cdot F1(\tau) + \gamma \cdot (F1(\tau) \cdot e(\tau))$$
  • Razionale del Design: Il termine lineare ($\alpha \cdot F1$) garantisce un reward di base per la localizzazione corretta. Il termine moltiplicativo ($\gamma \cdot F1 \cdot e$) agisce come un "gate morbido", amplificando i reward solo quando viene raggiunta un'alta qualità con un'alta efficienza. Ciò impedisce al modello di ottimizzare l'efficienza a scapito dell'accuratezza (ad es., leggere file irrilevanti ma nuovi) o l'accuratezza a scapio di una massiccia ridondanza.

4. Parallelismo Adattivo

A differenza degli approcci a larghezza fissa, FuseSearch impara a modulare dinamicamente la larghezza della ricerca in base al contesto del task, evolvendo da una fase di esplorazione (parallelismo ampio per raccogliere contesto) a una fase di raffinamento (chiamate mirate e focalizzate), bilanciando efficacemente la larghezza dell'esplorazione con la precisione.

Contributi Chiave

1. Metrica di Efficienza dello Strumento: L'introduzione della "efficienza dello strumento" per quantificare la novità informativa nella ricerca del codice, integrata in un framework di addestramento consapevole dell'efficienza (SFT + RL) per ottimizzare congiuntamente l'efficacia della ricerca e l'efficienza computazionale.
2. Agente FuseSearch: Un agente di localizzazione minimalista che utilizza solo tre strumenti di sola lettura, capace di eguagliare o superare le prestazioni di sistemi complessi che si affidano alla navigazione di grafi o al parsing AST.
3. Miglioramento della Qualità Guidato dall'Efficienza: Dimostrazione che l'addestramento consapevole dell'efficienza migliora naturalmente la qualità della localizzazione eliminando segnali rumorosi e ridondanti, consentendo ad agenti compatti (4 miliardi di parametri) di superare agenti più grandi, sequenziali o dotati di pesanti infrastrutture.

Risultati Sperimentali

Valutato su SWE-bench Verified (386 esempi), FuseSearch-4B (addestrato) dimostra prestazioni superiori rispetto sia ai baseline sequenziali che ad altri metodi basati su agenti:

• Qualità della Localizzazione:
  • Ha raggiunto l'84,7% di F1 a livello di file e il 56,4% di F1 a livello di funzione.
  • Supera significativamente il miglior baseline sequenziale (RepoSearcher) (ad es., +46,5% di F1 sui file).
  • Eguaglia le prestazioni di modelli proprietari (Claude Haiku 4.5) pur utilizzando modelli open-source (Qwen3-4B).
• Guadagni di Efficienza:
  • 93,6% di velocità in più (speedup) nel tempo di esecuzione (wall-clock time) rispetto all'esecuzione sequenziale.
  • 67,7% di riduzione nei turni di interazione.
  • 68,9% di riduzione nel consumo di token.
• Impatto a Valle: Utilizzato come modulo di pre-ricerca per un agente principale (Kimi-K2), FuseSearch ha ridotto i turni di interazione del 23,1% e il tempo totale del task del 28,5% senza sacrificare i tassi di risoluzione.

Significato e Rivendicazioni

Il paper sostiene che l'addestramento consapevole dell'efficienza è un passo cruciale verso lo sviluppo software automatizzato di grado produttivo. Riformulando l'esecuzione parallela non solo come una tattica di riduzione della latenza ma come un problema di ottimizzazione congiunta, FuseSearch dimostra che:

• L'esplorazione ridondante è una causa primaria sia dell'alto costo che del degrado dell'accuratezza.
• Imparare a distinguere tra informazioni "nuove" e "ridondanti" permette a modelli compatti (4 miliardi di parametri) di superare agenti più grandi, sequenziali o carichi di infrastrutture.
• Il parallelismo adattivo, che evolve da un'esplorazione ampia a un raffinamento focalizzato, è la chiave per superare l'inedia informativa sotto budget computazionali ristretti.

Gli autori concludono che il loro approccio consente la creazione di agenti che non sono solo accurati, ma anche computazionalmente pratici, affrontando il "compromesso costo-accuratezza" che attualmente limita la deployabilità della localizzazione automatizzata in contesti temporali critici.