IQuest-Coder-V1 Technical Report

Il rapporto introduce la serie IQuest-Coder-V1, una nuova famiglia di modelli linguistici per il codice che, grazie a un paradigma di addestramento multi-fase basato sul flusso di codice e a percorsi specializzati di ragionamento e istruzione, raggiunge prestazioni all'avanguardia nell'ingegneria del software autonoma e nell'uso di strumenti complessi.

L'essenziale

Immagina di voler costruire un ingegnere software perfetto. Fino a poco tempo fa, i modelli di intelligenza artificiale erano come studenti brillanti che avevano letto tutti i libri di testo, ma che si bloccavano non appena dovevano risolvere un problema reale, complesso e in continua evoluzione.

Il team di IQuest ha creato una nuova famiglia di modelli (chiamata IQuest-Coder-V1) che non si limita a "leggere" il codice, ma impara a pensare come un vero programmatore.

Ecco come funziona, spiegato con delle metafore:

1. Non solo libri statici, ma un "Film" in movimento

La maggior parte dei modelli impara guardando foto statiche di codice (come se studiassimo un libro fermo). IQuest ha fatto qualcosa di diverso: ha insegnato al suo modello a guardare il film dello sviluppo software.

• L'analogia: Immagina di imparare a cucinare. Un modello normale guarda una foto del piatto finito. IQuest guarda l'intero processo: come l'ingrediente viene tagliato, come cambia mentre cuoce, come il chef corregge l'errore se brucia qualcosa.
• La tecnica: Hanno addestrato il modello guardando l'evoluzione dei progetti (i "commit" di codice), imparando non solo cosa scrivere, ma come il codice cambia nel tempo.

2. Il percorso di allenamento in tre atti

Per creare questo "super-programmatore", hanno usato un metodo di allenamento a tre fasi, come un atleta che si prepara per le Olimpiadi:

• Fase 1: La Scuola di Base (Pre-training)
  Il modello ha letto miliardi di righe di codice da tutto il mondo. È come se avesse frequentato una scuola dove ha imparato la grammatica di tutte le lingue di programmazione (Python, Java, ecc.) e la logica di base.
• Fase 2: L'Allenamento Tattico (Mid-training)
  Qui è dove avviene la magia. Invece di solo leggere, il modello ha iniziato a ragionare e a agire.
  • Gli hanno mostrato scenari complessi dove doveva pianificare passaggi lunghi (come costruire un intero edificio, non solo un mattone).
  • Gli hanno insegnato a gestire contesti enormi (fino a 128.000 parole di codice alla volta), come un architetto che riesce a tenere a mente l'intero progetto di una città senza confondersi.
  • Gli hanno fatto "giocare" a simulazioni dove sbagliava, vedeva l'errore, e imparava a correggersi da solo.
• Fase 3: La Specializzazione (Post-training)
  Alla fine, il modello si è specializzato in due direzioni diverse, come un medico che sceglie una branca:
  1. La via del "Pensatore" (Thinking Path): Per i problemi super-complessi. Questo modello si prende il tempo per "riflettere", fare ragionamenti interni, simulare errori e trovare la soluzione migliore prima di rispondere. È come un detective che indaga prima di accusare qualcuno.
  2. La via dell'"Assistente" (Instruct Path): Per aiutarti velocemente. Risponde subito alle tue richieste, scrive codice, spiega concetti e ti aiuta nella giornata quotidiana.

3. Il "Motore Loop": Efficienza e Potenza

Una delle innovazioni più interessanti è la versione chiamata Loop.

• L'analogia: Immagina di dover risolvere un puzzle difficile. Un modello normale guarda il puzzle una volta e prova a risolverlo. Il modello Loop guarda il puzzle, prova una soluzione, si guarda allo specchio, vede che non va bene, e ripassa il puzzle con una nuova prospettiva, tutto in un unico ciclo continuo.
• Questo permette al modello di essere molto intelligente senza bisogno di essere enorme e costoso da far girare, rendendolo perfetto anche per computer meno potenti.

4. I Risultati: Chi è il migliore?

Il rapporto mostra che questi modelli hanno battuto molti giganti del settore (come GPT-5.1, Claude, e altri) in compiti difficili:

• Risoluzione di bug: Sanno trovare e riparare errori in progetti enormi.
• Programmazione competitiva: Vincono gare di coding contro altri modelli.
• Uso degli strumenti: Sanno usare il terminale del computer, installare programmi e navigare nel web per completare compiti complessi da soli (come un vero assistente digitale).

In sintesi

IQuest-Coder-V1 è come aver creato un tirocinante di ingegneria software che ha fatto un tirocinio in milioni di aziende diverse, ha imparato dagli errori degli altri, sa ragionare da solo quando il compito è difficile e sa essere veloce quando serve aiuto immediato.

Il team ha deciso di condividere tutto il processo (dalla scuola di base alla specializzazione finale) con il mondo, permettendo a chiunque di studiare come si costruisce l'intelligenza artificiale "agente" del futuro, capace di lavorare con noi sui progetti reali.

Sommario tecnico

Riepilogo Tecnico: IQuest-Coder-V1

1. Il Problema

Nonostante i recenti progressi nei modelli linguistici (LLM) generici, esiste un divario significativo tra i modelli open-weight e i leader proprietari (come Claude 4.5 Sonnet o GPT-5.1) nel campo dell'intelligenza del codice. Le lacune principali riguardano:

• Ragionamento a lungo orizzonte: La difficoltà di pianificare e risolvere compiti complessi che richiedono passaggi multipli.
• Navigazione di codebase: L'incapacità di gestire efficacemente contesti estesi e file multipli all'interno di repository software reali.
• Rappresentazioni statiche: La maggior parte dei modelli attuali si basa su rappresentazioni statiche del codice, trascurando l'evoluzione dinamica e la logica temporale dello sviluppo software.

2. Metodologia: Il Paradigma "Code-Flow"

Il team IQuest ha sviluppato una famiglia di modelli (da 7B a 40B parametri) basata su un pipeline di addestramento evolutivo a quattro pilastri, denominato Code-Flow, che cattura l'evoluzione dinamica della logica software:

• Pre-training e Ricottura (Annealing) di Alta Qualità:

  • Fase 1: Pre-training su dati generali e codice grezzo.
  • Fase 2 (Ricottura): Addestramento mirato su corpus di codice di alta qualità curati.
  • Innovazione Chiave: Utilizzo di dati di transizione dei repository (flussi di commit) per creare triplette (Stato Vecchio, Patch, Stato Nuovo). Questo permette al modello di apprendere i pattern di evoluzione del software, non solo lo stato statico dei file.
  • Completamento del Codice: Utilizzo avanzato del formato Fill-In-the-Middle (FIM) sia a livello di file che di repository, sfruttando la struttura AST (Abstract Syntax Tree) per garantire integrità sintattica.

• Mid-Training in Due Fasi (Dual-Phase):

  • Fase 1 (32k contesto): Integrazione di dati di ragionamento, traiettorie agentiche e codice. Questo funge da "impalcatura logica" per stabilizzare le prestazioni.
  • Fase 2 (128k contesto): Estensione del contesto per gestire ragionamenti su scala di repository interi, combinando dati di ragionamento e azioni agentiche con feedback ambientale (log, errori, test).

• Post-Training Biforcato:
  Il modello finale viene specializzato in due percorsi distinti per soddisfare esigenze diverse:

  1. Percorso "Thinking" (Ragionamento): Utilizza Supervised Fine-Tuning (SFT) su dati con tracce di ragionamento esplicite, seguito da Reinforcement Learning (RL) ottimizzato per il ragionamento autonomo e il recupero dagli errori.
  2. Percorso "Instruct" (Istruzione): Ottimizzato per l'assistenza generale e il rispetto delle istruzioni, utilizzando SFT su dati di istruzione e RL per migliorare l'aderenza ai comandi.

• Architettura LoopCoder (Variante 40B-Loop):
  Per ottimizzare il compromesso tra capacità e footprint di deployment, è stata introdotta un'architettura ricorrente. I blocchi transformer condividono i parametri ed eseguiti in due iterazioni fisse:

  • Iterazione 1: Elaborazione con stati nascosti spostati.
  • Iterazione 2: Calcolo di un'attenzione globale (query della iterazione 2 che guardano tutte le chiavi/valori della iterazione 1) e locale.
  • Un meccanismo di gating appreso combina queste due attenzioni, permettendo un calcolo iterativo su segmenti di codice complessi senza aumentare esponenzialmente i costi di inferenza.

3. Contributi Chiave

• Pipeline Code-Flow: Un approccio innovativo che tratta il codice come un processo dinamico (flussi di commit) piuttosto che come file statici, migliorando la capacità di pianificazione dei task.
• Scoperte Empiriche:
  1. I dati di transizione dei repository sono superiori ai file statici per la pianificazione dei task.
  2. L'iniezione di traiettorie agentiche e di ragionamento (32k) prima del post-training è cruciale per la stabilità sotto shift di distribuzione.
  3. Il percorso "Thinking" con RL genera capacità emergenti di recupero autonomo dagli errori in compiti a lungo orizzonte, assenti nei modelli standard SFT.
• Open-Source Completo: Rilascio di tutta la catena evolutiva (dalle basi pre-training ai modelli finali), fornendo una risorsa "white-box" per la ricerca sull'intelligenza agentiche.
• Architettura Loop: Una soluzione scalabile per l'efficienza computazionale nei contesti reali.

4. Risultati

IQuest-Coder-V1 ha raggiunto prestazioni State-of-the-Art (SOTA) o competitive con i migliori modelli proprietari su una vasta gamma di benchmark:

• Ingegneria del Software Agentiche:
  • SWE-bench Verified: 77.2% (Top 1), superando modelli come GPT-5.1 (76.3%) e Claude Sonnet 4.5 (76.2%).
  • Terminal-Bench: 62.5%, superando GPT-5.1 (55.1%) e Claude Sonnet 4.5 (58.6%).
• Programmazione Competitiva e Generazione di Codice:
  • LiveCodeBench v6: 87.0% (con il modello Loop-Thinking), il punteggio più alto tra i modelli testati.
  • BigCodeBench: 49.9% (Instruct), in testa rispetto a Kimi-K2 e Qwen3-Coder.
• Ragionamento e Strumenti:
  • Bird-SQL: 69.9%, dimostrando forte capacità di generazione SQL contestuale.
  • BFCL (Tool Use): 73.8%, indicando eccellenti capacità di utilizzo degli strumenti.
• Efficienza: Il modello Loop-Thinking mantiene prestazioni elevate con un footprint ottimizzato, rendendolo adatto per deployment in ambienti con risorse limitate.

5. Significato

Il rilascio di IQuest-Coder-V1 segna un passo avanti significativo verso l'intelligenza del codice autonoma.

• Superamento del divario Open/Closed: Dimostra che modelli open-weight, se addestrati con pipeline evolutivi sofisticati e dati di alta qualità (flussi di repository), possono competere con i giganti proprietari.
• Fondamenta per Agenti Reali: La capacità di ragionamento a lungo termine e il recupero autonomo dagli errori (grazie al percorso "Thinking" e RL) sono prerequisiti essenziali per agenti software in grado di gestire compiti reali di ingegneria del software, non solo snippet di codice.
• Trasparenza Scientifica: La disponibilità completa dei checkpoint e della pipeline di addestramento permette alla comunità di studiare come emergono le capacità agentiche, accelerando lo sviluppo di sistemi software autonomi affidabili.

In sintesi, IQuest-Coder-V1 rappresenta una nuova generazione di modelli di codice che combinano architettura innovativa (Loop), dati evolutivi (Code-Flow) e ottimizzazione RL per colmare il divario tra l'assistenza alla codifica e l'ingegneria del software autonoma.