⚛️ quantum physics

AG-CoT: Verified Algorithmic Traces for LLM Program Synthesis on Clifford Circuits

Questo articolo dimostra che l'addestramento di modelli linguistici su tracce di catena di pensiero verificate di Aaronson-Gottesman, combinato con un addestramento di continuazione filtrato da un verificatore, migliora significativamente l'accuratezza nella sintesi di circuiti di Clifford corretti per la correzione degli errori quantistici rispetto ai baseline basati solo su circuiti.

Autori originali: Lu Wei, Yufeng Wang, Chenfeng Cao, Lu Pang, Haibin Ling

Pubblicato 2026-09-29

📖 4 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Lu Wei, Yufeng Wang, Chenfeng Cao, Lu Pang, Haibin Ling

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Nel campo emergente dell'informatica quantistica, gli scienziati stanno imparando a costruire macchine che operano secondo le strane regole del mondo subatomico. Per far funzionare queste macchine, i ricercatori devono scrivere software — chiamati circuiti quantistici — che manipolano minuscole unità di informazione per raggiungere un risultato specifico e desiderato. Pensate a un circuito quantistico come a un insieme di istruzioni che guida una particella da un punto di partenza a una destinazione precisa. La sfida è che queste istruzioni sono incredibilmente fragili; un singolo passo errato può inviare la particella nel posto sbagliato, rendendo l'intero calcolo inutile. Per anni, gli informatici hanno cercato di insegnare all'intelligenza artificiale come scrivere questi circuiti automaticamente, sperando che le macchine potessero imparare a progettare la complessa logica richiesta per gli esperimenti quantistici. Tuttavia, un ostacolo principale è rimasto: un'IA può spesso produrre codice che appare perfettamente corretto in superficie, segue tutte le regole grammaticali del linguaggio di programmazione e persino viene eseguito senza crashare, eppure fallisce comunque nel preparare lo stato quantistico esatto necessario. Il codice è valido, ma il risultato è errato.

Un nuovo studio affronta questo problema specifico concentrandosi su un tipo particolare di circuito quantistico noto come circuito di Clifford. Questi circuiti sono speciali perché sono abbastanza potenti da essere utili per la correzione degli errori e altre attività critiche, pur possedendo una proprietà matematica unica che permette loro di essere controllati con perfetta precisione su un computer standard. A differenza della maggior parte delle simulazioni quantistiche, che richiedono il monitoraggio di un numero impossibile di possibilità, questi circuiti possono essere verificati esattamente e rapidamente. I ricercatori hanno utilizzato questo vantaggio per creare un sistema di addestramento per i modelli linguistici di grandi dimensioni. Invece di chiedere semplicemente all'IA di indovinare il codice finale, gli hanno insegnato a mostrare il proprio lavoro. Il sistema richiedeva all'IA di generare una traccia logica passo dopo passo — una catena di ragionamento che spiega come trasformare lo stato iniziale nello stato target — prima di poter scrivere il programma finale. Questa traccia veniva poi controllata da un verificatore rigoroso, un arbitro digitale che confermava se la logica fosse solida e se il circuito risultante preparasse effettivamente lo stato quantistico corretto. Solo gli esempi in cui l'IA otteneva la logica corretta e il risultato finale corretto venivano conservati per istruire ulteriormente il modello.

I risultati di questo approccio sono stati sorprendenti. Quando i ricercatori hanno testato l'IA su migliaia di diversi obiettivi quantistici, i modelli che avevano appreso con le tracce passo dopo passo verificate hanno ottenuto prestazioni drammaticamente migliori rispetto a quelli addestrati solo sul codice finale. Per uno dei modelli testati, il numero di soluzioni corrette è passato da un mero manipolo a oltre duecento su un set di problemi identico. In un'altra famiglia di modelli, il tasso di successo è aumentato da meno del due percento a quasi il nove percento. Lo studio ha dimostato che mostrare semplicemente all'IA la risposta finale non era sufficiente; l'IA doveva comprendere i passaggi intermedi della trasformazione per riuscirci. Inoltre, i ricercatori hanno scoperto che anche quando l'IA produceva codice grammaticalmente perfetto e fisicamente valido, spesso preparava comunque lo stato quantistico errato. Questo divario tra un programma valido e un risultato corretto è un'intuizione critica, che prova come controllare la sintassi del codice sia insufficiente per i compiti quantistici. I modelli di maggior successo furono quelli che appresero dalle tracce verificate e furono poi ulteriormente perfezionati dall'essere addestrati solo sui propri tentativi riusciti, creando un ciclo di miglioramento guidato dalla verifica esatta.

I ricercatori hanno anche esplorato se questo metodo potesse scalare su modelli di IA molto più grandi e potenti. Hanno scoperto che, sebbene questi modelli più grandi potessero scrivere quasi perfettamente codice che seguiva le regole e rimaneva all'interno della famiglia valida dei circuiti quantistici, faticavano comunque a colpire lo stato target esatto senza la specifica guida dell'addestramento basato sulla traccia. Anche con i modelli più avanzati, il tasso di successo nella preparazione dello stato esatto rimaneva relativamente basso, oscillando intorno al sei percento per i singoli tentativi. Tuttavia, quando i ricercatori hanno permesso al modello di generare molti candidati diversi per ogni problema e hanno usato il verificatore per scegliere il migliore, la copertura delle soluzioni corrette è migliorata significativamente. Ciò suggerisce che, mentre l'IA sta diventando più bra nella meccanica della scrittura di codice quantistico, la vera difficoltà risiede nella profonda comprensione semantica necessaria per garantire che il codice faccia esattamente ciò che è inteso. Lo studio conclude che, affinché l'IA possa diventare un partner affidabile nella progettazione di esperimenti quantistici, deve essere addestrata non solo a produrre codice, ma a produrre codice che sia stato rigorosamente verificato nella sua esecuzione, colmando il divario tra un programma che gira e un programma che funziona.

Riepilogo Tecnico: AG-COT: Tracce Algoritmiche Verificate per la Sintesi di Programmi da parte di LLM su Circuiti di Clifford

1. Definizione del Problema

Il documento affronta una lacuna critica nella generazione di codice scientifico: la capacità dei Large Language Models (LLM) di produrre programmi sintatticamente validi ed eseguibili che, tuttavia, falliscono nel computare l'oggetto scientifico inteso. Mentre i benchmark basati sull'esecuzione hanno spostato la valutazione verso la correttezza comportamentale, la sintesi di programmi quantistici presenta una sfida unica in cui un circuito può essere analizzato (parsing), eseguito e rimanere fisicamente valido (ad esempio, Clifford-valido), pur preparando lo stato quantistico errato.

Gli autori si concentrano sui circuiti di Clifford, che sono costruiti a partire da gate Hadamard, phase e CNOT. Questi circuiti sono significativi perché:

Preparano stati stabilizzatori, essenziali per la correzione degli errori quantistici e la computazione basata su misurazione.
Ammettono una verifica classica esatta tramite l'algoritmo di Aaronson–Gottesman, permettendo una simulazione efficiente senza tracciare $2^n$ ampiezze.
Fungono da setting controllato per testare se la supervisione del processo di derivazione (tracce algoritmiche) e l'addestamento su output verificati migliorino la correttezza semantica oltre la semplice generazione di codice.

Benchmark precedenti, come QCircuitBench, hanno mostrato che anche i modelli allo stato dell'arte (inclusi GPT-4o) ottengono una fedeltà prossima allo zero nei compiti di preparazione di stati di Clifford utilizzando il prompting standard, evidenziando la difficoltà del compito.

2. Metodologia

Il framework proposto, AG-COT, integra la verifica esatta nel ciclo di addestamento attraverso due meccanismi primari: la Supervisione della Traccia Algoritmica e la Continuazione Filtrata dal Verificatore.

2.1 Rappresentazione del Target e Verifica

Invece di utilizzare interi vettori di stato (che sono esponenzialmente grandi), i target sono rappresentati come generatori di stabilizzatori con segno compatto. Ciò riduce significativamente la lunghezza del prompt (ad esempio, da circa 16K caratteri per un vettore di stato a 12 qubit a circa 800 caratteri per il tableau).

Il Verificatore: Una catena decisionale ordinata controlla:
1. Validità Sintattica ( $P(y)$ ): L'output è interpretabile come OpenQASM?
2. Validità di Clifford ( $K(y)$ ): Il circuito analizzato può essere convertito in un oggetto Qiskit Clifford?
3. Corrispondenza Esatta:
  - Corrispondenza Rigida delle Etichette (Strict Label Match): Controlla se le etichette degli stabilizzatori generati corrispondono esattamente alle etichette target.
  - Equivalenza di Stato ($StateEq$): Controlla se lo stato generato è equivalente allo stato target, ignorando le differenze di base dei generatori.

2.2 Pipeline di Addestramento

Il processo di addestramento prevede due fasi distinte:

Supervisione AG-CoT (Traccia Algoritmica):
- Invece di addestrare solo sul circuito OpenQASM finale, il modello è supervisionato con tracce di chain-of-thought (CoT) di tipo Aaronson–Gottesman (AG).
- Queste tracce consistono in passi deterministici di riduzione del tableau che, quando invertiti, producono il corretto circuito di preparazione.
- I dati di addestramento accoppiano il prompt target con un blocco <think> contenente la traccia di riduzione, seguito dal programma OpenQASM finale.
- Costruzione: Per lo studio sui 32B, le tracce sono derivate da circuiti di riferimento. Per gli studi sui 3B/7B, le tracce sono costruite direttamente dai generatori di stabilizzatori con segno completando il tableau, applicando la riduzione, invertendo i passi e compilando nel set di gate consentito.
- Solo le coppie in cui il verificatore accetta il circuito finale vengono incluse nel set di addestramento.
Continuazione Filtrata dal Verificatore (Rejection Sampling Fine-Tuning - RFT):
- Dopo l'addestramento AG-CoT iniziale, il modello genera i propri output.
- Il verificatore filtra queste generazioni, trattenendo solo quelle che superano il controllo di equivalenza esatta dello stato.
- Il modello subisce un ulteriore fine-tuning supervisionato su questo set di proprie generazioni di successo.

2.3 Setup Sperimentale

Modelli: Gli esperimenti sono stati condotti su Qwen2.5-3B-Instruct, Mistral-7B-Instruct-v0.3 e Qwen2.5-Coder-32B-Instruct.
Baseline: Confrontati contro Direct SFT (supervisione del solo circuito) e baseline Zero-shot.
Metriche: Valutati su validità sintattica, validità di Clifford, corrispondenza rigorosa delle etichette, equivalenza di stato e Pass@N (copertura di ricerca).

3. Contributi Chiave

Supervisione della Traccia Algoritmica: Il documento dimostra che supervisionare i modelli con tracce AG-CoT verificate dal verificatore migliora significativamente la correttezza semantica. Questo approccio accoppia il circuito emesso con i passi di riduzione specifici che lo hanno prodotto, insegnando al modello la procedura di sintesi piuttosto che solo il formato dell'output.
Continuazione Filtrata dal Verificatore: Gli autori mostrano che continuare l'addestramento sulle proprie uscite accettate dal verificatore fornisce un guadagno costante, sebbene minore, rispetto alla baseline di supervisione della traccia.
Rappresentazione Compatta del Target: Il lavoro stabilisce una pipeline in cui i target sono specificati tramite generatori di stabilizzatori con segno, consentendo la verifica esatta e riducendo l'overhead del prompt pur mantenendo la piena precisione semantica.
Valutazione Completa: Lo studio separa la validità sintattica, la validità di Clifford e l'equivalenza di stato per dimostrare che il codice quantistico valido spesso non prepara lo stato corretto, confermando la necessità di una verifica esatta.

4. Risultati

4.1 Confronti Controllati (Modelli 3B e 7B)

Su un set di 3.661 target tenuti in riserva:

Qwen2.5-3B:
- Il Direct SFT ha ottenuto uno 0,90% di successo nel compito (33/3.661).
- L'AG-CoT SFT ha aumentato il successo al 5,49% (201/3.661), un incremento di 4,59 punti percentuali.
- Le versioni con Verifier-filtered RFT hanno raggiunto il 5,74%–5,87% (210–215 successi).
Mistral-7B:
- Il Direct SFT ha ottenuto l'1,94% (71/3.661).
- L'AG-CoT SFT ha aumentato il successo all'8,63% (316/3.661), un incremento di 6,69 punti percentuali.
- L'RFT ha raggiunto l'8,80% (322/3.661).
Significatività Statistica: I test di McNemar hanno confermato che i guadagni dell'AG-CoT rispetto al Direct SFT sono altamente significativi dal punto di vista statistico ( $p < 10^{-48}$ per Qwen, $p < 10^{-72}$ per Mistral). I guadagni dell'RFT sono stati minori e meno uniformemente significativi.

4.2 Studio sui 32B

Sintassi e Validità: I modelli supervisionati hanno raggiunto una validità sintattica e di Clifford quasi perfetta (~99,9%), mentre i modelli Zero-shot faticavano (<40%).
Equivalenza di Stato: Nonostante l'alta validità, il modello più forte (RFT-v1) ha ottenuto solo il 6,14% di equivalenza di stato.
Copertura di Ricerca: Utilizzando la selezione guidata dal verificatore con 64 candidati per target (Best-of-64), la copertura per il Basic AG-CoT è salita al 10,07% sotto l'equivalenza di stato, dimostrando che la ricerca può recuperare più circuiti corretti rispetto alla generazione di un singolo output.
Analisi degli Errori: I modelli addestrati con la traccia hanno prodotto errori con minori "deficit di vincoli" (meno vincoli indipendenti del target mancanti) rispetto ai modelli basati solo sul circuito, suggerendo che mantengono più informazioni del target anche quando falliscono.

5. Significato e Rivendicazioni

Il documento sostiene che la supervisione della traccia algoritmica e la continuazione filtrata dal verificatore sono strategie efficaci e complementari per migliorare la correttezza semantica degli LLM nella sintesi di codice scientifico.

Necessità di Verifica Esatta: Il persistente divario tra validità di Clifford (sintassi/fisica) ed equivalenza di stato (correttezza semantica) conferma che la validità sintattica è insufficiente. Un circuito può essere fisicamente valido ma preparare lo stato errato; pertanto, la verifica esatta è necessaria per i segnali di addestramento.
Valore della Derivazione: Supervisionare la derivazione (la traccia AG-CoT) insieme all'output finale produce guadagni sostanziali rispetto alla supervisione del solo output. Ciò suggerisce che gli LLM beneficiano dell'apprendimento dei passi intermedi di ragionamento dell'algoritmo di sintesi.
Scalabilità: I metodi mostrano miglioramenti coerenti attraverso diverse famiglie di modelli (3B, 7B, 32B), sebbene i tassi di successo assoluti rimangano modesti (a singola cifra), indicando che, sebbene l'approccio sia efficace, il compito della sintesi di circuiti quantistici rimane una sfida per gli attuali LLM.

Gli autori concludono che questi risultati supportano l'uso della supervisione algoritmica e dei dati filtrati dal verificatore come percorso verso una generazione di codice scientifico più affidabile, in particolare in domini in cui la verifica esatta è computazionalmente fattibile.