🤖 AI

Assuming You Knew: Fixing an Epistemic Semantics for Flow Policies Using Agentic AI

Questo articolo presenta una correzione verificata da macchina di un framework del 2018 per la semantica epistemica delle policy di flusso di informazioni, ottenuta con l'assistenza di un assistente alla programmazione IA agente, per fornire una base robusta e generale per specificare ed applicare requisiti di sicurezza espressivi.

Autori originali: David A. Naumann

Pubblicato 2026-08-04

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: David A. Naumann

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

I Custodi dei Segreti e il Sussurro Digitale

Immaginate un mondo in cui ogni programma per computer è una città frenetica, e l'informazione è la valuta che scorre nelle sue strade. In questa città, alcuni segreti sono così preziosi — come una chiave maestra o una password — che non devono mai lasciare una specifica cassaforte. Questo è il regno della sicurezza del flusso di informazioni, un ramo dell'informatica dedicato a garantire che i dati sensibili non vengano accidentalmente (o maliziosamente) fuoriusciti verso occhi sbagliati. Ma la vita non è sempre in bianco o nero. A volte, un segreto deve essere condiviso, ma solo sotto condizioni molto specifiche. Magari una banca vuole dire a un cliente che il suo conto è al sicuro, ma solo dopo che questi ha risposto correttamente a una domanda di sicurezza. Questo delicato equilibrio è chiamato declassificazione (downgrading): prendere un segreto di alto livello e abbassare con cura il suo livello di protezione in modo che possa essere visto, ma solo quando le regole lo permettono.

Per dare un senso a queste regole complesse, gli scienziati usano un ramo della logica chiamato logica epistemica. Pensate a questo come alla "logica della conoscenza". Invece di chiedere solo "Cosa è successo?", chiede "Cosa sa l'osservatore?". Se un hacker sta osservando la città, cosa può dedurre sui segreti nella cassaforte basandosi sul traffico che vede? La sfida è sempre stata quella di scrivere un manuale di regole perfetto che dica esattamente quando un segreto può essere condiviso senza creare un buco nella sicurezza. Per anni, i ricercatori hanno cercato di costruire un quadro matematico per questo, ma le planimetrie continuavano a presentare crepe. Se la matematica è errata, la sicurezza è un'illusione.

Sistemare la Planimetria con un Assistente Robotico

Questo articolo racconta la storia di come un ricercatore, David Naumann, si sia unito a un assistente alla programmazione basato su intelligenza artificiale per sistemare una planimetria difettosa per queste regole di sicurezza. La planimetria originale, pubblicata nel l 2018, era un tentativo ingegnoso di definire esattamente quando un programma è autorizzato a "declassificare" un segreto. Utilizzava un concetto chiamato annotazioni relazionali, che sono come post-it applicati al codice dicendo: "È okay mostrare questo segreto se il lancio della moneta casuale è uscito testa". L'idea era che se due diverse esecuzioni del programma concordavano sul lancio della moneta, potevano concordare sulla visualizzazione del segreto.

Tuttavia, quando l'articolo originale fu presentato, l'autore si rese conto che c'era un difetto significativo nella sua dimostrazione. Era come costruire un ponte che sembrava robusto ma che crollava sotto un tipo specifico di vento. L'autore aveva abbozzato una correzione, ma i dettagli erano disordinati e non verificati. Questo articolo prende quello schizzo e lo trasforma in una struttura solida e incrollabile.

La scoperta principale qui è una dimostrazione verificata dalla macchina. L'autore non ha solo scritto la matematica su carta; l'ha inserita in un programma per computer chiamato Rocq (un assistente alla dimostrazione) che agisce come un tutor di matematica iper-attento. Questo tutor robotico ha controllato ogni singolo passaggio della logica per garantire che non ci fossero lacune nascoste. Il risultato è un framework corretto che dimostra: se un programma segue un set specifico di regole di "sicurezza" (che sono facili da controllare mentre il programma è in esecuzione), allora è matematicamente garantito essere sicuro secondo le complesse regole della "conoscenza".

L'articolo esclude esplicitamente l'idea che la dimostrazione originale del 2018 fosse corretta così come scritta. Mostra che la precedente definizione di "politica di rilascio" (il manuale delle regole per quando i segreti possono essere condivisi) era difettosa perché non teneva conto di tutti i modi in cui un programma poteva bloccarsi o divergere. L'autore sostiene che non si può semplicemente fidarsi dell'intuizione umana su questi complessi scenari multi-esecuzione; serve la macchina per verificare ogni possibilità.

Il Detective e l'Alibi

Per capire come funziona, immaginate un detective (il sistema di sicurezza) che cerca di capire se un sospetto (il programma) stia perdendo segreti. Il detective ha due strumenti: Sicurezza (Safety) e Sicurezza (Security).

Security è l'obiettivo ultimo: "Il sospetto non ha detto a nessuno nulla che non dovesse sapere". È difficile da dimostrare perché bisogna immaginare ogni possibile scenario in cui il sospetto potrebbe essersi trovato.
Safety è un controllo locale più semplice: "Il sospetto ha seguito le regole passo dopo passo mentre procedeva?".

La grande svolta del paper è dimostrare che Safety implica Security. Se il programma segue le regole di "Safety" (che sono come una lista di controllo di "alibi" per ogni passaggio), allora la complessa garanzia di "Security" si tiene automaticamente. È come dimostrare che se un conducente non passa mai con il rosso o non corre troppo (Safety), non causerà mai un tipo specifico di incidente (Security).

L'autore ha utilizzato un assistente alla programmazione agentico (specificamente uno strumento chiamato Claude Code) per aiutare a scrivere il codice per la dimostrazione in Rocq. Non si è trattato solo di un correttore ortografico; l'IA ha aiutato a tradurre gli schizzi matematici disordinati in codice rigoroso e ha persino trovato alcuni degli errori dell'autore stesso. Ad esempio, l'IA ha segnalato che una definizione per la "divergenza" (quando un programma si blocca in un ciclo infinito) era troppo stretta e doveva essere resa più permissiva per far funzionare la dimostrazione. L'IA ha anche tentato di "rendere le assunzioni più forti del necessario", ma l'autore umano l'ha intercettata e ha corretto la rotta.

Il Risultato: Un Manuale di Regole Verificato

L'articolo conclude che il framework corretto è solido. La dimostrazione verificata dalla macchina conferma che l'idea originale era sulla strada giusta, ma i dettagli necessitavano di una revisione importante. Il nuovo framework permette una "politica di rilascio" chiaramente definita e separata dal controllo di sicurezza stesso. Ciò significa che gli sviluppatori possono scrivere il loro codice con istruzioni "assume" (come "assume che l'utente sia loggato") e avere una garanzia matematica che queste assunzioni controllino correttamente ciò che i segreti rivelano.

L'autore è molto sicuro di questo risultato perché è stato verificato dalla macchina. Questa non è una simulazione o un suggerimento; è una dimostrazione formale che la logica regge sotto lo scrutinio di un computer. Ammette, tuttavia, che il codice è attualmente un po' disordinato e necessita di una pulizia umana per essere davvero leggibile, proprio come un brillante ma scarabocchiato tovagliolo che deve essere trascritto in un libro pulito.

In definitiva, questo articolo è una vittoria per la precisione. Dimostra che anche nel mondo astratto della sicurezza informatica, dove la logica può diventare incredibilmente intricata, possiamo usare sia l'intuizione umana che l'assistenza dell'IA per costruire una base matematicamente incrollabile. Trasforma uno schizzo traballante in una fortezza verificata, assicurando che quando decidiamo di condividere un segreto, lo facciamo esattamente quando intendiamo farlo, e non un momento prima.

Sintesi Tecnica: Presupponendo che lo sapessi: Correzione di una semantica epistemica per le politiche di flusso utilizzando l'IA Agente

1. Definizione del problema

I requisiti di sicurezza di alto livello riguardanti il flusso di informazioni, in particolare quelli che coinvolgono il declassamento selettivo (declassificazione), sono notoriamente difficili da formalizzare con precisione. Sebbene la logica epistemica sia emersa come un framework promettente per definire la riservatezza (ciò che un osservatore a un determinato livello di privilegio è autorizzato a conoscere), un framework robusto e generale per le politiche di flusso espressive è rimasto elusivo.

Un lavoro precedente, riferito come CN (Naumann et al., CSF 2018), ha tentato di fornire un framework unificante per i modelli di programmi reattivi. In CN, le politiche erano espresse tramite istruzioni assume all'interno del codice, mentre la politica di rilascio derivata era espressa esclusivamente in termini di stream di input. Tuttavia, la formalizzazione in CN conteneva un grave difetto nella sua dimostrazione, annunciato durante la presentazione alla conferenza. La definizione originale della politica di rilascio e la successiva dimostrazione che la sicurezza implica la protezione erano approssimative e errate. Inoltre, gli adattamenti esistenti verificati meccanicamente (ad esempio, Murray et al. per programmi C concorrenti) spesso si affidano a proprietà forti come l'esecuzione a tempo costante, il che banalizza le complessità dell'allineamento di molteplici esecuzioni richieste per il ragionamento epistemico.

La sfida centrale è fornire una formalizzazione corretta e verificata meccanicamente che:

Revisioni la semantica epistemica per gestire correttamente il declassamento dipendente dallo stato.
Definisca esplicitamente la semantica di una politica di rilascio derivata dalle annotazioni del codice.
Dimostri che una proprietà orientata al programma chiamata sicurezza (safety) implica la proprietà epistemica di protezione (security).

2. Metodologia

L'autore impiega un approccio di verifica formale utilizzando l'assistente di prova Rocq (precedentemente Coq). La metodologia prevede:

Modello di Programma: Un piccolo linguaggio imperativo reattivo con gestori di input per specifici livelli di sicurezza. I programmi consumano stream di input e producono output.
Annotazioni: Il framework utilizza asserzioni relazionali (assert) e ipotesi (assume) per specificare i requisiti di flusso di informazioni. Queste annotazioni permettono flussi condizionali che deviano dalla politica di non-interferenza di base.
Semantica Epistemica: La sicurezza è definita in termini di conoscenza di un osservatore. Un osservatore al livello $\ell$ conosce un insieme di possibili storie di input coerenti con le proprie osservazioni visibili (input e output ai livelli $\ell' \sqsubseteq \ell$ ).
Politica di Rilascio ( $RP_\ell$ ): Definita come l'insieme di liste di input che un osservatore è autorizzato a conoscere, derivata dalle istruzioni assume nel codice. Questa politica è interpretata tramite allineamenti tra una pre-esecuzione "maggiore" (esecuzione effettiva) e pre-esecuzioni "minori" (esecuzioni possibili con input differenti).
Condizione di Sicurezza (Safety): Una proprietà orientata al programma definita dall'assenza di "fallimenti" (fallimenti di asserzione, fallimenti di allineamento) o dalla presenza di specifici "fiat" (fiat di ipotesi, fiat di divergenza) quando si confronta una corsa maggiore contro tutte le possibili corse minori.
Assistenza di IA Agente: La formalizzazione è stata sviluppata con l'aiuto di Claude Code, un assistente di codifica IA agente. L'IA è stata guidata per tradurre le definizioni LaTeX in specifiche Rocq e per assistere nella costruzione delle prove, sebbene abbia richiesto una significativa cura umana per correggere errori logici, raffinare le definizioni e gestire la strategia di prova.

3. Contributi Chiave

A. Semantica Epistemica Corretta

Il documento presenta una revisione della formalizzazione della semantica epistemica per le politiche di flusso. Le principali revisioni tecniche includono:

Definizione della Politica di Rilascio: La definizione della politica di rilascio $RP_\ell(gs)$ è corretta per essere un predicato su pre-run (prefissi di esecuzione finiti) piuttosto che solo su tracce di eventi osservati. È definita tramite semi-conformità: una relazione tra una pre-esecuzione maggiore e pre-esecuzioni minori che le allinea in punti di annotazione specifici.
Sicurezza Indipendente dal Progresso: Il framework adotta una definizione di sicurezza indipendente dal progresso. Utilizza una nozione di conoscenza del progresso ( $k_\ell^\to$ ) per gestire la divergenza, garantendo che le garanzie di sicurezza si mantengano anche se il programma diverge, a patto che la divergenza stessa non riveli informazioni sugli input nascosti.
Programmi Ben Specificati: L'autore introduce "annotazioni boilerplate" (assunzioni all'inizio dei gestori e asserzioni prima degli output) per snellire la formalizzazione e garantire che le politiche di base siano codificate senza alterare il comportamento osservabile.

B. La Sicurezza (Safety) Implica la Protezione (Security)

Il risultato teorico centrale è il Teorema 2: Per tutti i livelli $\ell$ , qualsiasi pre-run che è sicuro (safe) per $\ell$ è protetto (secure) per $\ell$ .

La sicurezza (safety) è definita dall'assenza di fallimenti di asserzione/allineamento e dalla presenza di validi fiat (di ipotesi o di divergenza) per qualsiasi lista di input alternativa.
La dimostrazione mostra che, se un programma è sicuro, l'insieme di input che un osservatore apprende ( $k_\ell$ ) è un sottoinsieme degli input consentiti dalla politica di rilascio ( $RP_\ell$ ), intersecato con la conoscenza del progresso.
Questo risultato valida l'approccio di imporre la sicurezza tramite la verifica relazionale delle annotazioni del programma piuttosto che attraverso il monitoraggio complesso del runtime di tutte le possibili esecuzioni.

C. Verifica Verificata Meccanicamente

L'intero sviluppo, incluse le definizioni corrette e il teorema principale, è stato verificato meccanicamente in Rocq. Ciò conferma che le correzioni alla carta CN sono fondamentalmente solide, rivelando al contempo dettagli sottili nelle prove che erano stati trascurati nella versione originale scritta da umani.

D. Esperienza con l'IA Agente

Il documento documenta l'uso di un'IA agente (Claude Code) nel processo di formalizzazione. L'autore nota che, sebbene l'IA fosse capace di generare infrastrutture non banali e prove di routine, ha richiesto la supervisione umana per:

Correggere formalizzazioni errate di lemmi (ad esempio, il Lemma 3).
Identificare e correggere lacune logiche nella definizione di "fiat di divergenza".
Raffinare le definazioni di conoscenza ( $k_\ell$ ) per utilizzare i prefissi invece dell'uguaglianza, un cambiamento reso necessario dai controesempi trovati dall'IA.
Impedire all'IA di rafforzare eccessivamente le assunzioni o introdurre ipotesi di decidibilità non necessarie.

4. Risultati

Correttezza Formale: La prova verificata meccanicamente conferma che la condizione di sicurezza rivista implica correttamente la proprietà di protezione epistemica per il modello di programma reattivo.
Risoluzione dei Difetti di CN: I problemi specifici della prova CN del 2018 riguardanti l'allineamento delle corse e la definizione della politica di rilascio sono stati risolti.
Fattibilità della Formalizzazione Assistita da IA: Lo studio dimostra che l'IA agente può assistere efficacemente nella traduzione di specifiche matematiche complesse in prove verificate meccanicamente, a patto che l'esperto umano guidi attivamente lo strumento, ne corregga gli errori logici e gestisca l'architettura complessiva della prova.

5. Significato e Rivendicazioni

Il documento rivendica contributi modesti ma significativi:

Framework Unificante: Offre un framework corretto e generale per esprimere e verificare politiche di flusso espressive utilizzando la logica epistemica e le annotazioni relazionali.
Verifica Pratica: Dimostrando che la sicurezza (safety) (una proprietà suscettibile di monitoraggio runtime e prova induttiva) implica la protezione (security), questo lavoro colma il divario tra le specifiche di policy di alto livello e le proprietà di programma applicabili.
Affidabilità della Verifica Meccanica: Il lavoro sottolinea la necessità della verifica meccanica, anche per sviluppi teorici in contesti idealizzati, poiché essa espone errori sottili che la revisione umana potrebbe ignorare.
IA nei Metodi Formali: Fornisce un caso di studio concreto sull'uso dell'IA agente per sviluppi formali sostanziali, evidenziando sia il potenziale di guadagni di efficienza sia la critica necessità dell'esperienza umana per garantire il rigore logico.

L'autore afferma esplicitamente che lo sviluppo di regole di prova compositive per la condizione di sicurezza rimane un problema aperto e che l'attuale lavoro si concentra sulla semantica fondamentale e sul teorema di implicazione principale. Il documento è dedicato a David Basin, riconoscendo il suo ruolo pionieristico nella formalizzazione verificata meccanicamente.