Covert Multi-bit LLM Watermarking: An Information Theory and Coding Approach

Sintesi Tecnica: Filigrana Nascosta Multi-bit per LLM: Un Approccio di Teoria dell'Informazione e Codifica

Enunciato del Problema
Il documento affronta la sfida della filigrana multi-bit per i Modelli Linguistici di Grande Dimensione (LLM). Sebbene la filigrana a tasso zero (binaria) sia stata studiata estesamente per rilevare testi generati dall'intelligenza artificiale, l'incorporazione di messaggi più ricchi (ad esempio, per la tracciabilità della fonte o la marcatura temporale) richiede tassi di incorporazione più elevati senza compromettere la qualità del testo o la sua rilevabilità. Gli approcci algoritmici esistenti spesso mancano di una caratterizzazione precisa, basata sulla teoria dell'informazione, dei tassi ottenibili, portando a prestazioni subottimali. Inoltre, gli LLM standard operano sotto vincoli strettamente autoregressivi, che impediscono agli encoder di accedere alle distribuzioni dei token futuri, limitando l'applicazione di framework classici di teoria dell'informazione non causali come la codifica di Gelfand-Pinsker (GP).

Metodologia e Modello di Sistema
Gli autori propongono un modello autoregressivo a blocchi ispirato alle architetture di previsione multi-token (ad esempio, la decodifica speculativa autonoma). In questo modello, l'encoder ottiene un accesso non causale limitato alle distribuzioni dei token all'interno di un blocco di lunghezza $n$ prima del campionamento, a condizione che la verifica avvenga prima della selezione finale del token. Questa astrazione colma il divario tra gli LLM pratici e i modelli di teoria dell'informazione.

L'approccio tecnico centrale coinvolge tre componenti principali:

1. Formulazione di Teoria dell'Informazione: Il problema è modellato come un canale con stato (la distribuzione di base del token $S$) noto in modo non causale all'encoder ma non al decoder. Gli autori combinano la codifica di Gelfand-Pinsker (GP) (per l'incorporazione del messaggio) con la codifica di risolvibilità del canale (per garantire che la distribuzione filigranata rimanga statisticamente vicina alla distribuzione di base, assicurando la covertzza).
2. Caratterizzazione della Capacità: Il documento deriva una caratterizzazione esatta della capacità di filigrana multi-bit nascosta. La capacità è definita come il tasso massimo $R$ tale che la distanza di variazione totale (TV) tra la distribuzione filigranata e la distribuzione di base si annulli asintoticamente, mentre la probabilità di errore di decodifica tende a zero.
3. Implementazione Algoritmica:
   • Processo Decisionale di Markov Vincolato (CMDP): Per gestire lunghezze di blocco finite e gli effetti di memoria degli LLM, l'ottimizzazione delle distribuzioni congiunte attraverso i blocchi è formulata come un CMDP. Ciò permette al sistema di bilanciare i tassi di incorporazione immediati con l'impatto sull'evoluzione futura dello stato.
   • Codifica Polarizzata: Viene sviluppata una costruzione esplicita basata su codici polarizzati. L'encoder utilizza la distribuzione congiunta appresa per selezionare gli insiemi di indici per i bit del messaggio ($H_{enc} \cap L_{dec}$) e impiega una regola di cancellazione successiva modificata per gestire le dipendenze a livello di sequenza (stati non i.i.d.).
   • Utilizzo di Chiave Segreta: Una chiave segreta viene utilizzata per cifrare in una sola volta (OTP) specifici bit del messaggio, fornendo la casualità necessaria per il soft-covering per soddisfare il vincolo di covertzza.

Contributi Chiave

1. Proposta di Modello: Introduzione di un modello autoregressivo a blocchi che abilita l'accesso non causale alle distribuzioni dei token all'interno dei blocchi, facilitando l'adattamento degli schemi GP e di risolvibilità del canale per gli LLM.
2. Analisi della Capacità: Derivazione della capacità esatta di teoria dell'informazione per la filigrana multi-bit nascosta sotto accesso non causale allo stato, espressa come $\max_{p(u|s), W(x|u,s)} [I(U; X) - I(U; S)]$ soggetta a vincoli di corrispondenza della distribuzione.
3. Progettazione Algoritmica: Sviluppo di un algoritmo di filigrana pratico che integra il CMDP per ottimizzare le distribuzioni di codifica su più blocchi e i codici polarizzati per una costruzione esplicita che raggiunge la capacità.

Risultati
Sono stati condotti esperimenti numerici utilizzando LLaMA3.2 1B con una lunghezza di blocco di $L=8$ e $B=2$ blocchi.

• Prestazioni: L'algoritmo proposto achieve un tasso di errore di bit (BER) inferiore al 10% a un tasso di incorporazione di 0,375 bit/token su brevi lunghezze di token.
• Qualità: Il metodo mantiene un degrado trascurabile nella perplessità (PPL) e nella qualità del testo, come misurato dal meccanismo di valutazione del modello di base.
• Covertzza: Lo studio dimostra che aumentare il numero di chiavi segrete riduce la distanza media di Variazione Totale (TV), allineandosi alle previsioni teoriche. Tuttavia, per lunghezze di blocco finite ($L=8$), la polarizzazione è insufficiente per realizzare pienamente i vincoli TV teorici a tassi più elevati, portando a un compromesso in cui superare determinate soglie di tasso della chiave può degradare l'efficacia della covertzza.

Significato e Affermazioni
Il documento afferma di fornire la prima caratterizzazione esatta di teoria dell'informazione della capacità di filigrana multi-bit per LLM sotto un modello che tiene conto dei vincoli pratici degli LLM (in particolare, il rilassamento della stretta autoregressione tramite la previsione multi-token). Unificando la codifica GP e la risolvibilità del canale, il lavoro stabilisce un limite superiore teorico sui tassi ottenibili garantendo al contempo la covertzza statistica.

Gli autori sottolineano che il loro approccio offre un quadro principiato per incorporare messaggi che bilancia robustezza, distorsione e covertzza. Riconoscono che l'implementazione attuale è limitata dalla complessità computazionale dell'ottimizzazione delle distribuzioni di codifica e dal calcolo dei parametri di Bhattacharyya per lunghezze di blocco più lunghe, identificando la progettazione di approssimazioni scalabili (ad esempio, decodifica disadattata o alternative neurali) come una direzione primaria per il lavoro futuro. Il lavoro è posizionato come un passo fondamentale verso una filigrana rigorosa ad alta capacità per le architetture di LLM di prossima generazione.