Domain Agnostic Text Redaction from Natural Language Rules using Instruction Tuning

Nel mondo moderno, vaste quantità di informazioni personali e aziendali esistono come semplice testo, dai registri medici ai contratti legali, fino ai rapporti finanziari. Man mano che questi dati diventano sempre più digitalizzati, emerge una sfida critica: come condividere o analizzare tali documenti senza esporre segreti sensibili. Leggi come il Regolamento Generale sulla Protezione dei Dati (GDPR) e l'Health Insurance Portability and Accountability Act (HIPAA) richiedono che dettagli specifici, come nomi, indirizzi o condizioni mediche private, vengano nascosti prima che un documento lasci un ambiente sicuro. Tradizionalmente, questo compito di "sanificazione" si è basato su programmi informatici rigidi che cercano modelli prevedibili, come un numero di telefono o un numero di previdenza sociale. Sebbene efficaci per questi formati standard, tali strumenti spesso falliscono quando le informazioni sensibili appaiono in frasi complesse e non strutturate, come una clausola specifica in un contratto o una sfumata diagnosi medica. Inoltre, quando questi strumenti automatizzati prendono una decisione per nascondere del testo, raramente spiegano il perché, lasciando che gli auditor umani debbano indovinare la logica dietro la redazione.

Per risolvere questo problema, un team di ricercatori presso Mphasis Limited ha sviluppato un nuovo approccio che tratta la redazione del testo non come un semplice compito di ricerca e sostituzione, ma come un problema di ragionamento. Invece di codificare regole per ogni possibile tipo di dato sensibile, hanno creato un sistema in cui un essere umano può descrivere ciò che deve essere nascosto in linguaggio naturale. Ad esempio, un utente potrebbe semplicemente affermare: "Nascondi ogni menzione di commissioni specifiche dei clienti in questo rapporto finanziario" o "Rimuovi tutti i dettagli riguardanti la posizione del terreno in questo accordo legale". Il sistema utilizza poi un modello linguistico di grandi dimensioni per tradurre queste istruzioni in linguaggio naturale in un insieme di regole logiche. Queste regole vengono utilizzate per addestrare un modello linguistico più piccolo ed efficiente che può leggere un documento, comprenderne il contesto e decidere esattamente quali parole o frasi corrispondono alla definizione di sensibile fornita dall'utente. Fondamentalmente, questo sistema non si limita a oscurare il testo; genera una spiegazione scritta per ogni singola informazione rimossa, citando la regola specifica che ha attivato l'azione.

I ricercatori hanno testato questo metodo su una varietà di tipi di documenti, inclusi comunicazioni finanziarie, dettagli di impegno con i clienti e cartelle cliniche. Hanno scoperto che il sistema poteva identificare e redigere accuratamente contenuti sensibili che gli strumenti tradizionali avrebbero mancato, come termini legali complessi o specifiche strategie aziendali, lasciando intatte le informazioni non sensibili. Per garantire che il sistema fosse davvero sicuro, lo hanno sottoposto a un test rigoroso in cui un'intelligenza artificiale potente ha tentato di indovinare le informazioni nascoste basandosi sul testo circostante. Il sistema si è dimostrato altamente resiliente; l'IA non è stata in grado di ricostruire i dettagli redatti, indicando che l'informazione sensibile era stata effettivamente rimossa e non solo oscurata. Nei loro test, il modello ha identificato e redatto con successo oltre il 95 percento degli casi sensibili che gli erano stati richiesti di trovare.

Un'innovazione chiave in questo lavoro è l'uso di dati sintetici per addestrare il sistema. Invece di alimentare il modello con documenti reali e privati, i ricercatori hanno utilizzato un modello linguistico di grandi dimensioni per generare migliaia di documenti falsi che imitavano scenari del mondo reale. Questi documenti sintetici contenevano sia contenuti sensibili che non sensibili, insieme alle relative redazioni e spiegazioni. Ciò ha permesso al modello più piccolo di imparare come ragionare sulle regole della privacy senza mai vedere i dati privati di una persona reale durante il suo addestramento. Il risultato è uno strumento che è allo stesso tempo flessibile e trasparente. Può adattarsi a nuovi tipi di documenti e nuove definizioni di sensibilità al volo, semplicemente ascoltando le istruzioni di un essere umano. Fornendo una chiara giustificazione in linguaggio naturale per ogni redazione, il sistema colma il divario tra efficienza automatizzata e responsabilità umana, offrendo un modo per proteggere la privacy che è tanto comprensibile quanto efficace.