Hijacking Text Heritage: Hiding the Human Signature through Homoglyphic Substitution

Questo paper esplora come la sostituzione omoglifica, ovvero la sostituzione di caratteri con alternative visivamente simili, possa degradare i sistemi di stilometria avversaria per proteggere le informazioni personali nascoste nei testi dall'identificazione forense.

L'essenziale

Immagina di avere una firma digitale invisibile che lasci su ogni cosa che scrivi online, proprio come un impronta digitale sulla sabbia. Anche se non firmi il tuo nome, il modo in cui usi le virgole, la lunghezza delle tue frasi o le parole che scegli rivela chi sei. Questo è ciò che gli esperti chiamano stilometria: un modo per indovinare chi ha scritto un testo analizzando il suo "stile".

Oggi, le grandi aziende e i governi usano questa tecnica per profilare le persone, prevedere cosa faranno o addirittura per spiare chi scrive cose contro il sistema. È come se qualcuno ti guardasse attraverso un microscopio mentre scrivi un messaggio, cercando di capire chi sei solo dal modo in cui muovi le dita sulla tastiera.

Il Problema: La Trappola della Verifica

Il paper descrive una situazione inquietante: immagina di voler iscriverti a un social network. Ti chiedono di caricare la foto della tua patente (per verificare la tua età) e poi ti dicono: "Scrivi otto frasi su cosa ti spaventa di più".
Sembra innocuo, vero? Ma in realtà, stanno raccogliendo due cose pericolose:

1. I tuoi dati reali (la patente).
2. La tua "impronta stilistica" (il modo in cui scrivi).

Un'Intelligenza Artificiale (AI) userà queste due informazioni per creare un "doppio digitale" di te. Potrà prevedere cosa comprerai, cosa penserai o persino se diventerai pericoloso, tutto basandosi su come scrivi. È come se qualcuno ti desse un'arma e poi ti chiedesse di scrivere una poesia, per poi usare quella poesia per colpire te stesso.

La Soluzione: Il "Veleno" per gli Occhi delle Macchine

L'autore del paper, Robert Dilworth, propone una soluzione creativa e un po' "ribelle": avvelenare il testo.

Pensa al testo come a un fiume di dati. Se il fiume è limpido, le macchine possono vedere tutto e tracciare chi sei. L'idea è rendere il fiume torbido, in modo che le macchine si confondano, ma che gli umani continuino a vederlo chiaro.

Come si fa? Usando una tecnica chiamata Sostituzione di Omoglifi.
Immagina che la lettera "a" sia un mattoncino LEGO. Esistono mattoncini che sembrano identici alla "a" (magari presi da un altro set di colori o di un'altra lingua), ma che per il computer sono cose completamente diverse.

• La "a" normale è il mattoncino A.
• La "а" (che sembra uguale ma viene da un'altra lingua) è il mattoncino B.

Per l'occhio umano, non c'è differenza. Per il computer, sono due cose diverse.

L'Esperimento: Quanto Veleno Serve?

L'autore ha fatto degli esperimenti per vedere quanto "veleno" (quante lettere sostituite) serve per confondere le macchine.
Ha scoperto che non serve distruggere tutto il testo. Basta sostituire circa il 37,5% delle parole con queste lettere "gemelle" (omoglifi).

È come se tu avessi un vestito con un motivo specifico che ti fa riconoscere. Se cambi il colore di un terzo dei bottoni con bottoni che sembrano identici ma sono fatti di un materiale diverso, chi ti guarda da lontano (l'occhio umano) non se ne accorge. Ma la macchina che cerca di riconoscere il tessuto specifico (l'AI) va in tilt perché il suo "codice a barre" non corrisponde più.

Il Risultato: La Libertà di Scrivere

Il paper introduce uno strumento chiamato TraceTarnish (che potremmo tradurre come "Macchia la Traccia"). Questo strumento prende il tuo testo e lo "sporca" automaticamente con queste lettere doppie.

Il risultato è magico:

• Per te e per gli umani: Il testo è leggibile, normale e non cambia il significato.
• Per le macchine di sorveglianza: Il testo diventa un puzzle illeggibile. L'AI non riesce più a dire "Questo è scritto da Marco", ma pensa "Non so chi ha scritto questo, forse è un robot, forse è un alieno".

In Sintesi: Perché è Importante?

Questo paper ci dice che abbiamo il diritto di difendere la nostra privacy non solo nascondendoci, ma confondendo i nostri inseguitori.
Non serve smettere di scrivere o usare codici segreti incomprensibili. Basta usare un piccolo trucco tecnico che rende il nostro "stile" invisibile alle macchine, pur rimanendo visibile agli occhi umani.

È come indossare un cappello che per te è normale, ma per i radar è trasparente. È un atto di resistenza pacifica: "Se volete i miei dati, prendeteli, ma fateli diventare inutili per voi."

In fondo, come dice il paper citando George Orwell: "Combatti il fuoco con il fuoco; veleno per veleno". Se il sistema vuole profilare le persone, noi possiamo avvelenare i dati in modo che non servano più a nulla, proteggendo così la nostra libertà di pensiero e di espressione.

Sommario tecnico

Titolo: Hijacking Text Heritage: Nascondere la Firma Umana attraverso la Sostituzione di Omoglifi

1. Il Problema: La Minaccia della Stilometria e la Privacy

Il paper affronta il problema della stilometria, la disciplina che analizza le caratteristiche linguistiche di un testo per identificare l'autore (attribuzione dell'autore) o verificare l'autenticità. Sebbene utile per scopi legittimi (come rilevare plagio o distinguere testi generati da AI), la stilometria rappresenta una grave minaccia alla privacy.

• Il contesto: Anche post innocui sui social media o dati apparentemente anonimi possono essere analizzati per dedurre informazioni sensibili (età, posizione geografica, stato mentale) o per collegare un autore anonimo a una identità reale.
• La minaccia: In un'era di sorveglianza digitale, la "firma stilometrica" di un autore agisce come un'impronta digitale. Autori di testi sensibili, attivisti o individui che cercano di proteggere la propria privacy sono vulnerabili a tecniche di de-anonimizzazione.
• Il limite delle soluzioni attuali: Le tecniche esistenti per eludere la stilometria includono la traduzione (che perde significato), l'imitazione (cambiare lo stile con LLM) e l'oscuramento (parafraasi). Tuttavia, queste spesso alterano significativamente il contenuto o sono facilmente rilevabili.

2. Metodologia: L'Attacco "TraceTarnish" e l'Iniezione di Omoglifi

L'autore propone una nuova tecnica avversaria chiamata TraceTarnish, che combina diverse strategie per "avvelenare" i dati testuali e rendere l'attribuzione dell'autore inaffidabile. Il cuore della metodologia è l'Injection (iniezione), specificamente la variante Doppelgänger Injection.

• Concetto di Omoglifio: Un omoglifio è un carattere che appare visivamente identico o molto simile a un altro, ma ha un codice Unicode diverso (es. la "h" latina U+0068 vs la "һ" cirillica U+04BB).
• Doppelgänger Injection: A differenza degli attacchi che inseriscono caratteri a larghezza zero (invisibili ma rimovibili dalla pulizia dei dati), questa tecnica sostituisce i caratteri originali con i loro omoglifi. Poiché il testo rimane leggibile per un umano, ma il codice sottostante è cambiato, i sistemi di analisi basati sulla corrispondenza dei caratteri vengono ingannati.
• Framework Modulare (TraceTarnish): Lo script sviluppato integra quattro fasi:
  1. Traduzione: Alterazione del significato attraverso traduzioni multiple.
  2. Oscuramento: Semplificazione del linguaggio.
  3. Imitazione: Uso di LLM per riscrivere il testo nello stile di un altro autore.
  4. Iniezione (Fase Critica): Sostituzione selettiva di caratteri con omoglifi.

Esperimenti Condotti:
L'autore ha testato diverse configurazioni per determinare la "dose letale" necessaria per confondere i sistemi stilometrici (utilizzando il pacchetto R stylo e la funzione imposters()):

• Esperimento 1: Iniezione incrementale casuale (da 0% al 100%) alternando vocali e consonanti.
• Esperimento 2: Iniezione mirata solo sulle vocali.
• Esperimento 3: Iniezione mirata solo sulle consonanti.
• Esperimento 4: Iniezione massima (sostituzione di ogni carattere possibile).

3. Risultati Chiave

Gli esperimenti hanno fornito metriche quantitative sull'efficacia dell'attacco:

• Soglia di Efficacia: Una percentuale di sostituzione (replacement rate) inferiore al 12,5% - 25% è insufficiente per oscurare l'autore.
• Punto di Rottura: Una soglia di 37,5% di sostituzione dei caratteri (inteso come percentuale di parole contenenti almeno un omoglifio) risulta sufficiente per ottenere un'oscuramento efficace dell'autore.
• Rendimenti Decrescenti: Superare il 50% di sostituzione non migliora significativamente l'efficacia dell'attacco, rendendo l'aggiunta di ulteriori omoglifi uno sforzo inutile.
• Vocali vs Consonanti: Non è stata trovata una differenza stilometrica significativa nel scegliere di attaccare le vocali o le consonanti; l'effetto è simile in entrambi i casi.
• Resilienza: L'attacco è robusto perché, a differenza dei caratteri a larghezza zero, gli omoglifi non vengono rimossi dai normali processi di pulizia dei dati (sanitization) poiché appaiono come caratteri validi.

4. Contributi Principali

1. Nuova Tecnica Adversaria: Introduzione e validazione empirica della Doppelgänger Injection come metodo efficace per l'oscuramento dell'autore (authorship obfuscation).
2. Quantificazione della Soglia: Definizione precisa della soglia di iniezione (37,5%) necessaria per compromettere i sistemi di attribuzione, offrendo una guida pratica per chi desidera proteggere la propria privacy.
3. Framework Integrato (TraceTarnish): Sviluppo di un sistema modulare che combina tecniche di traduzione, imitazione, oscuramento e iniezione per massimizzare l'effetto di confusione sui modelli di machine learning.
4. Analisi del Contesto Etico: Il paper esplora il paradosso della verifica dell'età e della sorveglianza, argomentando che l'avvelenamento dei dati (data poisoning) è una forma di resistenza non violenta necessaria contro la raccolta indiscriminata di dati comportamentali.

5. Significato e Implicazioni

Il lavoro ha profonde implicazioni per la sicurezza informatica e la privacy:

• Contro la Sorveglianza: Dimostra che è possibile rendere inaffidabili i sistemi di profilazione basati sull'IA senza alterare il contenuto semantico del testo in modo percettibile. Questo protegge gli utenti contro il "pre-crimine" (predizione di comportamenti futuri) e il "thought-crime" (giudizio su idee basate su stili linguistici).
• Data Poisoning come Difesa: Il paper ridefinisce il "data poisoning" non come un atto malevolo, ma come una misura difensiva per proteggere l'integrità dell'anonimato e la sovranità dei dati personali.
• Avvertimento per i Sistemi di Rilevamento: Mette in guardia gli sviluppatori di sistemi di rilevamento (di plagio, di fake news o di AI) che l'uso di omoglifi può degradare drasticamente le loro prestazioni, rendendo difficile distinguere tra testo umano e generato o tra diversi autori.
• Filosofia della Privacy: Conclude che la privacy non può essere garantita solo da leggi, ma richiede contromisure tecniche attive. L'autore sostiene che "avvelenare la fonte" (corrompere i dati con rumore visivamente impercettibile) è l'unico modo per preservare la libertà individuale in un'era di sorveglianza totale.

In sintesi, il paper dimostra che la sostituzione strategica di caratteri con omoglifi è un metodo potente, efficiente e sottile per distruggere la "firma stilometrica" di un autore, offrendo uno scudo tecnico contro l'identificazione invasiva.