Deepfakes: we need to re-think the concept of "real" images
Questo documento di posizione sostiene che l'attuale focalizzazione sul rilevamento di immagini "false" è fondamentalmente difettosa perché si basa su definizioni e dataset obsoleti di immagini "reali", esortando la comunità di ricerca a rivalutare il concetto di autenticità dato che la fotografia moderna con smartphone utilizza essa stessa algoritmi basati su reti neurali simili a quelli impiegati nei modelli generativi.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immagina di essere un detective che cerca di catturare un falsario. Il tuo lavoro è osservare un dipinto e decidere: "È un vero capolavoro o è un falso?"
Per anni, la comunità del machine learning ha costruito scanner high-tech per risolvere questo problema dei "Deepfake". Hanno addestrato i loro detective AI su una vasta libreria di dipinti "reali" (fotografie) per imparare come appare l'autenticità.
Il Problema: Gli autori di questo articolo sostengono che i detective stiano utilizzando una libreria obsoleta. Stanno cercando di individuare falsificazioni moderne utilizzando una definizione di "reale" che ha smesso di funzionare circa dieci anni fa.
Ecco la sintesi del loro argomento, utilizzando semplici analogie:
1. Il Problema della "Vecchia Libreria"
I detective AI sono attualmente addestrati su dataset (librerie di fotografie) che risalgono principalmente a 10-15 anni fa.
- L'Analogia: Immagina di cercare di insegnare a uno studente a riconoscere le auto moderne mostrandogli immagini di Ford Model T. Lo studente impara come appare un'"auto" basandosi su ruote di legno e tetti aperti. Quando gli mostri una Tesla moderna, potrebbe rimanere confuso perché non assomiglia alle "auto vere" nel suo libro.
- La Realtà: L'articolo dimostra che quasi tutti i dataset di immagini "reali" attuali sono vecchi, a bassa risoluzione e pesantemente compressi (come i JPEG). Non rappresentano le foto che scattiamo oggi.
2. Il Cambiamento verso la "Smart Camera"
Oggi, oltre il 90% delle foto viene scattato con smartphone. Ma ecco il colpo di scena: gli smartphone non si limitano a "scattare" foto; le "calcolano".
- L'Analogia: In passato, una macchina fotografica era come una finestra. Guardavi attraverso di essa e la luce colpiva la pellicola. L'immagine era una registrazione diretta della realtà.
- La Nuova Realtà: Uno smartphone moderno è più simile a un frullatore da cucina. Inserisci ingredienti grezzi (luce proveniente da più sensori, più fotocamere, più scatti catturati in una frazione di secondo) e il computer interno del telefono (utilizzando complesse reti neurali) li frulla insieme per creare un frullato perfetto (la foto finale).
- Il Conflitto: I rilevatori AI sono stati addestrati per individuare immagini "falsificate" create da generatori AI. Ma ora, anche le immagini "reali" che escono dai nostri telefoni vengono prodotte da algoritmi AI (reti neurali) all'interno del telefono stesso. Il confine tra "reale" e "falso" si sta sfumando perché le foto "reali" vengono già elaborate digitalmente.
3. Il Test Fallito
Gli autori hanno condotto un semplice esperimento per dimostrare il loro punto.
- Il Test: Hanno preso i migliori modelli AI per la "rilevazione di falsi" e li ha mostrati due cose:
- Vecchie foto di bassa qualità provenienti da internet (che l'AI conosceva bene).
- Foto nuove e grezze scattate con gli ultimi iPhone nella vita reale.
- Il Risultato: L'AI ha funzionato benissimo sulle vecchie foto. Ma quando ha visto le nuove foto degli iPhone, si è confusa e ha iniziato a fallire. Non riusciva a distinguere una foto "reale" di un iPhone da un'immagine "falsa" generata dall'AI, perché la foto dell'iPhone era stata elaborata dalla propria AI del telefono.
- La Metafora: È come una guardia di sicurezza addestrata a individuare persone che indossano cappelli rossi. Cattura tutti quelli con il cappello rosso. Ma poi, anche la forza di polizia inizia a indossare cappelli rossi. Ora, la guardia non riesce a distinguere i criminali dalla polizia.
4. La Trappola Filosofica
L'articolo sostiene che siamo intrappolati in un circolo vizioso.
- Se definiamo "Reale" come "non toccato dall'AI", allora quasi nessuna foto è più reale, perché i nostri telefoni utilizzano l'AI per correggere l'illuminazione, rimuovere il rumore e mettere a fuoco l'immagine.
- Se definiamo "Reale" come "scattato da un umano", allora la definizione non ci aiuta, perché è stata l'AI del telefono a fare il lavoro pesante.
La Conclusione degli Autori
L'articolo non offre un nuovo algoritmo per correggere i rilevatori. Invece, suona l'allarme: Dobbiamo fermarci e ripensare l'intero gioco.
- Nuovi Dati: Abbiamo bisogno di nuovi dataset che includano foto moderne calcolate dagli smartphone, non solo quelle vecchie e a bassa risoluzione.
- Nuove Definizioni: Dobbiamo accordarci su cosa significhi "Reale". Una foto è reale se il telefono l'ha schiarita? È falsa se un'AI ha rimosso un difetto? Non possiamo più cercare solo "impronte digitali" perché anche le foto "reali" ce le hanno.
- Forse i Rilevatori Non Funzioneranno: Gli autori suggeriscono che forse cercare di rilevare falsi guardando i pixel dell'immagine è un vicolo cieco. Invece, potremmo dover affidarci ad altri metodi, come filigrane digitali o firme blockchain, per provare l'origine di un'immagine, piuttosto che cercare di indovinare se sembra "reale".
In breve: Gli strumenti che abbiamo costruito per catturare i bugiardi stanno fallendo perché i veritieri (i nostri telefoni) hanno iniziato a usare gli stessi trucchi dei bugiardi. Dobbiamo riscrivere il regolamento prima di poter catturare la prossima generazione di falsi.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.