How Do Data Owners Say No? A Case Study of Data Consent Mechanisms in Web-Scraped Vision-Language AI Training Datasets
Questo studio analizza il dataset DataComp per dimostrare che una parte significativa dei dati utilizzati per addestrare modelli di visione linguistica proviene da fonti che esprimono esplicitamente il rifiuto del scraping o contengono avvisi di copyright e filigrane, evidenziando così le carenze degli attuali meccanismi di consenso e la necessità di un quadro normativo unificato.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immagina di voler cucinare il miglior piatto del mondo: un'intelligenza artificiale capace di creare immagini incredibili partendo da una semplice descrizione. Per farlo, gli chef (gli sviluppatori di AI) hanno bisogno di ingredienti: miliardi di foto e le loro descrizioni.
Fino a poco tempo fa, questi ingredienti venivano raccolti in modo molto semplice: si prendeva tutto ciò che si trovava online, come se fosse una grande raccolta di frutta selvatica nel bosco, senza chiedere il permesso a chi aveva piantato l'albero.
Questo articolo, scritto da un gruppo di ricercatori, si chiede: "Ma è davvero giusto prendere tutto senza chiedere?"
Ecco la storia di cosa hanno scoperto, raccontata come se fosse un'indagine su un grande mercato.
1. Il Grande Mercato (Il Dataset)
I ricercatori hanno guardato un enorme "cestino" di dati chiamato CommonPool, che contiene 12,8 miliardi di coppie di immagini e testi. È come se fosse il più grande magazzino di ingredienti digitali al mondo, usato per addestrare AI famose come Midjourney o DALL-E.
2. I Tre Modi in cui gli Artisti Gridano "Stop!"
I ricercatori hanno cercato di capire quanti di questi ingredienti appartenevano a persone che non volevano essere usate. Hanno trovato tre modi principali in cui i proprietari dicevano "No":
- Il Cartello "Proprietà Privata" (Copyright): Come un cartello appeso a un albero che dice "Queste mele sono mie". Hanno trovato che circa 122 milioni di immagini avevano un cartello del genere (scritto nel testo, nascosto nei dati tecnici della foto o visibile a occhio nudo).
- Il Filtro Invisibile (Filigrana/Watermark): Come un timbro invisibile che gli artisti mettono sulle loro opere per dire "Questa è la mia firma". Il problema? I robot che raccolgono i dati sono come bambini distratti: riescono a vedere solo il 10-13% di questi timbri. La maggior parte sfugge alla loro vista.
- Le Regole del Giardino (Termini di Servizio e Robots.txt): Immagina che ogni sito web sia un giardino privato. All'ingresso c'è un cartello (i Termini di Servizio) che dice "Vietato raccogliere i fiori" o "Vietato usare i droni per fotografare".
- La scoperta scioccante: Hanno controllato i 50 giardini più grandi (i siti più popolari) e hanno scoperto che il 60% di questi fiori proviene da giardini dove c'è scritto chiaramente: "Vietato raccogliere!".
3. Il Problema del "Corriere" (La CDN)
Qui la situazione diventa complicata. Spesso, quando un'immagine è su un sito, non è il sito stesso che la ospita, ma un "corriere" (un servizio di cloud come Amazon o Google) che la consegna.
I ricercatori hanno notato che i dataset rilasciano solo l'indirizzo del corriere, non quello del giardino originale.
- L'analogia: È come se tu volessi sapere se un'auto è rubata. Ti danno solo il numero di targa del garage dove è parcheggiata, ma non il numero di targa dell'auto. Senza sapere da quale giardino proviene l'auto, non puoi leggere il cartello "Vietato copiare" che c'è all'ingresso del giardino originale.
4. Il Paradosso del "Robots.txt"
Esiste una regola chiamata Robots.txt, che è come un semaforo per i robot: dice "Passa" o "Stop".
- Molti proprietari di siti hanno messo il semaforo rosso per i robot delle AI (come "GPTBot").
- Tuttavia, quando gli sviluppatori scaricano il dataset "CommonPool", usano un robot generico che non legge questi semafori specifici. È come se un postino consegnasse una lettera in un quartiere dove tutti hanno scritto "Non consegnare a questo indirizzo", ma il postino non guarda l'indirizzo e consegna comunque.
5. La Conclusione: Serve una Nuova Regola del Gioco
I ricercatori concludono che il sistema attuale è rotto.
- I proprietari delle immagini stanno usando cartelli, timbri e recinzioni diverse per dire "No".
- Chi raccoglie i dati (i dataset) non li vede tutti, o peggio, li ignora perché non ha accesso al "giardino" originale.
- Chi usa i dati (gli sviluppatori di AI) finisce per cucinare con ingredienti rubati, pensando di aver fatto tutto legalmente.
Il consiglio finale?
Serve un linguaggio universale. Proprio come esiste un codice per dire "Attenzione, strada scivolosa" in ogni paese del mondo, serve un modo unico e chiaro per dire "Attenzione, questo dato non può essere usato per l'AI".
Finché non avremo questo, continueremo a vedere cause legali, artisti arrabbiati e un sistema che non rispetta il lavoro creativo delle persone.
In sintesi: Non puoi prendere tutto ciò che vedi online senza chiedere. E se qualcuno ti ha detto di no, dovresti ascoltarlo, anche se è difficile trovare il "no" nascosto tra miliardi di dati.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.