Cooperate And Compete: Archives Can Gain More By Expecting Less From AI Training
Questo articolo sostiene che le organizzazioni archivistiche dovrebbero superare la propria esitazione nel condividere le collezioni per l'addestramento dell'IA riformulando la perdita della provenienza a livello di singolo elemento come un vantaggio competitivo e adottando politiche strategiche — quali accordi su misura, tecnologia RAG e sensibilizzazione per i contributi di pubblico interesse — al fine di mitigare i rischi pur promuovendo la collaborazione.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dall'autore. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Negli angoli silenziosi delle biblioteche e degli archivi del mondo, milioni di documenti unici, fotografie e registrazioni giacciono in attesa di essere visti. Non si tratta solo di vecchie carte; sono le materie prime della memoria umana, spesso conservate in scatole o su pellicole fragili, invisibili all'occhio del pubblico. Recentemente, le aziende che costruiscono l'intelligenza artificiale hanno iniziato a chiedere l'accesso a queste collezioni nascoste. Vogliono nutrire i loro modelli informatici con questi dati storici per renderli più intelligenti e dotati di maggiore conoscenza. L'obiettivo è insegnare alle macchine come gli esseri umani hanno pensato, scritto e creato nel corso dei secoli. Tuttavia, le persone che custodiscono questi archivi sono esitanti. Temono che, se cedessero i loro materiali, le macchine imparerebbero i fatti ma dimenticherebbero da dove quei fatti siano venuti. Temono di perdere il controllo sulla propria storia, incapaci di impedire alle macchine di utilizzare le informazioni in modi mai previsti. Questa tensione è al cuore di un nuovo dibattito: gli archivi dovrebbero dire no per proteggere il proprio passato, o dire sì per dare forma al proprio futuro?
Uno studio recente di Jinfang Niu, ricercatrice presso l'Università della South Florida, suggerisce che gli archivi potrebbero guardare a questo problema nel modo sbagliato. Il documento sostiene che gli archivi siano troppo concentrati nell'esigere dall'intelligenza artificiale cose che la tecnologia semplicemente non può fornire, come un elenco perfetto di ogni singolo documento utilizzato per creare una specifica risposta. L'autrice suggerisce che, abbassando queste aspettative, gli archivi possano in realtà ottenere più potere e protezione. Inveve di cercare di costringere le macchine a ricordare ogni dettaglio del loro addestramento, gli archivi dovrebbero accettare che le macchine non saranno in grado di risalire alle pagine specifiche. In cambio di questa accettazione, gli archivi possono negoziare accordi migliori, tenere per sé i propri strumenti più preziosi e garantire di non essere ritenuti responsabili qualora le macchine utilizzino impropriamente le informazioni.
Il nocciolo della questione risiede nel modo in cui l'intelligenza artificiale apprende. Quando un essere umano legge un libro, ricorda la storia e le idee, ma non conserva una mappa mentale di ogni singola frase letta per formare un pensiero. Allo stesso modo, quando un modello di IA viene addestrato, assorbe enormi quantità di informazioni nella sua struttura interna, nota come pesi. Questi pesi non sono un archivio di documenti; sono una complessa rete di connessioni matematiche. Una volta completato l'apprendimento, il modello non può indicare una pagina specifica in un archivio particolare e dire: "Ho imparato questo fatto da qui". L'informazione è mescolata. Il documento osserva che aspettarsi che un'IA fornisca una citazione per ogni singolo dato utilizzato per generare una risposta è come chiedere a una persona di ricordare l'esatta sequenza di ricordi che l'hanno portata a scrivere una poesia. Non è solo difficile; per la tecnologia attuale, è praticamente impossibile.
A causa di questa realtà tecnica, l'autrice sostiene che gli archivi dovrebbero smettere di insistere sulla "provenienza a livello di elemento", ovvero il requisito di collegare ogni output dell'IA a un record specifico. Invece, gli archoli dovrebbero rendersi conto che questa incapacità di tracciare la fonte è in realtà il loro più grande vantaggio. Se un'IA non può replicare o citare perfettamente un documento specifico, allora l'archivio originale rimane l'unico luogo in cui quel documento può essere trovato nella sua forma vera e incontaminata. La macchina può conoscere i fatti, ma non può sostituire la necessità per un essere umano di vedere la prova originale. Ciò significa che gli archivi non perdono valore condividendo i loro dati; diventano ancora più essenziali come fonte attendibile della verità.
Il documento mette anche in discussione la paura che gli archivi perderanno il controllo sulla propria conoscenza una volta che questa entrerà in una macchina. L'autrice sottolinea che gli archivi non hanno mai veramente controllato ciò che accade alle informazioni una volta che lasciano il loro edificio. Quando un ricercatore legge un documento e poi scrive un libro o tiene una lezione basata su ciò che ha imparato, l'archivio non può fermarlo. La conoscenza è entrata nella mente umana, e l'archivio non ha il potere di far dimenticare al ricercatore ciò che ha appreso. L'autrice suggerisce che i modelli di IA siano simili. Una volta assorbita, l'informazione fa parte del sistema di conoscenza. Cercare di costringere un'azienda a eliminare fatti specifici da un modello addestrato è incredibilmente costoso e tecnicamente difficile, richiedendo spesso la ricostruzione completa del modello. Invece di combattere una battaglia persa per controllare la memoria della macchina, gli archivi dovrebbero concentrarsi sul controllo dei termini dell'accordo.
Per far sì che ciò funzioni, il documento propone un nuovo insieme di strategie da seguire per gli archivi. In primo luogo, dovrebbero adattare i loro accordi in base allo stato legale dei materiali. Ad esempio, se l'archivio possiede il copyright, può richiedere un compenso per l'uso dei dati. Se il materiale è di pubblico dominio, l'archivio può chiedere finanziamenti per aiutare la digitalizzazione della collezione in cambio del permesso di utilizzare i dati per l'IA. Se il materiale è soggetto a restrizioni per motivi di privacy o accordi con i donatori, dovrebbe semplicemente essere escluso dai dati di add 통한 addestramento. In secondo luogo, gli archivi dovrebbero utilizzare una tecnologia chiamata Generazione Aumentata dal Recupero, o RAG (Retrieval-Augmented Generation). Questo è un metodo in cui l'IA non si affida alla sua memoria interna per i fatti, ma invece li cerca in un database in tempo reale. Ciò consente all'IA di fornire una risposta e mostrare immediatamente all'utente il documento specifico che ha trovato, risolvendo il problema delle citazioni mancanti senza dover cambiare il modo in cui l'IA apprende.
Infine, l'autrice suggerisce che gli archivi dovrebbero smettere di cercare di bloccare le aziende di IA da internet e iniziare a negoziare con esse. Gli archivi possono chiedere fondi per aiutare la digitalizzazione, migliori strumenti di IA per il proprio personale o protezione legale. Il documento raccomanda agli archivi di includere una clausola nei loro accordi che stabilisca che, qualora l'azienda di IA o i suoi utenti utilizzino impropriamente le informazioni, l'archivio non sia responsabile. Questo sposta il rischio legale sull'azienda, proteggendo l'archivio da eventuali cause legali se l'IA genera contenuti dannosi. L'autrice invoca inoltre politiche governative che incoraggino le aziende di IA a contribuire al bene pubblico, garantendo che la ricchezza generata da queste tecnologie aiuti a sostenere le istituzioni culturali che forniscono i dati stessi.
Lo studio conclude che gli archivi non devono avere paura dell'intelligenza artificiale. Accettando che le macchine non possano tracciare perfettamente le loro fonti, gli archivi possono smettere di sprecare energie in richieste impossibili. Possono invece concentrarsi su ciò che sanno fare meglio: preservare i record originali e fornire il contesto che le macchine non possono fornire. Negoziando accordi intelligenti e utilizzando nuove tecnologie per collegare le risposte alle fonti, gli archivi possono trasformare una potenziale minaccia in una partnership che assicuri il loro futuro, aiutando al contempo il mondo a imparare dal proprio passato. La strada da seguire non è dire no, ma dire sì su termini che proteggano l'integrità dell'archivio e il valore della storia che esso custodisce.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.