Cooperate And Compete: Archives Can Gain More By Expecting Less From AI Training
Este artículo sostiene que las organizaciones de archivos deben superar su reticencia a compartir colecciones para el entrenamiento de la IA reformulando la pérdida de la procedencia a nivel de ítem como una ventaja competitiva y adoptando políticas estratégicas —tales como acuerdos a medida, tecnología RAG y la defensa de contribuciones para el bien público— para mitigar los riesgos mientras se fomenta la colaboración.
Artículo original bajo licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por el autor. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
En los rincones silenciosos de las bibliotecas y archivos del mundo, millones de documentos, fotografías y grabaciones únicas yacen esperando ser vistas. Estos no son solo papeles viejos; son la materia prima de la memoria humana, a menudo almacenados en cajas o en películas frágiles, invisibles para el ojo público. Recientemente, las empresas que construyen inteligencia artificial han comenzado a pedir acceso a estas colecciones ocultas. Quieren alimentar sus modelos informáticos con estos datos históricos para hacerlos más inteligentes y conocedores. El objetivo es enseñar a las máquinas cómo han pensado, escrito y creado los seres humanos a lo largo de los siglos. Sin embargo, las personas que custodian estos archivos tienen dudas. Temen que, si entregan sus materiales, las máquinas aprendan los hechos pero olviden de dónde provienen esos hechos. Temen perder el control sobre su propia historia, siendo incapaces de detener a las máquinas para que utilicen la información de formas que nunca pretendieron. Esta tensión se encuentra en el corazón de un nuevo debate: ¿deberían los archivos decir que no para proteger su pasado, o decir que sí para dar forma a su futuro?
Un estudio reciente de Jinfang Niu, investigadora de la Universidad del Sur de Florida, sugiere que los archivos podrían estar mirando este problema de la manera equivocada. El artículo sostiene que los archivos se centran demasiado en exigir cosas a la inteligencia artificial que la tecnología simplemente no puede proporcionar, como una lista perfecta de cada uno de los documentos utilizados para crear una respuesta específica. La autora sugiere que, al reducir estas expectativas, los archivos pueden en realidad ganar más poder y protección. En lugar de intentar forzar a las máquinas a recordar cada detalle de su entrenamiento, los archivos deberían aceptar que las máquinas no serán capaces de rastrear sus respuestas hasta una página específica. A cambio de esta aceptación, los archivos pueden negociar mejores acuerdos, conservar sus herramientas más valentes para sí mismos y asegurar que no se les haga responsables si las máquinas hacen un uso indebido de la información.
El núcleo del problema reside en cómo aprende la inteligencia artificial. Cuando un humano lee un libro, recuerda la historia y las ideas, pero no mantiene un mapa mental de cada frase que leyó para formar un pensamiento. Del mismo modo, cuando un modelo de IA es entrenado, absorbe vastas cantidades de información en su estructura interna, conocida como pesos. Estos pesos no son un archivador de documentos; son una compleja red de conexiones matemáticas. Una vez finalizado el aprendizaje, el modelo no puede señalar una página específica en un archivo determinado y decir: "Aprendí este hecho de aquí". La información se mezcla. El artículo señala que esperar que una IA proporcione una cita para cada pieza de dato utilizada para generar una respuesta es como pedirle a una persona que recuerde la secuencia exacta de memorias que la llevaron a escribir un poema. No es solo difícil; para la tecnología actual, es prácticamente imposible.
Debido a esta realidad técnica, la autora argumentó que los archivos deberían dejar de insistir en la "proveniencia a nivel de ítem", que es el requisito de vincular cada resultado de la IA a un registro específico. En su lugar, los archivos deberían comprender que esta incapacidad para rastrear la fuente es, en realidad, su mayor ventaja. Si una IA no puede replicar o citar perfectamente un documento específico, entonces el archivo original sigue siendo el único lugar donde se puede encontrar ese documento en su forma verdadera e inalterada. La máquina puede conocer los hechos, pero no puede reemplazar la necesidad de que un humano vea la evidencia original. Esto significa que los archivos no pierden su valor al compartir sus datos; se vuelven aún más esenciales como la fuente de verdad confiable.
El artículo también desafía el temor de que los archivos pierdan el control sobre su conocimiento una vez que este se encuentre dentro de una máquina. La autora señala que los archivos nunca han controlado realmente qué sucede con la información una vez que sale de su edificio. Cuando un investigador lee un documento y luego escribe un libro o da una conferencia basada en lo aprendido, el archivo no puede detenerlo. El conocimiento ha entrado en la mente humana, y el archivo no tiene poder para hacer que el investigador lo olvide. La autora sugiere que los modelos de IA son similares. Una vez que la información es absorbida, pasa a ser parte del sistema de conocimiento. Intentar forzar a una empresa a eliminar hechos específicos de un modelo entrenado es increíblemente costoso y técnicamente difícil, y a menudo requiere reconstruir el modelo desde cero. En lugar de luchar una batalla perdida para controlar la memoria de la máquina, los archivos deberían centrarse en controlar los términos del trato.
Para que esto funcione, el artículo propone un nuevo conjunto de estrategias para que los archivos las sigan. Primero, deben adaptar sus acuerdos basándose en el estatus legal de los materiales. Por ejemplo, si el archivo posee los derechos de autor, puede cobrar por el uso de los datos. Si el material es de dominio público, el archivo puede solicitar fondos para ayudar con la digitalización de la colección a cambio de permitir que la IA lo utilice. Si el material está restringido debido a la privacidad o acuerdos de donantes, simplemente debe mantenerse fuera de los datos de entrenamiento. Segundo, los archivos deben utilizar una tecnología llamada Generación Aumentada por Recuperación, o RAG (por sus siglas en inglés). Este es un método en el que la IA no depende de su memoria interna para los hechos, sino que los busca en una base de datos en tiempo real. Esto permite que la IA dé una respuesta y muestre inmediatamente al usuario el documento específico que encontró, resolviendo el problema de las citas faltantes sin necesidad de cambiar la forma en que la IA aprende.
Finalmente, la autora sugiere que los archivos deben dejar de intentar bloquear a las empresas de IA de internet y empezar a negociar con ellas. Los archivos pueden pedir dinero para ayudar con la digitalización, mejores herramientas de IA para su propio personal o protección legal. El artículo recomienda que los archivos incluyan una cláusza en sus acuerdos que establezca que, si la empresa de IA o sus usuarios hacen un uso indebido de la información, el archivo no es responsable. Esto traslada el riesgo legal a la empresa, protegiendo al archivo de demandas si la IA genera contenido perjudicial. La autora también hace un llamado a políticas gubernamentales que incentiven a las empresas de IA a contribuir al bien público, asegurando que la riqueza generada por estas tecnologías ayude a sostener a las instituciones culturales que proporcionan los datos en primer lugar.
El estudio concluye que los archivos no necesitan tener miedo a la inteligencia artificial. Al aceptar que las máquinas no pueden rastrear perfectamente sus fuentes, los archivos pueden dejar de gastar energía en demandas imposibles. En su lugar, pueden centrarse en lo que mejor saben hacer: preservar los registros originales y proporcionar el contexto que las máquinas no pueden ofrecer. Al negociar acuerdos inteligentes y utilizar nuevas tecnologías para vincular las respuestas con las fuentes, los archivos pueden convertir una amenaza potencial en una asociación que asegure su futuro mientras ayudan al mundo a aprender de su pasado. El camino a seguir no es decir que no, sino decir que sí bajo términos que protejan la integridad del archivo y el valor de la historia que este custodia.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.