Cooperate And Compete: Archives Can Gain More By Expecting Less From AI Training
Este artigo argumenta que as organizações arquivísticas devem superar sua hesitação em compartilhar coleções para o treinamento de IA ao reformular a perda da proveniência ao nível do item como uma vantagem competitiva e adotar políticas estratégicas — tais como acordos personalizados, tecnologia RAG e defesa de contribuições para o bem público — para mitigar riscos enquanto promovem a colaboração.
Artigo original sob licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelo autor. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Nos cantos silenciosos das bibliotecas e arquivos do mundo, milhões de documentos, fotografias e gravações únicas jazem à espera de serem vistos. Estes não são apenas papéis antigos; são as matérias-primas da memória humana, frequentemente armazenadas em caixas ou em filmes frágeis, invisíveis aos olhos do público. Recentemente, empresas que constroem inteligência artificial começaram a pedir acesso a estas coleções ocultas. Elas querem alimentar os seus modelos de computador com estes dados históricos para os tornar mais inteligentes e instruídos. O objetivo é ensinar às máquinas como os humanos pensaram, escreveram e criaram ao longo de séculos. No entanto, as pessoas que guardam estes arquivos estão hesitantes. Elas temem que, se entregarem os seus materiais, as máquinas aprendam os factos, mas se esqueçam de onde esses factos vieram. Temem perder o controlo sobre a sua própria história, sendo incapazes de impedir que as máquinas utilizem a informação de formas que nunca foram pretendidas. Esta tensão está no cerne de um novo debate: devem os arquivos dizer não para proteger o seu passado, ou dizer sim para moldar o seu futuro?
Um estudo recente de Jinfang Niu, investigadora da Universidade do Sul da Flórida, sugere que os arquivos podem estar a olhar para este problema da forma errada. O artigo argumenta que os arquivos estão demasiado focados em exigir coisas da inteligência artificial que a tecnologia simplesmente não pode fornecer, como uma lista perfeita de cada um dos documentos utilizados para criar uma resposta específica. A autora sugere que, ao baixar estas expectativas, os arquivos podem, na verdade, ganhar mais poder e proteção. Em vez de tentarem forçar as máquinas a recordar cada detalidade do seu treino, os arquivos devem aceitar que as máquinas não serão capazes de rastrear as suas respostas até a uma página específica. Em troca desta aceitação, os arquivos podem negociar melhores acordos, manter as suas ferramentas mais valiosas para si e garantir que não são responsabilizados se as máquinas utilizarem mal a informação.
A questão central reside em como a inteligência artificial aprende. Quando um humano lê um livro, ele recorda a história e as ideias, mas não mantém um mapa mental de cada frase que leu para formar um pensamento. Da mesma forma, quando um modelo de IA é treinado, ele absorve vastas quantidades de informação para a sua estrutura interna, conhecida como pesos. Estes pesos não são um arquivo de documentos; são uma rede complexa de conexões matemáticas. Uma vez concluído o aprendizado, o modelo não consegue apontar para uma página específica num arquivo específico e dizer: "Aprendi este facto aqui". A informação é misturada. O artigo observa que esperar que uma IA forneça uma citação para cada peça de dado utilizada para gerar uma resposta é como pedir a uma pessoa para recordar a sequência exata de memórias que a levou a escrever um poema. Não é apenas difícil; para a tecnologia atual, é praticamente impossável.
Devido a esta realidade técnica, a autora argumenta que os arquivos devem deixar de insistir na "proveniência ao nível do item", que é o requisito de ligar cada saída da IA a um registo específico. Em vez disso, os arquivos devem perceber que esta incapacidade de rastrear a fonte é, na verdade, a sua maior vantagem. Se uma IA não consegue replicar ou citar perfeitamente um documento específico, então o arquivo original continua a ser o único lugar onde esse documento pode ser encontrado na sua forma verdadeira e inalterada. A máquina pode conhecer os factos, mas não pode substituir a necessidade de um humano ver a evidência original. Isto significa que os arquivos não perdem o seu valor ao partilharem os seus dados; eles tornam-se ainda mais essenciais como a fonte de verdade confiável.
O artigo também desafia o medo de que os arquivos perderão o controlo sobre o seu conhecimento uma vez que este esteja dentro de uma máquina. A autora aponta que os arquivos nunca controlaram verdadeiramente o que acontece com a informação depois de ela sair do seu edifício. Quando um investigador lê um documento e depois escreve um livro ou dá uma palestra baseada no que aprendeu, o arquivo não pode impedi-lo. O conhecimento entrou na mente humana, e o arquivo não tem poder para fazer o investigador esquecer. A autora sugere que os modelos de IA são semelhantes. Uma vez que a informação é absorvida, ela passa a fazer parte do sistema de conhecimento. Tentar forçar uma empresa a deletar factos específicos de um modelo treinado é incrivelmente caro e tecnicamente difícil, muitas vezes exigindo que o modelo seja reconstruído do zero. Em vez de lutar uma batalha perdida para controlar a memória da máquina, os arquivos devem focar-se em controlar os termos do acordo.
Para que isto funcione, o artigo propõe um novo conjunto de estratégias para os arquivos seguirem. Primeiro, devem adaptar os seus acordos com base no estatuto legal dos materiais. Por exemplo, se o arquivo detém os direitos de autor, pode cobrar pelo uso dos dados. Se o material estiver no domínio público, o arquivo pode pedir financiamento para ajudar na digitalização da coleção em troca de permitir que a IA o utilize. Se o material for restrito devido a questões de privacidade ou acordos de doadores, deve ser mantido fora dos dados de treino. Segundo, os arquivos devem utilizar uma tecnologia chamada Geração Aumentada de Recuperação, ou RAG. Este é um método onde a IA não depende da sua memória interna para os factos, mas sim procura-os numa base de dados em tempo real. Isto permite que a IA dê uma resposta e imediatamente mostre ao utilizador o documento específico que encontrou, resolvendo o problema das citações ausentes sem precisar de alterar a forma como a IA aprende.
Finalmente, a autora sugere que os arquivos devem parar de tentar bloquear as empresas de IA da internet e começar a negociar com elas. Os arquivos podem pedir dinheiro para ajudar na digitalização, melhores ferramentas de IA para o seu próprio pessoal, ou proteção jurídica. O artigo recomenda que os arquivos incluam uma cláusula nos seus acordos estipulando que, se a empresa de IA ou os seus utilizadores utilizarem mal a informação, o arquivo não é responsável. Isto transfere o risco jurídico para a empresa, protegendo o arquivo de processos judiciais caso a IA gere conteúdo prejudicial. A autora também apela a políticas governamentais que incentivem as empresas de IA a contribuir para o bem público, garantindo que a riqueza gerada por estas tecnologias ajude a apoiar as instituições culturais que fornecem os dados em primeiro lugar.
O estudo conclui que os arquivos não precisam de ter medo da inteligência artificial. Ao aceitarem que as máquinas não conseguem rastrear perfeitamente as suas fontes, os arquivos podem deixar de gastar energia em exigências impossíveis. Em vez disso, podem focar-se no que fazem melhor: preservar os registos originais e fornecer o contexto que as máquinas não conseguem fornecer. Ao negociar acordos inteligentes e utilizar novas tecnologias para ligar as respostas de volta às fontes, os arquivos podem transformar uma ameaça potencial numa parceria que assegura o seu futuro enquanto ajuda o mundo a aprender com o seu passado. O caminho a seguir não é dizer não, mas sim dizer sim sob termos que protejam a integridade do arquivo e o valor da história que ele guarda.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.