Cooperate And Compete: Archives Can Gain More By Expecting Less From AI Training

세계의 도서관과 기록 보관소의 조용한 구석에는 수백만 개의 독특한 문서, 사진, 녹음 파일들이 발견되기를 기다리며 놓여 있습니다. 이것들은 단순한 오래된 종이가 아닙니다. 그것들은 종종 상자나 취약한 필름에 담겨 대중의 눈에 띄지 않는 채로 보관되어 있는 인류 기억의 가공되지 않은 원료입니다. 최근 인공지능을 구축하는 기업들은 이 숨겨진 컬렉션에 대한 접근 권한을 요청하기 시작했습니다. 그들은 이 역사적 데이터를 컴퓨터 모델에 주입하여 모델을 더 똑똑하고 박식하게 만들기를 원합니다. 목표는 기계에게 인간이 수 세기에 걸쳐 어떻게 생각하고, 쓰고, 창조해 왔는지를 가르치는 것입니다. 그러나 이 기록물을 지키는 사람들은 망설이고 있습니다. 그들은 만약 자신들의 자료를 내어준다면, 기계가 사실은 학습하되 그 사실이 어디에서 왔는지는 잊어버릴 것을 걱정합니다. 그들은 자신들의 역사에 대한 통제권을 잃고, 기계가 의도하지 않은 방식으로 정보를 사용하는 것을 막을 수 없게 될 것을 두려워합니다. 이 긴장감은 새로운 논쟁의 핵심에 자리 잡고 있습니다. 기록 보관소는 과거를 보호하기 위해 '아니오'라고 말해야 할까요, 아니면 미래를 형성하기 위해 '예'라고 말해야 할까요?

사우스 플로리다 대학교의 연구원인 니우 진팡(Jinfang Niu)의 최근 연구는 기록 보관소들이 이 문제를 잘못된 방향으로 바라보고 있을 수도 있다고 시사합니다. 이 논문은 기록 보관소들이 인공지능이 단순히 제공할 수 없는 것들, 예를 들어 특정 답변을 만드는 데 사용된 모든 문서를 완벽하게 목록화하는 것과 같은 것들을 요구하는 데 너무 치중하고 있다고 주장합니다. 저자는 이러한 기대치를 낮춤으로써 기록 보관소가 실제로 더 많은 힘과 보호를 얻을 수 있다고 제안합니다. 기계가 학습한 모든 세부 사항을 기억하도록 강요하는 대신, 기록 보관소는 기계가 특정 페이지까지 추적할 수 없다는 점을 받아들여야 합니다. 이 수용을 대가로, 기록 보관소는 더 나은 거래를 협상하고, 가장 가치 있는 도구들을 스스로 보유하며, 기계가 정보를 오용하더라도 책임을 지지 않도록 보장받을 수 있습니다.

문제의 핵심은 인공지능이 학습하는 방식에 있습니다. 인간이 책을 읽을 때, 사람은 이야기와 아이디어를 기억하지만, 하나의 생각을 형성하기 위해 읽은 모든 문장의 정신적 지도를 유지하지는 않습니다. 마찬가지로, AI 모델이 훈련될 때, 모델은 방대한 양의 정보를 '가중치(weights)'라고 불리는 내부 구조로 흡수합니다. 이 가중치는 문서들의 파일 캐비닛이 아니라, 수학적 연결의 복잡한 웹입니다. 학습이 완료되면, 모델은 특정 기록의 특정 페이지를 지목하며 "나는 이것을 여기서 배웠다"라고 말할 수 없습니다. 정보는 하나로 혼합됩니다. 논문은 AI가 답변을 생성하기 위해 사용한 모든 데이터에 대해 인용을 제공하도록 요구하는 것은, 사람이 시를 쓰기 위해 이끌어낸 기억의 정확한 순서를 회상하라고 요구하는 것과 같다고 언급합니다. 그것은 단지 어려운 일이 아니라, 현재의 기술로는 사실상 불가능한 일입니다.

이러한 기술적 현실 때문에, 저자는 기록 보관소가 모든 출력물을 특정 기록과 연결하라는 요구인 '항목 수준의 출처(item-level provenance)'를 고집하는 것을 멈춰야 한다고 주장합니다. 대신, 기록 보관소는 이러한 추적 불가능성이 오히려 자신들의 가장 큰 이점임을 깨달아야 합니다. 만약 AI가 특정 문서를 완벽하게 복제하거나 인용할 수 없다면, 원래의 기록 보관소가 그 문서를 진실하고 변형되지 않은 형태로 찾을 수 있는 유일한 장소로 남게 됩니다. 기계는 사실을 알 수는 있겠지만, 인간이 실제 증거를 확인해야 할 필요성을 대체할 수는 없습니다. 이는 기록 보관소가 데이터를 공유함으로써 가치를 잃는 것이 아니라, 오히려 신뢰할 수 있는 진실의 원천으로서 더욱 필수적인 존재가 됨을 의미합니다.

또한 이 논문은 기록 보관소가 정보가 기계 내부로 들어간 후에도 지식에 대한 통제권을 잃을 것이라는 두려움에 도전합니다. 저자는 기록 보관소가 자료가 건물 밖을 나가는 순간 어떤 일이 벌어질지에 대해 진정으로 통제해 본 적이 없다는 점을 지적합니다. 연구자가 문서를 읽고 그로부터 배운 것을 바탕으로 책을 쓰거나 강연을 할 때, 기록 보고는 그를 막을 수 없습니다. 지식은 인간의 정신 속으로 들어갔으며, 기록 보관소는 연구자가 그것을 잊도록 만들 힘이 없습니다. 저자는 AI 모델도 이와 유사하다고 말합니다. 정보가 흡수되면, 그것은 시스템의 지식의 일부가 됩니다. 훈련된 모델에서 특정 사실을 삭제하도록 강제하는 것은 매우 비용이 많이 들고 기술적으로 어려우며, 종종 모델을 처음부터 다시 구축해야 하는 작업입니다. 기계의 기억을 통제하려는 데 지는 싸움을 하기보다, 기록 보관소는 거래의 조건을 통제하는 데 집중해야 합니다.

이를 실현하기 위해, 논문은 기록 보관소가 따라야 할 새로운 전략 세트를 제안합니다. 첫째, 자료의 법적 상태에 따라 계약을 맞춤화해야 합니다. 예를 들어, 기록 보관소가 저작권을 소유하고 있다면 데이터 사용에 대해 비용을 청구할 수 있습니다. 만약 자료가 퍼블릭 도메인(공공 저작물)에 해당한다면, 기록 보관소는 컬렉션을 디지털화하는 데 도움을 주는 대가로 AI가 이를 사용할 수 있도록 허용할 수 있습니다. 만약 자료가 개인정보 보호나 기증자 협약으로 인해 제한되어 있다면, 아예 훈련 데이터에서 제외해야 합니다. 둘째, 기록 보관소는 '검색 증강 생성(Retrieval-Augmented Generation, RAG)'이라는 기술을 사용해야 합니다. 이는 AI가 내부 기억에 의존하는 대신 실시간으로 데이터베이스에서 정보를 찾아보는 방식입니다. 이를 통해 AI는 답변을 제공함과 동시에 사용자가 찾은 특정 문서를 즉시 보여줄 수 있으며, 이는 AI가 학습하는 방식을 바꾸지 않고도 누락된 인용 문제를 해결해 줍니다.

마지막으로, 저자는 기록 보관소가 인터넷으로부터 AI 기업들을 차단하려고 노력하는 대신 그들과 협상해야 한다고 제안합니다. 기록 보관소는 디지털화를 돕기 위한 자금, 직원들을 위한 더 나은 AI 도구 활용 권한, 또는 법적 보호를 요청할 수 있습니다. 논문은 AI 기업이나 그 사용자가 정보를 오용할 경우 기록 보관소는 책임이 없다는 조항을 계약에 포함할 것을 권장합니다. 이는 법적 위험을 기업으로 넘겨, AI가 유해한 콘텐츠를 생성하더라도 기록 보관소가 소송으로부터 보호받을 수 있게 합니다. 저자는 또한 AI 기업이 공익에 기여하도록 하는 정부 정책을 촉구하며, 이를 통해 기술로부터 창출된 부가 최초의 데이터를 제공한 문화 기관들을 지원하는 데 쓰이도록 해야 한다고 말합니다.

연구는 기록 보관소가 인공지능을 두려워할 필요가 없다고 결론짓습니다. 기계가 출처를 완벽하게 추적할 수 없음을 받아들임으로써, 기록 보관소는 불가능한 요구에 에너지를 낭비하는 것을 멈출 수 있습니다. 대신, 그들은 자신들이 가장 잘하는 일, 즉 원래의 기록을 보존하고 기계가 할 수 없는 맥락을 제공하는 일에 집중할 수 있습니다. 스마트한 계약을 협상하고 새로운 기술을 사용하여 답변을 출처와 연결함으로써, 기록 보고는 잠재적 위협을 파트너십으로 전환하여 과거로부터 세상을 배우는 데 도움을 주는 동시에 자신들의 미래를 확보할 수 있습니다. 앞으로 나아가는 길은 '아니오'라고 말하는 것이 아니라, 기록 보관소의 무결성과 그곳이 간직한 역사의 가치를 보호하는 조건 하에 '예'라고 말하는 것입니다.