Similarity Finds the Fact, Not the Version: A Co-Trained Order Stamp in the Key Resolves Version Conflict in Persistent Model-Internal Memory

인공지능의 세계에는 '기억'이라는 지속적인 과제가 존재합니다. 언어를 이해하도록 설계된 대규모 컴퓨터 프로그램들은 긴 기간 동안 사실을 기억하는 데 어려움을 겪는 경우가 많으며, 특히 그 사실들이 변할 때 더욱 그렇습니다. 이 이야기가 어제 업데이트된 것인지 아니면 작년에 업데이트된 것인지 기억하지 못하는 디지털 사서라고 상상해 보십시오. 이를 해결하기 위해 연구자들은 컴퓨터가 자신의 기억을 즉각적인 작업 생각과는 분리된 전용 아카이브에 저장하는 시스템을 구축하기 시작했습니다. 이 아카이브는 영구적인 공책처럼 작동하여, 모델이 이전 세션에서 학습한 내용을 되돌아볼 수 있게 해줍니다. 그러나 동일한 정보가 기록되었다가 수정되고 다시 기록될 때 특정한 문제가 발생합니다. 컴퓨터는 공책에서 올바른 주제를 찾아낼 수는 있지만, 어떤 버전이 현재의 진실인지 파악하는 데는 종종 실패합니다. 모델은 오래된 사실과 새로운 사실을 똑같이 유효한 것으로 간주하여 혼란에 빠집니다.

독립 연구자인 맥시밀리아노 스페란자(Maximiliano Speranza)의 최근 연구는 바로 이 혼란을 조사합니다. 연구자는 코-트레이닝(co-trained) 아카이브를 갖춘 소형 언어 모델을 대상으로 연구를 진행했습니다. 코-트레이닝 아카이브는 메모리 저장이 외부 부가 기능이 아니라 모델의 학습 과정에 직접 내장된 시스템입니다. 이 설정에서 모델은 아카이브에 사실을 기록하고, 나중에 질문에 답하기 위해 이를 검색합니다. 모델이 단일 버전의 사실로 테스트되었을 때는 거의 완벽한 정확도로 거의 매번 올로된 정보를 검색했습니다. 하지만 아카이브에 동일한 사실의 두 번째 버전이 추가되는 순간, 모델의 성능은 무너졌습니다. 성능은 이전 버전과 새 버전 사이에서 무작위로 추측하는 수준보다도 낮은 수준으로 떨어졌습니다. 모델은 기억 속에서 올바른 항목을 성공적으로 찾아냈지만, 어떤 버전이 가장 최신인지 구별하는 능력은 상실한 것이었습니다.

이를 해결하기 위해 연구자는 간단한 요소를 도입했습니다. 메모리 아카이브의 모든 항목에 부착되는 작고 학습된 표식(marker)입니다. 이 표식, 즉 '스탬프'는 해당 정보가 작성된 특정 턴이나 시점을 기록합니다. 목표는 모델에게 사건의 순서를 볼 수 있는 방법을 제공하는 것이 도움이 되는지 확인하는 것이었습니다. 결과는 놀라웠습니다. 메모리 키에 이 타임스탬프가 추가되자, 가장 최신의 버전을 선택하는 모델의 능력은 무작위 추측 수준에서 다시 완벽에 가까운 정확도로 급증했습니다. 이제 모델은 구식 정보를 확실히 무시하고 현재의 사실을 선택할 수 있게 되었습니다.

결정적으로, 이 연구는 이러한 개선이 단순히 더 많은 데이터나 시스템 용량을 추가한 것이 아니라, 순서 정보 자체에서 비롯되었음을 입증했습니다. 이를 증명하기 위해 연구자는 모델에게 실제 정보가 작성된 시간과는 아무런 관련이 없지만 외관상 똑같아 보이는 표식을 부여하는 대조 실험을 수행했습니다. 이 경우 모델의 성능은 무작위 추측 수준에 머물렀습니다. 이는 단순히 추가적인 데이터가 존재하는 것만으로는 해결책이 될 수 없음을 확인시켜 주었습니다. 모델은 올바른 선택을 하기 위해 반드시 사건의 정확한 순서가 필요했던 것입니다. 연구는 또한 이 메커니즘이 견고하다는 것을 보여주었습니다. 모델이 최신 버전이 아닌 이전의 구버전 사실을 검색하도록 요청받았을 때도, 타임스탬프 덕분에 높은 정확도로 이를 수행할 수 있었습니다. 스탬프가 없으면 모델은 세 가지 다른 버전의 사실을 구분하지 못하고 단순히 추측했습니다. 하지만 스탬프가 있으면 최신 것이든 이전 것이든 요청된 특정 버전을 식별할 수 있었습니다.

연구는 또한 이러한 시스템이 학습하는 방식에 대한 놀랍고 실질적인 경고를 밝혀냈습니다. 연구에 따르면 모델은 사건의 순서를 이해하는 법을 배우는 것보다 최신 값을 선호하는 법을 훨씬 더 빠르게 배웠습니다. 일부 테스트에서 모델은 비교적 짧은 훈련 기간 후에 최신 사실을 올바르게 식별할 수 있었지만, 타임스탬프를 사용하여 사실의 역사를 탐색하는 법을 배우는 데는 훨씬 더 오랜 시간이 걸렸습니다. 이는 시스템이 단순히 가장 최근의 옵션을 추측함으로써 메모리 문제를 해결한 것처럼 보일 수 있지만, 여전히 자신의 지식에 대한 타임라인을 이해하는 더 깊은 능력은 결여되어 있을 수 있음을 시사합니다.

아마도 미래의 시스템을 위한 가장 중요한 발견은 잘못된 타임스탬프가 타임스탬프가 없는 것보다 더 나쁘다는 점일 것입니다. 연구자가 의도적으로 타임스탬프를 왜곡하여 사실이 작성된 시간에 대한 잘못된 정보를 모델에게 주었을 때, 모델의 성능은 스탬프가 아예 없을 때보다 더 낮게 떨어졌습니다. 모델은 스탬프를 가이드로 삼도록 학습되었는데, 그 가이드가 깨지자 전체 검색 과정이 손상을 입은 것입니다. 이는 타임스탬프를 사용하여 메모리를 관리하는 모든 시스템에서, 해당 표식의 정확도가 매우 중요하다는 것을 나타냅니다. 잘못된 신호는 시스템이 정보를 찾는 기본적인 기술조차 저하시키며, 심지어 올바른 항목을 식별하는 능력까지도 능동적으로 손상시킬 수 있습니다.

연구는 유사성 기반 시스템이 적절한 주제를 찾는 데는 탁 excel하지만, 사건의 순서를 정하는 데 필요한 정보를 자연적으로 포함하고 있지는 않다고 결론짓습니다. 그 순서는 파일 위의 라벨처럼 별도로 운반되어야 합니다. 메모리 키에 작은 타임스탬프를 코-트레이닝함으로써, 모델은 구식 사실과 새 사실 사이의 충돌을 해결하고 혼란에서 명확함으로 나아갈 수 있습니다. 이 연구는 인공 기억의 구조에서, 언제 일이 일어났는지 아는 것은 무엇이 일어났는지 아는 것만큼이나 중요하며, 잘못된 시간을 제공하는 것이 시간을 제공하지 않는 것보다 더 해로울 수 있다는 점을 강조합니다.