Forgetting Is Not a Fix: Path Dependence in Sequential Engram Editing
이 논문은 순차적 엔그램 편집이 경로 의존성과 비가환적 동작을 보임을 입증함으로써 AI 엔그램 프레임워크의 구성적 메모리 상태 가설을 반증하며, 이를 통해 메모리 삭제가 누적된 순차적 부하 하에서 안정적인 해결책이 아님을 증명한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 동료 심사를 거치지 않은 프리프린트의 AI 생성 설명입니다. 의학적 조언이 아닙니다. 이 내용을 바탕으로 건강 관련 결정을 내리지 마세요. 전체 면책 조항 읽기
상상해 보세요. 당신에게는 모든 책이 초지능 로봇에 의해 쓰인 거대하고 마법 같은 도서관이 있습니다. 이 로봇은 단순히 책을 읽는 것이 아니라, 사실과 아이디어를 숫자 형태의 자신만의 '뇌' 속에 저장하며 학습합니다. 최근 과학자들은 로봇의 뇌 안에서 이러한 특정 기억들을 찾아내고, 컴퓨터에서 단일 파일을 삭제하는 것처럼 그것들을 지워내는 방법을 알아냈습니다. 이 과정을 '기계 언러닝(machine unlearning)'이라고 부르는데, 이는 매우 중요한 일입니다. 만약 로봇이 배워서는 안 될 것(예: 비밀이나 해로운 사실)을 배웠을 때, 나머지 뇌를 망가뜨리지 않고도 그 특정 내용만을 잊게 만들 수 있어야 하기 때문입니다.
로봇의 뇌를 복잡하게 얽힌 거대한 실타래라고 생각해 보세요. 로봇이 무언가를 배울 때마다 특정 실들이 팽팽해집니다. 무언가를 잊게 만들기 위해, 과학자들은 바로 그 특정 기억을 느슨하게 만들기 위해 잘라낼 적절한 실들을 찾아내는 방법을 발견했습니다. 최근 한 연구는 만약 로봇이 두 가지 서로 다른 것을 잊어야 한다면, 어떤 것을 먼저 자르든 상관없이 결과는 동일할 것이라고 제안했습니다. 마치 파란색과 노란색 물감을 섞어 초록색을 만들 때, 파란색을 먼저 붓든 노란색을 먼저 붓든 상관없는 것과 같습니다. 그들은 이를 '가환 다양체(commutative manifold)'라고 불렀는데, 이는 조작의 순서가 결과에 영향을 미치지 않는다는 멋진 표현입니다. 하지만 이 논문은 매우 중요한 질문을 던집니다. 만약 계속해서 반복적으로 실을 자른다면 어떻게 될까요? 뇌가 지치게 될까요? 실제로 순서가 중요할까요?
이 논문은 마치 재료 과학자가 다리를 테스트하는 것과 같습니다. 단순히 다리가 자동차 한 대를 견딜 수 있는지 확인하는 대신, 무거운 트럭을 한 대, 그다음 또 한 대, 계속해서 몰고 지나가며 금속이 피로를 느끼거나 균열이 생기는지 확인하는 것입니다. 연구진은 이전 연구의 방식을 그대로 가져와 세 가지 서로 다른 크기의 로봇 뇌(모델)를 대상으로 테스트했습니다. 그들은 단 하나의 기억만 지운 것이 아니라, 기억의 순서를 차례대로 지워나가며, 건드리지 않은 나머지 부분들에 어떤 일이 일어나는지 관찰했습니다.
그들이 발견한 결과는 다음과 같으며, 결과적으로 "순서가 상관없다"는 생각은 반복적으로 수행할 때 틀린 것으로 드러났습니다.
첫째, 그들은 로봇의 뇌가 **경로 의존적(path-dependent)**이라는 것을 발견했습니다. 이는 당신이 행한 이력이 중요하다는 뜻입니다. 만 만약 기억 A를 자른 뒤 기억 B를 자른다면, 로봇은 B를 먼저 자르고 A를 나중에 가른 경우와 완전히 다른 상태가 됩니다. 실제로 그 차이는 매우 컸는데, 서로 밀접하게 연관된 기억의 경우 전체 편집 크기의 약 81%에서 100%에 달했고, 서로 거리가 먼 기억의 경우 약 47%에서 68%에 달했습니다. 이는 종이를 접는 것과 같습니다. 왼쪽으로 접고 오른쪽으로 접는 것과, 오른쪽으로 접고 왼쪽으로 접는 것은 결과물의 모양이 달라집니다. 로봇의 뇌는 편집의 순서를 기억하며, 최종 결과는 편집 순서에 따라 변합니다.
둘째, 중첩(overlap)이 발생하면 순서가 훨씬 더 결정적이 된다는 것을 발견했습니다. 만약 로봇이 잊어야 할 두 가지가 서로 관련되어 있다면(예: 파리의 유명한 랜드마크인 '에펠탑'과 '루브르 박물관'), 이들을 자르는 순서가 그 자체의 편집만큼이나 결과에 큰 영향을 미칩니다. 한 구체적인 테스트에서, 루브르를 먼저 지웠을 때 에펠탑을 먼저 지운 경우보다 로봇은 전혀 관련이 없는 제3의 기억인 '콜로세움'까지 완전히 잊어버렸습니다. 하지만 에펠탑을 먼저 지웠다면 콜로세움의 기억은 안전하게 유지되었습니다. 즉, 편집의 순서가 건드리지 않은 제3의 기억이 살아남을지 죽을지를 결정한 것입니다.
셋째, 이 논문은 로봇의 뇌에 **피로(fatigue)**가 축적된다는 것을 보여줍니다. 기억을 지울 때마다, 직접적으로 건드리지 않은 뇌의 부분들이 이동하고 뒤틀리기 시작했습니다. 연구진은 로봇의 내부 '변형률 측정기(strain gauges, 데이터가 어떻게 조직되어 있는지 추적하는 수학적 도구)'를 사용하여 이를 측정했습니다. 그들은 새로운 편집이 이루어질 때마다, 손대지 않은 부분들이 원래의 상태로부터 점점 더 멀리 벗어나는 것을 목격했습니다. 이는 종이 클립을 앞뒤로 계속 구부리는 것과 같습니다. 잡고 있는 부분을 부러뜨리지 않더라도, 시간이 지남에 따라 금속은 약해지고 모양이 변하게 됩니다.
마지막으로, 가장 놀라운 점은 망각이 우리가 생각했던 방식처럼 영구적이지 않다는 사실을 발견했다는 것입니다. 두 번째 혹은 세 번째 기억을 지울 때, 로봇은 이전에 지웠던 첫 번째 기억을 다시 '기억'해 내기도 했습니다. 한 사례에서는 거의 완전히 사라졌던(점수 8.91) 기억이, 나중에 다른 관련 없는 기억을 지웠을 뿐인데도 상당히 크게 되살아났습니다(4.85로 하락). 즉, 무언가를 잊기 위해 뇌를 편집하는 행위가 오히려 지워졌던 지식을 로봇의 마음속으로 다시 밀어 넣을 수도 있다는 것입니다.
그렇다면 이것은 무엇을 의미할까요? 어떤 순서로 지워도 완벽하고 안정적인 결과를 얻을 수 있다는 생각은 거짓입니다. 만약 당신이 오늘 로봇이 무언가를 잊게 만들기 위해 이 방법을 사용하고, 내일 또 다른 것을 잊게 하기 위해 다시 편집한다면, 로봇은 첫 번째로 지웠던 것을 다시 기억해 낼 수도 있습니다. 오늘 받은 '삭제 증명서'는 내일 유효하지 않을 수 있습니다. 로봇의 뇌는 단순히 파일을 삭제할 수 있는 정적인 객체가 아니라, 편집의 역사가 미래를 바꾸는 살아 움직이는 시스템입니다. 과학자들은 로봇을 망가뜨리지는 않았지만, '매직 이레이저(마법 지우개)'에는 한계가 있다는 것을 증명했습니다. 한 번의 편집에는 훌륭하게 작동할지 모르나, 계속 사용하다 보면 순서가 중요해지고, 뇌는 지치며, 잊혔던 것들이 다시 돌아올 수도 있습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.