The Dynamic Gist-Based Memory Model (DGMM): A Memory-Centric Architecture for Artificial Intelligence

동적 개괄 기반 기억 모델 (DGMM) 논문에 대한 설명을 일상적인 비유를 사용하여 쉬운 언어로 번역한 것입니다.

큰 문제: "기억상실증" AI

도서관의 모든 책을 읽었지만 일기나 저널도 없고, 언제 무엇을 읽었는지 또는 누가 이야기를 들려주었는지 기억할 방법도 없는 천재 학생을 상상해 보세요.

이것이 오늘날 대부분의 인공지능 (대형 언어 모델 등) 이 작동하는 방식입니다. 이들은 방대한 양의 텍스트를 기반으로 내부 '뇌 설정 (파라미터)'을 조정하며 학습합니다. 일단 학습이 완료되면 그 상태에 갇히게 됩니다.

• 문제: 질문을 받으면 고정된 설정을 기반으로 답변을 생성합니다. 그들은 어제 나눴던 특정 대화를 실제로 '기억'하지 않습니다. 어떤 사실이 신뢰할 수 있는 뉴스 출처에서 왔는지 아니면 무작위 블로그 게시글에서 왔는지 알지 못합니다. 실수를 저지르면 그들의 '기억'을 살펴볼 수 없어 그 이유를 파악할 수 없습니다. 기억은 코드 내부에 숨겨져 있기 때문입니다.
• 논문의 진단: 저자들은 이것이 단순한 버그가 아니라 구조적 결함이라고 주장합니다. AI 는 경험들이 발생하는 순간마다 이를 저장할 전용 공간을 갖지 않고 설계되었습니다.

해결책: '살아있는 스크랩북 (DGMM)'

저자들은 DGMM이라는 새로운 AI 구축 방식을 제안합니다. 기억을 뇌 설정 내부에 숨기는 대신, 분리되고 가시적이며 성장하는 스크랩북으로 취급합니다.

다음은 이 논문을 간단한 개념으로 설명한 것입니다:

1. '개괄 (Gist)' 대 '스크립트'

친구에게 이야기를 할 때 보통 그들의 정확한 단어를 외우지는 않습니다. 대신 '개괄 (gist)'을 기억합니다. 즉, 주요 아이디어, 누가, 무엇을, 어디서였는지 말입니다.

• DGMM 의 방식: AI 가 무언가를 경험할 때 원본 텍스트를 저장하지 않습니다. 경험을 구조화된 '개괄 (개념, 행동, 대상)'으로 분해하여 연결된 아이디어의 웹인 그래프에 저장합니다.
• 비유: 장면의 사진을 찍고 뒷면에 캡션을 적는 것과 같습니다. 사진이 '개괄'입니다. AI 는 원본 비디오 스트림을 저장하지 않고, 정돈된 사진과 캡션을 저장합니다.

2. '덮어쓰기 금지' 규칙

많은 컴퓨터 시스템에서는 새 파일을 저장할 때 기존 파일을 덮어쓸 수 있습니다. 하지만 DGMM 에서는 절대 삭제되거나 덮어쓰지 않습니다.

• 비유: 낡은 책을 절대 버리지 않는 도서관을 상상해 보세요. '프로젝트 X'에 대해 새로운 사실을 배우면 이전 페이지를 지우지 않습니다. 대신 새로운 페이지를 작성하여 선반에 추가합니다.
• 중요한 이유: 이전 출처가 "프로젝트 X 는 성공이었다"고 말했고 새로운 출처가 "프로젝트 X 는 실패했다"고 말한다면, DGMM 은 두 페이지 모두를 보관합니다. 즉시 혼란스러운 중간 지대로 통합하려 하지 않습니다. 시간의 흐름에 따른 변화를 볼 수 있도록 역사를 온전하게 유지합니다.

3. '단서 (Cue)' (탐조등)

이 논문은 기억을 찾을 수 있을 때만 유용하다고 강조합니다. DGMM 은 기억을 찾기 위해 **단서 (cues)**를 사용합니다.

• 비유: 기억을 어두운 창고라고 상상해 보세요. '단서'는 손전등입니다.
  • '프로젝트 X'에 손전등을 비추면 '성공' 페이지와 '실패' 페이지가 보입니다.
  • '최근 위험'에 손전등을 비추면 손전등이 '실패' 페이지를 강조하고 오래된 '성공' 페이지는 무시합니다.
• 핵심 포인트: 창고 (기억) 는 변하지 않습니다. 변하는 것은 당신이 무엇을 보는지 결정하는 *빛 (단서)*입니다. 이를 통해 AI 는 재학습이나 뇌 재작성 없이도 동일한 사실에 대해 다른 관점을 가질 수 있습니다.

4. '출처 (Source)' 태그 (출처 증명)

DGMM 의 모든 정보에는 **출처 (누가 알려주었는지)**와 **시간 (언제 발생했는지)**이 태그로 붙어 있습니다.

• 비유: 스크랩북의 모든 메모에는 "출처: 엄마, 날짜: 2020" 또는 "출처: 뉴스 채널, 날짜: 2024"라고 적힌 스티커가 붙어 있습니다.
• 중요한 이유: AI 가 답변을 제공하면 '스티커'를 확인하여 정보가 어디서 왔는지 알 수 있습니다. 이는 '환각 (사실 없는 내용 생성)' 문제를 해결합니다. 시스템이 사실의 실제 출처를 보여줄 수 있기 때문입니다.

작동 방식 (네 가지 규칙)

이 논문은 이 기억 시스템이 작동하는 네 가지 엄격한 규칙을 정의합니다:

1. 섭취 (추가): 새로운 정보가 들어오면 스크랩북에 추가됩니다. 절대 이전 페이지를 삭제하거나 변경하지 않습니다.
2. 통합 (정리): 때로는 시스템이 찾기 쉽도록 유사한 페이지들을 그룹화할 수 있지만, 아무것도 잃지 않도록 원래의 '출처'와 '시간' 태그를 계속 부착해야 합니다.
3. 회상 (읽기): 질문을 받으면 시스템은 '단서'를 사용하여 특정 페이지 하위 집합 (작동 기억) 을 꺼내 답변합니다. 읽는 동안에는 절대 원래 스크랩북을 변경하지 않습니다.
4. 분석 (사고): AI 는 꺼낸 페이지들을 살펴 답변을 형성합니다. 이 사고 과정은 기억이 저장되는 동안이 아니라, 기억이 꺼진 후에 발생합니다.

'놀라움' 메커니즘

이 논문은 **구조적 놀라움 (Structural Surprise)**이라는 흥미로운 개념을 도입합니다.

• 비유: 1 월에 친구에게 "프로젝트 X 는 어떻게 되었나요?"라고 물었을 때 한 가지 이야기를 들었다고 가정해 보세요. 12 월에 같은 질문을 했을 때 새로운 사실들이 들어왔기 때문에 약간 다른 이야기를 듣게 됩니다.
• DGMM 에서: 시스템은 이 차이를 감지할 수 있습니다. 1 월의 '손전등 시야'와 12 월의 '손전등 시야'를 비교합니다. 시야가 크게 변했다면 시스템은 '놀라움'을 기록합니다. 이는 오류가 아니라 기억이 진화했거나 새로운 상충 정보가 도착했음을 나타내는 신호입니다.

이 논문이 하는 일 (하고 하지 않는 일)

• 하는 일: **청사진 (구조적 이론)**을 제시합니다. "분리되고 성장하며 태그가 붙은 스크랩북을 갖춘 방식으로 AI 를 구축한다면 망각, 거짓말, 정보 출처 불명 등의 문제를 해결할 수 있다"고 말합니다. 이 청사진 뒤에 있는 규칙과 수학을 정의합니다.
• 하지 않는 일: 완성된 작동 소프트웨어 제품을 제시하지는 않습니다. 현재 AI 보다 시를 쓰는 속도가 더 빠르거나 똑똑하다고 주장하지도 않습니다. 모든 AI 문제를 즉시 해결한다고 주장하지도 않습니다. 이는 향후 연구자들이 기반을 삼을 이론적 토대입니다.

요약

이 논문은 진정한 지능형 AI 를 구축하려면 기억을 코드 내부의 숨겨지고 messy 한 부분으로 취급하는 것을 멈춰야 한다고 주장합니다. 대신 기억을 가시적이고 조직화되며 영구적인 도서관으로 취급해야 합니다. 모든 사실에 출처와 시간이 태그로 붙어 있어야 합니다. 사실의 저장과 사실의 해석을 분리함으로써, 자신의 역사를 기억하고 변화가 있을 때 이를 인정하며 지식이 어디서 왔는지 정확히 보여줄 수 있는 AI 를 만들 수 있습니다.