당신이 며칠에 걸쳐 미스터리를 해결하려는 탐정이라고 상상해 보세요. 당신은 "오후 8시에 집사가 서재에 있었다"와 같은 단서를 적어두는 노트를 가지고 있습니다. 하지만 여기에는 함정이 있습니다. 당신의 노트는 당신이 어디를 보았는지만 기록할 뿐, 발견한 실제 증거는 기록하지 않습니다. 만약 밤사이에 서재가 리모델링되어 책장이 이동한다면, 당신의 예전 노트는 여전히 "서재"라고 말하고 있겠지만, 그 단서는 이제 쓸모없는 것이 됩니다. 이는 "코딩 에이전트(coding agents)"—스마트한 컴퓨터 프로그램으로서 소프트웨어를 작성하고 수정하는 존재들—가 겪는 일상적인 문제입니다. 이 에이전트들은 세션을 넘길 때 바통을 전달하며 교대 근무를 하곤 합니다. 그들은 무엇을 확인했는지 기억하기 위해 노트에 의존하지만, 만약 그들이 작업 중인 소프트웨어가 배후에서 변경된다면("drift"), 그 노트들은 위험한 거짓말이 될 수 있습니다. 노트는 에이전트에게 "이 부분은 안전해!"라고 말할 수도 있지만, 더 심하게는 에이전트가 "더 이상 모르겠다"라고 솔직히 말해야 할 상황에서 억지로 추측하게 만들 수도 있습니다.

이 논문은 바로 그 문제를 다룹니다. 질문은 이것입니다: 어떻게 하면 AI 에이전트에게 단순히 "내가 이것을 확인했다"라고 말하는 것이 아니라, 무엇을 대상으로 확인했는지를 정확하게 기억하게 할 수 있을까? 저자들은 EA-Graph라고 불리는 새로운 종류의 메모리 시스템을 구축했습니다. EA-Graph는 전체 파일을 하나의 진실 덩어리로 취급하는 대신, 리스트의 단일 숫자나 특정 설정과 같이 아주 작은 데이터 조각들을 정밀하게 파고들어 기억합니다. 또한 이 시스템은 특별한 "거절" 버튼을 가지고 있습니다. 만약 그것이 의존했던 증거가 사라지거나 변했다면, 시스템은 추측하는 대신 해당 주장을 "증명 불가능(unprovable)"으로 표시합니다. 연구진은 이 시스템이 AI 에이전트가 자신의 예전 작업이 더 이상 유효하지 않다는 것을 포착하는 데 도움이 되는지 확인하기 위해 통제된 가상의 소프트웨어 세계에서 이를 테스트했습니다. 그 결과, 이 새로운 메모리 시스템은 작고 빠른 AI 모델들에게 게임 체인저가 되어, 그들이 보통 저지르는 실수를 피하도록 도와준다는 것을 발견했습니다. 반면, 매우 똑똑하고 거대한 모델들의 경우, 이미 스스로 충분히 잘 해내고 있었기 때문에 이 새로운 시스템이 큰 통계적 이점을 보여주지는 못했습니다. 이 연구는 구조화된 메모리가 복잡한 재확인 작업을 분담함으로써 작은 뇌가 큰 뇌의 과업을 수행하도록 도울 수 있음을 시사하지만, 이것이 순수한 지능을 완전히 대체할 수 있다는 것을 증명하는 것은 아닙니다.

문제점: "침묵하는" 거짓말

당신이 레시피를 바탕으로 케이크를 굽고 있다고 상상해 보세요. 당신은 다음과 같이 적습니다: "설탕을 확인했음; 2컵임." 나중에 누군가 몰래 주방에 들어와 설탕을 3컵으로 바꾸었지만, 설탕 봉지나 상자는 건드리지 않았습니다. 당신의 노트는 여전히 "2컵"이라고 말하고 있고, 봉지도 그대로입니다. 만약 당신이 이 노트를 따른다면, 케이크를 망치게 될 것입니다.

소프트웨어의 세계에서도 이런 일이 항상 일어납니다. 코딩 에이전트는 프로그램이 올바르게 작동하는지 확인하고, "검증됨"이라는 노트를 작성한 뒤 다음 단계로 넘어갑니다. 그러고 나서 "업스트림(upstream, 프로그램이 의존하는 소스 코드나 데이터)"이 미세하게 변경됩니다. 예를 들어, 데이터베이스의 숫자가 10에서 11로 바뀔 수 있습니다. 파일 이름은 바뀌지 않았고, 임포트(import)도 여전히 작동하며, 프로그램도 컴파일됩니다. 하지만 로직(logic)은 이제 깨진 상태입니다.

문제는 전통적인 노트가 너무 모호하다는 점입니다. 노트는 "파일 rates.py를 확인했다"라고만 말합니다. 하지만 rates.py 안에는 50개의 서로 다른 숫자가 들어있을 수 있습니다. 만약 에이전트가 파일 이름만을 기억한다면, 자신이 의존했던 특정 숫자가 변했는지 알 수 없습니다. 이는 "침묵하는 오류(silent errors)"로 이어집니다. 즉, 프로그램이 충돌을 일으키지는 않지만 잘못된 답을 내놓게 만드는 버그입니다. 논문은 이를 **파일 입도(file granularity, 파일 전체를 보는 것)**와 **아티팩트 입도(artifact granularity, 특정 데이터 조각을 보는 것)**의 차이라고 부릅니다. 연구진은 만약 파일 단위로만 본다면, 실제로는 17개만 문제가 있음에도 불구하고 96개 중 88개의 동작이 깨졌다고 오판할 수 있다는 것을 발견했습니다. 이는 엄청난 오보입니다!

해결책: EA-Graph (The "Anchor" System)

이를 해결하기 위해 저자들은 EA-Graph를 만들었습니다. 이것을 초정밀 닻(anchor) 시스템이라고 생각하면 됩니다. 클레임을 전체 파일에 묶는 대신, EA-Graph는 그것을 사용된 정확하고 아주 작은 데이터 조각에 연결합니다.

작동 방식은 다음과 같습니다 (재치 있는 비유를 사용하겠습니다):
당신이 VIP 명단을 확인하는 보안 요원이라고 상상해 보세요.

• 기존 방식 (산문 형태의 노트): 당신은 "로비에 있는 VIP 명단을 확인했음"이라고 적습니다. 만약 누군가 명단의 이름을 바꾼다면, 당신이 어떤 이름을 보았는지 기록하지 않았기 때문에 당신의 노트는 무용지물이 됩니다.
• EA-Graph 방식: 당신은 "고양이 사진을 가진 ID #123의 VIP '앨리스'를 확인했음"이라고 적습니다.
  • 하위 경로 식별 (Sub-path Identity): 만약 로비가 이동하거나 명단에 새 페이지가 추가되더라도, 당신의 노트는 로비가 아니라 "앨리스"와 "ID #123"에 고정되어 있기 때문에 여전히 유효합니다.
  • 별칭 해결 (Alias Resolution): 때때로 이름은 까다롭습니다. "앨리스"가 어떤 곳에서는 "고양이 아주머니"로, 다른 곳에서는 "VIP-001"로 기재될 수 있습니다. EA-Graph는 이 흔적을 따라가서 이들이 모두 동일 인물임을 알아낼 만큼 똑똑합니다.
  • "증명 불가능" 버튼: 이것이 가장 중요한 부분입니다. 만약 새로운 명단에서 "앨리스" 항목이 삭제되었고 새로운 버전을 찾을 수 없다면, EA-Graph는 "아마도 여전히 앨리스일까?" 혹은 "혹은 밥일까?"라고 추측하지 않습니다. 대신, **"증명 불가능(Unprovable)"**이라고 말합니다. "증거가 사라졌기 때문에 더 이상 검증할 수 없다"라고 인정하는 것입니다. 이는 에이전트가 사실을 지어내거나 위험하게 추측하는 것을 방지합니다.

실험: 만들어진 세계

실제 소프트웨어에서는 환경이 매우 복잡하고, AI에게 정답을 실수로 유출할 수도 있기 때문에 이를 테스트하기가 쉽지 않습니다. 그래서 연구진은 시뮬레이션된 세계를 구축했습니다.

• 그들은 12개의 모듈과 96개의 구체적인 동작(예: "VIP를 위한 가격 계산")을 가진 7개의 서로 다른 "세계"를 만들었습니다.
• AI에게 "참조(reference, 진실)"와 "포트(port, AI가 유지하는 코드)"를 제공했습니다.
• 첫 번째 라운드(D1)에서 코드를 검증했습니다.
• 그 후, 일부 숫자가 바뀌고, 일부 로직이 교체되며, 일부 데이터가 **보류(withheld, 숨겨짐)**된 두 번째 버전(D2)을 투입했습니다.
• AI는 새로운 버전을 보고 각 96개 동작에 대해 다음 중 하나로 결정해야 했습니다: 영향 없음(Unaffected) (여전히 정상), 영향 받음(Affected) (고장 남), 또는 증명 불가능(Unprovable) (데이터가 없어서 알 수 없음).

연구진은 세 가지 유형의 메모리를 테스트했습니다:

1. ANCHOR: 새로운 EA-Graph 시스템.
2. PROSE: "이것을 확인했다"라는 단순한 텍스트 노트.
3. NONE: 메모리가 전혀 없음 (AI가 처음부터 스스로 파악해야 함).

이 실험은 두 가지 다른 AI 모델을 대상으로 진행되었습니다: 작고 빠른 모델(Haiku)과 크고 똑똑한 모델(Sonnet)입니다.

결과: 작은 모델의 승리

결과는 매우 흥ًا로웠으며, 특히 작은 AI 모델(Haiku)에서 두드러졌습니다.

• 작은 모델 (Haiku): ANCHOR 메모리를 사용할 때, 거의 매번 분류를 정확하게 맞췄습니다 (대부분의 세계에서 1.000이라는 완벽한 점수). 메모리 없이 혹은 단순한 노트만 사용했을 때는 매우 고전하며 0.27에서 0.29 정도의 점수를 기록했습니다. 이 차이는 통계적으로 유의미했습니다 (p = 0.0156). 구조화된 메모리가 작은 모델을 훨씬 더 똑똑한 탐정처럼 행동하게 도와준 것입니다.
• 큰 모델 (Sonnet): 더 큰 모델은 이미 매우 뛰어났습니다. 단순한 노트나 메모리가 없는 상태에서도 거의 완벽한 점수(1.000)를 기록했습니다. 이미 충분히 잘하고 있었기 때문에, 새로운 메모리 시스템이 큰 통계적 개선을 보여주지는 못했습니다. 이는 마치 숙련된 요리사에게 새 칼을 선물하는 것과 같았습니다. 그들은 이미 기존 칼로도 완벽하게 재료를 썰고 있었기 때문입니다.

이것이 의미하는 것 (그리고 그렇지 않은 것)

이 논문은 매우 구체적인 주장을 합니다: 구조화된 메모리는 작은 모델이 무엇이 증명 가능한지를 판단하는 데 도움을 준다. 이는 AI에게 "검증 과정"을 외부화하여 저장(정확한 앵커를 저장)하는 방법을 제공함으로써, 작고 빠른 모델과 크고 느린 모델 사이의 격차를 줄일 수 있음을 시사합니다.

하지만 저자들은 과장하지 않도록 주의를 기울였습니다:

• 모든 것을 해결하는 마법의 해결책은 아닙니다: 이 연구는 무언가가 고장 났는지 판단하는 것만을 다루었을 뿐, 실제로 그것을 수정하는 것을 다루지 않았습니다. 실제로 한 세션에서는 판단은 완벽했지만, 수정하는 과정에서 실수로 코드를 파괴하기도 했습니다.
• 지능을 대체하는 것이 아닙니다: 메모리가 작은 모델을 일반적인 의미에서 "더 똑똑하게" 만든 것이 아니라, 정보가 부족할 때 추측하지 않도록 도와준 것입니다.
• 시뮬레이션입니다: 이 세계는 만들어진 것입니다. 실제 소프트웨어는 더 복잡하고, 데이터를 찾기 더 어려우며, 변화가 더 복잡할 수 있습니다.

연구는 이 "아티팩트 앵커형 메모리(artifact-anchored memory)"가 AI 에이전트가 자신이 무엇을 알고 있는지(그리고 무엇을 모르는지)에 대해 정직함을 유지하도록 돕는 강력한 도구이지만, 이는 특정한 문제에 대한 특정한 해결책임을 결론짓습니다. 즉, 변화하는 소프트웨어 세계에서 작고 변하는 데이터 조각들을 추적하는 문제입니다. 이는 우리가 AI 에이전트가 장기간 신뢰성 있게 작동하기를 원한다면, 모호한 노트를 주는 것을 멈추고 정밀한 앵커를 제공해야 함을 시사합니다.