당신이 거대한 다단계 퍼즐을 풀려고 노력하는 아주 똑똑한 로봇 비서와 대화하고 있다고 상상해 보세요. 로봇이 임무를 수행하기 위해서는 지금까지 일어난 모든 일, 즉 자신이 발견한 단서, 수행한 움직임, 수정한 실수, 그리고 설정한 목표들을 기억해야 합니다. 인공지능의 세계에서 이 기억을 "컨텍스트(context)"라고 부릅니다. 하지만 여기 문제가 있습니다. 로봇에게는 제한된 "두뇌 크기(컨텍스트 윈도우)"가 있다는 점입니다. 이야기가 너무 길어지면 로봇은 무언가를 잊어버리거나 압도당하게 됩니다. 이를 해결하기 위해 과학자들은 "압축(compression)"이라는 방법을 사용하는데, 이는 마치 로봇에게 자신의 긴 모험을 짧은 요약본으로 작성하게 하여 그 전체 이야기를 다시 자신의 두뇌에 담을 수 있도록 만드는 것과 같습니다.

오랫동안 사람들은 그 요약본에 가장 중요한 사실들을 담기만 하면, 로봇이 전체 이야기를 읽었을 때만큼 똑똑할 것이라고 가정해 왔습니다. 하지만 이 새로운 연구는 그것이 꼭 그렇지만은 않다는 것을 시사합니다. 로봇의 여정을 요약하는 것은 마치 이미 지나온 랜드마크들의 지도만을 가지고 도시를 항해하려는 것과 같습니다. 즉, 자신이 방금 어떤 길로 접어들었는지는 기억하지 못한 채 말이죠. 로봇은 자신이 무엇을 했는지는 알 수 있지만, 현재 자신이 어디에 있는지에 대한 감각은 잃게 됩니다. 이로 인해 로봇은 혼란에 빠지거나, 단계를 반복하거나, 완전히 포기하게 됩니다. 이 논문은 왜 그런 일이 발생하는지 탐구하고, 로봇이 궤도를 벗어나지 않도록 더 나은 방식의 요약본을 만드는 방법을 연구합니다.

---

문제점: 요약이 로봇을 길 잃게 만들 때

소프트웨어 애플리케이션과 상호작용하는 AI 에이전트를 연구하는 연구진은 이 로봇들이 긴 작업을 처리할 때 발생하는 교묘한 문제를 발견했습니다. 로봇의 메모리가 가득 차면, 보통 새로운 정보를 위한 공간을 만들기 위해 가장 오래된 대화 내용들을 버립니다. 때때로 단순히 오래된 텍스트를 삭제하는 대신, 전체 기록을 깔끔하게 압축된 요약본으로 대체하기도 합니다.

연구팀은 이러한 요약본들이 서류상으로는 훌륭해 보일지 모르지만, 실제로 로봇의 행동을 훨씬 더 불안정하게 만든다는 것을 발견했습니다. 이는 마치 작가가 책의 중간 부분으로 갑자기 건너뛰며 "그리고 나서, 주인공은 행복해졌다"라고 말하는 것과 같습니다. 당신은 주인공이 행복해졌다는 사실은 알지만, 왜 그랬는지, 혹은 그 순간 바로 직전에 무슨 일이 있었는지는 알 수 없습니다. 이 때문에 로봇은 "국소적 위치(local position)"를 잃기 시작합니다. 로봇은 이미 완료한 작업을 다시 해야 한다고 생각하거나, 자신이 남겨둔 세상의 구체적인 상태를 기억하지 못해 막히게 될 수 있습니다.

실험에서 연구진은 로봇이 이러한 요약본을 사용할 때 "회귀적 탐색(regressive exploration)"을 한다는 것을 관찰했습니다. 이것은 로봇이 이미 했던 일을 다시 시도하거나, 결정적인 세부 사항을 잊어버려 진행이 막히는 현상을 뜻하는 어려운 표현입니다. 설상가gal하게도, 로봇은 신뢰할 수 없게 되었습니다. 만약 당신이 똑같은 퍼즐을 두 번 풀라고 요청한다면, 첫 번째에는 성공할지 몰라도 두 번째에는 요약본 때문에 자신의 위치에 대해 약간의 혼란을 느껴 실패할 수도 있습니다. 이 연구는 이것이 단순히 사실을 잃어버리는 문제가 아니라, 행동의 *흐름(flow)*을 잃어버리는 문제임을 보여주었습니다.

해결책: TRACE와 "경계(Boundary)" 테스트

이를 해결하기 위해 연구진은 TRACE라는 새로운 프레임워크를 발명했습니다. TRACE를 요약이 단순히 내용이 좋은지를 확인하는 것을 넘어, 실제로 그 요약이 효과가 있는지를 테스트하는 엄격한 편집자라고 생각해보세요.

TRACE가 어떻게 작동하는지 간단한 비유를 들어 설명하겠습니다. 당신이 강아지에게 공을 가져오도록 훈련시키고 있다고 상상해 보세요.

1. 기존 방식: 당신은 하루의 끝에 강아지를 보고 "공을 가져왔으니 잘했다"라고 말할 수도 있습니다. 하지만 만약 강아지가 가는 도중에 길을 잃었다면, 당신은 그 사실을 알 수 없을 것입니다.
2. TRACE 방식: 강와지의 경로를 요약하기 위해 멈출 때마다, 당신은 영화를 일시 정지합니다. 그리고 당신이 멈춘 바로 그 지점으로 영상을 되감습니다. 그런 다음, 두 개의 평행한 영화를 실행합니다.
   • 영화 A (대조군): 강아지가 편집되지 않은 전체 경로의 기억을 가지고 계속 움직입니다.
   • 영화 B (테스트군): 강아지가 계속 움직이지만, 이번에는 방금 당신이 작성한 새로운 요약본만을 가지고 움직입니다.

TRACE는 두 영화를 모두 지켜봅니다. 만약 영화 B의 강아지가 제자리에서 뱅뱅 돌거나, 벽을 향해 짖거나, 이미 바구니에 들어있는 공을 가져오려고 한다면, TRACE는 그 요약본이 나쁘다는 것을 알게 됩니다. TRACE는 그 요약본이 얼마나 많은 "추가 작업"이나 "정체된 행동"을 유발했는지 정확히 측정합니다.

이 방법을 사용하여, TRACE는 단순히 좋은 요약이 무엇인지 추측하지 않습니다. 대신 "검증기(verifier)"를 사용하여 서로 다른 버전의 요약본을 비교하고, 로봇이 혼란 없이 앞으로 나아가게 만드는 요약본을 선택합니다. 이는 마치 코치가 "좋아, 이 요약본 때문에 로봇이 이미 열려 있는 문을 열려고 했어. 그러니 요약본을 '우리는 복도에 있다' 대신 '문은 열려 있다'라고 수정하자"라고 말하는 것과 같습니다.

결과: 더 똑똑한 로봇, 더 적은 실수

연구팀은 로봇이 다양한 앱(예: 전화, 음악 플레이어, 은행 등)을 사용하여 작업을 완료해야 하는 게임과 같은 벤치마크인 AppWorld에서 이 새로운 방법을 테스트했습니다. 그들은 새로운 TRACE 방식의 성능을 기존의 인기 있는 메모리 압축 방식들과 비교했습니다.

결과는 유망했습니다. TRACE로 최적화된 요약본을 사용하는 로봇들은 다음과 같은 특징을 보였습니다:

• 더 많은 작업을 해결함: 표준 요약본이나 단순히 오래된 텍스트를 삭제하는 방식의 로봇보다 더 자주 성공했습니다.
• 더 높은 신뢰성: 만약 로봇에게 작업을 두 번 수행하도록 요청한다면, 혼란 때문에 두 번째에 실패하는 대신 두 번 모두 성공할 가능성이 훨씬 높았습니다.
• 효율성 유지: 스스로의 실수를 바로잡기 위해 추가적인 단계를 밟을 필요가 없었습니다.

가장 흥잡스러운 발견 중 하나는, 특정 로봇 모델을 사용하여 학습된 요약 작성 "규칙"이 다른 로봇 모델에게 주어졌을 때도 잘 작동했다는 점입니다. 이는 이 방법이 단순히 특정 로봇의 특성을 암기하는 것이 아니라, 로봇의 메모리를 유용하게 유지하는 데 필요한 보편적인 진리를 학습하고 있음을 시사합니다.

이것이 미래에 갖는 의미

이 논문은 로봇의 장기 기억 문제를 영원히 해결했다고 주장하지 않습니다. 실제로 연구진은 TRACE가 현재 우리가 가진 것보다 더 낫기는 하지만, 여전히 완벽하지는 않다고 조심스럽게 밝히고 있습니다. 요약본을 사용하는 것과 원본 전체 기록을 사용하는 것 사이에는 여전히 간극이 존재합니다. 그러나 이 연구는 매우 중요한 진전인데, 그 이유는 우리가 문제에 접근하는 방식을 바꾸어 놓았기 때문입니다.

단순히 "이 요약본이 중요한 사실들을 담고 있는가?"라고 묻는 대신, 이제 우리는 "이 요약본이 로봇의 현재 위치 감각을 유지해 주는가?"라고 물어야 한다는 것을 알게 되었습니다. 요약본이 생성되는 순간에 집중하고 그것이 바로 다음 단계에 어떤 영향을 미치는지 테스트함으로써, TRACE 프레임워크는 AI 비서가 자신의 이야기 속에서 길을 잃지 않고 길고 복잡한 모험을 처리할 수 있도록 돕는 더 신뢰할 수 있는 새로운 방법을 제시합니다. 이는 로봇에게 있어 무엇이 일어났는지 기억하는 것도 중요하지만, 이야기 속에서 자신이 어디에 있는지를 기억하는 것이야말로 정말로 앞으로 나아가게 만드는 핵심이라는 점을 상기시켜 줍니다.