Relevant but Incomplete: Referential Dangling as a Paradigm-Level Failure Mode in Hard Prompt Compression

거대한 직소 퍼즐을 풀고 있다고 상상해 보세요. 하지만 상자에 그려진 그림 대신, 수천 페이지에 달하는 거대한 백과사전이 놓여 있습니다. 당신은 그 페이지 어딘가에 숨겨진 까다로운 질문에 대한 답을 찾아야 합니다. 문제는, 당신의 뇌(또는 이 경우에는 대규모 언어 모델이라고 불리는 초스마트 컴퓨터 프로그램)가 모든 단어를 다 읽으려고 하면 과부하가 걸린다는 점입니다. 그것은 마치 소방 호수에서 쏟아지는 물로 직접 물을 마시려는 것과 같아서, 필요한 한 방울을 찾기도 전에 정보에 휩쓸려 익사할 수도 있습니다. 이를 해결하기 위해 과학자들은 "프롬프트 압축(prompt compression)"을 사용합니다. 이것은 백과사전을 빠르게 스캔하여 지루한 부분은 삭제하고, 가장 흥ей로운 문장들만 남겨두는 초고속 편집자라고 생각하면 됩니다. 이렇게 하면 컴퓨터가 이야기를 훨씬 빠르고 저렴하게 읽을 수 있습니다. 목표는 이야기를 짧게 유지하면서도 컴퓨터가 퍼즐을 풀 수 있도록 만드는 것입니다.

하지만 여기 함정이 있습니다. 때때로 이 편집자는 너무 열정적으로 변합니다. 예를 들어, "정답은 맥도날드 카운티입니다"라는 문장은 남겨두면서, 바로 앞의 "팀 뒤보이스는 사우스웨스트 시티에서 태어났다"라는 문장을 삭제할 수도 있습니다. 그 연결 고리가 사라지면, 컴퓨터는 정답은 보이지만 그것이 '왜' 정답인지 알 수 없게 됩니다. 그것은 마치 "X가 보물 위치다"라고 적힌 보물 지도는 찾았지만, 그 랜드마크에 대한 설명이 적힌 페이지가 찢겨 나간 상황과 같습니다. 컴퓨터는 매달린 단서만을 바라보며, 점들을 연결하지 못해 혼란에 빠지게 됩니다. 이 논문은 이러한 "참조적 매달림(referential dangling)" 현상이 얼마나 자주 발생하는지를 조사하고, 이것이 현재의 편집 방식이 가진 주요 결함임을 증명하며, 컴퓨터가 다시 퍼즐을 풀 수 있도록 끊어진 논리 사슬을 어떻게 고칠 수 있는지 보여줍니다.

거대한 "매달림"의 재앙

연구진은 이러한 컴퓨터의 "압축" 방식이 규칙이 깨진 의자 뺏기 게임과 같다는 것을 발견했습니다. 표준적인 방법은 모든 문장이나 텍스트 덩어리에 대해 개별적으로 점수를 매기며, "이 문장이 중요한가?"라고 묻습니다. 점수가 높으면 남기고, 낮으면 버립니다. 문제는 이 편집자들이 문장들이 서로 어떻게 의존하는지를 보지 않는다는 점입니다. 그들은 모든 문장을 하나의 섬처럼 취급합니다.

저자들은 이 실패 모드를 **"참조적 매달림(referential dangling)"**이라고 부릅니다. 당신이 이야기를 하고 있다고 상상해 보세요: "나는 가게에 갔다. 그 가게는 문을 닫았다." 만약 첫 번째 문장을 삭제한다면, 두 번째 문장은 말이 되지 않습니다. "그 가게"라는 단어는 그것을 받쳐줄 아무것도 없이 허공에 매달리게 됩니다. AI의 세계에서도 이런 일이 발생합니다. 컴퓨터가 정답(예: "맥도ัล드 카운티")은 유지하지만, 그 연결을 설명하는 가교(예: "팀 뒤보이스는 사우스웨스트 시티에서 태어났는데, 그곳은 맥도날드 카운티에 있다")를 삭제할 때 말입니다. 정답은 여전히 존재하고 온전하게 보이지만, 논리의 사슬은 끊어져 있습니다. AI는 정답을 보지만, 거기에 어떻게 도달했는지 파악하지 못해 혼란을 겪거나 오답을 내놓게 됩니다.

얼마나 심각한가? (숫자는 거짓말을 하지 않는다)

연구팀은 Beaver라는 인기 있는 압축 도구를 테스트했고, 이 문제가 도처에 널려 있다는 것을 발견했습니다. 압축률이 0.30(원래 텍스트의 30%만 유지함)일 때, 까다로운 다단계 질문의 **34%에서 54%**가 이러한 끊어진 사슬을 가지고 있다는 것을 발견했습니다. 이는 절반 이상의 빈도입니다!

연구팀은 단순히 Beaver를 비난한 것이 아닙니다. 그들은 다양한 방법(문법을 보거나, 단어의 중요성을 보거나, 단어가 얼마나 놀라운지를 보는 등)을 사용하여 6가지의 서로 다른 압축 도구를 테스트했습니다. 결과는 충격적이었습니다. 모든 도구가 이 매달림 문제를 겪고 있었습니다. 어려운 질문 세트를 기준으로 했을 때, 실패율은 **32%에서 거의 60%**에 달했습니다. 더 심각한 것은, 법률 문서나 학술 논문 같은 긴 문서를 살펴보았을 때, 테스트한 모든 문서에서 적어도 하나 이상의 매달린 참조가 발견되었다는 점입니다. 압축 도구가 아무리 똑똑하더라도, 문장을 하나씩 "최선"의 것만 골라낸다면 필연적으로 이야기를 끊어놓게 된다는 것을 보여줍니다.

"오 이런, 우리가 고쳤어요" 실험

큰 질문은 이것이었습니다. 이것이 단순히 현재 도구들의 특이한 현상일까요, 아니면 문장을 하나씩 고르는 방식 자체가 실패할 운명인 걸까요? 이를 알아내기 위해 연구진은 "만약에" 게임을 했습니다. 그들은 끊어진 압축 이야기들을 가져와서 누락된 "가교" 문장들을 수동으로 다시 집어넣었습니다. 하지만 이야기를 짧게 유지하기 위해(동일한 30% 예산 내에서), 다른 덜 중요한 문장들을 빼내어 공간을 만들어야 했습니다.

결과는 엄청난 성공이었습니다. 끊어진 사슬을 고치고 누락된 논리를 다시 삽입했을 때, 어려운 질문에 대한 컴퓨터의 정확도가 29에서 34포인트 상승했습니다. 이것은 작은 개선이 아니라 거대한 도약이었습니다. 이는 문제가 컴퓨터가 텍스트를 이해할 만큼 멍청해서가 아니라, 주어진 텍스트가 논리적으로 불완전했기 때문이라는 것을 입증했습니다. "매달림"이 진짜 범인이었지, AI의 지능이 아니었던 것입니다.

더 흥러운 점은, 더 강력하고 똑똑한 AI 모델이 스스로 "이해해낼 수 있는지"를 테스트했다는 것입니다. 그들은 혹시나 모델이 누락된 연결 고리를 추측할 수 있을까 싶어, GPT-5.5라는 초강력 모델을 사용해 보았습니다. 하지만 소용없었습니다. 심지어 가장 똑똑한 모델조차 논리 사슬이 끊어졌을 때 온전할 때보다 8.8포인트 더 낮은 정확도를 보였습니다. 이는 AI가 아무리 똑똑해지더라도, 제대로 작동하기 위해서는 전체 이야기가 필요하다는 것을 시사합니다.

스마트한 "자동 구조" 시스템

마지막으로 연구팀은 질문했습니다. 사람이 모든 문장을 일일이 확인할 필요 없이 자동으로 이 문제를 해결할 수 있을까? 그들은 편집자가 버린 문장들을 살펴보는 작고 빠른 "구조 로봇"(작은 분류기)을 만들었습니다. 이 로봇의 임무는 "이 삭제된 문장이 우리가 남겨둔 문장을 설명해 주는가?"라고 묻는 것입니다. 만약 그렇다면, 로봇은 그 문장을 다시 집어넣습니다.

그들은 이를 HotpotQA 데이터셋에 적용했습니다. 이 자동 구조 시스템을 사용함으로써 정확도를 4.7포인트 향상시켰습니다. 가장 좋은 점은 무엇일까요? 텍스트 크기를 0.30에서 0.31로 아주 미세하게 늘렸을 뿐이라는 것입니다. 논리 사슬을 구하기 위해 지불한 대가는 매우 적었습니다.

핵심 요약

이 논문은 단순히 버그를 지적하는 데 그치지 않고, 우리가 현재 AI를 위해 텍스트를 축소하는 방식의 근본적인 결함을 밝혀냅니다. 교훈은 명확합니다. 관련성(Relevance)만으로는 충분하지 않습니다. 어떤 문장이 중요하다 하더라도, 그 문장에 의미를 부여하는 문장을 삭제해 버린다면 그것은 쓸모가 없습니다. AI를 진정으로 효율적으로 만들기 위해서는, 단순히 "최고의" 단어를 고르는 것이 아니라 이야기가 연결된 상태를 유지하는 압축기가 필요합니다. 우리가 AI가 퍼즐을 풀기를 원한다면, 퍼즐의 그림을 완성하는 조각들을 버리지 않도록 주의해야 합니다.