Can Large Language Models Keep Up? Benchmarking Online Adaptation to Continual Knowledge Streams

이 논문은 동적으로 변화하는 지식 스트림에 실시간으로 적응하는 대규모 언어 모델의 능력을 평가하기 위해 'OAKS'라는 새로운 벤치마크를 제안하고, 기존 최첨단 모델 및 에이전트 메모리 시스템이 상태 추적 지연과 주의 분산 문제로 인해 이러한 적응에 심각한 한계를 보임을 규명합니다.

핵심

이 논문은 **"대형 언어 모델 (LLM) 이 실시간으로 변하는 정보를 따라갈 수 있을까?"**라는 질문에 답하기 위해 진행된 연구입니다.

기존의 AI 는 책이나 위키백과처럼 고정된 지식을 배우는 데는 매우 뛰어납니다. 하지만 현실 세계는 다릅니다. 뉴스는 계속 나오고, 사람의 상황은 변하며, 로봇이 보는 환경은 매 순간 달라집니다. 이 논문은 AI 가 이런 끊임없이 변하는 정보의 흐름 (Stream) 속에서 얼마나 잘 적응하는지 테스트하는 새로운 기준을 만들었습니다.

이 연구를 쉽게 이해할 수 있도록 몇 가지 비유로 설명해 드릴게요.

---

1. 연구의 핵심: "OAKS"라는 새로운 시험지

연구진은 OAKS라는 새로운 시험지를 만들었습니다. 이 시험지는 기존의 시험과 완전히 다릅니다.

• 기존 시험 (정적 지식): "1990 년에 누가 대통령이었나요?"처럼 정해진 정답이 있는 문제.
• OAKS 시험 (동적 지식): "지금 이 순간, 주인공이 어디에 있나요?"라는 문제입니다.
  • 1 분 전에는 주인공이 '서울'에 있었지만,
  • 2 분 뒤에는 '부산'으로 이동했고,
  • 3 분 뒤에는 '부산'에서 '제주'로 다시 이동합니다.

AI 는 이 흐름을 따라가며, 매 순간 새로운 정보가 들어올 때마다 이전의 답을 지우고 최신 답으로 바꿔야 합니다. 만약 AI 가 "아, 부산으로 갔구나"라고 생각했다가, 그다음에 "제주로 갔다"는 정보를 받아도 여전히 "부산"이라고 답한다면, 그 AI 는 현실 세계를 따라가지 못하는 것입니다.

2. 실험 내용: 14 명의 AI 학생에게 시험을 치르다

연구진은 14 가지의 최신 AI 모델 (구글의 Gemini, 알리바바의 Qwen 등) 에게 이 시험을 치르게 했습니다. 시험 방식은 두 가지였습니다.

1. OAKS-BABI (인공 시나리오): "메리는 부엌에서 거실로 이동했다가 다시 안으로 들어갔다"처럼 단순하지만 빈번하게 변하는 사실들을 추적하는 문제.
2. OAKS-Novel (실제 소설): 실제 소설책을 조각조각 잘라내어, 등장인물의 감정이나 위치가 이야기 흐름에 따라 어떻게 변하는지 추적하는 문제.

3. 놀라운 결과: "최고의 AI"도 헷갈려 합니다

결과적으로, 현재 가장 똑똑한 AI 들조차 이 시험에서 고전했습니다.

• 평균 점수는 낮았습니다: 최신 모델들도 평균 40~60% 정도의 점수밖에 받지 못했습니다. (100 점 만점에 50 점도 안 되는 수준)
• 정보의 변화가 잦을수록 망가집니다: 정보가 한두 번 바뀌는 것은 잘 따라가지만, 정보가 자꾸만 자주 변하면 AI 는 혼란에 빠집니다.
• 두 가지 주요 실수:
  1. 너무 늦게 반응 (Under-update): 정보가 바뀌었는데도, "아직도 예전 그대로야"라고 고집을 부립니다. (예: 주인공이 이미 제주에 갔는데도 "부산에 있네"라고 답함)
  2. 너무 자주 반응 (Over-update): 정보가 바뀌지 않았는데도, 주변 소음에 흔들려 "아, 바뀌었나?"라고 헷갈려서 엉뚱한 답을 내놓습니다.

4. 왜 이런 일이 일어날까요? (비유로 설명)

• 비유 1: 낡은 지도를 들고 여행하는 내비게이션
  AI 는 마치 구식 내비게이션과 같습니다. 새로운 도로가 생기고 교통사고가 나면 실시간으로 업데이트되어야 하는데, AI 는 "내 기억 속 지도가 맞다"라고 고집하거나, "저기 신호등이 깜빡이네? 아, 길이 바뀌었나?"라고 오해하여 엉뚱한 길로 안내합니다.

• 비유 2: 시끄러운 파티에서의 대화
  AI 는 시끄러운 파티에서 한 사람의 말을 계속 듣고 있어야 하는 상황입니다. 그 사람이 "나는 사과를 좋아해"라고 말하다가, 옆에서 "아니, 배가 더 좋아"라고 수정하면 AI 는 그걸 알아들어야 합니다. 하지만 AI 는 주변 소음 (다른 정보) 에 휩쓸려 "아, 사과가 더 좋구나"라고 다시 말하거나, "배? 아니, 아까 사과라고 했잖아"라고 고집을 부립니다.

5. 흥미로운 발견: "생각하는 모드"의 양면성

연구진은 AI 에게 "생각하는 과정 (Thinking Mode)"을 거치게 했을 때 어떤 일이 일어나는지 보았습니다.

• 장점: 복잡한 문제를 풀 때, 천천히 생각하면 정답을 맞힐 확률이 높아졌습니다. (예: "누가 먼저 어디로 갔고, 그다음 어디로 갔지?" 같은 복잡한 추론)
• 단점: 하지만 정보가 너무 자주 바뀐다면, "생각하는 과정"이 오히려 방해가 되기도 했습니다. 너무 많이 생각하다 보니 오히려 "아까 그 정보가 맞았나? 아니면 지금 이 정보가 맞나?" 하며 헷갈려서 실수를 범했습니다.

6. 결론: AI 는 아직 '실시간 적응'이 부족합니다

이 논문의 결론은 간단합니다. "현재의 AI 는 정해진 책을 읽는 데는 천재이지만, 실시간으로 변하는 현실 세계를 따라가는 데는 아직 미숙합니다."

• 기존의 기억 방식 (RAG 등): 단순히 정보를 찾아서 붙여넣는 방식만으로는 부족합니다.
• 미래의 과제: AI 는 정보를 단순히 '저장'하는 것을 넘어, 정보가 변할 때 이를 인지하고, 불필요한 변화에는 흔들리지 않으며, 필요한 변화에는 빠르게 적응하는 능력을 길러야 합니다.

이 연구는 AI 가 앞으로 우리 삶에 더 깊이 들어오기 위해, 변화하는 현실을 얼마나 잘 따라갈 수 있는지를 측정하는 중요한 첫걸음이라고 할 수 있습니다.

기술 요약

1. 연구 배경 및 문제 정의 (Problem)

실제 세계의 지식은 정적이지 않고 지속적으로 진화하거나 점진적으로 발생합니다. 대화형 어시스턴트나 물리적 에이전트와 같은 LLM 기반 시스템은 시간이 지남에 따라 순차적으로 변화하는 정보에 실시간으로 적응해야 합니다.

• 기존 벤치마크의 한계: 현재 대부분의 벤치마크는 정적 지식이나 오프라인 태스크에 초점을 맞추고 있어, 동적인 환경에서 온라인 적응 (Online Adaptation) 능력을 평가하는 데 부족합니다.
• 핵심 문제: 모델이 새로운 정보가 스트리밍될 때 기존 지식을 유지하면서도 최신 사실을 정확히 추적하고, 상태 변화를 실시간으로 반영할 수 있는지, 그리고 이러한 미세한 지식 역동성을 장기간에 걸쳐 추론할 수 있는지에 대한 체계적인 평가가 부재했습니다.

2. 방법론 (Methodology)

2.1 OAKS 벤치마크 소개

저자들은 OAKS (Online Adaptation to Continual Knowledge Streams) 를 제안했습니다. 이는 스트리밍되는 지속적으로 업데이트되는 지식에 대한 온라인 적응 능력을 평가하기 위해 설계된 최초의 벤치마크입니다.

• 평가 방식: 각 시간 간격 (time interval) 에서 모델이 동일한 질문 세트를 받되, 그 시점까지 누적된 컨텍스트 (chunks) 만을 기반으로 답변하도록 합니다.
• 핵심 특징:
  • 동적 지식 추적: 동일한 사실에 대해 시간이 지남에 따라 여러 번의 상태 변화 (update) 가 발생합니다.
  • 정밀한 주석: 각 시간 구간마다 정답과 이를 뒷받침하는 증거 (evidence) 를 주석하여, 모델이 변화 시점을 정확히 파악했는지 측정합니다.
  • 단계별 평가: 컨텍스트가 누적됨에 따라 모델의 예측이 정답과 일치하는지 구간별 정확도 (interval-level accuracy) 로 평가합니다.

2.2 데이터셋 구성

OAKS 평가를 위해 두 가지 새로운 데이터셋을 구축했습니다.

1. OAKS-BABI (OAKS-B): BABILong 벤치마크를 기반으로 한 합성 데이터셋입니다.
   • 사실 (facts) 의 상태 변화에 초점을 맞춘 질문 (추적, 카운팅, 브릿지, 비교) 을 생성했습니다.
   • 128k 토큰의 컨텍스트 (65 개 청크) 와 평균 4.7 회 이상의 정답 변화를 포함합니다.
2. OAKS-Novel (OAKS-N): 실제 문학 소설 (39 권) 에서 유래한 인간이 큐레이션한 데이터셋입니다.
   • 복잡한 줄거리, 상호작용하는 캐릭터, 시간적 비약 등 자연스러운 내러티브를 제공합니다.
   • 870 개의 객관식 질문과 평균 150k 토큰 (77.6 개 청크) 의 길이를 가지며, 평균 4.7 회 정답 변화가 발생합니다.
   • 데이터 품질을 위해 인간 어노테이터를 투입하여 저품질 질문을 필터링하고 증거를 정밀하게 주석했습니다.

2.3 실험 설정

• 모델: 14 개의 다양한 LLM (Qwen 시리즈, GPT-OSS, Gemma, Gemini 등) 을 평가했습니다.
• 추론 전략:
  • Base: 모든 이전 청크를 연결 (Truncation 적용).
  • RAG (Retrieval-Augmented Generation): 이전 시간 간격의 청크만 검색하여 활용.
  • Agentic Memory Systems: HippoRAG-V2, MemAgent, A-Mem 등 점진적으로 메모리를 업데이트하는 에이전트 시스템.
• 메트릭: 구간별 정확도 (Accuracy) 외에도 Acquisition Latency (AL, 상태 변화 감지 지연), Distraction Susceptibility (DS, 주의 산만도), Phase Miss rate (PM, 전체 상태 구간 놓침) 등을 분석했습니다.

3. 주요 결과 (Key Results)

3.1 전반적인 성능 한계

• OAKS 는 현재 최첨단 모델들에게도 매우 어려운 태스크입니다.
  • 오픈소스 모델의 평균 정확도: OAKS-B 33.0%, OAKS-N 52.9%.
  • 폐쇄형 모델 (Gemini 3 Pro 등) 의 평균 정확도: OAKS-B 60.9%, OAKS-N 72.6%.
  • 가장 강력한 모델 (Gemini 3 Pro) 도 OAKS-B 에서 66.3% 에 그쳤습니다.

3.2 빈번한 업데이트와 모델 크기

• 지식 업데이트 빈도: 정답 변화가 빈번한 (Frequent) 하위 집합에서 모델의 성능이 급격히 저하되었습니다. (OAKS-B 의 경우 Sparse 42.2% → Frequent 33.3% 로 감소).
• 모델 크기: 모델 크기가 커질수록 성능이 향상되지만, 여전히 한계가 명확합니다. MoE(Mixture-of-Experts) 아키텍처는 유사한 크기의 Dense 모델과 유사한 성능을 보였습니다.

3.3 컨텍스트 구성 전략의 효과

• Naive RAG: 단순 RAG 는 Base 설정보다 성능을 크게 개선하지 못하거나, 오히려 빈번한 업데이트 환경에서는 성능이 저하되었습니다. 검색된 컨텍스트가 복잡하거나 관련성이 높을 때 모델이 이를 효과적으로 통합하지 못하기 때문입니다.
• Agentic Memory: MemAgent 와 같은 에이전트 메모리 시스템이 일부 성능을 보였으나, 여전히 OAKS 의 미세한 업데이트를 처리하는 데는 부족했습니다.

3.4 사고 모드 (Thinking Mode) 의 영향

• 성능 향상: "Thinking Mode"(Chain-of-Thought) 를 활성화하면 전반적인 정확도가 향상되었습니다. 특히 여러 사실을 동시에 추적해야 하는 'Bridge' 질문에서 큰 개선을 보였습니다.
• 행동 양식 변화: 사고 모드는 모델이 상태 변화를 더 잘 감지하고 (Adaptability 증가), 불필요한 업데이트를 줄이는 경향이 있습니다.

3.5 실패 모드 분석 (Failure Modes)

• 과도한 업데이트 (Over-updating): 모델이 사실은 변하지 않았는데도 불필요하게 답변을 변경하는 'Volatility' 현상이 빈번했습니다.
• 부족한 업데이트 (Under-updating): 사실의 변화가 발생했음에도 이전 답변을 고수하는 'Stubbornness' 또는 'Obstinacy' 현상도 관찰되었습니다.
• 시간에 따른 성능 저하: 컨텍스트 길이가 길어지고 시간 간격이 늦어질수록 정확도가 감소하는 경향이 뚜렷했습니다. 특히 OAKS-B(합성 데이터) 에서 증거가 한 번만 등장할 경우, 초기 놓침이 누적되어 오류가 증폭되었습니다.

4. 주요 기여 (Key Contributions)

1. OAKS 벤치마크 제안: 지식의 연속적인 흐름과 미세한 상태 변화를 실시간으로 추적하는 능력을 평가하는 최초의 온라인 적응 벤치마크를 제시했습니다.
2. 고품질 데이터셋 구축: BABILong 기반의 합성 데이터 (OAKS-B) 와 실제 소설 기반의 자연어 데이터 (OAKS-N) 를 포함하며, 각 시간 구간별 정답과 증거를 정밀하게 주석했습니다.
3. 심층 분석: 단순 정확도뿐만 아니라 모델의 지식 추적 행동 (적응성, 고집, 지연 등) 을 세분화하여 분석하고, 사고 모드와 다양한 메모리 전략의 효과를 규명했습니다.
4. 현실적 한계 규명: 현재 LLM 과 에이전트 메모리 시스템이 동적인 지식 환경에서 얼마나 취약한지, 특히 빈번한 업데이트와 긴 컨텍스트에서 성능이 급격히 떨어진다는 사실을 입증했습니다.

5. 의의 및 결론 (Significance)

이 논문은 LLM 이 실제 세계의 동적인 정보 흐름에 효과적으로 적응하기 위해서는 단순한 긴 컨텍스트 이해 (Long-context understanding) 를 넘어, 실시간 지식 추적 (Real-time knowledge tracking) 과 상태 일관성 유지 (State consistency maintenance) 능력이 필수적임을 강조합니다.

• 연구적 의의: 기존 벤치마크가 놓치고 있던 "지식의 진화"와 "온라인 적응"이라는 중요한 패러다임을 제시하여, 향후 더 강력한 적응형 에이전트 개발을 위한 기준을 마련했습니다.
• 실용적 시사점: 현재 모델들은 새로운 정보가 들어올 때 이전 지식을 잊거나 (Catastrophic Forgetting), 불필요하게 반응하는 (Hallucination of update) 경향이 있어, 이를 해결하기 위한 새로운 아키텍처나 학습 전략이 필요함을 시사합니다.

결론적으로, OAKS 는 "LLM 이 끊임없이 변하는 현실 세계의 지식을 따라갈 수 있는가?"라는 질문에 대해 **"아직은 부족하다"**는 명확한 답변을 제시하며, 향후 연구 방향을 제시하는 중요한 이정표가 됩니다.