🤖 AI

Continual Learning Bench: Evaluating Frontier AI Systems in Real-World Stateful Environments

이 논문은 여섯 가지 다양한 실제 도메인에 걸쳐 전문가의 검증을 거친 최초의 벤치마크인 CL-Bench를 소개하며, 이는 기존 모델 지식으로부터 온라인 학습 능력을 분리하여 현재의 프런티어 AI 시스템과 전용 메모리 아키텍처가 순차적 경험을 통해 진정으로 개선되는 데 어려움을 겪고 있으며 종종 단순한 인컨텍스트 러닝(in-context learning)보다 성능이 떨어진다는 점을 밝혀낸다.

원저자: Parth Asawa, Christopher M. Glaze, Gabriel Orlanski, Ramya Ramakrishnan, Benji Xu, Asim Biswal, Vincent Sunn Chen, Frederic Sala, Matei Zaharia, Joseph E. Gonzalez

게시일 2026-06-05

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Parth Asawa, Christopher M. Glaze, Gabriel Orlanski, Ramya Ramakrishnan, Benji Xu, Asim Biswal, Vincent Sunn Chen, Frederic Sala, Matei Zaharia, Joseph E. Gonzalez

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

이 글은 **"CL-BENCH(Continual Learning Bench)"**라는 논문을 일상적인 언어와 비유를 사용하여 설명한 것입니다.

핵심 아이디어: "학습인가, 암기인가?" 테스트

당신이 혼란스러운 사무실을 관리하기 위해 새로운 비서 한 명을 고용했다고 상상해 보세요.

기존 방식: 당신은 그에게 방대한 지침서를 주고(사전 학습) 문제를 해결하라고 시킵니다. 만약 그가 문제를 맞히면 잘된 일이지만, 틀리더라도 그 실수를 통해 배우게 하지 않고 그냥 다음 문제로 넘어갑니다.
새로운 방식 (지속적 학습): 당신은 업무를 수행하는 동안 점점 더 똑똑해지는 비서를 원합니다. 만약 월요일에 파일 정리 시스템을 잘못 다뤘다면, 화요일에는 그 실수를 바로잡아 같은 실수를 반복하지 않도록 스스로의 사고 모델을 수정해야 합니다.

문제는 이겁니다: 우리는 이 비서가 실제로 배우고 있는 것인지, 아니면 단지 이미 알고 있는 지식을 바탕으로 추측을 아주 잘하고 있는 것뿐인지 어떻게 알 수 있을까요?

이 논문은 AI 시스템이 매일의 경험으로부터 진정으로 배우고 있는지, 아니면 단순히 기존의 두뇌 능력에만 의존하고 있는지를 테스트하기 위해 설계된 "체육관"인 CL-BENCH를 소개합니다.

1. 놀이터: 여섯 가지 서로 다른 "게임"

이 AI 비서들을 테스트하기 위해 연구진은 여섯 가지 다른 "방(도메인)"을 만들었습니다. 각 방은 규칙이 처음에 적혀 있지 않은 퍼즐처럼 설계되었습니다. 플레이를 통해 규칙을 스스로 알아내야 합니다.

이 방들을 AI가 수행해야 할 다양한 직업이라고 생각해보세요:

데이터베이스 탐정: AI는 미스터리한 데이터베이스에 질문을 던져야 합니다. 처음에는 테이블 이름이 이상하거나 숫자가 달러 대신 센트 단위로 되어 있습니다. AI는 나중에 질문을 덜 하기 위해 이러한 특이사항들을 배워야 합니다.
포커 플레이어: AI는 정해진 예측 가능한 습관을 가진 상대들과 포커 게임을 합니다. AI는 어떤 상대와 게임을 하고 있는지 학습하여 승률을 높이기 위해 전략을 조정해야 합니다.
판매 예측가: AI는 가구가 얼마나 팔릴지 예측합니다. 데이터는 매주 변하지만(다른 매장, 다른 제품), 그 안에는 숨겨진 패턴(예: "여름에는 항상 의자가 더 잘 팔린다")이 있으며 AI는 이를 발견해야 합니다.
코드 수정가: AI는 소프트웨어의 버그를 고쳐야 합니다. 프로젝트마다 규칙이 다릅니다. AI는 프로젝트 A에서 오류를 찾는 법을 배워서 프로젝트 B를 더 빠르게 고칠 수 있어야 합니다.
신호 사냥꾼: AI는 라디오 파동을 듣습니다. 어떤 신호들은 나타났다가 사라집니다. AI는 신호가 조용해지더라도 그것이 영원히 사라진 것이 아님을 기억하여, 신호가 사라졌다고 성급히 판단하지 않아야 합니다.
질병 추적기: AI는 의료 연구를 분석합니다. 각 연구는 동일한 것에 대해 서로 다른 용어를 사용합니다. AI는 이 용어들 사이를 번역하여 환자의 생존율에 대한 더 종합적인 그림을 그려낼 수 있어야 합니다.

반전: 몇몇 게임 중간에 규칙이 바뀝니다(데이터베이스 마이그레이션이나 새로운 상대의 등장처럼). 똑똑한 학습자는 변화를 감지하고 적응할 것이지만, "멍청한" 학습자는 옛날 규칙을 계속 고집하다 실패할 것입니다.

2. 성적표: 정말로 배웠는가?

연구진은 단순히 최종 점수만 보는 것으로는 충분하지 않다는 것을 깨달았습니다. 아주 똑똑한 AI는 새로운 것을 배워서가 아니라, 단지 타고난 지능이 높아서 높은 점수를 받을 수도 있기 때문입니다.

그래서 그들은 **"이득(Gain)"**이라는 지표를 발명했습니다.

비유: 두 명의 러너가 있다고 상상해 봅시다.
- 러너 A (상태 비저장/Stateless): 경주를 한 번 하고 나서 모든 것을 잊어버린 뒤, 다시 처음부터 똑같은 경주를 시작합니다.
- 러너 B (상태 저장/Stateful): 경주를 하고, 경로를 기억한 뒤, 다시 그 경로를 달립니다.
- 이득(Gain): 만약 러너 B가 아주 조금만 더 빠르다면, 그는 별로 배우지 못한 것입니다. 만약 러너 B가 훨씬 더 빠르다면, 그는 코스를 학습한 것입니다.

CL-BENCH는 "기억하는" AI가 "잊어버리는" AI에 비해 얼마나 더 빠른지를 정확히 측정함으로써, 순수한 지능과 학습을 분리해 냅니다.

3. 충격적인 결과: "단순한 메모 작성자"의 승리

연구진은 다양한 메모 시스템을 사용하여 현존하는 가장 발전된 AI 모델들(프런티어 모델들)을 테스트했습니다.

"슈퍼 브레인" (Naive ICL): 단순히 전체 대화 기록을 채팅창에 계속 유지합니다. 특별한 메모 기술은 없습니다.
"파일 캐비닛" (Mem0, ACE 등): 인간의 파일 시스템처럼 정보를 요약하고 저장하며 특정 기억을 검색하려고 시도하는 시스템입니다.
"연습장" (Notepad): AI가 반드시 노트를 쓰도록 강제되는 시스템입니다.

결과:
단순한 메모 작성자(전체 채팅 기록을 그대로 유지하는 방식)가 복잡하고 전용된 메모 시스템들보다 오히려 더 좋은 성능을 보였습니다.

왜 그럴까요? 화려한 메모 시스템들은 자주 혼란을 겪었습니다. 그들은 잘못된 것을 "기억"하거나, 과거의 믿음에 갇혀 규칙이 바뀌었음에도 불구하고 업데이트를 거부하곤 했습니다.
실패 유형: AI는 종-종 직전의 상황에 과하게 적응(Overfit)했습니다. 만약 10번째 질문에서 실수를 했다면, 상황이 바뀌었음에도 불구하고 11번째 질문에서도 그 실수를 맹목적으로 적용했습니다. 즉, "잠깐, 이 옛날 규칙은 여기엔 적용되지 않아"라고 말하는 데 어려움을 겪었습니다.

핵심 결론: 현재 최고의 AI 시스템들조차 지속적 학습에는 서툽니다. 그들은 똑똑하게 문제를 푸는 데는 뛰어나지만, 역동적인 환경에서 시간이 흐름에 따라 점점 더 똑똑해지는 데는 서툽니다.

4. 이것이 왜 중요한가

이 논문은 우리가 현재 정체되어 있다고 결론짓습니다. 우리는 어려운 문제를 해결할 수 있는 AI를 가지고 있지만, 현실 세계의 연속적인 상호작용 속에서 혼란에 빠지지 않고 학습할 수 있는 AI는 아직 갖지 못했습니다.

CL-BENCH는 이 격차가 존재한다는 것을 증명하는 첫 번째 도구입니다. 이는 다음을 보여줍니다:

현재의 AI 시스템들은 아직 활용하지 못한 잠재력(성장 여지)이 많이 남아 있습니다.
복잡한 메모 모듈을 추가한다고 해서 문제가 자동으로 해결되지 않으며, 때로는 상황을 더 악화시키기도 합니다.
우리는 세상이 변함에 따라 적응하고, 버리고, 다시 배울 수 있는 AI를 만드는 새로운 방법이 필요합니다.

요약하자면: 우리는 매우 똑똑한 AI를 만들었지만, 아직 '공부를 잘하는' AI는 만들지 못했습니다.

기술 요약: CL-BENCH (Continual Learning Bench)

문제 정의

연속적인 경험을 통해 개선되는 AI 시스템을 구축하는 것에 대한 관심은 매우 높지만, 이러한 능력을 엄격하게 평가할 수 있는 고품질의 벤치마크는 존재하지 않습니다. 언어 에이전트 및 메모리 시스템에 대한 기존 평가 프로토콜은 주로 긴 컨텍스트에 대한 회상 충실도(recall fidelity), 이전 데이터에 대한 질의응답, 또는 오프라인 작업 정확도와 같은 대리 지표에 의존합니다. 이러한 지표들은 시스템이 관련 작업 간에 공유되는 잠재적 구조를 발견하고 활용함으로써 진정으로 '온라인' 학습을 수행하는지 테스트하는 데 실패합니다. 또한, 현재의 벤치마크들은 성능 향상을 기저 모델의 능력과 혼동하는 경우가 많아, 진정한 학습과 사전 학습된 지식을 구분하기 어렵게 만듭니다.

방법론

CL-BENCH 프레임워크

저자들은 LLM 기반 시스템이 순차적 경험을 통해 진정으로 개선되는지를 측정하기 위해 설계된 최초의 고난도 전문가 검증 벤치마크인 **CL-BENCH (Continual Learning Bench)**를 소개합니다. 이 벤치마크는 다음과 같은 6가지 다양한 실세계 도메인을 포괄합니다:

블라인드 스펙트럼 모니터링 (Blind Spectrum Monitoring): 부분적이고 노이즈가 섞인 스캔으로부터 지속적인 RF 송신기를 매핑.
코드베이스 적응 (Codebase Adaptation): 두 개의 저장소에 걸쳐 GitHub 이슈를 해결하며 파일 레이아웃과 테스트 패턴을 학습.
코호트 연구 (Cohort Studies): 서로 다른 스키마와 편향을 가진 5개의 별도 역학 연구를 통해 환자 생존 곡선 추정.
데이터베이스 탐색 (Database Exploration): 스키마와 데이터 형식이 은닉된 미지의 SQLite 데이터베이스에 대한 자연어 질문에 답변.
착취 가능한 포커 (Exploitable Poker): 고정되고 착취 가능한 전략을 가진 결정론적 상대들을 상대로 게임 수행.
판매 예측 (Sales Prediction): 순환하는 데이터 가시성과 방해 컬럼이 존재하는 환경에서 매장 및 제품의 수요 예측.

작업 설계 기준

학습이 정적 능력(static capability)이 아닌 '학습'을 측정하도록 보장하기 위해, CL-BENCH의 작업들은 세 가지 엄격한 기준을 충족하도록 구성되었습니다:

헤드룸 (Headroom): 초기 성능은 달성 가능한 최대치보다 훨씬 낮아야 합니다. 학습해야 할 잠재적 구조(예: 스키마 관례, 상대방 전략)는 작업 특화적이어야 하며, 일반적인 오프라인 학습만으로는 복구할 수 없어야 합니다.
공유된 잠재 구조 (Shared Latent Structure): 작업 내의 인스턴스들은 시스템이 성능 향상을 위해 활용할 수 있는 발견 가능한 구조(예: 코드베이스 레이아웃, 질병 역학)를 공유해야 합니다. 이 구조는 명시적으로 전달되지 않으며 경험으로부터 추론되어야 합니다.
학습 메커니즘 (Learning Mechanism): 환경은 피드백 루프(예: 에러 메시지, 중간 예측)를 제공하여 축적된 경험이 미래의 인스턴스를 위한 실행 가능한 지식으로 전환될 수 있어야 합니다.

또한, 작업들은 개념 드리프트 (concept drift) (예: 데이터베이스 마이그레이션, 상대방 전략의 변화)를 포함하여, 시스템이 단순히 지식을 암기하는 것이 아니라 변화에 적응하고 오래된 지식을 폐기할 수 있는지 테스트합니다.

검증 파이프라인

각 작업은 엄격한 검증 과정을 거칩니다:

저자 검토: 두 명의 저자가 작업이 세 가지 설계 기준을 충족하는지 확인합니다.
전문가 패널: 도메인 전문가 2~3명이 실제성 (Realism) (실제 워크플로우 반영), 재사용 가능한 지식 (Reusable Knowledge) (단계 간 패턴 전이), 학습 개선 (Learning Improvement) (측정 가능한 성능 향상) 측면에서 명세서를 검토합니다.
결정: 작업은 모든 축에서 검증을 통과한 경우에만 채택됩니다.

평가 지표

논문은 성능을 분석하기 위해 두 가지 주요 지표를 도입합니다:

보상 (Reward): 일련의 인스턴스에 걸친 누적 결과 (예: 쿼리 효율성, 예측 정확도).
이득 (Gain): 학습을 기저 능력으로부터 분리하기 위해 설계된 지표입니다. 이는 동일한 인스턴스에 대해 시스템의 상태 유지 성능( $r_{sf}$ $r_{s f}$ )과 상태 비유지(stateless) 성능( $r_{sl}$ $r_{s l}$ )의 차이로 정의됩니다: $g_t = r_{sf,t} - r_{sl,t}$ $g_{t} = r_{s f, t} - r_{s l, t}$ .
- 정규화된 이득 (Normalized Gain): 작업 간 비교를 가능하게 하기 위해, 이득은 시스템 특유의 '헤드룸'(작업 최대치와 상태 비유지 베이스라인 간의 차이)에 의해 정규화됩니다.

핵심 기여

CL-BENCH 벤치마크: 온라인 학습을 기저 모델의 능력으로부터 성공적으로 분리하도록 설계된, 전문가 검증을 거친 6가지 실세계 도메인의 고난도 작업 세트.
지표 혁신: '이득(Gain)' 지표와 그 정규화된 변형을 도입하여, 연구자들이 단순히 '강력한' 시스템과 효과적으로 순차적 경험으로부터 학습하는 시스템을 구분할 수 있게 함.
경험적 평가: 다양한 에이전트 아키텍처를 사용하는 프런티어 모델들(Claude Opus 4.7, Sonnet 4.6, GPT-5.4, Gemini 3.1 Pro 포함)에 대한 대규모 평가.

결과

CL-BENCH를 통한 프런티어 모델의 평가는 현재의 연속 학습 능력에 상당한 격차가 있음을 보여줍니다:

순수 ICL이 전용 메모리보다 우수함: 놀랍게도, 전체 컨텍스트를 유지하는 **인컨텍스트 학습 (ICL)**이 전용 메모리 모듈(예: Mem0, ACE, ICL Notepad)을 갖춘 시스템보다 일관되게 높은 성능을 보였습니다. 예를 들어, Claude Sonnet 4.6을 사용한 ICL은 가장 높은 정규화된 보상(22.3%)과 이득(25.4%)을 달성했습니다.
전용 메모리 시스템의 고전: 메모리 관리를 위해 특별히 설계된 시스템들(ACE 또는 ICL Notepad 등)은 종종 순수 ICL보다 성능이 낮았으며, 더 높은 비용에도 불구하고 리더보드 최하위에 머무는 경우가 있었습니다.
제한적인 온라인 적응: 가장 우수한 시스템조차 상태 비유지 베이스라인 대비 단 25.4%의 정규화된 이득만을 달ر성했습니다. 이는 현재의 시스템들이 상당한 헤드룸을 활용하지 못하고 있음을 나타냅니다.
실패 모드:
- 과적합 (Overfitting): 에이전트들은 빈번하게 즉각적인 관찰에 과적합되거나, 인스턴스 간에 지식을 재사용하는 데 실패합니다.
- 오래된 신념 (Stale Beliefs): 시스템은 오류를 나타내는 피드백이 제공됨에도 불구하고 잘못된 신념을 업데이트하는 데 어려움을 겪습니다 (예: 데이터베이스 마이그레이션을 감지하지 못함).
- 가소성 vs 안정성 (Plasticity vs. Stability): 이득의 분해 결과, 일부 시스템은 새로운 작업 변형에 빠르게 적응(가소성)하지만, 유용한 구조를 변형 간에 유지(안정성)하는 데 실패하거나 그 반대의 경우가 발생함을 보여줍니다.

의의 및 주장

본 논문은 CL-BENCH가 다양한 실세계 도메인에 걸쳐 연속 학습을 평가하는 최초의 벤치마크이며, 전문가 검증된 작업을 통해 온라인 학습을 기저 모델의 능력으로부터 성공적으로 분리해냈다고 주장합니다.

저자들은 신뢰할 수 있는 온라인 적응은 여전히 미해결 과제라고 결론짓습니다. 순수 ICL이 전용 메모리 메커니즘보다 우수하다는 발견은 메모리 관리 및 상태 유지 에이전트 설계에 대한 현재의 접근 방식이 아직 효과적이지 않음을 시사합니다. 축적된 상태가 도움이 되기보다는 오히려 해가 되는 경우가 많으며, 메모리 모듈이 가짜 일반화와 오래된 신념을 유발한다는 점을 강조합니다.

저자들은 CL-BENCH를 이 분야의 발전을 추적하기 위한 토대로 설정하며, 새로운 작업을 제안할 수 있는 명확한 기준을 제공합니다. 이들은 현재의 범위가 (6개 도메인과 수십 개의 인스턴스) 겸손한 수준임을 인정하면서도, 진정으로 순차적 경험을 통해 개선되는 AI 시스템을 구축하려는 광범위한 과제를 해결하기 위해 커뮤니티의 기여와 함께 성장하는 것을 목표로 합니다.