기술 요약: ProAct – 예측하고 학습하기: 능동적 에이전트에서의 유휴 시간 컴퓨팅 활용

1. 문제 정의

현재의 AI 에이전트는 추론 및 도구 사용 측면에서 진전을 이루었음에도 불구하고, 근본적으로 반응형 시스템으로 작동합니다. 이들은 명시적인 사용자 프롬프트가 들어온 후에만 응답을 계산하므로, 상호작용 사이의 "유휴 시간"이 활용되지 않습니다. 이러한 패러다임은 사용자가 질문을 시작하기 전에 미래의 사용자 요구를 예측하거나, 사용자 선호도에 대한 이해를 정제하거나, 지원 증거를 준비할 기회를 활용하지 못하게 합니다.

저자들은 이를 심리학의 능동적 대처 (proactive coping) 개념과 대비시킵니다. 이는 개인이 요구사항이 완전히 구체화되기 전에 이를 예측하고 자원을 축적하는 것을 의미합니다. 식별된 핵심 과제는 사용자를 관련성 없거나 시기상조이거나 근거가 약한 제안으로 압도하지 않으면서, 유휴 시간을 유용하고 현실적인 준비 작업으로 전환하는 방법입니다. 기존 메모리 증강 에이전트 (예: MemGPT, MemoryBank) 와 능동적 대화 시스템은 대부분 요청에 의존하거나 사용자가 정의한 일정에 의존하며, 명시되지 않은 미래의 필요에 대한 자율적 예측이 부족합니다.

2. 방법론: ProAct 아키텍처

이 논문은 유휴 간격을 예측과 학습의 구조화된 사이클로 변환하도록 설계된 통합 에이전트 아키텍처인 ProAct를 소개합니다. ProAct 는 두 개의 긴밀하게 결합된 모듈에 의해 구동되는 폐루프 의사결정 문제로 작동합니다:

A. 미래 상태 예측

이 모듈은 대화 기록 ($H_t$) 과 영구 메모리 상태 ($M_t$) 를 기반으로 후보 미래 요구 ($Z_t$) 의 간결한 집합을 생성합니다.

• 출처: 최근 턴을 외삽하는 국부적 시나리오 예측과 사용자 프로필 및 저장된 사실에 기반한 인접 주제를 제안하는 관련 확장을 결합합니다.
• 메모리 갭 증강: 식별된 메모리 갭 (구식, 불완전 또는 누락된 지식) 을 후보 미래 요구로 능동적으로 변환합니다.
• 필터링: 후보는 신뢰도 임계값으로 필터링되고 기존 메모리 아티팩트와 중복 제거됩니다.

B. 유휴 시간 확보

이 모듈은 예측된 후보를 평가하고 백그라운드 컴퓨팅 예산을 할당합니다.

• 가치 게이트 선택: 각 후보에 대해 네 가지 가중치 요인을 기반으로 점수 $S(z)$가 계산됩니다.
  • $r_z$: 사용자 관련성.
  • $g_z$: 지식 갭 (누락된 정보).
  • $v_z$: 기존 메모리 이상의 점진적 가치.
  • $\tau_z$: 적시성.
    가치 임계값 $\theta_{val}$을 초과하는 후보만 확보 단계로 진행됩니다.
• 점진적 확보: 시스템은 먼저 기존 메모리 범위를 확인합니다. 부분적일 경우 누락된 하위 주제만 검색하고, 낮을 경우 반복적 검색을 수행합니다. 이는 불필요한 전체 재시작을 방지합니다.
• 아티팩트 생성: 검색된 증거는 소스 사실과 출처를 연결하는 컴팩트한 지식 아티팩트 ($A_z$) 로 종합되어 사실적 근거를 보장합니다.

C. 유틸리티 인지 전달 정책

정책 $\pi$는 각 아티팩트에 대한 전달 모드 ($d_z$) 를 결정합니다.

• 푸시 (Push): 예상 유틸리티가 중단 비용을 초과할 경우 즉시 알림을 전송합니다.
• 대기열 (Queue): 유용하지만 긴급하지 않은 경우 미래 응답에 통합합니다.
• 저장 (Store): 즉시 전달에 적합하지 않은 경우 나중에 검색할 수 있도록 메모리에 조용히 저장합니다.

이 시스템은 중단 비용, 예산 사용량, 그리고 환각 위험을 패널티로 부과하면서 미래 유틸리티를 최적화합니다.

3. 평가 프레임워크: ProActEval

능동적 능력을 엄격하게 평가하기 위해 저자들은 ProActEval을 도입했습니다. 이는 다음으로 구성된 벤치마크입니다.

• 규모: 40 개 도메인 (예: 금융, 의료, 프로젝트 관리) 에 걸친 200 개의 시나리오.
• 구조: 각 시나리오는 가상의 사실 시트와 사용자 요구의 순차적 시퀀스를 포함합니다. 핵심적으로, 특정 이전 상호작용 이후에 어떤 미래 요구가 예측 가능해지는지를 확립하는 predictable_after 링크를 정의합니다.
• 인지 원형: 시나리오는 다섯 가지 유형의 예측 요구를 다룹니다: 기초 메모리, 번역/갭 해결, 추적/의존성 추론, 인수/일관성 제어, 그리고 준비/추진.
• 프로토콜: 사용자 시뮬레이터가 요구 시퀀스를 탐색합니다. 에이전트가 능동적으로 요구를 충족하면, 시뮬레이터는 명시적인 사용자 질문을 건너뛰어 예측을 감소된 사용자 노력으로 변환합니다. 시스템은 금메타데이터에 접근하지 않고 런타임에 가시적인 정보만으로 평가됩니다.

4. 주요 결과

ProActEval 과 MemBench 에 대한 실증적 평가는 반응형 베이스라인보다 상당한 우위를 보여줍니다.

ProActEval 성능:

• 효율성: 100% 커버리지 도달에 필요한 상호작용 턴 수 ($T_{100}$) 를 14.8% 감소시킵니다 (8.11 턴에서 6.91 턴으로).
• 사용자 노력: 사용자가 명시적으로 질문해야 하는 턴 수 (사용자 노력) 를 11.7% 감소시킵니다.
• 사실적 무결성: 환각 발생률을 28.1% 감소시킵니다 (13.2% 에서 9.5% 로), 이는 능동적 아티팩트가 검색된 증거에 근거함으로써 기인합니다.
• 예측: 예측 회상률 (Anticipation Recall) 을 0.428로 달성하여, 반응형 베이스라인 (0.0) 과 "무방향 유휴 (Undirected Idle)" 변형 (0.0) 을 모두 크게 능가합니다. 이는 예측 방향이 결정적임을 입증합니다.
• 비교: 적응형 능동 에이전트 (ProactiveAgent) 베이스라인 (0.020 회상률) 을 능가하여, 1,572 개의 예측 가능 요구 중 703 개를 예측하는 반면 베이스라인은 32 개만 예측했습니다.

MemBench 성능:

• 반성적 정확도: ProAct 는 역사에서 사용자 선호도와 감정을 추론하는 데 있어 최첨단 반성적 정확도를 달성합니다: 10k 토큰에서 84.3%, 100k 토큰에서 **86.3%**로, Generative Agents 및 MemoryBank 와 같은 기존 베이스라인을 능가합니다.

Ablation 및 예산 분석:

• 방향 대 볼륨: 예측 없이 검색하는 "무방향 유휴" 변형은 순수 반응형 베이스라인 대비 최소한의 이득만 제공하여, 단순한 컴퓨팅 볼륨 증가가 아닌 예측 유도 방향이 효율성의 주된 동인임을 확인합니다.
• 한계 수익: 검색 예산을 늘리면 예측 회상률은 향상되지만, 사용자 노력이나 턴 수는 단조롭게 감소하지 않습니다. 과도한 검색은 대화 흐름을 부정적으로 바꿀 수 있는 저가치 푸시를 초래할 수 있으므로, 능동적 컴퓨팅은 최대화해야 할 매개변수가 아니라 운영 지점 트레이드오프임을 시사합니다.

5. 중요성과 주장

이 논문은 에이전트가 유휴 시간을 빈 공백이 아닌 학습과 준비의 기회로 간주하는 새로운 능동적 인간-AI 협업 패러다임을 확립한다고 주장합니다.

• 아키텍처 전환: ProAct 는 "요청 - 응답" 모델에서 예측, 확보, 전달의 연속적인 사이클로 이동하여, 효과적으로 백그라운드 컴퓨팅을 현실적인 준비 작업으로 전환합니다.
• 유휴 시간 컴퓨팅의 검증: 결과는 예측 유도 유휴 시간 컴퓨팅이 사실적 무결성을 유지하면서 사용자 노력과 환각 발생률을 현저히 줄일 수 있다는 통제된 증거를 제공합니다.
• 한계점: 저자들은 겸손하게 이러한 결과가 폐쇄형 세계 합성 벤치마크에서 도출되었음을 지적합니다. 실제 세계 배포는 "능동적 역효과" (예: 저가치 콘텐츠로 사용자를 방해하거나 반응형 답변과 경쟁하는 것) 를 방지하기 위해 사용자 제어, 속도 제한 및 모니터링이 필요하다고 경고합니다. 시스템의 성공은 예측 가능한 요구 체인과 감사 가능한 증거 소스의 존재에 달려 있습니다.

요약하자면, ProAct 는 영구 메모리와 예측 모델링을 유휴 간격 동안 활용함으로써 에이전트가 정적 응답자에서 능동적 파트너로 전환할 수 있음을 보여줍니다. 이는 사실적 정확성을 훼손하지 않으면서 인지 부하를 줄이고 상호작용의 질을 향상시킵니다.