Foundations for Agentic AI Investigations from the Forensic Analysis of OpenClaw

1. 문제 제기 (Problem Statement)

• 배경: 에이전트형 AI(사용자를 대신해 추론, 계획, 실행을 수행하는 시스템) 가 개인 비서로 급속히 보급되고 있으며, 이는 곧 디지털 수사 대상이 될 것입니다.
• 현황: 그러나 이러한 시스템의 내부 상태와 행동을 포렌식적으로 재구성하는 방법에 대한 체계적인 연구는 전무합니다.
• 핵심 과제:
  • 에이전트는 사용자의 명시적 지시 없이도 자율적으로 작업을 수행할 수 있어, "무엇이 발생했는가"와 "사용자가 무엇을 의도했는가"를 구분하는 **귀속 **(Attribution) 문제가 복잡해집니다.
  • 클라우드 기반 추론, 로컬 실행, 지속적인 자율성이 결합된 환경은 기존 디지털 포렌식 접근법으로는 처리하기 어렵습니다.
  • LLM(대형 언어 모델) 의 비결정성 (Nondeterminism) 과 추상화 계층 추가로 인해 기존 소프트웨어와 다른 포렌식 흔적이 발생합니다.

2. 방법론 (Methodology)

저자는 오픈소스 프로젝트인 OpenClaw(버전 2026.2.2-33) 를 대상으로 다음과 같은 실험적 접근을 취했습니다.

• 실험 환경: Oracle VirtualBox 기반의 Debian GNU/Linux 13 가상 머신에서 OpenClaw 를 설치 및 운영했습니다.
• **데이터 생성 **(차이 분석)
  • 시스템의 초기 상태 (Baseline, $q_0$) 를 기준으로 설치, 온보딩, 메시지 전송, 도구 실행, 하위 에이전트 생성 등 13 가지의 구체적인 행동 ($\sigma_i$) 을 수행하여 시스템 상태 ($q_i$) 를 전이시켰습니다.
  • 각 행동 전후의 디스크 이미지를 비교하여 **차이 분석 **(Differential Forensic Analysis)을 수행했습니다.
• 분석 기법:
  1. **정적 코드 분석 **(Static Code Analysis) 소스 코드를 분석하여 아키텍처, 데이터 저장소 (SQLite, JSONL 등), 구성 파일을 파악했습니다.
  2. 차이 분석 도구 활용: Sleuthkit, DFXML 라이브러리, idifference2.py 스크립트를 사용하여 파일 생성, 삭제, 수정, 타임스탬프 변경 등을 식별했습니다.
  3. 심층 파일 검사: 식별된 파일 (텍스트, SQLite, JSONL 등) 을 파싱하여 실제 에이전트 행동과 상관관계를 검증했습니다.
• 도구 개발: 분석 결과를 자동화하기 위해 로컬 아티팩트를 추출하고 상관관계를 분석하는 프로토타입 도구를 개발하여 오픈소스로 공개했습니다.

3. 주요 기여 (Key Contributions)

1. 최초의 개인 AI 어시스턴트 포렌식 분석: OpenClaw 의 기술적 아키텍처 (게이트웨이, 플러그인 통신 채널, 메모리 계층 등) 를 포렌식 관점에서 최초로 체계적으로 분석했습니다.
2. **에이전트 아티팩트 분류 체계 **(Agent Artifact Taxonomy) 에이전트 시스템의 포렌식 증거를 5 가지 '평면 (Planes)'으로 분류하는 새로운 분류법을 제안했습니다.
3. 분석 도구 및 데이터 공개: 실험 데이터와 분석 도구를 공개하여 재현성과 후속 연구를 지원했습니다.

4. 주요 결과 및 발견 (Results & Findings)

4.1. OpenClaw 아키텍처 및 아티팩트 위치

OpenClaw 는 주로 사용자의 홈 디렉토리 내 숨겨진 .openclaw 폴더에 데이터를 저장합니다. 주요 아티팩트에는 다음이 포함됩니다:

• **세션 기록 **(Session Transcripts) 가장 풍부한 증거원. JSONL 형식으로 대화 내용, 추론 과정 (Thinking blocks), 도구 호출, 토큰 사용량 등을 기록합니다.
• 메모리 및 지식: 마크다운 파일 (YYYY-MM-DD.md, MEMORY.md) 과 벡터 인덱스 (memory.sqlite) 로 구성됩니다.
• 구성 및 정체성: openclaw.json(모델 설정), SOUL.md(성격/안전 규칙), TOOLS.md(도구 정의) 등.
• 실행 로그: /tmp/openclaw/에 저장되며, 24 시간 후 자동 삭제됩니다.

4.2. 5 가지 아티팩트 평면 (The 5 Artifact Planes)

저자는 에이전트 포렌식을 위한 새로운 분류 체계를 제안했습니다 (그림 2 참조):

1. **추론 및 인지 **(Reasoning & Cognition - "The Brain") LLM 의 사고 과정 (Chain-of-thought), 도구 선택 논리, 토큰 사용량 등. (기존 소프트웨어에는 존재하지 않는 증거)
2. **정체성 및 구성 **(Identity & Configuration - "The DNA") 에이전트의 역할, 권한, 시스템 프롬프트, API 키 등.
3. **지식 및 회상 **(Knowledge & Recall - "The Memory") 학습된 사용자 정보, episodic memory, 장기 기억 등.
4. **통신 및 I/O **(Communication & I/O - "The Ears & Mouth") 사용자 채널 (Telegram, WhatsApp 등), 메시지 내용, 미디어 파일.
5. **행동 및 효과 **(Actions & Effects - "The Hands") 도구 호출, 파일 조작, 크론 작업 (Scheduled tasks), 하위 에이전트 위임 기록.

4.3. 핵심 포렌식 도전 과제

• **비결정성 **(Nondeterminism) 동일한 입력이라도 LLM 의 샘플링, 컨텍스트 윈도우의 변화, 외부 서비스 응답에 따라 다른 도구 선택과 실행 경로를 생성할 수 있습니다. 이는 전통적인 포렌식의 '재현성' 원칙을 위협합니다.
• **추상화 계층 **(Abstraction Layer) LLM 이 의도와 실행 사이에서 추가적인 추상화 계층을 형성합니다. 사용자의 고수준 지시가 구체적인 도구 호출로 변환되는 과정이 규칙 기반 소프트웨어보다 복잡하고 예측 불가능합니다.
• 컨텍스트 재구성 난이도: 특정 시점에 LLM 이 어떤 지식 (메모리 파일, 워크스페이스 상태) 을 참조했는지를 정확히 재구성하는 것이 매우 어렵습니다.

5. 의의 및 시사점 (Significance)

• 디지털 포렌식 패러다임의 전환: 에이전트형 AI 는 단순한 소프트웨어가 아니라 '자율적 행위자'이므로, 기존 포렌식 방법론만으로는 부족하며 새로운 분석 프레임워크가 필요함을 강조합니다.
• **책임 소재 규명 **(Attribution) 에이전트가 수행한 행동이 사용자의 지시였는지, 에이전트의 자율적 판단이었는지를 구분하기 위해 **추론 흔적 **(Reasoning traces)과 행동 타임라인의 상관관계 분석이 필수적입니다.
• 실무적 함의:
  • 수사 기관은 에이전트 시스템의 로그, 메모리 파일, 세션 기록을 포괄적으로 수집해야 합니다.
  • LLM 의 비결정성으로 인해 "왜 에이전트가 그렇게 행동했는가"에 대한 단일한 정답을 찾기 어려울 수 있음을 인지해야 합니다.
  • 에이전트 매개 실행은 권한 남용, 데이터 유출, 의도치 않은 시스템 변경 등 새로운 보안 위협을 초래할 수 있으므로, 사후 감사 (Post-hoc audit) 의 중요성이 증대됩니다.

결론적으로, 이 논문은 에이전트형 AI 시대에 대비하여 포렌식 조사자가 체계적으로 접근할 수 있는 이론적 토대와 실용적 분류 체계를 최초로 제시했다는 점에서 큰 의의가 있습니다.