Synthetic Computers at Scale for Long-Horizon Productivity Simulation

"Synthetic Computers at Scale for Long-Horizon Productivity Simulation" 논문에 대한 상세한 기술적 요약은 다음과 같습니다.

1. 문제 제기

현재 AI 에이전트는 대화형 어시스턴트에서 리포지토리를 기반으로 한 코딩 에이전트로, 그리고 결국 전체 사용자 컴퓨터 환경 내에서 작동할 수 있는 장기적 (Long-Horizon) 에이전트로 진화하고 있습니다. 그러나 이러한 에이전트의 훈련과 평가는 현실적이고 대규모의 훈련 데이터 부재라는 치명적인 병목 현상에 직면해 있습니다.

• 맥락 의존성: 현실적인 생산성 작업은 사용자별 맥락 (디렉토리 구조, 역사적 파일, 프로젝트 상태, 협력자 피드백) 에 크게 의존합니다.
• 데이터 부족: 개인 산물 및 기업 데이터와 같은 프라이버시 우려와 높은 인건비로 인해 대규모로 현실 세계의 궤적을 수집하는 것은 불가능합니다.
• 기존 합성 데이터의 한계: 현재 합성 데이터는 종종 고립된 작업이나 "장난감 (toy)" 워크플로우에 초점을 맞춥니다. 이는 실제 전문 업무의 특징인 풍부하고 이질적이며 산물이 많은 환경 (예: 복잡한 폴더 계층 구조, 파일 간 의존성) 을 합성하는 데 실패합니다.
• 격차: 에이전트의 계획, 근거 설정, 협업, 산물 생성을 훈련시키기 위해 (수주 간의 작업에 걸친) 장기적 시뮬레이션을 지원할 수 있는 확장 가능하고 사용자별 합성 컴퓨터 환경을 생성할 수 있는 방법론이 필요합니다.

2. 방법론: 대규모 합성 컴퓨터

저자들은 이러한 환경을 생성하고 그 안에서 시뮬레이션하기 위한 3 단계 파이프라인을 제안합니다: 페르소나 기반 생성 (Persona-Driven Creation), 환경 계획 (Environment Planning), 그리고 장기적 시뮬레이션 (Long-Horizon Simulation).

A. 합성 컴퓨터 생성

이 과정은 고수준의 페르소나를 완전히 채워진 현실적인 컴퓨터 환경으로 변환합니다.

1. 페르소나 기반 사용자 프로필: "시니어 재무 자문가"와 같은 대규모 페르소나 풀에서 시작하여 시스템을 상세한 사용자 프로필로 확장합니다. 이러한 프로필은 신원, 직업, 경력 이력, 책임, 협력자, 그리고 결정적으로 컴퓨터 사용 행동 (명명 규칙, 파일 조직 스타일, 첨부 습관, 도구 선호도) 을 포착합니다.
2. 파일시스템 계획:
   • 정책 생성: 드라이브 레이아웃, 기본 경로, 조직 스타일 (예: "높은 정리 상태", "버전 접미사") 을 정의하는 파일시스템 정책이 생성됩니다.
   • 디렉토리 및 인벤토리 계획: 시스템은 일관된 디렉토리 트리 및 파일 인벤토리를 계획합니다. 특히, 파일이 독립적인 샘플이 아니라 서로 연결되도록 **지향성 의존성 그래프 (directed dependency graph)**를 구성합니다 (예: PDF 보고서는 Excel 모델에서 파생되고, 이는 웹 다운로드에서 파생됨). 이는 논리적 일관성과 파일 간 참조를 보장합니다.
3. 산물 생성:
   • 시스템은 디렉토리 구조를 구체화합니다.
   • 특정 산물 생성 도구 (예: minimax-docx, minimax-xlsx) 를 갖춘 LLM 에이전트를 사용하여 파일을 채웁니다.
   • 파일은 의존성 순서 (위상 정렬) 대로 생성되어 하위 파일이 상위 파일의 내용을 정확하게 참조하도록 합니다. 사용 가능한 경우 공개 웹 산물을 검색하고, 그렇지 않으면 합성합니다.

B. 장기적 생산성 시뮬레이션

합성 컴퓨터가 준비되면 두 가지 다른 에이전트가 관여하는 시뮬레이션이 실행됩니다.

1. 설정 에이전트 (Setup Agent):
   • 사용자 프로필과 현재 컴퓨터 상태를 분석합니다.
   • 사용자에게 맞춤화된 생산성 목표를 생성합니다 (예: "2026 년 모델 포트폴리오 갱신", "새로운 HNW 고객 온보딩"). 이러한 목표는 약 1 개월 분량의 인간 작업을 spanning 하며 여러 가지 전문 산출물 (보고서, 스프레드시트, 데크) 을 필요로 합니다.
   • 사용자 에이전트가 요청하거나 받아야 하는 특정 역할, 커뮤니케이션 스타일, 개인 참조 자료를 가진 시뮬레이션된 협력자들 (관리자, 동료, 고객, 준수 담당자) 을 설정합니다.
2. 작업 에이전트 (Work Agent):
   • 합성 컴퓨터 내에서 사용자로 행동합니다.
   • 주간 계획 및 일일 실행 루프로 작동합니다.
   • 행동: 파일시스템 탐색, 기존 산물 읽기, 파일 생성/수정, 협력자와의 소통 (이메일 발송, 데이터 요청), 피드백 반영.
   • 지속 시간: 시뮬레이션은 컴퓨터당 평균 2,272 턴 및 8.59 시간의 에이전트 실행 시간을 갖습니다.

3. 주요 기여

• 대규모 합성 컴퓨터: 실제 전문 워크플로우를 모방하는 1,000 개 이상의 다양하고 산물이 풍부하며 사용자별 컴퓨터 환경을 생성하는 새로운 방법론.
• 의존성 인식 산물 생성: 고립된 파일 생성 방식과 달리, 이 접근법은 의존성 그래프를 사용하여 파일들이 논리적으로 일관되고 버전 관리되며 상호 참조되도록 보장합니다.
• 협업적 장기적 시뮬레이션: 단일 작업 해결이 아닌, 시뮬레이션된 이해관계자와 조정하고 피드백을 처리하며 수주 간의 프로젝트를 관리해야 하는 에이전트를 위한 시뮬레이션 프레임워크 도입.
• 경험적 학습 신호: 시뮬레이션에서 계획, 근거 설정, 수정, 실패 복구와 같은 풍부한 프로세스 수준 신호와 최종 산출물 품질과 같은 결과 수준 신호를 추출합니다.
• 오픈 릴리스: 추가 연구를 지원하기 위해 100 개의 합성 컴퓨터 (Windows 50 개, macOS 50 개) 와 500 개 시뮬레이션에 대한 사후 분석 보고서를 공개했습니다.

4. 실험 결과

저자들은 1,000 개의 합성 컴퓨터를 사용하여 실험을 수행하고 생성된 데이터의 효과를 평가했습니다.

A. 시뮬레이션 통계

• 규모: 각 시뮬레이션은 시뮬레이션 전 (~112 개) 에서 ~197 개의 파일, 5.5 명의 협력자, 약 31 개의 커뮤니케이션 교환을 포함합니다.
• 복잡성: 평균 지속 시간은 8.59 시간이며 2,000 회 이상의 상호작용 턴을 가지며, 이는 표준 벤치마크 (예: GDPVal 평균 31 턴) 를 훨씬 초과합니다.

B. 도메인 내 평가 (기술 전이)

• 설정: 팀은 900 개의 훈련 시뮬레이션에서 "기술 (lessons, 실패 모드, 작업 패턴)"을 추출하여 100 개의 홀드아웃 테스트 컴퓨터에 적용했습니다.
• 결과: 이러한 추출된 기술을 갖춘 에이전트는 기준선 (61.6%) 대비 **평균 루브릭 점수 68.6%**를 달성하여 +7.0 퍼센트 포인트의 개선을 보였습니다.
• 확장: 훈련 컴퓨터 수에 따라 기술 증강 에이전트의 기준선 대비 승률이 증가했습니다 (100 개로 64%, 500 개로 75%, 900 개로 83%), 이는 더 넓은 시뮬레이션 범위가 더 나은 일반화로 이어짐을 보여줍니다.

C. 도메인 외 평가 (GDPVal 벤치마크)

• 설정: 시뮬레이션에서 추출된 기술을 합성 환경과 구별되는 데이터셋인 GDPVal 벤치마크 (220 개의 현실적인 생산성 작업) 에서 테스트했습니다.
• 결과: 기술 증강 에이전트는 GDPVal 작업에서 기준선을 크게 능가했습니다. 주요 모델 (Claude Sonnet 4.6) 의 경우, 증강 에이전트는 220 개 작업 중 105 개에서 승리했습니다 (67 개 패배), 통계적 유의성 ($p=0.002$).
• 함의: 이는 장기적 합성 시뮬레이션에서 포착된 경험적 신호가 합성 환경뿐만 아니라 실제 세계의 생산성 작업으로도 일반화됨을 입증합니다.

5. 중요성 및 향후 방향

• 자기 개선의 기초적 기질: 이 논문은 합성 컴퓨터가 에이전트 자기 개선을 위한 확장 가능하고 프라이버시가 안전한 기질을 제공한다고 주장합니다. 루프는 다음과 같습니다: 시뮬레이션 $\rightarrow$ 경험 (기술) 추출 $\rightarrow$ 에이전트 개선 $\rightarrow$ 더 강력한 시뮬레이션 실행.
• 확장성: 수십억 개의 잠재적 페르소나를 통해 이 방법론은 다양한 직업과 맥락을 포괄하는 수백만 개 또는 수십억 개의 합성 세계로 확장될 수 있습니다.
• 향후 작업: 저자들은 다음과 같은 향후 개선을 제안합니다:
  • 개인화된 산물: 다양한 시각적 스타일 및 포맷팅 습관.
  • 자연스러운 노이즈: 버려진 파일, 중복 파일, 임시 다운로드와 같은 "지저분한" 현실 세계 흔적 추가.
  • 동적 협업: 자체 활성 워크플로우와 진화하는 상태를 가진 협력자 시뮬레이션.

결론: "Synthetic Computers at Scale"은 현실적이고 사용자별 컴퓨터 환경을 생성함으로써 고품질의 장기적 훈련 데이터 생성이 가능함을 보여줍니다. 이 데이터는 합성 및 실제 세계 생산성 시나리오 모두에서 에이전트 성능을 크게 향상시켜 복잡한 다단계 전문 업무를 처리할 수 있는 자율 에이전트의 길을 열어줍니다.