AEGIS: 다중 에이전트 시스템을 위한 자동화된 오류 생성 및 귀속 (Automated Error Generation and Attribution for Multi-Agent Systems) 기술 요약

이 논문은 대규모 언어 모델 (LLM) 기반 다중 에이전트 시스템 (MAS) 의 신뢰성을 높이기 위한 핵심 병목 현상인 오류 귀속 (Error Attribution) 을 위한 대규모 데이터 부족 문제를 해결하기 위해 제안된 AEGIS 프레임워크를 소개합니다.

1. 문제 정의 (Problem)

• 구조적 취약성: LLM 기반 MAS 는 복잡한 문제를 해결할 수 있게 되었지만, 단일 에이전트의 오류가 다른 에이전트와의 상호작용을 통해 증폭되어 최종 결과에 치명적인 영향을 미치는 '구조적 취약성'을 가지고 있습니다.
• 데이터 부족 및 디버깅의 어려움: 시스템 오류의 근본 원인 (Root Cause) 을 특정 에이전트와 오류 유형에 귀속시키는 작업은 매우 어렵습니다. 기존 벤치마크 (Who&When, MASFT 등) 는 수동으로 주석 달기 (Annotation) 에 의존하여 데이터 규모가 매우 작고 확장성이 없습니다.
• 수동 주석의 한계: 고품질의 오류 데이터를 수동으로 생성하는 것은 비용이 많이 들고 확장 불가능하여, MAS 의 신뢰성을 개선하는 데 걸림돌이 되고 있습니다.

2. 방법론 (Methodology)

AEGIS 는 성공적인 실행 궤적을 기반으로 자동화된 오류 생성 및 검증 파이프라인을 구축하여 대규모 오류 데이터를 생성합니다.

2.1 데이터 구축 파이프라인 (Data Construction)

1. 성공적인 베이스라인 수집: 다양한 MAS 프레임워크 (MacNet, DyLAN, Debate 등) 와 작업 도메인 (수학, 코딩, 과학 등) 에서 결정론적 (Deterministic) 으로 성공한 실행 궤적을 수집합니다.
2. 적응형 오류 주입 (Adaptive Error Injection): LLM 기반의 '조작자 (Manipulator)'를 사용하여 성공 궤적에 문맥을 인지한 오류를 주입합니다.
   • 주입 전략: 프롬프트 주입 (Prompt Injection) 또는 응답 오염 (Response Corruption) 방식을 사용합니다.
   • 오류 모드: MAST (Multi-Agent System Taxonomy) 분류에 기반한 14 가지 구체적인 오류 모드 (예: 작업 명세 이탈, 역할 이탈, 불필요한 단계 추가, 검증 단계 제거 등) 를 적용합니다.
3. 검증 및 레이블링: 주입된 오류로 인해 시스템이 실패하는지 검증합니다. 실패한 경우, 의도적으로 주입된 에이전트와 오류 모드 정보를 'Ground Truth' 레이블로 자동 생성합니다.
   • 결과: 6 가지 MAS 프레임워크와 6 가지 벤치마크를 아우르는 9,533 개의 주석된 오류 궤적을 생성했습니다.

2.2 학습 패러다임 (Learning Paradigms)

AEGIS 데이터의 정교한 구조를 활용하여 세 가지 다른 학습 방식을 지원합니다.

1. 지도 미세 조정 (Supervised Fine-Tuning, SFT):

   • 실패 궤적과 해당 오류 귀속 맵 (Faulty Agent + Error Mode) 을 (입력, 타겟) 쌍으로 구성하여 LLM 을 직접 학습시킵니다.
   • 구조화된 JSON 형식의 오류 진단을 생성하도록 학습합니다.

2. 강화 학습 (Reinforcement Learning, RL):

   • 계층적 보상 함수 (Hierarchical Reward): 정답 에이전트와 오류 모드에 대해 부분적인 점수를 부여하고, 형식 오류나 중복 예측에 대해 패널티를 부과합니다.
   • GRPO (Group Relative Policy Optimization): 그룹 내 상대적 이점을 기반으로 정책을 최적화하여, 단일 이진 결과보다 풍부한 학습 신호를 제공합니다.

3. 대조 학습 (Contrastive Learning, DCL):

   • 분리된 대조 학습 (Disentangled Contrastive Learning): 성공적인 궤적 (양성) 과 다양한 변형된 오류 궤적 (음성) 을 대비시킵니다.
   • MIL (Multiple Instance Learning) 어텐션: 궤적 내의 중요한 '증거 턴 (Evidence Turns)'을 식별하고, 에이전트와 오류 모드 프로토타입에 정렬하여 표현 학습을 수행합니다.
   • 계층적 일관성 정규화: 에이전트 - 오류 쌍의 확률이 개별 구성 요소의 확률을 초과하지 않도록 논리적 제약을 부과합니다.

3. 주요 기여 (Key Contributions)

1. 자동화된 오류 생성 파이프라인: 인간의 주석 없이도 검증 가능하고 재현 가능한 대규모 오류 데이터를 생성하는 첫 번째 체계적인 프레임워크를 제안했습니다.
2. 대규모 다양성 데이터셋: 약 10,000 개의 주석된 오류 궤적 (Aegis Dataset) 을 공개하며, 다양한 MAS 아키텍처와 작업 도메인을 포괄합니다.
3. 다양한 학습 방법론의 검증: SFT, RL, Contrastive Learning 세 가지 패러다임 모두에서 오류 귀속 성능이 크게 향상됨을 실험적으로 입증했습니다.
4. 오픈소스 릴리스: 코드, 데이터, 모델을 모두 공개하여 MAS 의 신뢰성과 디버깅 연구의 기반을 마련했습니다.

4. 실험 결과 (Results)

• 성능 향상: Aegis 데이터로 미세 조정된 모델들은 Aegis-Bench 및 외부 벤치마크 (Who&When) 에서 일관되게 우수한 성능을 보였습니다.
  • SFT 모델: Aegis-SFT (Qwen2.5-14B) 는 평균 점수 26.51 을 기록하여 모든 베이스라인을 압도했습니다. 이는 기저 모델 (13.99) 대비 약 2 배의 성능 향상이었습니다.
  • 경쟁력: 미세 조정된 오픈소스 모델 (14B 파라미터) 은 GPT-4o-mini, Gemini-2.5-Pro 등 10 배 이상 큰 규모의 상용 모델과 경쟁하거나 더 나은 성능을 보여주었습니다.
• 일반화 능력: Aegis-Bench (In-domain) 뿐만 아니라 인간이 주석한 Who&When (Out-of-Distribution) 벤치마크에서도 성능이 향상되어, 자동 생성 데이터가 실제 오류 진단에 효과적임을 입증했습니다.
• 학습 방식 비교:
  • SFT: 전반적인 성능 향상에 가장 효과적이었으나, 과적합 (Overfitting) 경향이 있어 2 에포크에서 최적의 일반화 성능을 보였습니다.
  • GRPO: CoT (Chain-of-Thought) 프롬프팅과 결합 시 오픈소스 모델의 추론 능력을 크게 향상시켰습니다.
  • DCL: 상대적으로 작은 파라미터 (23M~35M) 로도 랜덤 베이스라인을 크게 상회하는 성능을 보여주어, 경량화된 접근법의 유효성을 입증했습니다.

5. 의의 및 결론 (Significance)

• 데이터 병목 현상 해결: MAS 의 신뢰성 향상을 가로막던 데이터 부족 문제를 자동화된 합성 데이터 생성을 통해 해결했습니다.
• 방법론적 전환: 수동 주석에 의존하던 기존 방식을 넘어, 프로그래밍적 데이터 생성 (Programmatic Data Generation) 이 AI 신뢰성 연구의 핵심이 될 수 있음을 시사합니다.
• 미래 비전: 이 연구는 더 복잡하고 자발적으로 발생하는 (Emergent) 오류를 탐지하고, 궁극적으로 자가 수리 (Self-repairing) 가 가능한 에이전트 시스템을 구축하는 데 중요한 발걸음이 됩니다.

요약하자면, AEGIS 는 다중 에이전트 시스템의 '블랙박스' 같은 오류를 체계적으로 분석하고 진단할 수 있는 데이터를 자동으로 생성함으로써, MAS 의 안정성과 해석 가능성을 획기적으로 개선하는 획기적인 프레임워크입니다.