기술 요약: MUSE-Autoskill: 스킬 생성, 기억, 관리 및 평가를 통한 자기 진화 에이전트

1. 문제 제기

대형 언어 모델 (LLM) 에이전트는 외부 도구, 코드, 데이터를 포함하는 복잡하고 다단계인 실세계 문제 해결을 increasingly 수행하도록 요구받고 있습니다. 원시 모델의 추론만으로는 이러한 작업에 부족하며, 에이전트에 '스킬 (재사용 가능한 능력 단위)'을 부여하는 기존 접근 방식은 네 가지 치명적인 한계를 겪고 있습니다:

1. 생성–사용 불일치: 스킬은 종종 에이전트의 런타임 컨텍스트에 접근하지 못한 채 고립되어 생성됩니다.
2. 구조화된 기억 부재: 서로 다른 작업 전반에 걸쳐 특정 스킬에 대한 자유 형식의 경험이나 교훈을 축적할 수 있는 메커니즘이 없습니다.
3. 정적이며 검증되지 않음: 스킬은 일반적으로 단위 테스트 기반 평가나 자동 개선 루프 없이 정적 산물로 취급됩니다.
4. 부족한 컨텍스트 처리: 평면적인 대화 기록은 장기 작업 중 잘리거나 오버플로우되어 과거 지식의 효과적인 재사용을 방해합니다.

현재 방법론들은 스킬을 일회성 생성 출력물로 취급하는 경향이 있어, 장기적이고 진화하는 자산으로서의 재사용성, 신뢰성, 그리고 시간 경과에 따른 개선 능력을 제한합니다.

2. 방법론: MUSE-Autoskill 프레임워크

저자들은 스킬을 관리 가능하고, 테스트 가능하며, 이전 가능한 인프라로 취급하는 스킬 중심 에이전트 프레임워크인 MUSE-Autoskill(기억 활용 스킬 진화) 을 제안합니다. 이 프레임워크는 생성, 기억, 관리, 평가, 개선의 다섯 단계로 구성된 통합 스킬 수명 주기 내에서 작동합니다.

핵심 아키텍처

에이전트는 전용 스킬 서브시스템으로 강화된 반복적 ReAct 루프(계획, 행동, 관찰) 에서 작동합니다:

• 스킬 생성: 모든 능력을 사전 정의하는 대신, 에이전트는 내장된 skill_create 도구를 사용합니다. 기존 스킬이 부족할 때 에이전트는 의도를 명시하고, 시스템은 구조화된 스킬 패키지 ( SKILL.md, 선택적 scripts/, resources/, tests/ 포함) 를 생성합니다.
• 스킬 실행: 스킬은 격리된 샌드박스에서 실행됩니다. 에이전트는 SKILL.md 인터페이스를 읽어서 코드 실행, 리소스 로드, 또는 둘 다 수행할지 결정합니다. 실행은 샌드박스 수명 주기 도구 (create_sandbox, sandbox_run 등) 에 의해 중재되어 부수 효과가 격리되도록 보장합니다.
• 스킬 평가: 새로운 스킬이 등록되기 전에 샌드박스 내에서 단위 테스트를 거칩니다. 테스트가 실패하면 에이전트는 오류 추적을 검사하고 update_skill 도구를 호출하여 패키지를 패치합니다. 이는 생성 → 평가 → 등록 루프를 만들어 신뢰할 수 있는 스킬만 은행에 진입하도록 보장합니다.
• 스킬 관리: 시스템은 메타데이터로 색인화된 스킬 은행을 유지합니다. 이는 중복되는 스킬을 병합하고, 일관되게 실패하거나 사용되지 않는 스킬을 제거하며, 런타임 피드백에 기반하여 스킬을 개선하는 것을 지원합니다.

기억 메커니즘

MUSE 는 장기 축적을 지원하기 위해 다단계 기억 아키텍처를 도입합니다:

1. 스킬 수준 기억 (신규): 각 스킬은 해당 스킬에 특화된 메모, 실패 모드 및 사용 관찰을 에이전트가 추가할 수 있는 .memory.md 파일을 운반합니다. 이를 통해 에이전트는 해당 도구에 대한 '배운 교훈'을 다시 유도하지 않고도 회상할 수 있습니다.
2. 단기 기억: 현재 작업 컨텍스트 (추론 단계, 관찰) 를 유지합니다. 토큰 예산을 초과하지 않으면서 재생 가능성을 위해 전체 기록을 DAG 구조로 보존하면서, 장기 작업을 처리하기 위해 적응형 컨텍스트 압축(오버사이즈 노드를 위한 레벨 1, 범위 병합을 위한 레벨 2) 을 사용합니다.
3. 장기 기억: 압축 대상이 아닌 영구적이고 세션 간 메모 (예: 환경의 특이점, 일반적인 모범 사례) 를 저장합니다.

컨텍스트 관리

컨텍스트 창 폭주를 방지하기 위해 MUSE 는 대화 노드의 DAG를 사용합니다. 이는 두 단계의 적응형 압축을 적용합니다:

• 레벨 1: 개별 오버사이즈 턴 (예: 장황한 도구 출력) 을 제자리에서 요약합니다.
• 레벨 2: 레벨 1 이 불충분한 경우, 연속된 중간 노드 범위를 단일 합성 요약 노드로 병합합니다.
  중요하게도, 원래 노드는 불변의 기록에 남아 있어 에이전트가 중간 상태부터 재개하거나 정보를 잃지 않고 궤적을 재생할 수 있게 합니다.

3. 주요 기여

본 논문은 네 가지 주요 기여를 제시합니다:

1. 스킬 수명 주기 재정의: 저자들은 스킬을 폐기 가능한 생성 출력물이 아닌, 장기적이고 수명 주기 관리가 필요한 자산으로 재정의하며, 실용적인 스킬 중심 시스템을 위한 다섯 가지 필수 단계 (생성, 기억, 관리, 평가, 개선) 를 규명합니다.
2. MUSE-Autoskill 에이전트: 스킬 생성과 런타임 실행을 통합하고, 단위 테스트를 통해 스킬을 평가하며, 실패 시 자동으로 개선하는 프레임워크입니다.
3. 인프라 혁신:
   • 스킬 수준 기억: 작업 전반에 걸쳐 스킬별 경험을 축적하는 신규 메커니즘.
   • 적응형 컨텍스트 압축: 세션 간 상태 지속성을 갖춘 장기 작업을 지원합니다.
   • 크로스 에이전트 이전: 생성된 스킬이 수정 없이 다른 에이전트 아키텍처에서도 사용할 수 있는 외부화된 지식 자산임을 입증합니다.
4. 검증: SkillsBench(51 개의 실세계 작업) 에 대한 포괄적 평가로, 수명 주기 관리된 스킬이 성공률, 효율성 및 이전 가능성을 향상시킨다는 것을 보여줍니다.

4. 실험 결과

실험은 SkillsBench(과학 및 공학, 데이터 분석, 문서 처리, 운영 및 계획의 네 가지 슈퍼 도메인에 걸친 51 개 작업) 에서 수행되었으며, GPT-5.5를 백본으로 MUSE-Autoskill, Codex, Hermes 세 에이전트를 사용했습니다.

인간 스킬을 사용한 성능

• MUSE-Autoskill은 인간이 주입한 스킬로 가장 높은 정확도 (68.40%) 를 달성하여 Codex(67.28%) 와 Hermes(61.21%) 를 능가했습니다.
• 이는 스킬이 없는 기준선 대비 **+15.21 퍼센트 포인트 (pp)**의 상승을 의미하며, 에이전트 전반에 걸쳐 일관되었습니다.
• MUSE-Autoskill 은 4 개 도메인 중 3 개에서 선두를 차지하여, 추론 루프 내에서 스킬 콘텐츠를 읽고, 해석하며, 적용하는 능력이 우수함을 입증했습니다.

자동 스킬 생성

• MUSE-Autoskill 은 자체 성공 궤적을 기반으로 51 개 작업 중 35 개(68.6%) 에 대해 스킬을 성공적으로 생성했습니다.
• 이 35 개 작업에서 에이전트의 자가 생성 스킬을 사용한 정확도는 **87.94%**에 달해 인간 스킬의 상한선 (68.40%) 을 초과했습니다.
• 자가 생성 스킬을 사용한 모든 51 개 작업의 전체 정확도는 **60.35%**였습니다. 저자들은 병목 현상이 생성된 스킬의 품질이 아니라 1 단계 커버리지(스킬 없이 작업을 해결하여 궤적을 생성하는 에이전트의 능력) 에 있다고 지적합니다.

크로스 에이전트 이전

• 생성된 스킬은 수정 없이 Hermes에 주입되었습니다.
• Hermes 의 정확도는 스킬이 없을 때 **47.89%**에서 MUSE 가 생성한 스킬을 사용할 때 **58.40%**로 향상되어, 인간 스킬을 가진 Hermes 와의 격차를 79% 축소했습니다.
• 이는 MUSE 가 단일 런타임에 종속된 에이전트 특정 행동이 아닌 외부화된 지식 자산을 생성함을 확인시켜 줍니다.

효율성 및 비용

• 파레토 최적성: 생성된 스킬이 있는 35 개 작업에서 MUSE 가 생성한 스킬은 스킬이 없거나 인간 스킬을 사용한 기준선보다 더 높은 보상, 더 낮은 지연 시간, 그리고 더 적은 토큰을 제공했습니다.
• 지연 시간: 생성된 스킬을 사용할 때 MUSE-Autoskill 은 스킬이 없을 때보다 중앙 지연 시간을 273 초(684 초에서 411 초로) 단축했습니다.
• 토큰: 생성된 스킬은 스킬이 없는 기준선 대비 중앙 토큰 사용량을 85K 토큰 감소시켰습니다.
• 비용 대비 효과: 스킬 생성에는 약 383K 토큰이 소요되지만, 재사용 시의 절감액 (약 3 회 재사용에 상각됨) 과 즉각적인 지연 시간 감소로 인해 이 접근 방식은 비용 효율적입니다.

5. 중요성 및 주장

본 논문은 스킬을 장기적이고, 경험 인식적이며, 테스트 가능한 자산으로 취급하는 것이 확장 가능한 에이전트 시스템에 필수적이라고 주장합니다.

• 자기 진화: MUSE 는 에이전트가 인간이 매 단계마다 작성하지 않고도 스킬을 생성, 개선, 재사용함으로써 지속적으로 역량을 향상시킬 수 있음을 보여줍니다.
• 이전 가능성: 이 프레임워크는 에이전트 특정 행동의 실드를 깨뜨려 스킬이 서로 다른 에이전트 아키텍처 (예: MUSE 에서 Hermes 로) 간에 공유될 수 있게 하여, 효과적으로 '공통 능력 단위'를 창출합니다.
• 생산 준비성: 저자들은 스킬 중심 설계가 이미 스킬 생성, 발견 및 수명 주기 거버넌스를 관리하기 위해 SkillMarket, ArkClaw, SkillHub 와 같은 생산 시스템에서 채택되고 있다고 언급합니다.

저자들은 한계에 대해 겸손하게, 현재 스킬 생성이 약 68% 의 작업에서만 성공하며 (1 단계 커버리지에 제한됨), 크로스 에이전트 이전은 현재 주로 한 방향 (MUSE 에서 Hermes 로) 에서 검증되었으며, 평가는 전체 SkillsBench 벤치마크의 하위 집합으로 제한되었다고 인정합니다. 향후 작업으로는 실패한 궤적에서 진단 스킬을 추출하고, 더 넓은 범위의 모델과 독립적인 벤치마크에서 프레임워크를 검증하는 것을 식별합니다.