1. 문제 정의 (Problem)

대형 언어 모델 (LLM) 은 코드 생성 작업에서 뛰어난 성능을 보여주지만, 복잡한 프로그래밍 문제를 해결하기 위해서는 단일 에이전트 (Single-agent) 방식의 한계가 명확합니다. 이를 극복하기 위해 최근 연구들은 여러 에이전트가 협력하는 멀티 에이전트 시스템 (Multi-agent Systems) 을 도입하여 작업을 하위 작업으로 분해하고 있습니다.

그러나 기존 접근 방식에는 다음과 같은 근본적인 한계가 존재합니다:

• 수동 설계 의존성: 에이전트의 토폴로지 (작업 흐름 구조) 와 각 에이전트의 프롬프트가 연구자에 의해 수동으로 설계됩니다.
• 적응성 부족: 특정 작업 (예: 머신러닝) 에 최적화된 워크플로우가 다른 작업 (예: 소프트웨어 개발) 에서는 비효율적일 수 있으며, 작업 유형이 바뀔 때마다 수동으로 워크플로우를 재설계해야 합니다.
• 자동화 부재: LLM 의 잠재력을 최대한 활용하여 다양한 코딩 문제에 자동으로 적응하는 자율적인 워크플로우 설계 메커니즘이 부족합니다.

2. 방법론 (Methodology: SEW)

저자들은 이러한 한계를 해결하기 위해 자가 진화 워크플로우 (Self-Evolving Workflow, SEW) 라는 새로운 프레임워크를 제안합니다. SEW 는 수동 설계 없이 작업 설명 (Task Description) 만을 기반으로 멀티 에이전트 워크플로우를 자동으로 생성하고 최적화합니다.

핵심 구성 요소

1. 워크플로우 생성 (Workflow Generation):

   • 주어진 작업 설명과 템플릿을 기반으로 LLM 을 사용하여 초기 워크플로우를 생성합니다.
   • 이 과정에서 워크플로우를 표현하는 다양한 텍스트 기반 표현 방식 (Representation Schemes) 을 탐색합니다.

2. 워크플로우 진화 (Workflow Evolution):

   • 초기 워크플로우의 구조 (토폴로지) 를 진화시킵니다.
   • 직접 진화 (Direct Evolution, DE): LLM 을 돌연변이 연산자로 사용하여 워크플로우 구조를 직접 수정합니다.
   • 초 진화 (Hyper Evolution, HE): 먼저 '돌연변이 프롬프트' 자체를 진화시킨 후, 이를 적용하여 워크플로우를 수정합니다. 이는 더 복잡한 구조적 변화를 유도합니다.

3. 에이전트 진화 (Agent Evolution):

   • 구조가 진화된 워크플로우 내의 각 에이전트에게 할당된 프롬프트를 최적화합니다.
   • 역시 DE 와 HE 방식을 활용하여 에이전트의 역할을 더 명확히 하거나, 창의적인 사고를 유도하는 프롬프트를 생성합니다.

4. 워크플로우 표현 방식 비교:

   • SEW 는 워크플로우를 텍스트로 표현하기 위해 5 가지 방식을 비교 분석했습니다:
     • BPMN (비즈니스 프로세스 모델링 표기법)
     • CoRE (코드 표현 및 실행: 자연어 프로그래밍, 의사코드, 흐름 기반 프로그래밍 통합)
     • Python 코드
     • YAML
     • 의사코드 (Pseudo-code)

3. 주요 기여 (Key Contributions)

1. 자가 진화 프레임워크 제안: 사전 정의된 연산자를 조립하는 방식이 아닌, 작업 설명만으로 처음부터 에이전트 워크플로우를 자동 구축하고 진화시키는 SEW 프레임워크를 개발했습니다.
2. 표현 방식에 대한 통찰: BPMN, CoRE, Python, YAML, 의사코드 등 5 가지 워크플로우 표현 방식을 비교하여, LLM 이 워크플로우를 해석하고 최적화하는 데 가장 효과적인 방식 (CoRE) 을 규명했습니다.
3. 동시 최적화 메커니즘: 워크플로우의 구조적 진화와 에이전트 프롬프트의 진화를 연동 (Jointly) 하여 성능을 극대화하는 방법을 제시했습니다.
4. 광범위한 실험 검증: 세 가지 벤치마크 (MBPP, HumanEval+, LiveCodeBench) 를 통해 SEW 의 유효성을 입증했습니다.

4. 실험 결과 (Results)

• 성능 향상: SEW 는 단일 LLM 백본 모델 (Claude Opus 4.6, GPT-5.3) 과 기존 최첨단 방법론 (CoT, PromptBreeder, ADAS, AFlow) 보다 모든 벤치마크에서 우수한 성능을 보였습니다.
  • 특히 난이도가 높은 LiveCodeBench에서 백본 모델 대비 최대 12% 이상의 성능 향상을 기록했습니다.
  • 예시: Claude Opus 4.6 기반의 SEW 는 HumanEval+ 에서 94.8, MBPP 에서 91.2, LCB 에서 57.2 (pass@1) 의 점수를 달성했습니다.
• 표현 방식 비교 (RQ1):
  • BPMN은 논리적 성공률 (LSR) 이 가장 높았으나 실행 성공률 (GSR) 은 낮았습니다.
  • CoRE는 논리적 정확성과 실행 가능성 사이의 균형을 가장 잘 이루어 가장 효과적인 표현 방식으로 판명되었습니다.
• 진화 모듈의 효과 (RQ2):
  • 워크플로우 진화만으로도 백본 모델보다 성능이 향상되었으며, 여기에 에이전트 진화 (프롬프트 최적화) 를 추가하면 LCB 에서 약 9.5% 추가적인 성능 향상을 보였습니다.
• 진화 전략 비교 (RQ3):
  • 직접 진화 (DE) 는 특정 지표에서 최고 성능 (Peak Performance) 을 내는 경향이 있지만 변동성이 큽니다.
  • 초 진화 (HE) 는 성능의 편차가 작아 강건성 (Robustness) 이 뛰어나며, 실제 적용 시 더 안정적인 결과를 제공합니다.

5. 의의 및 결론 (Significance)

이 논문은 수동으로 설계된 워크플로우의 의존성을 탈피하고, LLM 이 스스로 자신의 작업 흐름과 지시사항을 진화시켜 복잡한 코딩 문제를 해결할 수 있음을 증명했습니다.

• 자동화 및 적응성: 다양한 코딩 작업에 대해 인간 개입 없이 최적의 에이전트 구성을 자동으로 찾아낼 수 있는 길을 열었습니다.
• 표현 방식의 중요성: 워크플로우를 LLM 이 이해하고 수정하기 쉬운 형식 (CoRE 등) 으로 표현하는 것이 자동화 시스템의 성공에 핵심임을 강조했습니다.
• 미래 방향: SEW 는 코드 생성뿐만 아니라 추론 (Reasoning) 및 계획 (Planning) 과 같은 다른 AI 작업으로도 확장될 수 있는 잠재력을 가지며, 향후 LLM 기반 에이전트 시스템 설계의 새로운 표준을 제시합니다.

결론적으로, SEW 는 LLM 기반 멀티 에이전트 시스템의 성능을 획기적으로 개선할 수 있는 자가 진화 (Self-Evolving) 메커니즘을 성공적으로 구현한 선구적인 연구입니다.