기술 요약: AgRefactor: HLS 호환성 및 성능을 위한 자기 진화형 에이전트 워크플로우

1. 문제 정의

고수준 합성(High-Level Synthesis, HLS)은 설계를 RTL(Register-Transfer Level)에서 C/C++ 기반 설계로 추상화 수준을 높임으로써 설계 개념에서 실리콘으로의 전환을 간소화하는 것을 목표로 합니다. 그러나 중요한 병목 현상이 남아 있습니다. 바로 실제 소프트웨어 저장소를 합성 가능한 HLS 코드로 변환하는 과정입니다. 이 준비 단계인 리팩터링 작업은 제한적인 언어 지원과 소프트웨어 및 하드웨어 프로그래밍 관행 사이의 격차로 인해, 도메인 전문가가 초기 HLS 호환 프로그램을 생성하는 데만 며칠이 소요될 정도로 노동 집약적입니다.

기존의 자동화된 방식 및 대규모 언어 모델(LLM) 기반의 리팩터링 접근 방식은 세 가지 주요 과제에 직면해 있습니다:

• 일반화 가능성(Generalizability): 규칙 기반 도구는 복잡한 데이터 구조(예: STL 컨테이너, 중첩 포인터)나 외부 라이브러리에서 실패하는 경우가 많습니다. 순수 LLM 방식은 잘못된 패턴이 여러 위치에 걸쳐 있거나, 학습 데이터에 없는 비표준 구현을 다룰 때 긴 프로그램에서 어려움을 겪습니다.
• 확장성(Scalability): 순수 LLM 워크플로우는 높은 계산 비용을 발생시키며, LLM 고유의 무작위성으로 인해 출력의 변동성이 큽니다.
• 비용(Cost): LLM 기반 방법의 반복적인 오류 피드백 루프는 자동화된 도구에 비해 계산 비용이 많이 듭니다.

2. 방법론

저자들은 실제 소프트웨어를 합성 가능하고 고성능인 HLS 프로그램으로 리팩터링하기 위해 설계된 LLM 기반 멀티 에이전트 워크플로우인 AgRefactor를 제안합니다. 이 시스템은 AG2 프레임워크를 기반으로 구축되었으며, 완전히 자동화되어 있고 오픈 소스로 제공됩니다.

A. 프레임워크 개요

파이프라인은 다음 단계를 통해 작동합니다:

1. 테스트 생성 (Test Generation): 리팩터링 전, 테스트 생성기가 테스트와 인터페이스 가정(예: 배열 크기, 함수 시그니처)을 생성하여 상위 수준의 제약 조건 역할을 하게 합니다.
2. 진단 및 계획 (Diagnosis and Planning):
   • 식별자 (Identifiers): 6개의 카테고리별 에이전트가 병렬로 실행되어 합성 불가능한 구조(예: 동적 메모리, 재귀, 시스템 호출, 포인터 연산)를 탐지합니다.
   • 항목 정리자 (Items Organizer): 식별자들의 결과를 병합하고 중복을 제거합니다.
   • 플래너 (Planner): 전략적 및 사실적 메모리에 의해 강화된 종합적인 리팩터링 계획을 생성합니다.
3. 리팩터링 (Refactoring): 리팩터크 워커(Refactor Worker)가 계획을 적용합니다.
4. 검증 및 수정 (Validation and Fixing): 출력물은 합성 및 시뮬레이션을 거칩니다. 오류가 발생하면 분석가-수정기(Analyzer-Fixer) 쌍이 성공하거나 재시도 제한에 도달할 때까지 코드 또는 테스트벤치를 반복적으로 업데이트합니다.
5. 최적화 (Optimization): 합성 가능한 코드가 생성되면, 별도의 최적화 에이전트가 EDA 도구(Vitis HLS, LightningSim) 및 소스 투 소스(source-to-source) 변환 도구에 접근할 수 있는 CLI 환경을 사용하여 하드웨어 성능을 반복적으로 개선합니다.

B. 자기 진화형 에이전트 메모리 (Self-Evolving Agentic Memory)

일반화 가능성을 해결하기 위해, AgRefactor는 지식을 축적하고 검색하는 특화된 메모리 시스템을 포함합니다.

• 지식 구조: 각 메모리 항목은 초기 프로그램($p_i$), 식별된 부적합 구조($I_i$), 리팩터링 전략($s_i$), 그리고 일반화된 비평($c_i$)을 나타내는 튜플 $(p_i, I_i, s_i, c_i)$로 구성됩니다.
• 검색 메커니즘: 특화된 거리 메트릭은 원시 프로그램 임베딩($e_c$)과 식별된 항목 임베딩($e_i$)을 결합하여 관련 있는 과거의 계획과 비평을 검색합니다. 이를 통해 시스템은 수동으로 제작된 RAG 템플릿에 의존하는 대신, 모델의 특정 실패 및 성공 모드에 적응할 수 있습니다.
• 진화: 시스템이 다양한 작업을 처리함에 따라 사실적 및 전략적 지식을 축적하며, 이를 통해 미처 보지 못한 프로그램에 대한 견고성을 향상시킵니다.

C. 확장성 및 비용을 위한 도구 통합

LLM의 높은 비용과 제한된 확장성을 완화하기 위해, AgRefactor는 최첨단 자동화 오픈 소스 리팩터링 도구인 HeteroRefactor를 통합합니다.

• 하이브리드 워크플로우: 시스템은 탐욕적(greedy) 전략을 채택하여, 먼저 HeteroRefactor를 통한 자동 리팩터링을 시도합니다. 성공할 경우 프로세스를 즉시 종료합니다.
• 도구 전문가 (Tool Specialist): 도구가 실패할 경우, 전용 "도구 전문가" 파이프라인이 트리거됩니다. LLM 에이전트는 코드를 "Hetererofactor-호환"되도록 경량 리라이트(예: 문제 있는 헤더 제거)를 수행하여, 대규모 변환 작업을 다시 효율적인 도구에 위임합니다. 이는 LLM의 유연성과 도구 기반의 효율성 사이의 균м 균형을 맞춥니다.

D. 성능 최적화 에이전트

합성 가능성을 확보하는 것을 넘어, 최적화 에이전트는 하드웨어 성능을 반복적으로 개선합니다.

• 계층 구조: 에이전트는 엄격한 3단계 계층 구조를 따릅니다: (1) 구조적 리라이트, (2) 크리티컬 패스 위반을 해결하기 위한 스케줄링 보고서 분석, (3) 미세한 프라그마(pragma) 튜닝.
• 작업 메모리 (Working Memory): 에이전트는 합성된 코드 버전과 최적화 전략을 추적하기 위해 트리 기반의 작업 메모리를 활용하여, 수 시간 동안 실행되는 과정에서 컨텍스트 저하나 비생산적인 루프를 방지합니다.

3. 주요 기여

1. AgRefactor 워크플로우: 실제 소프트웨어를 합성 가능하고 고성능인 HLS 코드로 리팩터링할 수 있는 완전 자동화된 에이전트 워크플로우입니다. 이는 단순한 정적 검증이나 프라그마 삽입을 넘어, 하드웨어 성능에 큰 영향을 미치는 구조적 리팩터링을 독보적으로 다룹니다.
2. 자기 진화형 메모리 시스템: 사실적 및 전략적 지식을 지속적으로 축적하고 검색하는 특화된 에이전트 메모리 시스템입니다. 이는 최소한의 인간 개입으로 기본 LLM의 HLS 리팩터링 견고성을 향상시킵니다.
3. 하이브리드 도구 통합: 자동화된 리팩터링 도구(HeteroRefactor)를 에이전트 프레임워크에 통합함으로써 하이브리드 파이프라인을 구축했습니다. 이는 순수 LLM 기반 접근 방식에 비해 계산 비용을 크게 줄이고 확장성을 개선합니다.

4. 실험 결과

저자들은 11개의 도전적인 실제 벤치마크(최대 1,266 라인의 코드)를 대상으로 AgRefactor를 평가하였으며, 이는 이전 연구의 사례보다 5~10배 더 긴 분량입니다.

• 리팩터링 성능: AgRefactor는 11개 벤치마크 중 9개에서 최첨단(SoTA) 자동화 도구(HeteroRefactor) 및 강력한 LLM 기반 베이스라인(HLSRewriter 스타일)과 대등하거나 능가하는 성능을 보였습니다.
  • encode_one_block 및 idct_generic과 같은 벤치마크에서, 도구 전문가(Tool Specialist)는 HeteroRefactor가 합성 가능한 버전을 생성할 수 있도록 코드를 성공적으로 재작성했습니다.
  • 더 단순한 벤치마크에서는 메모리 메커니즘을 통해 성공률을 거의 100%까지 끌어올렸습니다.
• 절제 연구 (Ablation Studies):
  • 메모리: 메모리 증강을 추가했을 때 GPT-5-mini 및 GPT-5 모델 모두에서 리팩터링 성공률이 향 향상되었습니다. GPT-5-mini의 경우 11개 중 10개 벤치마크에서 성능이 개선되었습니다.
  • 도구: 도구 전문가는 HeteroRefactor 단독으로는 실패했던 복잡한 케이스(예: encode_one_block, argon2_fill_segment)에서 성공률을 크게 높였습니다.
• 최적화 성능:
  • 최적화 에이전트는 2시간의 예산 내에서 최첨단 프라그마 튜닝 도구(AutoDSE) 대비 **6.51배의 기하 평균 속도 향상(speedup)**을 달お성했습니다.
  • 이러한 개선은 프라그마 전용 방식으로는 접근할 수 없는 구조적 변환(예: $O(n^2)$ 정렬을 radix 정렬로 교체, DFS 스택 재구조화)을 통해 이루어졌습니다.
  • 최적화된 오픈 소스 설계와 비교했을 때, AgRefactor는 20% 미만의 추가 자원만으로 1.20배의 속도 향상을 달성했습니다.

5. 의의 및 주장

본 논문은 AgRefactor가 소프트웨어-to-HLS 변환의 "노동 집약적" 성격을 해결함으로써 HLS 설계 흐름을 자동화하는 데 있어 중요한 진전을 이루었다고 주장합니다. 그 의의는 다음과 같습니다:

• 견고성: 자기 진화형 메모리 시스템을 통해 워크플로우가 특정 실패 모드와 미처 보지 못한 프로그램에 적응할 수 있게 함으로써, 정적인 RAG 시스템과 수동 프롬프트 엔지니어링의 한계를 극복합니다.
• 효율성: LLM 에이전트와 자동화 도구를 하이브리드화함으로써, 시스템은 높은 확장성과 낮은 계산 비용을 달성하여 실제 대규모 소프트웨어 저장소에 적용 가능하게 만듭니다.
• 성능: 프레임워크는 단순히 합성 가능한 코드를 생성하는 것에 그치지 않고, 구조적 코드 변환을 통해 기존의 자동 튜닝 도구보다 실질적인 속도 향상을 이끌어내며 적극적으로 최적화합니다.

저자들은 AgRefactor가 완전히 자동화되어 있으며 오픈 소스로 제공된다는 점을 강조하며, 현재 HLS 리팩터링 방법론이 가진 일반화, 확장성 및 비용 문제를 해결할 수 있는 실질적인 솔루션을 제공한다고 밝히고 있습니다.