기술 요약: A3D: 자율 가속기 설계를 위한 에이전트형 AI 워크플로우

문제 정의

복잡한 과학적 응용 프로그램을 위한 하드웨어 가속기 설계는 여전히 매우 노동 집약적인 과정이며, 워크로드 분석, 마이크로 아키텍처, 그리고 전자 설계 자동화 (EDA) 도구에 대한 깊은 전문 지식을 요구합니다. 고수준 합성 (HLS) 이 추상화를 개선해 왔지만, 대규모 C/C++/CUDA 코드베이스에서 성능 병목 현상을 식별하여 최적화된 RTL 을 생성하는 엔드 투 엔드 워크플로우는 여전히 상당한 수동 개입을 요구합니다. 기존 AI 기반 프레임워크들은 일반적으로 설계 공간 탐색이나 코드 리팩토링과 같은 분리된 하위 작업에만 대응할 뿐, 대규모 응용 프로그램을 분석하고 깊은 클래스 계층 구조에 숨겨진 커널을 추출하며 데이터 종속성을 관리하는 상류의 복잡성을 자동화하지는 못합니다. 또한, 대규모 언어 모델 (LLM) 만으로는 환각 현상에 취약하고 독점적인 EDA 도구 문서에 대한 노출이 부족하여 신뢰할 수 있는 자율적인 하드웨어 생성이 어렵습니다.

방법론: A3D 에이전트형 워크플로우

A3D 는 가속기 설계 파이프라인 전체를 자동화하는 엔드 투 엔드 에이전트형 AI 워크플로우를 도입합니다. 이 시스템은 C/C++/CUDA 응용 프로그램 코드베이스, 대표적 워크로드, 그리고 자연어 지시를 입력받아 다양한 하드웨어 가속기 설계를 출력합니다. 시스템은 상위 수준의 인터페이서 에이전트가 조율하고 공유 인프라에 의해 지원되는 전문 에이전트들이 실행하는 워크플로우를 세 가지 주요 단계로 분해합니다.

1. 분석 단계

• 워크로드 분석가: 시맨틱 검색을 사용하여 응용 프로그램 기능과 워크로드 특성을 이해합니다.
• 성능 프로파일러: gprof 와 같은 도구를 사용하여 워크로드를 실행하고 실행 시간 병목 현상을 식별합니다.
• 병목 분석가: 데이터 구조 종속성을 결정하기 위해 주요 함수를 분석합니다. 이 과정은 완전한 I/O 발자국 (변수, 타입, 데이터 흐름 방향) 을 생성하여 후속 추출을 안내하는 맞춤형 CodeQL 도구를 사용하여 정적 분석을 수행합니다.

2. 준비 단계

이 단계는 식별된 병목 현상을 HLS 호환이 되도록 리팩토링합니다.

• 스냅샷 엔지니어: 실행 중 입력/출력 데이터 구조 상태를 캡처하기 위해 코드를 계측합니다.
• 하니스 개발자: 캡처된 스냅샷에 대해 추출된 커널의 수치적 정확성을 보장하기 위해 격리된 테스트 하니스를 생성합니다.
• HLS 준비자: 지원되지 않는 구조 (예: 동적 메모리, 다중 레벨 포인터, STL 컨테이너) 의 리팩토링을 조율합니다. 이는 전문 에이전트들이 처리하는 하위 작업으로 나뉩니다:
  • 데이터 구조 가지치기: 사용되지 않는 필드를 제거합니다.
  • 메모리 인터페이스 리팩토링: AST 기반 도구 (staticMem) 를 사용하여 동적 포인터를 정적 배열로 변환합니다.
  • 타입 변환: 도구 문서에 대한 에이전트형 RAG 쿼리를 통해 표준 타입을 HLS 호환 ac_types 로 대체합니다.
  • 수학 함수 교체: 표준 수학 함수를 HLS 최적화 버전으로 교체합니다.
  • 루프 레이블링: 최적화 지시를 위한 식별자를 추가합니다.

3. 합성 단계

• 수치 탐색자: 기능적 정확성을 유지하면서 리소스 사용을 최소화하기 위해 숫자 형식과 비트 너비를 반복적으로 최적화합니다 (예: double 을 ac_fixed 로 변환).
• 합성기: 상용 Catapult HLS 도구를 호출합니다. 합성 로그와 오류 보고서를 분석하고 에이전트형 RAG를 사용하여 문서를 쿼링하며 합성이 성공할 때까지 코드를 반복적으로 개선합니다.
• 설계 공간 열거기 (DSE): 최적화 지시문 (루프 언롤링, 파이프라이닝, 배열 분할) 의 YAML 명세를 파싱하여 결합적 설계 공간을 생성합니다. 결정론적 도구 (genDSE) 를 사용하여 Tcl 파일을 생성하고 병렬 실행 도구 (runDSE) 를 사용하여 모든 설계 지점을 합성하며, 지연 시간 - 면적 트레이드오프의 파레토 최적 집합을 추출합니다.

핵심 아키텍처 원칙

LLM 의 한계를 완화하기 위해 A3D 는 네 가지 중요한 인프라 구성 요소를 사용합니다:

1. 작업 분해: 복잡한 작업을 단일 모델이 아닌 전용 전문 에이전트들 간에 분할합니다.
2. 도구 증강: 에이전트들은 기계적 코드 변경을 위해 결정론적 맞춤형 도구 (AST 변환, CodeQL) 를 사용하며, LLM 은 추론과 계획에만 할당합니다.
3. 적대적 검증: 전문가 - 검증자 루프가 견고성을 보장합니다. 전용 검증자 에이전트가 전문가의 출력을 비판적으로 평가하여 품질 기준이 충족될 때까지 반복적 개선을 위한 피드백을 제공합니다.
4. 에이전트형 RAG: 임베딩 및 재순위화를 포함한 2 단계 검색 파이프라인을 통해 에이전트들이 응용 프로그램 코드베이스와 독점적 EDA 문서 (예: Catapult 문서) 를 시맨틱하게 검색하여 컨텍스트 격차를 해소할 수 있게 합니다.

주요 기여

• 최초의 엔드 투 엔드 자동화: A3D 는 복잡한 코드베이스에서의 워크로드 프로파일링 및 병목 식별을 포함한 응용 프로그램 분석부터 설계 공간 탐색까지 전체 파이프라인을 자동화하는 최초의 프레임워크입니다. 이는 하위 단계만 다루던 기존 연구들이 남긴 간극을 메워줍니다.
• 복잡한 과학적 커널 처리: 이 시스템은 기존 도구들이 일반적으로 처리 불가능한 깊은 클래스 계층 구조, 동적 메모리, 불규칙한 데이터 종속성을 특징으로 하는 대규모 과학적 응용 프로그램 (LAMMPS, QMCPACK) 의 커널을 성공적으로 처리합니다.
• CUDA 에서 가속기로: A3D 는 LAMMPS 의 k_lj_fast 와 같은 CUDA 커널을 추출하여 리팩토링하여 맞춤형 가속기 설계를 위한 HLS 호환 C++ 로 변환하는 능력을 시연하며, 이는 이전에 입증되지 않은 기능입니다.
• 아키텍처 검증: 제거 실험을 통해 작업 분해, 도구 증강, 검증 루프의 조합이 고신뢰성 자동화 (준비 단계에서 96.7% 성공률) 를 달성하는 데 필수적임을 검증했습니다. 반면 더 단순한 구성은 현저히 실패했습니다.

결과

• 벤치마크: A3D 는 LAMMPS (분자 역학) 와 QMCPACK (양자 화학) 의 8 개 커널에 대해 평가되었습니다.
• 파이프라인 성공: 시스템은 인간의 개입 없이 모든 커널을 자율적으로 처리했습니다. 모든 커널에 걸쳐 3,216 개의 설계 지점 중 1,036 개를 성공적으로 합성하여 92 개의 파레토 최적 설계를 도출했습니다.
• 합성 성공률: 성공률은 커널 복잡성에 따라 다양했으며, PairLJCut::Compute() 와 같이 매우 불규칙한 커널의 경우 5.6% 에서 LRHandlerBase::Evaluate() 의 경우 90.7% 까지 ranged 되었습니다.
• 성능 대 엣지 GPU: PairLJCut 커널에 대해 NVIDIA Jetson AGX Orin 과 비교했을 때, A3D 가 생성한 저지연 설계는 더 낮은 병렬성으로 인해 더 높은 지연 시간을 보임에도 불구하고 실행당 에너지는 유사하면서 3.5 배의 전력 우위 (1.04 W 대 3.6 W) 를 달성했습니다.
• 제거 실험:
  • 단일 모델 에이전트 (구성 A): 32.5% 성공률.
  • 멀티 에이전트 (구성 B): 57.5% 성공률 (분해의 가치 입증).
  • 멀티 에이전트 + 도구 (구성 C): 75.0% 성공률 (결정론적 도구의 가치 입증).
  • 전체 A3D (구성 D): 96.7% 성공률 (검증 루프의 필요성 입증).
  • 전체 아키텍처 (구성 D) 만이 90% 이상의 성공률을 초과할 확률이 0 이 아닌 유일한 구성이었습니다.

중요성과 주장

이 논문은 A3D 가 복잡한 공학 작업의 자율적 자동화를 향한 중요한 진전이라고 주장합니다. 신뢰할 수 있는 에이전트형 자동화는 LLM 만으로는 달성할 수 없으며, 대신 전문가 분해, 결정론적 도구 증강, 그리고 적대적 검증을 결합한 시너지 아키텍처가 필요하다고 논증합니다. 인간의 개입 없이 복잡하고 현실적인 과학적 응용 프로그램에서 하드웨어 설계를 성공적으로 생성함으로써, A3D 는 하드웨어 가속의 민주화 잠재력을 보여줍니다. 이는 응용 분야 전문가들이 깊은 하드웨어 설계 전문 지식 없이도 맞춤형 가속기를 활용할 수 있게 합니다. 이 연구는 현재 LLM 에는 한계가 있지만, 구조화된 에이전트형 워크플로우가 이러한 장벽을 극복하여 생산급 신뢰성을 달성할 수 있음을 강조합니다.