AISAC: An Integrated multi-agent System for Transparent, Retrieval-Grounded Scientific Assistance

1. 문제 제기 (Problem)

최근 대규모 언어 모델 (LLM) 기반의 에이전트 시스템이 과학적 연구 보조 도구로 주목받고 있으나, 기존의 많은 에이전트 프레임워크는 다음과 같은 한계로 인해 실제 과학 연구 환경 (특히 미국 에너지부 DOE 소속 연구소 등) 에 적용하기 어렵습니다.

• 통제되지 않은 자율성: 기존 시스템은 종종 클라우드 중심이며, 지속적인 인터넷 접근과 무제한의 지식 공유를 가정합니다. 이는 제한된 네트워크 환경과 엄격한 데이터 주권 (Provenance) 이 요구되는 과학 컴퓨팅 환경과 충돌합니다.
• 검증 불가능한 실행: "할루시네이션" 방지와 증거 기반 추론을 위한 명확한 추적성 (Traceability) 과 재현성 (Reproducibility) 이 부족합니다.
• 인프라 의존성: 도메인 과학자 (연소 공학자, 재료 과학자 등) 가 AI 인프라를 구축하거나 유지 관리할 필요 없이 즉시 사용할 수 있는 도구가 부재합니다.
• 비구조화된 컨텍스트: 장기적인 작업 (Long-horizon reasoning) 수행 시 컨텍스트가 무제한으로 팽창하거나, 에이전트 간 불필요한 지식 오염이 발생할 수 있습니다.

2. 방법론 (Methodology)

AISAC(AI Scientific Assistant Core) 은 Argonne 국립연구소에서 개발된 투명하고 모듈화된 멀티 에이전트 런타임으로, 과학적 추론을 지원하기 위해 다음과 같은 설계 철학과 아키텍처를 채택했습니다.

A. 핵심 설계 원칙

1. 통제된 자율성 (Governed Autonomy): 에이전트가 작업을 분해하고 하위 작업을 위임할 수는 있지만, 외부에 중대한 영향을 미치는 행동 (데이터 수정, 작업 제출 등) 은 명시적으로 등록된 도구 (Tools) 를 통해서만 수행되도록 제한합니다.
2. 역할 분리 (Role Separation):
   • Driver (드라이버): 추론, 계획 수립, 합성을 담당하며 직접 도구를 호출하지 않습니다.
   • Helper (헬퍼): 명시적인 능력 제약 하에 도구 실행, 검색, 데이터 조작을 수행합니다.
   • 이 분리는 프롬프트 지시가 아닌 실행 그래프 (Execution Graph) 구조적으로 강제됩니다.
3. 예산 관리 (Budgeted Management):
   • 컨텍스트 예산: 에이전트별 토큰 사용량과 위임 깊이 (Delegation depth) 를 제한하여 무한 루프나 과도한 리소스 소모를 방지합니다.
   • 검색 범위 제한: 에이전트별로 접근 가능한 지식 베이스 (Corpus) 를 명시적으로 정의하여 불필요한 정보 혼입을 차단합니다.

B. 시스템 아키텍처

• 라우팅 및 위임: 사용자 요청은 Router를 통해 분석되며, 단순 요청은 직접 응답, 복잡한 작업은 Planner(주 드라이버) 를 통해 다단계 추론으로 위임됩니다. 위임 깊이는 런타임에 제한됩니다.
• 지식 관리 및 검색 (RAG):
  • 하이브리드 영구 메모리: SQLite(실행 기록) 와 FAISS(이중 인덱스: 대화 및 증거용) 를 결합합니다.
  • 명시적 검색 생명주기: 인덱스 생성 및 갱신은 에이전트 실행의 부수적 효과가 아닌, 사용자의 명시적 행동으로만 이루어집니다.
  • 역할 기반 접근: 각 헬퍼 에이전트는 자신의 전문 분야에 맞는 커스텀 지식 베이스만 접근할 수 있습니다.
• 실행 투명성:
  • 추적 기반 투명성 (Trace-driven Transparency): 모든 에이전트 전환, 도구 호출, 검색 결과는 단일 중앙 경로를 통해 불변의 실행 기록 (Immutable Trace) 으로 저장됩니다.
  • 실시간 이벤트 스트림: 과학자는 에이전트의 의사결정 과정, 위임 구조, 도구 호출 내역을 실시간으로 시각화하고 감사할 수 있습니다.
  • 블랙보드 (Blackboard): 에이전트 간 공유 상태를 관리하기 위해 변경 가능한 공유 스토어를 제공하며, 이는 대화 기록을 팽창시키지 않고 협업 산물을 축적합니다.

C. 프로젝트 커스터마이징

• 엄격한 계약 (Strict Contracts): 코어 실행 인프라와 프로젝트별 커스터마이징을 분리합니다. 과학자는 에이전트, 도구, 검색 코퍼스를 명시적인 설정을 통해 등록할 수 있지만, 코어 로직을 수정할 필요는 없습니다.
• 배포 유연성: 데스크톱 (Windows, macOS, Linux), HPC, 오프라인/제한 네트워크 환경 모두에서 작동하도록 설계되었습니다.

3. 주요 기여 (Key Contributions)

1. 과학적 실천을 위한 실행 기반 (Execution Substrate): 새로운 에이전트 알고리즘 제안이 아닌, 과학적 환경에 적합한 거버넌스 실행 레이어를 제공합니다.
2. 런타임 강제 역할 의미론 (Runtime-enforced Role Semantics): 에이전트의 역할 (Driver/Helper) 과 권한을 프롬프트가 아닌 시스템 구조로 강제하여 안전성과 예측 가능성을 확보합니다.
3. 예산 관리 및 위임 깊이 제한: 장기적인 과학적 추론이 리소스 한계 내에서 안정적으로 수행되도록 하는 메커니즘을 도입했습니다.
4. 투명성과 재현성: 모든 실행 단계에 대한 완전한 감사 로그와 재현 가능한 실행 기록을 제공하여, 과학적 연구의 검증 가능성을 높입니다.
5. 도메인 과학자 친화적 접근: AI 인프라 지식이 없는 과학자도 도메인별 지식 베이스와 도구를 연결하여 즉시 사용할 수 있는 환경을 제공합니다.

4. 결과 및 현황 (Results & Status)

• 활용 현황: Argonne 국립연구소의 연소 과학, 재료 연구, 에너지 공정 안전 등 여러 과학 워크플로우에서 **실제 운영 중 (Active Use)**입니다.
• 평가: 현재 이 논문은 아키텍처와 설계 논리를 제시하는 단계이며, 다양한 과학 배포 환경에 대한 포괄적인 종단간 (End-to-End) 평가는 진행 중입니다. 향후 작업 성공률, 증거 기반성, 지연 시간, 사용자 시간 단축 등을 정량적으로 평가할 예정입니다.
• 기술적 성과:
  • 다양한 HPC 및 제한된 네트워크 환경에서의 안정적인 배포 성공.
  • 외부 에이전트 (MCP 프로토콜을 통한) 와의 연동 및 권한 관리 구현.
  • 오프라인 모드 지원으로 에어갭 (Air-gapped) 환경에서의 활용 가능성 입증.

5. 의의 및 중요성 (Significance)

• 과학적 책임성 확보: AI 가 과학적 발견을 "자율적으로" 수행하는 것을 지향하기보다, 인간의 감독 하에 통제된 자율성을 발휘하도록 하여 과학적 책임 (Accountability) 과 기관적 거버넌스 요구사항을 충족시킵니다.
• 실용적 전환: 실험실 수준의 에이전트 연구 (Experimental Agentic AI) 를 실제 과학 연구 현장 (Day-to-day Scientific Practice) 으로 연결하는 가교 역할을 합니다.
• 재사용 가능한 인프라: 하나의 공유 코어에서 다양한 도메인별 AI 조수 (Co-scientist) 를 빠르게 파생시킬 수 있어, 연구 그룹 간 인프라 중복을 줄이고 효율성을 극대화합니다.
• 미래 지향적 아키텍처: 투명성, 제한된 자율성, 명시적 통제를 강조하는 아키텍처는 향후 과학 연구에서 AI 시스템의 지속 가능한 사용을 위한 표준 모델로 자리 잡을 수 있음을 시사합니다.

요약하자면, AISAC 는 AI 의 자율성을 무제한으로 확장하는 것이 아니라, 과학적 엄격성과 투명성을 유지하면서 AI 가 과학자의 강력한 파트너가 될 수 있도록 설계된 거버넌스 중심의 멀티 에이전트 시스템입니다.