기술 요약: 학습을 통한 선택: 적응적 방법 선택을 위한 의미론적 통신이 포함된 권한 부여 기반 다중 에이전트 시스템

1. 문제 제기

민감도 분석 (SA) 및 불확실성 정량화 (UQ) 를 위한 과학적 컴퓨팅 워크플로우의 자동화는 단순한 코드 생성을 넘어 '선택 - 실행 문제'라는 중대한 도전에 직면해 있습니다. 다중 에이전트 파이프라인에서 정책은 라이브러리에서 적절한 계산 방법을 선택해야 하지만, 이 선택 과정은 취약합니다. 에이전트의 의도와 행동 간의 작은 불일치는 **의미론적 드리프트 (semantic drift)**로 이어져, 실행된 코드가 처음 선택된 방법과 달라질 수 있습니다.

이러한 드리프트는 '인과적 분리 (causal decoupling)'를 초래합니다. 학습 에이전트가 관찰하는 보상 신호는 선택된 방법의 품질이 아닌 실행된 코드의 품질을 측정합니다. 결과적으로 컨텍스트 밴딧 정책은 왜곡된 학습 신호를 받아 수렴성이 저하되고, 시스템이 특정 결정에 대한 결과를 신뢰할 수 있게 귀속시키는 것이 불가능해집니다. 핵심 문제는 다중 에이전트 파이프라인 전체에 걸쳐 선택된 행동 (방법 선택) 과 결과 사이의 인과적 연결이 무결하게 유지되도록 보장하는 것입니다.

2. 방법론

제안된 프레임워크는 **권한 부여 (empowerment)**의 관점에서 해석되는 구조화된 에이전트 간 통신과 의미론적 체크포인트를 컨텍스트 밴딧과 통합함으로써 이 문제를 해결합니다.

2.1 이론적 기반: 시스템 권한 부여

권한 부여 [15, 45] 개념에 기반하여, 저자들은 행동 공간 (방법 선택) 과 계산 결과 사이의 상호 정보 $I(A; O | s)$를 시스템 권한 부여로 정의합니다. 높은 권한 부여는 두 가지 구별된 메커니즘을 요구합니다:

1. 통계적 구성 요소: 주어진 문제 컨텍스트에서 고품질 결과를 인과적으로 생성하는 행동을 식별하는 정책.
2. 의사소통적 구성 요소: 선택된 행동이 코드 생성 및 실행을 통해 전파될 때 충실히 보존되도록 명시적으로 보장하는 것.

이 프레임워크는 의사소통적 구성 요소가 없으면 의미론적 드리프트가 상호 정보를 0 으로 감소시켜, 정책의 품질과 관계없이 시스템을 통제 불가능하게 만든다고 주장합니다.

2.2 다중 에이전트 아키텍처

이 시스템은 컨텍스트 밴딧 루프 내에서 작동하는 네 가지 기능 그룹으로 구성됩니다:

• 개념화 팀 (Conceptualization Team): 사용자의 요청에서 차원, 예산, 작업 유형 (SA 또는 UQ) 을 포함한 구조화된 문제 표현 (컨텍스트 벡터 $x$) 을 추출합니다.
• 전략 팀 (정책 연산자 $\pi$): 컨텍스트와 이력을 기반으로 다음 방법 행동 $A_n$을 선택합니다. 여기에는 전략가 (제안), 비평가 (검증), *고문 (하이퍼파라미터 처방)*이 포함됩니다.
• 구현 팀 (연산자 $I$): UQpy 와 같은 기반 코퍼스를 사용하여 추상적 행동을 실행 가능한 코드로 변환합니다. 여기에는 연구 에이전트 (계획), 리팩토링 에이전트 (코드 생성), *검사관 (구조적 검증)*이 포함됩니다.
• 실행 및 평가 (연산자 $E$ 및 $A$): 코드를 실행하고 결과를 평가합니다. *고문 (다중 모달 에이전트)*은 수치 결과와 플롯을 분석하여 스칼라 보상 $R_n$과 진단 보고서를 할당합니다.

2.3 의미론적 체크포인트 및 구조화된 스킴

의미론적 드리프트를 방지하기 위해, 시스템은 자유 텍스트 통신을 **구조화된 스킴 (ProblemScheme, MethodScheme, DiagnosticScheme)**으로 대체하고 주요 에이전트 경계에서 **7 개의 코사인 유사도 체크포인트 (CP0–CP7)**를 구현합니다.

• 메커니즘: 각 체크포인트는 상류 에이전트 출력의 의미론적 임베딩을 하류 에이전트 입력 (또는 예상 출력) 과 비교합니다. 유사도가 적응형 임계값 아래로 떨어지면 전환이 차단되거나 경고가 발령됩니다.
• 주요 체크포인트:
  • CP0 (크로스 세션): 현재 문제를 과거 세션의 아카이브와 비교하여 이상을 감지합니다. 익숙한 문제의 경우 '웜-스타팅 (warm-starting, 탐색 감소)'을, 새로운 문제의 경우 '이상 지향적 탐색 (anomaly-directed exploration)'을 트리거합니다.
  • CP1 및 CP2 (선택 레이어): 사용자 요청이 컨텍스트 벡터로 올바르게 파싱되었는지, 그리고 제안된 방법이 컨텍스트적으로 호환되는지 검증합니다.
  • CP3, CP4, CP5 (구현 레이어): 구현 계획과 조립된 코드가 실행 전에 선택된 방법을 충실히 반영하는지 검증합니다. CP5 는 특히 전략 보고서에 대한 코드 일관성을 확인합니다.
  • CP6 및 CP7 (평가 레이어): 진단이 실제 관찰에 기반하고 있는지, 그리고 정책 붕괴를 방지하기 위해 행동 다양성이 유지되는지 보장합니다.

2.4 학습 역학

이 시스템은 다음 반복의 기대 보상이 현재 보상보다 크거나 같아야 한다는 **서브마팅글 수렴 조건 (submartingale convergence condition)**을 적용합니다 ($E[R_{n+1} | H_n] \ge R_n$). 이는 단조로운 개선을 위한 런타임 검증 가능 기준을 제공합니다. 정책은 톰슨 샘플링을 사용하여 온라인으로 업데이트되며, 크로스 세션 지식은 과거 성공의 기하학적 메모리를 통해 축적됩니다.

3. 주요 기여

1. 권한 부여 기반 프레임워크: 다중 에이전트 과학 자동화를 권한 부여 최대화 문제로 해석하는 새로운 접근법으로, 통계적 학습 (정책) 과 의사소통 무결성 (전파) 을 명시적으로 분리합니다.
2. 의미론적 체크포인트 메커니즘: 학습 신호를 오염시키기 전에 의미론적 드리프트를 감지하고 수정하는 코사인 유사도 체크포인트 계층의 도입. ATHENA 와 같은 전문가가 선별한 청사진과 달리, 이러한 체크포인트는 방법 중립적이며 구조적입니다.
3. 구조화된 에이전트 간 통신: 에이전트 간 인계 과정의 모호성을 제거하기 위해 기계 판독 가능한 스킴 (문제, 방법, 진단) 사용.
4. 적응형 탐색 전략: 문제가 익숙한지 (웜-스타팅) 아니면 이상적인지 (변동성 극대화) 에 따라 탐색을 동적으로 조정하는 크로스 세션 컨텍스트 체크포인트 (CP0).

4. 실험 결과

이 프레임워크는 Ishigami 함수, Sobol G-함수, 고차원 스크리닝 문제를 포함한 UQpy 라이브러리를 사용한 SA 및 UQ 작업에서 평가되었습니다.

• 체크포인트 제거 실험 (의미론적 드리프트): 구현 팀이 방법을 대체하도록 유도된 적대적 시나리오에서 (예: Sobol 을 선택하지만 Chatterjee 를 구현), 체크포인트가 없는 시스템은 3 회 실행 중 2 회에서 행동 - 코드 불일치를 발생시켰습니다. 보상 신호가 잘못된 방법에 귀속되어 정책이 오염되었습니다. 체크포인트가 활성화되면 충실도가 유지되고 드리프트가 실행 전에 차단되었습니다.
• 적대적 견고성 (방법 교체): 전략 보고서에 인위적으로 '방법 교체' 드리프트가 주입되었을 때, 제거된 시스템 (CP5 없음) 은 오류를 감지하지 못해 잘못된 방법을 실행하고 복구하는 데 3 개의 추가 반복이 필요했습니다. 전체 시스템 (CP5 포함) 은 의미론적 불일치를 감지하고 수정을 트리거하여 단일 반복으로 수렴했으며, 약 88 점의 보상 개선을 달성했습니다.
• 크로스 세션 지식 축적: 15 차원 Sobol 함수에서 시스템은 세 개의 독립적인 세션에 걸쳐 최고 보상이 단조롭게 증가하는 것을 보여주었습니다 (64.2 $\to$ 68.8 $\to$ 75.5). 정책은 성공적으로 지식을 이전하여 후속 세션에서 더 일찍 고예산 Sobol 구성을 선택했습니다.
• 이상 감지: CP0 는 익숙한 캔틸레버 빔 문제 (탐색 감소, 즉각적 수렴) 와 새로운 열 확산 모델 (탐색 증가, 스크리닝 우선 전략) 을 성공적으로 구분하여 새로운 문제 구조에 부적절한 휴리스틱이 적용되는 것을 방지했습니다.

5. 중요성 및 주장

이 논문은 과학적 다중 에이전트 시스템에서의 적응적 의사결정은 의미론적 일관성을 보장하는 명시적 메커니즘과 결합되어야 한다고 주장합니다.

• 일반 설계 원칙: 저자들은 방법 중립적 파이프라인을 위해서는 전문가 지식 주입 (발판) 만으로는 부족하다고 주장합니다. 대신 행동 - 결과 연결의 무결성을 보존하기 위해 의미론적 체크포인트와 같은 구조적 보완이 필요합니다.
• 인과적 귀속: 이 프레임워크는 선택된 방법과 관찰된 결과 사이의 인과 관계를 유지하여 컨텍스트 밴딧이 코드 실행 아티팩트가 아닌 유효한 방법의 품질을 학습하도록 보장합니다.
• 확장성 및 견고성: 체크포인트를 통해 선택 정책을 구현 세부사항과 분리함으로써, 시스템은 환각과 의미론적 드리프트에 대한 견고성을 달성하여 모든 가능한 실패 모드를 사전에 명시적으로 지정하지 않고도 복잡한 과학적 워크플로우의 신뢰할 수 있는 자동화를 가능하게 합니다.

이 연구는 ATHENA 및 GRAFT-ATHENA 와 같은 프레임워크에 대한 보완적 접근법으로 자신을 위치시킵니다. 이러한 프레임워크가 영구적이고 전문가가 선별한 지식 그래프에 의존하는 반면, 이 프레임워크는 구조적 검증을 통해 단일 실행 궤적 내에서 행동 전파의 의미론적 무결성을 보존하는 데 중점을 둡니다.