💻 computer science

Scaling Multi-agent Systems: A Smart Middleware for Improving Agent Interactions

본 논문은 다중 에이전트 시스템에서 토폴로지, 보안, 그리고 의미 정렬을 동적으로 최적화하기 위해 능동적 메모리와 강화 학습을 활용하여 에이전트 간 직접 통신 대비 10% 이상 성능을 향상시키는 새로운 미들웨어 계층인 인지적 직물 노드 (CFN) 를 소개합니다.

원저자: Charles Fleming, Guillaume De Saint Marc, Ramana Kompella, Peter Bosch, Vijoy Pandey

게시일 2026-05-29

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Charles Fleming, Guillaume De Saint Marc, Ramana Kompella, Peter Bosch, Vijoy Pandey

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

고도로 지능적이지만 약간 산만함 전문가들이 함께 거대한 퍼즐을 풀려고 노력하는 팀을 상상해 보세요. 현재의 방식 (직접 에이전트 간 통신이라고 함) 에서는 전문가 A 가 전문가 B 에게 질문을 그냥 외칩니다. 만약 전문가 B 가 질문을 오해하거나, 맥락을 잊어버리거나, 함정 질문에 혼란을 느낀다면, 팀 전체가 실패하게 됩니다. 그들은 서로의 말을 듣지 못하고 실수를 반복하며, 때로는 존재하지 않는 사실에 대해 논쟁하기도 합니다.

이 논문은 **인지 직물 노드 (Cognitive Fabric Node, CFN)**라는 새로운 '중개인'을 제안합니다. CFN 을 단순히 편지를 배달하는 우편배달부로 생각하지 말고, 모든 전문가 사이에 자리 잡고 있는 초지능적이고 전지전능한 통역사이자 프로젝트 매니저로 생각하세요.

다음은 이를 간단한 개념으로 분해한 작동 방식입니다:

1. "인지 직물" (지능형 중개인)

전문가들이 직접 대화하게 두는 대신, 그들이 보내는 모든 메시지는 먼저 이 중개를 거쳐야 합니다.

옛날 방식: 이웃에게 "누수를 고쳐!"라고 외칩니다. 이웃은 당신이 어떤 파이프가 누수인지 말해주지 않았기 때문에 모를 수 있습니다.
새로운 방식: 당신은 중개인에게 "누수를 고쳐"라고 말합니다. 중개인은 설계도 (메모리) 를 확인하여 당신이 주방 싱크대를 의미한다는 것을 깨닫고, 파이프를 만질 권한이 있는지 (보안) 확인한 다음, 이웃에게 당신의 메시지를 다음과 같이 다시 작성하여 전달합니다: "주방 싱크대 파이프에 렌치를 사용해주세요."

2. 중개인의 다섯 가지 초능력

이 논문은 이 중개인이 경험에서 학습하는 '두뇌'에 의해 구동되는 다섯 가지 구체적인 업무를 수행한다고 말합니다:

능동적 메모리 (공유된 두뇌):
일반적으로 컴퓨터는 파일 캐비닛처럼 데이터를 저장합니다. 이 시스템은 메모리를 살아있는 두뇌처럼 취급합니다. 5 분 전에 일어난 일을 기억하고 이를 현재 일어나고 있는 일을 이해하는 데 활용합니다. 만약 한 전문가가 "서버가 다운되었습니다"라고 말하지만, 메모리가 "서버는 2 초 전에 수리되었습니다"라고 기록하고 있다면, 중개인은 그 전문가가 잘못된 정보를 퍼뜨리는 것을 막습니다. 이는 모두를 같은 페이지에 머물게 합니다.
토폴로지 선택 (지능형 배분자):
전문가들이 누구와 대화할지 하드코딩하는 대신 (예: "나는 항상 밥과 대화한다"), 그들은 자신의 의도를 외칩니다 (예: "수학을 아는 사람이 필요합니다"). 중개인은 전체 팀을 살펴보고 현재 수학을 잘하며 여유 있는 사람을 찾아 작업을 라우팅합니다. 이는 모든 운전자의 이름을 알아야 하는 대신, 특정 여행에 가장 적합한 운전자를 선택하는 라이드셰어 앱과 같습니다.
의미적 그라운딩 (사전 및 진실 확인자):
서로 다른 전문가들이 같은 것을 위해 다른 단어를 사용할 수 있습니다. 한 사람은 "클라이언트 ID"라고 말하고, 다른 사람은 "고객 UUID"로 이해할 수 있습니다. 중개인은 이러한 용어들을 매칭되도록 번역합니다. 또한 진실 탐지기 역할을 합니다. 만약 한 전문가가 존재하지 않는 파일 (유령 개체) 에 대해 이야기하려 한다면, 중개인은 아무도 유령 파일을 찾기 위해 시간을 낭비하기 전에 대화를 중단시킵니다.
보안 정책 시행 (문지기):
보안은 나쁜 단어를 차단하는 것뿐만 아니라 의도를 이해하는 것입니다. 중개인은 엄격한 규칙 (예: "사회보장번호는 절대 공유하지 마세요") 과 학습된 '직감' (예: "이 요청은 함정처럼 들립니다") 의 조합을 사용합니다. 이는 나쁜 행위자가 위험한 요청을 세 개의 무해해 보이는 메시지로 나누는 복잡한 공격을 포착할 수 있습니다. 중개인은 전체 패턴을 보고 공격을 중단시킵니다.
변환 및 재작성 (편집자):
이것이 가장 활발한 부분입니다. 중개인은 모호하고 messy 하거나 위험한 메시지를 가져와 다음 전문가에게 도달하기 전에 완벽하고 명확하며 안전한 지시로 다시 작성합니다. 이는 초고안을 가져와 출판되기 전에 다듬어진 기사로 바꾸는 편집자와 같습니다.

3. 학습 방식 ("코치")

중개인은 정적이지 않으며, 시간이 지남에 따라 더 똑똑해집니다. 이는 강화 학습이라는 방법을 사용합니다.

코치가 경기를 지켜보는 상황을 상상해 보세요. 공을 전달하는 특정 방식이 골로 이어지면 코치는 이를 기록합니다. 특정 대화 방식이 오해를 초래하면 코치도 이를 기록합니다.
이 시스템에서 중개인이 프롬프트를 다시 작성하고 작업이 빠르게 해결되면, 중개인은 이를 다시 수행하는 법을 배웁니다. 만약 재작성이 혼란을 초래하면, 다른 것을 시도하는 법을 배웁니다.

4. 결과: 작동하는가?

연구자들은 이 시스템을 HotPotQA 와 MuSiQue 라는 두 가지 어려운 질문 - 답변 과제에서 테스트했습니다.

설정: 그들은 정보가 분할된 작업을 AI 에이전트 팀에 부여하여 협력을 강요했습니다.
문제: 중개인이 없으면 팀의 성능이 혼란과 맥락 상실로 인해 크게 떨어졌습니다.
해결: 인지 직물 노드를 추가했을 때, 팀의 성능은 다시 급격히 상승했습니다.
점수: 중개인을 갖춘 시스템은 서로 직접 대화하는 팀에 비해 10% 이상의 성능 향상을 보였습니다. 이는 거의 단일 완벽한 AI 가 혼자 일할 때의 성능 수준에 도달했으며, "중개인"이 통신 혼란을 성공적으로 해결했음을 입증했습니다.

요약

이 논문은 개별 AI 에이전트를 더 똑똑하게 만드는 것뿐만 아니라, 그들이 속한 네트워크를 더 똑똑하게 만들어야 한다고 주장합니다. 에이전트 사이에 이 "인지 직물"을 삽입함으로써, 우리는 고립된 사고자들의 혼란스러운 집단을 단일 진실 소스를 공유하는 일관성 있고 안전하며 효율적인 팀으로 바꿉니다.

기술 요약: 인지 패브릭 노드를 통한 다중 에이전트 시스템 확장

1. 문제 제기

대규모 언어 모델 (LLM) 기반 다중 에이전트 시스템 (MAS) 이 실험적 파일럿 단계에서 영구적인 생태계로 전환됨에 따라, 직접적인 에이전트 간 통신 아키텍처는 치명적인 시스템적 취약점을 드러내고 있습니다. 중재 없이 에이전트가 직접 통신하는 현재의 '직접 연결' 패러다임은 다음과 같은 문제점을 겪고 있습니다:

분열된 컨텍스트: 에이전트들이 공유된 역사에 대한 '파괴적 망각 (catastrophic forgetting)'을 겪으며, 단절된 상호작용을 초래합니다.
존재론적 드리프트 (Ontological Drift): 에이전트들이 핵심 개념의 정의를 다르게 해석함 (예: '사용자' 정의 차이) 에 따라 논리적 불일치와 환각이 발생합니다.
비효율적인 토폴로지: 경직되고 정적인 라우팅 테이블은 동적인 에이전트 능력, 부하, 또는 새로운 전문 에이전트의 추가에 적응하지 못합니다.
보안 취약점: 공격 표면이 비선형적으로 확장되어, 침해된 주변 에이전트가 권한이 있는 에이전트에 악성 컨텍스트를 주입하는 '연쇄적 신뢰 (Cascading Trust)' 실패를 허용합니다.
확률적 조정: 개별 에이전트의 지능이 통신 인프라의 '무지'에 의해 훼손되어, 혼란스러운 상호작용 그래프가 생성됩니다.

2. 방법론: 인지 패브릭 노드 (CFN)

본 논문은 근본적인 아키텍처 전환을 제안합니다. 즉, 에이전트 간에 만능적인 '인지 패브릭 (Cognitive Fabric)'을 생성하는 미들웨어 계층인 **인지 패브릭 노드 (Cognitive Fabric Nodes, CFN)**의 도입입니다. 패킷 수준에서 작동하는 전통적인 서비스 메시 (예: Istio) 와 달리, CFN 은 의미론적 (semantic) 수준에서 작동합니다.

핵심 아키텍처

CFN 은 메시지가 목적지에 도달하기 전에 모든 메시지를 가로채고, 분석하며, 재작성합니다. 이는 수동적인 통과 수단이 아니라 능동적이고 지능적인 중개자입니다. 이 아키텍처는 수동적인 로그가 아닌 능동적인 기능적 기질 (공유된 '세계 모델') 로서 메모리에 의존하며, 이를 통해 네 가지 다른 핵심 기능을 가능하게 합니다:

능동적 메모리 (Active Memory): 일시적 데이터와 '장기적 지혜'를 구분하기 위해 저장 및 검색 전략을 최적화하여, 모든 인지 작업의 전제 조건이 됩니다.
토폴로지 선택: 의도와 구현을 분리합니다. 경직된 주소 지정 대신, CFN 은 강화 학습을 통한 상황적 밴딧 (Contextual Bandit) 접근법을 사용하여 과거 성공, 인지 부하, 계산 비용에 기반하여 작업을 최적의 에이전트로 라우팅합니다.
의미론적 그라운딩 (Semantic Grounding): 공유된 메모리에 대한 메시지 검증을 통해 환각과 존재론적 드리프트를 방지합니다. 실시간 존재론 번역 (예: '고객 ID'를 '고객 uuid'로 매핑) 을 수행하고, 현실에 존재하지 않는 '유령 개체 (Ghost Entities)'를 차단합니다.
보안 정책 시행: 하이브리드 가디언 접근법을 사용하는 **제로 트러스트 의미론적 경계 (Zero-Trust Semantic Boundary)**를 구현합니다:
- 결정적 계층: 인간이 지정한 경직된 규칙 (예: PII 마스킹, RegEx).
- 확률적 계층: 적대적 피드백을 통한 강화 학습 (RLAF) 을 사용하는 학습된 인지 엔진으로, 메시지 궤적 전반에 걸쳐 새로운 탈옥, 사회 공학, 분할 공격을 탐지합니다.
변환 및 재작성: 위 모듈들로부터의 입력을 종합하여 원시 프롬프트를 재작성하는 실행 계층입니다. 컨텍스트를 주입하고, 보안 위험을 정화하며, 용어를 정렬하여 수신 에이전트의 작업 성공 확률을 극대화합니다.

인지 엔진을 통한 최적화

각 기능은 **강화 학습 (RL)**과 휴리스틱 방법을 활용하는 인지 엔진에 의해 통제됩니다. 이 시스템은 작업 성공 보상과 계산 비용 (토큰 사용량) 을 균형 있게 조절하는 손실 함수를 최적화함으로써 '인지 마찰 (Cognitive Friction)'을 최소화합니다.

배포 모델

본 논문은 일관성과 지연 시간 사이의 균형을 맞추기 위한 세 가지 배포 패턴을 제시합니다:

인지 사이드카 (Cognitive Sidecar): 모든 에이전트에 부착된 경량 CFN (낮은 지연 시간, 높은 리소스 비용, 잠재적 상태 드리프트).
인지 허브 (Cognitive Hub): GPU 노드의 중앙 집중식 클러스터 (강력한 일관성, 높은 지연 시간, 단일 장애점).
하이브리드 계층적 패브릭: 제안된 최적 모델로, 엣지 노드 (단순 라우팅, PII 마스킹) 와 코어 노드 (복잡한 재작성, 장기 메모리) 간 작업을 분할합니다.

3. 주요 기여

아키텍처 형식화: 본 논문은 CFN 아키텍처를 형식화하여, 원시 프롬프트를 컨텍스트가 풍부하고 그라운딩되며 준수하는 지시사항으로 매핑하는 변환 함수 $\Phi$ 를 정의합니다.
'지능형 에이전트'에서 '인지 네트워크'로의 전환: 지능이 엔드포인트 에이전트에만 의존하는 것이 아니라 네트워크 인프라 자체에 내재되어야 함을 주장합니다.
동적 토폴로지 관리: 에이전트 성능과 부하에 동적으로 적응하는 기술 기반 라우팅을 도입하여, 미들웨어 재작성을 통해 에이전트의 결함을 효과적으로 '패치'합니다.
하이브리드 보안 프레임워크: 연쇄적 신뢰 실패 및 분할 공격에 대한 결정적 정책 시행과 확률적 학습 방어를 결합한 새로운 보안 모델을 제안합니다.
존재론적 안정성: 공유된 세계 모델을 강제함으로써 '존재론적 드리프트'를 방지하는 메커니즘을 입증하여, 모든 에이전트가 단일 진실 공급원 (single source of truth) 에서 작동하도록 보장합니다.

4. 실험 결과

저자들은 HotPotQA 및 MuSiQue 데이터셋에서 네 가지 전문 역할 (연구자, 분석가, 비평가, 종합자) 로 구성된 다중 에이전트 시스템을 사용하여 CFN 아키텍처를 평가했습니다. 데이터셋은 에이전트가 부분적인 정보만 보유하고 협력해야 하는 시나리오를 시뮬레이션하도록 수정되었습니다.

베이스라인 성능: 통신 분열로 인해 표준 다중 에이전트 시스템 (Claude Sonnet 4.6 사용) 은 단일 에이전트 베이스라인에 비해 정확도가 크게 하락했습니다 (HotPotQA 에서 80.1%, MuSiQue 에서 72.7%).
TextGrad 베이스라인: LangMARL 크레딧 할당이 없는 TextGrad 를 사용한 글로벌 최적화 베이스라인은 미미한 개선을 보였습니다.
CFN-LangMARL 성능: 중앙 집중식 훈련과 분산 실행 (CTDE) 을 위해 CFN 과 LangMARL 을 활용한 제안된 시스템은 다음과 같은 성과를 달성했습니다:
- HotPotQA 에서 91.5% 정확도 (단일 에이전트 베이스라인과 <1% 이내로 회복).
- MuSiQue 에서 86.1% 정확도.
결론: CFN 은 직접적인 에이전트 간 통신 대비 10% 이상 성능을 크게 향상시켜, 관리되지 않는 MAS 의 전형적인 조정 저하를 효과적으로 제거했습니다.

5. 중요성 및 주장

본 논문은 인지 패브릭 노드가 다중 에이전트 시스템에 있어 혁신적인 단계로, 해당 분야를 '취약하고 단절된 실험'에서 '견고하고 기업 수준의 생태계'로 전환한다고 주장합니다.

확률적 조정 문제 해결: 저자들은 CFN 이 에이전트를 완벽하게 만드는 것이 아니라, 에이전트가 작동하는 환경을 지능화함으로써 GenAI 시스템의 내재적 실패 (환각, 컨텍스트 손실, 조작) 를 완화한다고 주장합니다.
확장성: 메모리를 능동적 기질로 격상시키고 동적 라우팅을 위해 RL 을 사용함으로써, 시스템은 규모에 따른 일관성, 안전성, 의미론적 정렬을 달성합니다.
미래 전망: 본 논문은 CFN 을 AI 기반 인터넷의 잠재적 '신경계'로 위치시킵니다. 조직 간 통신을 위한 패브릭 간 (Fabric-to-Fabric, F2F) 프로토콜, 패브릭의 경제학 (토크노믹스), 그리고 메모리 성장을 관리하기 위한 인지 감쇠 (cognitive decay) 메커니즘 등 향후 연구 방향을 식별합니다.

저자들은 분산 노드 간의 동기화가 공학적 제약 사항임을 인정하면서도, 주요 기여는 노드의 기능적 구성과 지능형 네트워크의 창발적 속성에 있음을 겸손한 범위로 유지합니다.