기술 요약: LLM 지원 계약 네트워크 협상을 통한 MAS-DecStream

문제 정의

이종 모바일 엣지-클라우드 인프라에서 작동하는 스트림 처리 시스템은 워크로드 변동성, 자원 경합, 그리고 엄격한 서비스 품질(QoS) 요구사항으로 인해 상당한 어려움에 직면해 있습니다. 분산형 스케줄링은 개별 엣지 클러스터가 글로벌 시스템 상태에 대해 부분적인 가시성만을 보유하고 있다는 사실 때문에 복잡해집니다. 결과적으로, 독립적인 로컬 결정은 자원 과다 할당, 고순위 작업의 실행 지연, 그리고 QoS 위반을 초래합니다.

최근의 접근 방식들은 적응성을 높이기 위해 연합 학습(FL)과 강화 학습(RL)을 활용하지만, 이들은 종종 중앙 집중식 집계에 의존하거나 스케줄링 결정 뒤에 숨겨진 추론 과정을 불투명하게 만드는 학습된 정책에 의존합니다. 계약 네트워크 프로토콜(CNP)을 사용하는 고전적 다중 에이전트 시스템(MAS)은 명시적인 분산 상호작용을 제공하지만, 정량적 제약 조건과 정성적 경고(예: 신뢰성 경고 또는 프라이버시 조건)를 함께 수용하기에는 어려움이 있는 경직되고 사전 정의된 메시지 시맨틱스의 한계를 가집니다. 해결하고자 하는 핵심 문제는 하드웨어 자원 보장을 희생하거나 과도한 통신 오버헤드를 도입하지 않으면서, 어떻게 불확실하고 정성적인 런타임 컨텍스트를 처리할 수 있도록 분산형 협상을 확장할 것인가입니다.

방법론

본 논문은 대규모 언어 모델(LLM)을 다회차 협상 프로토콜에 통합하는 하이브리드 스케줄링 아키텍처인 MAS-DecStream을 제안합니다. 이 시스템은 엣지-클라우드 환경을 통신 그래프로 모델링하며, 대표 에이전트들이 로컬 클러스터를 관찰하고 작업 마이그레이션을 협상합니다.

하이브리드 에이전트 아키텍처

이 아키텍처는 로컬 모니터링과 협력적 의사결정을 분리합니다:

1. 실행 계층(Execution Layer): 런타임 텔레메트리를 모니터링하고, 근미래의 부하를 예측하며, 마이그레이션 결정을 적용합니다.
2. 협업 계층(Collaborative Layer): LangGraph를 통해 조율되며, 각 에이전트는 로컬 상태, 작업 지식, 그리고 협상 메모리를 결합합니다. 에이전트는 문맥 해석 및 메시지 생성을 위해 LLM을 활용하는 동시에, 상태 검색, 요구사항 검증, 유틸리티 계산을 위해 결정론적 도구(deterministic tools)에 의존합니다.

LLM 지원 다회차 CNP (LLM-MR-CNP)

핵심 기여는 고전적인 단일 단계 CNP를 확장한 것입니다. 일반적으로 단일 단계의 공고-제안-낙찰 사이클을 따르는 전통적인 CNP와 달리, LLM-MR-CNP는 다음을 도입합니다:

• 시맨틱 CFP 구성: 개시자(initiator)는 고정된 수치 필드 대신 작업 의도, QoS 및 관찰된 컨텍스트가 풍부하게 포함된 제안 요청서(Call for Proposal, CFP)를 방송합니다.
• 점진적 컨텍스트 공개: 초기 제안이 모호하거나 여러 후보가 남아 있는 경우, 개시자는 해결되지 않은 후보들에게 추가적인 컨텍스트(예: 예측 부하, 신뢰성 경고)를 공개합니다.
• 반복적 제안 수정: 응답자(responder)는 새롭게 공개된 컨텍스트에 따라 잠정적인 제안을 발행하거나 이를 수정 또는 철회할 수 있습니다.
• 결정론적 검증: LLM이 컨텍스트를 해석하고 자연어 제안을 정교화하는 동안, 최종 할당은 CPU, 메모리, 대역폭, 데드라인에 대한 결정론적 실행 가능성 체크와 유틸리티 극대화에 의해 엄격히 제한됩니다.

프로토콜은 단일 실행 가능한 후보가 남거나, 안정적인 최적 후보가 나타나거나, 최대 라운드 제한에 도달할 때 종료됩니다.

주요 기여

1. LLM-MR-CNP 프로토콜: 시맨틱 CFP 생성, 점진적 컨텍스트 공개, 반복적 제안 수정, 작업 범위의 협상 메모리, 그리고 유한한 종료 조건을 도입하여 고전적 CNP를 명시적으로 확장하였습니다.
2. 하이브리드 에이전트 아키텍처: LLM이 정성적 컨텍스트와 메시지 생성을 처리하는 동안, 결정론적 도구가 하드 제약 조건과 유틸리티 순위를 강제하도록 설계하여 안전성과 실행 가능성을 보장합니다.
3. 포괄적 평가: LLM의 지원과 다회차 정교화의 영향을 구분하여, 다양한 모델 및 프롬프팅 전략에 걸쳐 스케줄링 품질, 협상 오버헤드, 정확도-비용 트레이드오프를 평가하는 연구를 수행하였습니다.

실험 결과

실험은 Alibaba ASI Trace 2026에서 파생된 워크로드를 사용하여 수행되었으며, 다양한 에이전트 수(5, 10, 20개)와 동시 요청 상황에서 1,000개의 작업-클러스터 조합을 시뮬레이션했습니다.

성능 지표

• 지연 시간 위반(Latency Violations): MAS-DecStream은 지연 시간 위반을 3%(0.03)로 감소시켰으며, 이는 규칙 기반 다회차 베이스라인(0.37) 및 단일 회차 베이스라인(0.53)보다 크게 개선된 수치입니다.
• 자원 과다 할당(Resource Overcommitment): 다회차 접근 방식(LLM 지원 및 규칙 기반 모두)은 테스트된 모든 구성에서 자원 과다 할당을 완전히 제거했으나, 단일 회차 방식은 이를 방지하는 데 실패했습니다.
• 충돌 해결(Conflict Resolution): 에이전트가 20개일 때, MAS-DecStream의 충돌 해결률은 규칙 기반 다회차 베이스라인의 0.86과 비교하여 0.91에 도달했습니다.
• 유틸리티(Utility): MAS-DecStream은 다회차 규칙 기반 베이스라인 대비 글로벌 유틸리티를 최대 22% 향상시켰습니다.
• 비용(Costs): 이러한 이득은 조정 비용의 증가를 동반했습니다. MAS-DecStream은 단일 회차 방식보다 약 3배 높은 협업 비용이 발생했으며, 시나리오당 평균 83.56초의 LLM 추론 시간을 도입했습니다.

모델 및 프롬프팅 분석

• 협상 깊이(Negotiation Depth): 다회차 협상은 오프로딩 정확도를 유의미하게 향상시켰습니다(대규모 LLM 기준 0.71에서 0.88로 증가). 이는 상호작용 구조가 모델의 능력만큼 중요하다는 것을 시사합니다.
• 프롬프팅 전략: 성능은 모델에 따라 매우 달랐습니다. 예를 들어, ReAct+few-shot+CoT 프롬프트를 사용한 Gemini-3-Flash는 1.00의 오프로딩 정확도를 달립한 반면, 다른 구성들은 정확도와 토큰 소비 사이에서 다양한 트레이드오프를 보였습니다.
• 트레이드오프: 본 연구는 명확한 정확도-비용 트레이드오프를 강조했습니다. ReAct와 같은 더 복잡한 프롬프팅 전략은 단순한 CoT+Few-shot 전략보다 항상 더 나은 결과를 보장하지 않으면서도 토큰 사용량과 지연 시간을 증가시켰습니다.

의의 및 주장

본 논문은 자신의 발견을 확립된 스케줄러에 대한 일반적인 우월성에 대한 증명이 아니라, 초기 경험적 평가로 규정합니다. 저자들은 시스템의 의의에 대해 다음과 같이 겸허한 주장을 펼칩니다:

1. 프로토콜 수준의 이득: 주요 성능 향상은 CNP를 다회차 제안 정교화를 포함하도록 확장하는 데서 기인합니다. 이 반복적인 과정은 LLM의 도움 없이도 위반을 줄이고 과다 할당을 제거합니다.
2. LLM의 컨텍스트적 가치: LLM 지원은 규칙 기반 시스템이 어려움을 겪는 정성적 및 불확실한 런타임 컨텍스트(예: 신뢰성 경고 또는 모호한 예측 해석)에서 구체적인 부가가치를 제공합니다.
3. 하이브리드 방식의 필요성: 결과는 규칙 기반 협상이 일상적인 결정을 처리하는 동안, 에이전틱 AI(agentic AI)가 불확실하거나 충돌이 있거나 영향력이 큰 스케줄링 결정에 선택적으로 호출되는 적응형 배포 전략을 지지합니다.
4. 안전 우선: 본 아키텍처는 LLM이 생성한 시맨틱 결정이 하드 자원 및 QoS 보장을 강제하는 결정론적 검증과 결합될 때만 임계 인프라에 안전하게 통합될 수 있음을 입증합니다.

저자들은 LLM 구성 요소에 대한 인과적 절제 실험(ablation study)의 부재(이는 정성적 컨텍스트 처리와 결합되어 있기 때문)와 물리적 배포가 아닌 트레이스 기반 워크로드에 의존했다는 점을 한계점으로 인정합니다. 향후 연구는 선택적 LLM 에스컬레이션 및 더 큰 분산형 토폴로지에 대한 평가로 향하고 있습니다.