Towards Traffic Modelling of Multi-Agent Systems: The Role of Coordination Topology

디지털 세상에서 네트워크는 종종 한 사람에게서 다른 사람에게 메시지를 전달하는 파이프라인으로 생각됩니다. 수십 년 동안 엔지니어들은 인간 사용자가 버튼을 클릭하거나, 이메일을 보내거나, 웹 페이지를 불러오는 것과 같이 어느 정도 예측 가능한 리듬에 따라 트래피가 발생한다는 단순한 가정에 기반하여 이러한 시스템을 설계해 왔습니다. 사람이 다음 메시지를 보내기 전 잠시 기다릴 때, 네트워크는 간격을 포착합니다. 많은 사람이 동시에 행동할 때, 네트워크는 급증을 목격합니다. 이러한 인간 중심의 패턴은 네트워크가 부하를 처리하기 위해 얼마나 많은 용량이 필요한지를 계획하는 기초가 되었습니다.

하지만 새로운 종류의 디지털 노동자가 등장하고 있습니다. 바로 자율 에이전트입니다. 이들은 대규모 언어 모델(LLM)을 기반으로 스스로 생각하고, 계획하고, 행동할 수 있는 소프트웨어 프로그램입니다. 답장을 타이핑하기 전에 생각하는 시간을 갖는 인간과 달리, 이 에이전트들은 단 하나의 문제를 해결하기 위해 복잡한 내부 행동 체인을 생성할 수 있습니다. 한 사용자가 질문을 던지면, 에이전트는 도구를 호출하거나, 동료 에이전트에게 조언을 구하거나, 데이터베이스를 확인한 다음 답변을 합성하기로 결정할 수 있습니다. 이 모든 과정은 자동으로 일어나며, 네트워크가 운반해야 하는 요청의 흐름을 만들어냅니다. 네트워크 엔지니어들에게 던져진 질문은, 트래픽이 더 이상 인간의 손에 의해 구동되는 것이 아니라 이러한 디지털 팀의 내부 논리에 의해 구동될 때도 기존의 규칙이 여전히 적용되는가 하는 점입니다.

한 연구팀은 이 새로운 시스템들이 정확히 어떻게 작동하는지 측정하기 위해 연구를 수행했습니다. 그들은 네트워크 트래픽의 특정 측면에 집중했습니다. 바로 한 요청과 다음 요청 사이에 흐르는 시간입니다. 네트워크 공학의 세계에서 이 간격은 매우 중요한 단서입니다. 만약 간격이 무작위적이고 흩어져 있다면, 시스템은 예측하기 쉬운 방식으로 작동합니다. 만약 간격이 서로 뭉치거나 특정 패턴을 따른다면, 시스템은 다르게 작동하며 표준적인 설계로는 감당할 수 없는 병목 현상을 일으킬 가능성이 있습니다. 연구원들은 에이전트들이 조직되는 방식, 즉 그들이 서로 소통하는 방식이 그들이 생성하는 트래픽의 리듬을 변화시키는지 알고 싶었습니다.

답을 찾기 위해 연구팀은 서로 다른 팀 구조로 동일한 작업을 수백 번 실행할 수 있는 통제된 환경을 구축했습니다. 그들은 세 가지 뚜렷한 에이전트 조직 방식을 테스트했습니다. 첫 번째 설정에서는 에이전트들이 마치 앞선 주자가 끝날 때까지 기다렸다가 시작하는 릴레이 경주처럼 차례대로 작업했습니다. 두 번째 설정에서는 중앙의 리더가 여러 작업자에게 동시에 업무를 할당했는데, 이는 마치 매니저가 그룹의 직원들에게 한꺼번에 업무를 배정하는 것과 같습니다. 세 번째 설정에서는 모든 에이전트가 동시에 다른 모든 에이전트와 직접 대화할 수 있는 밀집된 통신망을 형성했습니다. 그들은 각 시나리오를 500번씩 실행하여 요청이 어떻게 흐르는지에 대한 방대한 데이터를 수집했습니다.

결과는 에이전트가 조직되는 방식이 트래픽의 본질을 근본적으로 변화시킨다는 것을 보여주었습니다. 에이전트들이 순차적으로 하나씩 작업할 때는 요청 사이의 시간이 비교적 일정하고 예측 가능했습니다. 그러나 연구진이 병렬 작업을 도입하자 패턴이 극적으로 변했습니다. 에이전트들이 동시에 협업하는 설정에서는 트래픽이 '바이모달(bimodal, 양봉형)' 양상을 보였습니다, 즉 두 가지 뚜렷한 행동이 동시에 나타났습니다. 한 가지 행동은 수많은 요청이 거의 즉각적으로 도착하며, 서로 아주 미세한 시간 차이만을 두고 발생하는 갑작스러운 활동의 폭발이었습니다. 이는 시스템이 정확히 같은 순간에 여러 명령을 내보내기 때문에 발생했습니다. 다른 한 가지 행동은 에이전트들이 실제로 정보를 처리하고 과업을 추론하는 동안 발생하는 더 느리고 사려 깊은 리듬이었습니다.

연구진은 요청 사이의 간격이 발생하는 방식이 기존의 '무작위' 개념과 맞지 않는다는 것을 발견했습니다. 그들은 요청이 서로 독립적으로 도착한다고 가정하는 표준 수학적 모델을 테스트했으나, 연구된 모든 에이전트 설정에서 이 모델이 결정적으로 틀렸음을 확인했습니다. 대신, 에이전트가 요청 사이에서 생각하고 추론하는 데 걸리는 시간은 복잡성에 따라 과업이 다양한 시간을 소요할 수 있음을 설명하는 곡선을 따랐습니다. 이는 소프트웨어의 내부 논리가 인간의 행동과는 매우 다른, 특정한 구조적 리듬을 만들어내고 있음을 의미합니다.

이러한 발견이 중요한 이유는 에이전트 팀의 설계 자체가 트래픽의 생성기 역할을 한다는 것을 보여주기 때문입니다. 만약 시스템이 많은 에이전트가 동시에 서로 소통하도록 설계된다면, 전체 작업의 수가 동일하더라도 서버를 압도할 수 있는 날카롭고 강렬한 트래픽 폭발을 만들어낼 것입니다. 연구진은 모든 에이전트가 서로 대화할 수 있는 가장 연결성이 높은 설정에서, 트래픽의 상당 부분에 대한 요청 간격이 불과 몇 밀리초로 떨어지며 순차적 설정보다 거의 600% 더 빠른 급증을 일으킨다는 것을 발견했습니다. 이 급증은 오류가 아니라 시스템이 작동하는 구조적 특징입니다.

또한 이 연구는 이러한 변화가 네트워크 전체로 파급된다는 점을 강조했습니다. 에이전트들이 협업하는 방식은 애플리케이션 계층뿐만 아니라 하부의 데이터 연결과 요청을 처리하는 서버의 부하에도 영향을 미칩니다. 연구진은 전송된 데이터 패킷 수와 메모리 사용량을 측정했으며, 병렬 설정에서의 폭발적인 특성이 네트워크 사용량의 정점을 높인다는 것을 발견했습니다. 이는 단순히 총 요청 수를 세는 것만으로는 부하를 이해하기에 충분하지 않으며, 엔지니어들이 요청이 시간에 따라 어떻게 배치되는지도 반드시 살펴봐야 함을 시사합니다.

궁극적으로 이 연구는 다중 에이전트 시스템의 구조가 생성하는 트래픽의 형태를 보여주는 첫 번째 명확한 그림을 제공합니다. 이는 우리가 소프트웨어 에이전트들이 문제를 해결하기 위해 협력하는 미래로 나아감에 따라, 이들을 지원하는 네트워크 역시 이러한 새로운 패턴을 염두에 두고 설계되어야 함을 보여줍니다. 인간 사용자를 위해 만들어진 기존 모델은 이러한 디지털 팀의 행동을 정확하게 예측할 수 없습니다. 에이전트의 조정 스타일이 트래픽의 특정하고 측정 가능한 패턴을 만든다는 것을 이해함으로써, 엔지니어들은 자율적인 미래의 독특한 리듬을 감당할 수 있는 견고한 시스템을 구축할 수 있습니다. 연구진은 기술이 계속 진화함에 따라 다른 이들도 이 패턴을 더 탐구할 수 있도록 도구와 데이터를 공개했습니다.