💬 NLP

Learning to Interrupt in Language-based Multi-agent Communication

이 논문은 수신자가 화자를 중단할 수 있는 'HANDRAISER' 프레임워크를 제안하여, 학습된 중단 시점 예측을 통해 다중 에이전트 간 통신 비용을 32.2% 절감하면서도 작업 수행 능력을 유지하거나 향상시킨다는 점을 강조합니다.

원저자: Danqing Wang, Da Yin, Ruta Desai, Lei Li, Asli Celikyilmaz, Ansong Ni

게시일 2026-04-09

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Danqing Wang, Da Yin, Ruta Desai, Lei Li, Asli Celikyilmaz, Ansong Ni

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

이 논문은 **"대화할 때 상대방이 말을 끊어도 괜찮은가?"**라는 흥미로운 질문에서 시작합니다.

대부분의 AI(거대 언어 모델) 들이 여러 명 모여 일을 할 때, 서로 대화하는 방식은 매우 비효율적입니다. 마치 한 사람이 끝까지 긴 이야기를 다 하고 나서야 다른 사람이 입을 여는 것처럼요. 이 과정에서 불필요한 말이 너무 많아지고, 컴퓨터 비용도 많이 들게 됩니다.

이 논문은 **"듣는 사람이 필요한 순간에 말을 끊어서 (Interrupt) 자신의 의견을 말하거나 질문을 하면, 훨씬 더 효율적으로 대화할 수 있다"**는 새로운 방식을 제안합니다. 이 시스템을 **'핸드레이저 (HANDRAISER)'**라고 부릅니다.

이 내용을 일상적인 비유로 쉽게 설명해 드릴게요.

1. 문제 상황: "말 다 듣고 기다려야 하는 지루한 회의"

상상해 보세요. 회의실 한쪽에서 한 사람 (화자) 이 발표를 하고 있습니다.

기존 방식: 발표자가 "오늘 회의 안건은 A, B, C... 그리고 D, E, F..."라고 10 분 동안 계속 말합니다. 청중 (듣는 사람) 은 끝까지 기다려야만 "아, 알겠습니다!"라고 대답할 수 있습니다.
문제점: 만약 청중이 3 분 차에 이미 결론을 알았다면, 나머지 7 분은 그냥 낭비입니다. 하지만 기존 AI 는 청중이 말을 끊지 못하게 되어, 불필요한 정보만 계속 쌓이게 됩니다.

2. 해결책: "적절한 타이밍에 손을 드는 '핸드레이저'"

이 논문은 듣는 AI 가 적절한 타이밍에 손을 들어 말을 끊을 수 있게 만들었습니다. 마치 수업 시간에 선생님이 설명을 하다가, 학생이 "선생님, 그 부분은 이미 알겠어요!"라고 말하며 질문을 하거나 답을 하는 것과 비슷합니다.

하지만 여기서 중요한 건 **"언제 끊어야 할지 아는 것"**입니다.

실패한 시도 (과도한 자신감): 처음에 AI 들은 너무 자신감이 넘쳐서, 설명이 시작되자마자 "알았어요!"라고 말을 끊었습니다. 결과는? 중요한 정보를 놓쳐서 일을 다시 해야 했고, 오히려 더 많은 시간이 걸렸습니다.
성공한 방법 (학습된 손들기): 연구팀은 AI 에게 **"언제 말을 끊으면 이득을 보고, 언제는 기다려야 하는지"**를 수학적으로 계산해 가르쳤습니다.
- 비유: 요리사가 요리를 설명할 때, 듣는 사람이 "아, 그건 제가 이미 알고 있어요!"라고 말하기 전에, 요리사가 "이제부터는 핵심 재료만 설명할게요"라고 생각하게 만드는 순간을 AI 가 학습한 것입니다.

3. 어떻게 작동할까요? (나무 가지 비유)

AI 가 말을 끊을지 말지 결정할 때, 마치 나무 가지가 갈라지는 것처럼 미래를 상상합니다.

상황: 화자가 말을 조금 했습니다.
상상: "내가 지금 말을 끊으면? 아니면 끝까지 들으면?"이라는 두 가지 미래를 시뮬레이션합니다.
- 지금 끊으면: 시간이 절약되지만, 오해가 생겨서 나중에 다시 설명해야 할까?
- 끝까지 들으면: 시간이 더 걸리지만, 정확한 답을 얻을 수 있을까?
결정: AI 는 이 두 가지 시나리오를 빠르게 계산해서, **"지금 끊는 게 가장 이득이다"**라고 판단되면 즉시 손을 듭니다.

4. 실제 효과: "지름길 찾기"

연구팀은 이 방식을 다양한 상황 (그림 맞추기 게임, 회의 일정 조율, 토론 등) 에서 테스트했습니다.

결과: 말을 끊는 AI 는 말을 끊지 않는 AI 보다 약 30% 이상 더 적은 말 (데이터) 로 같은 일을 해냈습니다.
중요한 점: 말을 줄였다고 해서 일을 못 하는 건 아닙니다. 오히려 필요한 정보만 골라서 전달했기 때문에, 오히려 더 정확하고 빠르게 일을 끝냈습니다.

5. 요약: 왜 이것이 중요한가요?

지금까지 AI 들은 "내가 다 말할 때까지 기다려"라는 규칙에 갇혀 있었습니다. 하지만 이 논문은 **"듣는 사람이 상황을 판단해서 말을 끊는 것"**이 인간처럼 자연스럽고 효율적인 대화의 핵심이라고 말합니다.

기존: "내가 다 말할게. 다 듣고 대답해." (비효율적, 비용 낭비)
새로운 방식 (HANDRAISER): "내가 설명할게. 네가 알아듣는 순간 손을 들어 말해. 그럼 나는 멈출게." (효율적, 비용 절감)

이 기술이 발전하면, 앞으로 AI 들이 서로 대화할 때 훨씬 더 빠르고, 저렴하며, 인간처럼 자연스럽게 소통할 수 있게 될 것입니다. 마치 회의실에서도 불필요한 긴 설명을 줄이고, 핵심만 주고받는 효율적인 팀워크를 만드는 것과 같습니다.

1. 문제 정의 (Problem)

대규모 언어 모델 (LLM) 기반의 다중 에이전트 시스템은 추론, 소프트웨어 공학, 시뮬레이션 등 다양한 분야에서 뛰어난 성능을 보이지만, 비효율적인 통신이라는 심각한 한계에 직면해 있습니다.

과도한 텍스트 생성: LLM 이 생성하는 메시지가 길고 verbose(장황) 하여, 수신 에이전트의 컨텍스트 창을 빠르게 포화시키고 계산 비용을 증가시킵니다.
기존 접근법의 한계: 기존 연구들은 주로 화자 (Speaker) 중심의 압축 (메시지를 간결하게 만드는 것) 에 집중했습니다. 그러나 이는 청취자 (Listener) 의 필요에 따라 달라지는 '필수 정보'를 화자가 일방적으로 판단하기 어렵다는 문제가 있습니다. 또한, 청취자가 이미 충분한 정보를 얻었을 때에도 화자가 말을 멈추지 않으면 불필요한 토큰이 계속 생성됩니다.
핵심 문제: 화자가 모든 정보를 끝까지 말하게 하는 현재의 턴 기반 (Turn-based) 통신 방식은 지연 시간을 늘리고, 불필요한 토큰 생성으로 인해 시스템 효율성을 떨어뜨립니다.

2. 방법론 (Methodology)

저자들은 인간 대화에서 발생하는 '중단 (Interruption)' 현상을 모방하여, **청취자 중심의 중단 가능 통신 프레임워크 (HANDRAISER)**를 제안했습니다.

A. 중단 가능 통신 프로토콜 (Interruptible Communication Protocol)

스트리밍 및 청크 (Chunk): 화자의 메시지는 고정된 크기의 '청크' 단위로 스트리밍됩니다.
동적 중단 결정: 청취자는 각 청크를 수신할 때마다, 현재까지 받은 정보와 대화 맥락을 바탕으로 중단할지 (Interrupt) 아니면 계속 기다릴지를 결정합니다.
즉각적인 응답: 청취자가 중단 신호를 보내면 화자의 생성은 즉시 멈추고, 청취자는 자신의 응답을 생성합니다. 이는 불필요한 토큰 생성을 막고 지연 시간을 단축합니다.

B. 학습 기반 중단 전략 (Learning to Interrupt)

단순히 프롬프트 (Prompting) 를 통해 중단 시점을 결정하게 하면, 에이전트가 자신의 이해도를 과신하여 (Overconfidence) 정보가 부족할 때 일찍 중단하는 문제가 발생했습니다. 이를 해결하기 위해 보상 기반 학습을 도입했습니다.

트리 샘플링 (Tree Sampling) 을 통한 미래 보상 추정:
- 현재 중단 시점에서부터 대화의 끝까지의 가능한 시나리오를 트리 구조로 샘플링합니다.
- 각 중단 지점에서의 **통신 비용 (생성된 토큰 수)**과 **작업 수행도 (Task Performance)**를 추정합니다.
수익 (Payoff) 계산:
- 중단하지 않고 전체 메시지를 듣는 경우와 비교하여, 중단 시 통신 비용이 감소하면서도 작업 수행도가 유지되거나 향상되는지 확인합니다.
- $\Delta Cost < 0$ (비용 감소) 이고 $\Delta Perf \ge 0$ (성능 유지) 인 경우를 '긍정적 수익 (Positive Payoff)'으로 라벨링합니다.
지도 미세 조정 (Supervised Fine-tuning):
- 위 과정을 통해 생성된 데이터로 HANDRAISER 모델을 학습시킵니다. 모델은 각 청크를 받을 때마다 "중단 (Yes)" 또는 "기다림 (No)"을 예측하도록 훈련됩니다.

3. 주요 기여 (Key Contributions)

청취자 중심의 중단 프레임워크 제안: 화자가 일방적으로 메시지를 줄이는 기존 방식과 달리, 청취자가 정보 필요도에 따라 통신을 중단하게 함으로써 더 역동적이고 효율적인 통신을 가능하게 했습니다.
보상 기반 학습 메커니즘: LLM 의 과신 (Overconfidence) 문제를 해결하기 위해, 미래의 통신 비용과 작업 성공률을 추정하는 트리 샘플링 기반의 학습 데이터를 구축하고 이를 통해 중단 시점을 최적화했습니다.
범용성 및 일반화: 학습된 중단 행동이 다른 화자 모델 (Llama, GPT-4o, Gemini 등) 과 다른 작업 (게임, 일정 조율, 토론) 에도 잘 전이 (Transfer) 됨을 입증했습니다.

4. 실험 결과 (Results)

저자들은 텍스트 피크닉 (Text Pictionary), 회의 일정 조율 (Meeting Scheduling), 다중 에이전트 토론 (Debate) 등 3 가지 시나리오에서 Llama-8B, Llama-70B, GPT-4o, Gemini 등 다양한 모델을 사용하여 실험했습니다.

통신 비용 감소: HANDRAISER 는 베이스라인 (일반 통신) 대비 **평균 32.2% (구체적으로는 텍스트 피크닉 24.3%, 회의 일정 23.4%, 토론 48.9%)**의 통신 비용을 절감했습니다.
작업 성능 유지: 통신 비용을 크게 줄였음에도 불구하고, 작업 성공률 (Success Rate) 은 베이스라인과 비슷하거나 오히려 향상되었습니다.
기타 방법론과의 비교:
- 무작위 중단 (Random): 비용 절감 효과가 미미하고 성능이 불안정했습니다.
- 프롬프트 기반 중단 (Prompting): 에이전트가 정보를 충분히 얻기 전에 일찍 중단하여 오히려 대화 라운드가 늘어나고 비용이 증가하는 결과를 초래했습니다.
- HANDRAISER: 학습된 전략을 통해 최적의 중단 시점을 찾아내어 비용과 성능의 균형을 가장 잘 달성했습니다.
일반화 능력: 한 작업 (예: 텍스트 피크닉) 에서 학습된 HANDRAISER 모델을 다른 작업 (예: 회의 일정) 에 적용해도 성능이 유지되거나 개선되는 것을 확인했습니다.

5. 의의 및 결론 (Significance)

이 논문은 다중 에이전트 시스템의 통신 효율성을 높이기 위한 새로운 패러다임을 제시합니다.

효율성 극대화: 불필요한 토큰 생성을 줄여 추론 비용 (Compute Cost) 과 지연 시간 (Latency) 을 크게 낮춥니다.
인간적 상호작용 모방: 인간의 대화에서 자연스럽게 발생하는 '중단'과 '질문'을 시스템에 도입하여, 더 자연스럽고 역동적인 에이전트 간 상호작용을 가능하게 합니다.
확장성: 단일 에이전트 간 통신뿐만 아니라, 복잡한 다중 에이전트 환경 (예: 여러 에이전트가 서로를 중단할 수 있는 상황) 으로도 확장 가능함을 보여주었습니다.

결론적으로, HANDRAISER 는 LLM 기반 다중 에이전트 시스템이 대규모로 확장될 때 발생할 수 있는 통신 병목 현상을 해결하고, 지능적이고 효율적인 협업을 가능하게 하는 핵심 기술로 평가됩니다.