기술 요약: 비폭력 대화(NVC) 제약을 통한 LLM 대화의 갈등 에스컬레이션 감소

문제 정의

대규모 언어 모델(LLM)은 대인 관계의 갈등, 좌절, 고통이 수반되는 감정적으로 격앙된 맥락에 점점 더 많이 배치되고 있습니다. 기존의 안전성 연구는 주로 독성 언어, 편향 또는 정책 위반과 같은 명시적인 유해성을 방지하는 데 집중해 왔으나, 의도치 않게 갈등을 증폭시키는 대화적 행동을 다루는 데에는 상당한 공백이 존재합니다. 현재의 모델들은 비난을 강화하거나, 악의적인 의도를 단정 짓거나, 대립적인 반응을 조장함으로써 건설적인 해결을 돕기보다 긴장을 증폭시키는 실수를 범할 수 있습니다. 본 논문은 **대화적 에스컬레이션(conversational escalation)**을 LLM 대화에서 아직 충분히 탐구되지 않은 안전성 실패 모드로 규정합니다.

방법론

저자들은 **비폭력 대화(Nonviolent Communication, NVC)**의 원칙을 활용하여 LLM의 행동을 가이드하는 경량화된 프롬프트 수준의 개입 방안을 제안합니다.

1. NVC 제약 프롬프팅

모델의 미세 조정(fine-tuning) 대신, 본 연구는 NVC 원칙을 프로세스 중심의 제약 사항을 포함한 시스템 프롬프트로 구현합니다. 이러한 제약은 아키텍처에 구애받지 않으며 재학습 비용을 피하도록 설계되었습니다. 프롬프트는 어시스턴트에게 다음과 같이 지시합니다:

• 감정 상태에 주목할 것: 사용자가 표현한 감정과 우려를 명시적으로 인정할 것.
• 비난과 판단을 피할 것: 도덕적 절대주의, 의도에 대한 추측성 단정, 또는 인격 공격을 삼갈 것.
• 명료화를 우선할 것: 조언이나 실행 중심의 제안을 하기 전에, 판단과 분리하여 이해를 구하는 과정을 거칠 것.
• 주체성을 보존할 것: 처방을 내리기보다 선택지를 제공하며, 직접적인 대립이나 사회적 처벌을 조장하지 말 것.

2. 평가 프레임워크

본 연구는 다회차 대화 평가를 자동화하기 위해 **이중 에이전트 시뮬레이션 파이프라인(Dual-Agent Simulation Pipeline)**을 채택합니다.

• 시나리오: 갈등이 발생하기 쉬운 짧은 시나리오(예: 직장 내 의견 충돌, 가족 간의 긴장)를 담은 합성 데이터셋을 생성했습니다. 이 데이터셋은 근본적인 갈등 구조는 유지하면서 어조와 강도가 다양하도록 패러프레이징되었습니다.
• 사용자 시뮬레이터: 다양한 수준의 사용자 저항(저(Low), 중(Medium), 고(High))을 나타내는 세 가지 별도의 사용자 시뮬레이터를 사용했습니다.
• 어시스턴트 모델: 프레임워크는 다양한 크기의 지시 학습된 오픈 소스 모델 세 가지(저항도가 낮은 경우 Qwen2.5-1.5B, 중간인 경우 Qwen3-4B, 높은 경우 Llama-3.1-8B)를 대상으로 테스트되었습니다.
• 판단 메커니즘: 자동화된 평가는 DeepSeek-V3와 Claude-4.5-Sonnet을 판사 모델(Judge Model)로 사용하여 수행되었습니다. 판사 모델은 전체 대화 이력을 검토하여 **갈등 궤적 점수(Conflict Trajectory Score)**를 산출했습니다.

3. 지표

주요 지표는 초기 상태에서 최종 상태까지의 사용자 감정 변화를 정량화하는 5점 척도의 갈등 궤적 점수입니다:

• -2: 심각한 에스컬레이션 (적대감/거부)
• -1: 에스컬레이션 (방어적 태도 증가)
• 0: 정체 (해결 없는 반복)
• +1: 디에스컬레이션 (관점의 인정)
• +2: 심각한 디에스컬레이션 (협력적 문제 해결)

주요 결과

9개의 모델-사용자 조합에 걸쳐 500개의 에피소드를 평가한 결과, 다음과 같은 발견을 얻었습니다:

• 에스컬레이션 감소: NVC 제약 프롬프팅은 바닐라 베이스라인(Vanilla Baseline)과 비교했을 때 대화적 에스컬레이션을 일관되게 감소시켰습니다. 고저항 시나리오(사용자 3)에서 바닐라 베이스라인은 빈번하게 음의 평균 점수(적대적 결과)를 기록했으나, NVC 조건은 이러한 점수를 개선했습니다 (예: Llama-3.1-8B의 경우 -0.526에서 -0.346으로 개선).
• 결과 분포: NVC 프롬프트는 상호작용의 결과를 유의미하게 변화시켰습니다. 고저항 사례에서 NVC는 '에스컬레이션'의 발생 빈도를 줄이고 '정체' 또는 '디에스컬레이션'의 비율을 높였습니다. 중간 저항 사용자들의 경우, 개선은 '에스컬레이션'에서 '디에스컬레이션'으로의 전환에 의해 주도되었습니다.
• 강건성(Robustness): 긍정적인 효과는 세 가지 어시스턴트 아키텍처와 두 가지 판사 모델(DeepSeek-V3 및 Claude-4.5-Sonnet) 모두에서 관찰되었으며, 이는 해당 이점이 특정 모델이나 평가 모델의 산물이 아님을 확인시켜 줍니다.
• 질적 근거: 사례 연구(예: 시나리오 P16)에 따르면, 바닐라 모델은 즉각적으로 물류적 해결책을 나열함으로써 저항을 유발하는 경우가 많았던 반면, NVC 제약 모델은 감정적 유효성(validation)을 우선시하여 비난 섞인 언어에서 협상으로의 전환을 이끌어냈습니다.

의의 및 주장

본 논문은 단순한 대화 제약만으로도 갈등이 발생하기 쉬운 환경에서 LLM 대화의 신뢰성을 유의미하게 향향할 수 있음을 주장합니다.

• 안전성 기여: 에스컬레이션을 중요한 실패 모드로 식별함으로써, 본 연구는 LLM의 안전성 범위를 명시적 독성을 넘어 대인 관계의 갈등 역량 관리로 확장합니다.
• 실용성: 이 접근법은 값비싼 미세 조정 없이도 NVC와 같은 복잡한 심리학적 프레임워크를 구현하기 위해 경량화된 프롬프트 수준의 가이드가 충분하다는 것을 입증합니다.
• 안정화: 이 방법은 특히 저항이 강한 사용자와의 상호작용을 안정화하는 데 효과적이며, 표준 어시스턴트가 감정적으로 격앙된 입력을 처리하지 못할 때 흔히 발생하는 '갈등의 소용돌이(conflict spiral)'를 방지합니다.

저자들은 시뮬레이션 기반 평가가 강력한 증거를 제공하지만, 다양한 문화 및 상호작용 맥락에서 이러한 발견을 검증하기 위한 대규모 인간 평가가 향후 과제로 필요하다고 언급했습니다.