Conversational Control with Ontologies for Large Language Models: A Lightweight Framework for Constrained Generation

1. 연구 배경 및 문제 제기 (Problem)

• LLM 의 예측 불가능성: 대규모 언어 모델 (LLM) 기반 대화 에이전트는 강력한 생성 능력을 갖췄지만, 블랙박스 (Black-box) nature 로 인해 출력의 예측 가능성과 개인화 측면에서 한계가 있습니다. 특히 고객 지원, 의료, HR 등 도메인 특화 대화나 정서적 맥락이 중요한 상황에서는 에이전트의 출력이 통제되지 않을 경우 신뢰도가 떨어집니다.
• 기존 방법의 한계: 기존에 제안된 제약 생성 (Constrained Generation) 기법들은 비용이 많이 들거나 특정 모델에 종속적이며, 복잡하거나 다차원적인 제약을 일관되게 만족시키는 데 어려움을 겪습니다.
• 핵심 질문: 어떻게 온톨로지 (Ontology) 정의에서 도출된 지식을 처리하여 대화형 LLM 의 생성을 효과적으로 통제할 수 있을까요?

2. 제안 방법론 (Methodology)

저자들은 경량화된 온톨로지 기반 프레임워크를 제안하며, 이는 LLM 의 아키텍처를 변경하지 않고도 외부 지식을 통합하여 예측 가능하고 설명 가능한 생성을 가능하게 합니다.

가. 핵심 구성 요소

1. 기술자 (Descriptors) 및 온톨로지 정의:
   • 대화의 특정 측면 (예: 언어 수준, 정서적 극성) 을 기술하는 기술자를 정의하고, 이를 온톨로지 (Protégé 사용) 내에서 클래스로 모델링합니다.
   • 논리적 추론 (Pellet 추론기 사용) 을 통해 대화 흐름을 제어하는 전략 (Strategy) 을 수립합니다.
2. 제약 생성을 위한 파인튜닝 (Generation Fine-Tuning):
   • 라벨링 전략: 데이터셋의 발화 (Utterance) 양쪽에 온톨로지 클래스 정보를 [o.C : Ci] 형태로 감싸는 라벨 감싸기 (Label Wrapping) 기법을 사용합니다. 이는 생성 전 (Pre-utterance) 에는 방향을 제시하고, 생성 후 (Post-utterance) 에는 정렬을 보장합니다.
   • 모델 아키텍처: 7 가지 최신 오픈 가중치 LLM (Llama3, Qwen, Phi, Mistral, DeepSeek-R1 등) 에 대해 LoRA (Low-Rank Adaptation) 를 적용하여 경량 파인튜닝을 수행합니다. 이는 전체 모델을 재학습하는 것보다 계산 자원을 효율적으로 사용합니다.
3. 평가 프로세스:
   • Zero-shot Generation: 시스템 프롬프트에 온톨로지 클래스 라벨을 포함시켜 생성을 유도한 후, 생성된 텍스트를 다시 온톨로지 추론기에 입력하여 실제 클래스를 판별합니다.
   • 지표: 분류 정확도 (Accuracy), F1 점수, 그리고 과제별 지표 (언어 수준 제어에는 MAE, 극성 제어에는 MCC) 를 사용합니다.

나. 두 가지 주요 사용 사례 (Use-Cases)

1. 숙련도 수준 제어 (Proficiency-Level Control):
   • 목표: 사용자의 표현 수준 (CEFR 등급: A1~C2) 에 맞춰 에이전트의 언어 난이도를 조절합니다.
   • 전략: "표현된 것이 이해된다는 가정 (Expressed-is-understood)"에 기반하여, 사용자가 표현한 최고 수준 이상으로만 대화 난이도를 높이는 'Harder-only' 전략을 적용합니다.
   • 데이터: CEFR-T, CEFR-S, DailyDialog 등.
2. 극성 프로필 제어 (Polarity Profile Control):
   • 목표: 사용자의 정서적 부하 (Emotional Load) 와 극성 (Positive/Negative/Neutral) 에 반응하여 대화의 정서적 흐름을 조절합니다.
   • 전략: 사용자의 긍정적 의견에는 논쟁을 유도하기 위해 반대 극성을, 부정적 의견에는 중립적/부정적 부하를 조절하여 비판적 사고를 촉진하는 전략을 사용합니다.
   • 데이터: DailyDialog, GoEmotions, EmpatheticDialogues, SST-3 등.

3. 주요 기여 (Key Contributions)

1. 온톨로지 기반 제어 방법론: LLM 파인튜닝을 통해 온톨로지 정의에 기반한 제어된 생성을 가능하게 하는 새로운 방법론을 제시했습니다. 이는 에이전트의 행동을 온톨로지 전략으로 안내할 수 있게 합니다.
2. 모델 독립적이고 경량화된 프레임워크: 특정 모델에 종속되지 않으며, LoRA 를 통해 계산 비용을 줄인 경량 접근법을 제공합니다.
3. 정량적 및 정성적 성능 향상: 두 가지 사용 사례에서 사전 학습된 베이스라인 모델보다 일관되게 높은 성능을 보였으며, 특히 작은 모델에서도 효과적이었습니다.
4. 재현성 보장: 코드, 데이터, 온톨로지를 공개하여 연구의 재현성을 높였습니다.

4. 실험 결과 (Results)

• 정량적 결과:
  • 파인튜닝된 모델들은 사전 학습된 베이스라인 (Pre-trained Baselines) 대비 F1 점수와 정확도에서 일관되게 우월한 성능을 보였습니다.
  • 특히 Llama3-8B와 DeepSeek-R1은 두 과제 모두에서 우수한 성능을 발휘했습니다.
  • 숙련도 제어: 파인튜닝을 통해 FKGL (읽기 난이도 지수) 값이 CEFR 등급별로 명확하게 분리되는 것을 확인했습니다.
  • 극성 제어: 정서적 부하가 있는/없는 콘텐츠와 극성 (긍정/부정/중립) 을 모두 잘 생성하는 능력을 입증했습니다.
• 정성적 결과:
  • 생성된 텍스트는 요청된 난이도나 정서적 프로필에 따라 어휘와 문장 구조에서 명확한 차이를 보였습니다.
  • 다만, '부정적 부하가 없는 (Non-loaded)' 콘텐츠 생성은 여전히 어려움이 있었으며, 이는 LLM 의 '시코팬시 (Sycophancy, 사용자의 감정에 무조건 동조하는 경향)'와 관련이 있을 수 있다고 분석했습니다.
• 생성 품질 평가:
  • 제어된 생성이 텍스트의 유창성이나 일관성을 해치지 않았음을 Br 점수 (BERT 기반 유사도 비율) 를 통해 확인했습니다.

5. 의의 및 결론 (Significance)

• 구조화된 지식과 LLM 의 융합: 온톨로지를 통해 구조화된 지식을 대화 모델에 통합하여, 에이전트가 투명하고 재현 가능한 행동을 하도록 하는 효과적인 방법을 제시했습니다.
• 확장성: 제안된 프레임워크는 새로운 도메인이나 상호작용 목표 (예: 윤리적 가이드라인 준수, 특정 톤 유지) 로 쉽게 확장 가능합니다.
• 미래 과제: 현재는 정량적 지표와 간단한 전략에 집중했으나, 향후 더 복잡한 대화 전략, 강화 학습 (RL) 기반의 보상 설계, 그리고 실제 사용자 평가 (Human Evaluation) 를 통한 정성적 검증이 필요함을 강조했습니다. 또한, 대화 전략의 악용 (조작 등) 을 방지하기 위한 윤리적 고려 (DPO 등) 도 언급했습니다.

이 논문은 LLM 기반 대화 시스템이 단순히 "자연스러운" 대화를 넘어, 사용자의 요구와 도메인 제약에 맞춰 예측 가능하고 통제된 방식으로 행동할 수 있도록 하는 실용적인 프레임워크를 제시했다는 점에서 의의가 큽니다.