Human Emotion Verification by Action Languages via Answer Set Programming

기술 요약: 행동 언어를 통한 인간 감정 검증 - 답변 세트 프로그래밍(ASP)을 중심으로

문제 정의
본 논문은 인간의 정신 상태, 특히 감정을 관리함에 있어 원치 않는 부작면이나 안전하지 않은 영향을 유발하지 않도록 하는 상호작용적이고 지능적인 시스템의 절실한 필요성을 다룬다. AI 시스템이 치료 및 행동 변화와 같은 민감한 영역에 점점 더 많이 배치됨에 따라, 에이전트의 행동이 정신 상태의 진화를 규정하는 심리학적 원칙을 준수하는지 검증하기 위한 공식적 방법론이 부족한 실정이다. 기존의 접근 방식은 주로 행동의 스냅샷에 기반한 통계적 사용자 모델링에 의존하는데, 이는 인간 정신 상태의 역동적, 인과적, 비결정론적 특성을 포착하는 데 실패한다. 또한, 심리학 이론(예: 평가 이론)이 감정 변화의 패턴을 설명하고 있음에도 불구하고, 이를 전이 제약(transition constraints)이나 불변량(invariants)으로 통합하여 장기적인 시스템 행동을 엄격하게 검증하는 공식적인 계산 모델은 드물다.

방법론
저자들은 **ASP(Answer Set Programming)**와 전이 시스템(transition systems)을 기반으로 구축된 행동 언어인 **CMT (Mind Transition Language)**를 소개한다. CMT는 인간의 정신 상태가 관찰 가능한 일련의 행동에 어떻게 반응하며 진화하는지를 표현하도록 설계되었다.

• 형식(Formalism): CMT는 $CTAID$를 확장하여 관찰 가능한 환경 플루언트(fluents)/행동과 관찰 불가능한 정신적 플루언트/행동을 구분한다. 이 언어는 정신 상태가 인간의 행동을 어떻게 조절하는지 모델링하기 위해 influences, facilitates, contravenes와 같은 특화된 구조를 도입한다.
• 새로운 제약 조건: 핵심적인 혁신은 forbids to cause 규칙이다. 이 인과적 규칙은 특정 시점 $t$에 특정 정신적 플루언트가 성립할 경우, 시점 $t+1$에 다른 특정 정신적 플루언트가 성립하는 것을 금지한다. 이를 통해 특정 행동과는 독립적으로 상태 전이를 직접 제한함으로써, 특정 정신적 변화를 금지하는 원칙을 모델링할 수 있게 한다.
• 신념 그래프 (Belief Graph, BG): 프레임워크는 노드가 정신 상태(정신적 플루언트의 구성)를 나타내고 엣지가 유효한 전이를 나타내는 유향 그래프인 신념 그래프를 활용한다. BG는 심리학 이론에서 유도된 정수 제약(integrity constraints)의 집합으로 ASP에 인코딩된다. 이러한 제약 조건은 행동 궤적(action trajectories)을 필터링하여, 특정 심리학적 원칙을 준수하는 시퀀스만을 유효한 것으로 간주한다.
• 구현: 프레임워크는 CMT 명세를 ASP 프로그램으로 변환한다. 운영 의미론(operational semantics)은 각 답변 세트(answer set)가 시스템의 유효한 궤적 모델에 대응하도록 정의된다. 이를 통해 행동 궤적의 생성, 검증 및 비교가 가능하다.

사례 연구: 정서적 추론
프레임워크를 입증하기 위해, 저자들은 Roseman의 **감정 평가 이론(Appraisal Theory, AE)**에 CMT를 적용하여, 네 가지 플루언트(욕구 일치성(Need Consistency), 목표 일치성(Goal Consistency), 책임성(Accountability), 통제 잠재력(Control Potential))를 기반으로 한 다차원적 구성으로서의 감정을 모델링한다. 이를 통해 16가지 기본 감정을 나타내는 108개의 구성 상태를 도출한다.

저자들은 두 가지 뚜렷한 감정 조절 이론을 BG 내의 전이 제약 집합으로 형식화한다:

1. 쾌락적 감정 조절 (Hedonic Emotion Regulation, HER): 긍정적 감정을 증가시키고 부정적 감정을 감소시키는 것을 목표로 한다. 제약 조건은 욕구 일치성이 부정적 상태를 생성하는 방식으로 목표 일치성을 초과하지 않도록 강제한다.
2. 공리주의적 감정 조절 (Utilitarian Emotion Regulation, UER): 장기적인 효용을 달하는 것을 목표로 하며, 잠재적으로 단기적인 부정적 감정을 수용한다. 제약 조건은 즉각적인 정서적 균형보다 욕구 일치성과 통제 잠재력을 우선시하여, HER이 금지할 법한 전이를 허용한다.

주요 기여

1. CMT 행동 언어: 정신 상태 추론을 위한 기초적인 플랫폼을 도입하였으며, 심리학적 원칙에 기반해 정신 상태 전이를 제한하는 새로운 forbids to cause 규칙을 특징으로 한다.
2. 공식 프레임워크: CMT의 완전한 구문과 의미론을 제공하고 이를 ASP에 매핑함으로써, 정신 상태 역학의 공식 검증과 불변 속성 탐지를 가능하게 한다.
3. 심리학적 특성화: 평가 이론, 쾌락적 감정 조절, 공리주의적 감정 조절을 계산 모델로 형식화하여 다차원적 정신 상태를 표현할 수 있게 하였다.
4. 비교 분석 방법론: 허용하거나 금지하는 궤적을 분석함으로써 서로 다른 심리학 이론을 검증하고 비교하는 방법론을 제시하였다.

실험 결과
저자들은 계획 길이(plan length)가 6인 512개의 합성 데이터셋(HER 256개, UER 256개)을 사용하여 실험적 평가를 수행하였다.

• 도달 가능성 (Reachability): HER 제약 조건 하에서는 모든 초기 구성으로부터 긍정적 상태(예: 기쁨, 희망)에 도달할 수 있었으나, 부정적 상태(예: 분노, 좌절)는 대부분 도달 불가능했다. 반면, UER 제약 조건은 좌절이나 죄책감과 같은 상태(공리적 목적을 수행하는 상태)로의 도달을 허용했으나, 많은 긍정적 상태를 차단했다.
• 우선순위 분석: 궤적의 각 단계에서 플루언트의 "정서적 우선순위(Emotional Priority)"를 분석하였다. HER 궤적은 긍정적 균형을 유지하기 위해 통제 잠재력과 목표 일치성을 우선시했다. U로 UER 궤적은 즉각적인 정서적 밸런스보다는 책임감과 장기적 목표에 집중함을 반영하여, 책임성(특히 자기 자신 또는 환경에 대한 책임)과 욕구 일치성을 우선시했다.
• 검증 예시: 프로그램은 폭력적 의도를 조장하는 챗봇의 대화 시나리오에 적용되었다. 분석 결과, 해당 챗봇의 행동은 HER 제약(지지적이고 쾌락적인 태도 유지)은 만족했으나 UER 제약은 위반하는 것으로 나타났으며, 이는 시스템이 위험한 영향 패턴을 어떻게 감지할 수 있는지를 보여준다.

의의 및 주장
본 논문은 CMT가 제어된 에이전트 행동을 위한 엄격한 논리 기반 토대를 제공한다고 주장한다. 심리학적 원칙을 전이 제약으로 강제함으로써, 이 프레임워크는 시스템이 원치 않는 정신적 부작용을 예측하고 방지할 수 있게 한다. 저자들은 자신들의 접근 방식이 정적인 사용자 모델을 넘어 역동적이고 궤적 기반의 추론을 통해 서로 충돌하는 심리학 이론들을 계산적으로 비교할 수 있는 구조적인 방법을 제공한다고 강조한다.

본 연구는 현재 모델이 정신 상태 전이의 불확실성을 아직 처리하지 못하며(다만 여러 개의 답변 세트를 통해 비결정론은 지원함), 심리학 이론의 특정 해석에 의존한다는 점을 인정하며 그 범위를 겸허히 설정하고 있다. 저자들은 이를 심리학 이론과 계산적 구현 사이의 가교를 놓기 위한 기초적인 단계로 정의하며, 향후 불확실성, 가중치 부여된 플루언트, 그리고 실제 인간 참여형(human-in-the-loop) 평가를 포함하는 후속 연구를 계획하고 있다.