💬 NLP

From Classification to Ranking: Enhancing LLM Reasoning Capabilities for MBTI Personality Detection

이 논문은 기존 프롬프트 기반 방식의 한계를 극복하고 최첨단 성능을 달성하기 위해, MBTI 성격 유형 탐지를 분류가 아닌 순위 매기기 작업으로 재정의하고 지도 미세 조정(supervised fine-tuning) 및 특화된 보상 함수를 갖춘 그룹 상대 정책 최적화(GRPO)를 활용하는 새로운 강화 학습 프레임워크를 제안한다.

원저자: Yuan Cao, Feixiang Liu, Xinyue Wang, Yihan Zhu, Hui Xu, Zheng Wang, Qiang Qiu

게시일 2026-01-27

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Yuan Cao, Feixiang Liu, Xinyue Wang, Yihan Zhu, Hui Xu, Zheng Wang, Qiang Qiu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 친구의 소셜 미디어 게시물을 읽고 그 친구의 성격 유형(유명한 MBTI의 내향형 vs 외향형, 사고형 vs 감정형 등과 같은 것)을 추측하려고 한다고 상상해 보세요.

과거의 방식: "객관식"의 함정
이전에는 컴퓨터가 이 문제를 엄격한 객관식 퀴즈처럼 풀려고 시도했습니다. 컴퓨터는 게시물을 보고 "이 사람은 내향적인가, 외향적인가?"라고 물었습니다. 그다음에는 "이 사람은 사고형인가, 감정형인가?"라고 물었습니다. 그들은 이 네 가지 질문을 완전히 별개이고 서로 관련 없는 수학 문제처럼 취급했습니다.

문제는 무엇이었을까요? 인간의 성격은 분리된 스위치들의 집합이 아닙니다. 그것은 마치 복잡한 레시피와 같아서 재료들이 서로 상호작용합니다. 만약 한 가지 재료(예: "사고")를 바꾸면, 다른 재료(예: "감정")의 맛도 변하게 됩니다. 기존의 "객관식" 방식은 이러한 미묘한 연결 고리들을 놓쳤고, 결과적으로 혼란스럽고 부정확한 추측을 낳았습니다. 또한, 이러한 시스템은 인간이 매우 구체적인 지침(프롬프트)을 직접 작성해야 했기에 느리고 비용이 많이 들었습니다.

새로운 방식: "장기자랑" 순위 매기기
이 논문의 저자들인 PerDet-R1은 성격 탐지를 퀴즈처럼 다루는 것을 멈추고, 이를 하나의 장기자랑처럼 다루기로 했습니다.

AI에게 "이 사람이 INTJ인가요?"라고 묻는 대신, 다음과 같이 요청합니다: "여기 16가지 가능한 성격 유형이 있습니다. 이 게시물들을 바탕으로 '가장 가능성 높은 것'부터 '가장 가능성 낮은 것' 순으로 순위를 매겨주세요."

이러한 변화는 모든 것을 바꿉니다. 이는 AI가 각 성격 유형을 서로 비교하도록 강제하며, "INTJ"가 단순히 "내향형 + 직관형"의 조합이 아니라, "ENTJ"와는 느낌이 다른 특정한 조합이라는 점을 이해하게 만듭니다.

AI를 가르치는 방법 (2단계 학습 과정)
이 방식이 작동하게 만들기 위해, 그들은 마치 학생이 새로운 기술을 배우는 것과 유사한 두 단계 학습 과정을 사용했습니다.

1단계: "따라 하기" 수업 (지도 미세 조정 - Supervised Fine-Tuning)
마스터 셰프(매우 똑똑한 AI인 Qwen-plus)가 주니어 셰프(훈련 중인 모델)를 가르친다고 상상해 보세요. 마스터 셰프는 소셜 미디어 게시물을 보고 특정 성격 유형이 왜 가장 적합한지에 대한 상세한 "사고 과정"을 작성한 뒤, 상위 3개의 추측을 순서대로 나열합니다. 주니어 셰프는 이를 지켜보며 논리를 배우고, 유사한 목록을 작성하는 연습을 합니다. 이를 통해 AI는 탄탄한 기초를 쌓고, 추측하기 전에 어떻게 "생각"해야 하는지를 배웁니다.
2단계: "코치의 휘슬" (강화 학습 - Reinforcement Learning)
이제 주니어 셰프는 스스로 요리를 시작합니다. 주니어 셰프가 성격 유형 목록을 만들 때마다, "코치"(특별한 점수 산정 시스템)가 그 결과물을 검토합니다.

과거의 코치: 단순히 "맞았다" 또는 "틀렸다"라고만 말했습니다.
새로운 코치 (GRPO): NDCG라고 불리는 정교한 점수 산정 시스템을 사용합니다. 이 코치는 단순히 정답이 목록에 포함되어 있는지만을 신경 쓰는 것이 아니라, 정답이 어디에 위치하는지를 중요하게 여깁니다.
- 만약 정답인 성격 유형이 1위에 있다면, 셰프에게 엄청난 보너스를 줍니다.
- 만약 3위에 있다면, 작은 보너스를 줍니다.
- 만약 상위 3위 안에 없다면, 보너스는 0점입니다.
반전: 코치는 또한 첫 번째 추측이 완벽하지 않더라도 진실에 얼마나 "가까운지"를 확인합니다. 이는 AI가 단순히 무작위로 추측하며 속임수를 쓰는 것을 방지합니다.

이것이 왜 중요한가
성격을 분류 게임이 아닌 순위 매기기 게임으로 전환함으로써, AI는 성격의 미묘한 "풍미"를 이해할 수 있게 되었습니다. AI는 성격을 네 개의 별개 상자로 보는 것을 멈추고, 하나의 복잡하고 상호 연결된 프로필로 보기 시작했습니다.

결과
그들이 실제 소셜 미디어 데이터(PersonalityCafe 및 Reddit과 같은 포럼)로 이 새로운 방법을 테스트했을 때, 이 방법은 그들이 시도했던 다른 모든 방법을 압도했습니다. 이 방식은 정확한 성격 유형을 맞히는 데 더 뛰어났을 뿐만 아니라, 특히 유사한 유형들 사이의 뉘앙스를 이해하는 데 훨씬 더 탁 um했습니다.

요약하자면
이 논문은 다음과 같이 말합니다: "AI에게 단 하나의 상자를 고르라고 요구하는 것을 멈추세요. 대신, AI가 모든 상자를 가장 잘 어울리는 것부터 가장 안 어울리는 것 순으로 순위를 매기는 심판이 되도록 가르치세요. 이것이 AI가 이전보다 훨씬 더 정교하고 상호 연결된 인간 성격의 복잡한 현실을 이해하도록 도와줍니다."

기술 요약: MBTI 성격 탐지를 위한 분류에서 순위 지정(Ranking)으로의 전환

문제 정의

성격 탐지, 특히 MBTI(Myers-Briggs Type Indicator) 프레임워크 내에서의 작업은 전통적으로 네 가지 독립적인 이진 분류 문제(E/I, S/N, T/F, J/P)로 취급됩니다. 저자들은 이러한 접근 방식이 두 가지 결정적인 결함으로 인해 어려움을 겪는다고 주장합니다:

차원적 디커플링(Dimensional Decoupling): 이는 차원 간에 확립된 심리학적 계층 구조와 역동적인 상호 의존성(예: 주기능인 내향 직관이 다른 특성의 발현을 어떻게 형성하는지 등)을 무시합니다.
정적 레이블링(Static Labeling): 이는 성격의 연속적인 스펙트럼을 포착하지 못하며, 개인이 특정 특성 척도상에서 갖는 상대적 위치를 간과합니다.

또한, PsyCoT와 같은 프롬프트 기반의 사고 사슬(Chain-of-Thought, CoT) 방식을 사용하는 기존의 대규모 언어 모델(LLM) 접근법은 전문가가 제작한 프롬프트와 대규모 모델에 크게 의존합니다. 이는 높은 추론 지연 시간, 계산 비용, 그리고 자율적인 패턴 학습 능력의 부재를 초래하여 실시간 애플리케이션 적용을 어렵게 만듭니다.

방법론: PerDet-R1

본 논문은 성격 탐지를 범주형 분류 작업에서 리스트 단위 순위 지정(list-wise ranking) 작업으로 재정의하는 2단계 프레임워크인 PerDet-R1을 제안합니다. 목표는 사용자에게 단일한 이산적 레이블을 할당하는 것이 아니라, 사용자의 소셜 미디어 게시물을 기반으로 가장 관련성이 높은 MBTI 유형들을 순위화하는 것입니다.

1. 학습 데이터 구축

데이터셋 구축은 서로 다른 미세 조정(fine-tuning) 목적에 데이터를 적응시키기 위해 엄격한 2단계 과정을 거칩니다:

1단계 (SFT 데이터): 저자들은 Qwen-plus 모델을 교사(teacher) 모델로 사용하여 소셜 미디어 게시물로부터 추론 과정(reasoning traces)과 Top-K 정답 리스트를 생성합니다. 또한, 정답 레이블이 모델의 Top-K 예측에 포함되지 않는 샘 샘플을 걸러내기 위해 **거부 샘플링(rejection sampling)**을 적용합니다. 이를 통해 고품질의 가독성 있는 추론 체인을 확보합니다.
2단계 (RL 데이터): (SFT 샘플을 제외한) 원본 데이터셋은 데이터 누수를 방지하고 모델이 전체 행동 데이터 분포로부터 학습할 수 있도록 강화 학습에 사용됩니다.

2. 1단계: 지도 미세 조정 (SFT)

기본 모델(Qwen2.5-7B-Instruct)은 교사 모델(Qwen-plus)로부터 추론 능력을 증류(distill)하기 위해 지도 미세 조정을 거칩니다.

목표: 즉각적인 성능을 지나치게 강조하지 않으면서 기초적인 추론 패턴과 도메인 지식을 주입하는 것입니다.
출력: 모델은 차원의 조합 및 상호작作用에 대한 명시적 인식을 바탕으로, <answer>[옵션 1, 옵션 2, ...]<answer> 형식의 정렬된 Top-K MBTI 유형 리스트를 출력하는 법을 학습합니다.

3. 2단계: 추론 강화 학습 (GRPO)

모델은 가치 함수가 없는(value-free) 알고리즘인 **그룹 상대 정책 최적화(Group Relative Policy Optimization, GRPO)**를 사용하여 추가 최적화됩니다. GRPO는 정규화된 그룹 수준의 이점을 계산합니다.

보상 함수 설계: 표준 분류 보상의 희소성과 차별성 부족 문제를 해결하기 위해, 저자들은 다음을 결합한 특화된 순위 기반 보상 함수를 설계했습니다:
1. 정규화된 감쇄 누적 이득 (NDCG): 출력 리스트에서 정답의 관련성과 위치를 측정하며, 높은 순위를 우선시합니다.
2. 차원 유사도 (Dimension Similarity, DS) 보상: 네 가지 MBTI 차원을 기반으로 유사도를 계산합니다. 유사도 점수 $s(\hat{t}, t^*)$ 는 각 차원의 기여도에 대한 가중치를 조절하는 하이퍼파라미터 $\epsilon$ 을 사용하여 네 차원에 걸친 가중치 매칭을 합산하여 계산됩니다.
총 보상: NDCG와 DS 보상의 합입니다. 이 설계는 미묘한 특성 간의 상호작용을 증폭시키고, 모델이 단순히 정답을 분류하는 것을 넘어 최적의 정답 순위를 학습하도록 함으로써 "보상 해킹(reward hacking)"을 방지하는 것을 목표로 합니다.

주요 기여

패러다임 전환: 본 논문은 MBTI 차원을 독립적인 이진 작업으로 취급하는 "범주적 오류(categorical fallacy)"를 제거하고, 성격 탐지를 위한 최초의 리스트 단위 순위 지정 패러다임을 도입했습니다.
새로운 보상 모델링: 보상 모델을 위해 특성 코호트 이점 추정이 도입되었습니다. 차원 유사도와 NDCG를 기반으로 보상을 계산함으로써, 저자들은 차원 간 상호작용을 포착하고 보상 해킹을 완화하는 조밀한 보상 신호를 생성합니다.
최첨단 성능 (SOTA): 제안된 방법은 주요 벤치마크에서 우수한 성능을 달야하며, 전문가가 제작한 프롬프트에 대한 의존도를 낮추는 데이터 기반 성격 평가의 새로운 기준을 세웠습니다.

실험 결과

실험은 Kaggle 및 PANDORA 데이터셋을 대상으로 수행되었습니다. 모델은 Macro-F1 (이진 4-차원 분류용), F1-Score (16-유형 다중 클래스 분류용), 그리고 NDCG@k (순위 지정용)를 사용하여 평가되었습니다.

성능 향상: PerDet-R1은 기존의 머신러닝 모델(SVM, XGBoost), BERT 기반 아키텍처(D-DGCN), LLM 기반 방법(PsyCoT, ETM)을 포함한 모든 베이스라인을 능가했습니다.
- Kaggle 데이터셋에서 PerDet-R1은 **80.57%**의 Macro-F1을 달성했습니다 (이전 최고 성능인 ETM의 77.79% 대비). 또한 F1-score는 **41.34%**를 기록했습니다 (32.55% 대비).
- PANDORA 데이터셋에서는 **66.10%**의 Macro-F1과 **35.08%**의 F1-score를 달성했습니다.
절제 연구 (Ablation Studies):
- 2단계 학습(SFT + GRPO)을 제거했을 때 성능이 크게 하락했습니다 (예: NDCG가 약 20-24% 감소).
- 순위 지정 전략을 분류(classification)로 대체했을 때 이진 F1이 17.50% 감소하여, 순위 지정 접근 방식의 우월성을 확인했습니다.
- NDCG와 차원 유사도 보상 모두 필수적인 것으로 나타났습니다. 하나라도 제거하면 보상 신호가 붕괴하거나 성능이 저하되었습니다.

의의 및 주장

저자들은 자신들의 연구가 성격 탐지를 개별적인 이진 분류가 아닌 비교 순위 문제로 근본적으로 재개념화한다고 주장합니다. 이러한 전환을 통해 모델은 다음과 같은 능력을 갖춥니다:

전통적인 분류 방식에서는 가려지기 쉬운 MBTI 이론 고유의 미묘한 특성 상호작용과 계층적 인지 기능을 포착합니다.
행동 데이터로부터 자율적인 패턴 학습을 수행하여, 값비싼 전문가 프롬프트와 대규모 파라미터 모델에 대한 의존도를 줄입니다.
오프-폴리시 증류(SFT)와 위치 민감형 강화 학습(GRPO)의 결사(combination)를 통해 강력한 초기화와 일반화 능력을 제공합니다.

본 논문은 이 프레임워크가 더 총체적이고 추론 중심적인 성격 모델링 접근 방식을 제공하며, 인간 성격 특성의 내재적 복잡성과 모호한 경계를 해결하면서 동시에 최첨단 성능을 달성한다고 결론짓습니다. 향후 연구로는 탐지 성능을 더욱 높이기 위해 멀티모달 데이터(예: 아바타, 얼굴 표정)를 탐색할 것을 제안합니다.