기술 요약: LLM에서의 사회적 바람직성 응답(SDR)의 정량화 및 완화

1. 문제 정의

대규모 언어 모델(LLM)은 행동 및 심리적 프로필을 벤치마킹하기 위해 인간의 자기 보고식 설문지(예: Big Five 성격 검사)를 사용하여 점점 더 많이 평가되고 있다. 그러나 이러한 도구들은 정직한 응답을 전제로 한다. 평가적 맥락에서, 도움을 주고 불쾌감을 피하도록 미세 조정된 LLM은 사회적으로 선호되는 답변으로 기울어지는 경향이 있다. **사회적 바람직성 응답(Socially Desirable Responding, SDR)**이라고 알려진 이 현상은 설문지 기반 점수를 편향시키고 안전성, 편향성 및 페르소나 일관성에 관한 후속 결론을 저해한다.

현재 문헌에는 다음이 결여되어 있다:

1. 구성 개념 간 및 인간 벤치마크와 비교하여 LLM의 SDR 크기를 정량화할 수 있는 표준화된 지표.
2. 의도된 잠재 프로필을 복구하는 능력을 유지하면서 SDR을 완화하도록 특별히 설계된 측정 형식.
3. 실제 응답 왜곡과 채점 방식의 인위적 결과물(예: 강제 선택 형식의 이프사티브(ipsative) 점수)을 구분하는 프레임워크.

2. 방법론

2.1 실험 설계

본 연구는 SDR을 잠재 점수의 지시 유도된 변화로 정량화하기 위해 심리측정학적 프레임워크를 채택한다.

• 참가자: 3개 제공업체(OpenAI, Google, Anthropic)의 9개 지시 이행 LLM.
• 페르소나: 현실적인 인간 특성 분포를 모사하도록 생성된, 알려진 정답(ground-truth) Big Five 타겟 프로필($z_i$)을 가진 50개의 합성 페르소나.
• 조건: 각 페르소나에 대해 두 가지 지시 조건이 적용되었다:
  • HONEST (정직): 가능한 한 정직하게 답변하시오.
  • FAKE-GOOD (좋은 모습 연출): 최선의 인상을 남기기 위해 답변하시오 (표준적인 지시된 속임수 설계).
• 응답 형식:
  • Likert (단일 자극): 7점 척도로 평가된 60개 항목.
  • Graded Forced-Choice (GFC, 등급형 강제 선택): 30개의 문장 쌍을 7점 양극 척도(왼쪽이 훨씬 더 정확함 vs 오른쪽이 훨씬 더 정확함)로 평가.

2.2 도구 구축

본 연구는 Goldberg의 IPIP Big-Five 요인 마커 인벤토리($J=98$ 항목)의 하위 집합을 활용하였다.

• 바람직성 추정: 두 개의 강력한 LLM(GPT-5, Gemini 2.5 Pro)이 "바람직성 평가자" 역할을 수행하여, 인간의 규범적 프레임에 근거하여 각 항목에 대한 사회적 바람직성 점수($s_j$)를 9점 척도로 할당하였다.
• GFC 구축: 제약 최적화 알고리즘을 사용하여 두 진술의 바람직성 점수가 밀접하게 일치하는(최대 차이 0.18, 평균 0.03) 30개의 교차 도메인 쌍을 선택하였다. 이는 모델이 일률적으로 "사회적으로 가장 좋은" 옵션을 선택하는 것을 방지한다.

2.3 심리측정적 채점 (IRT)

형식과 조건 간의 유효한 비교를 가능하게 하기 위해, 본 연구는 고전적 채점 대신 **문항 반응 이론(Item Response Theory, IRT)**을 사용한다.

• Likert: 다차원 등급 반응 모델(Graded Response Model, GRM)을 사용하여 모델링하였다.
• GFC: 로지스틱 서스톤(Thurstonian) IRT 모델을 사용하였다. 이 접근 방식은 각 진술에 대한 잠재 효용을 가정하고, 선택을 효용 간의 차이로 모델링하여 규범적 잠재 점수($\theta$)를 공통 척도상에서 복구한다. 이는 표준 강제 선택 채점의 고유한 문제인 이프사티비티(ipsativity, 상수 합 문제)를 피하며, 이를 통해 프로필 내의 트레이드오프와 절대적 위치를 혼동하지 않는다.

2.4 지표

1. SDR 정량화: FAKE-GOOD과 HONEST 조건 사이의 잠재 점수 변화에 대한 방향 보정 표준화 효과 크기(Cohen's $d_z$)로 정의된다. 부호는 양의 값이 항상 사회적 바람직성(높은 A, C, E, O; 낮은 N)을 향한 변화를 나타내도록 보정되었다.
2. 정답 복구(Ground-Truth Recovery): 추정된 잠재 프로필($\hat{\theta}$)과 알려진 합성 페르소나 타겟($z$) 사이의 피어슨 상관계수로 측정된다.

3. 주요 기여

1. LLM을 위한 SDR 지표: 인간의 지시된 속임수 벤치마크에 고정된, 구성 개념 및 모델 간 비교가 가능한 심리측정학적 기반 지표(지시 유도된 효과 크기 기반 IRT 잠재 점수).
2. 바람직성이 일치된 GFC 인벤토리: 항목 간 바람직성을 일치시키기 위해 제약 최적화를 통해 구축된 새로운 Big Five 인벤토리로, 규범적 점수 복구를 위해 서스톤 IRT를 사용하여 채점된다.
3. 실증적 검증: 9개 LLM에 대한 포괄적인 평가를 통해 SDR 완화와 프로필 복구 사이의 트레이드오프를 입증하였다.

4. 결과

4.1 SDR 크기

• Likert 형식: 모든 모델과 차원에서 일관되게 큰 SDR을 보였다. Fake-good 지시는 사회적으로 바람직한 프로필(높은 친화성, 성실성, 외향성, 개방성; 낮은 신경증)로의 유의미한 양의 변화를 일으켰다. 효과 크기는 인간의 지시된 속임수 메타 분석과 유사했다.
• GFC 형식: 바람직성이 일치된 GFC는 SDR을 실질적으로 완화했다. 대부분의 모델에서 효과 크기가 0에 가깝거나 무시할 만한 수준으로 떨어졌다. Likert에서는 45/45개의 셀에서 SDR이 나타난 반면, GFC에서는 45개 모델-차원 셀 중 4개만이 통계적으로 유의미했다.

4.2 SDR–복구 트레이드오프

• Likert: 더 높은 정답 복구(타겟 프로필과의 상관관계)를 달ей했으나, 큰 SDR 왜곡을 겪었으며, 이는 평가적 맥락에서 "회피(Avoid)" 영역에 위치하게 한다.
• GFC: 정답 복구를 대체로 유지하면서도 SDR을 유의미하게 감소시켰다(결과를 "권장(Recommended)" 또는 "주의(Caution)" 영역으로 이동). 대부분의 GFC 지점은 $r \ge 0.50$의 상관관계를 유지하여, 수용 가능하거나 강한 수렴 타당성을 나타냈다.
• 모델 가변성: 트레이드오프는 모델 패밀리에 따라 달랐다. 고용량 변체는 때때로 GFC 하에서 더 낮은 SDR을 보였으나, 그 관계가 균일하지는 않았다. 일부 작은 모델은 최소한의 기본 SDR을 보인 반면, 일부 큰 모델은 GFC 하에서도 측정 가능한 SDR을 유지했다.

5. 의의 및 주장

본 논문은 설문지 기반의 LLM 벤치마킹이 현재 사회적 바람직성 편향에 취약하며, 이는 추론된 행동 프로필을 왜곡한다고 주장한다. 본 연구는 다음을 입증한다:

• SDR은 측정 가능하며 모델 의존적이다: 이는 단순한 총점 변화가 아니라 잠재 점수의 체계적인 변화로서 정량화될 수 있다.
• 바람직성이 일치된 GFC는 유효한 완화책이다: 동일하게 바람직한 옵션들 사이에서 비교 판단을 강제함으로써, 의도된 성격 신호를 완전히 희생하지 않으면서도 인상 관리(impression management)를 제한할 수 있다.
• 보고 관행이 진화해야 한다: 비교 감사, 안전성 또는 공정성 평가를 위해 설문지를 사용할 때, 연구자는 추론된 프로필과 함께 사회적 바람직성 왜곡에 대한 취약성도 함께 보고해야 한다고 저자들은 주장한다.

본 논문은 Likert 형식이 엄격히 정직한 조건 하에서는 복구 능력을 극대화할 수 있지만, 자기 제시 압력이 결과의 왜곡을 초래할 가능성이 높은 평가적 맥락에서는 바람직성이 일치된 GFC가 더 적절하다고 결론짓는다. 이러한 결과는 SDR 크기를 특정 훈련 목표 및 안전 정책과 연결하는 향후 연구를 촉발한다.