Two Wrongs, No Right: Auditing Social-Desirability Bias in LLM Annotators for Computational Social Science

기술 요약: 두 번의 잘못, 하나의 옳지 않음: 계산 사회과학을 위한 LLM 주석가의 사회적 바람직성 편향(Social-Desirability Bias) 감사

문제 제기
대규모 언어 모델(LLM)은 정치적 텍스트, 혐오 표현, 감성, 그리고 여론을 측정하기 위해 계산 사회과학(CSS)에서 저비용 주석가로서 점점 더 많이 배치되고 있다. 그러나 이러한 모델의 "정렬된 형태(alignment-shaped)"의 오류가 연구자가 보고하고자 하는 경험적 수치를 보존하는지에 대한 이해에는 결정적인 격차가 존재한다. 모델의 개별 인스턴스당 정확도는 흔히 표준 지표로 사용되지만, CSS는 집합적 측정(예: 유병률 추정치, 집단 간 비교, 시계열 변화)에 의존한다. 본 논문은 모델이 표면적으로는 수용 가능한 평균 정확도를 가질 수 있지만, 사회적 바람직성 응답 편향(SDR)으로 인해 기저의 레이블 분포를 체계적으로 왜곡할 수 있다고 주장한다. 이러한 편향은 입력된 인스턴스에 충실한 응답보다는 규범적으로 선호되는 응답을 생성하려는 경향으로 나타나며, 이는 공공 여론이나 유해 콘텐츠의 유병률에 관한 잘못된 과학적 결론을 초래할 잠재적 위험이 있다.

방법론
저자들은 세 가지 오픈 소스 7B 파라미터 지시 미세 조정(instruction-tuned) 모델인 Zephyr-7B, Mistral-7B-Instruct-v0.3, Qwen2.5-7B-Instruct를 대상으로 비교 감사를 수행한다. 이 모델들은 서로 다른 베이스 패밀리와 사후 학습 레시피(예: 선호도 최적화, 지도 학습 기반 지시 미세 조정)를 가진다.

평가는 TweetEval 벤치마크의 6가지 작업을 포괄한다:

1. 혐오 표현 (Hate Speech)
2. 공격적 언어 (Offensive Language)
3. 입장 탐지 (Stance Detection - 낙태 관련)
4. 감성 (Sentiment)
5. 감정 (Emotion)
6. 반어법 (Irony)

연구는 실무자들이 재학습 없이 사용할 수 있는 개입을 시뮬레이션하기 위해 4가지 프롬프팅 조건을 테스트한다:

1. 중립 (Neutral): 작업 지시만 포함.
2. 안전 프레이밍 (Safety Framing): 안전, 공정성 및 위해 방지에 관한 명시적 지시 포함.
3. 비인격화 (Depersonalized): 모델을 도움이 되는 어시스턴트가 아닌 결정론적인 레이블링 함수로 프레이밍.
4. 생각의 사슬 (Chain-of-Thought, CoT): 최종 레이블을 내기 전 중간 추론 과정을 허용.

이 설계는 총 72개의 실험 셀(3개 모델 × 6개 작업 × 4개 프롬프트)을 생성한다. 저자들은 네 가지 상보적 지표를 사용하여 성능을 분석한다:

• Macro-F1: 전체적인 작업 성능.
• 허위 양성률 (False Benign Rate, FBR): 실제로 유해한 예시가 양호한 레이블로 할당되는 비율.
• 허위 경보율 (False Alarm Rate, FAR): 양호한 예시가 부적절하게 유해한 것으로 레이블링되는 비율.
• 하류 왜곡 (Downstream Distortion): 예측된 클래스 유병률과 실제(gold) 클래스 유병률 사이의 절대 오차 (낙태 입장의 경우 "반대(AGAINST)", 혐오 표현의 경우 "HATE SPEECH"에 집중).

주요 기여

1. 다중 작업 감사: 혐오 표현, 공격적 언어, 입장, 감성, 감정, 반어법에 걸친 정렬 민감적 주석 동작에 대한 체계적 평가.
2. 집합적 불충분성의 증거: CSS 배포에 있어 집합적 지표(예: Macro-F1 또는 총 유병률 정확도)가 불충분함을 입증. 본 논문은 반대되는 클래스 조건부 오류(예: 유해한 콘텐츠를 놓치는 동시에 양호한 콘텐츠를 과잉 표기하는 것)가 코퍼스 수준에서 우연히 서로 상쇄되어 유병률 정확도가 올바르게 보이는 사례들을 폭로한다.
3. 실패 분류 체계 (Failure Taxonomy): 특정 진단적 징후를 가진 세 가지 반복적 실패 패턴 식별:
   • 관용 편향 (Leniency Bias): 높은 FBR과 낮은 FAR (유해한 콘텐츠를 과소 집계).
   • 과잉 교정 (Overcorrection): 낮은 FBR과 높은 FAR (유해한 콘텐츠를 과다 집계).
   • 중립성 편향 (Neutrality Bias): 강한 입장 클래스의 유병률을 억제하고 중립 레이블을 팽창시킴.

주요 결과

• 상이한 실패 방향: 모델들은 균일하게 실패하지 않는다. Zephyr는 특히 공격적 언어에서 강력한 관용 편향(FBR = 0.729, FAR = 0.031)을 보이며, 유해한 레이블을 체계적으로 적게 적용한다. 반대로, Mistral과 Qwen은 혐오 표현에 대해 과잉 교정(Mistral은 비혐오 트윗의 60.4%를 혐오 표현으로 레이블링, FAR = 0.604)을 보인다.
• 정치적 입장에 대한 중립성 편향: 낙태 입장 작업에서 세 모델 모두 "반대(AGAINST)" 입장의 유병률을 체계적으로 과소평가하고(실제 비율: 67.5%), "없음/중립" 레이블을 팽창시켰다. 중립 프롬프팅 하에서 Zephyr는 반대 비율을 27.9%로만 추정했고, Mistral과 Qwen은 43.9%로 추정했다. 이 편향은 모든 프롬프팅 조건에서 지속되었다.
• 프롬프팅 개입의 무효성: 단일 프롬프팅 개입(Safety, Depersonalized, CoT)이 모든 모델과 작업에 대해 이러한 실패를 일관되게 교정하지 못했다. 어떤 경우에는 개입이 왜곡을 악화시키기도 했다 (예: Safety 프레이밍은 Mistral의 "반대" 추정치를 더욱 감소시킴).
• 우연한 상쇄 (Accidental Cancellation): Zephyr의 혐오 표현 결과에서 발견된 중요한 사실이다. 중립 프롬프팅 하에서 Zephyr의 추정 유병률(43.0%)은 실제 비율과 정확히 일치했다. 그러나 이는 높은 FBR(0.316)과 높은 FAR(0.239)이 우연히 상쇄된 결과였다. 유병률 정확도에만 의존하는 연구자는 모델이 상당 부분의 개별 인스턴스를 잘못 분류하고 있음에도 불구하고 모델이 신뢰할 수 있다고 잘못 결론 내릴 수 있다.
• 실질적 영향: 관찰된 왜곡(14~40 퍼센트 포인트 범위)은 "강한 반대" 성향의 데이터셋을 "팽팽한 대립" 상태로 바꾸거나, 코퍼스를 실제보다 거의 두 배 더 독성 있는 것처럼 보이게 만드는 등 실질적인 경험적 결론을 뒤집을 만큼 크다.

의의 및 주장
본 논문은 계산 사회과학을 위한 신뢰할 수 있는 AI를 위해 "헤드라인" 지표인 평균 정확도는 오해의 소지가 있다고 주장한다. 주요 위험은 단순히 낮은 정확도가 아니라, 연구자가 보고하는 경험적 이야기를 변화시키는 체계적인 측정 왜곡이다.

저자들은 다음과 같이 주장한다:

1. 정렬은 오류 프로필을 형성한다: 사후 학습 선택은 특정 방향성을 가진 편향(관용 vs 과잉 교정)을 초래하며, 이는 모델 간에 서로 다르다. 즉, 연구자가 프로젝트 도중에 모델을 교체하면 분석 내용을 바꾸지 않고도 경험적 결론을 의도치 않게 역전시킬 수 있다.
2. 프롬프팅은 측정 도구의 일부이다: 프롬프트 선택은 유병률 추정치를 크게 변화시킬 수 있는(예: 낙태 입장에 대해 Mistral의 경우 프롬프트에 따라 16.8포인트 차이 발생) 숨겨진 자유도 역할을 한다.
3. 검증 프로토콜: 연구자는 Macro-F1을 넘어 넘어서야 한다. 주석 파이프라인을 확장하기 전에, 실무자는 작은 골드 샘플을 통해 클래스 조건부 오류(FBR/FAR)와 하류 유병률 왜곡을 검증해야 한다.
4. 보고 표준: 모델과 프롬프트를 측정 도구의 일부로 보고하는 것은 선택적 공개 사항이 아니라 기본 요구 사항이다. 왜냐에는 주석가의 방향성 편향이 그 데이터로부터 도출된 시민 담론이나 여론에 관한 모든 주장들에 그대로 상속되기 때문이다.

결론적으로, 본 논문은 일반적인 분류 리더보드가 아닌 하류 추론 대상(downstream inferential targets)에 맞추어 주석가를 평가하는 방향으로의 전환이 필요하다고 강조하며, 집합적 지표상으로는 정교해 보이는 모델이라 할지라도 사회과학에 필요한 측정 타당성을 근본적으로 결여할 수 있음을 밝힌다.