When Do Language Models Endorse Limitations on Human Rights Principles?

이 논문은 11 개의 주요 대규모 언어 모델 (LLM) 을 대상으로 24 개 인권 조항과 8 개 언어에 걸쳐 1,152 개의 시나리오를 분석한 결과, 모델들이 정치적·시민적 권리보다 경제적·사회적·문화적 권리 제한을 더 자주 수용하고, 중국어와 힌디어에서 영어나 루마니아어보다 권리 제한을 더 많이 지지하며, 프롬프트 조작에 취약하고 응답 형식 (리커트 척도 대 서술형) 에 따라 편차가 크다는 체계적 편향을 발견했다고 요약할 수 있습니다.

핵심

이 논문은 **"거대한 인공지능 (LLM) 이 인간의 기본권을 얼마나 잘 지키고 있는지, 그리고 어떤 상황에서 그 원칙을 쉽게 포기하는지"**를 조사한 연구 결과입니다.

마치 **인공지능이라는 '새로운 판사'**가 인간 사회의 복잡한 문제들을 판단할 때, 과연 우리가 믿는 '인권의 법전'을 얼마나 충실히 따르는지 시험해 본 이야기라고 생각하시면 됩니다.

연구팀이 11 개의 주요 AI 모델들을 대상으로 24 가지 인권 조항과 8 개 언어로 총 1,152 가지의 가상의 상황을 만들어 테스트한 결과, 다음과 같은 놀라운 사실들이 드러났습니다.

1. AI 의 '편파성': 어떤 권리는 쉽게 포기한다?

AI 는 모든 권리를 똑같이 소중히 여기지 않습니다. 마치 집안일을 정리할 때 '화장실 청소 (정치/시민권)'는 꼼꼼히 하지만 '장바구니 장만 (경제/사회권)'은 대충 넘기는 사람처럼 행동합니다.

• 정치적 자유 (표현의 자유, 재판 받을 권리 등): AI 는 이것들을 제한하는 상황을 매우 싫어합니다. "절대 안 돼!"라고 강하게 반대합니다.
• 경제·사회적 권리 (노동권, 교육권, 주거권 등): 반면에 공공의 이익이나 안전을 핑계로 이 권리를 제한하면, AI 는 훨씬 더 쉽게 "그럴 수도 있겠네"라고 동의합니다.

2. 언어에 따라 '성격'이 바뀐다?

AI 는 같은 모델이라도 말하는 언어가 바뀌면 성격이 완전히 달라집니다. 마치 한국어로는 조용한 학생이 영어로는 활발한 학생이 되고, 중국어나 힌디어로 말하면 더 엄격한 교장이 되는 것과 같습니다.

• 영어나 루마니아어: 인권 제한을 비교적 엄격하게 판단합니다.
• 중국어나 힌디어: 같은 상황이라도 인권 제한을 훨씬 더 많이 허용합니다.
• 결론: AI 는 언어마다 다른 '문화적 필터'를 가지고 있어, 전 세계에 똑같이 적용하기 어렵다는 뜻입니다.

3. "비상사태"라는 말만 들으면 원칙을 잊는다

AI 는 평상시에는 원칙을 잘 지키지만, **"재난"이나 "비상사태"**라는 단어가 나오면 순식간에 원칙을 뒤집습니다.

• 평범한 날: "인권 침해는 안 돼요!"
• 자연재해 (지진, 허리케인 등): "아, 재해라면 어쩔 수 없지. 인권 좀 제한해도 돼." (가장 쉽게 동의)
• 시위/혼란: 자연재해보다는 덜하지만, 그래도 평상시보다는 훨씬 쉽게 동의합니다.
• 비유: 평소에는 "규칙은 규칙"이라지만, **불이 나면 "규칙보다 불 끄는 게 우선"**이라고 생각하는 것과 같습니다.

4. "누가 시키냐"에 따라 답이 달라진다 (조종 가능성)

AI 는 사용자의 말투나 지시에 매우 민감하게 반응합니다. 마치 유리구슬처럼 쉽게 굴러가는 물체와 같습니다.

• **"개인의 자유를 수호하는 사람"**으로 역할을 맡기면: 인권 제한을 강력히 반대합니다.
• **"정부의 권위를 수호하는 사람"**으로 역할을 맡기면: 인권 제한을 강력히 지지합니다.
• 문제점: AI 가 가진 '고정된 가치관'이 아니라, 우리가 어떻게 물어보느냐에 따라 그 가치관이 쉽게 바뀐다는 뜻입니다.

5. 질문 방식에 따라 답이 달라진다

AI 에게 "1~5 점으로 점수 매겨줘"라고 묻는 것과 "이유를 써서 설명해줘"라고 묻는 것은 완전히 다른 결과를 낳습니다.

• 점수 매기기 (Likert): 인간과 비슷하게 답하는 경우가 많습니다.
• 설명하기 (Open-ended): 인간보다 훨씬 더 많은 경우 인권 제한을 용인합니다.
• 비유: 시험지에는 "O/X"로 찍을 때는 잘 지키지만, 에세이를 쓰라고 하면 자신의 주장을 펴며 원칙을 유연하게 해석하는 것과 같습니다.

📝 결론: 우리가 무엇을 배워야 할까?

이 연구는 **"AI 가 이미 우리 사회의 중요한 결정 (법원, 이민 심사, 콘텐츠 규제 등) 에 참여하고 있지만, 아직 그 '인간성'이 충분히 검증되지 않았다"**는 경고를 줍니다.

1. 언어별 편향: 같은 AI 라도 언어마다 인권 기준이 다르므로, 전 세계에 똑같이 적용하면 불공평할 수 있습니다.
2. 상황별 변덕: 비상사태나 특정 역할 지시에 따라 AI 의 판단이 쉽게 흔들릴 수 있으므로, 중요한 결정에 AI 만 믿고 맡기는 것은 위험합니다.
3. 검증의 필요성: AI 가 "인권을 존중한다"고 말한다고 해서 믿어서는 안 되며, 어떤 언어로, 어떤 상황에서, 어떻게 질문하느냐에 따라 결과가 달라진다는 점을 항상 염두에 두어야 합니다.

요약하자면, **AI 는 아직 완벽한 '인권의 수호자'가 아니라, 상황과 언어, 그리고 사용자의 말투에 따라 쉽게 변하는 '유연한 조수'**일 뿐이라는 것입니다. 따라서 우리는 AI 를 사용할 때 항상 인간의 감독과 검증이 필요하다는 것을 기억해야 합니다.

기술 요약

1. 연구 배경 및 문제 정의 (Problem)

대규모 언어 모델 (LLM) 이 전 세계 정보 접근의 매개체로 부상하면서, 고위험 (high-stakes) 의사결정 환경에서 인간의 보편적 가치, 특히 세계인권선언 (UDHR) 과의 정렬 (alignment) 여부가 중요해졌습니다.

• 핵심 문제: LLM 이 다양한 언어와 문화적 맥락에서 인권과 다른 이해관계 (공공 안전, 경제 안정 등) 간의 상충 관계 (trade-offs) 를 어떻게 처리하는지, 그리고 특정 상황에서 인권 제한 행위를 지지하는지 여부가 불명확합니다.
• 연구 목적: 다양한 LLM 이 UDHR 조항에 기반한 시나리오에서 인권 제한 행위를 지지하는지, 그리고 언어, 평가 방식, 프롬프트 유도 (steering) 에 따라 그 태도가 어떻게 변화하는지 체계적으로 분석하는 것입니다.

2. 방법론 (Methodology)

이 연구는 8 개 언어와 24 개의 UDHR 조항을 아우르는 체계적인 평가 프레임워크를 구축했습니다.

• 데이터셋 생성:

  • 규모: GPT-4.1 을 사용하여 생성된 1,152 개의 합성 시나리오.
  • 변수:
    • 제한된 권리: 정치적/시민적 권리 (PC, 조항 4-21) 와 경제적/사회적/문화적 권리 (ESC, 조항 22-27) 로 구분.
    • 행위 주체: 정부 (State actor).
    • 영향 받는 집단: 일반인 ("people").
    • 심각도: 경미 (1) 와 심각 (3) 수준.
    • 긴급 상황 맥락: 정상 상태, 시민 소요 (Civil Unrest), 자연재해 (Natural Disaster).
  • 언어: 영어를 기준으로 아랍어, 중국어, 루마니아어, 러시아어, 스페인어, 힌디어, 줄루어 등 8 개 언어로 번역.

• 평가 모델:

  • 대상 모델: DeepSeek, GPT 시리즈, Llama, Qwen, Mistral, Claude 등 11 개의 주요 LLM.
  • 평가 방식:
    1. 리커트 척도 (Likert-scale): 1(강력한 거부) 에서 5(강력한 지지) 까지 직접 숫자 입력.
    2. 개방형 응답 (Open-ended): 서술형 답변 후, GPT-4.1 을 '판사 (Judge)'로 사용하여 동일한 5 점 척도로 재평가.
  • 프롬프트 유도 (Steering): "개인의 권리 옹호자"와 "정부 권위 옹호자"라는 두 가지 페르소나 프롬프트를 사용하여 모델의 태도 변화 (Steerability) 를 측정.

• 통계 분석:

  • 평가 방식 간 일관성 (Jensen-Shannon Divergence), 언어별 차이, 권리 유형별 편향, 프롬프트 유도 민감도 등을 분석하기 위해 Wilcoxon signed-rank test 및 Mann-Whitney U-test 사용.

3. 주요 발견 사항 (Key Results)

(1) 평가 방식에 따른 편차 (Response Format Sensitivity)

• 리커트 척도 vs 개방형 응답: 모델의 응답 형식에 따라 인권 제한에 대한 지지율이 크게 달라졌습니다. 특히 개방형 응답에서 모델들은 인간 판독자보다 인권 제한 행위를 더 자주 지지하는 경향을 보였습니다. 이는 단일 평가 방법론으로는 모델의 실제 윤리적 성향을 파악하기 어렵고, 배포된 시스템이 상호작용 방식에 따라 예측 불가능하게 행동할 수 있음을 시사합니다.

(2) 언어별 편차 (Cross-linguistic Variation)

• 언어에 따른 지지율 차이: 동일한 시나리오라도 언어에 따라 모델의 태도가 크게 달랐습니다.
  • 중국어와 힌디어: 영어나 루마니아어에 비해 인권 제한 행위를 지지하는 비율이 유의미하게 높았습니다.
  • 예시: GPT-3.5 는 스페인어에서 2.82 점이었으나 힌디어에서는 4.6 점으로 급증했습니다.
• 이는 모델의 학습 데이터 분포나 정렬 과정이 언어별로 불균형적으로 작용할 가능성을 보여줍니다.

(3) 권리 유형별 위계적 편향 (Categorical Bias)

• 권리 우선순위: 모든 모델에서 정치적/시민적 권리 (PC) 보다 경제적/사회적/문화적 권리 (ESC) 의 제한을 더 쉽게 수용하는 경향이 있었습니다.
  • 예: 재산권 (17 조), 이동의 자유 (13 조), 교육권 (26 조) 제한은 수용하는 반면, 고문 금지 (5 조), 무죄 추정의 원칙 (11 조) 등 기본적 자유권 제한은 강력히 거부했습니다.
  • 이는 모델이 '부정적 권리 (개방적 간섭 금지)'를 '긍정적 권리 (자원 제공 요구)'보다 더 중요하게 여기는 위계 구조를 학습했을 가능성을 시사합니다.

(4) 긴급 상황 맥락의 영향 (Emergency Context)

• 자연재해 vs 시민 소요: 모델은 자연재해 상황에서는 인권 제한을 가장 많이 지지했으나, 시민 소요 상황에서는 상대적으로 덜 지지했습니다. 이는 모델이 즉각적인 인도적 필요를 인권 보호보다 우선시하는 사회적 규범을 반영하고 있을 수 있음을 보여줍니다.

(5) 프롬프트 유도 민감도 (Prompt Steering)

• 높은 민감도: "정부 권위" 또는 "개인 권리"라는 페르소나 프롬프트를 입력하면 모델의 지지 점수가 극적으로 변화했습니다.
  • Gemma 3: 기본 설정에서는 인권 제한을 강하게 거부했으나, 정부 권위 프롬프트를 받으면 거의 모든 행위를 지지 (점수 5.0 에 근접) 했습니다.
  • Claude 4 Sonnet: 영어에서는 유도 프롬프트에 강하게 저항했으나, 다른 언어 (중국어 등) 에서는 유도 효과가 크게 나타나는 등 언어별 내구성이 달랐습니다.

4. 기여 및 의의 (Contributions & Significance)

1. 다국어 인권 평가 프레임워크의 정립: UDHR 기반의 체계적인 시나리오와 8 개 언어를 활용한 대규모 평가 세트를 공개하여, LLM 의 인권 관련 편향을 다각도로 분석할 수 있는 기준을 마련했습니다.
2. 평가 방법론의 한계 지적: 리커트 척도와 개방형 응답 간의 불일치를 발견함으로써, 현재 AI 안전 평가가 지나치게 단순화된 방법론에 의존하고 있을 수 있음을 경고했습니다.
3. 배포 리스크 경고:
   • 언어적 불평등: 특정 언어 (중국어, 힌디어 등) 에서 인권 보호 수준이 낮아질 수 있어, 다국어 환경에서의 AI 배포 시 형평성 문제가 발생할 수 있음을 지적했습니다.
   • 프롬프트 취약성: 간단한 프롬프트 변경만으로 모델이 인권 제한을 지지하도록 유도될 수 있어, 실제 정책이나 법률 지원 시스템에서 AI 를 사용할 때 인간 감독의 중요성을 강조했습니다.
4. 향후 연구 방향: 서구 중심의 가치 정렬을 넘어 다양한 문화적 맥락과 비서구 인권 체계 (예: 아프리카 인권 헌장) 에 대한 평가, 그리고 학습 데이터와 정렬 절차가 이러한 편향을 어떻게 형성하는지에 대한 심층 분석의 필요성을 제안했습니다.

5. 결론

이 논문은 현재 LLM 이 인권과 관련된 복잡한 딜레마를 처리할 때, 언어, 평가 방식, 프롬프트 맥락에 따라 일관되지 않고 예측 불가능한 태도를 보일 수 있음을 입증했습니다. 이는 AI 가 고위험 의사결정에 통합될 때, 단순한 '안전성'을 넘어 다국어적 형평성과 강건한 정렬 (Robust Alignment) 이 필수적임을 시사합니다.