Friend or Foe? Language as an ideological switch in open-weight LLMs under Russian disinformation stress

기술 요약: "친구인가 적인가? 러시아의 디스인포메이션 스트레스 하에 있는 오픈 웨이트 LLM에서의 이데올로기적 스위치로서의 언어"

문제 제기
본 연구는 논쟁적인 정보 환경, 특히 러시아의 우크라이나 침공 맥락에서 오픈 웨이트 대규모 언어 모델(LLM)이 어떻게 행동하는지에 대한 이해의 결정적인 공백을 다룬다. 정책 및 산업계의 담론은 종종 문화적으로 정렬된 미세 조정(예: 우크라이나 사용자를 위해 튜닝된 모델)이 해당 공동체의 정치적 지향점을 내재화하고 적대적 서사에 저항할 것이라고 가정하지만, 이러한 가정은 아직 검증되지 않았다. 저자들은 지역적으로 미세 조정된 오픈 웨이트 모델들이—상업적 안전 계층이나 콘텐츠 모더레이션 없이 배포될 때—러시아의 디스인포메이션에 대한 회복력 있는 방어 기제로 작용하는지, 아니면 오히려 이를 증폭시키는지 조사한다. 핵심 문제는 모델이 훈련 코퍼스로부터 정치적 편향을 흡수하고 일반화하는 "이데올로기 전이(ideological transfer)"의 가능성이며, 질의(query) 자체의 언어가 모델 내의 잠재적이고 충돌하는 분포 영역을 활성화하는 "이데올로기적 스위치"로 기능할 수 있다는 가설이다.

연구 방법론
본 연구는 공통된 아키텍처 기반을 공유하는 네 가지 LLM에 대한 통제된 비교 감사를 수행한다: Gemma 3 (12B) (중립적 베이스 모델), Lapa (우크라이나 언어/문화적 맥락을 위해 미세 조정됨), Saiga (러시아 맥락을 위해 미세 조정됨), 그리고 MamayLM (우크라이나의 디지털 주권을 목표로 불가리아에서 개발된 변형 모델).

실험 설계는 다음과 같다:

• 자극(Stimuli): 다섯 가지 주제 클러스터에 걸친 10개의 논쟁적 서사 문장: 우크라이나의 국가 정체성/역사, 거버처/정당성(탈나치화 포함), 영토 보전(크림반도), 군사적 참사(부차/마리우폴), 그리고 문화적/언어적 권리.
• 프롬프트 아키타입(Prompt Archetypes): 서로 다른 인지 계층을 탐색하기 위해 두 가지 구별된 형식을 사용하였다:
  1. 전문가/분석형(Expert/Analytical): 모델이 중립적인 역사학자로서 역할을 수행하며 논거를 추출하고 순위를 매기도록 요구하는 구조화된 프롬프트로, "생각의 사슬(Chain-of-Thought)" 추론 과정을 강제한다.
  2. 단순/대화형(Lame/Conversational): 표면적인 정보를 찾는 빠른 응답형 사용자를 시뮬레이션한 비구조적이고 구어적인 프롬프트.
• 언어적 조건: 모든 프롬프트는 영어, 우크라이나어, 러시아어 세 가지 언어로 실시되었다.
• 측정: 모델은 "입장 A"(사실적이고 국제적으로 인정받는 역사적 입장)와 "입장 B"(러시아의 디스인포메이션 서사)에 대해 명시적인 확률 백분율을 할당하도록 강제되었다.
• 구성: 모든 실험은 그리디 디코딩(greedy decoding, 온도, top-p 및 빈도 페널티를 0으로 설정)을 사용하였으며, 안전 정렬을 우회하여 가공되지 않은 모델의 경향성을 드러내기 위해 시스템 프롬프트를 배제하였다. 각 질의는 결정론적 안정성을 확보하기 위해 5회 반복되었다.

주요 결과
본 연구는 문화적 정렬이 정치적 회복력을 보장한다는 가정을 체계적으로 반박하는 **"미세 조정의 역설(Fine-Tuning Paradox)"**을 식별하였다:

1. 역설적 편향(Counter-Intuitive Drift): 우크라이나 지향 모델(Lapa)은 특히 러시아어로 질의되었을 때 러시아 디스인포메이션에 대해 가장 약한 저항력을 보였다. 러시아 전문가 조건에서 Lapa의 사실적 입장에 대한 평균 확률은 50.5%로 떨어졌으며, 종종 디스인포메이션 서사인 입장 B에 과반의 확률을 할당했다. 반대로, 러시아 지향 모델(Saiga)은 러시아 디스인포메이션을 가장 강력하게 거부하며, 사실적 정확성 측면에서 베이스 모델과 우크라이나 변형 모델보다 일관되게 우수한 성능을 보였다.
2. "숨겨진 에이전트(Hidden Agent)" 효과: 질의 언어는 방향성 스위치 역할을 한다. Lapa의 경우, 질의 언어를 영어에서 우크라이나어로, 다시 러시아어로 전환함에 따라 사실적 입장에서 점진적으로 멀어지는 드리프트 현상이 나타났다. 이는 러시아어로 질의할 때 모델이 견고한 반격 서사가 부족할 수 있는 베이스 모델의 러시아어 사전 학습 데이터로 회귀함을 시사한다. Saiga의 경우, 러시아어 질의는 풍부한 반선전(counter-propaganda) 코퍼스를 활성화하여 더 높은 사실적 점수로 이어졌다.
3. 프롬프트 구조의 변동성: 프롬프트 형식과 모델 행동 사이의 상호작용은 비선형적이었다. 어떤 경우(예: 러시아어 환경의 불가리아 변형 모델)에는 분석적 프롬프트에서 대화형 프롬프트로 전환할 때 편차 점수가 거의 90포인트까지 급변했다. 다른 경우(예: 러시아어 환경의 Gemma)에는 분석적 프롬프트가 대화형 프롬프트보다 낮은 사실적 점수를 기록했는데, 이는 구조화된 추론이 때때로 모델의 기저 지식 베이스로부터 논증적 내용을 분리할 수 있음을 나타낸다.
4. 주제별 회복력: 모든 주제가 동일한 수준의 드리프트에 취약한 것은 아니었다. 참사 부정(부차/마리우폴)과 크림반도 병합 관련 서사는 모든 모델에서 높은 안정성을 보였는데, 이는 학습 코퍼스 내 국제법 문서의 밀도가 높기 때문으로 보인다. 반면, 거버처 정당성("탈나치화") 및 국가 정체성("한 민족" 논리) 관련 서사는 가장 높은 변동성과 이데올로기적 드리프트 취약성을 보였다.

의의 및 주장
본 논문은 지역적 정보 주권에 대한 주요 위협이 반드시 적대적인 미세 조정 그 자체가 아니라, 문화적 정립이 회복력을 보장한다는 검증되지 않은 가정이라고 주장한다. 연구 결과는 다음을 시사한다:

• 코퍼스 구성 > 문화적 기원: (예: 러시아 담론 내의 반선전 문헌 존재 여부 vs 우크라이나 담론 내의 부재) 미세 조정 코퍼스의 구체적인 구성이 모델의 명목상 문화적 타겟보다 모델의 이데올로기적 출력에 더 결정적인 요소이다.
• 증폭기로서의 언어: 질의 언어는 단순히 정보를 검색하는 것이 아니라, 모델 내의 특정하고 종종 충돌하는 이데올로기적 분포를 활성화한다. 특정 공동체를 위해 튜닝된 모델이라 할지라도, 학습 데이터가 희박하거나 적대적 소스에 의해 지배되는 언어로 질의될 경우 해당 공동체의 서사를 방어하지 못할 수 있다.
• 거버넌스 함의: 본 연구는 문화적 기원만을 근거로 오픈 웨이트 모델을 논쟁적인 정보 환경에 안전하게 배치할 수 있다는 관념에 도전한다. 이는 "가드 없는(unguarded)" 모델이 명시적인 프로그래밍 때문이 아니라, 특정 언어와 프롬프트 조합에 의해 트리거된 학습 데이터 내의 잠재적 편향을 통해 국가 주도 디스인포메이션의 통로로 의도치 않게 활용될 수 있음을 강조한다.

저자들은 정보 환경을 보호하기 위해서는 문화적 정렬이라는 가정을 넘어, 특히 고위험 지정학적 서사에 대해 밀도 있고 다각적인 사실적 문서를 확보할 수 있도록 학습 데이터의 엄격한 큐레이션에 집중해야 한다고 결론짓는다.