기술 요약: AI 매개 커뮤니케이션은 집단적 의견을 주도할 수 있다

문제 제기

생성형 인공지능 (AI), 특히 대규모 언어 모델 (LLM) 은 인간 간 커뮤니케이션을 매개하기 위해 온라인 플랫폼에 점점 더 통합되고 있다. LinkedIn 의 '내 게시물 개선하기'나 X 의 '이 게시물 설명하기'와 같은 기능은 사용자가 생성한 콘텐츠를 수정하거나 이에 대한 맥락을 제공한다. 이전 연구들은 LLM 이 인간-AI 간 직접 상호작용 중 편향된 의견을 표현하고 개인에게 영향을 미칠 수 있음을 입증했으나, AI 가 인간 간 매개자 역할을 할 때 이러한 편향이 집단적 의견 형성에 어떤 영향을 미치는지에 대한 이해에는 상당한 공백이 존재한다. 본 연구가 다루는 핵심 질문은 다음과 같다: 인간 간 커뮤니케이션에서 AI 시스템이 도입한 편향이 사회적 네트워크를 통해 어떻게 전파되어 인구 집단의 집단적 의견을 변화시키는가?

방법론

저자들은 실증 분석, 이론적 모델링, 플랫폼 감사를 결합한 삼위일체 방법론을 사용했다.

1. 방향성 편향의 실증 분석

본 연구는 논쟁적 주제에 대한 소셜 미디어 게시물을 편집하거나 작성할 때 LLM 이 방향성 편향을 도입하는지 조사했다.

• 데이터셋: 저자들은 낙태, 총기 규제, 무신론과 같은 이슈를 다루는 8 가지 주제를 포함한 UKP 문장형 논증 마이닝 코퍼스 (UKP Sentential Argument Mining Corpus) 와 6 가지 주제를 포함한 SemEval-2016 태스크 6 데이터셋을 활용했다.
• 모델: Llama-3.1-8B-Instruct, Ministral-3-8B-Instruct-2512, gemma-3-12b-it, Qwen3-8B 등 네 가지 오픈 가중치 LLM 계열이 테스트되었다.
• 작업: 두 가지 시나리오가 시뮬레이션되었다: (i) 논증으로부터 게시물 작성 (논증 $\to$ 게시물) 및 (ii) 기존 초안 개선 (게시물 $\to$ 게시물).
• 측정: 의견은 5 개의 사전 훈련된 텍스트 임베딩 모델 기반 앙상블 분류기를 사용하여 $[0, 1]$의 연속 척도 (0=반대, 1=찬성) 로 정량화되었다. 편향은 원래 인간 의견 ($x$) 과 변환된 LLM 의견 ($y$) 사이의 차이 ($\beta = y - x$) 로 측정되었다.

2. 의견 역학의 이론적 모델링

편향의 전파를 분석하기 위해 저자들은 고전적인 Friedkin-Johnsen 의견 역학 모델을 확장했다.

• 모델 구조: 사회적 네트워크는 개인이 선천적 신념과 이웃의 지각된 의견을 기반으로 의견을 업데이트하는 가중치 그래프로 모델링된다.
• AI 변환: AI 매개를 나타내는 함수 $f$가 도입되었다. 이웃 $j$의 지각된 의견은 그들의 표현된 의견 $x_j$에서 $y_j = f(x_j)$로 변환된다.
• 선형 분석: 저자들은 먼저 선형 변환 $f_{lin}(x) = mx + b$를 분석했다. 그들은 균형 상태에 대한 폐쇄형 표현식을 유도하고 시스템이 고유한 균형으로 수렴함을 증명했다.
• 핵심 통찰: 이 모델은 AI 를 지속적인 중립점 $\nu$를 가진 '보이지 않는 이웃'으로 간주한다. 저자들은 인구 집단의 평균 의견이 균형 상태에서 이동하는 정도가 개인 입력에 도입된 AI 의 초기 '일회성' 편향을 엄격히 초과하는 조건을 유도했다.

3. 시뮬레이션 및 플랫폼 감사

• 시뮬레이션: 저자들은 SNAP 저장소 (Twitter, Facebook, Google+) 의 실제 소셜 네트워크 데이터를 사용하여 100 시간 단계에 걸쳐 의견 역학을 시뮬레이션했다. 그들은 실증 결과에서 추정된 비선형 AI 변환 (Nadaraya–Watson 커널 회귀 사용) 을 사용자 일부 ('AI 수용자') 에 적용했다.
• 플랫폼 감사: 저자들은 Grok 모델을 사용하는 X 의 '이 게시물 설명하기' 기능을 감사했다. 그들은 78 개의 낙태 관련 게시물 (낙태 찬성 39 개, 낙태 반대 39 개) 을 분석하여 AI 생성 맥락이 특정 입장과 일치하는지 확인했다. 그들은 관찰된 편향의 원인을 식별하기 위해 X 의 네 가지 프롬프트 가이드라인을 체계적으로 제거 (ablation) 했다.

주요 결과

1. LLM 의 체계적 방향성 편향

실증 결과는 LLM 이 원래 의미를 보존하도록 지시받았음에도 불구하고 인간 텍스트를 편집할 때 체계적으로 방향성 편향을 도입함을 보여준다.

• 크기와 방향: 대부분의 모델 (Llama, Ministral, gemma) 은 낙태, 총기 규제, 페미니즘, 기후 변화 등 대부분의 주제에서 '찬성' 입장을 향한 통계적으로 유의미한 편향을 도입했다.
• 예외: 무신론 주제에서는 모델들이 종종 직접 질문을 받았을 때 긍정적인 의견을 표현함에도 불구하고 '찬성' 입장을 향한 편향을 도입하는 경향이 있었다. 이는 직접적인 LLM 의견을 측정하는 벤치마크가 매개 과정에서 도입되는 편향을 포착하기에 부족함을 시사한다.
• 상관관계: LLM 의 직접적 표현 의견과 그것이 도입하는 편향 사이에 중간 정도의 양의 상관관계가 있어, 모델의 고유한 훈련 데이터가 편집 능력에 '누출'됨을 시사한다.

2. 사회적 네트워크에서의 편향 증폭

이론적 및 시뮬레이션 결과는 AI 매개 편향이 단순히 가산적인 것이 아니라 네트워크를 통해 증폭됨을 확인시켜 준다.

• 균형 이동: 선형 모델에서 인구 집단의 평균 의견이 균형 상태에서 이동하는 정도는 AI 가 도입한 평균 일회성 편향보다 훨씬 클 수 있다.
• 시뮬레이션 결과: Twitter 네트워크를 사용한 시뮬레이션에서 장기 평균 의견 이동은 개인 선천적 의견에 도입된 평균 편향보다 최대 9.2 배 더 컸다. 증폭 효과는 사용자 집단의 선천적 의견이 균형을 이루지만 고집이 적고 (영향을 받기 쉬운) 경우에 가장 강력하게 나타났다.

3. X 의 설계로 인한 편향

X 의 '이 게시물 설명하기' 기능에 대한 감사는 낙태 관련 Grok 의 출력에서 방향성 편향을 드러냈다.

• 비대칭성: Grok 은 낙태 찬성 게시물을 설명할 때 낙태 찬성 맥락을 생성하는 것보다 낙태 반대 게시물을 설명할 때 낙태 반대 입장을 지지하는 맥락을 생성할 가능성이 훨씬 더 높았다.
• 근본 원인: 프롬프트 가이드라인을 제거 테스트하여 저자들은 "필요하다면 주류 서사에 도전하되 객관성을 유지하며 진실하고 근거 있는 통찰을 제공한다"는 특정 가이드라인이 이 낙태 반대 편향의 주된 동력임을 확인했다. 이 가이드라인을 제거하면 통계적으로 유의미한 편향이 사라졌다.

중요성 및 주장

본 논문은 AI 매개 커뮤니케이션이 집단적 의견에 영향을 미치는 새로운且 강력한 레버리지이며, 현재의 규제 체계가 이를 해결하지 못할 수 있다고 주장한다.

• 증폭 메커니즘: 핵심 이론적 기여는 AI 가 도입한 작고 개인 수준의 편향이 사회적 네트워크를 통해 누적 및 전파되어 초기 편향 크기보다 훨씬 큰 규모의 집단적 의견 변화를 초래한다는 것을 입증한 것이다.
• 설계 책임: X 에 대한 감사는 이러한 편향이 모델 훈련의 불가피한 산물이 아니라 특정 플랫폼 설계 선택 (프롬프트 엔지니어링) 으로 직접 추적될 수 있음을 보여준다. 이는 플랫폼이 인터페이스 설계를 통해 의견 형성을 주도할 수 있는 권한을 가지고 있음을 시사한다.
• 규제 공백: 저자들은 기존 EU 입법, 특히 AI 법 (AIA) 과 디지털 서비스 법 (DSA) 이 이러한 위험을 완화하기에 부족할 수 있다고 주장한다.
  • 선거 영향에 대한 AIA 의 '고위험' 분류는 AI 의 명시적 목표가 투표에 영향을 미치는 것이 아니라 하더라도 그 효과가 의견 변화를 초래하는 경우 적용되지 않을 수 있다.
  • DSA 의 허위 정보나 인권 침해에 관한 체계적 위험 정의는 사실적으로 거짓이 아니지만 방향적으로 치우친 '편향된 출력'을 포착하지 못할 수 있다.
• 더 넓은 함의: 저자들은 언론인, 전문가, 대중이 점점 더 정보를 작성, 정제, 또는 맥락화하기 위해 AI 에 의존하게 된다면, 이러한 시스템이 사람들이 읽고 쓰는 텍스트를 조용히 형성하여 집단적 지식과 민주적 담론의 다양성을 훼손할 수 있다고 경고한다.

본 논문은 AI 매개와 투표 행동 간의 인과 관계에 대한 추가 연구와 정책 입안자들이 미래 규제 수립 시 의견 형성에 대한 AI 의 미묘하고 누적적인 효과를 고려할 것을 촉구하며 결론을 맺는다.