Strategies for preventing and reversing polarized online discourse

기술 요약: 온라인 담론의 양극화 방지 및 역전 전략

문제 제기
정치적 양극화는 현대 민주주의에 중대한 도전 과제를 제기하며, 사회적 결속과 제도적 지지를 위협한다. 이러한 현상을 설명하기 위해 수학적 및 계산적 의견 역학 모델이 확산되어 왔으나, 이들은 종종 사회과학의 실증적 이해와 단절된 단순화된 가설에 의존한다. 전통적인 모델은 대리인(agent)을 단일하고 안정적인 태도를 지니며, 기억 없이 작동하고, 고정된 집단 구성원이나 정적인 의견 거리에 기반하여 상호작용하는 존재로 취급한다. 이러한 단순화는 정체성이 유동적이고 맥락 의존적이며 역동적인 상호작용을 통해 구축되는 현대 소셜 미디어 환경의 복잡성을 포착하지 못한다. 저자들은 현실적인 플랫폼 수준의 개입이 극단적 양극화를 방지하거나 역전시킬 수 있는 능력을 평가하기 위해, 보다 심리학적으로 현실적인 모델의 필요성을 제기한다.

방법론
저자들은 온라인 담론을 시뮬레이션하기 위해 사회 심리학에 근거한 계산적 에이전트 기반 모델을 개발한다. 이 모델은 다음과 같은 몇 가지 핵심적인 심리학적 확장을 통해 표준적인 의견 역학 프레임워크에서 벗어난다:

1. 다차원적 정체성: 단일한 내부 상태를 가진 모델과 달리, 대리인은 여러 개의 "자기 양상(self-aspects)"(정체성 차원, $D$)을 보유한다. 대리인은 어떤 정체성 차원이 활성화되느냐에 따라 동일한 주제에 대해 서로 다른 태도를 가질 수 있다(예: "부모"로서의 태도 vs "페미니스트"로서의 태도).
2. 제한된 기억과 맥락 민감성: 대리인은 자신이 표출한 태도에 대한 기억(자기 기억)과 타인의 태도에 대한 기억(타인 기억)을 벡터 형태로 유지한다. 내집단 및 외집단 할당은 고정되지 않으며, 각 단계에서 대리인의 현재 태도와 최근 기억에 담긴 태도 사이의 평균 거리에 따라 동적으로 결정된다. 이는 특정 맥락 내에서 집단 간 차이와 집단 내 차이의 비율을 통해 집단 경계가 출현하는 자기 범주화 이론의 *메타 대비 원리(meta-contrast principle)*를 구현한다.
3. 효용 기반 태도 업데이트: 대리인은 다음 세 가지 힘의 균형을 맞추는 효용 함수를 극대화하기 위해 태도를 업데이트한다:
   • 자기 일관성: 자신의 최근 표출된 태도와의 일치.
   • 내집단 인력(In-group pull): 동적으로 할당된 내집단의 평균 태도에 순응.
   • 외집단 반발(Out-group push): 외집단과 차별화.
     업데이트는 노이즈가 섞인 근시적 학습(myopic learning)을 통해 발생하며, 대리인은 기대 효용을 높이는 섭동(perturbation)을 확률적으로 수용한다.
4. 오번 윈도우(Overton Windows): 모델은 두 가지 규범적 제약을 포함한다:
   • 연성 오번 윈도우(Soft Overton Window): 인구 전체의 집단적 태도에 기반한 동적 범위로, 이 범위를 벗어난 견해를 표출하면 효용 비용($c_S$)이 발생하며, 이는 커뮤니티의 집행(예: 다운보팅)을 시뮬레이션한다.
   • 경성 오번 윈도우(Hard Overton window): 플랫폼 규칙에 의해 정의된 고정된 범위로, 이 범위를 벗어난 견해를 표출하면 더 높은 효용 비용($c_H$)이 발생하며, 이는 플랫폼의 중재(예: 게시물 삭제)를 시뮬레이션한다.
5. 담론 구조: 시뮬레이션은 X(구 트위터)나 레딧(Reddit)과 같은 플랫폼의 스레드 형태의 대화를 모사한다. 대리인은 보이지 않은 게시물에 답글을 달지 여부를 결정하며(스레드 깊이가 깊어질수록 확률 감소), "주의 편향(attention bias)" 매개변수($\alpha$)에 따라 특정 주제로 논의가 쏠리는 것을 조절하며 새로운 스레드를 시작한다.

주요 기여
본 논문은 복잡한 정체성 구조, 시간적 기억, 그리고 동적 집단 형성을 통합한 계산적 프레임워크를 기여한다. 또한 담론의 결과를 세 가지 상태로 체계적으로 분류한다:

1. 합의(Consensus): 경성 오번 윈도우 내로 제한된 비양극화된 담론.
2. 제한적 양극화(Constrained Polarization): 경성 오번 윈도우 내에 머무는 뚜렷한 태도 클러스터들.
3. 폭주하는 양극화(Runaway Polarization): 경성 오번 윈도우를 벗어나는 뚜렷한 클러스터들로, 플랫폼 규범을 위반하는 극단적 발언을 나타낸다.

저자들은 이 모델을 사용하여 플랫폼 수준에서 시행되는 네 가지 구체적인 개입을 시뮬레이션하고 평가한다:

1. 비용 인상(Cost Hike): 경성 오번 윈도우를 위반하는 것에 대한 처벌($c_H$)을 높임.
2. 윈도우 최적화(Window Optimization): 합의를 극대화하기 위해 경성 오번 윈도우의 폭을 조정함.
3. 주의 균형(Attention Balance): 주의 편향($\alpha$)을 0으로 설정하여 덜 논의되는 주제를 증폭시킴.
4. 온건한 엘리트(Moderate Elites): 비양극화된 담론을 모델링하는 영향력 있는 목소리를 증폭시켜, 중심부를 향한 "내집단 인력"을 효과적으로 높임.

결과
시뮬레이션 결과는 양극화의 방지와 역전에 관한 뚜렷한 역학을 보여준다:

• 방지: 규범 위반 비용을 높이는 개입(Cost Hike), 주제 간 주의를 분산시키는 개입(Attention Balance), 온건한 엘리트를 증폭시키는 개입은 광범위한 매개변수 범위에서 폭주하는 양극화를 방지하는 데 매우 효과적(80~100% 효능)이다. 반면, 오번 윈도우의 폭을 축소하여 "최적화"하려는 시도는 흔히 역효과를 일으켜, 폭주하는 양극화의 가능성을 크게 높인다.
• 역전: 일단 폭주하는 양극화가 발생하면 대부분의 개입은 실패한다. 오직 **비용 인상(Cost Hike)**과 온건한 엘리트(Moderate Elites) 개입만이 양극화를 역전시키는 데 효능을 보인다. 온건한 엘리트 개입은 테스트된 모든 매개변수 구성에서 양극화를 성공적으로 역전시키는 가장 강력한 방법인 반면, 비용 인상 개입은 정체성 차원의 수와 개입 시점에 민감하게 반응한다.
• 잠재적 극단주의(Latent Extremism): 중요한 발견은, 성공적인 개입이 표출된 양극화는 역전시킬 수 있지만, 종종 잠재적 극단주의를 초래한다는 점이다. 대리인은 오번 윈도우 내에 있는 다른 정체성 차원과 관련된 태도를 표출하도록 전환할 수 있지만, 억압된 정체성 차원에서의 극단적인 태도는 그대로 유지할 수 있다. 이러한 잠재적 극단주의는 양극화 발생 시점과 개입 사이의 시간 격차에 따라 선형적으로 증가한다.
• 정체성 복잡성: 정체성 차원($D$)을 늘리는 것은 본질적으로 양극화를 유발하지는 않지만, 비극단적인 견해를 표출할 수 있는 대안적 정체성 경로를 제공함으로써 특정 개입(특히 비용 인상)의 효능을 높인다.

의의 및 주장
저자들은 자신의 연구가 확고한 증거라기보다는 가설 생성 도구임을 강조하며, 결론이 자기 복잡성, 사회 정체성, 규범 지각에 관한 확립된 심리학적 이론에 근grounded 되어 있음을 명시한다.

본 논문은 허용되는 담론의 범위를 축소(오번 윈도우 축소)하는 것이 양극화 문제를 해결하기 위한 비효과적이고 잠재적으로 역효과를 낳는 전략이라고 주장한다. 대신, 효과적인 완화에는 다음이 필요하다고 제안한다:

1. 기존 규범의 집행: 플랫폼 규칙을 위반하는 비용을 높이는 것.
2. 주의 유도(Attention nudges): 사용자의 주의를 덜 논의되는 주제로 유도하는 것.
3. 엘리트의 행동 모델링: 온건한 태도를 표출하고 교차적인 호소력을 가진 영향력 있는 개인들을 증폭시키는 것.

그러나 저자들은 중요한 경고를 던진다. 이러한 개입들이 양극화의 표출을 방지하거나 역전시킬 수는 있지만, 근본적인 태도까지 제거하지는 못할 수 있다는 점이다. 잠재적 극단주의의 지속성은 성공적인 개입이 근본적인 분열을 해결하기보다, 단순히 양극화의 소재를 다른 정체성 차원으로 옮기는 것에 불과할 수 있음을 시사한다. 이 연구는 사회적 미디어 개입의 결과를 정확하게 예측하기 위해서는 개인을 맥락에 민다는 구조화된 정체성을 가진 행위자로 모델링해야 할 필요성을 강조한다.