Predicting, Evaluating, and Explaining Top Misinformation Spreaders via Archetypal User Behavior
이 논문은 세 가지 뚜렷한 사용자 유형(증폭자, 슈퍼 스프레더, 조직적 계정)을 모델링함으로써 상위 오정보 확산자를 예측, 평가 및 설명하기 위한 프레임워크를 제안하며, 슈퍼 스프레더의 특성이 상위 순위를 지배하는 동시에 시계열 역동성과 설명 가능한 AI가 선제적 콘텐츠 모더레이션을 위한 예측 정확도와 해석 가능성을 향상시킨다는 점을 입증한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
소셜 미디어에서 정보는 생각의 속도로 이동하지만, 그 정보를 공유하는 모든 사람이 동일한 역할을 수행하는 것은 아닙. 어떤 이들은 독창적인 이야기를 만들어내는 반면, 다른 이들은 단순히 그것을 전달할 뿐이며, 또 다른 이들은 메시지가 최대한 많은 눈에 닿을 수 있도록 함께 협력합니다. 가짜 정보가 확산될 때, 그것은 결코 한 개인의 잘못이 아닙니다. 대신, 서로 다른 유형의 사용자들이 서사를 증폭시키고, 조율하며, 실행하는 복잡한 행동의 그물망의 결과입니다. 이러한 사람들이 누구인지, 그리고 어떻게 움직이는지를 이해하는 것은 매우 중요한데, 왜냐하면 가짜 이야기는 여론을 왜곡하고, 과학에 대한 신뢰를 무너뜨리며, 현실 세계에 실질적인 해를 끼칠 수 있기 때문입니다. 플랫폼이 직면한 과제는 가짜 이야기가 신고되어 삭제될 때쯤에는 이미 너무 멀리 퍼져버려 막을 수 없는 경우가 많다는 점입니다. 정보가 탄력을 받기 전에 확산을 막기 위해서, 연구자들은 사용자의 의도를 추측하는 것이 아니라, 그들이 실제로 어떻게 행동하는지를 관찰함으로써 피해를 입힐 가능성이 가장 높은 특정 계정을 식별할 방법을 찾아야 합니다.
연구팀은 저신뢰도 콘텐츠를 퍼뜨리는 사용자들의 디지털 발자국을 조사함으로써 이 문제를 해결하고자 했습니다. 그들은 이러한 사용자들이 따르는 세 가지 뚜렷한 행동 패턴, 즉 '아키타입(archetypes)'에 주목했습니다. 첫 번째 그룹인 '증폭자(amplifiers)'는 스스로 게시물을 거의 만들지 않습니다. 대신, 그들은 타인이 만든 콘텐츠를 끊임없이 재공유하여 도달 범위를 넓히는 확성기 역할을 합니다. 두 번째 그룹인 '슈퍼 스패너(super-spreaders)'는 바이럴 콘텐츠의 원천 제작자들입니다. 이들은 수천 번의 공유를 지속적으로 이끌어내는 게시물을 작성하며, 불을 지피는 불씨 역할을 합니다. 세 번째 그룹은 '조직적 계정(coordinated accounts)'으로 구성되며, 이들은 동일한 메시지를 동시에 밀어붙이기 위해 동기화되어 움직이는 사용자 집단으로, 광범ful한 대중적 합의가 이루어지고 있다는 착각을 불러일으킵니다. 연구자들은 이러한 역할들이 항상 분리되어 있는 것은 아니라는 점을 깨달았습니다. 한 명의 사용자가 어떤 이야기에는 슈퍼 스패너로 활동하고 다른 이야기에는 증폭가로 활동할 수도 있으며, 혹은 한 집단이 하나의 영향력 있는 목소리를 흉내 내기 위해 그들의 행동을 조율할 수도 있습니다.
누가 다음에 오정보를 퍼뜨릴지 얼마나 잘 예측할 수 있는지 테스트하기 위해, 연구자들은 팬데-믹 기간 동안 트위터에서 수집된 두 개의 방대한 데이터 세트를 분석했습니다. 한 데이터 세트는 이탈리아의 대화를 포함하고 있었고, 다른 하나는 여러 언어로 된 전 세계의 게시물을 모은 것이었습니다. 그들은 먼저 뉴스 도메인을 0에서 100까지 등급을 매기는 시스템을 사용하여, 게시물에 링크된 웹사이트의 신뢰도를 바탕으로 콘텐츠를 분류했습니다. 그런 다음, 세 가지 행동 아키타입을 기준으로 사용자를 순위 매기는 다양한 수학적 모델을 구축했습니다. 어떤 모델은 사용자가 가짜 이야기를 재공유한 횟수를 계산했고, 다른 모델은 사용자가 이야지가 게시된 후 얼마나 빨리 공유했는지, 또는 사용자의 활동이 조직적인 그룹의 활동과 얼마나 밀접하게 일치하는지를 살펴보았습니다. 또한, 사용자의 활동을 단일 시점의 스냅샷으로만 보는 것이 아니라, 며칠 또는 몇 주에 걸쳐 사용자의 활동이 어떻게 변하는지를 반영하는, 시간 민감형 버전의 고전적 영향력 점수를 만들었습니다.
결과는 가장 큰 문제를 일으키는 사람들을 찾는 데 있어 가장 효과적인 방법은 '슈퍼 스패너'를 찾는 것임을 보여주었습니다. 연구자들이 타인이 재공 공유할 수 있는 독창적인 콘텐츠를 생성하는 능력을 기준으로 사용자의 순위를 매겼을 때, 이 계정들은 일관되게 최상위 목록에 등장했습니다. 이들은 가짜 서사가 자리 잡을 수 있도록 초기 바이럴 폭발을 일으키는 책임이 있는 개인들입니다. 그러나 연구자들이 영향력 있는 사용자들의 목록을 더 아래로 내려다보았을 때, 상황은 더 복잡해졌습니다. 중간 및 하위 순위에서는 증폭자와 조직적 그룹의 행동이 훨씬 더 두드러지게 나타났습니다. 이는 소수의 슈퍼 스패너가 불을 지피기 시작한다면, 증폭자들은 그 불이 계속 타오르게 유지하고, 조직적 그룹은 네트워크 전체로 불길을 부채질한다는 것을 시사합니다.
이러한 다양한 행동이 어떻게 함께 작용하는지 더 명확한 그림을 얻기 위해, 연구팀은 세 가지 아키타입을 하나의 시스템으로 결합한 머신러닝 모델을 훈련시켰습니다. 그 후, 모델이 결정을 내리는 방식을 설명하는 기법을 사용하여 어떤 행동이 가장 중요한지를 확인했습니다. 그들은 모델이 저신credibility 콘텐츠를 재공유한 횟수에 크게 의존한다는 것을 발견했는데, 이는 증폭자와 관련된 특성입니다. 이는 우리가 바이럴 콘텐츠를 만드는 창작자들이 가장 중요한 신호일 것이라고 예상할 수도 있다는 점에서 놀라운 결과였습니다. 대신, 데이터는 재공유 행위 자체가 강력한 위험 지표임을 보여주었습니다. 또한 모델은 일관된 참여를 생성하는 능력으로 식별된 슈퍼 스패너들이, 특히 최상위 순위 사용자들 사이에서 매우 중요하다는 점을 확인했습니다. 순위가 내려감에 따라 조직적 행동과 재공 공유 빈도의 영향력이 강해졌으며, 이는 서로 다른 유형의 행위자들이 동일한 문제 속에서 각기 다른 역할을 수행하는 계층적 생태계를 드러냈습니다.
연구팀은 또한 새로운 이야기가 등장한 직후 플랫폼이 빠르게 결정을 내려야 하는 시나리오를 시뮬레이션하여, 데이터가 매우 적은 상황에서도 이 방법들이 얼마나 잘 작동하는지 테스트했습니다. 그 결과, 시간 민감형 영향력 점수는 제한된 정보가 있는 상황에서도 안정적이고 정확하게 유지되었으며, 사용자 활동의 타이밍을 고려하지 않은 기존 방식보다 우수한 성능을 보였습니다. 반면, 머신러닝 모델은 매우 적은 양의 데이터로 훈련되었을 때 어려움을 겪었는데, 이는 복잡한 모델이 강력하긴 하지만 패턴을 학습하기 위해서는 충분한 이력이 필요함을 시사합니다. 연구자들은 플랫폼을 위한 최선의 접근 방식은 아마도 이러한 도구들의 조합이 될 것이라고 결론지었습니다. 즉, 단순하고 시간 인지적인 점수를 사용하여 가장 위험한 계정을 빠르게 식별하고, 더 상세한 모델을 사용하여 오정보의 확산을 지속시키는 다양한 행동의 범위를 이해하는 것입니다. 사용자의 의도를 추측하는 대신 이러한 관찰 가능한 패턴에 집중함으로써, 플랫폼은 가짜 정보가 통제 불가능해지기 전에 가장 많은 해를 끼치는 특정 계정을 겨냥하여 더 일찍 개입할 수 있습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.