💻 computer science

Examining hate speech infection in social media using range constraints in multidimensional data structures

본 논문은 셰이플릿(shapelet) 기반 시계열 분석을 다차원 데이터 구조 및 범위 제약 조건과 결합하여 소셜 미디어상의 혐오 표현 확산을 주도하는 시간적 창(temporal windows)과 사용자 연결 패턴을 정밀하게 식별함으로써, 더욱 효과적인 이벤트 탐지 및 완화를 가능하게 하는 방법론을 제안한다.

원저자: Eleanna Kafeza, Christos Makris, Gerasimos Rompolas, Georgios Mavris

게시일 2026-07-15

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Eleanna Kafeza, Christos Makris, Gerasimos Rompolas, Georgios Mavris

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

소셜 미디어를 모든 사람이 자신의 생각을 외치는 거대하고 북적이는 파티라고 상상해 보세요. 때때로 분위기가 험악해지면, 특정한 종류의 "독성 감염"(혐오 표현)이 퍼지기 시작합니다. 이 논문의 저자인 엘레아나 카페자(Eleanna Kafeza)와 그녀의 팀은 단순히 날아다니는 모든 나쁜 단어를 잡아내려 하는 대신, 정확히 언제 이 감염이 시작되는지, 그리고 누가 이를 퍼뜨리는지를 알아내고자 했습니다.

사용자의 타임라인을 단순한 게시물 목록이 아니라 하나의 심박수 모니터라고 생각해보세요. 팀은 단어 자체를 보는 대신, 모든 사용자의 정서적 강도를 그래프 위의 구불구불한 선으로 변환했습니다. 만약 어떤 사용자가 화가 나거나 혐오스러운 글을 올리고 있다면, 그들의 "심박수"는 부정적인 에너지와 함께 치솟게 됩니다.

탐정의 도구 상자: 셰이플릿(Shapelets)과 접미사 트리(Suffix Trees)
나쁜 행위자들을 찾아내기 위해 연구진은 **셰이플릿 분류(shapelet classification)**라는 영리한 기술을 사용했습니다. 진흙 묻은 발자국 더미 속에서 특정 지문을 찾는 것을 상상해 보세요. "셰이플릿"은 그 발자국이 누구의 것인지 증명하는 작고 독특한 조각과 같습니다. 이 경우, "지문"은 혐오 표현 사용자들에게서만 나타나는 특정한 정서적 급증 패턴입니다.

하지만 모든 발걸음을 일일이 모든 지문과 대조하는 것은 시간이 너무 오래 걸릴 것입니다. 그래서 팀은 **접미사 트리(Suffix Tree)**라는 매우 빠른 라이브러리를 구축했습니다. 이것은 모든 가능한 단어의 패턴이 즉각적으로 분류되어 있는 마법 같고 조직적인 서류 보관함과 같습니다. 도서관의 모든 책을 다 읽는 대신, 보관함에 "‘분노’로 시작하는 이야기가 어디 있나요?"라고 물으면 보관함이 바로 해당 선반을 가리키는 것과 같습니다. 이 방식은 그들의 검색을 믿을 수 없을 정도로 빠르게 만들어, 보통 오랜 시간이 걸리는 작업을 눈 깜짝할 사이에 이루어지게 했습니다.

두 단계 필터: 시간과 영향력
패턴을 찾는 것은 첫 번째 단계였습니다. 진짜 마법은 두 명의 출입 통제 요원이 신분증 두 개를 확인하는 것처럼 두 가지 추가 필터를 더했을 때 일어났습니다: 바로 시간과 영향력입니다.

시간 창(The Time Window): 팀은 혐오 표현이 뉴스 사건이 터지는 것과 같은 특정 사건 직후에 폭발적으로 증가한다는 사실을 깨달았습니다. 그들은 단순히 나쁜 패턴을 찾는 데 그치지 않고, "이 패턴이 지금 바로 발생했는가?"를 물었습니다. 특정 시간 창(예: 13시간 창)으로 범위를 좁힘으로써, 그들은 "감염"이 정확히 언제 퍼지기 시작했는지 짚어낼 수 있었습니다.
영향력 체크(The Influence Check): 그들은 또한 사용자가 얼마나 "유명"하거나 "연결되어" 있는지도 확인했습니다. 그들은 흥미로운 사실을 발견했습니다: 혐오 표현은 항상 거물급 유명인으로부터 오는 것이 아니었습니다. 사실, 그들은 영향력이 큰 사용자들이 빠르게 차단된다고 의심했으며, 실제로 감염은 일반적이고 연결성이 낮은 사용자들을 통해 퍼지는 경우가 많다고 보았습니다. 그들은 **2차원 범위 트리(2D Range Tree)**라는 수학적 도구를 사용하여 사용자의 게시물이 적절한 시간에 발생했는지, 그리고 그들의 영향력 수준이 특정 범위에 부합하는지를 확인했습니다.

숫자가 말해주는 것
팀은 한 달 동안(2022년 2월 1일부터 2022년 3월 1일까지) 수집된 방대한 트윗 데이터셋을 통해 실험을 진행했습니다. 그들은 혐오 표현을 게시한 3,912명의 사용자를 조사했으며, 이를 7,824명의 서로 다른 사용자로부터 나온 46,557개의 트윗 데이터셋과 균형을 맞추었습니다.

실험을 실행했을 때, 결과는 유망했지만 설정된 환경에 국한되었습니다:

정확도(Accuracy): 그들의 최적의 설정은 평균 정확도 0.72, 평균 F1-스코어 0.84로 올바른 혐오 표현 사용자를 찾아냈습니다.
속도(Speed): 그들의 새로운 방식은 기존의 "단순한(naive)" 방식보다 압도적으로 빨랐습니다. 기존 방식이 작은 테스트에서 약 0.12 × 10⁻² 초가 걸린 반면, 그들의 새로운 방식은 2.15 × 10⁻⁶ 초 만에 수행되었습니다. 데이터가 23,800개로 늘어났을 때도, 기존 방식은 크게 느려진 반면 그들의 방식은 여전히 빨랐습니다(약 2.97 × 10⁻⁶ 초).
최적의 지점(The Sweet Spot): 그들은 혐오 표현의 감염이 특정 시간 창 [0, 13](시간)과 영향력의 [0, 17.5] 백분위수 내의 사용자들 사이에서 가장 뚜렷하게 나타난다는 것을 발견했습니다. 이는 감염이 반드시 가장 유명한 사람들이 아니라, 특정 위기 상황 동안 매우 활동적인 소규모 그룹으로부터 시작될 수 있음을 시사합니다.

그들이 주장하지 않는 것
이 논문이 말하지 않는 부분도 유념해야 합니다. 저자들은 자신들이 혐오 표현을 영원히 "해결"했다고 주장하는 것이 아님을 분명히 밝히고 있습니다. 그들은 단순한 단어 목록에만 의존하거나 맥락 없이 텍_스트만 보는 것에 반대한다고 명시적으로 주장합니다. 또한 그들의 방법론은 필터링을 위한 특정 조건(예: 알려진 사건 시간)이 있을 때 가장 잘 작동하며, 아무런 추가 데이터 없이 진공 상태에서 혐오 표현을 찾아내는 마법 지팡이는 아니라는 점을 언급했습니다.

큰 그림
감정적 혼란을 조직화된 데이터의 형태로 바꾸고, 이를 찾는 매우 빠른 라이브러리를 사용함으로써, 저자들은 우리가 혐오 표현의 "감염"을 훨씬 더 정밀하게 포착할 수 있음을 보여주었습니다. 그들은 분노가 치솟는 시기와 누가 이를 퍼뜨리는지(누구)를 살펴봄으로써, 이전보다 훨씬 빠르게 문제의 근원을 식별할 수 있다는 것을 발견했습니다. 비록 이 방법이 소셜 미디어 플랫폼이 즉각적인 조치를 취하는 데 도움이 될 수 있다고 제안하지만, 그들은 이를 최종적인 해결책이 아닌, 도구 상자에 들어갈 강력한 새로운 도구로 제시합니다. 목표는 숲 전체가 불타버리기 전에 불씨를 발견하는 것입니다.

기술 요약: 다차원 데이터 구조 내 범위 제약 조건을 이용한 소셜 미디어 내 혐오 표현 감염 조사

문제 정의
본 논문은 트위터와 같은 소셜 미디어 플랫폼에서 혐오 표현의 "감염"을 탐지하고 분석하는 과제를 다룹로다. 저자들은 혐오 표현이 단순히 개별 게시물의 정적인 분류 문제가 아니라, 정서적으로 강렬한 사건에 의해 유발되고 특정 사용자 네트워크를 통해 전파되는 동적인 현상이라고 주장합니다. 기존 문헌은 종종 혐오 메시지를 고립된 상태로 분류하거나, 효과적이긴 하지만 해석하기 어렵고 데이터에 과적합될 수 있는 딥러닝 모델(예: BERT)에 의존하는 경os가 있습니다. 또한, 전통적인 접근 방식은 사건의 시간적 창(temporal window)과 관련된 차원 및 연루된 사용자의 사회적 영향력과 같은 핵심적인 차원을 통합하는 데 실패하는 경우가 많습니다. 핵심 문제는 단순히 누가 혐오 표현을 게시하는가가 아니라, 즉각적인 완화를 촉진하기 위해 언제 그리고 어떤 네트워크 조건(예: 영향력 수준) 하에서 이러한 행동이 발생하는지를 식별하는 것입니다.

방법론
제안된 방법론은 혐오 표현 탐지를 시계열 분석을 통해 사용자 행동을 모델링하고 패턴 매칭 및 범위 쿼리에 효율적인 데이터 구조를 활용하는 통합된 "감염" 문제로 취급합니다.

감정의 시계열 모델링:
- 사용자 행동은 시간에 따른 부정적 감정의 강도를 나타내는 시계열로 모델링됩니다.
- **NRC-Canada 감정 강도 사전(NRC-EIL)**을 사용하여 부정적인 단어(분노, 혐오, 공포, 슬픔)를 식별하고 실수 형태의 강도 점수를 할당합니다.
- 각 사용자에 대해, 해당 시간 간격 동안의 게시물 내 부정적 단어 가중치의 합을 값으로 갖는 시계열이 구축됩니다.
- 철자 변형을 처리하기 위해 **레벤슈타인 거리(Levenshtein distance)**가 비유사성 지표로 채택됩니다.
기호적 변환 및 차원 축소:
- 연속적인 시계열은 **기호적 집계 근사(SAX)**를 사용하여 기호적 시계열로 변환됩니다.
- 이 과정은 z-정규화, 구간별 집계 근사(PAA)를 통한 시리즈 분할, 그리고 브레이크포인트를 기반으로 알파벳(예: $\Sigma = \{a, b, c, d, e\}$ )에 세그먼트를 매핑하는 과정을 포함합니다. 이는 감정 강도 곡선의 일반적인 형태를 보존하면서 차원을 축소합니다.
셰이플릿(Shapelet) 분류:
- 본 연구는 셰이플릿 기반 분류를 사용하며, 여기서 "셰이플릿"은 혐오 표현 사용자의 지문 역할을 하는 시계열의 판별 가능한 부분 시퀀스입니다.
- 유클리드 거리(기호 데이터에는 부적합) 대신, 저자들은 **알파벳 가중 편집 거리(Alphabet-weight Edit Distance)**를 사용합니다. 이 메트릭은 알파벳 상의 근접성을 바탕으로 문자 치환에 가중치를 부여하며, 이는 유사한 감정 강도가 서로 더 가깝다는 직관을 반영합니다.
- 모든 사용자의 기호적 시계열로부터 **일반 접미사 트리(Generalized Suffix Tree)**를 구축하여 이러한 셰이플릿의 효율적인 검색을 가능하게 합니다.
다차원 범위 제약 조건:
- 혐오 표현 사용자를 정교하게 식별하기 위해, 프레임워크는 시간과 사용자 영향력에 기반한 후처리 제약 조건을 도입합니다.
- 시간 제약: 시스템은 특정 시간 간격(예: 특정 이벤트 기간) 내에서의 셰이플릿 발생을 검색합니다.
- 영향력 제약: 사용자 영향력은 리트윗 그래프에서 도출된 **가중 차수 중심성(weighted degree centrality)**을 사용하여 정량화됩니다. 모델은 영향력이 큰 사용자는 빠르게 차단되는 경향이 있으므로, 영향력이 적은 개인 사용자들이 혐오 표현을 게시할 가능성이 더 높다는 가설을 세웁니다.
- 데이터 구조:
  - 1D 범위 쿼리를 효율적으로 처리하기 위해 오일러 투어 순회(Euler tour traversal)를 통해 균형 이진 트리(Balanced Binary Tree)가 접미사 트리와 통합됩니다.
  - 시간과 영향력에 대한 동시 쿼리를 처리하기 위해 2D 범위 트리(2D Range Tree)가 추가됩니다.
- 결과적으로 하이브리드 접근 방식이 도출됩니다: 셰이플릿 분류기가 잠재적 후보를 식별하면, 다차원 데이터 구조가 시간 및 영향력 제약 조건에 따라 이들을 필터링합니다.

주요 기여

시계열 표현: 본 논문은 혐오 표현 탐지를 위해 사용자의 소셜 미디어 존재감을 나타내는 기호적 시계열 사용을 도입합니다.
접미사 트리를 이용한 셰이플릿 분류: 기호적 시리즈를 위한 알파벳 가중 편집 거리를 활용하여, 셰이플릿 발견과 빠른 검색을 위한 일반 접미사 트리를 결합한 새로운 분류 방법을 제안합니다.
다차원 제약 프레임워크: 접미사 트리, 균형 이진 트리, 범위 트리를 사용하는 다차원 쿼리 검색을 통해 분류를 확장하는 프레임워크를 도입합니다. 이를 통해 시간 창과 네트워크 영향력 지표에 따라 사용자를 동시에 필터링할 수 있습니다.
해석 가능성: "블랙박스" 형태의 딥러닝 모델과 달리, 이 접근 방식은 해석 가능한 "지문"(셰이플릿)을 제공하며 혐오 표현 확산이 발생하는 특정 시간 창과 사용자 영향력 범위를 탐색할 수 있게 합니다.

실험 결과

데이터셋: 본 연구는 2022년 2월 "@CNN" 키워드가 포함된 트윗 데이터셋을 활용하였으며, 7,824명의 사용자로 구성된 46,557개의 균형 잡힌 트윗 세트를 얻었습니다.
베이스라인 비교: 제안된 모델은 단순 셰이플릿 분류기(NSC) 및 다양한 딥러닝 베이스라인(BERT-base-uncased, fBERT, HateBERT)과 비교되었습니다.
성능:
- 정확도: 최적의 설정(셰이플릿 길이 8, 셰이플릿 3개, 편집 거리 2)은 평균 정확도 0.72와 평균 F1-score 0.84를 달성했습니다.
- 확장성: 제안된 데이터 구조(SSC, SSCAB, SSCAR)는 데이터 크기가 증가함에 따라 단순한 방법들에 비해 현저히 낮은 실행 시간을 보여주었습니다. 예를 들어, 단순한 접근 방식은 데이터 크기에 따라 선형적으로 증가하는 반면, 접미사 트리 기반 접근 방식은 거의 상수 또는 로그 시간( $O(n + \log m + k)$ )의 쿼리 시간을 유지했습니다.
- 차원 분석: 실험을 통해 혐오 표현 확산이 특정 시간 창(예: [0, 13] 시간)과 낮은 영향력 백분위 사용자(0–17.5%)에 집중되어 있음을 확인하였으며, 이는 개인적이고 영향력이 적은 사용자들이 감염을 주도한다는 가설을 뒷받침합니다.
시각화: 식별된 혐오 표현 사용자에 대한 워드 클라우드 분석은 정치, 백신, 러시아-우크라이나 전쟁과 관련된 주제를 드러냈으며, 이는 모델이 맥락적으로 관련 있는 부정적 담론을 포착할 수 있음을 확인시켜 줍니다.

의의 및 주장
본 논문은 패턴 인식 능력인 셰이플릿 분류와 다차원 쿼리를 위한 고급 데이터 구조의 효율성을 결합한 하이브리드 접근 방식을 제공한다는 점에서 그 의의가 있다고 주장합니다.

효율성: 접미사 트리와 범위 트리의 사용은 복잡한 조건(시간 및 영향력)을 준수하는 혐오 표현 사용자를 신속하게 식별할 수 있게 하며, 이는 무차별 대입 방식(brute-force)보다 계산적으로 우월합니다.
실행 가능한 통찰력: 혐오 표현 "감염"과 관련된 특정 시간 창과 사용자 영향력 수준을 격리함으로써, 본 방법론은 광범적 콘텐츠 필터링에 의존하는 대신 소셜 미디어 운영자가 표적화된 완화 조치(예: 트리거가 된 사건과 관련된 특정 사용자 그룹 식별)를 취할 수 있도록 합니다.
해석 가능성: 이 접근 방식은 사용자가 왜 플래그(flag)되었는지(특정 셰이플릿 패턴을 통해)와 언제 해당 행동이 발생했는지를 이해할 수 있는 투명한 메커니즘을 제공하여, 딥러닝 모델의 "블랙박스" 한계를 해결합니다.
확장성: 본 프레임워크는 핵심 분류 로직을 근본적으로 변경하지 않고도 추가적인 차원(예: 다른 네트워크 지표 또는 콘텐츠 특징)을 쉽게 포함할 수 있도록 설계되었습니다.

저자들은 자신의 결과가 유망하다는 점을 인정하면서도, 이 접근 방식이 특정 파라미터 튜닝에 의존하며 향후 작업에서 공간 및 시간 성능을 더욱 최적화하기 위해 더 복잡한 인덱싱 구조(예: 속성 접미사 트리)를 탐구할 수 있음을 언급하며 겸허한 어조를 유지합니다.

유사한 논문