A Multi-Lingual Cyberbullying Detection and Blockchain-Integrated Privacy-Preserving Federated Learning Framework

기술 요약: 다국어 사이버 불링 탐지 및 블록체인 통합 프라이버시 보존 연합 학습 프레임워크

문제 정의
소셜 미디어의 급격한 확장은 특히 젊은 층에 영향을 미치고 심각한 심리적 결과를 초래하는 전 세계적인 사이버 불링 문제를 악화시켰습니다. 인공지능(AI)과 자연어 처리(NLP)가 탐지 능력을 향상시켰음에도 불구하고, 기존 시스템은 결정적인 한계에 직면해 있습니다. 현재 대부분의 접근 방식은 중앙 집중식 데이터 수집에 의존하며, 이는 사용자 프라이버시와 데이터 보안에 관한 중대한 취약점을 생성합니다. 또한, 다국어 및 코드 혼용 콘텐츠(특히 영어, 방글라어, 그리고 "방글리시(Banglish)")의 유행은 정확한 분류 및 일반화에 어려움을 초래합니다. 연합 학습(Federated Learning, FL)과 같은 기존의 분산형 솔루션은 모델 집계의 투명성과 무결성을 보장하는 강력한 메커니즘이 부족하여, 악의적인 변조에 취약하고 감사가 불충분한 경우가 많습니다.

방법론
저자들은 이러한 과제를 해결하기 위해 NLP, 딥러닝(DL), 연합 학습(FL), 그리고 블록체인 기술을 통합한 종합적인 프레임워크를 제안합니다. 이 시스템은 다음 단계들을 통해 작동합니다:

1. 데이터 수집 및 전처리:

   • 데이터셋: Facebook, Twitter, Instagram, YouTube에서 수집된 21,204개의 소셜 미디어 포스트 코퍼스(2023~2025년)를 사용했습니다. 데이터는 영어, 방글라어, 방글리시 텍스트를 포함하며, "불링(Bullying)"(58%) 또는 "비불링(Non-Bullying)"(42%)으로 라벨링되었습니다.
   • 전처리: 소셜 미디어 텍의 복잡성을 처리하기 위해, 본 프레임워크는 텍스트 정규화, 이모지 추출, 토큰화, 불용어 제거, 그리고 개인 식별 정보(PII) 마스킹을 채택합니다. 이는 모델 학습 전 데이터 품질과 프라이버시를 보장합니다.

2. 연합 학습(FL) 아키텍처:

   • 시스템은 원시 사용자 데이터가 로컬 클라이언트 장치에 머무르는 분산형 접근 방식을 활용합니다.
   • 로컬 학습: 클라이언트는 자신의 프라이빗 데이터셋을 사용하여 로컬 모델을 학습합니다.
   • 글로벌 집계: 업데이트된 모델 가중치(파라미터)만이 중앙 서버로 전송됩니다. 서버는 FedAvg 알고리즘을 사용하여 이러한 업데이트를 집계하여 최적화된 글로벌 모델을 생성하며, 이 모델은 추가 학습 라운드를 위해 다시 배포됩니다. 이를 통해 원시 사용자 데이터는 절대 교환되지 않습니다.

3. 블록체인 통합:

   • FL 프로세스를 보안하기 위해, 본 프레임워크는 블록체인 기술을 통합합니다.
   • 메커니즘: 시스템은 블록 무결성을 위한 SHA-256 해싱, 클라이언트 업데이트 인증을 위한 HMAC(Hash-based Message Authentication Code), 머클 루트(Merkle Root) 검증, 그리고 작업 증명(PoW) 합의 메커니즘을 사용합니다.
   • 기능: 이러한 암호화 기술은 모델 업데이트, 검증 정확도, 타임스탬프에 대한 불변적이고 투명한 원장을 생성하여, 변조를 방지하고 학습 과정의 감사 가능성을 보장합니다.

4. 모델 구현:

   • 본 프레임워크 내에서 네 가지 분류 모델이 구현 및 평가되었습니다:
     • 딥러닝: 양방향 장단기 메모리(BiLSTM) 및 장단기 메모리(LSTM).
     • 머신러닝: 랜덤 포레스트(Random Forest, RF) 및 익스트림 그래디언트 부스팅(XGBoost).

주요 기여
본 논문은 일곱 가지 주요 기여를 명시합니다:

• 다국어 프레임워크: 방글라, 영어, 방글리시 소셜 미디어 텍스트에 걸쳐 유해 콘텐츠를 분류하도록 설계된 시스템입니다.
• 프라이버시 보존: 원시 사용자 데이터를 공유할 필요 없이 데이터 기밀성을 유지하는 FL 아키텍처를 제공합니다.
• 블록체인 보안: SHA-256, HMAC, 머클 루트 및 PoW를 통합하여 변조 방지 및 투명한 모델 집계 프로세스를 제공합니다.
• 고급 전처리: 다국어 데이터에 맞춤화된 PII 마스킹 및 이모지 추출을 포함하는 강력한 파이프라인을 구축했습니다.
• 비교 평가: 이 특정 아키텍처 내에서 BiLSTM, LSTM, RF, XGBoost 모델을 엄격하게 테스트했습니다.
• 성능 검증: 5-겹 교차 검증(5-fold cross-validation) 및 혼동 행렬(confusion matrix) 분석을 통한 광범한 실험을 수행했습니다.
• 분산형 솔루션: 정확도와 프라이버시 사이의 균형을 맞추면서도 보안한 실세계 사이버 불링 탐지를 위한 분산형 접근 방식을 제시합니다.

결과 및 성능
연구는 5-겹 층화 교차 검증, 혼동 행렬, 그리고 훈련/테스트 정확도 비교를 사용하여 모델을 평가했습니다.

• BiLSTM의 우수성: BiLSTM 모델은 모든 지표에서 가장 높은 성능을 달럽했습니다.
  • 테스트 정확도: 98.43%
  • 정밀도(Precision): 98.69%
  • 재현율(Recall): 98.11%
  • F1-Score: 98.37%
  • 교차 검증: 0.998999의 평균 정확도와 0.000515의 매우 낮은 표준 편차를 기록하여 높은 안정성을 나타냈습니다.
• 기타 모델:
  • LSTM: 94.43%의 테스트 정확도와 높은 안정성을 보이며 우수한 성능을 기록했습니다.
  • XGBoost: 93.20%의 테스트 정확도를 달성하여 랜덤 포레스트보다 뛰어난 성능을 보였으나, 딥러닝 모델에는 미치지 못했습니다.
  • 랜덤 포레스트: 81.76%의 테스트 정확도와 가장 높은 변동성을 기록하며 가장 낮은 성능을 보였습니다.
• 연합 학습 라운드: FL 시뮬레이션에서 BiLSTM 모델은 점진적인 개선을 보였으며, 네 번째 통신 라운드에서 98.74%의 검증 정확도에 도달하여 LSTM 모델(93.92%)을 크게 앞질렀습니다.

의의 및 주장
저자들은 이 프레임워크가 다국어 사이버 불링 탐지와 사용자 프라이버시라는 두 가지 과제에 대한 강력한 솔루션을 제공한다고 주장합니다. FL과 블록체인을 결합함으로써, 시스템은 데이터 기밀성을 해치지 않으면서 협력적인 모델 학습을 보장하며, 블록체인 계층은 표준 FL 구현에서 흔히 결여된 집계 과정의 무결성과 투명성을 보장합니다.

본 논문은 복잡한 코드 혼용 텍스트의 양방향 문맥 의존성을 포착하는 능력 덕분에 딥러닝 모델, 특히 BiLSTM이 이 작업에 있어 전통적인 머신러닝 접근 방식보다 우월하다고 단언합니다. 블록체인의 통합은 표준 FL 구현에서 종종 누락되는 신뢰와 감사 가능성의 층을 더합니다.

그러나 저자들은 제안된 접근 방식이 FL과 블록체인 합의 메커니즘의 복잡성으로 인해 증가된 계산 오버헤드와 통신 비용을 초래한다는 점을 언급하며 겸허히 한계를 인정합니다. 그들은 향로 작업으로서 비용을 완화하기 위해 더 가벼운 트랜스포머(Transformer) 아키텍처와 통신 효율적인 FL 알고리즘을 탐구할 수 있다고 제안합니다. 결론적으로, 본 논문은 솔루션이 매우 효과적이지만, 보안/프라이버시와 계산 효율성 사이의 트레이드오프(trade-off)가 향후 최적화의 핵심 영역으로 남아 있음을 밝힙니다.