Sentiment Analysis and Customer Satisfaction Prediction on E-Commerce Platforms Based on YouTube Comments Using the XGBoost Algorithm

가상의 거대하고 시끄러운 시장 (전자상거래 플랫폼) 을 소유하고 있다고 상상해 보세요. 과거에는 고객이 불만족스러우면 관리자에게 공식 서한을 보냈습니다. 하지만 오늘날에는 서한 대신 유튜브라는 거대하고 공개적인 비디오 무대에서 자신의 의견을 외치고 있습니다.

이 논문은 바로 이러한 외치는 고객들이 얼마나 행복하거나 화났는지 정확히 파악하려는 탐정 팀과 같습니다. 하지만 함정이 하나 있습니다. 그들은 언어, 은어, 심지어 정치적 항의가 뒤섞인 혼란스러운 상태로 외치고 있기 때문입니다.

연구자들이 이 퍼즐을 어떻게 해결했는지 간단히 설명한 이야기입니다.

1. 문제: 너무 많은 소음

시장이 너무 인기가 많아 수천 명의 사람들이 유튜브 동영상에 제품 리뷰 댓글을 달고 있습니다. 모든 댓글을 일일이 손으로 읽는 것은 불가능합니다. 소방 호스로 물을 마시려는 것과 같습니다. 게다가 댓글들은 지저분합니다. 어떤 사람들은 행복하고, 어떤 사람들은 분노하며, 많은 사람들은 그저 혼란스러워합니다. 연구자들은 이 혼란을 정리하고 사업주들에게 "우리 고객들은 만족하고 있는가, 아니면 아닌가?"라고 알려줄 로봇 두뇌가 필요했습니다.

2. 도구: "스마트 나무" (XGBoost)

이를 해결하기 위해 연구자들은 수백만 개의 예시를 학습해야 하는 딥러닝 AI 와 같은 정교하고 복잡한 로봇 두뇌를 사용하지 않았습니다. 대신 XGBoost라는 도구를 사용했습니다.

XGBoost 를 계주 형태로 일하는 스마트 탐정 팀이라고 생각하세요.

• 첫 번째 탐정이 댓글을 보고 추측을 합니다.
• 두 번째 탐정은 첫 번째 탐정이 실수한 부분을 보고 이를 수정하려 합니다.
• 세 번째 탐정은 두 번째 탐정의 실수를 고치고, 이 과정이 계속됩니다.
  팀이 작업을 마치면 고객들이 실제로 어떻게 느끼는지에 대해 매우 날카롭고 정확한 그림을 그려냅니다. 또한 TF-IDF라는 방법을 사용했는데, 이는 "the"나 "and"와 같은 흔한 단어는 무시하고, 실제로 누군가가 화났는지 행복한지 알려주는 고유하고 중요한 단어만 형광펜으로 표시하는 것과 같습니다.

3. 놀라운 발견: 제품 코너의 정치

연구자들이 댓글을 살펴봤을 때, 이상한 점을 발견했습니다. 그들은 "배송이 느렸다"거나 "셔츠가 너무 작다"는 불만을 예상했습니다.

대신 댓글들이 정치적 논쟁으로 심각하게 오염되어 있다는 사실을 발견했습니다.

• 비유: 구운 쿠키에 대해 불만족을 표하러 제과점에 들어갔는데, 고객이 쿠키에 대해 이야기하는 대신 외국 스파이, 정치적 음모, 국제 인물들에 대해 외치기 시작한다고 상상해 보세요.
• 데이터는 "외국의 하수인"과 같은 단어와 정치인 이름이 부정적 리뷰에서 끊임없이 나타났음을 보여주었습니다. 연구자들은 이러한 정치적 항의가 실제 제품 품질보다 "부정적" 감정을 유발하는 가장 큰 요인임을 발견했습니다. 고객들은 제품 리뷰 섹션을 정치적 불만을 표출하는 연설대처럼 사용하고 있었습니다.

4. 경주: 단순한 팀 대 복잡한 로봇

연구자들은 어떤 방법이 가장 효과적인지 경주를 시켰습니다.

• 팀 A (스마트 나무/XGBoost): 위에서 설명한 전통적이고 효율적인 방법.
• 팀 B (딥러닝 로봇/LSTM): 인간이 이야기를 읽듯 단어의 순서를 이해하려 하는 복잡한 신경망.

결과: 팀 A 가 이겼지만, 간발의 차이였습니다.

• 팀 A (XGBoost): **76%**의 정확도를 기록했습니다.
• 팀 B (LSTM): **74%**의 정확도를 기록했습니다.

왜 단순한 팀이 이겼을까요?
데이터셋을 수천 권의 책만 있는 작은 도서관이라고 생각하세요. 복잡한 로봇 (팀 B) 은 좋은 에세이를 쓰기 위해 백만 권의 책을 읽어야 하는 천재 학생과 같습니다. 만약 그들에게 책 몇 권만 주면, 그들은 혼란을 겪고 실수를 합니다. 반면, 단순한 팀 (팀 A) 은 책 몇 권만으로도 일을 완벽하게 해낼 수 있는 실용적인 노동자와 같습니다. 유튜브 댓글 데이터가 충분히 크지 않았기 때문에, 복잡한 로봇은 사실 효율적인 전통적인 팀보다 더 나쁜 성과를 냈습니다.

5. 결론

이 논문은 문제를 해결하기 위해 항상 가장 비싸고 복잡한 AI 가 필요한 것은 아니라고 결론 내립니다.

• 판결: 잘 조직된 "스마트 탐정" 팀 (XGBoost) 은 특히 데이터가 지저분하고 불균형적 (대부분 화난 사람들) 일 때, 이러한 특정 유튜브 댓글을 읽는 데 초복잡 로봇보다 실제로 더 뛰어납니다.
• 경고: 연구자들은 또한 댓글들이 대부분 화난 사람들로 인해 불균형하고 정치적 소음으로 가득 차 있기 때문에, 향후 이 데이터를 분석하려는 시도는 AI 가 단순히 항상 화내도록 학습하지 않도록 "저울을 맞추는" 특수 기법을 사용해야 한다고 지적했습니다.

요약하자면: 연구자들은 온라인 쇼핑에 대한 유튜브 댓글을 읽는 시스템을 구축했습니다. 그들은 사람들이 제품보다 정치에 대해 더 많이 항의하는 경향이 있음을 발견했고, 더 복잡한 시스템보다 단순하고 빠른 컴퓨터 프로그램이 이러한 특정 혼란을 이해하는 데 실제로 더 효과적임을 증명했습니다.