TikTok Search Recommendations: Governance and Research Challenges

TikTok를 사람들이 짧은 영상을 공유하는 거대하고 북적이는 마을 광장이라고 상상해 보세요. 오랫동안 이 광장은 주로 무작위적인 엔터테인먼트 피드를 스크롤하는 공간이었습니다. 하지만 최근 TikTok은 사람들이 정확히 찾고 있는 것을 찾을 수 있도록 돕는 도서관이나 검색 엔진처럼 작동하기 시작했습니다.

이 논문은 일종의 "포지션 페이퍼(position paper)"로, 이는 연구자가 "이 새로운 기능이 문제를 일으키기 전에 우리가 면밀히 살펴봐야 합니다"라고 공식적으로 알리는 메모와 같습니다. 문제가 되고 있는 기능은 바로 **검색 추천(Search Recommendations)**입니다.

다음은 비유를 사용하여 이 논문의 내용을 쉽게 풀어낸 것입니다.

1. 새로운 기능: "추천 질문"

당신이 어떤 유명인의 영상을 보고 있다고 상상해 보세요. 보통은 그냥 영상을 보거나 댓글을 남길 뿐입니다. 그런데 이제 TikTok은 화면 위나 댓글 상단에 작은 포스트잇을 붙여 놓습니다. "당신이 이런 것을 검색해 볼 수도 있습니다: '그녀의 남자친구는 누구인가요?' 또는 '저 셔츠 브랜드가 무엇인가요?'"

이것들은 당신이 검색창에 입력하도록 TikTok이 미리 작성해 둔 질문들입니다. 논문은 이를 "새로운 형태의 추천"이라고 부릅니다. 단순히 다음에 어떤 영상을 볼지 알려주는 것이 아니라, 무엇에 대해 물어봐야 할지를 알려주는 것입니다.

2. "마법 상자" 문제 (투명성 부족)

TikTok은 사용자들과 크리에이터들에게 이렇게 말합니다. "걱정 마세요, 저희는 이 제안들을 마음대로 만들어내는 것이 아닙니다. 그저 사람들이 이미 댓글에서 말하고 있는 내용과 검색하고 있는 내용을 살펴보고, 그것을 그대로 옮겨 적는 것뿐입니다."

이 논문의 저자들은 이것이 마치 마술사가 자신의 기술이 그저 "자연스러운 마법"이라고 주장하지만, 실제로는 숨겨진 와이어를 사용하고 있는 것과 같다고 말합니다.

• 주장: TikTok은 "우리는 그저 사용자 대화를 반영하는 중립적인 거울일 뿐이다"라고 말합니다.
• 실제: 논문은 TikTok이 실제로 어떤 대화가 검색 제안으로 전환될지를 결정하고 있다고 주장합니다. 그들은 어떤 것을 선택하는지에 대해 설명하지 않습니다. 이것은 "블랙박스"입니다. 우리는 그들이 가장 인기 있는 댓글을 고르는 것인지, 가장 최근의 것인지, 아니면 특정 내러티브를 밀어붙이기 위해 특정 단어를 비밀리에 선택하는 것인지 알 수 없습니다.

3. "유령 작가" 문제 (해로운 제안)

TikTok이 이러한 제안이 어떻게 만들어지는지 설명하지 않기 때문에, 영상 제작자가 의도하지 않은 나쁜 일들이 발생할 수 있습니다.

• 비유: 당신이 저녁 파티(당신의 영상)를 열고 있다고 상상해 보세요. 당신은 즐겁고 평범한 대화를 나누고 있습니다. 그런데 갑자기 벽에 달린 확성기에서 "호스트가 사실 스파이인가?"라거나 "호스트의 비밀 성 정체성은 무엇인가?"와 같은 질문을 외치기 시작합니다.
• 논문의 조사 결과: 연구진이 네덜란드 인플루언서들의 영상을 조사한 결과, 영상의 주제와 전혀 상관이 없음에도 불구하고 TikTok이 그들의 사생활, 연애 관계, 성 정체성에 관한 검색을 제안하고 있다는 것을 발견했습니다.
• 위험성: 이는 루머를 퍼뜨리거나, 드라마를 조장하거나, 괴롭힘(예: 트랜스젠더를 대상으로 이전 이름을 검색하도록 유도하는 것 등)에 이용될 수 있습니다. 영상 제작자는 이를 막거나 심지어 이런 일이 일어나고 있다는 사실조차 알 방법이 거의 없습니다.

4. "인형술사" 문제 (시스템 악용)

논문은 규칙이 비밀스럽기 때문에 악의적인 행위자들이 시스템을 속일 수 있다고 경고합니다.

• 비유: 시장(TikTok)이 "우리는 오직 군중이 외치는 소리만 기록한다"라고 말하는 마을이 있다고 상상해 보세요. 한 집단이 조직적으로 움직여서 동시에 똑같은 가짜 내용을 외친다면, 시장의 시스템은 그 가짜 내용을 "인기 검색어"로 기록하여 그것이 실제인 것처럼 보이게 만들 것입니다.
• 실제 사례: 논문은 루마니아의 정치 선거 기간 동안, 사람들이 특정 후보자를 인기 검색어로 만들기 위해 댓글을 조직적으로 조작했던 사례를 언급합니다.

5. "출구 없는 방" 문제 (사용자 통제권)

만약 당신이 보기 싫은 검색 제안을 보게 되더라도, 그것을 끌 수 없습니다.

• 비유: 자동차 GPS가 계속 위험한 우회로를 제안하는 상황과 같습니다. 당신이 GPS에 "그 길은 싫어요"라고 말할 수는 있지만, 자동차는 듣지 않으며 당신은 GPS를 끌 수도 없습니다.
• 논문의 핵심: 크리에이터는 댓글을 필터링할 수 있지만, 자신의 영상에 나타나는 검색 제안은 필터링할 수 없습니다. 사용자 또한 이 기능을 비활성화할 수 없습니다. 이는 괴롭힘이나 허위 정보로부터 자신을 보호하기 어렵게 만듭니다.

6. 이것이 법적으로 중요한 이유

이 논문은 TikTok이 유럽의 새로운 법인 **디지털 서비스법(DSA)**을 위반하고 있다고 지적합니다.

• 규칙: 이 법은 거대 기술 기업들이 자신들의 알고리즘이 어떻게 작동하는지, 그리고 당신에게 무엇을 추천하는지에 대해 정직해야 한다고 규정합니다.
• 위반 사항: TikTok은 이러한 검색 제안이 어떻게 만들어지는지 숨기고 있습니다. 그들은 단순히 사용자 데이터를 "집계(aggregating)"하는 것이라고 주장하지만, 논문은 그들이 실제로 이를 생성하고 큐레이션하고 있으며, 따라서 나타나는 내용에 대한 책임이 있다고 주장합니다.

연구 계획: 앞으로 무엇을 할 것인가?

저자들은 "컴퓨터 기반 연구 의제(computational research agenda)"를 제안합니다. TikTok이 시스템의 비밀 코드를 제공하지 않기 때문에, 그들은 탐정처럼 행동해야 합니다. 그들은 다음과 같은 일을 하고자 합니다:

1. 코드 해독: 정확히 어떤 댓글이 검색 제안으로 변하는지 밝혀내기.
2. 가짜 식별: 사람들이 시스템을 속이기 위해 함께 움직이는 것을 감지하기.
3. 맥락 확인: 제안된 내용이 왜 해로운지 이해하는 도구 구축하기 (예: "Nikkie가 소년이었다"라는 문구가 트랜스 여성인 크리에이터에게 왜 해로운지 맥락을 파악하는 것).
4. 주제 분류: 제안되는 내용의 종류를 분류하기 (예: 주로 쇼핑, 가십, 정치 중 어떤 것에 관한 것인가?).

요약

요약하자면, TikTok은 사용자에게 질문을 제안함으로써 자신의 영상을 검색 엔진으로 바꾸고 있습니다. 이 논문은 TikTok이 이러한 질문을 선택하는 방식을 숨기고 있으며, 이로 인해 "사용자들이 말하는 내용일 뿐"이라는 구실 아래 루머, 괴롭힘, 정치적 조작이 퍼지고 있다고 주장합니다. 저자들은 이 강력한 새로운 도구에 대해 투명성을 강제하기 위해 더 많은 연구와 엄격한 규칙이 필요하다고 촉구하고 있습니다.