Beyond the Feed: How Generative AI is Reshaping Children's Social Media Ecologies in the Global South
이 논문은 이집트를 사례 연구로 활용하여 생성형 AI와 플랫폼 데이터 로직이 어떻게 아동의 소셜 미디어 경험을 공동으로 재편하는지 분석하기 위해 '이중 매개' 프레임워크를 제안하며, 현재의 연령 제한 정책이 이러한 AI 시스템에 내재된 복잡한 문화적 및 언어적 편향을 해결하는 데 실패하고 있다고 주장한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
수십 년 동안 아이들이 온라인에서 어떻게 성장하는지에 대한 연구는 화면을 하나의 '창'으로 보는 데 집중해 왔습니다. 연구자들은 소셜 미디어 플랫폼이 중립적인 배경이 아니라, 아이가 무엇을 보고, 무엇을 하도록 권장받으며, 어떻게 추적되는지를 결정하는 능동적인 게이트키퍼(문지기)라는 점을 오래전부터 이해해 왔습니다. '데이터화(datafication)'라고 불리는 이 과정은 모든 클릭과 스크롤을 기업이 주의력을 팔고 행동을 형성하는 데 사용하는 기록으로 바꿉니다. 우려의 핵심은 이러한 디지털 환경이 아이들의 프라이버시나 웰빙을 희생시키면서까지 계속해서 화면을 보게끔 설계되어 있다는 점이었습니다. 하지만 우리가 발을 딛고 있는 지형이 변했습니다. 아이들이 친구와 대화하고 사진을 공유하기 위해 사용하는 도구들은 더 이상 단순히 데이터를 수집하는 데 그치지 않고, 이제 새로운 현실을 생성하고 있습니다. 인공지능은 숙제를 돕기 위해 아이가 열어볼 수 있는 별개의 도구에서, 아이들이 매일 사용하는 앱에 직접적으로 짜여 들어간 보이지 않는 층(layer)으로 이동했습니다. 이러한 시스템은 캡션을 작성하고, 대화를 시뮬레이션하며, 심지어 말을 걸어오는 전체 캐릭터를 만들어낼 수도 있습니다. 이제 연구자들에게 던져진 질문은 단순히 플랫폼이 콘텐츠를 어떻게 선택하느냐가 아니라, 그 안의 인공지능이 어떻게 새로운 콘텐츠를 생성하며, 이 두 힘이 아이의 발달하는 정신에 작용할 때 어떤 일이 벌어지는가 하는 것입니다.
네르민 싱어(Nermeen Singer), 파테이 엘 샤라위(Fathey El Sharkawy), 그리고 아미라 이스마일(Amira Ismail)은 이 복잡한 상황을 이해하기 위한 새로운 방식인 '이중 매개(double mediation)'라는 개념을 제안합니다. 그들은 우리가 더 이상 소셜 미디어와 인공지능을 별개의 문제로 보아서는 안 된다고 주장합니다. 대신, 아이의 경험은 이제 두 번에 걸쳐 형성됩니다. 첫 번째 층은 익숙한 층입니다. 즉, 사용자를 계속 붙잡아 두기 위해 콘텐츠를 분류하고 선택하는 플랫폼의 알고리즘입니다. 두 번째 층은 새로운 층입니다. 즉, 선택된 콘텐츠 위에 자리 잡고 자체적인 학습을 바탕으로 새로운 텍텍스트, 이미지, 대화를 만들어내는 생성형 인공지능입니다. 연구자들은 이 두 층이 단순히 더해지는 것이 아니라, 서로 결합하여 증폭된다고 제안합니다. 인공지능 시스템은 단순히 아이에게 반응하는 것이 아니라, 문화, 언어, 정체성에 대한 자체적인 내재적 가정을 가지고 반응하며, 이는 다시 플랫폼의 알고리즘에 피드백되어 아이가 보고 경험하는 범위를 더욱 좁히게 됩니다.
이 아이디어를 테스트하기 위해 저자들은 이 이중 층의 영향이 뚜렷하면서도 대체로 간과되고 있는 곳인 이집트와 광범위한 아랍 지역에 초점을 맞춥니다. 대부분의 아동 및 기술 관련 연구가 미국과 유럽에서 이루어지는 반면, 저자들은 이러한 글로벌 앱을 구동하는 인공지능 시스템이 주로 영어 데이터와 서구적 문화 규범을 바탕으로 학습되었다는 점을 지적합니다. 인터넷 사용률이 인구의 82%에 달하고 소셜 미디어가 수백만 젊은이들에게 일상적인 삶의 방식으로 자리 잡은 이집트에서, 이러한 불일치는 특정한 문제를 야기합니다. 이집트 십 대가 앱을 사용할 때, 첫 번째 매개 층은 그들을 세계적으로 인기 있고 종종 서구화된 코드의 콘텐츠로 밀어 넣습니다. 그다음 두 번째 층인 인공지능은 서구적 문화적 참조, 음식, 사회적 규범을 기본값으로 하는 응답이나 제안을 생성하며, 이집트 아랍어 방언의 뉘앙스나 현지의 종교적 관습, 가족 구조를 이해하거나 존중하는 데 실패하곤 합니다.
연구자들은 이것이 사소한 기술적 오류가 아니라 체계적인 편향이라고 강조합니다. 연구에 따르면 인공지능 모델에 유창하고 자연스러운 아랍어로 콘텐츠를 생성하도록 요청할 때, 사용자가 현지 방언으로 말하더라도 종종 서구적 실체와 아이디어를 기본값으로 설정하는 경우가 많습니다. 이집트의 아이들에게 있어, 챗봇 동반자나 캡션 생성기와 같이 자신을 표현하도록 설계된 도구들은 자신의 정체성을 본래의 것이 아닌 다른 문화적 레지스터(register)로 은밀하게 유도할 수 있다는 점에서 매우 중요합니다. 이는 특히 이집트의 가족 및 공동체 매개가 개인주의적이고 치료적인 모델이 내장된 많은 AI 동반자들과는 다른, 집단적 책임과 종교적 틀에 의존한다는 점 때문에 더욱 유의미합니다. 아이는 비판 없는 경청을 기대하며 AI에게 사적인 대화를 시도할 수 있지만, 정작 자신의 문화적 맥락을 오해하거나 가족 네트워크의 중요성을 인식하지 못하는 시스템을 마주하게 될 수 있습니다.
저자들은 또한 현재의 법률들이 어떻게 아동을 보호하려 노력하고 있는지 검토하며, 이러한 규제들이 문제의 절반을 놓치고 있다고 지적합니다. 그들은 16세 미만 아동의 소셜 미디어 사용을 금지한 호주의 최근 법안과 영국, 프랑스의 유사한 제안들을 살펴봅니다. 이러한 법들은 연령 확인과 접근 제어에 초점을 맞추고 있지만, 연구자들은 이것이 매개의 첫 번째 층만을 다루고 있다고 주장합니다. 설령 법이 아이를 플랫폼으로부터 격리하는 데 성공하더라도, 16세가 되어 접속 권한을 얻게 될 십 대가 경험하게 될 인공지능 시스템을 변화시키지는 못합니다. 법은 아이의 로그인을 막을 수는 있지만, 기다리고 있는 AI 동반자가 문화적으로 반응적인지, 혹은 그 콘텐츠가 생성하는 내용이 현지의 정체성을 존중하는지는 보장하지 않습니다. 저자들은 이집트의 부상하는 입법 논의가 더 나은 방향을 제시할 기회를 제공한다고 제안하며, 플랫폼이 아동이 인공지능과 상호작용하고 있음을 공개하도록 하고, 단순히 영어 나 표준 아랍어에만 의존하는 것이 아니라 현지 언어에 대한 문화적 편향을 테스트하도록 규제해야 한다고 제안합니다.
궁극적으로 이 논문은 연구자와 정책 입안자들이 소셜 미디어와 인공지능을 별개의 분야로 취급하는 것을 멈추라는 촉구의 메시지를 담고 있습니다. 저자들은 글로벌 사우스(Global South)의 아이들이 이러한 이중 매개의 층을 어떻게 헤쳐 나가는지를 직접적으로 살펴보는 새로운 연구가 필요하다고 제안합니다. 그들은 인공지능의 문화적 편향이 플랫폼의 데이터 기반 논리와 어떻게 상호작용하는지를 이해하지 못한다면, 수백만 명의 젊은이들이 누리는 디지털 유년기를 온전히 이해할 수 없다고 주장합니다. 목표는 인공지능이 본질적으로 해롭다고 말하는 것이 아니라, 현재의 설계가 언어와 문화가 기술 제작자들의 주요 관심사가 아닌 아이들에게 특정한 불균형적 경험을 만든다는 점을 인식하는 것입니다. 두 문헌을 결합함으로써, 연구자들은 아이들이 자라나고 있는 디지털 세계에 대한 더 명확한 그림을 그려내고자 합니다. 그곳은 인공지능이라는 보이지 않는 손이 정체성, 문화, 그리고 연결을 형성하는 강력한 두 번째 매개의 층으로서, 우리가 이제 겨우 이해하기 시작한 방식으로 작용하고 있음을 밝혀내고자 하는 세계입니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.