Who Anchors AI Overviews in Health? Baidu, Google, and the Geography of Authority
이 연구는 12개국 4개 언어를 대상으로 구글과 바이두의 AI 개요(AI Overviews)를 감사하여, 두 플랫폼 모두 다양한 출처보다 자사의 생태계를 우선시하고, 현지 인용에서 지리적 및 언어적 편향을 보이며, 건강 관련 면책 조항을 일관성 없게 적용하고 있음을 밝혀냄으로써, 보건 맥락에서 생성형 검색에 대한 문화적 인지적 감독이 시급함을 강조한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
매일 수십억 명의 사람들이 답을 찾기 위해 검색 엔진을 이용하지만, 그 답이 건강에 관한 것일 때 그 이해관계는 생사와 직결됩니다. 수십 년 동안 검색 결과는 사용자가 진실을 찾기 위해 클릭을 통해 들어가야 하는 링크 목록의 형태였습니다. 그러나 최근에는 인공지능에 의해 구동되는 새로운 형태의 검색이 등장했습니다. 이 시스템들은 단순한 목록 대신, 웹 전반에서 정보를 끌어와 평이한 언어로 주제를 설명하며 화면 상단에 단 하나의 합성된 답변을 생성합니다. 이러한 변화는 시간을 절약해 줄 것을 약속하지만, 동시에 이러한 도구를 만드는 기업들의 손에 막대한 권력을 집중시킵니다. 만약 인공지능이 어떤 사실을 강조하고 어떤 사실을 무시할지 결정한다면, 그것은 사람들이 자신의 몸과 치료법, 그리고 선택을 이해하는 방식을 미묘하게 형성할 수 있습니다. 질문은 더 이상 단순히 정보를 찾는 것에 그치지 않고, 그 정보가 어떤 모습이 될지를 누가 결정하느냐의 문제가 되었습니다.
다트머스 대학교의 연구진은 이러한 새로운 AI 요약이 건강 관련 질문을 어떻게 처리하는지 조사하기 위해 나섰으며, 특히 인터넷의 두 거물인 세계 대부분을 지배하는 구글과 중국의 주요 검색 엔진인 바이두를 주목했습니다. 그들은 사람이 받는 답변이 어떤 회사를 사용하는지, 어디에 사는지, 혹은 어떤 언어를 사용하는지에 따라 달라지는지 알고 싶었습니다. 이를 위해 그들은 12개국 4개 언어에 걸쳐 약 2,000개의 건강 관련 질의를 실행했습니다. 그들은 당뇨병과 같은 흔한 질환부터 전통 중의학(Traditional Chinese Medicine)과 같이 더 복잡하거나 문화적으로 특수한 주제까지 다양한 질문을 던졌습니다. 결과를 나란히 비교함으로써, 그들은 정보가 어디에서 왔는지와 시스템이 무엇을 보여주기로 결정했는지를 파악했습니다.
연구진은 구글과 바이두 모두 사용자들을 독립적인 다양한 출처보다는 자신들의 기업 생태계로 유도하는 경향이 있다는 것을 발견했습니다. 구글의 경우, 건강 답변에 대해 가장 빈번하게 인용된 출처는 구글의 모회사가 소유한 비디오 플랫폼인 유튜브였습니다. 이는 메이요 클리닉(Mayo Clinic)이나 세계보건기구(WHO)와 같은 기성 의료 기관들이 이러한 요약에서 덜 나타났다는 점에서 놀라운 일이었습니다. 바이두의 경우, 최상위 출처는 자체 백과사전과 건강 플랫폼, 그리고 보허(Bohe)라는 특정 독립 의료 사이트였습니다. 두 경우 모두, AI는 인터넷의 광범하고 중립적인 최선의 의료 조언으로부터 정보를 가져오는 것이 아니었습니다. 대신, 회사의 자체 디지털 장벽 내에 존재하는 콘텐츠에 크게 의존하고 있었습니다. 이는 답변의 권위가 출처의 의료적 자격보다는 어떤 영상이나 기사를 노출할지 결정하는 알고리즘에 더 의존하게 되는 상황을 만듭니다.
지리적 요인은 사람들이 받는 정보에 엄청난 역할을 했습니다. 연구진이 여러 국가에서 영어로 동일한 건강 질문을 던졌을 때, 결과는 위치에 따라 크게 달랐습니다. 미국, 영국, 호주, 캐나다와 같은 대규모 기성 시장의 사용자들은 현지 보건 기관을 인용하는 답변을 받았습니다. 그러나 나이지리아, 인도, 싱가포르와 같이 규모가 작거나 지역화가 덜 된 시장의 사람들은 현지 건강 문제에 대해 묻더라도 미국이나 국제 기구를 인용하는 답변을 받을 가능성이 훨씬 높았습니다. 연구는 작은 국가들이 자국의 보건 체계로부터 인용을 현저히 적게 받는다는 것을 보여주었습니다. 이러한 지역의 경우, AI가 글로벌 표준을 기본값으로 설정하여, 그곳에 사는 사람들에게 중요한 현지 전문가, 규제 또는 문화적 뉘앙스를 간과할 가능성이 있는 것으로 보입니다.
언어는 지리보다 훨씬 더 강력한 전환 스위치임이 드러났습니다. 연구진이 해당 국가의 공식 언어로 동일한 질문을 했을 때, 답변은 극적으로 변했습니다. 일본, 한국, 말레이시아와 같은 국가에서 영어가 아닌 현지 언어로 전환했을 때, 현지 출처의 인용 비율이 3배에서 13배까지 증가했습니다. 이는 자신의 모국어로 건강 조언을 검색하는 사람이 자국의 보건 체계로부터 정보를 얻을 가능성이 훨씬 높은 반면, 영어로 검색하면 현지 자원으로부터 멀어지게 된다는 것을 의미합니다. 이는 사람이 선택한 언어가 의도치 않게 현지 의사의 조언을 볼지 아니면 먼 곳의 국제적 권위를 볼지를 결정할 수 있음을 시사합니다.
연구진은 또한 전통 중의학을 테스트 케이스로 사용하여 이러한 시스템이 민감하거나 문화적으로 특정한 주제를 어떻게 다루는지 살펴보았습니다. 여기서 두 플랫폼은 접근 방식에서 차이를 보였습니다. 구글은 의료적 합의가 논쟁적인 주제에 대해 주의를 기울이는 듯, 이러한 질의에 대해 AI 요약을 생성하지 않을 가능성이 더 높았습니다. 답변을 제공할 때는 더 많은 인용을 포함했습니다. 반면, 바이두는 답변을 생성하는 데 더 적극적이었고 전통 중의학 관행을 더 지지하는 모습을 보였지만, 동시에 더 명확한 안전 경고를 포함했습니다. 이는 AI의 '주의력'이 단일한 설정이 아니라, 어조, 인용되는 출ند의 수, 그리고 답변을 생성하려는 의지의 복합적인 혼합물임을 나타냅니다. 연구진은 바이두가 이러한 문화적 관행을 더 지지하면서도 안전에 대해 경고하는 시간을 들였다는 점을 언급하며, 지지와 주의가 이러한 시스템 내에서 공존할 수 있음을 보여주었다고 기술했습니다.
궁극적으로, 이 연구는 우리의 건강 결정을 안내하는 인공지능이 중립적인 관찰자가 아님을 밝혀냅니다. 그것은 그것을 만든 회사, 그것이 서비스를 제공하는 국가, 그리고 질문에 사용된 언어에 의해 형성됩니다. 그것이 신뢰하는 출처는 종종 그들이 소유한 것이거나 영어로 가장 잘 보이는 것들입니다. 수백만 명의 사람들에게 이는 건강 정보로 가는 경로가 모두에게 같지 않음을 의미합니다. 이러한 도구들이 점점 더 보편화됨에 따라, 연구는 우리가 이러한 숨겨진 편향을 인식할 필요가 있다고 제안합니다. 검색 엔진이 어떻게 구축되었느냐에 따라 사람이 현지 전문가를 볼지 아니면 먼 곳의 기업을 볼지가 결정될 수 있으며, 건강 문제에 있어서 그 차이는 매우 심대할 수 있습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.