Who Anchors AI Overviews in Health? Baidu, Google, and the Geography of Authority
Este estudo audita os "AI Overviews" do Google e do Baidu em 12 países e quatro idiomas, revelando que ambas as plataformas priorizam seus próprios ecossistemas em detrimento de fontes diversas, exibem vieses geográficos e linguísticos em citações locais e aplicam avisos de saúde de forma inconsistente, destacando, assim, a necessidade urgente de uma supervisão culturalmente consciente da busca generativa em contextos de saúde.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Todos os dias, bilhões de pessoas recorrem aos mecanismos de busca para encontrar respostas, mas quando essas respostas dizem respeito à saúde, o que está em jogo é a vida ou a morte. Durante décadas, os resultados de busca pareceram uma lista de links, exigindo que o usuário clicasse para encontrar a verdade. Recentemente, porém, surgiu um novo tipo de busca, impulsionado pela inteligência artificial. Em vez de uma lista, esses sistemas geram uma resposta única e sintetizada logo no topo da tela, extraindo informações de toda a web para explicar um tópico em linguagem simples. Essa mudança promete economizar tempo, mas também concentra um poder imenso nas mãos das empresas que constroem essas ferramentas. Se uma inteligência artificial decide quais fatos destacar e quais ignorar, ela pode moldar sutilmente a forma como as pessoas entendem seus corpos, seus tratamentos e suas escolhas. A questão não é mais apenas sobre encontrar informação, mas sobre quem tem o direito de decidir como essa informação se apresenta.
Uma equipe de pesquisadores do Dartmouth College partiu com o objetivo de investigar como esses novos resumos de IA lidam com questões de saúde, observando especificamente os dois gigantes da internet: o Google, que domina a maior parte do mundo, e o Baidu, o principal mecanismo de busca da China. Eles queriam ver se as respostas que uma pessoa recebe dependem de qual empresa ela utiliza, de onde ela vive ou de qual idioma ela fala. Para fazer isso, realizaram quase dois mil questionamentos de saúde em doze países diferentes e quatro idiomas. Eles fizeram perguntas sobre tudo, desde condições comuns como o diabetes até tópicos mais complexos ou culturalmente específicos, como a Medicina Tradicional Chinesa. Ao comparar os resultados lado a lado, mapearam de onde a informação vinha e como os sistemas decidiam o que mostrar.
Os pesquisadores descobriram que tanto o Google quanto o Baidu tendem a direcionar os usuários para seus próprios ecossistemas corporativos, em vez de uma mistura diversificada de fontes independentes. No Google, a fonte citada com mais frequência para respostas de saúde foi o YouTube, uma plataforma de vídeo pertencente à empresa controladora do Google. Isso foi surpreendente porque autoridades médicas estabelecidas, como a Mayo Clinic ou a Organização Mundial da Saúde, apareciam com menos frequência nesses resumos. No Baidu, as principais fontes foram sua própria enciclopédia e plataformas de saúde, juntamente com um site médico independente específico chamado Bohe. Em ambos os casos, a IA não estava extraindo informações de um conjunto amplo e neutro dos melhores conselhos médicos da internet. Em vez disso, ela se apoiava fortemente em conteúdo que residia dentro das próprias paredes digitais da empresa. Isso cria uma situação em que a autoridade da resposta depende menos das credenciais médicas da fonte e mais dos algoritmos que decidem quais vídeos ou artigos serão exibidos.
A geografia desempenhou um papel massivo no que as pessoas recebiam de informação. Quando os pesquisadores fizeram as mesmas perguntas de saúde em inglês de diferentes países, os resultados variaram drasticamente com base na localização. Usuários em mercados grandes e estabelecidos, como Estados Unidos, Reino Unido, Austrália e Canadá, receberam respostas que citavam instituições de saúde locais. No entanto, pessoas em mercados menores ou menos localizados, como Nigéria, Índia ou Singapura, tinham muito mais probabilidade de receber respostas citando organizações americanas ou internacionais, mesmo quando perguntavam sobre questões de saúde locais. O estudo mostrou que países menores recebiam significativamente menos referências de seus próprios sistemas de saúde domésticos. Parece que, para essas regiões, a IA recorre a um padrão global, potencialmente negligenciando especialistas locais, regulamentações ou nuances culturais que importam para as pessoas que lá vivem.
O idioma provou ser uma chave ainda mais forte do que a geografia. Quando os pesquisadores fizeram as mesmas perguntas na língua oficial de um país em vez de inglês, as respostas mudaram drasticamente. Em países como Japão, Coreia do Sul e Malásia, a mudança do inglês para o idioma local aumentou a parcela de citações de fontes locais por um fator de três a treze. Isso significa que uma pessoa que busca conselhos de saúde em sua língua nativa tem muito mais probabilidade de obter informações de seu próprio sistema de saúde nacional, enquanto buscar em inglês frequentemente a direciona para longe dos recursos locais. Isso sugere que o idioma que uma pessoa escolhe digitar pode determinar inadvertidamente se ela verá um conselho de seu médico local ou de uma autoridade internacional distante.
O estudo também analisou como esses sistemas lidam com tópicos sensíveis ou culturalmente específicos, utilizando a Medicina Tradicional Chinesa como um caso de teste. Aqui, as duas plataformas divergiram em sua abordagem. O Google foi menos propenso a gerar um resumo de IA para essas consultas, talvez demonstrando cautela sobre tópicos onde o consenso médico é debatido. Quando respondia, fornecia mais citações. O Baidu, por outro lado, foi mais disposto a gerar uma resposta e foi mais favorável às práticas da Medicina Tradicional Chinesa, embora também tenha incluído avisos de segurança mais claros. Isso indica que a "cautela" da IA não é uma configuração única, mas uma mistura complexa de tom, o número de fontes citadas e a disposição de gerar uma resposta, em primeiro lugar. Os pesquisadores observaram que, embora o Baidu fosse mais favorável a essas práticas culturais, ele também dedicava tempo para alertar os usuários sobre a segurança, mostrando que o endosso e a cautela podem coexistir nesses sistemas.
Em última análise, esta pesquisa revela que a inteligência artificial que guia nossas decisões de saúde não é uma observadora neutra. Ela é moldada pela empresa que a construiu, pelo país que ela atende e pelo idioma usado para fazer a pergunta. As fontes em que ela confia são frequentemente aquelas que ela possui ou aquelas que são mais visíveis em inglês. Para milhões de pessoas, isso significa que o caminho para a informação de saúde não é o mesmo para todos. À medida que essas ferramentas se tornam mais comuns, o estudo sugere que precisamos estar atentos a esses vieses ocultos. A maneira como um mecanismo de busca é construído pode determinar se uma pessoa verá um especialista local ou uma corporação distante e, em questões de saúde, essa diferença pode ser profunda.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.