Who Anchors AI Overviews in Health? Baidu, Google, and the Geography of Authority
Este estudio audita las Resúmenes de IA de Google y Baidu en 12 países y cuatro idiomas, revelando que ambas plataformas priorizan sus propios ecosistemas sobre fuentes diversas, exhiben sesgos geográficos y lingüísticos en las citas locales y aplican avisos de salud de manera inconsistente, destacando así la urgente necesidad de una supervisión culturalmente consciente de la búsqueda generativa en contextos de salud.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Cada día, miles de millones de personas recurren a los motores de búsqueda para encontrar respuestas, pero cuando esas respuestas conciernen a la salud, lo que está en juego es la vida o la muerte. Durante décadas, los resultados de búsqueda han parecido una lista de enlaces, que requieren que el usuario haga clic para encontrar la verdad. Recientemente, sin embargo, ha surgido un nuevo tipo de búsqueda, impulsada por la inteligencia artificial. En lugar de una lista, estos sistemas generan una respuesta única y sintetizada justo en la parte superior de la pantalla, extrayendo información de toda la web para explicar un tema en lenguaje sencillo. Este cambio promete ahorrar tiempo, pero también concentra un poder inmenso en manos de las empresas que construyen estas herramientas. Si una inteligencia artificial decide qué hechos resaltar y cuáles ignorar, puede moldear sutilmente cómo las personas entienden sus cuerpos, sus tratamientos y sus decisiones. La pregunta ya no es solo sobre cómo encontrar información, sino sobre quién tiene el derecho de decidir cómo se ve esa información.
Un equipo de investigadores de la Universidad de Dartmouth se propuso investigar cómo estas nuevas síntesis de IA manejan las preguntas de salud, mirando específicamente a los dos gigantes de Internet: Google, que domina la mayor parte del mundo, y Baidu, el principal motor de búsqueda de China. Querían ver si las respuestas que recibe una persona dependen de qué empresa utiliza, dónde vive o qué idioma habla. Para ello, realizaron casi dos mil consultas de salud en doce países diferentes y cuatro idiomas. Hicieron preguntas sobre todo, desde afecciones comunes como la diabetes hasta temas más complejos o culturalmente específicos como la Medicina Tradicional China. Al comparar los resultados lado a lado, mapearon de dónde provenía la información y cómo los sistemas decidían qué mostrar.
Los investigadores descubrieron que tanto Google como Baidu tienden a dirigir a los usuarios hacia sus propios ecosistemas corporativos en lugar de a una mezcla diversa de fuentes independientes. En Google, la fuente citada con más frecuencia para respuestas de salud fue YouTube, una plataforma de video propiedad de la empresa matriz de Google. Esto fue sorprendente porque las autoridades médicas establecidas, como la Clínica Mayo o la Organización Mundial de la Salud, aparecían con menos frecuencia en estas síntesis. En Baidu, las principales fuentes fueron su propia enciclopedia y plataformas de salud, junto con un sitio médico independiente específico llamado Bohe. En ambos casos, la IA no estaba extrayendo información de un conjunto amplio y neutral del mejor consejo médico de Internet. En su lugar, se apoyaba fuertemente en el contenido que residía dentro de las propias paredes digitales de la empresa. Esto crea una situación en la que la autoridad de la respuesta depende menos de las credenciales médicas de la fuente y más de los algoritmos que deciden qué videos o artículos presentar.
La geografía jugó un papel masivo en la información que la gente recibía. Cuando los investigadores hicieron las mismas preguntas de salud en inglés desde diferentes países, los resultados variaron drásticamente según la ubicación. Los usuarios en mercados grandes y establecidos como los Estados Unidos, el Reino Unido, Australia y Canadá recibieron respuestas que citaban instituciones de salud locales. Sin embargo, las personas en mercados más pequeños o menos localizados, como Nigeria, India o Singapur, tenían muchas más probabilidades de recibir respuestas que citaban organizaciones estadounidenses o internacionales, incluso cuando preguntaban sobre problemas de salud locales. El estudio mostró que los países más pequeños recibían significamente menos referencias de sus propios sistemas de salud nacionales. Parece que, para estas regiones, la IA recurre por defecto a un estándar global, pasando por alto potencialmente a expertos locales, regulaciones o matices culturales que son importantes para las personas que viven allí.
El idioma resultó ser un interruptor aún más fuerte que la geografía. Cuando los investigadores hicieron las mismas preguntas en el idioma oficial de un país en lugar de en inglés, las respuestas cambiaron drásticamente. En países como Japón, Corea del Sur y Malasia, cambiar del inglés al idioma local aumentó la proporción de citas de origen local en un factor de tres a trece. Esto significa que una persona que busca consejo de salud en su lengua materna tiene muchas más probabilidades de obtener información de su propio sistema de salud nacional, mientras que buscar en inglés a menudo la desvía de los recursos locales. Esto sugiere que el idioma que una persona elige escribir puede determinar inadvertidamente si ve el consejo de su médico local o de una autoridad internacional distante.
El estudio también analizó cómo estos sistemas manejan temas sensibles o culturalmente específicos, utilizando la Medicina Tradicional China como caso de prueba. Aquí, las dos plataformas divergieron en su enfoque. Google era menos propenso a generar una síntesis de IA para estas consultas en absoluto, quizás mostrando cautela sobre temas donde el consenso médico es debatido. Cuando sí respondía, proporcionaba más citas. Baidu, por otro lado, estaba más dispuesto a generar una respuesta y era más favorable a las prácticas de la Medicina Tradicional China, aunque también incluía advertencias de seguridad más claras. Esto indica que la "cautela" de la IA no es un ajuste único, sino una mezcla compleja de tono, el número de fuentes citadas y la disposición de generar una respuesta en primer lugar. Los investigadores señalaron que, si bien Baidú era más favorable a estas prácticas culturales, también se tomaba el tiempo para advertir a los usuarios sobre la seguridad, demostrando que el respaldo y la cautela pueden coexistir en estos sistemas.
En última instancia, esta investigación revela que la inteligencia artificial que guía nuestras decisiones de salud no es un observador neutral. Está moldeada por la empresa que la construyó, el país al que sirve y el idioma utilizado para hacer la pregunta. Las fuentes en las que confía son a menudo las que posee o las que son más visibles en inglés. Para millones de personas, esto significa que el camino hacia la información de salud no es el mismo para todos. A medida que estas herramientas se vuelven más comunes, el estudio sugiere que necesitamos ser conscientes de estos sesgos ocultos. La forma en que se construye un motor de búsqueda puede determinar si una persona ve a un experto local o a una corporación distante, y en asuntos de salud, esa diferencia puede ser profunda.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.