Who Anchors AI Overviews in Health? Baidu, Google, and the Geography of Authority
Cette étude audite les aperçus de l'IA de Google et de Baidu dans 12 pays et quatre langues, révélant que les deux plateformes privilégient leurs propres écosystèmes au détriment de sources diversifiées, font preuve de biais géographiques et linguistiques dans les citations locales et appliquent les avertissements de santé de manière incohérente, soulignant ainsi le besoin urgent d'une surveillance culturellement adaptée de la recherche générative dans les contextes de santé.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Chaque jour, des milliards de personnes se tournent vers les moteurs de recherche pour trouver des réponses, mais lorsque ces réponses concernent la santé, les enjeux sont une question de vie ou de mort. Pendant des décennies, les résultats de recherche ressemblaient à une liste de liens, obligeant l'utilisateur à cliquer pour trouver la vérité. Récemment, cependant, un nouveau type de recherche est apparu, propulsé par l'intelligence artificielle. Au lieu d'une liste, ces systèmes génèrent une réponse unique et synthétisée, directement en haut de l'écran, en extrayant des informations à travers le web pour expliquer un sujet en langage clair. Ce changement promet de gagner du temps, mais il concentre également un pouvoir immense entre les mains des entreprises qui construisent ces outils. Si une intelligence artificielle décide quels faits mettre en avant et lesquels ignorer, elle peut subtilement façonner la manière dont les gens comprennent leur corps, leurs traitements et leurs choix. La question n'est plus seulement de trouver l'information, mais de savoir qui décide de l'apparence de cette information.
Une équipe de chercheurs du Dartmouth College s'est donné pour mission d'étudier comment ces nouveaux résumés par IA traitent les questions de santé, en examinant spécifiquement les deux géants d'Internet : Google, qui domine la majeure partie du monde, et Baidu, le principal moteur de recherche en Chine. Ils voulaient voir si les réponses reçues par une personne dépendent de l'entreprise qu'elle utilise, de l'endroit où elle vit ou de la langue qu'elle parle. Pour ce faire, ils ont lancé près de deux mille requêtes de santé dans douze pays différents et quatre langues. Ils ont posé des questions portant sur tout, des maladies courantes comme le diabète à des sujets plus complexes ou culturellement spécifiques comme la médecine traditionnelle chinoise. En comparant les résultats côte à côte, ils ont cartographié la provenance de l'information et la manière dont les systèmes décidaient de ce qu'ils devaient afficher.
Les chercheurs ont découvert que Google et Baidu ont tous deux tendance à diriger les utilisateurs vers leurs propres écosystèmes d'entreprise plutôt que vers un mélange diversifié de sources indépendantes. Sur Google, la source la plus fréquemment citée pour les réponses de santé était YouTube, une plateforme vidéo appartenant à la société mère de Google. C'était surprenant car les autorités médicales établies, comme la Mayo Clinic ou l'Organisation mondiale de la Santé, apparaissaient moins souvent dans ces résumés. Sur Baidu, les sources principales étaient sa propre encyclopédie et ses plateformes de santé, ainsi qu'un site médical indépendant spécifique appelé Bohe. Dans les deux cas, l'IA ne puisait pas dans un réservoir large et neutre des meilleurs conseils médicaux d'Internet. Au contraire, elle s'appuyait fortement sur des contenus résidant au sein des murs numériques de l'entreprise. Cela crée une situation où l'autorité de la réponse dépend moins des compétences médicales de la source que des algorithmes qui décident quels vidéos ou articles mettre en surface.
La géographie a joué un rôle massif dans l'information que les gens recevaient. Lorsque les chercheurs posaient les mêmes questions de santé en anglais depuis différents pays, les résultats variaient considérablement selon la localisation. Les utilisateurs des grands marchés établis, comme les États-Unis, le Royaume-Uni, l'Australie et le Canada, recevaient des réponses citant des institutions de santé locales. Cependant, les personnes dans des marchés plus petits ou moins localisés, tels que le Nigeria, l'Inde ou Singapour, étaient beaucoup plus susceptibles de recevoir des réponses citant des organisations américaines ou internationales, même lorsqu'elles posaient des questions sur des problèmes de santé locaux. L'étude a montré que les pays plus petits recevaient nettement moins de références provenant de leurs propres systèmes de santé nationaux. Il semble que pour ces régions, l'IA adopte par défaut un standard mondial, négligeant potentiellement les experts locaux, les réglementations ou les nuances culturelles qui importent aux populations locales.
La langue s'est avérée être un commutateur encore plus puissant que la géographie. Lorsque les chercheurs posaient les mêmes questions dans la langue officielle d'un pays au lieu de l'anglais, les réponses changeaient radicalement. Dans des pays comme le Japon, la Corée du Sud et la Malaisie, passer de l'anglais à la langue locale augmentait la part des citations de sources locales d'un facteur de trois à treize. Cela signifie qu'une personne cherchant des conseils de santé dans sa langue maternelle est beaucoup plus susceptible d'obtenir des informations provenant de son propre système de santé, tandis qu'une recherche en anglais la détourne souvent des ressources locales. Cela suggère que la langue choisie par l'utilisateur peut déterminer par inadvertance s'il verra les conseils d'un médecin local ou d'une autorité internationale lointaine.
L'étude a également examiné la manière dont ces systèmes gèrent les sujets sensibles ou culturellement spécifiques, en utilisant la médecine traditionnelle chinoise comme cas de test. Ici, les deux plateformes ont divergé dans leur approche. Google était moins enclin à générer un résumé par IA pour ces requêtes, montrant peut-être de la prudence sur des sujets où le consensus médical est débattu. Lorsqu'il répondait, il fournissait davantage de citations. Baidu, en revanche, était plus disposé à générer une réponse et était plus favorable aux pratiques de la médecine traditionnelle chinoise, tout en incluant des avertissements de sécurité plus clairs. Cela indique que la « prudence » de l'IA n'est pas un paramètre unique, mais un mélange complexe de ton, du nombre de sources citées et de la volonté de générer une réponse en premier lieu. Les chercheurs ont noté que si Baidu était plus favorable à ces pratiques culturelles, il prenait également le temps de mettre en garde les utilisateurs sur la sécurité, montrant que l'adhésion et la prudence peuvent coexister dans ces systèmes.
En fin de compte, cette recherche révèle que l'intelligence artificielle qui guide nos décisions de santé n'est pas un observateur neutre. Elle est façonnée par l'entreprise qui l'a construite, le pays qu'elle dessert et la langue utilisée pour poser la question. Les sources auxquelles elle fait confiance sont souvent celles qu'elle possède ou celles qui sont les plus visibles en anglais. Pour des millions de personnes, cela signifie que le chemin vers l'information de santé n'est pas le même pour tous. À mesure que ces outils se généralisent, l'étude suggère que nous devons être conscients de ces biais cachés. La manière dont un moteur de recherche est construit peut déterminer si une personne verra un expert local ou une corporation lointaine, et en matière de santé, cette différence peut être profonde.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.