Invisible to the Machine: Auditing AI Restaurant, Cafe, and Bar Recommendation Against a Complete Market Census
Cet article présente le premier audit basé sur un recensement des recommandations de lieux par l'IA à Bali, révélant que 85,6 % des restaurants, cafés et bars locaux sont invisibles pour les principaux systèmes d'IA en raison d'un manque de documentation numérique plutôt que de mauvaises évaluations, tout en soulignant que le principal mode de défaillance consiste à recommander des établissements obsolètes plutôt qu'à fabriquer des lieux inexistants.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous déambulez dans une ville géante et bouillonnante où chaque boutique, café ou restaurant est répertorié dans un immense annuaire invisible. Imaginez maintenant un nouveau genre de guide magique qui ne se contente pas de vous présenter une liste d'options, mais qui vous parle réellement, vous indiquant exactement où aller pour un café ou un dîner. C'est ce que l'Intelligence Artificielle (IA) devient pour la recherche de lieux locaux. Mais voici la partie délicate : ce guide magique ne montre pas tout. Il choisit quelques favoris et ignore le reste. Les scientifiques appellent cela la « recommandation », mais pour les commerces qui sont ignorés, cela ressemble à une invisibilité totale.
Pendant longtemps, nous avons su que si un magasin obtient une bonne note ou apparaît sur une carte, plus de gens le visitent. Mais nous ne savions pas comment ce nouveau guide par IA fonctionne. Est-ce qu'il choisit les meilleurs endroits ? Est-ce qu'il choisit les plus célèbres ? Ou choisit-il simplement les endroits qui possèdent un site web ? Pour le savoir, un chercheur devait confronter le guide à l'ensemble de la ville, et pas seulement à quelques endroits célèbres. Il devait savoir : si vous êtes un commerce réel et ouvert, quelles sont les chances que l'IA sache même que vous existez ?
La grande chasse aux restaurants de l'IA
Un chercheur a décidé de jouer à une version géante du « cache-cache » avec quatre assistants IA populaires (ChatGPT, Claude, Gemini et Perplexity). Il a choisi deux zones très fréquentées de Bali, en Indonésie — Canggu et Ubud — comme terrain de jeu. D'abord, il a fait quelque chose que personne n'avait fait auparavant : il a réalisé un recensement complet de chaque café, restaurant et bar de ces zones. Il a compté 4 776 établissements. Considérez cela comme la création d'une liste maîtresse de tous les joueurs de la partie.
Ensuite, il a envoyé les assistants IA en mission. Il leur a posé 96 questions différentes, en prétendant être différents types de personnes : un nomade numérique cherchant du Wi-Fi, un couple en rendez-vous amoureux, une famille avec des enfants, ou un voyageur à petit budget. Il a posé ces questions sur sept jours, effectuant au total 2 208 tests. L'objectif était simple : voir lesquels des 4 776 commerces réels seraient réellement recommandés par l'IA.
Le résultat choc : la plupart des lieux sont invisibles
Les conclusions ont été stupéfiantes. Sur les 4 776 lieux réels, les assistants IA n'ont jamais recommandé 85,6 % d'entre eux. C'est exact : plus de 8 établissements sur 10 étaient totalement invisibles pour l'IA, peu importe le nombre de fois où on les interrogeait. Même parmi les lieux « établis » — ceux ayant au moins 50 avis et une solide réputation — 72,6 % n'ont jamais été mentionnés.
Il ne s'agissait pas de dire que l'IA choisissait les 10 % les « meilleurs » en ignorant les autres. Les lieux qui étaient recommandés étaient dispersés. Le lieu le plus populaire n'a reçu qu'environ 1,9 % de toutes les recommandations. Ce n'était pas une situation de type « le gagnant rafle tout » où un lieu célèbre recevait tout ; c'était plutôt comme une loterie où la plupart des tickets ne sont jamais tirés au sort.
Le filtre en deux étapes : Entrer dans la course vs Arriver au sommet
Le chercheur a découvert que être recommandé par une IA se fait en deux étapes très différentes, comme le lancement d'une fusée à deux étages.
Étape 1 : Avoir une place à la table (La marge d'entrée)
Avant même qu'une IA puisse classer un lieu, elle doit décider de le mentionner. L'étude a révélé que les notes étoilées n'ont aucune importance ici. Un établissement pouvait avoir 5 étoiles ou 3 étoiles, cela ne changeait rien à ses chances d'être choisi. En revanche, ce qui comptait, c'était la documentation.
- Volume d'avis : Les lieux avec plus d'avis étaient plus susceptibles d'être vus.
- Propre site web : Posséder son propre site web rendait un lieu presque deux fois plus susceptible d'être recommandé.
- Informations sur les prix : Afficher ses prix aidait.
- Mentions sur le web : Être mentionné sur d'autres sites web aidait.
C'est comme si l'IA cherchait une « trace écrite ». Si un lieu possède un site web et beaucoup d'avis, l'IA se dit : « D'accord, ce lieu existe, je vais l'ajouter à la liste. » S'il n'a pas ces empreintes numériques, l'IA agit comme s'il n'existait pas, quelle que soit la qualité de la cuisine.
Étape 2 : Gagner la course (La marge de classement)
Une fois qu'un lieu est sur la liste, alors la note étoilée devient importante. Parmi les lieux que l'IA a réellement décidé de recommander, ceux qui avaient les meilleures notes étaient plus susceptibles d'être listés en premier. Ainsi, les notes vous aident à gagner la course, mais avoir un site web et des avis est ce qui vous permet d'entrer dans le stade.
Ce qui n'a pas fonctionné
Le chercheur a testé quelques idées que les gens de l'industrie jugeaient importantes, et il a découvert qu'elles étaient erronées.
- Présence sur Foursquare : Beaucoup pensaient que si un lieu était répertorié sur la base de données de cartes ouvertes Foursquare, l'IA le trouverait. L'étude a prouvé que c'était faux. Être sur Foursquare n'aidait pas du tout.
- Lieux fictifs : Les gens craignaient que l'IA n'invente de faux restaurants (hallucinations). Bien que cela soit arrivé, c'était extrêmement rare (seulement 0,08 % du temps).
- Le vrai problème : La plus grande erreur de l'IA n'était pas d'inventer des choses, mais de recommander des lieux définitivement fermés. Elle a recommandé 93 établissements fermés. L'IA ne mentait pas ; elle était simplement obsolète.
Le guide instable
Enfin, le chercheur a découvert que l'IA est un peu nerveuse. Si vous posez la même question deux fois de suite, vous pourriez obtenir une liste de restaurants différente. Si vous posez la même question mais que vous changez légèrement les mots (paraphrase), la liste change encore plus. Cependant, lorsqu'ils ont testé l'IA deux semaines plus tard, les résultats étaient aussi changeants qu'au premier jour. Cela signifie que l'IA n'oublie pas lentement les choses avec le temps ; elle est simplement naturellement incohérente, comme un ami qui vous donne des directions différentes selon son humeur.
L'essentiel à retenir
Cette étude montre que pour qu'un restaurant ou un café soit vu par l'IA, avoir une excellente note ne suffit pas. Il faut d'abord être « documenté » dans le monde numérique. Si vous n'avez pas de site web, des prix clairs ou beaucoup d'avis, l'IA peut agir comme si elle ne savait même pas que vous existez. Et pour l'IA elle-même, le principal problème n'est pas qu'elle invente des choses, mais qu'elle recommande des lieux qui ont déjà fermé leurs portes. Le guide magique est puissant, mais il est actuellement aveugle à la majorité du monde réel.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.