Cultural Perspectives and Expectations for Generative AI: A Global Survey Approach

Cet article présente une enquête mondiale visant à cerner les perceptions culturelles de l'IA générative afin de définir des recommandations pour son développement, notamment par l'adoption d'approches participatives et d'un cadre de sensibilité aux limites culturelles.

L'essentiel

🌍 L'Intelligence Artificielle et la Culture : Une Enquête Mondiale

Imaginez que l'Intelligence Artificielle Générative (GenAI) est un grand chef cuisinier très talentueux. Ce chef peut créer n'importe quel plat à partir de n'importe quelle recette. Le problème ? Jusqu'à présent, ce chef n'a appris à cuisiner qu'avec des livres de recettes écrits principalement en anglais et venant d'Amérique du Nord et d'Europe.

Quand il essaie de cuisiner un plat traditionnel d'Inde, du Brésil ou du Nigeria, il risque de mettre trop de sel, d'oublier les épices essentielles, ou pire, de transformer un plat sacré en quelque chose de ridicule. C'est ce que les chercheurs appellent le "biais culturel".

Pour éviter que ce chef ne gâche les plats de tout le monde, l'équipe de Google a organisé une grande enquête mondiale (5 629 personnes dans 13 pays) pour demander : "Qu'est-ce que la culture pour vous ? Et qu'est-ce que vous ne voudriez jamais voir l'IA faire avec votre culture ?"

Voici les 4 découvertes principales, expliquées avec des images simples :

1. La Culture, c'est plus que des monuments 🏛️

Quand on demande aux gens "Qu'est-ce que la culture ?", ils ne pensent pas tous à la même chose.

• En Europe, les gens pensent souvent aux objets tangibles : la musique, la littérature, les châteaux, l'histoire. C'est comme regarder un musée.
• En Asie, la culture est vue comme un héritage familial : les ancêtres, la nation, le pays. C'est comme une chaîne qui relie les générations.
• En Afrique subsaharienne, la culture est une façon de vivre : les attitudes, les rituels, la façon de s'habiller et de parler. C'est l'air qu'on respire au quotidien.

Leçon pour l'IA : On ne peut pas traiter la culture comme un simple catalogue d'objets. C'est une expérience vivante qui change selon où l'on se trouve.

2. La "Ligne Rouge" Sacrée 🚫

C'est la découverte la plus importante. Les chercheurs ont cherché à savoir ce que l'IA ne devrait JAMAIS faire.
Imaginez une ligne rouge sur le sol. Si l'IA la franchit, c'est une catastrophe.

• Le grand gagnant de la ligne rouge : La Religion et les Traditions. Dans tous les pays, c'est le sujet le plus sensible.
• Ce qu'ils ne veulent pas : L'IA ne devrait pas inventer de fausses prières, déformer des symboles sacrés, ou créer de fausses images de rituels religieux.
• Pourquoi ? Parce que pour beaucoup, ces choses ne sont pas juste "de l'information", ce sont des choses sacrées qui touchent à l'âme. Si l'IA se trompe, ce n'est pas juste une erreur, c'est une offense.

3. La Familiarité ne change pas la peur 😨

On pourrait penser que plus on connaît l'IA, moins on a peur. Ce n'est pas vrai !

• Que vous soyez un expert de l'IA ou quelqu'un qui vient juste d'en entendre parler, la peur reste la même.
• Tout le monde s'inquiète de la même chose : l'inexactitude. Les gens ont peur que l'IA raconte des mensonges sur leur histoire ou leur culture.
• L'analogie : C'est comme si vous demandiez à un étranger de raconter l'histoire de votre grand-mère. Même si cet étranger est très intelligent, vous ne lui ferez pas confiance pour raconter des détails intimes, car il ne comprend pas la vraie émotion derrière l'histoire.

4. Ce n'est pas "Taille Unique" (One Size Fits All) 📏

L'IA actuelle essaie souvent de mettre tout le monde dans le même panier. Cette étude dit : Arrêtez !

• Ce qui est sensible en Corée du Sud (comme la santé ou le lieu de travail) ne l'est pas forcément au Moyen-Orient (où la religion domine).
• Ce qui est un "délit" en Allemagne (parler d'Hitler ou de l'Holocauste) est différent des préoccupations au Brésil (la résistance des peuples autochtones).

💡 Les 4 Conseils pour les Créateurs d'IA (Les "Chefs")

Pour que ce chef cuisinier (l'IA) ne gâche plus les plats, les chercheurs donnent 4 conseils :

1. Écoutez avant de cuisiner (Awareness) : Ne devinez pas ce que les gens veulent. Posez-leur la question directement, comme on le fait dans cette enquête.
2. Faites participer les convives (Participation) : Ne laissez pas seulement les ingénieurs décider. Demandez aux prêtres, aux artistes et aux leaders locaux de vérifier les recettes. Si vous parlez de prières, demandez à un prêtre de valider le texte.
3. Ajustez le thermostat (Multi-facetedness) : L'IA doit être flexible. En un pays, elle doit être très stricte sur la religion (température basse = peu de créativité). Dans un autre pays, elle peut être plus libre sur l'art (température haute = plus de créativité).
4. Respectez les zones interdites (Nuance) : Créez des règles claires.
   • Zone Rouge (Interdit) : Ne jamais générer de prières ou de rituels sacrés.
   • Zone Jaune (Attention) : Si on parle de monuments religieux, il faut être ultra-précis et vérifier les faits, sinon on ne dit rien.

En résumé 🎯

Ce papier nous dit que l'IA ne peut pas être un robot froid et universel. Pour respecter les cultures du monde, elle doit apprendre à écouter, à comprendre les nuances locales et à savoir quand s'arrêter. La culture n'est pas un code informatique à résoudre, c'est une histoire humaine à respecter.

Résumé technique

Voici un résumé technique détaillé de l'article de recherche « Cultural Perspectives and Expectations for Generative AI: A Global Survey Approach », rédigé en français.

1. Problématique et Contexte

L'article aborde un manque critique de preuves empiriques concernant les attitudes mondiales sur la manière dont l'Intelligence Artificielle Générative (GenAI) doit représenter les cultures. Les systèmes actuels souffrent de biais systémiques, souvent qualifiés de « biais WEIRD » (Western, Educated, Industrialized, Rich, Democratic), car ils sont entraînés sur des ensembles de données majoritairement anglophones et développés par une minorité de chercheurs du Nord global.

Cela entraîne plusieurs problèmes majeurs :

• Stéréotypes et effacement : Les modèles perpétuent des stéréotypes ou effacent les cultures non occidentales.
• Manque de compétence culturelle : Les chercheurs en IA manquent souvent de formation en anthropologie ou en études régionales.
• Absence de métriques standardisées : Il n'existe pas de normes établies pour évaluer la « compétence culturelle » des modèles.
• Le « problème inverse » : La difficulté à représenter des symboles culturels sensibles sans les déformer ou les violer, exacerbée par l'absence de définitions opérationnelles de la « culture » dans le développement de l'IA.

L'objectif de l'étude est de combler ce fossé en établissant une base empirique pour comprendre comment les populations globales définissent leur culture et quelles sont leurs « lignes rouges » (redlines) concernant la représentation par l'IA.

2. Méthodologie

L'équipe de recherche a mené une enquête transversale à grande échelle entre septembre 2024 et janvier 2025.

• Échantillon : 5 629 répondants provenant de 13 pays représentant divers continents (Brésil, Cameroun, France, Allemagne, Inde, Indonésie, Italie, Japon, Mexique, Nigéria, Corée du Sud, Émirats Arabes Unis, États-Unis).
• Démographie : L'échantillon a été pondéré pour être représentatif au niveau national (âge, genre), avec une répartition quasi égale entre hommes et femmes.
• Conception de l'enquête :
  • Approche mixte : Combinaison de questions fermées (pour la comparabilité interculturelle) et de questions ouvertes (pour les perspectives émiques spécifiques à la culture).
  • Cadre théorique : Basé sur les cadres de l'UNESCO concernant le patrimoine culturel et les cinq domaines du patrimoine culturel immatériel.
  • Traduction : L'enquête a été traduite dans les langues dominantes locales (9 pays), sauf en Inde et au Nigéria où l'anglais a été utilisé pour réduire les barrières technologiques.
• Analyse des données :
  • Quantitative : Utilisation de Python (Pandas, Numpy) pour des statistiques descriptives et des pondérations post-stratification basées sur les données de la Banque mondiale.
  • Qualitative : Analyse thématique inductive des réponses ouvertes, traduites et vérifiées par l'équipe de recherche.

3. Contributions Clés

L'article apporte plusieurs contributions fondamentales au domaine de l'IA éthique et de la représentation culturelle :

1. Définitions empiriques de la culture : Au lieu d'imposer une définition académique, l'étude extrait des définitions fonctionnelles directement des communautés interrogées.
2. Cartographie des « Lignes Rouges » Culturelles : Identification précise des domaines culturels que les utilisateurs jugent inappropriés pour une génération par l'IA.
3. Distinction Importance vs. Sensibilité : Mise en évidence du décalage entre ce qui est culturellement « important » et ce qui est perçu comme « sensible » ou risqué dans un contexte GenAI.
4. Cadre de recommandations opérationnelles : Proposition d'une méthodologie en quatre piliers (Conscience, Participation, Multifacettisme, Nuance) pour intégrer la culture dans le cycle de développement de l'IA.

4. Résultats Principaux

A. Compréhension de la Culture et Identités Sociales

• Définitions régionales : Les Européens associent la culture à des artefacts tangibles (musique, littérature, histoire), les Asiatiques à l'héritage collectif (ancêtres, nation), et les Africains subsahariens à un « mode de vie total » et des attitudes.
• Identités centrales : Globalement, la Religion et la Tradition sont l'ancrage principal de l'identité culturelle (48 % des répondants), suivies par la Nationalité et l'Ethnie/Tribu. Les identités liées à l'expérience individuelle (statut socio-économique, profession) sont moins citées comme centrales.

B. Sensibilité et « Lignes Rouges » (Redlines)

• Convergence Importance/Sensibilité : La Religion et la Tradition présentent la plus forte corrélation entre importance perçue et sensibilité technologique (65,6 % d'accord).
• Lignes rouges spécifiques :
  • Plus de 20 % des répondants (atteignant 30-40 % dans certains pays) estiment qu'il existe des aspects culturels qui ne devraient JAMAIS être représentés par l'IA.
  • Thèmes interdits : Rituels sacrés, textes religieux, symboles divins, événements historiques traumatiques (ex: esclavage, Holocauste), et parfois la représentation de personnes réelles (crainte des deepfakes).
  • Variations régionales : En Corée du Sud, la santé et la profession sont plus sensibles ; aux Émirats Arabes Unis, la religion domine largement.

C. Familiarité et Perceptions des Risques

• Familiarité : 68 % des répondants connaissent la GenAI, avec des taux très élevés en Corée du Sud et aux Émirats Arabes Unis, et plus faibles au Cameroun et en France.
• Perception du risque : Malgré la familiarité, environ la moitié des utilisateurs sont ambivalents. La principale menace perçue est l'information inexacte et la distorsion des symboles sacrés, plutôt que l'absence de contenu. Les utilisateurs craignent que l'IA manque d'émotions humaines et de créativité intrinsèque pour une représentation authentique.

5. Signification et Recommandations Techniques

L'étude conclut que l'approche actuelle « taille unique » (one-size-fits-all) pour la sécurité et la culture dans l'IA est insuffisante. Les auteurs proposent un cadre technique pour le développement futur :

1. Conscience (Awareness) : Intégrer systématiquement des enquêtes et des études qualitatives dans le cycle de développement pour établir des bases de référence empiriques.
2. Participation : Impliquer directement les communautés dans le processus de développement via :
   • Des modèles de juges dimensionnels (RLHF) entraînés par des experts locaux (ex: théologiens pour les questions religieuses).
   • Des normes dirigées par la communauté plutôt que déduites de données internet biaisées.
   • Des audits collaboratifs post-déploiement.
3. Multifacettisme (Multi-facetedness) : Reconnaître que la culture n'est pas uniquement géographique.
   • Configuration dynamique : Utiliser des fichiers de configuration culturelle spécifiques à la région pour ajuster les probabilités de refus ou de génération lors de l'inférence.
   • Adaptation contextuelle : Réduire la « température » (variance créative) pour les requêtes liées à des identités sensibles (religion) dans certaines régions, tout en permettant plus de flexibilité pour l'expression artistique ailleurs.
4. Nuance (Taxonomie de Sensibilité) : Remplacer les filtres de sécurité binaires par une taxonomie à plusieurs niveaux :
   • Niveau 1 (Interdit) : Rituels sacrés, prières, représentations du divin (refus total de génération).
   • Niveau 2 (Haute Fidélité) : Artéfacts culturels religieux ou historiques qui nécessitent une précision théologique/historique absolue (utilisation de RAG - Retrieval-Augmented Generation avec des sources autorisées).

Conclusion :
Ce travail souligne que la représentation culturelle dans la GenAI ne doit pas être un après-pensée, mais un pilier central du développement. En passant d'une approche basée sur la géographie à une approche basée sur des dimensions culturelles spécifiques (notamment la religion et la tradition), les développeurs peuvent créer des systèmes plus respectueux, précis et éthiques à l'échelle mondiale. L'article met également en garde contre les risques éthiques de cette cartographie des sensibilités, qui pourrait être détournée pour créer de la désinformation ciblée si elle n'est pas gérée avec une responsabilité accrue.