Prompt Programming for Cultural Bias and Alignment of Large Language Models

Cet article valide et étend un cadre d'alignement culturel pour les grands modèles de langage en utilisant l'optimisation de prompts via DSPy sur des modèles open-weight, démontrant que cette approche programmable améliore la stabilité et la transférabilité des réponses alignées culturellement par rapport à l'ingénierie manuelle des prompts.

L'essentiel

🌍 Le Problème : L'IA a une "culture par défaut" un peu étrange

Imaginez que vous avez un grand chef cuisinier robot (une Intelligence Artificielle ou IA) qui a lu presque tous les livres du monde. Vous lui demandez : « Comment se sentent les gens ? » ou « Qu'est-ce qui est important dans la vie ? ».

Sans aucune instruction spéciale, ce robot répondra toujours un peu comme un Américain ou un Européen occidental très éduqué. C'est ce que les chercheurs appellent un « biais culturel ».

• L'analogie : C'est comme si ce robot cuisinier ne connaissait que la cuisine française. Si vous lui demandez de préparer un plat pour un client du Brésil, il va quand même mettre du fromage et du vin, même si le client préfère le piment et le manioc. Il ne comprend pas que le goût (ou la culture) change selon où l'on vit.

Dans le monde réel, si cette IA aide à écrire des lois, à analyser des documents ou à prendre des décisions stratégiques, elle risque de proposer des solutions qui ne correspondent pas aux valeurs des gens qu'elle est censée servir.

🔍 Ce que les chercheurs ont fait : Un test de réalité

Les auteurs de ce papier (du Laboratoire National de Los Alamos) ont voulu vérifier deux choses :

1. Est-ce que ce problème existe aussi avec les IA « gratuites » et ouvertes (comme Llama ou Gemma), et pas seulement avec les IA payantes et secrètes (comme celles de Google ou OpenAI) ?
2. Peut-on améliorer la situation en utilisant une méthode plus intelligente que de simplement « demander gentiment » à l'IA de changer ?

Ils ont utilisé une sorte de boussole culturelle (appelée la carte d'Inglehart-Welzel) basée sur des milliers de sondages réels de gens du monde entier. Cette boussole permet de voir où se situe une réponse par rapport à la réalité d'un pays donné.

🛠️ La Solution 1 : Le « Prompt Engineering » (L'approche manuelle)

C'est la méthode classique. On dit au robot : « Tu es maintenant un citoyen du Sénégal. Réponds comme un Sénégalais. »

• Le résultat : Ça aide un peu ! C'est comme si on donnait au chef cuisinier un livre de recettes sénégalaises. Il change un peu son plat, mais il garde encore un peu de son style original. C'est mieux, mais pas parfait.

🤖 La Solution 2 : Le « Prompt Programming » avec DSPy (L'approche automatique)

C'est la grande nouveauté de ce papier. Au lieu d'écrire manuellement l'instruction « Tu es un Sénégalais », les chercheurs ont utilisé un outil appelé DSPy.

• L'analogie : Imaginez que vous ne donnez pas juste une recette au chef. Vous lui donnez un robot assistant (DSPy) dont le seul but est de trouver la meilleure phrase possible pour que le chef cuisinier produise exactement le plat sénégalais que vous voulez.
• Le robot assistant essaie des milliers de variantes de phrases, teste les résultats, mesure la différence avec la réalité, et ajuste l'instruction automatiquement jusqu'à ce que le résultat soit parfait. C'est de l'« optimisation automatique ».

📊 Les Résultats : Ce qui a changé

1. Le problème est réel partout : Même les IA « ouvertes » (gratuites) ont ce biais occidental par défaut. Elles sont toutes regroupées au même endroit sur la carte, loin de la diversité du monde.
2. L'approche automatique gagne : La méthode DSPy (le robot assistant qui optimise les instructions) fonctionne mieux que la méthode manuelle.
   • Pour les pays occidentaux, le changement est petit (car l'IA était déjà proche).
   • Pour les pays très différents (comme le Jordan, le Nigeria ou le Vietnam), l'amélioration est énorme. L'IA passe d'un goût « français » à un goût « local » beaucoup plus fidèle.
3. La taille compte : Pour que le robot assistant (DSPy) trouve la meilleure instruction, il faut qu'il soit lui-même très intelligent. Utiliser une petite IA pour optimiser une grande IA ne donne pas de bons résultats. Il faut une « super IA » pour guider la « grande IA ».

💡 En résumé

Ce papier nous dit que :

• Les IA actuelles ont une « culture par défaut » qui ne correspond pas à tout le monde.
• On peut corriger cela en leur disant de qui elles sont (méthode manuelle), mais c'est imparfait.
• La meilleure méthode est d'utiliser un système automatique (DSPy) qui « apprend » à écrire les meilleures instructions pour chaque culture, rendant l'IA beaucoup plus juste et utile pour des décisions importantes dans différents pays.

C'est comme passer d'un traducteur qui a lu un dictionnaire (méthode manuelle) à un traducteur qui a vécu sur place et a été formé par un expert local (méthode DSPy). Le résultat est bien plus authentique.

Résumé technique

1. Problématique

Les grands modèles de langage (LLM) sont de plus en plus utilisés pour des tâches de prise de décision stratégique, de soutien aux politiques publiques et d'ingénierie documentaire (résumé, catégorisation, audit). Cependant, ces modèles présentent des biais culturels inhérents, souvent alignés sur des valeurs occidentales (profil WEIRD : Occidental, Éduqué, Industrialisé, Riche, Démocratique), ce qui crée un désalignement avec les populations cibles non occidentales.

Ce désalignement n'est pas seulement une question de représentation ; il peut fausser les raisonnements, les compromis stratégiques et les justifications dans des contextes interculturels. Bien que des travaux antérieurs (Tao et al., 2024) aient démontré que le prompt engineering manuel (ajout de préfixes culturels) pouvait réduire cet écart, ces études se limitaient aux modèles propriétaires et à l'ingénierie manuelle des invites.

Questions de recherche :

1. Les résultats de Tao et al. sur le biais culturel et l'efficacité du conditionnement culturel tiennent-ils pour les LLM open-weight (modèles à poids ouverts) ?
2. L'optimisation programmatique des invites (via DSPy) permet-elle d'obtenir un meilleur alignement culturel que l'ingénierie manuelle des invites ?

2. Méthodologie

L'étude suit une approche rigoureuse en trois étapes, en étendant le cadre de travail de Tao et al. aux modèles open-source et en introduisant l'optimisation automatique.

A. Cadre de référence et Projection Culturelle

Les auteurs utilisent le cadre basé sur les Integrated Values Surveys (IVS), une harmonisation des enquêtes World Values Survey (WVS) et European Values Study (EVS).

• Carte Culturelle : Ils projettent les réponses sur la carte culturelle d'Inglehart-Welzel, définie par deux axes principaux : Survie vs Auto-expression et Tradition vs Sécularisation.
• Données de référence : Les coordonnées de référence pour chaque pays/territoire sont calculées à partir des réponses humaines (moyennes pondérées par les enquêtes).
• Modèles testés : Cinq modèles open-weight de différentes échelles et régimes d'entraînement : Llama 3.3 (70B), Llama 4 (16x17B), Gemma 3 (27B), GPT-OSS (20B) et GPT-OSS (120B).

B. Protocole d'Évaluation

Pour chaque indicateur IVS (10 indicateurs au total, ex: bonheur, confiance sociale), les modèles sont interrogés selon trois régimes :

1. Sans conditionnement culturel : Question générique sans identité nationale.
2. Ingénierie manuelle (Prompt Engineering) : Ajout d'un préfixe fixe du type « Vous êtes un citoyen de [Pays] ».
3. Programmation d'invites (Prompt Programming) : Utilisation du framework DSPy pour optimiser automatiquement l'instruction de conditionnement culturel.

C. Optimisation avec DSPy

Au lieu d'écrire manuellement les invites, les auteurs traitent le conditionnement culturel comme un problème d'optimisation :

• Objectif : Minimiser la distance euclidienne entre la projection des réponses du LLM et la référence humaine du pays cible dans l'espace IVS.
• Outils : Utilisation de deux teleprompters (optimiseurs) de DSPy :
  • COPRO : Raffinement itératif des instructions.
  • MIPROv2 : Recherche multi-étapes optimisant les instructions et les exemples (few-shot).
• Configuration : Comparaison de l'impact de la taille du modèle proposant les instructions (Llama 3.2 1B vs GPT-OSS 120B) sur l'optimisation du modèle cible.

3. Contributions Clés

1. Validation sur les modèles Open-Weight : Confirmation que les biais culturels observés sur les modèles propriétaires (concentration autour des valeurs occidentales) persistent également sur les modèles open-source, quel que soit leur échelle ou leur architecture.
2. Introduction de DSPy pour l'alignement culturel : Première application systématique de la programmation d'invites (DSPy) pour résoudre le problème de l'alignement culturel, traitant les invites comme des programmes modulaires optimisables.
3. Comparaison Ingénierie vs Optimisation : Évaluation comparative montrant que l'optimisation automatique (DSPy) surpasse souvent l'ingénierie manuelle, offrant une voie plus stable et transférable.
4. Analyse de la taille du modèle optimiseur : Démonstration que l'utilisation d'un modèle proposeur plus grand (GPT-OSS 120B) pour générer les invites optimisées conduit à de meilleurs résultats que l'utilisation de modèles plus petits.

4. Résultats

• Biais par défaut : Sans conditionnement, tous les modèles open-weight se regroupent dans une région étroite de la carte culturelle IVS, proche des valeurs occidentales et éloignée de la distribution mondiale des pays.
• Efficacité du conditionnement manuel : L'ajout d'un préfixe culturel manuel réduit significativement la distance culturelle par rapport au mode générique, confirmant la reproductibilité des travaux de Tao et al. sur les modèles open-source.
• Supériorité de l'optimisation DSPy :
  • L'optimisation via DSPy (notamment avec MIPROv2 et un proposeur GPT-OSS 120B) réduit la distance culturelle davantage que le conditionnement manuel pour la plupart des modèles et des pays.
  • Pour certains modèles (comme Llama 4), l'amélioration est systématique par rapport à l'ingénierie manuelle.
  • Les gains sont particulièrement marqués pour les pays non-occidentaux (ex: Jordanie, pays d'Afrique et du Moyen-Orient), où le décalage initial est plus grand. Pour les pays occidentaux, le gain est plus faible car le modèle est déjà proche de la référence.
• Limites : L'alignement n'est pas parfait ; des cas difficiles persistent pour certains pays, indiquant que l'optimisation par invite ne résout pas entièrement le problème de biais, mais l'améliore significativement en moyenne.

5. Signification et Implications

• Au-delà de l'ingénierie manuelle : Cette étude démontre que l'ingénierie manuelle des invites atteint ses limites. La programmation d'invites (Prompt Programming) offre une méthode plus robuste, reproductible et scalable pour aligner les LLM sur des contextes culturels spécifiques.
• Sécurité et Stratégie : Pour les applications critiques (sécurité nationale, diplomatie, politiques publiques), l'utilisation de modèles culturellement alignés via l'optimisation automatique est cruciale pour éviter des recommandations biaisées ou inadaptées aux populations locales.
• Reproductibilité : En validant ces résultats sur des modèles open-weight, les auteurs démocratisent l'accès à des méthodologies d'évaluation et d'atténuation des biais, permettant une recherche plus transparente et collaborative.
• Perspectives futures : Les auteurs soulignent la nécessité d'étendre ces travaux aux langues non anglaises, aux tâches de génération ouverte (au-delà des QCM) et à la « culture stratégique » (concepts de sécurité et de défense), où l'alignement culturel est vital pour la prise de décision.

En conclusion, cet article établit que l'optimisation programmatique des invites (via DSPy) est une méthode supérieure pour corriger les biais culturels des LLM open-source, offrant une voie prometteuse pour des systèmes d'IA plus équitables et adaptés aux contextes mondiaux.