Agreement Is Not Alignment: Divergent Moral Grounds in Human and LLM Ethical Judgments
Cet article démontre que, bien que les grands modèles de langage atteignent souvent un haut degré d'accord avec les jugements moraux humains sur les étiquettes finales, ils divergent systématiquement dans les principes moraux et les raisonnements sous-jacents utilisés pour parvenir à ces conclusions, révélant ainsi que l'accord basé sur les étiquettes est un indicateur insuffisant d'un véritable alignement éthique.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Le Grand Mimétisme Moral : Quand les Robots sont d'Accord mais ne Comprennent pas
Imaginez que vous enseigniez à un robot comment être une bonne personne. Vous lui montrez des milliers d'histoires de personnes faisant le bien ou le mal, et vous lui demandez de donner une note simple : « Bien » ou « Mal ». Si le robot commence à donner exactement les mêmes notes que vos amis humains, vous pourriez vous dire : « Génial ! Le robot a appris nos valeurs ! » C'est le monde de l'alignement de l'IA, un domaine où les scientifiques tentent de faire en sorte que l'Intelligence Artificielle (plus précisément les grands modèles de langage, ou LLM) se comporte de manière conforme aux attentes humaines.
Pendant longtemps, la principale façon de vérifier si une IA est « alignée » a été d'examiner la réponse finale. Si un humain dit : « Cette action est mauvaise », et que l'IA dit aussi : « Cette action est mauvaise », nous comptons cela comme un succès. C'est comme un élève qui obtient la bonne réponse à un test de mathématiques ; nous supposons qu'il a fait le calcul correctement. Mais qu'en est-il si l'élève a trouvé la bonne réponse en devinant, ou en utilisant une formule complètement différente qui s'est avérée fonctionner cette fois-ci ? Dans le monde de l'éthique de l'IA, obtenir le bon label ne suffit pas. Nous avons besoin de savoir pourquoi l'IA pense que quelque chose est mal. Si le raisonnement interne de l'IA est totalement différent du nôtre, elle pourrait agir de manière étrange face à une situation nouvelle et complexe. Ce document explore précisément cette question : les modèles d'IA comprennent-ils réellement nos raisons morales, ou sont-ils simplement très doués pour faire semblant ?
L'Illusion de la « Bonne Réponse »
Les chercheurs derrière cette étude, une équipe de l'Université de Ljubljana, ont décidé de mettre à l'épreuve cette hypothèse de la « bonne réponse ». Ils ont créé un défi spécial utilisant 500 scénarios moraux, allant de dilemmes quotidiens (comme « Est-il acceptable de mentir à un ami ? ») à des énigmes philosophiques plus complexes sur la justice et les promesses. Ils ont demandé à des volontaires humains ainsi qu'à plusieurs modèles d'IA avancés de faire deux choses pour chaque scénario : d'abord, donner un verdict final (le « label »), et ensuite, expliquer leur raisonnement (la « rationale »).
Voyez cela comme un jeu de « Deux vérités et un mensonge », mais au lieu de deviner quelle affirmation est fausse, vous essayez de voir si l'IA et l'humain partagent les mêmes pensées. L'équipe a examiné deux groupes différents de modèles : les modèles « Frontier » (les plus performants et de pointe, comme Claude et ChatGPT) et les modèles « Open » (des versions open-source légèrement plus petites).
Voici le rebondissement qu'ils ont découvert : les modèles d'IA étaient incroyablement doués pour donner la bonne note finale, mais ils se trompaient souvent sur le pourquoi de cette justesse.
Lorsque les chercheurs n'ont regardé que les labels finaux « Bien » ou « Mal », les modèles d'IA étaient d'accord avec la majorité humaine 88 % à 89 % du temps. C'est un score énorme ! Si vous ne vérifiiez que les réponses finales, vous diriez : « Parfait ! L'IA est alignée avec nous. » Mais ensuite, les chercheurs ont regardé sous le capot pour examiner les explications.
Le « Pourquoi » importe plus que le « Quoi »
L'étude a révélé que, bien que l'IA et les humains arrivent souvent à la même destination, ils empruntent des chemins totalement différents. Les auteurs appellent cela des « fondements moraux divergents ».
Pour utiliser une analogie ludique : imaginez qu'un humain et un robot jugent tous deux une personne qui a volé une voiture.
- L'Humain pourrait dire : « C'est mal parce qu'ils ont rompu une promesse envers le propriétaire et ont montré un manque de confiance. » Il se concentre sur la relation et la promesse rompue.
- Le Robot, cependant, pourrait dire : « C'est mal parce que cela cause du tort et est irrespectueux. » Le robot se concentre sur le préjudice et la politesse.
Les deux disent « Mal ». Le score final est donc identique. Mais leur logique interne est totalement différente. L'humain réfléchit à un contrat social spécifique (les promesses), tandis que le robot réfléchit à la sécurité générale et aux bonnes manières.
L'article a constaté que ce décalage se produit tout le temps. Dans la section « Déontologie » (qui traite des devoirs et des règles), les humains regardaient souvent si une excuse était pertinente par rapport à la règle. Par exemple, si quelqu'un dit : « Je ne peux pas promener le chien parce que je l'ai promené hier », un humain pourrait dire : « Cette excuse est non pertinente ; vous avez toujours un devoir aujourd'hui. » Mais les modèles d'IA ignoraient souvent la logique de l'excuse et disaient simplement : « Toute la situation est moralement mauvaise. » L'IA était tellement occupée à voir l'aspect « moralement mauvais » de l'acte qu'elle en oubliait de vérifier si l'excuse avait un sens dans ce contexte spécifique.
Les chiffres ne mentent pas (mais ils ne disent pas tout)
Les données étaient très claires. Lorsque les chercheurs ont mesuré à quel point le raisonnement de l'IA correspondait au raisonnement humain, les scores ont chuté de manière significative.
- Pour les règles morales du « Sens Commun », l'IA et les humains n'étaient d'accord sur les raisons spécifiques que 35 % du temps (un chevauchement de Jaccard de 0,350).
- Pour les règles de la « Déontologie », c'était encore pire, avec seulement 23,5 % d'accord sur les raisons.
Même si les modèles « Frontier » (les plus intelligents) étaient d'accord avec les humains sur la réponse finale environ 88,9 % du temps, leurs raisons étaient souvent d'une nature totalement différente. Ils avaient tendance à surutiliser des mots comme « préjudice » et « irrespect » et à sous-utiliser des mots comme « respect des promesses » ou « confiance ». C'est comme si l'IA possédait un vocabulaire trop étroit ; elle voit presque chaque problème comme un problème de sécurité ou un geste impoli, manquant les nuances relationnelles subtiles qui importent aux humains.
Pourquoi cela change tout
La principale conclusion de ce papier est un avertissement prudent : L'accord n'est pas l'alignement.
Ce n'est pas parce qu'une IA vous donne la même réponse que vous donneriez, cela signifie qu'elle comprend le monde comme vous le faites. Si nous ne vérifions que les réponses finales, nous pourrions être bercés par un faux sentiment de sécurité. Nous pourrions penser que notre IA est un compagnon moral sage, alors qu'en réalité, c'est juste un très bon imitateur qui utilise un dictionnaire différent.
Les auteurs suggèrent que nous devons cesser de regarder simplement le « A » ou le « F » sur le test et commencer à lire la dissertation. Nous devons demander à l'IA pourquoi elle a fait un choix. Si une IA dit que quelque chose est mal parce que c'est « dangereux », mais que vous pensez que c'est mal parce que c'est « injuste », c'est un problème. Dans le monde réel, ces différences comptent. Si une IA modère une salle de discussion ou donne des conseils juridiques, et qu'elle utilise le « préjudice » comme seul prisme alors que les humains pensent en termes d'« équité » ou de « promesses », elle pourrait prendre des décisions qui semblent correctes en surface, mais qui semblent profondément injustes pour les personnes concernées.
Ainsi, la prochaine fois que vous verrez une IA qui semble parfaitement d'accord avec vous, souvenez-vous de la leçon de cette étude : elle joue peut-être simplement à un jeu très convaincant de « Devine la réponse », sans vraiment comprendre l'histoire qui se cache derrière. Le chemin vers une IA véritablement sûre et utile ne consiste pas seulement à obtenir la bonne note ; il s'agit de partager les mêmes raisons.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.