Large Language Models Are Overconfident in Their Own Responses
Cet article révèle que les modèles de langage (LLM) ajustés par instructions voient leur excès de confiance exacerbé par les modèles de conversation (chat templates) à travers un « biais de propriété » où les modèles font plus confiance à leurs propres réponses qu'à des réponses identiques fournies par l'utilisateur, et propose une stratégie d'inférence sans réentraînement consistant à présenter les réponses du modèle comme étant des entrées utilisateur afin d'améliorer significativement la calibration.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Le gros problème : L'IA trop sûre d'elle
Imaginez que vous posiez une question à un étudiant très intelligent et très cultivé (une IA). S'il donne la bonne réponse, il devrait dire : « Je suis assez sûr de moi ». S'il se trompe, il devrait dire : « Je n'en suis pas si sûr ».
Cependant, les chercheurs ont découvert que les chatbots d'IA modernes sont très mauvais pour cela. Ils sont trop sûrs d'eux. Même lorsqu'ils se trompent, ils agissent comme s'ils étaient sûrs à 100 %. C'est comme un étudiant qui donne une mauvaise réponse à un problème de mathématiques mais qui insiste, avec un visage impassible, sur le fait qu'il est absolument certain de sa réponse. C'est dangereux car, si vous faites confiance à une IA confiante qui est en réalité dans l'erreur, vous pourriez prendre de mauvaises décisions.
L'enquête : Pourquoi cela arrive-t-il ?
Les chercheurs voulaient savoir pourquoi ces chatbots d'IA sont si sûrs d'eux. Ils soupçonnaient deux coupables principaux :
- L'entraînement : Le processus d'apprentissage de l'IA pour qu'elle devienne un assistant utile (appelé « instruction tuning » ou ajustement par instructions).
- Le style de conversation : La manière spécifique dont nous leur parlons (le « chat template » ou modèle de discussion où une personne est l'« Utilisateur » et l'autre est l'« Assistant »).
La découverte :
Ils ont découvert que les deux sont responsables, mais de manières différentes.
- L'entraînement est le principal méchant. Il apprend à l'IA à être un assistant qui sait tout, ce qui lui fait perdre sa capacité à juger à quel point elle est réellement sûre d'elle.
- Le style de discussion aggrave la situation. Les chercheurs ont découvert une particularité spécifique : l'IA est beaucoup plus confiante dans les réponses qu'elle génère elle-même que dans les réponses identiques si un humain (ou le rôle d'« Utilisateur ») les avait fournies.
L'analogie du « Biais de propriété »
Pensez à l'IA comme à un chef cuisinier dans une cuisine.
- Scénario A : Le chef prépare un plat et vous le sert. Quand vous demandez : « Est-ce bon ? », le chef répond : « Absolument ! C'est parfait ! » (Même si le plat est brûlé).
- Scénario B : Vous (le client) cuisinez le même plat exact et vous le posez sur la table. Vous demandez au chef : « Est-ce que c'est bon ? ». Le chef regarde le plat de manière objective et dit : « Hmm, c'est en fait un peu trop salé ».
Les chercheurs appellent cela le « Biais de propriété » (Ownership Bias). L'IA fait trop confiance à sa propre « cuisine » (son propre texte généré). Elle part du principe : « Si j'ai écrit cette réponse, c'est que j'ai raison ». Cette confiance aveugle la rend trop sûre d'elle.
La solution simple : « Fais semblant que l'utilisateur l'a dit »
La partie la plus excitante de l'article est la solution. Les chercheurs n'ont pas eu besoin de réentraîner l'IA ou de modifier son cerveau. Ils ont simplement changé la manière dont la question était posée pendant la conversation.
L'astuce :
Au lieu de laisser l'IA répondre à la question puis de lui demander : « À quel point es-tu sûr de ta réponse ? », les chercheurs ont dit à l'IA de faire semblant que la réponse avait été fournie par l'Utilisateur.
- Ancienne méthode : L'IA dit « La capitale est Paris. » -> L'IA se demande elle-même : « À quel point suis-je sûre ? » -> L'IA dit « 100 % ! » (Trop sûre d'elle).
- Nouvelle méthode : L'Utilisateur dit « La capitale est Paris. » -> L'IA se demande : « À quel point suis-je sûre que cette réponse est correcte ? » -> L'IA dit « 70 % ». (Beaucoup plus honnête).
En présentant la réponse comme quelque chose que l'Utilisateur a fourni, l'IA abandonne son « biais de propriété ». Elle cesse de se comporter comme un chef fier et commence à agir comme un juge objectif.
Les résultats
Lorsqu'ils ont testé cette astuce simple sur six modèles d'IA populaires différents :
- L'IA est devenue nettement plus honnête concernant son niveau de confiance.
- Elle a réduit son excès de confiance jusqu'à 26 %.
- Elle a rendu les modèles d'IA « bavards » presque aussi fiables que les anciens modèles « de base » (qui étaient naturellement meilleurs pour se juger eux-mêmes, mais moins bons pour suivre des instructions).
Résumé
L'article montre que les chatbots d'IA sont trop sûrs d'eux parce qu'ils sont trop fiers de leurs propres réponses. En trichant simplement pour faire croire à l'IA que la réponse provient de l'utilisateur plutôt que d'elle-même, nous pouvons la rendre beaucoup plus honnête sur ce qu'elle sait et sur ce qu'elle ne sait pas, sans avoir besoin de reconstruire l'IA de zéro.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.