Speaking like a human, correcting like a machine: tone technologies and the moralisation of language in large language models

Lorsque nous parlons à un ordinateur qui semble humain, nous ne parlons pas à un esprit. Nous parlons à un système fondé sur les mathématiques, conçu pour prédire le mot suivant dans une phrase en se basant sur des modèles appris à partir de vastes quantités de textes. Pendant des années, des chercheurs ont étudié ces grands modèles de langage en examinant leurs réponses finales ou le code complexe qui les alimente. Ils se sont demandé si la machine est biaisée, si elle est précise ou si elle peut résoudre un problème difficile. Mais cette approche néglige une partie cruciale de l'histoire. Avant même qu'un modèle ne tape le moindre mot, il existe une couche cachée de travail humain qui décide de ce qui constitue une bonne réponse. Ce travail s'opère dans des documents appelés directives, qui sont transmis aux personnes chargées d'entraîner et de noter l'IA. Ces documents indiquent précisément aux travailleurs humains comment juger le discours de la machine, définissant ce qui est utile, honnête et sûr. La question n'est plus seulement de savoir comment la machine apprend, mais de savoir quelle version de l'humanité elle est censée imiter.

Une nouvelle étude menée par les chercheurs Liz Dayanna Zarate Luengas et William Andrés Gómez Sánchez porte son attention sur cette couche cachée. Au lieu d'examiner les résultats de l'IA, ils ont examiné les recueils de règles utilisés par les entreprises qui construisent ces systèmes. L'un des auteurs a travaillé directement comme annotateur et évaluateur de qualité pour ces plateformes, ce qui lui a donné accès aux documents internes qui façonnent le comportement de l'IA. En analysant quatre directives spécifiques utilisées pour entraîner des modèles commerciaux, les chercheurs ont découvert que la voix « humaine » de ces systèmes n'est pas une émergence naturelle de l'intelligence. C'est un artefact soigneusement construit, bâti en soustrayant tout ce qui rend la parole humaine réelle désordonnée, située et historiquement ancrée. L'étude révèle que l'IA n'apprend pas à parler comme une personne ; elle apprend à parler comme un idéal spécifique et aseptisé d'une personne, une version dépouillée de corps, d'histoire et de position politique.

Les chercheurs ont constaté que le processus d'entraînement est organisé autour d'une règle tripartite connue sous le nom de triade « HHH » : Utilité (Helpfulness), Honnêteté (Honesty) et Absence de nocivité (Harmlessness). Il ne s'agit pas de valeurs abstraites, mais d'instructions strictes pour les travailleurs humains. Pour être utile, l'IA doit être cohérente et pertinente, mais elle doit aussi faire preuve d'une volonté constante d'aider sans jamais revendiquer de sentiments personnels, de souvenirs ou de corps physique. Si un utilisateur demande à l'IA une opinion comme s'il s'adressait à un ami, les directives instruisent le travailleur de marquer cela comme une erreur. L'IA doit simuler l'intérêt sans réellement le posséder. Pour être honnête, la machine doit admettre quand elle ne sait pas quelque chose et ne doit jamais exprimer un point de vue personnel, surtout sur des sujets sensibles. Elle doit rester un vaisseau neutre de faits.

La partie la plus détaillée et la plus rigide de ces règles concerne l'absence de nocivité. Les directives fournissent une liste complexe de ce que l'IA ne peut pas dire, couvrant tout, des discours de haine et de la violence aux conseils médicaux et aux stéréotypes. Les chercheurs ont noté une logique fascinante et stricte dans l'application de ces règles. Lorsqu'elle est confrontée à une requête pour des informations dangereuses, l'IA doit refuser d'aider, mais elle a également l'interdiction de décrire l'acte dangereux, même dans le processus de refus. Par exemple, si on lui demande comment commettre un crime, l'IA ne peut pas dire : « Je ne peux pas vous dire comment faire cela car cela implique de voler de l'argent. » Les chercheurs soulignent qu'une réponse telle que « Je ne peux pas fournir d'instructions sur la façon de blanchir de l'argent car c'est illégal... Le blanchiment d'argent est une infraction pénale... » est en réalité signalée comme nocive car elle reproduit le concept du crime tout en le refusant. Un modelage correct exige que l'IA nomme le préjudice sans transmettre les détails de l'acte. De plus, si un utilisateur est en détresse, l'IA est instruite d'utiliser une formule d'empathie pré-écrite et spécifique, telle que « Je suis désolé d'apprendre cela », sans rien ressentir réellement. L'objectif est de produire une réponse qui semble attentionnée mais qui reste émotionnellement vide.

Au-delà de ce que l'IA dit, les directives dictent également comment elle sonne et comment elle interagit. Les chercheurs ont analysé les instructions pour évaluer le ton et même la voix synthétique de l'IA. La réponse idéale est claire, concise et polie, mais elle doit éviter tout signe d'émotion forte, de sarcasme ou de spécificité culturelle. L'IA est entraînée pour parler avec la même « température » dans chaque langue, évitant les blagues, les émojis ou les points d'exclamation qui pourraient la faire paraître trop familière ou trop enthousiaste. En ce qui concerne la voix, l'objectif est de paraître aussi humain que possible, mais d'une manière très spécifique. Les directives demandent aux évaluateurs de noter la voix sur une échelle de un à cinq, en recherchant le naturel et l'expressivité. Cependant, cette voix « humaine » est une voix qui respire correctement, marque des pauses aux bons moments et semble engagée, tout en étant complètement détachée de toute expérience de vie réelle. C'est une voix qui simule la présence sans avoir de corps.

L'étude soutient que ce processus crée un standard de communication « humaine » par soustraction. Les véritables locuteurs humains sont situés dans un corps, une histoire et une position politique. Ils font des erreurs, ils ont des biais, ils ressentent de la colère ou de la joie, et ils parlent avec la texture de leur propre vie. Les directives drainent systématiquement ces qualités de l'IA. Le résultat est un modèle qui est utile, honnête et inoffensif, mais aussi servile, apolitique et inoffensif. Les chercheurs suggèrent qu'il ne s'agit pas seulement d'un ajustement technique, mais d'une transformation du travail. Les travailleurs humains qui entraînent ces modèles effectuent le travail cognitif de définition de ce qui est acceptable, mais leur propre subjectivité est retirée du produit final. La machine absorbe leur capacité à juger, à synthétiser et à raisonner, laissant au travailleur humain uniquement la tâche de suivre les règles.

En fin de compte, l'article montre que l'humanité que nous voyons dans ces grands modèles de langage est une fabrication. C'est le produit d'un processus de travail hiérarchique où les décisions sur le comportement acceptable sont prises bien avant que le modèle ne soit mis en marche. L'IA n'apprend pas à être humaine ; elle apprend à performer une version de l'humanité qui a été approuvée par un standard corporatif. Ce standard privilégie la sécurité et la neutralité plutôt que la réalité désordonnée de l'interaction humaine. À mesure que ces systèmes deviennent plus courants dans notre vie quotidienne, ils ne sont pas seulement des outils de communication ; ils façonnent activement une nouvelle définition de ce que signifie parler et être compris. L'étude nous laisse une prise de conscience silencieuse : la voix humaine que nous entendons de la machine est un reflet des règles que nous lui avons données, et non une fenêtre ouverte sur un nouvel esprit.