When Reward Is Not Grammar: A Reward-Action Validity Audit of Deep Reinforcement Learning for English Inflection
Cet article introduit un audit de validité récompense-action pour démontrer qu'un notebook de Deep Q-Network prétendant apprendre la morphologie anglaise échoue en réalité à acquérir des règles grammaticales en raison de défauts fondamentaux dans sa fonction de récompense, l'expressivité de ses actions, l'encodage de l'état et sa méthodologie d'évaluation.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le monde trépidant de l'intelligence artificielle, les chercheurs tentent souvent d'enseigner aux machines les règles cachées du langage humain. Ils utilisent une méthode appelée apprentissage par renforcement, qui fonctionne un peu comme l'entraînement d'un chien : l'ordinateur tente une action et, s'il obtient le bon résultat, il reçoit une friandise numérique, ou récompense. Avec le temps, l'ordinateur apprend à répéter les actions qui lui rapportent le plus de friandises. Cette approche est devenue un moyen populaire de tester si une machine peut véritablement comprendre la grammaire sans avoir besoin d'une base de données massive de textes humains. L'espoir est qu'en récompensant simplement les bonnes réponses, une IA puisse découvrir la logique derrière la façon dont nous modifions les mots, comme transformer un nom singulier en un nom pluriel ou changer un verbe au passé. En cas de succès, cela prouverait que les machines peuvent apprendre les structures linguistiques par l'expérience plutôt que par la simple mémorisation.
Cependant, une nouvelle étude de l'Université de Coventry suggère que, dans certaines expériences récentes, les friandises numériques ont été distribuées trop facilement. Les chercheurs, Nikesh Adhikari, Shankar Ghimire et Sagar Neupane, ont décidé d'examiner de près un programme informatique spécifique qui affirmait avoir appris la grammaire anglaise. Ils ne se sont pas contentés de regarder le programme apprendre ; ils ont audité l'intégralité du jeu auquel il jouait. Ils ont vérifié les règles, le système de score et la manière même dont l'ordinateur percevait le monde. Leur enquête a révélé que le programme n'apprenait pas réellement la grammaire. Au lieu de cela, il exploitait les failles du test lui-même pour obtenir des scores élevés tout en produisant des réponses qui étaient souvent fausses, ou même impossibles à générer avec les outils fournis.
L'étude s'est concentrée sur un carnet de notes informatique (notebook) qui prétendait enseigner à un agent artificiel trois compétences spécifiques en anglais : la mise au pluriel des noms, le passage des verbes au passé et l'accord sujet-verbe. Le carnet de notes faisait état de taux de réussite impressionnants, affirmant que l'agent atteignait des scores parfaits pour la formation du passé et une grande précision sur les autres tâches. Les chercheurs ont commencé par poser une question simple : l'ordinateur produisait-il réellement les mots anglais corrects, ou produisait-il simplement des mots que le système de notation acceptait par erreur ? Ils ont découvert que le système de notation était bien trop indulgent. Pour la tâche consistant à mettre les mots au pluriel, le système accordait une récompense positive pour 10 tentatives différentes, mais seulement quatre de ces tentatives étaient de véritables mots anglais corrects. Les six autres étaient des absurdités malformées qui ressemblaient juste assez aux bonnes réponses pour tromper le vérificateur rudimentaire. Dans la tâche du passé, la situation était encore pire. Le système affichait un taux de réussite parfait de 100 %, pourtant, lorsque les chercheurs ont compté les mots réellement corrects, ils ont constaté que seulement 25 % des tentatives récompensées étaient véritablement justes. L'ordinateur était récompensé pour ses erreurs.
Le problème allait plus loin qu'un simple score trop indulgent. Les chercheurs ont découvert que l'ordinateur était physiquement incapable de produire les bonnes réponses pour de nombreux mots testés. Le programme était conçu avec un ensemble d'outils très limité, lui permettant uniquement d'ajouter des lettres à la fin d'un mot. Il ne pouvait ni supprimer de lettres, ni modifier le milieu d'un mot. Cela signifiait que pour certains mots, comme transformer « city » en « cities » ou « baby » en « babies », la réponse correcte nécessitait de supprimer le « y » et d'ajouter « ies ». Comme l'ordinateur ne pouvait pas supprimer le « y », il était impossible pour lui de générer le mot correct, quelle que soit son intelligence. Les chercheurs ont calculé que pour un tiers des mots au pluriel et la moitié des verbes au passé, la réponse correcte était tout simplement hors de portée. Les scores élevés rapportés par le carnet de notes n'étaient donc pas un signe d'apprentissage, mais le signe que le test était défectueux.
De plus, l'étude a révélé que l'ordinateur ne jouait même pas à un jeu qui exigeait de penser de manière séquentielle. Les chercheurs ont retracé les étapes du programme et ont découvert que l'ordinateur voyait le même mot de manière répétée pendant trente étapes sans aucun changement. Il n'avait pas besoin de se souvenir de quoi que ce soit d'une étape à l'autre pour résoudre le problème. Cela a transformé ce qui devait être une tâche d'apprentissage complexe en une simple supposition répétée. Les graphiques visuels du carnet de notes original, qui montraient l'ordinateur apprenant différentes règles au fil du temps et transférant les connaissances de l'une à l'autre, se sont également révélés trompeurs. Les courbes d'« apprentissage » n'étaient en fait que des nombres aléatoires générés par l'ordinateur, et non de réelles mesures de progrès. Les visualisations étaient décoratives, et non des preuves d'intelligence.
Les chercheurs ont également découvert une instabilité cachée dans la façon dont l'ordinateur percevait les mots. Le programme utilisait une méthode pour transformer les mots en nombres qui changeait à chaque redémarrage de l'ordinateur. Cela signifiait que le même mot pouvait paraître totalement différent d'un jour à l'autre. Dans de nombreux cas, deux mots différents finissaient par paraître identiques pour l'ordinateur, ce qui provoquait une confusion. Comme l'ordinateur ne pouvait pas faire la distinction entre ces mots confondus, il ne pouvait pas apprendre la règle correcte pour l'un ou l'autre. Cette instabilité signifiait que les résultats n'étaient pas fiables ; l'ordinateur pouvait sembler apprendre un jour et échouer le lendemain, simplement parce que les nombres qu'il utilisait avaient changé.
En conclusion, l'étude affirme que le carnet de notes original n'a pas prouvé que l'ordinateur avait appris la grammaire anglaise. Il a seulement prouvé que l'ordinateur pouvait trouver un moyen d'obtenir un score élevé sur un test défaillant. Les chercheurs soulignent que cela ne signifie pas que l'apprentissage par renforcement ne peut pas fonctionner pour le langage. Cela signifie simplement que cette expérience spécifique n'était pas correctement configurée pour le tester. Le système de récompense était trop vague, les outils trop limités et l'environnement de test instable. Pour savoir véritablement si une machine a appris une règle, le test doit être précis, les réponses correctes doivent être générables et le score doit exiger le mot exact, et non une simple approximation. Tant que ces conditions ne seront pas remplies, les scores élevés sur de tels tests devront être accueillis avec scepticisme, car ils peuvent refléter les failles de l'expérience plutôt que l'intelligence de la machine.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.