Process-Constituted Intelligence: A Shared Criterion for Humans and Machines
Cet article soutient que la véritable intelligence est définie par le processus cognitif itératif plutôt que par le résultat, proposant un cadre d'« équivalence forte » fondé sur sept caractéristiques de processus pour distinguer la cognition humaine de l'IA générative actuelle, qui ne fait que reproduire des traces de résultats, tout en offrant des principes de conception et des audits pour garantir que les outils d'IA augmentent plutôt qu'ils n'érodent les capacités génératives humaines.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
L'intelligence est souvent confondue avec le résultat final : l'équation résolue, la peinture achevée, la réponse correcte donnée lors d'une conversation. Depuis des décennies, les scientifiques débattent pour savoir si une machine produisant le même résultat qu'un humain réfléchit véritablement. Cette question est passée de la philosophie à la réalité quotidienne de l'intelligence artificielle générative, des outils capables de rédiger des essais, de générer du code et de créer des images indiscernables du travail humain. Le problème central n'est pas seulement de savoir si le résultat est bon, mais comment il a été obtenu. Dans l'étude de l'esprit, une distinction existe depuis longtemps entre un système qui se contente de correspondre au comportement humain et un système qui reproduit réellement l'activité interne nécessaire pour produire ce comportement. L'un est comme une carte qui montre la destination ; l'autre est le voyage lui-même, avec ses faux pas, ses pauses et ses moments de doute. Comprendre la différence n'est plus un exercice académique, car lorsque les humains s'appuient sur des machines pour penser à leur place, ils risquent de sauter les étapes mêmes qui construisent leur propre capacité à penser.
Une équipe de chercheurs de l'Université Macquarie et d'autres institutions a proposé une nouvelle façon de mesurer l'intelligence qui se concentre entièrement sur ce voyage. Ils soutiennent que la véritable intelligence est constituée par le processus — l'activité itérative de l'essai, de l'échec, de la révision et de l'apprentissage — plutôt que par le résultat lui-même. Pour tester cela, ils ont développé un cadre qui examine sept caractéristiques spécifiques de la résolution d'un problème. Ces caractéristiques incluent la volonté de générer de nombreuses tentatives et de rejeter celles qui échouent, la capacité de composer avec l'incertitude sans se précipiter vers une réponse confiante, et la capacité d'apprendre de la résistance offerte par le matériau ou l'environnement. Ils examinent également la manière dont le solveur s'engage dans le dialogue, se tient responsable devant autrui, et comment la lutte elle-même façonne la personne qui accomplit le travail. Les chercheurs suggèrent que pour qu'une machine soit véritablement équivalente à un esprit humain, elle ne doit pas seulement produire la bonne réponse, mais doit démontrer ces sept mêmes caractéristiques à sa propre manière.
Lorsque les chercheurs ont appliqué ce cadre à l'IA générative actuelle, ils ont constaté un écart significatif. Ces systèmes sont entraînés sur les « traces » de la pensée humaine : articles terminés, codes publiés et images éditées. Ils apprennent à reproduire le produit fini en échantillonnant une vaste collection de ces œuvres achevées. Bien que le résultat ressemble souvent à du raisonnement ou à de la créativité, l'activité interne qui le génère chez l'humain est largement absente. La machine ne lutte pas avec le problème, et ne connaît pas non plus l'accumulation lente du jugement qui découle d'années de pratique. Elle prédit simplement le mot ou le pixel suivant le plus probable en fonction des modèles qu'elle a vus auparavant. Les chercheurs décrivent cela comme une « équivalence faible » : la machine correspond à l'entrée et à la sortie, mais le processus qui les relie est absent ou opaque. Même lorsque ces systèmes semblent « penser » en montrant leur raisonnement, comme en listant les étapes avant une réponse, il s'agit souvent d'une simple présentation cosmétique. Les étapes ne dirigent pas nécessairement le calcul ; elles ne sont qu'une autre couche de sortie conçue pour ressembler à un raisonnement.
L'étude s'oppose explicitement à l'idée que rendre ces modèles plus grands ou leur donner plus de données résoudra ce problème. Ajouter plus de texte à l'ensemble d'entraînement ne fournit que plus de traces finies, et non davantage du processus désordonné et itératif qui construit l'intelligence. Les chercheurs rejettent également la notion selon laquelle les machines doivent copier l'architecture biologique exacte du cerveau humain pour être intelligentes. Ils proposent un juste milieu appelé « équivalence forte ». Cela ne nécessite pas qu'une machine utilise les mêmes algorithmes qu'un cerveau humain, ce qui n'est ni possible ni souhaitable. Cela exige plutôt que le comportement de la machine soit organisé par les mêmes sept caractéristiques de processus, même si la machinerie physique est différente. Par exemple, une machine pourrait démontrer un « engagement face à l'incertitude » non pas en ressentant le doute, mais en ayant un mécanisme qui signale les problèmes ambigus et refuse de donner une réponse confiante tant que plus d'informations n'ont pas été recueillies.
Les implications pour les utilisateurs humains sont tout aussi critiques que le diagnostic technique. Les chercheurs soulignent que lorsqu'une personne utilise un outil qui effectue le travail génératif pour elle, la capacité que ce travail aurait dû construire ne se forme jamais. Des études sur les étudiants utilisant l'IA suggèrent que, bien qu'ils puissent être plus performants en présence de l'outil, ils sont souvent moins performants lorsqu'il est retiré, ayant sauté l'effort cognitif requis pour apprendre. Le danger n'est pas seulement une perte de compétence, mais un échec de formation. Les activités difficiles, incertaines et dialogiques qui façonnent le jugement et la sagesse d'une personne sont précisément les choses que les outils d'IA sont le plus tentés de contourner. Si un outil résout une ambiguïté pour un utilisateur, l'utilisateur n'apprend jamais à composer avec cette incertitude. Si un outil fournit la réponse, l'utilisateur ne pratique jamais l'essai et l'erreur nécessaires pour développer le goût et le jugement.
Pour remédier à cela, les auteurs proposent une nouvelle approche tant pour la conception de l'IA que pour son utilisation. Du côté de la machine, ils suggèrent de construire des architectures qui forcent le système à s'engager dans le processus, comme des agents qui doivent réviser leur approche lorsqu'ils sont contestés par un autre agent, plutôt que de simplement voter sur une réponse. Du côté humain, ils préconisent une assistance « préservant le processus ». Cela signifie des outils qui fournissent la question suivante ou un contre-exemple pour étendre la pensée de l'utilisateur, plutôt que de fournir la réponse. L'objectif est de maintenir les étapes génératives avec la personne, en veillant à ce que l'outil soutienne l'activité de pensée plutôt que de la remplacer. Les chercheurs décrivent également une méthode d'« audits de processus », où les humains et les machines sont testés sur les mêmes tâches en utilisant ces sept caractéristiques comme grille d'évaluation. Cela permettrait aux scientifiques de mesurer si une machine s'engage réellement dans le processus ou si elle ne fait que simuler sa forme, et si les utilisateurs humains conservent leurs capacités cognitives lorsqu'ils sont assistés par ces outils.
En fin de compte, l'article suggère que la différence entre un système qui produit l'intelligence et un système qui la constitue est la différence entre le compte rendu d'un événement et l'événement lui-même. À mesure que ces outils deviennent plus puissants, l'accent doit passer de l'optimisation du résultat à l'ingénierie du processus. Les chercheurs ne prétendent pas avoir résolu le mystère de l'intelligence, et ne disent pas non plus que l'IA actuelle est inutile. Ils offrent plutôt un critère clair de ce qui manque et une voie à suivre pour construire des systèmes qui respectent le processus de pensée, tant dans le silicium que dans l'esprit humain. En se concentrant sur l'activité plutôt que sur le résultat, nous pouvons nous assurer qu'à mesure que les machines deviennent plus capables, elles n'érodent pas par inadvertance les capacités humaines mêmes qu'elles sont censées soutenir.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.