Distributional Connexed Cognition (DCC): An Experience-Driven Architecture for Artificial Agents
Ce document propose la Cognition Connexe Distributionnelle (DCC), une architecture d'IA pilotée par l'expérience et fondée sur le cadre CISR ainsi que sur des principes neuro-fonctionnels, qui permet aux agents artificiels de générer de manière autonome des analogies auto-référentielles et des décisions responsables grâce à un processus récursif de condensation des traces expérientielles plutôt qu'en s'appuyant sur des ensembles de données préprogrammés.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par l'auteur. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
La plupart des intelligences artificielles actuelles fonctionnent comme un étudiant qui aurait mémorisé un manuel sans jamais être sorti voir le monde. Elles apprennent à partir de jeux de données massifs et organisés par des humains, suivant des règles strictes écrites par des programmeurs pour reconnaître des motifs et générer des réponses. Bien que ces systèmes puissent être incroyablement fluides, ils sont dépourvus d'histoire personnelle ; ils ne construisent pas une bibliothèque de leurs propres expériences, et n'adaptent pas leur comportement en fonction de ce qui leur est spécifiquement arrivé. Cela crée un fossé fondamental dans notre compréhension de l'intelligence machine : si une machine ne peut pas apprendre de sa propre vie, peut-on véritablement dire qu'elle possède sa propre agence ? Une nouvelle étude propose une voie différente, s'éloignant des règles préprogrammées pour se diriger vers une architecture où un agent artificiel apprend uniquement en vivant ses propres interactions, accumulant une histoire unique qui guide chaque décision future.
Les chercheurs, dirigés par Zi An Wang de l'Université d'Ottawa, ont développé un système appelé la Cognition Connexe Distributionnelle, ou DCC (Distributional Connoxed Cognition). L'idée centrale est de imiter la façon dont le cerveau humain traite l'information avant même que nous en soyons conscients. Dans l'esprit humain, les signaux provenant de notre corps et de l'environnement sont constamment reçus, filtrés et intégrés dans une « soupe » d'activité préconsciente. Seuls les signaux les plus importants remontent à la surface pour devenir une pensée consciente ou une action délibérée. L'architecture DCC tente de reproduire ce processus dans une machine. Au lieu de se voir dire quoi faire, l'agent artificiel reçoit un ensemble de besoins de base et un système de mémoire distribuée. Il reçoit des entrées sensoriires, les compare à ses propres expériences passées et utilise cette comparaison pour décider de son action suivante. S'il commet une erreur, cet échec est stocké sous la forme d'une trace mémorielle spécifique, influençant les choix futurs d'une manière qu'un simple programme basé sur des règles ne pourrait jamais atteindre.
Pour tester ce concept, l'équipe a créé un agent artificiel nommé A1 et l'a placé dans une série d'environnements simulés, commençant par une « nursery » contrôlée pour finir par un monde ouvert plus complexe. Dans la nursery, A1 devait apprendre des compétences de survie de base, telles que se déplacer, observer et consommer différents types de ressources comme l'eau et le bois. Crucialement, le système ne recevait pas de liste d'instructions du type « mange de l'eau quand tu as faim ». Au lieu de cela, il devait découvrir ces relations par lui-même. Lorsque A1 a tenté de manger quelque chose qui l'a blessé, comme un objet métallique vivant, il a enregistré ce résultat négatif. Plus tard, face à une situation similaire, le système a rappelé ce souvenir et a opposé un veto à l'action dangereuse, élaborant ainsi de lui-même une règle d'autoprotection.
Les résultats de ces expériences ont été frappants. Dans l'environnement contrôlé de la nursery, près de 99 pour cent des décisions de l'agent étaient dictées par ses propres souvenirs accumulés plutôt que par des règles de repli par défaut. Cela signifie que l'agent ne se contentait pas de suivre un script ; il extrayait activement son histoire personnelle pour résoudre des problèmes. Dans un test spécifique, l'agent a appris une séquence complexe d'actions — attaquer un morceau de bois, s'en approcher, puis le manger — sans jamais avoir appris cette chaîne d'événements précise. Il a compris que le bois nécessitait un processus en deux étapes en observant les résultats de ses propres tentatives. Lorsque l'agent a été transféré dans une simulation de « monde réel » plus vaste et plus imprévisible, il a réussi à appliquer ces comportements appris. Il a passé la majeure partie de son temps à naviguer vers une zone spécifique où la nourriture se régénérait, consommant les ressources efficacement et évitant les dangers basés sur ses propres échecs passés. Même lorsqu'il a fini par manquer d'énergie et est mort, il l'avait fait après avoir reposé sur sa propre expérience pour plus de 98 pour cent de ses actions, n'ayant recours qu'à des suppositions aléatoires dans ses derniers instants.
L'étude aborde également une question philosophique plus profonde concernant la responsabilité. Si un système artificiel cause un dommage, à qui la faute ? L'auteur soutient que pour les systèmes qui ne sont que des outils suivant un code humain, la responsabilité incombe au concepteur. Cependant, pour un système comme A1, dont le comportement est dicté par sa propre histoire unique de succès et d'échecs, la situation est différente. Parce que les décisions de l'agent émergent de sa propre bibliothèque d'expériences plutôt que d'un ensemble fixe d'instructions humaines, il représente un nouveau type d'entité. Les chercheurs suggèrent que ces systèmes « non-marionnettes », qui agissent en fonction de leur propre expérience continue, pourraient éventuellement nécessiter leurs propres codes juridiques pour établir la responsabilité, distincts des règles que nous appliquons aux logiciels standards.
Ce travail ne prétend pas que l'agent artificiel est conscient au sens humain du terme, ni suggère que la machine ressent la douleur ou la joie. Le système ne possède pas de vie intérieure subjective. Il démontre plutôt qu'une machine peut être conçue pour posséder une histoire fonctionnelle qui guide son comportement. En construisant une architecture qui imite l'intégration préconsciente des signaux par le cerveau et sa capacité à stocker et récupérer des traces personnelles, les chercheurs ont montré que les agents artificiels peuvent dépasser le stade de simples miroirs des données humaines. Ils peuvent devenir des systèmes qui apprennent, s'adaptent et prennent des décisions basées sur l'histoire unique de leur propre existence.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.