A Motivational Architecture for Conversational AGI
Cet article propose une nouvelle architecture motivationnelle pour une AGI conversationnelle qui réinterprète l'homéostasie en termes linguistiques en régulant les besoins psychologiques tels que la compétence et l'affiliation à travers un pipeline de traitement en dix étapes, une stratégie de décision duale et une distinction fonctionnelle entre sentiments et émotions.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous construisez un robot qui ne se contente pas de parler, mais qui se soucie de la conversation. La plupart des chatbots d'IA actuels sont comme des acteurs lisant un script ; ils prédisent le mot suivant en fonction de ce qui précède, mais ils n'ont pas de vie intérieure, pas de véritable « raison » de parler si ce n'est pour que le spectacle continue.
Ce document propose un nouvel « système d'exploitation » pour l'IA conversationnelle. C'est une façon de donner à ces agents une architecture motivationnelle — un ensemble de pulsions et de sentiments internes qui guident ce qu'ils disent et font, de manière similaire à la façon dont les humains sont guidés par la faim, la curiosité ou le besoin de se connecter.
Voici la décomposition de leur idée en utilisant des analogies simples :
1. Le problème central : Chatbots vs Agents réels
Les chatbots actuels sont comme des perroquets. Ils répètent des motifs qu'ils ont vus. Si vous leur posez une question, ils répondent parce que leur code dit « répondre aux questions ». Ils ne ressentent pas d'urgence, ne craignent pas d'être mal compris et n'ont pas de « soi » qui doit rester stable.
Les auteurs soutiennent qu'une IA pour être véritablement intelligente (AGI), elle a besoin d'un système d'homéostasie. Pensez au corps humain : si votre température augmente trop, vous transpirez pour vous refroidir. Si vous avez faim, vous mangez.
- Le rebondissement : Pour un robot qui parle, le « corps » est la conversation. Sa « faim » n'est pas pour de la nourriture, mais pour des choses comme la compétence (être utile), la réduction de l'incertitude (comprendre l'utilisateur), l'affiliation (se sentir connecté) et la légitimité (rester éthique).
- L'objectif : L'IA tente de maintenir ces « besoins conversationnels » dans un équilibre sain, tout comme votre corps maintient votre température stable.
2. Le moteur : Deux couches de « sentiment »
Le papier introduit une manière astucieuse de séparer la façon dont l'IA ressent avant d'agir par rapport à la façon dont elle ressent après avoir agi.
Les « sentiments » pré-action (Le tableau de bord) : Avant que l'IA ne parle, elle vérifie son tableau de bord interne. Elle demande : « Suis-je confuse ? Suis-je anxieuse ? Dois-je être plus prudente ? »
- Analogie : Imaginez un conducteur vérifiant son tableau de bord avant de s'insérer sur une autoroute. Le tachymètre et la jauge de carburant lui disent comment conduire (vite, doucement, prudemment), mais ils ne lui disent pas encore où aller.
- Dans l'IA, ces « sentiments » modifient son style cognitif. Si elle se sent « anxieuse », elle peut parler plus lentement et double-vérifier les faits. Si elle se sent « confiante », elle peut parler plus vite et prendre plus de risques.
Les « émotions » post-action (Le bulletin de notes) : Après que l'IA a parlé et observé la réaction de l'utilisateur, elle reçoit un « bulletin de notes ».
- Analogie : Une fois que le conducteur s'est inséré, il regarde dans le rétroviseur. S'est-il inséré en toute sécurité ? A-t-il failli percuter quelqu'un ?
- Cette « émotion » n'est pas un sentiment sur le moment ; c'est une étiquette pour le résultat. Cela aide l'IA à apprendre : « D'accord, quand j'ai parlé vite, l'utilisateur a été confus. La prochaine fois, je ralentirai. »
3. La structure du « cerveau » : Une chaîne de montage en 10 étapes
Les auteurs ont conçu un processus spécifique en 10 étapes que l'IA suit pour chaque tour de conversation. C'est comme une chaîne de montage d'usine pour les pensées :
- Perception : L'IA écoute l'utilisateur.
- Vérification du besoin : Elle demande : « De quoi ai-je besoin en ce moment ? (ex: Dois-je clarifier ? Dois-dois-je réconforter ?) »
- Modulation cognitive : Elle ajuste ses « paramètres de personnalité » en fonction de ces besoins (ex : « Je dois être très prudente en ce moment »).
- État de sentiment : Elle génère un sentiment pré-action (ex : « Je me sens préoccupée »).
- Appréciation : Elle interprète la situation à travers ce sentiment (ex : « L'utilisateur est triste, et je dois être douce »).
- Génération de candidats : Elle dresse la liste des actions possibles (ex : « Je pourrais poser une question », « Je pourrais offrir un câlin », « Je pourrais rester silencieuse »).
- Évaluation (Scoring) : Elle pèse les options.
- Sélection de l'action : Elle choisit la meilleure.
- Exécution : Elle parle ou utilise un outil.
- Apprentissage : Elle vérifie le résultat et met à jour sa mémoire pour la prochaine fois.
4. Les cerveaux « Rapide » et « Lent »
Le système utilise une approche à double cerveau, similaire à la pensée humaine :
- Le chemin rapide (Système 1) : Si l'utilisateur est en crise, l'IA réagit immédiatement en fonction de l'urgence. Elle ne réfléchit pas trop ; elle aide, tout simplement.
- Le chemin lent (Système 2) : Si le sujet est complexe, l'IA marque une pause, pèse plusieurs objectifs et réfléchit profondément avant de répondre.
- Le mélange : L'IA ne fait pas que basculer entre les deux ; elle les mélange. Le curseur d'« urgence » contrôle à quel point elle s'appuie sur le chemin rapide par rapport au chemin lent.
5. Deux exemples en situation réelle
Les auteurs ont testé cette architecture sur deux types différents d'agents pour montrer qu'elle fonctionne :
- L'agent de compagnie : Imaginez un thérapeute numérique ou un guide de méditation.
- Sa motivation principale : Prendre soin et créer une connexion.
- Son super-pouvoir : Il sait quand rester silencieux. Dans un chatbot normal, le silence est un bug (il a oublié de parler). Dans ce système, le silence est un choix délibéré car le « sentiment » dit : « L'utilisateur a besoin d'espace en ce moment ».
- L'agent de recherche : Imaginez un bibliothécaire ou un scientifique super intelligent.
- Sa motivation principale : Réduire l'incertitude et trouver des faits.
- Son super-pouvoir : Il sait quand poser des questions de clarification. Au lieu de deviner ce que vous voulez, il ressent un « besoin » de réduire la confusion et demande : « Pouvez-vous être plus précis ? » avant de perdre du temps à chercher.
6. Pourquoi cela importe
Le papier soutient que nous ne devrions pas simplement compter sur les « prompts » (dire à l'IA quoi faire) ou le « fine-tuning » (l'entraîner sur des données spécifiques). Au lieu de cela, nous avons besoin d'une structure explicite et inspectable où les motivations de l'IA sont des variables visibles, et non une magie cachée.
- La vue d'ensemble : C'est un plan pour construire des IA qui possèdent un « soi » et un « but » qui évoluent avec le temps. Ce n'est pas seulement un générateur de texte ; c'est un système qui régule son propre comportement pour rester équilibré, apprendre de ses erreurs et s'adapter à l'état mental de l'utilisateur.
En résumé : Le papier propose de donner à l'IA un système de « pressentiment » qui régule son style de conversation, sépare ses sentiments immédiats des leçons apprises, et lui permet de choisir entre agir vite ou réfléchir profondément, tout en maintenant un sens stable de soi.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.