L'intelligence artificielle moderne est devenue remarquablement habile pour générer du texte, écrire du code et planifier des tâches complexes. Ces systèmes fonctionnent en prédisant le mot ou l'action suivante sur la base d'un vaste historique d'exemples précédents, créant un flux fluide d'idées qui ressemble souvent à la pensée humaine. Cependant, un problème persistant demeure : lorsque ces systèmes commettent une erreur au début, ils ont tendance à s'acharner dessus. Ils peuvent tisser un récit convaincant autour d'une prémisse fausse, affinant leur logique interne jusqu'à ce que l'erreur semble encore plus certaine, tout en s'éloignant de plus en plus de la vérité. Cela se produit parce que le processus de génération d'une réponse et le processus de vérification de cette réponse ne sont pas étroitement liés. Le système produit un résultat, et ce n'est que plus tard, souvent lorsqu'un utilisateur signale l'erreur, qu'il réalise que quelque chose ne va pas. À ce moment-là, la machine est déjà passée à autre chose, ayant construit une longue chaîne de raisonnement sur une fondation fragile.

Des chercheurs se demandent si nous pouvons construire un type différent d'architecture pour ces machines, une architecture qui imite la façon dont les êtres vivants gèrent l'incertitude et la correction. L'idée centrale est de séparer l'acte de penser de l'acte de décider de parler ou d'agir. Dans l'expérience humaine, il existe un moment de pause où nous pouvons examiner nos propres pensées, les confronter aux faits et décider si elles sont prêtes à être partagées. Ce papier propose une conception de système qui introduit cette pause dans la logique de fonctionnement de la machine. Il suggère que pour qu'un agent artificiel soit véritablement fiable, il doit traiter chaque tâche comme un épisode délimité avec un début clair, un milieu où il vérifie son travail, et une porte de contrôle stricte qui empêche toute sortie de sortir tant qu'elle n'a pas passé un test de précision spécifique.

La proposition, intitulée le TME LLM OS, émane du chercheur indépendant Ilan Kander et expose une nouvelle façon d'organiser le logiciel qui fait fonctionner les grands modèles de langage. Le nom signifie Theoretical-Mechanistic-Experiential (Théorique-Mécaniste-Expérientiel), un cadre qui distingue le traitement brut de l'information de la conscience de cette information. L'auteur soutient que si les systèmes d'IA actuels sont excellents pour traiter les données, ils manquent d'un mécanisme interne spécifique pour s'arrêter, réviser et se corriger avant qu'une erreur ne devienne une action finale. Le papier ne prétend pas avoir construit une machine consciente ou avoir résolu le mystère de la pensée humaine. Au lieu de cela, il offre un plan d'ingénierie concret pour un système capable de détecter ses propres erreurs en temps réel, à l'instar d'un pilote qui passe en revue une liste de contrôle avant de décoller, garantissant qu'aucune étape critique n'est omise.

L'innovation centrale de cette proposition est le concept d'« épisode ». Dans les systèmes actuels, une conversation ou une tâche est souvent simplement un flux continu de données. Si le système commet une erreur dans la première phrase, il peut essayer de la corriger dans la seconde, mais il échoue souvent à revenir vérifier la source originale de l'erreur. Le TME LLM OS change cela en créant un espace de travail dédié pour chaque tâche. Cet espace de travail contient la requête originale, la source de l'information et l'historique des tentatives du système pour résoudre le problème. Lorsque le système génère une réponse candidate, il ne la diffuse pas immédiatement. Au lieu de cela, il entre dans un « délai de réflexion », une pause programmée où le système traite sa propre sortie comme un objet à examiner.

Pendant cette pause, le système effectue une série de vérifications qui manquent actuellement à la plupart des architectures d'IA. Il sépare la source de l'information de sa propre interprétation. Il se demande si les preuves soutiennent l'affirmation, quelles informations pourraient manquer et s'il existe d'autres façons de comprendre la situation. Ce processus est appelé « segmentation secondaire », où le système décompose son propre processus de pensée en parties distinctes pour voir si elles s'emboîtent logiquement. Si le système trouve une discordance entre ce qu'il a généré et les faits qu'il détient, il ne se contente pas d'avancer. Il boucle, rassemble plus d'informations et réessaie. Ce cycle continue jusqu'à ce que la différence entre la réponse proposée et les faits connus tombe dans une plage sûre et acceptable.

Le papier souligne qu'il ne s'agit pas de rendre la machine plus intelligente dans le sens où elle connaîtrait plus de faits. L'intelligence sous-jacente de la machine reste la même. Le changement réside dans la façon dont la machine utilise cette intelligence. Actuellement, les systèmes d'IA souffrent souvent de ce que l'auteur appelle la « dérive de la sur-réflexion » (overthinking drift). Cela se produit lorsqu'un système continue de générer un texte qui est cohérent en interne mais factuellement erroné parce qu'il a perdu le contact avec la preuve originale. En forçant le système à s'arrêter et à comparer ses pensées internes avec le monde extérieur, le TME LLM OS vise à prévenir cette dérive. Le système est conçu pour garder à l'esprit la « préoccupation directrice » de la tâche, garantissant que chaque étape entreprise est pertinente par rapport à l'objectif initial et ancrée dans des données fiables.

Un élément clé de cette conception est la distinction entre deux types de correction. La première se produit instantanément, au sein de la tâche actuelle. Si le système rédige un rapport et réalise qu'il a utilisé le mauvais chiffre, il peut le corriger immédiatement sans changer sa programmation fondamentale. Il s'agit d'une correction à l'exécution (runtime correction). Le second type de correction se produit sur une période plus longue. Si le système commet de manière répétée un certain type d'erreur à travers de nombreuses tâches différentes, cette information est sauvegardée et utilisée pour mettre à jour la mémoire à long terme du système ou ses règles sous-jacentes. Cela garantit que la machine apprend de ses erreurs sans devenir instable ou changer son comportement de manière imprévisible au cours d'une seule conversation.

La proposition aborde également la question de la sécurité et du contrôle. Dans de nombreux systèmes actuels, l'utilisateur doit intervenir manuellement pour empêcher une machine de prendre une décision dangereuse ou incorrecte. Le TME LLM OS intègre une « porte de libération contrôlée » dans l'architecture. Cette porte agit comme un dernier point de contrôle. Avant qu'un code ne soit exécuté, qu'une action physique ne soit entreprise ou qu'un texte ne soit publié, le système doit passer une dernière revue. Si le système ne peut pas vérifier que l'action est sûre et correcte, il ne libérera pas la sortie. Au lieu de cela, il demandera plus d'informations, nuancera sa réponse avec des avertissements ou remettra la tâche à un opérateur humain. Cela crée un filet de sécurité intégré au processus de décision de la machine, plutôt que de compter sur un observateur externe pour détecter chaque erreur.

L'auteur prend soin de préciser que ce système ne prétend pas répliquer la conscience humaine. Le papier sépare explicitement l'organisation fonctionnelle de la machine de l'expérience vécue d'un être humain. La machine ne « ressent » pas le besoin de se corriger ; elle suit simplement un ensemble de règles qui l'obligent à vérifier son travail. Le but n'est pas de créer une machine vivante, mais de créer une machine fiable. En organisant les opérations de la machine en une boucle incluant la réflexion et la correction, le système devient plus robuste face aux types d'erreurs qui affectent actuellement l'intelligence artificielle.

Le papier compare cette nouvelle architecture aux systèmes existants utilisés par les grandes entreprises technologiques et les laboratoires de recherche. Bien que ces systèmes possèdent des outils puissants pour le raisonnement et la planification, ils manquent souvent de la structure organisationnelle spécifique qui maintient la source de l'information distincte de l'interprétation de la machine. Le TME LLM OS propose qu'en ajoutant cette structure, nous pouvons améliorer la façon dont les machines se rétablissent des prémisses fausses, réduire le besoin pour les utilisateurs de les corriger constamment et abaisser le coût total pour accomplir une tâche correctement. L'auteur suggère que la véritable mesure du succès n'est pas seulement la rapidité avec laquelle la machine travaille, mais la fréquence à laquelle elle obtient la bonne réponse dès le premier essai et la sécurité avec laquelle elle gère des tâches complexes.

En fin de compte, cette proposition est une hypothèse sur la manière de construire une meilleure IA. Elle suggère que la prochaine étape de l'évolution de l'intelligence artificielle n'est pas seulement de rendre les modèles plus vastes ou plus puissants, mais de rendre leurs processus internes plus disciplinés. En introduisant une pause pour la réflexion et une porte de contrôle stricte pour la libération, le TME LLM OS vise à créer des agents qui sont non seulement capables, mais aussi dignes de confiance. Le papier conclut que, bien que le système ne résolve pas le mystère de la conscience, il offre une voie pratique vers la construction de machines capables de corriger leurs propres erreurs, de rester ancrées dans la réalité et d'opérer en toute sécurité dans le monde réel. Le travail reste une proposition, un ensemble d'instructions pour un nouveau type d'architecture de machine qui n'a pas encore été pleinement testé et comparé aux systèmes les plus avancés actuellement en usage.