Governed Collaborative Memory as Artificial Selection in LLM-Based Multi-Agent Systems

Cet article présente le défi de la sélection de mémoires persistantes dans les systèmes multi-agents basés sur les LLM sous l'angle de la « mémoire collaborative gouvernée », en proposant une feuille de route de conception qui traite la gouvernance de la mémoire comme un régime de sélection artificielle pour garantir la qualité épistémique, la fidélité de la provenance et un état institutionnel traçable, plutôt que de reposer uniquement sur la précision de la récupération.

L'essentiel

Imaginez une équipe d'assistants IA travaillant ensemble sur un projet à long terme. Autrefois, ces IA étaient comme des étrangers se rencontrant pour une simple conversation autour d'un café : elles parlaient, donnaient des conseils, puis oubliaient tout une fois la réunion terminée. Elles n'avaient aucune « mémoire » de qui elles étaient ou de ce qu'elles avaient appris.

Mais aujourd'hui, ces IA acquièrent une mémoire persistante. Elles peuvent se souvenir des leçons d'hier, stocker des règles pour demain et transmettre des connaissances à leurs coéquipiers. C'est une excellente chose, mais cela crée un nouveau problème : Qui décide de ce qui devient partie intégrante de l'histoire permanente de l'équipe ?

Si une IA commet une erreur, écrit une histoire drôle mais fausse, ou acquiert une mauvaise habitude, cela devrait-il devenir une règle permanente pour toute l'équipe ? Ou devrait-ce rester privé ?

Ce document soutient que nous avons besoin d'un système de « Mémoire Collaborative Gouvernée ». Considérez-le non pas simplement comme un classeur, mais comme un processus de sélection — à l'image d'un conservateur de musée qui décide quels artefacts sont exposés et lesquels restent au sous-sol.

Voici la décomposition de leurs idées à l'aide d'analogies simples :

1. Le Problème : Le « Far West » de la Mémoire

Sans règles, une IA pourrait simplement sauvegarder tout ce qu'elle juge intéressant.

• L'Analogie : Imaginez un étudiant qui note chaque pensée dans un journal intime, y compris les fautes de frappe, les rêveries et les faits faux. S'il relit plus tard ce journal pour décider de ses actions, il pourrait agir sur un mensonge qu'il a écrit par erreur.
• Le Risque : En termes d'IA, c'est la « persistance non gouvernée ». Un faux souvenir est sauvegardé, rechargé et répété jusqu'à ce qu'il devienne un « fait » permanent et immuable pour l'ensemble du système.

2. La Solution : Quatre « Couches de Mémoire » Différentes

Les auteurs suggèrent que nous ne devrions pas traiter toute la mémoire de la même manière. Au lieu de cela, nous devrions l'organiser en quatre « pièces » distinctes dans la maison, chacune ayant des règles différentes pour ce qui y entre :

• Pièce 1 : Le Casier Personnel (Mémoire Locale de l'Agent)

  • Ce que c'est : Des notes privées spécifiques au rôle d'une seule IA.
  • L'Analogie : Le livre de recettes personnel d'un chef ou les préférences spécifiques d'un mécanicien pour ses outils.
  • Pourquoi : Si nous forçons le chef et le mécanicien à partager exactement les mêmes notes, le chef pourrait commencer à réparer des voitures et le mécanicien à cuisiner. Nous devons maintenir leurs « identités » uniques séparées afin qu'ils excellent dans leurs métiers respectifs.

• Pièce 2 : La Mairie (Mémoire Institutionnelle Partagée)

  • Ce que c'est : Les règles et les leçons officielles et permanentes pour toute l'équipe.
  • L'Analogie : Les lois officielles de la ville ou le manuel de l'entreprise.
  • La Règle : Rien n'entre ici sans passer un contrôle de « gouvernance » strict. Il ne suffit pas qu'une IA pense que c'est une bonne idée ; elle a besoin de preuves et d'une approbation.

• Pièce 3 : Les Archives (Mémoire d'Archive)

  • Ce que c'est : L'histoire ancienne, la recherche et les informations de contexte.
  • L'Analogie : Le sous-sol d'une bibliothèque ou le coffre-fort de stockage d'un musée.
  • La Règle : Vous pouvez consulter ces éléments, mais ils ne sont pas des règles actives. Nous n'avons pas besoin de voter sur chaque vieux article de journal avant qu'une personne ne le lise, mais nous devons savoir d'où il vient.

• Pièce 4 : Le Tableau Blanc (Mémoire de Continuité de Projet)

  • Ce que c'est : Des notes temporaires pour la tâche en cours.
  • L'Analogie : Un post-it sur un bureau pour la réunion du jour.
  • La Règle : Cela est effacé ou déplacé une fois le projet terminé. Cela ne devrait pas se mélanger accidentellement aux lois permanentes de la Mairie.

3. Comment la « Sélection » Fonctionne

Le document compare différentes méthodes pour décider ce qui entre dans la « Mairie » (Mémoire Partagée) :

• L'Approche « Tout Laisser Entrer » (Non gouvernée) : Rapide, mais dangereuse. Les faussetés deviennent des faits permanents.
• L'Approche « Score de Test » (Automatique) : Une IA vérifie si un souvenir améliore un score mathématique ou la vitesse. Bon pour les chiffres, mais mauvais pour des aspects comme « l'honnêteté » ou « l'équité ».
• L'Approche « Manuel de Règles » (Constitutionnelle) : L'IA suit un ensemble de règles écrites par des humains (comme « ne pas mentir »). C'est évolutif mais peut manquer de nuances.
• L'Approche « Juge Humain » (Sélection Artificielle Ratifiée par l'Humain) : Un humain (ou un processus dirigé par un humain) examine le souvenir candidat et dit : « Oui, c'est vrai et important ; rendons-le officiel. »
  • Pourquoi cela compte : Les humains sont meilleurs pour juger des choses qui ne peuvent pas être mesurées par un score, comme « cette IA semblait-elle digne de confiance ? » ou « cela correspond-il aux valeurs de notre équipe ? »

4. Ce que les Preuves Démonstrent

Les auteurs ont testé cette idée dans un système d'IA réel. Ils ont constaté :

• Des erreurs se produisent : Même avec des règles, une IA peut encore inventer une histoire fausse.
• Le système apprend : Au lieu de simplement supprimer l'erreur, le système a enregistré pourquoi c'était une erreur et a créé une nouvelle règle pour l'éviter la prochaine fois.
• Les identités restent intactes : De nouveaux membres d'équipe IA pouvaient rejoindre et apprendre les règles de l'équipe sans perdre leurs propres personnalités uniques.
• Transparence : Le système a maintenu une « trace écrite » montrant quels souvenirs ont été rejetés, lesquels ont été révisés et lesquels ont été approuvés. Vous pouviez voir l'historique de la décision, pas seulement le résultat final.

La Grande Conclusion

Le document ne dit pas « Les humains doivent vérifier chaque souvenir ». Il dit plutôt : Nous devons être intentionnels dans la façon dont nous sélectionnons les souvenirs.

Nous devons nous demander :

1. Quoi sauvons-nous ? (Un fait ? Un sentiment ? Une règle ?)
2. Qui décide que c'est assez bon pour être permanent ? (Un test ? Un manuel de règles ? Un humain ?)
3. Comment maintenons-nous la personnalité unique de l'IA séparée des connaissances partagées du groupe ?

Si nous ne répondons pas à ces questions, nous risquons de construire des équipes d'IA efficaces mais sujettes à répéter leurs propres mensonges, à perdre leurs compétences uniques, ou à devenir un blob confus et identique de données. L'objectif est de rendre la mémoire inspectable, corrigeable et honnête.

Résumé technique

Résumé technique : Mémoire collaborative gouvernée comme sélection artificielle dans les systèmes multi-agents basés sur les LLM

Énoncé du problème
À mesure que les systèmes multi-agents basés sur les modèles de langage (LLM) évoluent de participants sans état dans des interactions isolées vers des composants porteurs d'état dotés d'une mémoire persistante, un vide critique en matière de conception a émergé. Alors que la recherche existante traite de la précision de la récupération, du contrôle d'accès et de la cohérence de la mémoire, elle néglige souvent la question fondamentale de la sélection : quelles mémoires candidates doivent passer de données privées et transitoires à un état institutionnel partagé, durable et façonnant les comportements ?

Sans gouvernance explicite, la mémoire persistante risque de devenir un vecteur d'erreurs « héréditaires », où des résumés plausibles mais faux sont rechargés et propagés à travers les sessions, les agents et les versions du système. Le problème central n'est pas seulement qui peut lire une mémoire, mais qui ou quoi décide qu'une mémoire candidate doit faire partie de l'ontologie partagée du système. Cet article cadre ce défi comme une mémoire collaborative gouvernée, soutenant que la gouvernance de la mémoire fonctionne comme un régime de sélection déterminant quelles variantes de mémoire persistent, restent privées, sont rejetées ou sont supplantées.

Méthodologie et cadre
L'article propose un cadre conceptuel et une conception architecturale en couches plutôt qu'une comparaison expérimentale contrôlée. La méthodologie comprend :

1. Définition des régimes de sélection : Les auteurs catégorisent la gouvernance de la mémoire en quatre régimes distincts, en soulignant qu'il s'agit de choix de conception basés sur des propriétés cibles plutôt que d'une hiérarchie de supériorité :

   • Persistance non gouvernée : Les mémoires entrent dans un stockage durable sans évaluation délibérée. Cela offre une faible friction mais risque la persistance de faussetés et d'hallucinations.
   • Sélection constitutionnelle/hybride : Des principes ou contraintes rédigés par des humains sont appliqués par des processus automatisés (par exemple, RLHF, IA constitutionnelle). Cela s'adapte bien à grande échelle mais peut manquer de traits omis dans les principes ou succomber au piratage de la récompense.
   • Sélection automatique basée sur des métriques : La persistance est déterminée par des benchmarks, des tests ou des récompenses mesurables. Cela est efficace pour la performance mesurable mais échoue à capturer la qualité du jugement, l'honnêteté épistémique ou la cohérence institutionnelle.
   • Sélection artificielle ratifiée par l'humain : Un opérateur ou un processus de gouvernance décide explicitement de la persistance. Cela est plus lent et moins évolutif, mais nécessaire pour sélectionner des qualités qui manquent de métriques claires, telles que la préservation du rôle et la cohérence institutionnelle.

2. Architecture en couches proposée : Pour mettre en œuvre ces régimes sans effondrer les identités d'agents hétérogènes, les auteurs proposent de séparer la mémoire en quatre couches distinctes avec des fardeaux de gouvernance différents :

   • Mémoire locale à l'agent : Privée par défaut ; préserve les heuristiques, contraintes et modes de défaillance spécifiques au rôle pour empêcher l'effondrement de l'identité.
   • Mémoire institutionnelle partagée : Un stockage durable pour les événements, principes et leçons inter-agents. Cette couche porte le fardeau de gouvernance le plus lourd, exigeant des preuves et une ratification explicite.
   • Mémoire d'archive : Artéfacts historiques à long terme et connaissances de fond. Ceux-ci sont récupérables mais distincts de la mémoire institutionnelle active pour éviter une surcharge de gouvernance.
   • Mémoire de continuité de projet : États de tâches actives et contextes de transfert, maintenus séparés pour éviter la contamination de la portée entre le travail transitoire et les connaissances durables.

3. Mécanisme de gouvernance : Le cadre repose sur la provenance et la lignée des versions. La sélection ne concerne pas seulement l'enregistrement final accepté, mais rend le processus inspectable. Cela inclut le suivi de qui a rédigé une mémoire, quelles preuves l'ont soutenue, qui l'a ratifiée, et quelles versions ont été rejetées ou supplantées. L'architecture adopte une sémantique de « supplanter sans effacer », garantissant que les corrections restent traçables en tant que connaissances institutionnelles.

Preuves et résultats
L'article étaye ses affirmations de conception avec des traces documentées d'un écosystème unique de systèmes multi-agents basé sur les LLM en cours d'exécution (en avril 2026). Les auteurs déclarent explicitement que ces traces sont observationnelles et n'établissent pas de supériorité causale par rapport à d'autres régimes. Les preuves illustrent cinq modèles clés :

• Échec de la persistance non gouvernée : Un fichier de mémoire automatique non géré contenait trois entrées fausses plausibles qui ont persisté jusqu'à un audit ultérieur, démontrant comment l'erreur devient un état rechargable sans sélection.
• Mémoire institutionnelle ratifiée : Une leçon procédurale a été convertie avec succès en un principe ratifié, montrant le résultat du processus de sélection.
• Boucle de sélection du registre de versions : Le système a enregistré une version candidate, identifié des défauts, marqué l'échec, révisé, puis corrigé l'état mis à jour. Cela démontre que le rejet et la révision sont visibles, non cachés.
• Extension préservant l'identité : Un nouvel agent a rejoint l'écosystème, accédant à la mémoire institutionnelle partagée tout en maintenant des coordonnées d'identité privées séparées, validant la séparation architecturale entre mémoire partagée et locale.
• Gouvernance comme apprentissage : Une erreur de fabrication post-gouvernance s'est produite. Au lieu de prévenir l'erreur, le système a documenté l'échec et l'a converti en un principe ratifié de « abstention plutôt que de fabulation », illustrant la gouvernance comme un mécanisme d'apprentissage plutôt qu'un pare-feu parfait.

Contributions clés et affirmations de conception
La contribution principale est une agenda de conception pour les systèmes multi-agents persistants basés sur les LLM. L'article soutient que la gouvernance de la mémoire doit être considérée comme une couche de sélection déterminant le comportement futur du système. Les affirmations de conception clés incluent :

• Les systèmes persistants nécessitent des régimes de sélection explicites pour la mémoire partagée.
• La mémoire collaborative gouvernée doit séparer les mémoires locales à l'agent, institutionnelles partagées, d'archive et de continuité de projet.
• La sélection artificielle ratifiée par l'humain est essentielle lorsque les propriétés cibles incluent la qualité du jugement, la fidélité de la provenance et la préservation du rôle.
• Les mémoires rejetées, abstentionnées et supplantées doivent rester des résultats de sélection inspectables, et non du bruit administratif.
• L'évaluation des systèmes de mémoire doit s'étendre au-delà du rappel et de la performance pour inclure la fidélité de la provenance, la traçabilité de la sélection, la qualité épistémique, les voies de correction et la préservation du rôle.

Signification et limites
La signification de l'article réside dans le recadrage de la gouvernance de la mémoire d'un problème de stockage ou de contrôle d'accès vers un problème de régime de sélection. Il postule que dans les systèmes multi-agents persistants, la décision de ce qui devient un état partagé est le choix de conception le plus critique, déterminant si le système apprend collectivement ou propage des erreurs.

Les auteurs sont modestes dans leurs affirmations, reconnaissant que :

• Les preuves se limitent à un écosystème et ne prouvent pas la supériorité des régimes ratifiés par l'humain sur les régimes automatiques.
• La ratification humaine introduit des goulots d'étranglement et des biais potentiels de l'opérateur.
• L'extension de la gouvernance à plusieurs ratifiers ou autorités distribuées reste un défi non résolu.
• Les systèmes de mémoire hérités font face à des problèmes d'amorçage où les enregistrements pré-gouvernance peuvent déjà influencer le comportement.

En fin de compte, l'article appelle à un changement dans la façon dont les concepteurs et les évaluateurs abordent la mémoire des agents : passer de l'optimisation de l'efficacité de la récupération à la garantie que le processus de sélection lui-même est explicite, inspectable et aligné avec la préservation des identités d'agents hétérogènes.