Imaginez une conversation qui s'étend sur des mois ou des années, où une personne pose des questions sur des événements survenus il y a longtemps, ou assemble des faits éparpillés à travers des dizaines d'échanges précédents. Pour un programme informatique conçu pour agir comme un assistant utile, suivre cet historique vaste est une tâche monumentale. Ces programmes, souvent appelés agents, stockent leurs interactions passées dans une bibliothèque externe de souvenirs. Cependant, posséder une bibliothèque ne signifie pas savoir comment trouver le bon livre. Lorsqu'une nouvelle question arrive, le système doit passer rapidement au crible des milliers de souvenirs stockés pour trouver les quelques-uns qui sont réellement utiles. Traditionnellement, le système utilise une recherche rapide et large basée sur la similitude des mots, et si une plus grande précision est nécessaire, il demande à un puissant modèle de langage de lire la question et les souvenirs candidats pour juger de leur pertinence. Mais voici une inefficacité frustrante : chaque fois qu'une nouvelle question est posée, le système repart de zéro. Il oublie les leçons apprises lors de sa dernière recherche, rejetant les scores qu'il a calculés et les motifs qu'il a remarqués, comme un étudiant qui étudie pour un examen, oublie tout immédiatement après, puis doit réapprendre la même matière pour l'examen suivant.

Des chercheurs de l'Université chinoise de Hong Kong, Shenzhen, ont proposé un moyen de briser ce cycle d'oubli. Ils ont introduit un nouveau cadre appelé EARM, qui signifie Experience-Amortized Reranking for Memory (Reclassement par amortissement d'expérience pour la mémoire). L'idée centrale est simple mais profonde : le système ne doit pas seulement se souvenir du contenu des conversations passées, mais aussi se souvenir de la manière dont il a trouvé l'information avec succès par le passé. Au lieu de traiter le jugement de pertinence comme un coût ponctuel, les chercheurs ont conçu un système qui traite ces jugements comme une forme d'expérience qui s'accumule au cours de la vie de l'agent. En gardant une trace de quels souvenirs ont été utiles pour quels types de questions, le système apprend une carte de sa propre mémoire. Cette carte permet de prédire la pertinence de nouveaux souvenirs sans avoir à demander au puissant modèle de langage de lire chacun d'entre eux.

Dans leurs expériences, les chercheurs ont testé cette approche sur un ensemble de données de longues conversations contenant des questions complexes qui nécessitaient que l'agent connecte des informations provenant de différents moments. Ils ont comparé leur nouvelle méthode à deux approches standards : un système de base qui repose uniquement sur la similitude des mots, et un système plus puissant qui demande au modèle de langage de noter chaque souvenir candidat. Les résultats ont montré que la nouvelle méthode, qui utilise un mélange de notation directe et de prédictions apprises, a nettement surpassé le système de base. Elle a amélioré la précision des réponses jusqu'à 6,62 %, un gain substantiel dans un domaine où les petites améliorations sont difficiles à obtenir. Plus important encore, le système est resté hautement efficace même lorsqu'il n'était autorisé à noter directement qu'une infime fraction des candidats — précisément, 17,5 %. Dans ce cadre de parcimonie, le système a utilisé son expérience accumulée pour combler les lacunes, estimant la pertinence des autres souvenirs en se basant sur les motifs qu'il avait appris des interactions précédentes.

Le mécanisme de ce succès repose sur l'idée que la pertinence n'est pas aléatoire. Certains souvenirs ont tendance à être utiles pour des types de questions spécifiques, et certaines questions ont tendance à déclencher des motifs de pertinence similaires à travers différents souvenirs. Les chercheurs ont construit un système qui enregistre ces connexions de manière structurée. Lorsqu'une nouvelle question arrive, le système sélectionne un échantillon restreint et stratégique de souvenirs pour que le modèle de langage les note directement. Il utilise ensuite l'historique des scores passés pour estimer la pertinence du reste. Ce processus est similaire à la façon dont un bibliothécaire chevronné pourrait savoir qu'un usager demandant un événement historique spécifique aura probablement besoin d'un certain ensemble de documents, même si l'usager ne les a pas encore mentionnés. Le système ne devine pas aveuglément ; il utilise l'« expérience » des recherches passées pour guider sa recherche, apprenant ainsi efficacement comment accéder à sa propre base de connaissances.

L'une des découvertes les plus frappantes fut que le système pouvait récupérer la majeure partie des bénéfices d'une recherche complète et exhaustive tout en utilisant seulement un quart de l'effort de calcul. Au fur et à mesure que le système traitait suffisamment de questions pour construire un historique robuste, il pouvait prendre des décisions hautement précises avec très peu de nouvelles données d'entrée. Les chercheurs ont constaté que les souvenirs sélectionnés grâce à ces estimations apprises n'étaient pas de simples remplissages ; ils ajoutaient une valeur mesurable, améliorant la qualité de la réponse finale de 0,78 à 2,79 % au-delà de ce que les souvenirs directement notés apportaient seuls. Cela suggère que le système identifiait avec succès des informations utiles que la recherche initiale rapide avait manquées, simplement en reconnaissant la structure sous-jacente de sa propre mémoire.

L'étude a également mis en lumière un changement dans la façon dont nous pourrions concevoir la mémoire de l'intelligence artificielle. Traditionnellement, l'accent est mis sur le stockage d'une plus grande quantité d'informations ou sur une meilleure représentation de celles-ci. Ce travail suggère qu'un agent véritablement de longue durée doit également apprendre comment récupérer ces informations efficacement. Les chercheurs soutiennent qu'un agent ne doit pas seulement accumuler du contenu, mais aussi accumler de l'expérience sur l'utilité de ce contenu. En traitant les scores de récupération comme un état persistant plutôt que comme un sous-produit jetable, le système transforme l'acte de recherche d'une dépense répétitive en une capacité apprise. Cette approche permet à l'agent de devenir plus intelligent au fil du temps, non pas seulement en sachant plus, mais en devenant meilleur pour trouver ce qu'il sait déjà.

Les chercheurs reconnaissent que cette méthode repose sur certaines conditions pour fonctionner efficacement. Elle suppose que les questions posées au fil du temps partagent certains thèmes ou structures communes, et que les souvenirs eux-mêmes restent stables. Si chaque question était totalement déconnectée de la précédente, ou si la signification des souvenirs stockés changeait rapidement, le système aurait du mal à trouver des motifs à apprendre. Cependant, dans le contexte de conversations à long terme où les utilisateurs reviennent souvent sur des sujets similaires ou s'appuient sur des idées précédentes, la méthode s'est révélée robuste. Le système a pu maintenir son avantage même lorsque le nombre de notations directes diminuait, montrant que l'expérience accumulée était un guide fiable.

En fin de compte, cette recherche offre une nouvelle perspective sur l'efficacité de l'intelligence artificielle. Elle démontète que le coût de rendu d'un système plus intelligent n'a pas besoin de croître linéairement avec la quantité d'informations qu'il détient. En permettant au système de se souvenir de son propre historique de recherche, les chercheurs ont montré qu'il est possible de construire des agents qui sont à la fois instruits et efficaces. Le système n'a pas besoin de tout réévaluer à partir de zéro à chaque fois ; il peut s'appuyer sur les décisions de son passé. Cette approche rapproche le domaine de la création d'agents capables d'opérer réellement sur de longues périodes, s'adaptant et affinant leur comportement à mesure qu'ils interagissent avec le monde, tout comme un humain qui apprend non seulement de ce qu'il expérimente, mais aussi de la manière dont il navigue dans sa propre histoire.