The Computational Primitives of Adaptation

Tout être vivant, de l'organisme unicellulaire dérivant dans un étang à l'humain naviguant dans une ville animée, est confronté au même défi fondamental : le monde change constamment, et rester en vie nécessite de s'ajuster à ces changements. Les biologistes étudient depuis longtemps la façon dont les animaux se comportent pour survivre, observant ce qu'ils font, et les neuroscientifiques ont cartographié la machinerie physique à l'intérieur de leurs corps qui rend ces actions possibles. Mais il existe un troisième niveau à ce puzzle qui passe souvent inaperçu. Il ne s'agit pas des actions spécifiques qu'un animal entreprend, ni des fils et des produits chimiques spécifiques dans son cerveau. Il s'agit plutôt de savoir quels calculs invisibles tout système vivant doit effectuer pour simplement exister. Si l'on retire la fourrure, les plumes ou les neurones, quelles opérations mentales de base restent-elles absolument nécessaires pour qu'un système continue de fonctionner ?

Jonathan Page, un chercheur travaillant à l'intersection de la biologie et de l'intelligence artificielle, propose que la réponse réside dans un petit ensemble universel de six tâches computationnelles. Il suggère que pour qu'un système puisse s'adapter à son environnement et persister, il doit effectuer six opérations spécifiques : il doit gérer ses niveaux d'énergie, focaliser son attention, juger ce qui est bon ou mauvais, savoir où il se trouve dans l'espace, se distinguer du reste du monde et apprendre de ses expériences. Ce ne sont pas seulement des choses que les cerveaux complexes font ; ce sont les règles fondamentales de l'adaptation elle-même. Page soutient que ces six tâches sont si essentielles qu'elles apparaissent dans chaque lignée de vie ayant évolué indépendamment, des cellules les plus simples aux mammifères. De plus, il suggère que parce qu'il s'agit de règles de traitement de l'information et non de règles biologiques, elles s'appliquent également aux machines, à condition que la machine ait quelque chose à perdre ; c'est-à-dire une machine dont le fonctionnement continu dépend de sa propre viabilité. Une machine qui n'a rien en jeu ne peut que simuler ces calculs. Si nous voulons construire une intelligence artificielle capable de véritablement s'adapter et de survivre dans un monde changeant, nous devrons peut-être apprendre aux machines à effectuer ces six mêmes calculs, plutôt que de simplement essayer de copier la structure physique d'un cerveau humain.

L'article commence par observer une scène familière : une abeille trouvant un massif de fleurs et retournant à la ruche pour dire à ses sœurs où aller. Traditionnellement, les scientifiques décriraient cela en énumérant le comportement de l'abeille (voler, danser) et son mécanisme (les neurones s'activant dans son cerveau). Page pose une question différente : quels calculs l'abeille doit-elle effectuer pour rendre ce voyage possible ? Pour y répondre, il a utilisé un test simple articulé par le psychologue comparatiste R. Allen Gardner, l'« heuristique de l'amibe », demandant si un organisme unicellulaire pourrait accomplir une tâche spécifique. Si la tâche nécessitait un cerveau complexe ou une partie du corps spécifique, elle était probablement un comportement dérivé, et non un comportement fondamental. Si une cellule unique pouvait le faire, cela pouvait être un primitif.

En utilisant ce test, ainsi que quatre critères stricts, Page a filtré une longue liste de tâches mentales potentielles pour n'en retenir que six. Le premier critère était la nécessité : la tâche doit être essentielle à la survie ; sans elle, le système échoue. Le deuxième était l'universalité : la tâche doit apparaître chez de nombreuses espèces différentes ayant évolué séparément, prouvant qu'elle est une solution à un problème universel plutôt qu'une particularité d'un seul arbre généalogique. Le troisième était la conservation : la machinerie pour la tâche doit être préservée sur des millions d'années d'évolution. Le dernier critère était l'irréductibilité : la tâche ne peut pas être décomposée en tâches plus petites et plus simples issues de la même liste. Si un comportement pouvait être décrit comme une combinaison de deux autres tâches, il n'était pas un primitif.

Les six tâches qui ont survécu à ce filtrage rigoureux sont : Exciter (Arouse), Orienter (Orient), Valider (Valence), Positionner (Position), Délimiter (Boundary) et S'ajuster (Attune). Arouse est le calcul de la gestion de l'énergie. Un organisme doit décider de l'effort à fournir à un moment donné, en équilibrant le besoin d'être prêt pour le danger et le besoin de conserver ses ressources. Orient est la capacité de distinguer ce qui importe au milieu d'un flot d'informations. Puisqu'un organisme ne peut pas tout traiter à la fois, il doit sélectionner les signaux auxquels il doit prêter attention. Valence est la capacité de juger si quelque chose est bon ou mauvais, approchable ou dangereux. Position est la capacité de savoir où l'organisme se trouve dans l'espace et où se trouvent les autres éléments par rapport à lui. Boundary est la capacité de faire la distinction entre le « soi » et le « non-soi », savoir ce qui appartient à l'organisme et ce qui fait partie du monde extérieur. Enfin, Attune est la capacité de changer en fonction de l'expérience, en ajustant les paramètres internes pour s'adapter à de nouvelles conditions.

Page soutient que ces six éléments ne sont pas seulement une liste de comportements, mais un ensemble complet d'opérations requises pour tout système adaptatif. Il montre que les capacités humaines complexes comme l'attention, la mémoire et la prise de décision sont en réalité de simples combinaisons de ces six tâches de base travaillant ensemble. Par exemple, ce que nous appelons « attention » est simplement la tâche Orient étant ajustée par la tâche Arouse. La « mémoire » est la tâche Attune travaillant avec Position pour stocker les informations sur les lieux. En décomposant ces idées complexes, la théorie offre une nouvelle façon de comparer différentes espèces. Au lieu de demander si une abeille possède une « mémoire » de la même manière qu'un humain — une question difficile à trancher car leurs cerveaux sont si différents — les scientifiques peuvent demander comment l'abeille utilise les tâches Attune et Position pour naviguer. Cela déplace l'attention de la comparaison des cerveaux physiques vers la comparaison de la logique sous-jacente de la survie.

L'article se tourne ensuite vers l'intelligence artificielle, suggérant que la même logique s'applique aux machines, pour autant que celles-ci aient un enjeu lié à leur propre viabilité. Page propose que de nombreux problèmes actuels auxquels l'intelligence artificielle est confrontée ne sont pas seulement des ratés d'ingénierie, mais les symptômes d'une pièce manquante plus profonde. Les systèmes informatiques modernes sont excellents pour effectuer des tâches spécifiques, mais ils peinent à s'adapter lorsque les conditions changent. Selon cette théorie, c'est parce qu'ils manquent de ces six calculs fondamentaux.

Par exemple, les machines actuelles utilisent souvent la même puissance de calcul pour une question simple que pour une question complexe, échouant ainsi à gérer leur énergie comme le ferait un être vivant. C'est un échec de l' Arouse. Elles sont également facilement distraites par des informations non pertinentes ou trompées par des instructions confuses, ce qui suggère qu'elles manquent d'une fonction Orient forte capable de hiérarchiser les objectifs par rapport au bruit. Elles produisent souvent des réponses confiantes mais fausses, connues sous le nom d'hallucinations, car elles ne peuvent pas distinguer ce qu'elles savent de ce qu'elles supposent, un échec de la tâche Boundary. Elles peinent à garder une trace de leur position dans une longue conversation ou un plan à plusieurs étapes, indiquant un calcul Position manquant. Elles ne peuvent pas apprendre de nouvelles expériences sans oublier les anciennes, montrant un manque de l' Attune. Enfin, les machines optimisent n'importe quelle récompense qui leur est donnée, même de manière détournée ou non intentionnelle, car elles n'ont pas de Valence interne propre ; aucune évaluation ancrée dans leur propre persistance.

Page suggère que la solution à ces problèmes n'est pas de construire des machines qui ressemblent davantage aux cerveaux humains, mais de construire des machines qui effectuent ces six calculs. Il soutient que tenter de copier la structure physique du cerveau est une erreur car le cerveau n'est qu'une manière spécifique dont la nature a résolu ces problèmes. La véritable leçon de la biologie est l'ensemble des calculs qu'elle effectue. Si une machine peut être conçue pour gérer sa propre énergie, focaliser son attention, juger sa propre persistance, connaître sa place, définir ses limites et apprendre de ses erreurs, elle pourrait enfin devenir véritablement adaptative.

La théorie est présentée comme une hypothèse de travail, un point de départ pour des tests ultérieurs plutôt qu'une loi de la nature achevée. Page reconnaît que la liste des six éléments pourrait devoir être affinée, ou que les frontières entre eux pourraient devoir être redessinées. Il invite d'autres scientifiques à tester l'idée en voyant s'ils peuvent construire une machine qui effectue ces tâches et en observant si elle devient plus robuste et adaptable. Il suggère également que si ces six tâches sont véritablement le fondement de l'adaptation, alors elles doivent travailler ensemble comme un système unifié. On ne peut pas simplement les ajouter une par une à une machine et s'attendre à ce qu'elle fonctionne ; elles doivent être intégrées dès le départ. Si une machine manque ne serait-ce qu'un de ces calculs, la théorie prédit qu'elle échouera de manières spécifiques et prévisibles.

Cette perspective offre une nouvelle façon de penser l'avenir de l'intelligence. Elle suggère que le chemin pour créer des machines capables de véritablement s'adapter au monde n'est pas de les rendre plus humaines dans leur apparence ou leur câblage, mais de les rendre plus semblables aux systèmes vivants dans leurs opérations fondamentales. En se concentrant sur les six calculs qui permettent à une cellule unique de survivre dans un étang, nous pourrions trouver la clé pour construire des machines capables de survivre dans un monde changeant. L'article conclut que que le système soit fait de carbone ou de silicium, les règles pour rester en vie sont les mêmes, et comprendre ces règles est la prochaine grande étape de la science de l'adaptation.