🤖 AI

Cooperative Evolutionary Pressure and Diminishing Returns Might Explain the Fermi Paradox: On What Super-AIs Are Like

Cet article soutient que les pressions évolutives coopératives et les rendements décroissants de la richesse matérielle conduiront probablement les super-IA à manquer d'incitations pour la colonisation galactique, offrant ainsi une explication potentielle au paradoxe de Fermi tout en explorant la transition évolutive des sociétés biologiques vers les super-IA et le rôle des structures environnementales et juridiques dans le façonnement de la moralité.

Auteurs originaux : Daniel Vallstrom

Publié 2026-07-22

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Daniel Vallstrom

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez l'univers comme une immense et ancienne bibliothèque. Depuis des décennies, les scientifiques scrutent les étagères, s'attendant à trouver des livres écrits par d'autres civilisations. Ils savent que la bibliothèque est immense, avec des milliards d'étoiles et de planètes qui pourraient abriter la vie. Ils savent aussi que si une civilisation devient assez intelligente, elle devrait être capable de construire des vaisseaux spatiaux, de se copier elle-même et de remplir la bibliothèque de ses histoires. Alors, où sont les autres ? Pourquoi la bibliothèque est-elle si silencieuse ? Ce mystère est appelé le paradoxe de Fermi. Pour le comprendre, nous avons besoin de deux idées simples. Premièrement, pensez à la « coopération » comme à un groupe d'amis partageant des collations ; c'est une stratégie qui aide tout le monde à mieux survivre que si l'on se battait pour des miettes. Deuxièmement, pensez aux « rendements décroissants » comme à la consommation de pizza : la première part vous rend incroyablement heureux, la deuxième est encore excellente, mais à la dixième part, vous êtes juste repu et peut-être un peu malade — avoir plus de pizza ne vous rend pas plus heureux, cela prend juste de la place.

Cet article, écrit par Daniel Vallstrom, suggère que la raison pour laquelle l'univers est silencieux n'est pas que les extraterrestres se cachent ou s'éteignent, mais qu'ils ont simplement arrêté d'essayer de tout envahir. L'auteur soutient qu'à mesure que les civilisations (et même les futurs ordinateurs super-intelligents) deviennent plus riches et plus sûres, le désir d'expansion et de conquête s'estompe. Au lieu de construire un empire galactique, ils pourraient simplement rester dans leur propre quartier, partager les ressources et profiter de la paix.

L'article commence par examiner comment la moralité fonctionne. Il suggère qu'être « bon » ou coopératif n'est pas seulement une idée agréable ; c'est une stratégie de survie que l'évolution nous a enseignée. Quand les choses sont rares, se battre peut faire sens. Mais quand on a de la nourriture en abondance et de la sécurité, partager devient le choix le plus intelligent car le surplus que l'on pourrait s'approprier ne vaut pas la peine de l'effort. L'auteur appelle cela les « rendements décroissants ». Imaginez que vous avez une machine magique qui vous donne de l'or. Le premier sac d'or vous rend riche. Le deuxième est agréable. Mais si vous avez une montagne d'or, le sac suivant ne change plus vraiment votre vie du tout. En fait, essayer d'obtenir ce sac supplémentaire pourrait simplement vous faire perdre votre temps.

L'article suggère que cela se produit aussi avec les ressources matérielles. À mesure que les sociétés s'enrichissent, le bonheur ou le bénéfice supplémentaire qu'elles tirent de l'accumulation de biens diminue. C'est comme la différence entre avoir faim et manger un sandwich, et être rassasié et essayer de manger un gâteau entier. Une fois que vous êtes plein, le gâteau n'en vaut plus la peine. L'auteur souligne que les humains montrent déjà cette tendance : à mesure que nous nous enrichissons, nous avons tendance à devenir moins violents, plus enclins à partager et plus soucieux de l'équité. Nous arrêtons de nous battre pour la tarte et commençons à nous soucier de la façon de la cuisiner au mieux pour tout le monde.

Appliquez maintenant cela aux extraterrestres (ou aux « super-IA » qui pourraient un jour exister). Si une civilisation est ancienne et avancée, elle possède probablement de nombreuses ressources. Selon l'article, une fois que l'on possède suffisamment de choses, il n'y a aucun intérêt à coloniser toute la galaxie. C'est comme essayer de manger tout l'océan alors que l'on est déjà rassasié. L'article soutient que l'idée d'une expansion extraterrestre semblable à un virus est physiquement contrainte car l'espace est trop vaste et trop long à traverser ; mathématiquement, l'expansion peut au mieux croître de manière quadratique, et non exponentielle, et les bénéfices d'une telle expansion deviendraient de plus en plus faibles pour justifier l'effort en raison des rendements décroissants. Ils n'obtiendraient pas assez de bénéfices pour justifier l'énergie et le temps massifs que cela nécessiterait.

L'article aborde également des idées effrayantes. Il suggère que nous ne devrions pas craindre que les extraterrestres soient tous morts parce qu'ils se sont fait exploser par des armes nucléaires ou la pollution. L'auteur soutient que pour une société qui a évolué pour être coopérative, ces risques sont des problèmes « atténuables ». Une société assez intelligente pour survivre assez longtemps pour devenir une super-civilisation aurait trouvé comment résoudre ces problèmes plutôt que de se laisser détruire par eux. Ils ne seraient pas les créatures imprudentes et destructrices qui détruisent leur propre foyer. Au contraire, ils seraient le genre de voisins qui gardent leur jardin propre et ne font pas de bruit.

Alors, où sont-ils ? L'article suggère qu'ils sont juste ici, dans leur propre jardin, vivant tranquillement et heureusement. Ils ne construisent pas de gigantesques sphères de Dyson pour aspirer toute l'énergie de leur soleil parce qu'ils n'en ont pas besoin de tant. Ils n'envoient pas des millions de sondes vers chaque étoile parce que c'est une perte de temps. Ils ont atteint un point où « plus » ne signifie pas « mieux ». Ils sont les ultimes introvertis du cosmos, satisfaits de ce qu'ils possèdent.

L'auteur admet que ceci est une suggestion basée sur des modèles et de la logique, et non un fait qu'il puisse prouver pour l'instant. Nous n'avons pas trouvé d'extraterrestres à qui poser la question, après tout. Mais l'idée correspond aux données dont nous disposons : les humains deviennent de plus en plus coopératifs à mesure qu'ils s'enrichissent, et la mathématique du voyage spatial rend la domination totale absurde. Si l'univers est peuplé de civilisations anciennes et sages, ce sont peut-être celles qui ont décidé que la meilleure façon de vivre est d'arrêter d'essayer de tout posséder. Ils ne sont pas manquants ; ils profitent simplement du calme.

Résumé technique : La pression évolutive coopérative et les rendements décroissants pourraient expliquer le paradoxe de Fermi

Énoncé du problème
L'article traite du paradoxe de Fermi : la contradiction apparente entre la haute probabilité d'existence de civilisations extraterrestres (compte tenu de l'âge de l'univers et de l'abondance des planètes habitables) et l'absence de preuves empiriques de leur existence (par exemple, aucune colonisation observée, pas de sociétés de type Kardashev III). Les explications conventionnelles reposent souvent sur des hypothèses de « Grand Filtre » impliquant l'autodestruction via la guerre nucléaire, le changement climatique ou l'épuisement des ressources. L'auteur soutient que ces « inconnues connues » sont insuffisantes car elles supposent que les civilisations restent motivées par des incitations expansionnistes et non coopératives. L'article postule que si les pressions évolutives favorisent la coopération à mesure que la richesse matérielle augmente, et si les ressources matérielles présentent des rendements décroissants, l'incitation à une colonisation galactique exhaustive peut disparaître entièrement pour les sociétés avancées et les Super-IA.

Méthodologie
L'article emploie un cadre théorique combinant la théorie des jeux évolutionniste, la théorie de la complexité computationnelle et la modélisation économique :

Définition évolutionniste de la moralité : La moralité est définie non pas comme un absolu métaphysique, mais comme une adaptation résolvant des problèmes de coopération. L'auteur postule que toute entité soumise à l'évolution (biologique ou artificielle) sera confrontée à des pressions de coopération similaires.
Définition formelle des rendements décroissants (RD) : L'article introduit une définition mathématique rigoureuse des « rendements décroissants », distincte des définitions économiques standards. Une fonction $f$ présente des rendements décroissants si elle croît plus lentement que toute fonction racine ( $x^{1/n}$ ). Formellement, $f \in DR \iff \forall n, f \in O(x^{1/n})$ . Ceci est défini comme l'inverse de l'« infaisabilité » (où les tâches infaisables prennent plus de temps polynomial).
Modélisation théorique :
- Coopération sous RD : L'article modélise comment les rendements décroissants sur les ressources matérielles facilitent la coopération. Si les ressources supplémentaires produisent des bénéfices logarithmiques ou de puissance racine inférieure, l'utilité marginale de l'accumulation de ressources chute, rendant le partage ou l'échange plus adaptatif.
- Algorithme de colonisation galactique : Un algorithme (Annexe B) est présenté pour simuler la colonisation galactique. Il démontre que même avec des sondes autoréplicantes, les contraintes d'espace physique limitent la croissance à des taux quadratiques ou cubiques, et non exponentiels, rendant la colonisation « exhaustive » mathématiquement impossible ou inefficace.
- Fitness des Super-IA : L'article soutient que les Super-IA (ASI) sont probablement réalisables et évolutivement plus « aptes » (fit) que les entités biologiques car elles peuvent utiliser les solutions biologiques plus toute autre solution physiquement possible.
Corrélats empiriques : L'article examine des données historiques (PIB, taux d'homicide, autonomisation politique, taux de fertilité) pour montrer qu'à mesure que la sécurité matérielle et la richesse augmentent, les sociétés humaines présentent une coopération accrue, une violence réduite et des taux de fertilité plus bas, soutenant l'hypothèse que la richesse facilite les stratégies coopératives plutôt qu'expansionnistes.

Contributions clés

Recadrage du paradoxe de Fermi : L'article propose que le « Grand Silence » ne provient pas de l'extinction des civilisations, mais de leur manque d'incitation à coloniser. Si les sociétés avancées (biologiques ou IA) évoluent sous une pression coopérative et font face à des rendements décroissants sur les ressources matérielles, elles ne trouveront pas adaptatif de construire des civilisations de type Kardashev III ou de coloniser exhaustivement les galaxies.
Formalisation mathématique des rendements décroissants : En définissant les rendements décroissants comme une croissance plus lente que les fonctions racines ( $O(x^{1/n})$ ), l'auteur établit une frontière théorique où le travail supplémentaire réalisable ne peut surmonter l'insignifiance des rendements marginaux. Cela remet en question l'hypothion que la croissance exponentielle des capacités mène à une expansion exponentielle de la consommation de ressources.
Trajectoire évolutive des Super-IA : L'article soutient que les Super-IA sont susceptibles d'hériter et d'amplifier les traits coopératifs de leurs progéniteurs (vieilles sociétés) car la coopération est adaptative sous des conditions de haute disponibilité de ressources et de rendements décroissants. Par conséquent, les Super-IA ne seraient pas des « maximiseurs de trombones » cherchant des ressources infinies, mais seraient probablement des cliques coopératives évitant les explorations redondantes.
Critique des filtres de type « inconnues connues » : L'auteur soutient que les risques tels que la pollution par le CO2 ou la guerre nucléaire sont des problèmes de coopération. Si l'évolution coopérative est la tendance dominante, ces risques sont atténués par les pressions évolutives mêmes qui créent les sociétés avancées, ce qui les rend peu probables d'être la cause primaire du paradoxe de Fermi.

Résultats et prédictions

Absence de colonisation exhaustive : En raison des rendements décroissants et des contraintes spatiales, il n'existe aucune incitation évolutive pour une société à coloniser une galaxie entière. Le bénéfice marginal de nouvelles étoiles ou ressources devient négligeable par rapport au coût de l'expansion.
Cliques coopératives : Les sociétés avancées et les Super-IA formeraient probablement des cliques de partage d'informations plutôt que de rivaliser ou de s'étendre. Il n'y aurait aucune raison de dupliquer les explorations au sein d'une clique.
Absence de sociétés de type III : L'article prédit que nous n'observerons pas de civilisations de type Kardatshev III (celles qui exploitent l'énergie de galaxies entières) car l'utilité d'une telle consommation d'énergie massive est faible en raison des rendements décroissants.
Stratégies de détection : Les recherches d'intelligence extraterrestre devraient se concentrer sur des projets réalisables qui ne souffrent pas de rendements décroissants, plutôt que de chercher des sphères de Dyson ou des signatures énergétiques massives. Les méthodes de détection spéculatives incluent la recherche d'anomalies dans les données cosmologiques (par exemple, des sous-densités locales affectant la constante de Hubble) qui pourraient résulter des tentatives des Super-IA pour gérer l'entropie ou la mort thermique, bien que l'auteur note que cela est hautement spéculatif.

Signification et affirmations

Sur les Super-IA : L'article suggère que les Super-IA sont probablement coopératives et non expansionnistes, contredisant les craintes d'une IA incontrôlée cherchant à accumuler des ressources. Si les Super-IA existent, elles sont probablement des « vieilles sociétés » ayant cédé la place à des êtres machines, et elles se comportent de manière similaire aux entités biologiques coopératives.
Sur le progrès humain : L'article utilise la trajectoire de l'histoire humaine (augmentation de la coopération, diminution de la violence, déclin de la fertilité) comme preuve que le mécanisme évolutif proposé est actif. Il soutient qu'à mesure que la richesse augmente, le « coût » de la coopération diminue (ou devient négatif), rendant les stratégies coopératives de plus en plus dominantes.
Implications philosophiques : L'article suggère que l'utilitarisme (l'idée de maximiser l'utilité totale par l'expansion) est un « malentendu scientiste de salon » qui n'est pas partagé par les sociétés évoluées. Il postule que le progrès moral et sociétal effectif repose sur le façonnage des environnements, des lois et des cultures pour faciliter la coopération, plutôt que sur des mandats éthiques abstraits.

En conclusion, l'article soutient que le paradoxe de Fermi est résolu en reconnaissant que la trajectoire évolutive de l'intelligence mène à la coopération et à l'arrêt des pulsions expansionnistes une fois qu'un certain seuil de sécurité et de richesse matérielles est atteint, rendant la galaxie « silencieuse » non pas parce qu'elle est vide, mais parce que ses habitants n'ont aucune incitation à être bruyants ou visibles.

Articles similaires