Definitional alignment before capability alignment: a Design-Science framework for adjudicating claims about AGI
Ce document propose DAF-AGI, un cadre de type « design science » qui privilégie l'alignement définitionnel sur l'alignement des capacités pour arbitrer les revendications conflictuelles concernant l'arrivée de l'AGI en établissant des critères ordonnés et des audits de gouvernance pour évaluer les opérationnalisations concurrentes.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Le problème central : L'argument de l'« Arrivée »
Imaginez un groupe de personnes qui se disputent pour savoir si une nouvelle voiture est une « supercar ».
- La personne A dit : « Oui, c'est une supercar parce qu'elle atteint 320 km/h. »
- La personne B dit : « Non, ce n'est pas le cas. Elle ne peut pas déraper et son moteur n'est pas un V12. »
- La personne C dit : « Peu importe ce que c'est ; si elle peut conduire toute seule jusqu'au magasin, c'est une supercar. »
Ils regardent tous la même voiture. Ils sont tous d'accord sur les faits (la vitesse, le moteur, les caractéristiques). Mais ils ne parviennent pas à s'entendre sur le verdict parce qu'ils utilisent des livrets de règles différents pour définir ce qu'est réellement une « supercar ».
Cet article soutient que le domaine de l'Intelligence Artificielle Générale (IAG) est coincé dans ce débat exact. Certaines entreprises disent : « Nous y sommes arrivés ! » parce que leur IA écrit du bon code. D'autres disent : « Nous en sommes encore à des décennies ! » parce que leur IA ne peut pas se souvenir des choses à long terme ou résoudre de nouveaux casse-têtes. Le désaccord ne porte pas sur la technologie, mais sur qui écrit le livret de règles et sur ce que les règles disent réellement.
La solution : Un « Auditeur de règles » (DAF-AGI)
Au lieu d'essayer d'écrire l'unique vraie définition de l'IAG (ce que l'auteur considère comme impossible car tout le monde a des objectifs différents), l'auteur a construit un outil appelé DAF-AGI.
Voyez le DAF-AGI non pas comme un juge qui décide qui gagne, mais comme un auditeur de transparence. C'est comme une « étiquette nutritionnelle » pour les définitions. Quand quelqu'un affirme : « Cette IA est une IAG », l'auditeur ne se contente pas de dire « Oui » ou « Non ». Il demande :
- Que mesurez-vous ? (Est-ce la vitesse ? La mémoire ? L'argent qu'elle fait économiser ?)
- Qui a écrit les règles ? (Est-ce que l'entreprise qui fabrique l'IA a écrit ses propres règles ?)
- Les règles peuvent-elles être modifiées ? (Si l'IA échoue, peuvent-ils simplement changer les règles pour qu'elle réussisse ?)
Les cinq « Livrets de règles » (Familles de mesures)
L'article examine les cinq manières les plus courantes dont les gens tentent de définir l'IAG et les audite :
Le « Compteur de vitesse » (Supériorité de performance) :
- La règle : « Si l'IA est plus rapide/meilleure qu'un humain dans certaines tâches, c'est une IAG. »
- La faille : C'est facile de tricher. On peut choisir uniquement les tâches où l'IA est douée (comme écrire des e-mails) et ignorer celles où elle est mauvaise (comme la planification à long terme). C'est comme dire qu'un coureur est un olympien parce qu'il a gagné une course sur une piste sur laquelle il s'est entraîné, mais qu'il est incapable de courir sur du sable.
- Verdict : Faible fiabilité.
Le « Portefeuille » (Substitution économique) :
- La règle : « Si l'IA peut faire le travail d'un humain pour moins cher, c'est une IAG. »
- La faille : Cela confond « intelligence » et « économie ». Un bras robotisé peut remplacer un ouvrier d'usine parce qu'il est moins cher, et non parce qu'il est plus « intelligent ».
- Verdict : Mitigé. Bon pour l'économie, mauvais pour mesurer l'intelligence.
La « Carte » (Ontologie des capacités) :
- La règle : « Nous avons une carte des différentes compétences (mémoire, raisonnement, créativité). Où se situe l'IA sur cette carte ? »
- La faille : C'est une excellente carte, mais le cartographe (le laboratoire) décide où se trouve la « ligne d'arrivée ».
- Verdict : Bonne structure, mais le cartographe contrôle la ligne d'arrivée.
Le « Bulletin scolaire » (Parité psychométrique) :
- La règle : « L'IA doit correspondre au profil cognitif complet d'un adulte humain bien éduqué. »
- La faille : C'est le test le plus difficile. Les IA actuelles sont comme des génies en mathématiques mais ont la mémoire d'un poisson rouge. Elles échouent à ce test car elles sont « irrégulières » (excellentes dans certains domaines, terribles dans d'autres).
- Verdict : Haute fiabilité, mais les IA actuelles échouent.
La « Vitesse d'apprentissage » (Acquisition de compétences) :
- La règle : « L'intelligence est la capacité d'apprendre rapidement un nouveau casse-tête que l'on n'a jamais vu auparavant. »
- La faille : Les IA actuelles sont excellentes pour mémoriser d'anciens casse-têtes, mais terribles pour résoudre des nouveaux.
- Verdict : Haute fiabilité, mais les IA actuelles échouent.
La grande révélation : La « Revendication stylisée »
L'article teste une affirmation populaire : « L'IA actuelle est une IAG car elle bat un adulte bien éduqué dans de nombreuses tâches. »
Lorsque l'auditeur (DAF-AGI) vérifie cela, il découvre un tour de magie.
- La revendication utilise la règle du Compteur de vitesse (battre l'adulte à certaines tâches).
- Mais elle emprunte l'étiquette du Bulletin scolaire (« Adulte bien éduqué »).
- Si l'on applique réellement les règles du Bulletin scolaire, l'IA échoue car elle présente des lacunes de mémoire.
- Si l'on applique les règles du Compteur de vitesse, l'IA réussit, mais seulement parce que l'entreprise a choisi les tâches faciles.
La conclusion : La revendication est « sous-spécifiée ». Elle mélange une règle souple avec une étiquette stricte pour faire paraître l'IA plus intelligente qu'elle ne l'est. L'article affirme que nous ne pouvons pas déclarer que « l'IAG est arrivée » tant que nous ne sommes pas d'accord sur le livret de règles que nous utilisons et sur qui est autorisé à changer les règles.
Le concept de « Souveraineté définitionnelle »
C'est l'idée politique la plus importante de l'article.
Imaginez un pays qui importe toute sa nourriture.
- Scénario A : Ils achètent de la nourriture à un voisin. Le voisin décide de ce que signifie « frais ». Si le voisin change la définition de « frais » demain, le pays doit l'accepter ou mourir de faim.
- Scénario B : Le pays achète la nourriture, mais possède ses propres inspecteurs. Ils peuvent dire : « Nous acceptons votre définition de "frais" aujourd'hui, mais si vous la changez, nous l'auditerons et pourrons éventuellement la rejeter. »
L'auteur appelle cela la Souveraineté définitionnelle.
Beaucoup de pays (et le public) sont actuellement dans le Scénario A. Ils sont des « Preneurs de définitions ». Ils acceptent les définitions de l'IAG, de l'« IA à haut risque » ou de la « Maturité » écrites par quelques puissants laboratoires technologiques aux États-Unis ou en Chine.
- Si un laboratoire dit : « Ceci est une IGA », et que cela déclenche une loi ou un krach boursier, le monde doit l'accepter.
- L'article soutient que les nations ont besoin de la capacité d'auditer, de contester et de réviser ces définitions. Elles n'ont pas besoin d'écrire leurs propres définitions de zéro ; elles ont simplement besoin du pouvoir de dire : « Cette définition ne nous convient pas », ou « Nous devons vérifier cette affirmation ».
Résumé : Ce que cet article dit réellement
- Nous ne pouvons pas nous mettre d'accord sur ce qu'est l'IAG car différents groupes ont des objectifs différents (marketing, sécurité, investissement).
- Plus de données ne réglera pas le problème. Même si l'IA devient plus intelligente, nous continuerons à nous disputer pour savoir s'il s'agit d'une intelligence « Générale » tant que nous ne réglons pas la définition d'abord.
- Les affirmations d'« Arrivée » actuelles sont fragiles. Elles mélangent souvent des règles faciles avec des étiquettes complexes pour faire croire qu'un système est arrivé à maturité alors qu'il ne l'est pas.
- La gouvernance est la clé. Nous devons cesser de demander « Est-ce une IGA ? » et commencer à demander « Qui a écrit la règle qui dit que ceci est une IGA, et pouvons-nous les auditer ? »
- La souveraineté compte. Les pays et le public ont besoin du pouvoir de contester les définitions importées de la technologie, sinon ils sont gouvernés par des règles qu'ils n'ont pas écrites et qu'ils ne peuvent pas changer.
En bref : Avant de nous disputer pour savoir si le robot est « vivant » ou « intelligent », nous devons nous mettre d'accord sur qui détient le dictionnaire et nous assurer qu'ils ne changent pas les définitions pour servir leur propre portefeuille.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.