Foundational Requirements for Artificial General Intelligence: A Falsifiable Framework Based on Signal Prediction
Cet article propose un cadre falsifiable pour l'intelligence artificielle générale basé sur des principes de prédiction de signaux dérivés des neurosciences cognitives, introduisant un banc d'essai opérationnel pour évaluer empiriquement ces exigences fondamentales.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous essayez de construire un robot qui soit véritablement « intelligent » de la même manière qu'un humain. La plupart des gens aujourd'hui tentent d'enseigner aux robots en leur donnant un million d'exemples de la façon de jouer aux échecs, d'écrire des poèmes ou de conduire des voitures. Mais cet article soutient que nous regardons le problème à l'envers. Au lieu d'enseigner au robot ce qu'il doit faire, nous devons comprendre les règles fondamentales et de bas niveau qui permettent à un cerveau (biologique ou artificiel) d'apprendre quoi que ce soit en premier lieu.
L'auteur, Matej Šprogar, propose une nouvelle façon de tester l'« Intelligence Artificielle Générale » (IAG). Au lieu de demander : « Est-ce que ce robot peut réussir un test de mathématiques ? », il demande : « Ce robot possède-t-il les briques fondamentales de l'apprentissage ? »
Voici une décomposition simple des idées centrales de l'article :
1. L'idée centrale : Apprendre en devinant le futur
L'article suggère que la véritable intelligence ne consiste pas à mémoriser des faits ; c'est prédire le futur.
- L'analogie : Imaginez que vous marchez dans une forêt obscure. Vous entendez un craquement de branche. Un système intelligent ne se contente pas d'entendre un son ; il devine immédiatement : « Un cerf arrive » ou « Une branche est tombée », et prépare son prochain pas.
- La thèse de l'article : Un système intelligent doit être capable d'observer un flux de données brutes (comme une séquence de 0 et de 1, similaire à la façon dont les neurones s'activent) et de deviner ce qui vient ensuite. Il apprend en essayant de prédire la prochaine « image » de la réalité en se basant sur les précédentes.
2. Le test « falsifiable » (Les 12 règles)
Puisque nous n'avons pas de définition parfaite de l'« intelligence », l'auteur ne cherche pas à prouver qu'un système est intelligent. Au lieu de cela, il tend un piège. Il propose 12 règles spécifiques que tout système véritablement intelligent doit suivre.
Si un système échoue à ne serait-ce qu'une seule de ces règles, il ne peut pas être considéré comme doté d'une intelligence générale. Cependant, réussir les 12 règles ne garantit pas qu'il soit un génie ; cela signifie simplement qu'il n'a pas encore été pris en flagrant délit de triche.
Voici les 12 règles expliquées avec des analogies de la vie quotidienne :
- La table rase : Le système doit partir de zéro connaissance. Il ne peut pas avoir de « codes de triche » préprogrammés ou de faits préchargés sur le monde. Il doit tout apprendre à partir de rien, tout comme un bébé humain.
- Le cerveau mécanique : Si vous donnez exactement la même entrée au système deux fois, il doit réagir exactement de la même manière. Il ne peut pas être aléatoire ou chaotique ; il doit être cohérent.
- La cicatrice permanente : Chaque morceau d'information que le système voit doit laisser une marque permanente sur sa « mémoire ». Il ne peut pas oublier ou écraser son passé ; chaque expérience le change pour toujours.
- Le temps compte : L'ordre des événements doit importer. Si vous voyez un signal de « fumée » suivi d'un signal de « feu », c'est différent de voir « feu » puis « fumée ». Le système doit comprendre que le temps s'écoule dans une seule direction.
- La période de « récupération » : Tout comme un vrai neurone a besoin d'un court instant pour se reposer avant de s'activer à nouveau, le système ne peut pas traiter deux signaux identiques instantanément. Il a besoin d'une petite « pause » entre les entrées.
- La limite de capacité : Le système ne peut pas tout apprendre. Il a une limite. Il devrait être capable d'apprendre facilement des paires d'événements simples, mais à mesure que les choses deviennent plus longues et plus complexes, il devrait finir par heurter un mur où il ne peut plus apprendre.
- La flexibilité temporelle : Le système doit être capable d'apprendre des motifs qui se produisent rapidement (comme un battement de tambour) et des motifs qui sont lents (comme les saisons). Il ne peut pas être bloqué à une seule vitesse.
- Difficile vs Facile : Si le motif est simple, le système devrait l'apprendre rapidement. Si le motif est désordonné et complexe, cela devrait prendre plus de temps. La vitesse d'apprentissage doit correspondre à la difficulté.
- Le contexte compte : La vitesse à laquelle le système apprend doit dépendre de ce qu'il sait déjà. Si la nouvelle information s'ajuste à ce qu'il a appris hier, cela devrait être rapide. Si elle contredit hier, cela devrait être lent.
- Le filtre de bruit : Si vous donnez au système un motif familier mais que vous en déformez une partie (comme une chanson avec un disque rayé), il devrait être capable d'« entendre » l'erreur et de deviner quelle aurait dû être la note correcte.
- Le saut de la foi (Généralisation) : Si le système apprend un motif, il devrait être capable de deviner ce qui arrive ensuite dans une séquence qu'il n'a jamais vue auparavant. Il ne doit pas simplement mémoriser ; il doit comprendre la règle.
- Vitesse en temps réel : Le système doit prendre sa décision instantanément. Il ne peut pas passer un an à réfléchir à une entrée simple. Il doit réagir dans un délai fixe et court, peu importe ce qu'il a appris.
3. Le « banc d'essai » (L'examen)
L'auteur a construit un examen numérique appelé l'AGITB (Artificial General Intelligence Testbed) pour vérifier si les ordinateurs peuvent respecter ces 12 règles.
- La configuration : L'ordinateur est alimenté par un flux de nombres de 10 bits aléatoires (comme un flux d'interrupteurs s'allumant et s'éteignant).
- L'objectif : L'ordinateur doit prédire le nombre suivant dans le flux.
- Le résultat : Jusqu'à présent, aucun système d'IA existant n'a réussi le test complet.
- Pourquoi ? L'IA moderne (comme les chatbots que vous utilisez) échoue généralement à la règle de la « Table rase » car elles sont pré-entraînées sur des quantités massives de données. Elles échouent à la règle du « Temps réel » car elles sont trop lentes ou nécessitent de gros ordinateurs pour réfléchir. Elles échouent à la règle de la « Cicatrice permanente » car elles réinitialisent souvent leur mémoire.
4. Pourquoi cela importe
L'article soutient que l'IA actuelle est comme un perroquet. Elle peut répéter ce qu'elle a entendu, mais elle ne comprend pas véritablement le flux du temps ou n'apprend pas à partir de l'expérience brute sans préchargement.
Pour construire un robot qui soit véritablement « vivant » et adaptable, nous devons cesser d'essayer de lui enseigner des compétences de haut niveau (comme écrire des essais) et commencer à construire des systèmes qui satisfont ces 12 règles de bas niveau. Si une machine peut réussir ce test, cela signifie qu'elle possède le potentiel d'une intelligence générale. Si elle échoue, elle n'est qu'un outil spécialisé.
En bref : L'article dit : « Nous ne savons pas exactement ce qu'est l' "intelligence", mais nous savons ce qu'elle n'est pas. Voici 12 règles qu'un cerveau intelligent doit suivre. Si votre robot enfreint l'une d'entre elles, il n'est pas encore intelligent. »
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.