Pathways to AGI
Ce document examine de manière critique les contingences socio-politiques et économiques sous-tendant le développement actuel de l'intelligence artificielle en analysant cinq questions clés relatives aux trajectoires historiques, aux nœuds décisionnels et aux trajectoires des modèles afin de proposer des alternatives transparentes et durables au concept d'intelligence artificielle générale.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
La Vue d'Ensemble : Il Ne S'agit Pas Seulement de Robots « Intelligents »
Imaginez que vous regardez une course pour voir qui peut construire le robot le plus intelligent au monde. La plupart des gens pensent que le gagnant sera celui qui aura le plus gros cerveau ou le processeur le plus rapide.
Ce document soutient que la course ne porte pas réellement sur qui possède le robot le « plus intelligent ». Il s'agit plutôt de qui a construit la piste, qui possède la ligne de départ et qui a décidé des règles de la course.
Les auteurs affirment que l'« Intelligence Artificielle Générale » (AGI) actuelle que nous voyons aujourd'hui n'est pas une découverte scientifique naturelle qui est simplement arrivée. C'est un produit spécifique façonné par l'argent, les affaires, les contrats juridiques et les histoires personnelles d'un petit groupe de personnes. Ils appellent cela une « Analyse des Voies Critiques » — essentiellement, examiner l'histoire de notre arrivée ici pour voir quelles portes ont été ouvertes et lesquelles ont été fermées à double tour.
1. Qu'est-ce que l'AGI ? (Les Poteaux de But Mobiles)
Le document commence par dire qu'il n'existe pas de définition unique de l'AGI. C'est comme essayer de définir « une bonne voiture » quand l'un dit que cela signifie « rapide », un autre « sûre », et un troisième « bon marché ».
- La Définition des Vendeurs : Les grandes entreprises technologiques (comme OpenAI, Google, Microsoft) définissent l'AGI en fonction de ce qui leur rapporte de l'argent. Par exemple, OpenAI dit que l'AGI est atteinte lorsque l'IA peut effectuer un « travail économiquement valorisable » mieux que les humains. C'est comme si un constructeur automobile disait : « Nous avons une voiture parfaite quand elle peut livrer une pizza plus vite qu'un humain. »
- La Définition de l'Argent : Des documents divulgués suggèrent que pour Microsoft et OpenAI, l'AGI pourrait ne pas être déclarée tant que la technologie n'aura pas généré 100 milliards de dollars de bénéfices. Cela transforme l'AGI en un objectif financier plutôt qu'en une étape scientifique.
- La Définition Humaine : Le document soutient que les humains ne sont pas « intelligents » d'une seule manière. Nous avons différents types d'intelligence (comme être bon en mathématiques, bon pour comprendre les sentiments, bon pour réparer des choses). L'IA actuelle est très bonne dans une chose (parler et écrire) mais terrible dans d'autres. Les auteurs suggèrent que nous devrions chercher des « Intelligences Artificielles Multiples » (IAM) — un système capable de gérer de nombreux types de problèmes différents, pas seulement de discuter.
2. L'Analogie du « Système Viable »
Les auteurs utilisent une théorie appelée le Modèle de Système Viable (d'un homme nommé Stafford Beer) pour expliquer pourquoi l'IA actuelle n'est pas encore vraiment « générale ».
- L'Analogie : Imaginez un corps humain.
- Les Mains (Système 1) : Ce sont les modèles d'IA actuels. Ils sont incroyablement rapides pour taper, coder et résumer du texte. Ce sont les « mains » qui font le travail.
- Le Cerveau et le Système Nerveux (Systèmes 2-5) : Ces parties gèrent la coordination, la sécurité, la planification à long terme et l'éthique.
- Le Problème : L'IA actuelle a des mains super rapides, mais elle manque d'un système nerveux pleinement développé. Elle ne sait pas quand s'arrêter, elle ne peut pas planifier pour l'année prochaine, et elle ne peut pas comprendre les règles complexes de la société ou du droit. C'est comme un corps avec des mains géantes et rapides, mais sans cerveau pour lui dire où aller ou ce qui est dangereux.
- La Conclusion : Une véritable « Intelligence Générale » n'est pas seulement un modèle intelligent ; c'est tout un système de systèmes qui inclut le modèle, les règles, les vérifications de sécurité et les personnes qui le gèrent.
3. Les Cinq Voies (L'Histoire de la Course)
Le document examine cinq acteurs majeurs et la façon dont leurs histoires spécifiques ont façonné leur IA.
- OpenAI (Le Virage Corporatif) : A commencé comme un laboratoire de recherche à but non lucratif. Mais ils avaient besoin d'argent, alors ils sont devenus une entreprise à « profit plafonné » et ont fait un partenariat avec Microsoft.
- Le Pivot : Ils ont décidé de garder leurs meilleurs modèles secrets (derrière une API) pour faire de l'argent, plutôt que de les partager avec le monde. Cela les a rendus riches et populaires, mais cela a aussi signifié qu'ils ont cessé de se concentrer sur la recherche approfondie en sécurité pour respecter les délais de lancement des produits.
- Anthropic (Les Rebelles de la Sécurité) : Un groupe de scientifiques de haut niveau a quitté OpenAI parce qu'ils s'inquiétaient de la sécurité. Ils ont fondé Anthropic pour construire une IA qui soit « pilotable » et sûre.
- La Lutte : Ils ont essayé de construire une « constitution » pour l'IA (un ensemble de règles que l'IA suit). Mais ils avaient toujours besoin de milliards de dollars de la part d'Amazon et de Google pour rivaliser. Le document demande : Peut-on rester en sécurité quand on a désespérément besoin d'argent des investisseurs ?
- Google (Le Fleuron Tardif) : Google a inventé la technologie de base (le Transformer) mais ne l'a pas lancée comme produit car ils s'inquiétaient de la sécurité et de la réputation.
- L'Erreur : Ils ont attendu trop longtemps. Au moment où ils ont lancé leur IA (Gemini), OpenAI avait déjà pris le marché. Google essaie maintenant de rattraper son retard, mais leur culture de « la recherche d'abord » entre en conflit avec la nécessité de bouger vite.
- xAI / Grok (Le Jokers) : Fondé par Elon Musk. Leur voie est guidée par un récit politique spécifique (« anti-woke ») et un désir de bouger plus vite que n'importe qui d'autre.
- Le Risque : Ils ont un avantage de distribution massif (Twitter/X) et un supercalculateur construit en un temps record. Mais ils n'ont presque aucune recherche en sécurité ni gouvernance. Ils sont la « voiture rapide sans freins ».
- Microsoft (Le Roi de l'Entreprise) : Microsoft n'a pas construit l'IA la plus intelligente ; ils ont construit le meilleur système de livraison. Ils ont pris la technologie d'OpenAI et l'ont intégrée dans chaque ordinateur de bureau au monde (Copilot).
- La Stratégie : Ils se concentrent sur le fait de rendre l'IA suffisamment sûre pour que les banques et les hôpitaux puissent l'utiliser. Ils construisent la couche de « gouvernance », même s'ils ne sont pas ceux qui inventent le cerveau de base.
4. Le « Facteur Humain » (Le Petit Cercle)
Le document souligne que toute l'industrie de l'IA est dirigée par un très petit groupe de personnes qui se connaissent toutes.
- Le Lien « Google Brain » : Presque tous les meilleurs chercheurs en IA ont commencé au laboratoire de recherche de Google.
- Le Lien « OpenAI » : Beaucoup d'entre eux ont quitté Google pour rejoindre OpenAI.
- Le Lien « Anthropic » : Ensuite, un gros morceau d'entre eux a quitté OpenAI pour fonder Anthropic.
- Le Résultat : C'est une « porte tournante ». Le même petit groupe de personnes continue de passer d'une entreprise à l'autre, emportant leurs idées avec eux. Cela signifie que l'industrie est très « fermée » — ils pensent tous de la même manière, utilisent les mêmes outils et passent à côté de façons différentes de penser (comme la façon dont un biologiste ou un psychologue pourrait aborder le problème).
5. Que Devrions-Nous Faire ? (Les Recommandations)
Le document conclut que la voie actuelle est trop étroite. Nous parions tout sur quelques entreprises qui tentent de réaliser des bénéfices.
- Ne regardez pas seulement la course : Nous devons financer différents types de recherche, pas seulement la course du « plus grand modèle ». Nous devons étudier comment l'IA comprend l'incertitude, comment elle gère la planification à long terme et comment elle s'intègre dans la société.
- Rendre l'IA un Service Public : Tout comme nous avons l'eau et l'électricité publiques, l'IA devrait être traitée comme une ressource publique. Elle ne devrait pas être seulement un service d'abonnement pour les riches.
- Souveraineté de l'IA : Les pays doivent s'assurer qu'ils ont leur propre contrôle sur l'infrastructure de l'IA (ordinateurs, données, règles) afin de ne pas dépendre d'une seule entreprise étrangère.
- Vérifier le Travail : Nous avons besoin d'auditeurs indépendants pour vérifier si l'IA est réellement sûre et intelligente, et non pas simplement laisser les entreprises dire : « Faites-nous confiance, nous sommes sûrs. »
Résumé
Le document soutient que l'AGI n'est pas une destination que nous sommes en train de « découvrir » simplement. C'est un chemin que nous construisons. Actuellement, nous construisons un chemin pavé d'argent, contrôlé par quelques entreprises et axé sur la création de chatbots.
Pour parvenir à une IA véritablement intelligente, sûre et utile, nous devons cesser de la traiter comme un produit de consommation et commencer à la traiter comme un système complexe qui doit être gouverné, audité et construit pour le bénéfice de tous, pas seulement des actionnaires. Nous devons élargir la route afin que différents types d'intelligence puissent se développer, pas seulement ceux qui génèrent le plus de bénéfices.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.