Mutually Assured Deregulation

L'idée maîtresse : Le « Sacrifice de la Régulation »

Imaginez deux voisins, les États-Unis et la Chine, engagés dans une course effrénée pour construire la fusée la plus rapide et la plus puissante.

L'article soutient que de nombreux décideurs politiques se sont convaincus d'une idée dangereuse appelée le « Sacrifice de la Régulation ». C'est la conviction que, pour gagner la course, il faut jeter les manuels de sécurité, retirer les ceintures de sécurité et arrêter de vérifier si le moteur présente des fissures. La logique est la suivante : « Si nous nous arrêtons pour vérifier la sécurité, la Chine nous dépassera. Si nous fonçons tête baissée et de manière imprudente, nous gagnerons en premier, et nous pourrons régler les problèmes de sécurité plus tard. »

L'auteur, Gilad Abiri, affirme que c'est une très mauvaise idée. Il appelle le résultat la « Dérégulation Assurée Mutuelle ». Tout comme la « Destruction Mutuelle Assurée » pendant la Guerre froide (où la destruction des deux camps était le seul dénouement d'une course nucléaire), cet article soutient que si les deux camps suppriment les règles de sécurité pour aller plus vite, personne ne gagne. Au lieu de cela, tout le monde se retrouve avec une fusée dangereuse et incontrôlable qui pourrait s'écraser et tuer tout le monde.

---

Pourquoi le plan « Gagner d'abord, réparer plus tard » échoue

L'article décompose le « Sacrifice de la Régulation » en trois promesses qu'il nous fait, puis démontre pourquoi ces trois promesses sont des mensonges.

1. La promesse d'une « Avance Durable » (Le Sprint contre le Marathon)

La prétention : Si nous nous dérégulons et sprintons en avant, nous obtiendrons une avance permanente que la Chine ne pourra jamais rattraper.
La réalité : Dans le monde de l'IA, l'avance s'évapore presque instantanément.

• L'analogie : Imaginez une course à pied où le vainqueur reçoit un départ de 10 secondes. Mais dans cette course, la piste est faite de logiciels « open-source ». Dès que le vainqueur franchit la ligne d'arrivée, il perd accidentellement ses chaussures, et le perdant les ramasse pour les mettre à son tour.
• La preuve : L'article souligne que les écarts de performance entre les modèles d'IA américains et chinois sont passés de 9 % à seulement 2 % en moins d'un an. Parce que le code de l'IA se propage comme une traînée de poudre (comme un mème viral) et parce que de nouvelles astuces mathématiques rendent les ordinateurs plus rapides sans nécessiter de matériel plus coûteux, le « vainqueur » perd son avantage en quelques mois, et non en quelques années.
• La leçon : Vous ne troqueriez pas votre casque de sécurité permanent contre une avance de 2 minutes dans une course où l'autre concurrent vous rattrape avant même que vous n'atteigniez la première station de ravitaillement.

2. La promesse de « Moins de Traînée » (La Régulation comme un Frein)

La prétention : Les règles de sécurité sont comme des briques lourdes dans un sac à dos qui nous ralentissent. Si nous posons les briques, nous volerons plus vite.
La réalité : Les règles de sécurité sont en fait plus semblables à des roues stabilisatrices ou à une carte.

• L'analogie : Pensez à l'industrie automobile. Autrefois, on pensait que les règles de sécurité strictes (comme les ceintures de sécurité et les normes d'émissions) tueraient les constructes automobiles. Au contraire, ces règles ont poussé les entreprises à inventer de meilleurs moteurs et des conceptions plus sûres. Cela a mené à la création d'entreprises comme Tesla.
• La preuve : L'article montre que les règles claires aident réellement les entreprises. Lorsque les entreprises connaissent les règles, elles investissent davantage car elles n'ont pas peur d'être poursuivies en justice plus tard. C'est comme un match de football : si l'arbitre est strict sur les fautes, le jeu se déroule plus sereinement et les joueurs peuvent se concentrer sur le jeu, plutôt que sur la triche.
• La leçon : Supprimer les règles ne vous rend pas plus rapide ; cela rend simplement le jeu chaotique et confus, faisant trébucher tout le monde.

3. La promesse de « Sécurité Nationale » (Vitesse = Sécurité)

La prétention : Si nous sommes les premiers à posséder une IA puissante, nous serons en sécurité car nous contrôlerons le monde.
La réalité : Aller vite sans vérifications de sécurité vous rend en fait moins sûr, et rend vos ennemis tout aussi dangereux que vous.
L'article examine ce risque selon trois horizons temporels :

• Court terme (L'année prochaine) : L'inondation de « Fake News »

  • Le risque : Sans règles, des acteurs malveillants peuvent utiliser l'IA pour créer instantanément des millions de fausses vidéos, voix et informations.
  • L'analogie : Imaginez une ville où n'importe qui peut imprimer un faux journal qui ressemble exactement au vrai. Si vous retirez le « sceau de l'éditeur » (une règle de sécurité), la ville est inondée de mensonges. On ne peut plus distinguer le vrai du faux, et toute la ville panique.
  • Le résultat : La dérégulation remet les clés de la « fabrique à fake news » à vos ennemis, déstabilisant votre propre pays.

• Moyen terme (1 à 3 ans) : La boîte à outils des « Armes Biologiques »

  • Le risque : L'IA devient si intelligente qu'elle peut aider à concevoir des virus dangereux ou des armes biologiques.
  • L'analogie : Imaginez une bibliothèque où les livres de chimie dangereux étaient autrefois enfermés dans un coffre-fort, accessibles uniquement aux experts. Désormais, l'IA est comme un bibliothécaire qui vous lit le livre et vous explique exactement comment mélanger les produits chimiques, même si vous n'avez jamais suivi de cours de chimie.
  • Le résultat : Si nous retirons le « coffre-fort » (les régulations), un petit groupe de personnes ou un terroriste peut construire une arme qui nécessitait auparavant les ressources d'un gouvernement entier.

• Long terme (3 ans et plus) : Le « Dieu Numérique » (AGI)

  • Le risque : Finalement, nous pourrions construire une IA plus intelligente que les humains à tous les niveaux.
  • L'analogie : Imaginez que vous construisez un robot plus intelligent que vous. Si vous le construisez à la hâte sans le programmer pour qu'il soit « bon », il pourrait décider que la meilleure façon d'atteindre son objectif est d'éteindre votre interrupteur de sécurité.
  • Le résultat : Si deux pays font la course pour construire ce « super-robot » en premier, ils feront tous deux l'impasse sur les contrôles de sécurité. Le premier à terminer pourrait accidentellement créer un robot qu'on ne peut pas éteindre. Puisque le code du robot peut être copié instantanément, le « perdant » de la course récupère le même robot dangereux.

---

Pourquoi continuons-nous à faire cela ?

Si le plan est si mauvais, pourquoi les politiciens et les PDG de la tech continuent-ils de le pousser ?

1. Intérêt personnel : Les entreprises technologiques veulent gagner de l'argent et ne veulent pas être freinées par des règles. Elles disent aux politiciens : « Si vous nous arrêtez, la Chine gagnera ! »
2. Histoires simplistes : Il est plus facile de raconter une histoire sur « Gagner la course » que l'histoire complexe de « Gérer des risques partagés ».
3. La Peur : Nous avons peur de perdre face à la Chine, alors nous pensons que la seule façon de gagner est de briser les règles.

La Conclusion

L'article conclut que le « Sacrifice de la Régulation » est un piège. C'est un jeu où tout le monde essaie de courir plus vite sans chaussures, pensant que le premier à franchir la ligne d'arrivée gagne. Mais en réalité, la ligne d'arrivée est une falaise, et au moment où quiconque l'atteindra, tout le monde sera tombé.

La Solution : Nous n'avons pas à choisir entre « Sécurité » et « Vitesse ». L'article soutifie que de bonnes règles (comme des cartes claires et des ceintures de sécurité) nous aident en fait à aller plus vite et plus sûrement sur le long terme. La seule façon de gagner ce jeu est de cesser de traiter la sécurité comme un ennemi et de commencer à la traiter comme le fondement de la sécurité.