How to Catch a GPU: A Taxonomy of Verification and Enforcement Mechanisms for International AI Agreements

Imaginez le monde de l'intelligence artificielle comme un immense chantier de construction à haut risque où des ingénieurs construisent des géants numériques. Ces géants, connus sous le nom de modèles d'IA frontières, sont si puissants qu'ils pourraient potentiellement causer des dommages catastrophiques s'ils tombaient entre de mauvaises mains ou s'ils devenaient incontrôlables. Pour que tout le monde soit en sécurité, les pays essaient de rédiger un règlement mondial qui dit : « Personne n'est autorisé à construire un géant plus grand qu'une certaine taille ». Mais c'est là que réside la difficulté : comment vérifier réellement si quelqu'un respecte les règles ? Vous ne pouvez pas simplement demander gentiment, et vous ne pouvez pas inspecter chaque ordinateur dans le monde. Vous avez besoin d'un moyen de débusquer les acteurs malveillants qui tentent de faire passer une machine géante et cachée pour un petit abri. C'est le défi de la « vérification et de l'application » : faire en sorte que les règles ne soient pas seulement des mots sur du papier, mais quelque chose qui fonctionne réellement dans le monde réel.

Ce document, intitulé « How to Catch a GPU » (Comment attraper un GPU), agit comme le guide du détective pour ces accords internationaux sur l'IA. Les auteurs, Raymond Koopmanschap et Otto Barten, décomposent le problème massif consistant à attraper les contrevenants en trois tâches plus petites et gérables. Ils soutiennent que pour arrêter une violation, il faut faire trois choses : empêcher les gens de voler les matériaux de construction (les puces informatiques), s'assurer que les personnes qui respectent les règles ne commencent pas secrètement à construire un géant malgré tout, et — surtout — trouver les abris secrets où les méchants cachent leurs machines.

Les auteurs proposent une nouvelle façon d'aborder ces problèmes, suggérant qu'à mesure que la technologie s'améliore et devient moins coûteuse, les machines « géantes » deviendront plus petites. À terme, une IA dangereuse pourrait tenir dans un conteneur maritime ou même dans une petite pièce. Le document analyse diverses propositions d'experts et constate que, bien que nous ayons de bonnes idées pour empêcher les gens de voler des puces et pour surveiller les personnes censées être honnêtes, nous sommes très mauvais pour trouver les abris secrets. Les auteurs suggèrent qu'à mesure que la puissance informatique requise diminue, trouver ces installations cachées devient presque impossible. Ils définissent un « point de rupture » — une taille spécifique où nos méthodes actuelles de recherche de secrets cessent de fonctionner. Ils concluent que, si nous pouvons probablement garder un œil sur les grandes usines, dès l'instant où un laboratoire secret rétrécit à la taille d'un petit entrepôt (environ 10 000 cartes graphiques haut de gamme), il devient très difficile de le distinguer d'un bâtiment normal, et si les méchants font vraiment des efforts pour se cacher, nous pourrions ne jamais le trouver.

Le jeu de détective en trois parties

Pour comprendre comment les auteurs résolvent cela, imaginez que vous essayiez d'empêcher quelqu'un de construire une voiture de course ultra-rapide dans son garage. Le document divise le travail de la « police de la circulation » en trois jeux distincts :

1. Le jeu du « Ne volez pas les pièces » (Prévenir l'acquisition incontrôlée de ressources)
Il s'agit d'empêcher les méchants d'obtenir les pièces de moteur spéciales dont ils ont besoin. Dans le monde de l'IA, ces « pièces » sont les puces informatiques puissantes (GPU) nécessaires pour entraîner l'IA. Les auteurs notent qu'actuellement, fabriquer ces puces est comme cuisiner un gâteau très spécifique et complexe ; seules quelques boulangeries au monde possèdent les fours appropriés. Comme il y a si peu d'endroits qui les fabriquent, il est en fait assez facile de les suivre. Si vous surveillez les boulangeries, vous savez où va chaque gâteau. Le document suggère que tant que la chaîne d'approvisionnement reste aussi concentrée, nous pouvons probablement empêcher les gens de sortir des puces clandestinement de l'usine. Même si la « voiture de course » devient plus petite, les pièces restent difficiles à obtenir sans que le monde ne s'en aperçoive.

2. Le jeu du « Ne trichez pas dans le garage » (Prévenir l'évasion du régime de contrôle)
Ce jeu s'adresse aux personnes qui respectent les règles. Imaginez une usine autorisée à construire de petites voitures. La police veut s'assurer qu'ils ne commencent pas secrètement à construire la super-voiture interdite à l'intérieur de cette même usine. Le document suggère que si nous installons des caméras, des capteurs et des inspecteurs dans ces usines autorisées, nous pourrons les attraper s'ils tentent de tricher. Les auteurs soutiennent que c'est en fait la partie la plus facile à résoudre. Si une usine tente de construire une machine interdite, nous pouvons simplement couper l'électricité de tout le bâtiment. C'est comme avoir un interrupteur général qui éteint les lumières dans une pièce ; si quelqu'un fait quelque chose qu'il ne devrait pas faire, il suffit de basculer l'interrupteur. Cela fonctionne que la machine soit énorme ou petite, tant que la machine se trouve dans la pièce que nous surveillons.

3. Le jeu du « Trouver l'abri secret » (Détecter la capacité cachée)
C'est le jeu le plus difficile, et c'est là que le document affirme que les choses commencent à s'effondrer. Il s'agit de trouver les méchants qui construisent leur super-voiture dans un abri dont la police ignore l'existence. Les auteurs expliquent qu'actuellement, les grandes usines d'IA sont faciles à repérer. Elles sont immenses, consomment énormément d'électricité et possèdent de gigantesques tours de refroidissement qui ressemblent à des cheminées industrielles. On peut les voir depuis l'espace !

Cependant, le document prévient qu'à mesure que l'IA devient plus intelligente, elle aura besoin de moins de puissance pour accomplir les mêmes tâches dangereuses. Une machine qui nécessitait autrefois un entrepôt entier pourrait bientôt tenir dans un conteneur maritime.

• Le point de rupture : Les auteurs calculent qu'une fois qu'une installation rétrécit à environ 10 000 puces haut de gamme (spécifiquement des équivalents H100), elle cesse de ressembler à une usine secrète pour ressembler à un immeuble de bureaux ou à un entrepôt normal.
• Le numéro disparition : À cette taille, les systèmes de refroidissement deviennent assez petits pour se fondre parmi les climatiseurs normaux, et la consommation d'électricité ressemble à celle d'un grand supermarché ou d'un hôpital.
• Le cacheur actif : Si les méchants essaient de se cacher intentionnellement (en utilisant une « dissimulation active »), le document suggère que nous pourrions être incapables de trouver des installations n'importe où entre 10 000 et 100 000 puces. Elles pourraient être dans un sous-sol, un entrepôt ou un conteneur, et nos satellites et moniteurs de consommation électrique ne verraient qu'un bâtiment normal.

Pourquoi cela importe

Le document conclut que, bien que nous ayons de bons plans pour surveiller les usines que nous connaissons et pour empêcher le vol de puces, il nous manque un plan pour trouver les installations secrètes. Les auteurs suggèrent que si nous ne trouvons pas comment localiser ces laboratoires plus petits et cachés, l'ensemble du système de règles internationales sur l'IA pourrait échouer. C'est comme avoir un panneau de limitation de vitesse qui fonctionne très bien pour les gros camions, mais si une petite moto rapide peut passer entre les caméras, la règle ne garantit pas réellement la sécurité des routes.

Les auteurs ne disent pas que nous devrions abandonner ; au contraire, ils disent que nous devons concentrer notre énergie sur le problème du « Trouver l'abri secret ». Ils soulignent qu'à mesure que la technologie progresse, la taille de la « machine interdite » diminuera, rendant le jeu de la cachette encore plus difficile. Ils suggèrent que les chercheurs doivent inventer de nouvelles façons de repérer ces petits laboratoires cachés avant que la technologie ne devienne trop petite pour être vue. D'ici là, le document soutient que la partie « Trouver l'abri secret » du plan est le maillon le plus faible, et c'est celui qui est le plus susceptible de céder en premier.