Distinguishing Task-Specific and General-Purpose AI in Regulation

La vue d'ensemble : Le « Couteau suisse » vs l'« Outil spécialisé »

Imaginez le monde de l'Intelligence Artificielle (IA) comme un magasin de bricolage.

Depuis une décennie, les décideurs politiques rédigent des règles pour l'IA spécifique à une tâche. Considérez cela comme des outils spécialisés : un marteau, un tournevis ou un grille-pain. Vous savez exactement à quoi sert un marteau (frapper des clous). Vous savez exactement à quoi sert un grille-pain (brunir le pain). Parce que ces outils ont un travail clair, il est facile de rédiger des règles à leur sujet. Par exemple, vous pouvez dire : « Ce marteau doit être assez solide pour frapper un clou sans se casser » ou « Ce grille-pain ne doit pas brûler le pain ».

Maintenant, nous avons l'IA à usage général (GPAI). Considérez cela comme un Couteau suisse magique qui peut se transformer en n'importe quoi. Il peut être un marteau, un tournevis, une scie, un cure-dent ou un tire-bouchon, selon ce que vous lui demandez d'être. Il n'a pas un seul travail ; il a le potentiel de faire presque tout.

Le problème : Les auteurs soutiennent que les décideurs politiques essaient de réguler ce couteau suisse magique en utilisant les mêmes règles qu'ils ont écrites pour le marteau. Ils essaient d'interdire les « marteaux » en fonction du poids de leur manche, sans réaliser que le couteau suisse pourrait être utilisé pour ouvrir une bouteille de vin, réparer une voiture ou couper une corde. Les anciennes règles ne correspondent pas au nouvel outil.

---

Quatre raisons pour lesquelles les anciennes règles ne fonctionnent pas

L'article identifie quatre raisons principales pour lesquelles nous avons besoin d'une approche différente pour ce « couteau suisse magique ».

1. Il est trop flexible pour être cerclé

L'analogie : Imaginez essayer d'écrire une loi qui dit : « Aucun outil pesant plus de 5 livres ne peut être vendu ».

• Pour un marteau : Cela fonctionne. Vous mesurez le marteau. S'il est trop lourd, il est interdit.
• Pour le couteau suisse : Cela échoue. Le couteau peut être léger, mais si vous l'utilisez pour fabriquer une bombe, il est dangereux. Si vous l'utilisez pour réparer une montre, il est utile. Le problème n'est pas l'outil lui-même ; c'est la manière dont il est utilisé qui pose problème.

La thèse de l'article : Comme l'IA à usage général peut être adaptée pour faire des milliers de choses différentes, réguler l'« outil » (le modèle) lui-même est inutile. Vous ne pouvez pas prédire quel dommage il causera simplement en regardant sa taille ou son poids. Vous devez réguler le travail spécifique qui lui est demandé.

2. On ne peut pas le tester correctement

L'analogie : Imaginez un examen de conduite.

• Pour un robot de livraison spécialisé : Vous le testez sur un itinéraire spécifique. Vous savez qu'il doit s'arrêter aux feux rouges et éviter les nids-de-poule. Vous pouvez lui donner une note de réussite ou d'échec facilement.
• Pour le couteau suisse : Comment le tester ? Lui demandez-vous de conduire ? De cuisiner ? D'écrire un poème ? De résoudre un problème de mathématiques ?
  • Si vous le testez sur un examen de « cuisine », il peut réussir. Mais cela ne vous dit pas s'il va provoquer un accident de voiture.
  • Si vous le testez sur un examen de « conduite », il peut échouer, mais cela ne vous dit pas s'il saura écrire un mauvais poème.

La thèse de l'article : Les règles actuelles exigent que l'IA réussisse des « tests » avant d'être déployée. Mais comme l'IA à usage général n'a pas un travail spécifique, ces tests sont trompeurs. Un modèle peut réussir un test de sécurité sur l'écriture de récits, mais échouer lamentablement lorsqu'il est utilisé pour générer des conseils médicaux. Les tests ne reflètent pas le danger réel car le « monde réel » change chaque fois que l'outil est utilisé.

3. Cela crée des cauchemars juridiques

L'analogie : Imaginez une usine qui ne fabriquait autrefois que des briques.

• Anciennes règles : Nous avions des lois sur la sécurité des briques, la poussière de brique et la livraison de briques.
• Nouvelle réalité : Maintenant, l'usine fabrique des briques, mais aussi de faux diamants, de fausses voix et de faux virus.

La thèse de l'article : L'IA spécifique à une tâche soulevait principalement des questions d'équité (ex : « Ce robot de recrutement a-t-il discriminé ? »). L'IA à usage général soulève des problèmes entièrement nouveaux et effrayants que les anciennes lois n'avaient pas anticipés :

• Droit d'auteur : Elle peut copier des livres et des chansons parfaitement.
• Fausses informations : Elle peut écrire des articles de presse mensongers qui semblent réels.
• Deepfakes : Elle peut créer des vidéos de personnes disant des choses qu'elles n'ont jamais dites.
• Biosécurité : Elle pourrait aider des acteurs malveillants à concevoir des virus dangereux.

Ce sont des problèmes juridiques différents qui nécessitent des experts différents (comme des avocats spécialisés en droit d'auteur ou des experts en biosécurité), et non de simples « experts en IA ».

4. La chaîne d'approvisionnement est un chaos

L'analogie : Imaginez une voiture spécialisée.

• Ancienne méthode : Une entreprise construit la voiture, la teste et la vend. Si les freins lâchent, vous savez qui poursuivre : l'entreprise automobile.
• Nouvelle méthode : Imaginez un robot modulaire.
  • L'entreprise A construit le « cerveau » (le modèle d'IA à usage général).
  • L'entreprise B prend ce cerveau et lui apprend à conduire un camion.
  • L'entreprise C prend ce camion et le transforme en service de livraison.
  • L'entreprise D utilise le service de livraison pour transporter des marchandises illégales.

La thèse de l'article : Avec l'IA à usage général, le « cerveau » est construit par une grande entreprise, mais ensuite des milliers d'autres personnes le modifient et l'utilisent pour différentes choses. Si quelque chose tourne mal, il est extrêmement difficile de déterminer qui est responsable. Était-ce le fabricant du cerveau ? La personne qui l'a modifié ? La personne qui l'a utilisé ? Les anciennes règles supposent un propriétaire clair, mais la nouvelle réalité est un réseau complexe de nombreux propriétaires.

---

Les trois recommandations : Comment corriger le tir

Les auteurs suggèrent trois façons de réparer ces règles défaillantes :

1. Réguler le « Travail », pas l'« Outil »

La métaphore : Arrêtez d'essayer d'interdire les « couteaux » parce qu'ils sont tranchants. Interdisez plutôt « l'acte de poignarder des gens ».

• Approche actuelle : « Pas de modèles d'IA plus grands que X taille ». (C'est comme interdire tous les couteaux dont la lame dépasse 3 pouces, même s'ils sont utilisés pour la chirurgie).
• Nouvelle approche : « Pas d'IA utilisée pour le recrutement qui discrimine ». ou « Pas d'IA utilisée pour générer de fausses informations ».
• Pourquoi : Cela se concentre sur le dommage (le coup de poignard) plutôt que sur l' outil (le couteau). Cela permet d'utiliser la technologie pour le bien (la chirurgie) tout en stoppant le mal (le crime).

2. N'utiliser les « Spécifications Techniques » qu'en dernier recours

La métaphore : Utiliser une règle pour mesurer le danger est un raccourci, mais c'est souvent erroné.

• L'idée : Parfois, nous devrons peut-être dire : « Si un ordinateur est trop puissant, nous devons le surveiller ». Mais nous ne devrions le faire que si :
  1. Nous ne pouvons pas réguler l' usage de l'outil (parce que le danger est trop grand ou trop rapide).
  2. Le danger est réel et prouvé (pas seulement une supposition).
  3. Le bénéfice de stopper l'outil vaut le coût de l'arrêt de l'innovation.
• Pourquoi : Si nous interdisons simplement des outils en fonction de leur taille ou de leur vitesse, nous pourrions accidentellement interdire des choses utiles (comme la modélisation climatique) ou manquer des choses dangereuses qui sont pourtant petites mais puissantes.

3. Construire des « Dos d'âne » dans le système

La métaphore : Au lieu d'essayer d'attraper chaque mauvais conducteur, construisez une route qui rend la conduite rapide difficile dès le départ.

• L'idée : L'article suggère d'examiner toute la « chaîne de risque ». Par le passé, fabriquer une arme biologique était difficile car il fallait un laboratoire, des produits chimiques coûteux et un doctorat. C'étaient des « dos d'âne naturels ».
• La menace : L'IA pourrait supprimer ces dos d'âne. Elle pourrait permettre à quelqu'un de concevoir un virus sur un ordinateur portable sans avoir besoin d'un laboratoire.
• La solution : Les régulateurs doivent trouver de nouveaux dos d'âne. Si l'IA facilite l'accès au « savoir », nous devons peut-être réguler les « matériaux » ou les « ordinateurs » nécessaires pour faire fonctionner l'IA. Nous devons regarder l'écosystème dans son ensemble pour voir où les barrières tombent et en construire de nouvelles.

Résumé

L'article soutient que nous essayons de réguler un couteau suisse magique et polymorphe avec des règles conçues pour un simple marteau. Comme le couteau peut tout faire, nous ne pouvons pas le juger par son poids ou sa taille. Au lieu de cela, nous devons :

1. Réguler le travail spécifique qu'il accomplit.
2. Ne regarder les spécifications de l'outil que si c'est absolument nécessaire.
3. Construire des barrières dans le système pour empêcher les mauvaises choses d'arriver, plutôt que de simplement essayer d'attraper les acteurs malveillants après coup.