Administrative Law's Fourth Settlement: AI and the Scrutable State

Imaginez le gouvernement comme une machine géante et complexe conçue pour résoudre de grands problèmes, comme réparer la circulation, garder l'air propre ou aider les gens lorsqu'ils tombent malades. Pendant longtemps, les personnes qui dirigent cette machine (les experts des agences) ont eu un travail difficile. Elles doivent être super-intelligentes et utiliser des outils avancés pour résoudre des problèmes compliqués, mais si elles deviennent trop intelligentes et utilisent des outils trop difficiles à comprendre, les gens ordinaires et les juges qui les surveillent ne peuvent plus voir ce qui se passe. C'est comme un magicien qui sort un lapin d'un chapeau : si le tour est trop complexe, le public commence à se demander : « Est-ce réel ? Est-ce équitable ? Qui est vraiment en train de faire cela ? »

Ce document explore un problème célèbre dans le gouvernement appelé le « piège de la capacité-responsabilité ». La « capacité » désigne l'aptitude du gouvernement à accomplir des travaux techniques difficiles. La « responsabilité » (ou l'imputabilité) désigne la capacité du public à comprendre et à vérifier ce travail. Pendant plus d'un siècle, chaque fois que le gouvernement est devenu meilleur pour accomplir des tâches difficiles (comme utiliser l'informatique ou les statistiques), il est devenu plus difficile pour les gens ordinaires de comprendre son fonctionnement. Pour corrir cela, le gouvernement a commencé à ajouter beaucoup de paperasse et de règles (des procédures) pour prouver qu'il était honnête. Mais maintenant, il y a tellement de paperasse que le gouvernement est lent, déroutant et difficile à réformer. Le document soutient que le gouvernement essaie actuellement de se réduire pour se rendre plus facile à comprendre, mais cela pourrait le rendre trop faible pour résoudre de nouveaux problèmes effrayants comme le changement climatique ou les pandémies. La grande question est : pouvons-nous utiliser un nouvel outil appelé l'Intelligence Artificielle (IA) pour rendre le gouvernement à la fois super-intelligent et super-transparent ?

---

L'histoire des crises de croissance du gouvernement

Ce document raconte l'histoire de la manière dont le gouvernement américain a tenté de gérer sa propre puissance intellectuelle au cours des 140 dernières années. Il soutient qu'à chaque fois qu'une nouvelle technologie arrive, le gouvernement connaît une « poussée de croissance » dans sa capacité à faire des choses, mais il subit aussi un « brouillard » qui rend difficile pour les gens ordinaires de voir ce qui se passe.

Les trois premiers règlements (Les anciennes méthodes)
L'auteur retrace trois moments importants de l'histoire où le gouvernement a dû s'adapter :

1. L'ère des chemins de fer : Lorsque les trains ont commencé à traverser le pays à toute vitesse, ils étaient trop rapides et complexes pour les juges locaux. Le gouvernement a créé des commissions d'experts (comme l'ICC) pour les gérer. Pour tenir ces experts en respect, la loi stipulait : « Vous devez tenir un registre et expliquer vos raisons ». Cela fonctionnait, mais cela a instauré une tendance à ajouter de plus en plus de règles.
2. La Grande Dépression : Lorsque l'économie s'est effondrée, le gouvernement a dû aider des millions de personnes en même temps. Ils ont utilisé de nouveaux outils statistiques et des machines à cartes perforées pour gérer la Sécurité sociale et d'autres programmes. Mais comme ces décisions affectaient tant de personnes, les gens ordinaires ne pouvaient pas comprendre les mathématiques. La solution fut l'Administrative Procedure Act (APA), qui disait : « Tant que vous suivez les bonnes étapes et que vous laissez une trace écrite, tout va bien ».
3. L'ère de l'informatique : Lorsque l'informatique est arrivée pour gérer des sujets comme la pollution de l'air ou la sécurité nucléaire, les problèmes sont devenus encore plus scientifiques. Le gouvernement a commencé à utiliser des modèles complexes. Les tribunaux, réalisant qu'ils ne pouvaient pas comprendre la science, ont décidé de simplement vérifier si le gouvernement respectait les règles. Cela a mené à la célèbre décision Chevron, qui disait essentiellement : « Si la loi n'est pas claire, nous ferons confiance aux experts pour décider, tant qu'ils ont une bonne raison ».

La crise actuelle : L'« état sédimentaire »
Nous sommes maintenant dans une situation étrange. Le gouvernement se noie sous la paperasse. Chaque fois qu'une nouvelle règle a été ajoutée pour rendre les choses équitables, elle s'est accumulée sur les anciennes, comme des couches de roche sédimentaire. Cet « état sédimentaire » a rendu le gouvernement lent et confus.

• Le problème : Le gouvernement est tellement encombré par les règles qu'il ne peut pas agir assez vite pour résoudre les nouveaux problèmes.
• La réaction négative : Récemment, la Cour suprême et le Président ont commencé à démanteler ces agences d'experts. Ils disent : « Nous ne comprenons pas ce que font ces experts, donc nous allons les réduire à une taille que nous pouvons voir ». Ils suppriment les protections des experts indépendants et redonnent plus de pouvoir au Président ou aux tribunaux.
• Le risque : Le document prévient que c'est une mauvaise idée. En rendant le gouvernement plus petit et plus simple juste pour le rendre « scrutable » (facile à voir), nous risquons de perdre notre capacité à résoudre les problèmes massifs et complexes auxquels nous faisons face aujourd'hui, comme le changement climatique ou les nouvelles maladies.

La nouvelle solution : Le « quatrième règlement » avec l'IA

L'auteur suggère que nous n'avons pas à choisir entre un gouvernement intelligent et un gouvernement transparent. Nous pourrions avoir les deux, grâce à l'intelligence artificielle.

L'IA comme « Traducteur » et « Lampe de poche »
Le document propose que l'IA puisse agir comme une infrastructure spéciale qui rend le travail complexe du gouvernement compréhensible sans le rendre simple.

• Pour le public : Imaginez un chatbot capable de lire une règle gouvernementale de 200 pages sur la pollution de l'air et de vous l'expliquer en langage clair, en vous disant exactement comment elle affecte votre famille.
• Pour les juges : Imaginez un outil capable de lire des milliers de commentaires sur une règle et d'en résumer les points principaux, ou de vérifier si les calculs du gouvernement sont exacts.
• Le but : Au lieu de simplement vérifier si le gouvernement a suivi une liste de contrôle (la procédure), l'IA pourrait nous aider à vérifier si le gouvernement fait réellement ce qu'il faut (la substance).

Les trois nouvelles règles pour un gouvernement doté d'IA
Pour que cela fonctionne, le document suggère trois nouvelles règles sur la façon dont le gouvernement doit utiliser l'IA :

1. Le « Dossier du modèle et du système » (La carte d'identité) : Chaque fois qu'une agence utilise un système d'IA, elle doit conserver une fiche d'identité détaillée pour celui-ci. Ce document expliquerait ce que l'IA est censée faire, comment elle a été testée, les erreurs qu'elle pourrait commettre et qui en est responsable. C'est comme une étiquette nutritionnelle pour un algorithme gouvernemental.
2. Le déclencheur de « Changement de modèle matériel » (L'alerte de mise à jour) : Les systèmes d'IA changent et apprennent avec le temps. Le document stipule que si un système d'IA change d'une manière qui modifie de manière significative ses décisions (comme changer la façon dont il approuve les prestations d'invalidité), le gouvernement doit l'annoncer et l'expliquer. C'est comme si le moteur d'une voiture commençait soudainement à fonctionner différemment ; vous voudriez le savoir avant de conduire.
3. La déférence à l'audit (La règle du « Confiance mais vérification ») : Au lieu que les juges essaient de comprendre les mathématiques complexes derrière une décision d'IA, ils devraient vérifier si l'agence a engagé des experts indépendants pour « auditer » l'IA. Si l'agence peut prouver : « Nous avons testé cela minutieusement, et voici la preuve que cela fonctionne équitablement », les tribunaux devraient lui faire confiance. Cela déplace l'attention de « Avez-vous suivi la paperasse ? » vers « Avez-vous prouvé que votre outil est sûr et équitable ? ».

Pourquoi cela importe
Le document soutient que cette approche peut briser le « piège » qui tient le gouvernement en otage depuis un siècle.

• Il suggère que l'IA pourrait réduire le coût de la compréhension. Actuellement, comprendre une décision gouvernementale complexe est difficile et coûteux. L'IA pourrait rendre cela peu coûteux et facile.
• Il suggère que nous pourrions éventuellement passer de la simple vérification de la paperasse à la vérification que l'IA est réellement alignée sur les objectifs du public.
• Il prévient que ce n'est pas une solution magique. Si l'IA est biaisée, ou si le gouvernement l'utilise pour masquer de mauvaises décisions (un problème appelé « blanchiment de valeurs »), nous avons besoin de règles strictes pour l'empêcher.

Ce que le document ne dit PAS
Le document prend soin de ne pas promettre que l'IA résoudra tout du jour au lendemain.

• Il ne dit pas que l'IA remplacera les juges ou les politiciens humains. Les humains doivent toujours prendre les décisions finales sur les grandes questions morales.
• Il ne prétend pas que l'IA est actuellement parfaite pour s'expliquer elle-même. La technologie est encore en développement, et il existe des risques comme les « hallucinations » (où l'IA invente des faits).
• Il ne soutient pas que nous devions arrêter immédiatement toutes les anciennes règles. Au contraire, il suggère d'utiliser l'IA pour faire fonctionner les règles mieux et de manière moins pénible.

La vue d'ensemble

L'histoire ici est celle de l'espoir mêlé de prudence. Le gouvernement est actuellement coincé dans un cycle où il tente de gérer sa complexité en se réduisant, ce qui pourrait nous laisser vulnérables aux crises futures. L'auteur suggère une autre voie : utiliser l'intelligence artificielle non seulement pour faire le travail, mais pour éclairer ce travail. En créant un nouvel ensemble de règles qui exigent la transparence, les tests et l'audit des outils d'IA, nous pourrions construire un gouvernement assez intelligent pour gérer l'avenir, mais assez clair pour être compris de tous. C'est un « quatrième règlement » qui tente d'avoir le beurre et l'argent du beurre : un gouvernement qui soit à la fois capable et responsable.