Administrative Law's Fourth Settlement: AI and the Scrutable State

Imagina al gobierno como una máquina gigante y compleja diseñada para resolver grandes problemas, como arreglar el tráfico, mantener el aire limpio o ayudar a las personas cuando se enferman. Durante mucho tiempo, las personas que dirigen esta máquina (los expertos en las agencias) han tenido un trabajo difícil. Necesitan ser súper inteligentes y usar herramientas avanzadas para solucionar problemas complicados, pero si se vuelven demasiado inteligentes y usan herramientas demasiado difíciles de entender, la gente común y los jueces que los vigilan no pueden ver qué está pasando. Es como un mago sacando un conejo de un sombrero: si el truco es demasiado complejo, la audiencia empieza a preguntarse: "¿Es real? ¿Es justo? ¿Quién está haciendo esto realmente?".

Este documento explora un problema famoso en el gobierno llamado la "trampa de la capacidad-rendición de cuentas". La "capacidad" es la habilidad del gobierno para realizar trabajos técnicos difíciles. La "rendición de cuentas" es la capacidad del público para entender y supervisar ese trabajo. Durante más de un siglo, cada vez que el gobierno mejoraba su capacidad para realizar trabajos difíciles (como usar computadoras o estadísticas), se volvía más difícil para la gente común entender cómo funcionaba. Para solucionar esto, el gobierno comenzó a añadir mucho papeleo y reglas (procedimientos) para demostrar que estaban siendo honestos. Pero ahora, hay tanto papeleo que el gobierno es lento, confuso y difícil de arreglar. El documento argumenta que el gobierno actualmente está intentando reducirse a sí mismo para ser más fácil de entender, pero esto podría hacerlo demasiado débil para resolver nuevos y temibles problemas como el cambio climático o las pandemias. La gran pregunta es: ¿Podemos usar una nueva herramienta llamada Inteligencia Artificial (IA) para hacer que el gobierno sea súper inteligente y, al mismo tiempo, súper transparente?

---

La historia de los dolores de crecimiento del gobierno

Este documento cuenta la historia de cómo el gobierno estadounidense ha intentado gestionar su propia capacidad intelectual durante los últimos 140 años. Argumenta que cada vez que llega una nueva tecnología, el gobierno tiene un "estirón de crecimiento" en su capacidad para hacer cosas, pero también obtiene una "niebla" que hace difícil que la gente común vea lo que está sucediendo.

Los primeros tres acuerdos (Las viejas formas)
El autor rastrea tres momentos importantes en la historia donde el gobierno tuvo que adaptarse:

1. La era del ferrocarril: Cuando los trenes cruzaron el país por primera vez, eran demasiado rápidos y complejos para que los jueces locales los entendieran. El gobierno creó comisiones expertas (como la ICC) para gestionarlos. Para mantener a estos expertos bajo control, la ley decía: "Debes llevar un registro y explicar tus razones". Esto funcionó, pero inició una tendencia de añadir más y más reglas.
2. La Gran Depresión: Cuando la economía colapsó, el gobierno necesitaba ayudar a millones de personas a la vez. Utilizaron nuevas herramientas estadísticas y máquinas de tarjetas perforadas para gestionar la Seguridad Social y otros programas. Pero debido a que estas decisiones afectaban a tanta gente, la gente común no podía entender las matemáticas. La solución fue la Ley de Procedimiento Administrativo (APA), que decía: "Mientras sigas los pasos correctos y mantengas un rastro de papel, estarás bien".
3. La era de la computación: Cuando llegaron las computadoras para manejar temas como la contaminación del aire y la seguridad nuclear, los problemas se volvieron aún más científicos. El gobierno comenzó a usar modelos complejos. Los tribunales, al darse cuenta de que no podían entender la ciencia, decidieron simplemente verificar si el gobierno seguía las reglas. Esto llevó a la famosa decisión Chevron, que básicamente decía: "Si la ley no es clara, confiaremos en los expertos para que la resuelvan, siempre y cuando tengan una buena razón".

La crisis actual: El "Estado Sedimentario"
Ahora, estamos en un lugar extraño. El gobierno se está ahogando en papeleo. Cada vez que se añadía una nueva regla para que las cosas fueran justas, se apilaba sobre las anteriores, como capas de roca sedimentaria. Este "estado sedimentario" ha hecho que el gobierno sea lento y confuso.

• El Problema: El gobierno está tan estancado en reglas que no puede moverse lo suficientemente rápido para solucionar nuevos problemas.
• La Reacción: Recientemente, la Corte Suprema y el Presidente han comenzado a desmantelar estas agencias expertas. Están diciendo: "No podemos entender lo que estos expertos están haciendo, así que vamos a reducirlos a un tamaño que podamos ver". Están eliminando las protecciones para los expertos independientes y devolviendo más poder al Presidente o a los tribunales.
• El Riesgo: El documento advierte que esta es una mala idea. Al hacer al gobierno más pequeño y simple solo para que sea "escrutable" (fácil de ver), podríamos perder la capacidad de resolver los problemas masivos y complejos que enfrentamos hoy, como el cambio climático o las nuevas enfermedades.

La nueva solución: El "Cuarto Acuerdo" con la IA

El autor sugiere que no tenemos que elegir entre un gobierno inteligente y uno transparente. Podríamos tener ambos, gracias a la Inteligencia Artificial.

La IA como el "Traductor" y la "Linterna"
El documento propone que la IA puede actuar como un tipo especial de infraestructura que hace que el trabajo complejo del gobierno sea comprensible sin que sea simple.

• Para el Público: Imagina un chatbot que pueda leer una regla gubernamental de 200 páginas sobre la contaminación del aire y explicártela en lenguaje sencillo, diciéndote exactamente cómo afecta a tu familia.
• Para los Jueces: Imagina una herramienta que pueda leer miles de comentarios sobre una regla y resumir los puntos principales, o verificar si las matemáticas del gobierno realmente cuadran.
• El Objetivo: En lugar de solo verificar si el gobierno siguió una lista de verificación (procedimiento), la IA podría ayudarnos a verificar si el gobierno realmente está haciendo lo correcto (sustancia).

Las tres nuevas reglas para un gobierno con IA
Para que esto funcione, el documento sugiere tres nuevas reglas para cómo el gobierno debe usar la IA:

1. El "Dossier del Modelo y el Sistema" (La tarjeta de identidad): Cada vez que una agencia use un sistema de IA, debe mantener un "documento de identidad" detallado para él. Este documento explicaría qué se supone que debe hacer la IA, cómo fue probada, qué errores podría cometer y quién es el responsable de ella. Es como una etiqueta nutricional para un algoritmo gubernamental.
2. El activador de "Cambio Material del Modelo" (La alerta de actualización): Los sistemas de IA cambian y aprenden con el tiempo. El documento dice que si un sistema de IA cambia de una manera que altera significativamente sus decisiones (como cambiar la forma en que aprueba los beneficios por discapacidad), el gobierno debe anunciarlo y explicar por qué. Es como si el motor de un coche de repente empezara a funcionar de forma distinta; querrías saberlo antes de conducirlo.
3. Deferencia a la Auditoría (La regla de confiar pero verificar): En lugar de que los jueces intenten entender la matemática compleja detrás de una decisión de la IA, deberían verificar si la agencia contrató a expertos independientes para "auditar" la IA. Si la agencia puede demostrar: "Probamos esto a fondo, y aquí está la prueba de que funciona de manera justa", los tribunales deberían confiar en ello. Esto desplaza el enfoque de "¿Siguió el papeleo?" a "¿Demostró que su herramienta es segura y justa?".

Por qué esto importa
El documento argumenta que este enfoque podría romper la "trampa" que ha mantenido al gobierno cautivo durante un siglo.

• Sugiere que la IA podría reducir el costo de la comprensión. Actualmente, entender una decisión gubernamental compleja es difícil y costoso. La IA podría hacer que sea barato y fácil.
• Sugiere que eventualmente podríamos alejarnos de solo verificar el papeleo y empezar a verificar si la IA está realmente alineada con los objetivos del público.
• Advierte que esto no es una solución mágica. Si la IA tiene sesgos, o si el gobierno la usa para ocultar malas decisiones (un problema llamado "lavado de valores"), necesitamos reglas estrictas para detener eso.

Lo que el documento NO dice
El documento es cuidadoso de no prometer que la IA lo solucionará todo de la noche a la mañana.

• No dice que la IA reemplazará a los jueces humanos o a los políticos. Los humanos aún deben tomar las decisiones finales sobre grandes cuestiones morales.
• No afirma que la IA sea actualmente perfecta para explicarse a sí misma. La tecnología aún se está desarrollando y existen riesgos como las "alucinaciones" (donde la IA inventa hechos).
• No argumenta que debamos detener todas las reglas antiguas inmediatamente. En cambio, sugiere usar la IA para que las reglas funcionen mejor y con menos dolor.

El panorama general

La historia aquí es una de esperanza mezclada con cautela. El gobierno está actualmente atrapado en un ciclo en el que intenta arreglar su complejidad reduciéndose a sí mismo, lo que podría dejarnos vulnerables ante futuras crisis. El autor sugiere un camino diferente: usar la Inteligencia Artificial no solo para realizar el trabajo, sino para arrojar luz sobre el mismo. Al crear un nuevo conjunto de reglas que exijan transparencia, pruebas y auditoría de las herramientas de IA, podríamos construir un gobierno que sea lo suficientemente inteligente para manejar el futuro, pero lo suficientemente claro como para que todos lo entiendan. Es un "Cuarto Acuerdo" que intenta tener el pastel y también comérselo: un gobierno que sea tanto capaz como responsable.