Frontier Technologies, Complex Externalities, and the Evolution of Private Order: Implications for AI Governance

Cuando llega una nueva tecnología, trae consigo la promesa de un beneficio y la sombra de un riesgo. A menudo, la verdadera naturaleza de ese riesgo permanece oculta hasta que la tecnología se utiliza realmente en el mundo real. Esto es especialmente cierto para la inteligencia artificial, una herramienta que puede remodelar cómo vivimos, trabajamos y nos comunicamos. Debido a que los peligros son tan complejos y dependen de situaciones específicas, resulta difícil para cualquier persona, incluidos los funcionarios gubernamentales, redactar las reglas perfectas antes de que la tecnología sea siquiera desplegada. La cuestión central que enfrenta la sociedad no es solo cómo detener los malos resultados, sino cómo descubrir las formas adecuadas para gestionar estos riesgos a medida que aprendemos más sobre ellos. Esto implica comprender las "externalidades", un término que los economistas utilizan para describir costos o beneficios que afectan a personas que no forman parte del trato original. Cuando una nueva tecnología crea problemas para vecinos o extraños, esos problemas son externalidades. El desafío es que estas externalidades suelen ser tan enredadas e impredecibles que ninguna autoridad única puede mapearlas de antemano.

Dos investigadores, Ali Palida y Nicholas Thielman, se propusieron explorar un ángulo diferente de este problema. En lugar de preguntar cómo debería regular la inteligencia artificial el gobierno, preguntaron cómo la regulación gubernamental podría impedir que los grupos privados encuentren sus propias soluciones. Argumentan que el proceso de utilizar una nueva tecnología es una forma de descubrimiento. Al probar cosas, la gente aprende qué funciona, qué falla y a quién es necesario proteger. Este proceso de aprendizaje permite que los grupos privados —como las compañías de seguros, los certificadores de seguridad o incluso los vecinos negociando entre sí— construyan reglas flexibles que se ajusten a la situación específica. Los autores sugieren que si el gobierno interviene demasiado pronto con una prohibición estricta o una regla rígida, podría bloquear los experimentos necesarios para encontrar la mejor manera de gobernar la tecnología.

Para probar esta idea, los investigadores analizaron tres ejemplos históricos donde nuevas tecnologías enfrentaron incertidumbres similares. El primer ejemplo involucra la electricidad a finales del siglo XIX. Cuando las luces eléctricas y las líneas de alta tensión se introdujeron por primera vez, causaron incendios frecuentes, pero nadie sabía exactamente qué dispositivos eran seguros. El gobierno no intervino de inmediato para establecer estándares de seguridad. En su lugar, surgió una organización privada llamada Underwriters Laboratories. Iniciada por compañías de seguros preocupadas por las pérdidas por incendios, este grupo comenzó a probar equipos eléctricos y a crear sus propios estándares de seguridad. Con el tiempo, a medida que probaban más dispositivos y veían qué causaba incendores, refinaban sus reglas. Su sistema privado llegó a ser tan confiable que las ciudades adoptaron sus estándares en la ley, y los fabricantes buscaron su aprobación para vender productos. Los autores señalan que este sistema funcionó porque era flexible; podía cambiar a medida que se descubrían nuevos peligros mediante el uso real, en lugar de quedarse estancado en reglas escritas antes de que nadie conociera los riesgos.

El segundo ejemplo proviene del mundo del seguro cibernético. A medida que las computadoras y el internet crecieron, los hackers se convirtieron en una amenaza importante, pero la naturaleza de estas amenazas cambiaba constantemente. Un año, el riesgo principal podría ser el robo de números de tarjetas de crédito; al siguiente, podría ser un ransomware que bloquea los registros de un hospital. Debido a que los riesgos eran tan fluidos, los reguladores gubernamentales luchaban por escribir reglas que se mantuvieran relevantes. Las compañías de seguros privadas, sin embargo, se adaptaron rápidamente. Comenzaron a ofrecer pólizas que requerían que las empresas cumplieran con estándares de seguridad específicos para obtener cobertura. Si una empresa no actualizaba su seguridad, la compañía de seguros aumentaba el precio o cancelaba la póliza. Esto creó un bucle de retroalimentación: a medida que aparecían nuevos tipos de ataques, los aseguradores aprendían de los datos de las reclamaciones y actualizaban sus requisitos. Este sistema privado permitió un ajuste constante y en tiempo real de las reglas de seguridad, algo que una burocracia gubernamental de movimiento lento podría tener dificultades para igualar.

La tercera historia tiene lugar en los inicios de la radiodifusión. Antes de que el gobierno creara una agencia central para gestionar las frecuencias de radio, las estaciones interferían a menudo entre sí, creando una mezcla caótica de señales. La creencia común era que este caos solo podía solucionarse mediante una autoridad central. Sin embargo, los investigadores encontraron que, antes de que el gobierno interviniera, las estaciones de radio en realidad negociaban entre sí. Intercambiaban frecuencias, acordaban horarios de transmisión o compraban a competidores para evitar interferencias. Este sistema privado de negociación y derechos de propiedad permitió que la industria de la radio creciera y se volviera valiosa. Fue solo más tarde cuando el gobierno reemplazó este sistema privado y flexible con un plan centralizado y rígido. Los autores argumentan que este cambio no ocurrió porque el sistema privado fallara, sino porque los políticos y los radiodifusores poderosos querían controlar las valiosas ondas de radio para sí mismos. El resultado fue un sistema menos adaptable y más lento para innovar.

Para entender la mecánica de este proceso, los investigadores construyeron un modelo simple de cómo funciona la toma de decisiones cuando el futuro es desconocido. En su modelo, se utiliza una nueva tecnología y se observan los resultados. Esta observación enseña algo nuevo a todos. Si un grupo de personas afectadas por la tecnología puede reunirse y renegociar sus reglas cada vez que aprenden algo nuevo, pueden ajustar su enfoque para adaptarse a la nueva realidad. Pueden decidir dejar de usar la tecnología si es peligrosa, o cambiar la forma en que se usa si es segura pero necesita ajustes. Sin embargo, si una autoridad externa impone una prohibición permanente o una regla fija que no puede ser modificada por acuerdo privado, el proceso de aprendizaje se detiene. La prohibición impide el experimento que habría revelado la verdad. Incluso si el grupo aprende más tarde que la tecnología es segura y beneficiosa, sigue atrapado con la vieja regla porque no puede negociar alrededor del veto del gobierno.

Los investigadores encontraron que esto crea dos problemas específicos. Primero, una prohibición permanente detiene el aprendizaje que es necesario para comprender los riesgos. Segundo, incluso si el grupo aprende que un arreglo diferente sería mejor para todos, la regla gubernamental fija les impide realizar ese cambio. Los autores enfatizan que esto no significa que las reglas gubernamentales sean siempre malas. A veces, una prohibición es necesaria para prevenir un desastre que es demasiado severo para arriesgarse. Pero el estudio sugiere que debemos sopesar la seguridad inmediata de una prohibición frente al costo a largo plazo de detener el descubrimiento de mejores y más flexibles soluciones. El objetivo no es dejar las tecnologías peligrosas completamente solas, sino evitar bloquear el proceso de descubrimiento de mejores formas de gobernanza.

El artículo concluye que la gobernanza efectiva para la inteligencia artificial puede no ser algo que podamos diseñar perfectamente desde el principio. En cambio, podría ser algo que emerja a medida que utilizamos la tecnología y aprendemos de nuestros errores. Los grupos privados, a través de contratos, seguros y certificaciones, suelen estar en una mejor posición para aprender y adaptarse rápidamente porque tienen un interés directo en el resultado. Pueden cambiar sus reglas tan pronto como llega nueva información. La intervención gubernamental, aunque a veces es necesaria, conlleva el riesgo de congelar el sistema en su lugar antes de que se hayan descubierto las reglas adecuadas. Los autores sugieren que el mejor camino hacia adelante es permitir que este experimento privado ocurra, asegurando que no bloqueemos el proceso mismo que nos enseñará cómo gestionar la tecnología de manera segura. El desafío para los responsables de políticas es proteger a las personas de daños inmediatos sin cortar el camino hacia una gobernanza futura mejor y más efectiva.