Mapping General-Purpose AI Governance in Twenty AI Middle-Power Jurisdictions
Este artículo mapea los marcos de gobernanza de la IA Generativa (GPAI) de veinte jurisdicciones de potencia media, revelando que, si bien convergen ampliamente en las formas regulatorias a través de áreas clave de rendición de cuentas, divergen significativamente en el poder de ejecución, con la mayoría recurriendo a medidas no vinculantes, mandatos de capa de aplicación preexistentes y capacidades de observación en lugar de imponer deberes vinculantes a los desarrolladores de modelos.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina un mundo donde los sistemas de inteligencia artificial más poderosos se construyen en solo dos lugares, pero sus efectos repercuten en todas las naciones de la Tierra. Estos sistemas, conocidos como IA de propósito general, no son simples herramientas diseñadas para una tarea única como clasificar el correo o reconocer rostros. En cambio, son motores vastos y flexibles capaces de aprender casi cualquier cosa, desde escribir código hasta simular procesos biológicos. Debido a que son tan adaptables, conllevan riesgos únicos: podrían ser utilizados para crear armas peligrosas, lanzar ciberataques o comportarse de formas que los humanos no puedan detener. Aunque las empresas que construyen estos sistemas están concentradas en unos pocos países, el resto del mundo aún debe descubrir cómo vivir con ellos. Este es el desafío que enfrentan lo que los investigadores llaman "potencias medias de la IA": naciones que no construyen estos modelos de frontera por sí mismas, pero que aun así deben regular cómo se usan, venden y monitorean dentro de sus fronzas.
Un equipo de investigadores se propuso mapear cómo estas veinte naciones están abordando este problema. No se fijaron en declaraciones políticas amplias o promesas vagas. En su lugar, profundizaron en las leyes, regulaciones y documentos de orientación oficiales para ver exactamente qué reglas se han escrito. Se centraron en cuatro áreas específicas donde se debe garantizar la seguridad: verificar los riesgos de gran escala antes de que un sistema sea lanzado, probar y verificar qué es capaz de hacer realmente el sistema, prohibir usos o capacidades peligrosas y reportar accidentes graves cuando ocurran. Al leer la letra pequeña de cientos de documentos, construyeron una imagen detallada del panorama global de la gobernanza de la IA.
Lo que encontraron fue una historia de forma sin fuerza. A través de las veinte naciones estudiadas, existe un acuerdo claro sobre la forma de las reglas. Casi todos los países están tratando de abordar las mismas cuatro áreas de seguridad. Todos hablan de evaluación de riesgos, pruebas, prohibiciones e informes. Sin embargo, están fallando en hacer que esas reglas se cumplan. Los investigadores descubrieron que, si bien muchos países han redactado estos requisitos, muy pocos los han convertido en leyes vinculantes que realmente puedan aplicarse. De hecho, solo alrededor del 22 por ciento de las reglas que encontraron están escritas en ley dura. El resto son directrices blandas, estrategias o códigos voluntarios que las empresas pueden decidir ignorar. Aún más sorprendente es que, cuando los países sí aprueban leyes vinculantes, a menudo no definen qué es realmente una "IA de propósito general". Crean reglas para una categoría de tecnología sin decir claramente qué incluye esa categoría. Esto deja un vacío donde una empresa podría argumentar que su nuevo y poderoso modelo no encaja en la definición y, por lo tanto, no necesita seguir las reglas.
La forma en que estas naciones aplican sus reglas revela otra capa de complejidad. La mayoría de las veces, las reglas no están dirigidas a las empresas que construyen los modelos de IA. En su lugar, las leyes se dirigen a las personas que usan los modelos, las plataformas que los alojan o las agencias gubernamentales que los compran. Esto sucede porque los países en el estudio no albergan a las empresas que construyen la IA más avanzada. No pueden obligar fácilmente a esos constructores extranjeros a cambiar su código o someterse a inspecciones. Por ello, intentan controlar la tecnología regulando cómo se despliega en sus propios mercados. Por ejemplo, un país podría exigir a un banco que pruebe una herramienta de IA antes de usarla, o a un hospital que informe si una IA comete un error. Si bien este enfoque es práctico, significa que la red de seguridad a menudo se teje alrededor de la aplicación de la tecnología en lugar de la tecnología misma.
Los investigadores también observaron quién realiza la verificación. En muchos casos, los organismos responsables de probar la IA son los mismos que fueron creados para otros fines, como regular las finanzas o proteger los datos. Estos organismos existentes están siendo llamados a asumir la supervisión de la IA sin tener siempre el poder técnico específico para hacerlo. Además, los nuevos institutos de seguridad que algunos países han construido para evaluar la IA a menudo carecen de la autoridad para detener un sistema peligroso si encuentran uno. Pueden medir el riesgo y publicar un informe, pero no pueden obligar al desarrollador a solucionar el problema. Es como si un departamento de bomberos pudiera medir qué tan caliente está un edificio y redactar un informe sobre el peligro, pero no tuviera el poder de ordenar al propietario que instale aspersores o clausure el edificio.
Quizás el hallazgo más significativo concierne al reporte de accidentes. Cuando ocurre un daño grave, ¿quién debe informar a las autoridades? El estudio encontró que la mitad de las naciones encuestadas no tienen ninguna regla en absoluto que exija que alguien reporte un incidente grave de IA. En los países que sí tienen tales reglas, las instrucciones suelen ser incompletas. Una regla podría decir "reporte un accidente", pero omitir a quién se debe reportar, qué tan rápido debe hacerse o qué sucede si nadie lo reporta. Sin estas cuatro piezas —el destinatario, el detonante, la fecha límite y la consecuencia—, una regla de reporte es solo una sugerencia. Los investigadores señalaron que esto deja un punto ciego: si un sistema de IA falla de una manera que no causa una brecha de datos inmediata o una pérdida financiera, podría no ser reportado nunca, incluso si el daño a largo plazo es severo.
El artículo también cuestionó la idea de que tener más leyes significa tener una mejor seguridad. Algunos países han producido docenas de documentos y directrices, creando una densa capa de papeleo. Sin embargo, cuando los investigadores analizaron el poder legal detrás de esos documentos, encontraron que muchos no eran vinculantes. Por el contrario, algunos países con menos documentos habían aprobado leyes estrictas y aplicables. El estudio demostró que el número de reglas que tiene un país es un mal indicador de qué tan segura es realmente su entorno de IA. Lo que importa es si las reglas están escritas de manera que puedan aplicarse y si llegan a las personas adecuadas.
Al final, el mapa trazado por esta investigación muestra un mundo que está tratando de ponerse al día con una tecnología que se mueve más rápido que sus leyes. Las veinte naciones han acordado el vocabulario de la seguridad: todas saben que necesitan evaluar riesgos, probar sistemas, prohibir malos usos y reportar accidentes. Pero aún no han acordado la fuerza de esas palabras. Las reglas son a menudo vagas, las definiciones faltan y los mecanismos de aplicación son débiles. Los investigadores sugieren que, antes de que el mundo pueda acordar un conjunto único de reglas internacionales, estas naciones individuales necesitan cerrar las brechas en sus propios sistemas. Necesitan decidir exactamente qué están regulando, dar a sus agencias de seguridad el poder de actuar y asegurar que, cuando algo salga mal, alguien sea realmente responsable. Hasta entonces, la red de seguridad global para la inteligencia artificial sigue llena de agujeros, tejida con buenas intenciones pero carente de la fuerza para sostener el peso de la tecnología que pretende proteger.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.