La conversación sobre la inteligencia artificial a menudo parece estancada en una única pregunta binaria: ¿deben los cerebros computacionales más poderosos mantenerse tras una puerta cerrada, accesibles solo a través del sitio web de una empresa, o deberían sus mecanismos internos publicarse para que cualquiera pueda descargarlos y estudiarlos? Este debate trata la liberación de un modelo como una elección simple entre "abierto" y "cerrado". Sin embargo, la realidad de estos sistemas es mucho más compleja. Un IA diseñado para ayudar a un niño a aprender el abecedario es fundamentalmente diferente de un sistema capaz de planificar estrategias militares complejas o manipular mercados financieros. El peligro que un sistema plantea no es el mismo que el que plantea el otro. Si aplicamos las mismas reglas a ambos, o bien bloqueamos herramientas que podrían enseñar a millones, o bien entregamos armas peligrosas a cualquiera que las quiera. El desafío central para la sociedad no es solo decidir qué tan inteligente puede ser una máquina, sino decidir quién tiene permitido usar esa inteligencia y bajo qué condiciones.

En septiembre de 2026, los investigadores Chai K. Toh y Vasu Raj Jain, de la Fundación SAFE AI, propusieron una nueva forma de pensar en este problema. Argumentan que el debate actual pasa por alto una distinción crucial: la diferencia entre qué tan capaz es un sistema y quién tiene permitido acceder a él. En lugar de preguntar si un modelo debe ser abierto o cerrado, sugieren que debemos organizar el acceso basándonos en lo que la máquina realmente va a hacer y cuánto daño podría causar si algo sale mal. Lo llaman el Modelo de Accesibilidad de IA Multinivel, un sistema que organiza la inteligencia artificial en tres niveles distintos, de forma muy similar a cómo regulamos diferentes tipos de vehículos o productos químicos según su riesgo.

El primer nivel, que los autores llaman "IA para el Aprendizaje", está diseñado para la educación y la alfabetización básica. Estos son sistemas destinados a enseñar a los estudiantes cómo usar la tecnología, cómo escribir código o cómo entender el mundo. Debido a que el potencial de daño es bajo, estos modelos deben ser lo más abiertos posible. Cualquier persona debería poder descargarlos, estudiarlos y usarlos sin necesidad de demostrar quién es. Los investigadores sugieren que estos sistemas deben estar deliberadamente limitados en su potencia; no necesitan ser las computadoras más poderosas existentes para enseñar una lección. Al mantener la capacidad de estas herramientas de aprendizaje limitada por diseño, la sociedad puede disfrutar de los beneficios del acceso abierto sin el riesgo de que un estudiante desate accidentalmente un sistema peligroso.

El segundo nivel, "IA para la Exploración", sirve a un grupo diferente: investigadores, desarrolladores y empresas que necesitan más potencia para construir nuevas aplicaciones o probar ideas científicas. Estos sistemas son más capaces que las herramientas de aprendizaje, pero aún no están en la cima de lo que es posible. El acceso a este nivel no es completamente abierto, pero tampoco está bajo llave. Funciona en una escala de gradación. Un sistema menos potente en esta categoría podría estar disponible para el público con algunas reglas, mientras que uno más poderoso requeriría que el usuario registre su identidad y acepte términos de uso específicos. La idea clave aquí es la rendición de cuentas. A medida que aumenta la potencia de la herramienta, la persona u organización que la utiliza debe ser identificable. Si algo sale mal, existe un registro de quién estaba usando el sistema y hay una forma de impedir que vuelva a usarlo si fuera necesario.

El tercer y último nivel es la "IA de Frontera a Escala Completa". Estos son los sistemas más poderosos imaginables, capaces de razonamiento avanzado, planificación autónoma y de operar en campos de alto riesgo como la defensa, la aviación o la infraestructura crítica. Los investigadores argumentan que estos sistemas nunca deben ser lanzados como archivos abiertos que cualquiera pueda descargar y modificar. Una vez que un modelo poderoso se publica como un conjunto de pesos —las instrucciones matemáticas que lo hacen funcionar—, es imposible recuperarlo. Si un actor malintencionado lo descarga, puede eliminar las funciones de seguridad, cambiar su comportamiento o integrarlo en un robot que actúe por su cuenta. El creador original pierde todo el control. Por lo tanto, el acceso a estos sistemas de frontera debe estar estrictamente limitado a organizaciones debidamente verificadas que tengan una necesidad legítima, con cada interacción registrada y monitoreada. El objetivo no es detener la innovación, sino asegurar que las herramientas más peligrosas sean manejadas únicamente por partes responsables que puedan ser llamadas a rendir cuentas.

El artículo proporciona evidencia sólida de por qué esta separación es necesaria. Los autores señalan que las funciones de seguridad añadidas a una IA suelen ser superficiales y pueden eliminarse de forma muy económica. Las investigaciones muestran que con solo unos pocos cientos de dólares en potencia de cómputo y una pequeña cantidad de datos, alguien puede tomar un modelo de pesos abiertos que es seguro y despojarlo de sus salvaguardas de seguridad. Esto significa que, incluso si un desarrollador prueba un modelo y determina que es seguro antes de lanzarlo, en el momento en que se descarga, esa garantía de seguridad desaparece. El modelo puede transformarse en algo peligroso, y el desarrollador original no tiene forma de detenerlo o corregirlo. En un sistema cerrado, donde el modelo se ofrece a través de una interfaz segura, el desarrollador puede monitorear el uso, detectar cuándo alguien intenta romper las reglas y revocar el acceso instantáneamente. En un sistema abierto, una vez que el archivo se descarga, el desarrollador pierde todos estos mecanismos de control.

Para que este sistema funcione, los investigadores proponen un conjunto de reglas para decidir a qué nivel pertenece un IA específico. Sugieren observar cuatro factores principales: qué tan capaz es el sistema, qué tanta autonomía tiene para actuar sin ayuda humana, qué tipo de consecuencias en el mundo real podrían derivarse de sus errores y para qué se está utilizando realmente el sistema. Un sistema puede ser muy inteligente pero usarse solo para escribir poesía, lo que lo mantiene en un nivel inferior. Pero si un sistema ligeramente menos inteligente está diseñado para controlar una red eléctrica o diseñar agentes biológicos, debe colocarse en un nivel superior porque las consecuencias del fallo son tan graves. La decisión de a qué nivel pertenece un sistema no debe dejarse enteramente en manos de las empresas que los construyen. En su lugar, organismos reguladores independientes o institutos de seguridad deberían revisar la evidencia y asignar el nivel, asegurando que las reglas se apliquen de manera justa y consistente.

Este enfoque combina dos límites de seguridad diferentes. El primero es un límite sobre qué tan poderoso puede llegar a ser un sistema, un concepto que los autores llaman el Límite de Capacidad. Esto establece un techo para la inteligencia bruta y la autonomía de cualquier IA, asegurando que no se construya ningún sistema que los humanos no puedan controlar. El segundo es el Límite de Accesibilidad, que es la nueva idea introducida en este artículo. Este dicta que, a medida que un sistema se acerca a ese techo, el número de personas autorizadas para usarlo debe disminuir y las reglas para su uso deben volverse más estrictas. Si solo tenemos un techo pero no hay reglas sobre quién puede escalarlo, las herramientas más peligrosas podrían terminar en manos de cualquiera. Si solo tenemos reglas sobre quién puede usarlas pero no un techo sobre su potencia, podríamos permitir el acceso controlado a sistemas que son demasiado peligrosos para que cualquiera los maneje.

Los investigadores reconocen que este sistema no es una solución perfecta y que depende de que las instituciones funcionen. Admiten que individuos decididos podrían encontrar formas de filtrar modelos poderosos, y que el marco no puede detener completamente la propagación de tecnología peligrosa. Sin embargo, argumentan que esto eleva el costo y la dificultad de tal proliferación, haciendo mucho más difícil que los actores malintencionados pongan sus manos en las herramientas más poderosas. Al organizar el acceso en niveles claros, la sociedad puede conservar los beneficios de la IA abierta para el aprendizaje y la investigación, al tiempo que crea una zona segura para los sistemas más potentes. El resultado es un mundo donde las máquinas más capaces no están cerradas para todos, ni se entregan a todos, sino que se asignan a las personas y organizaciones mejor equipadas para utilizarlas de forma segura.