Imagina que estás construyendo una casa. Durante décadas, hemos tenido un conjunto perfecto de planos y herramientas para medir la resistencia de las paredes, la seguridad de las cerraduras y la probabilidad de que un ladrón fuerce una cerradura específica. Estas herramientas funcionan de maravilla para casas estándar hechas de madera y ladrillo. Pero ahora, imagina que de repente estamos construyendo casas hechas de nubes vivientes y pensantes que pueden hablar contigo, escribir tus correos electrónicos e incluso conducir tu coche. Las herramientas antiguas no funcionan aquí. No puedes medir la "resistencia" de una nube con un martillo, y un ladrón no necesita forzar una cerradura; solo necesita susurrar una contraseña secreta a la nube para que esta le deje entrar. Este es el mundo de la Inteligencia Artificial (IA). Es un tipo de tecnología nueva que aprende de los datos en lugar de simplemente seguir una lista fija de instrucciones. Debido a que estos sistemas de IA son tan nuevos y tan diferentes, las listas de verificación de seguridad que usamos para el software informático regular están perdiendo las partes más importantes del rompecpecas. Necesitamos una nueva forma de entender los riesgos, o podríamos encontrarnos viviendo en una casa que parece segura pero que en realidad está llena de grietas invisibles.

Este artículo, escrito por Shubham Paikrao, es como un nuevo kit de herramientas hecho a medida, diseñado específicamente para estas casas de "nubes pensantes". El autor sostiene que las puntuaciones de seguridad que usamos hoy en día son como intentar medir el peso de una nube con una báscula de baño: simplemente no encajan. El artículo sugiere que, en lugar de intentar forzar un número nuevo en las herramientas antiguas, debemos observar el riesgo de la IA a través de cinco "lentes" o dimensiones que las herramientas actuales ignoran por completo. Estos lentes son: Superficie de Ataque (cuántas puertas y ventanas tiene abiertas la IA), Explotabilidad del Modelo (qué tan fácil es engañar o manipular a la IA), Integridad de los Datos (qué tan confiable es realmente la información de la que la IA aprendió), Exposición Regulatoria (cuánto lío podría meterle la IA a la empresa con la ley) y Madurez del Control (qué tan buena es la empresa vigilando a la IA).

El artículo no pretende tener una calculadora mágica que dé un monto de dinero exacto para cada riesgo en este momento. De hecho, dice explícitamente que aún no tenemos suficientes antecedentes de desastres de IA para hacer esas predicciones financieras precisas. En su lugar, ofrece un "marco conceptual", que es una forma elegante de decir que proporciona un andamiaje sólido o un vocabulario compartido. Es una forma de que los jefes, los guardias de seguridad y los reguladores gubernamentales hablen el mismo lenguaje cuando se refieran a los peligros de la IA. El autor sugiere que, al utilizar estas cinco dimensiones, las organizaciones pueden dejar de adivinar y empezar a tener conversaciones claras y estructuradas sobre dónde es débil su IA y dónde necesitan construir defensas más fuertes. No es un producto terminado, pero es el primer paso necesario para asegurar que nuestro futuro de la IA no colapse bajo su propio peso.

El problema con las viejas puntuaciones de seguridad

Imagina que eres un guardia de seguridad en un museo. Durante años, has usado un escáner especial para buscar grietas en las pinturas. Si una pintura tiene una grieta, el escáner pita y le da una puntuación del 1 al 10. Esto funciona perfectamente para las pinturas. Pero luego, el museo decide exhibir un robot que puede pintar sus propias imágenes. El robot no tiene grietas; tiene "alucinaciones" (donde ve cosas que no están ahí), puede ser engañado por un visitante que le susurra una frase extraña (llamado "inyección de prompt"), y podría olvidar lentamente cómo pintar correctamente (llamado "deriva del modelo").

Si intentas usar tu viejo escáner de pinturas en el robot, no pitará nada. Dirá que el robot es perfectamente seguro porque no puede encontrar grietas en el código. ¡Pero el robot está en peligro! El artículo señala que nuestras herramientas de seguridad actuales, como el CVSS (que califica qué tan malo es un error de software) y FAIR (que intenta adivinar cuánto dinero costará un desastre), fueron creadas para el viejo mundo del software estático. Son ciegas a los trucos únicos que pueden romper la IA.

Por ejemplo, el artículo señala que el CVSS es excelente para decirte qué tan fácil es romper una puerta, pero no tiene forma de medir qué tan fácil es engañar a un robot para que abra la puerta porque alguien le contó un chiste gracco. Del mismo modo, FAIR es excelente para calcular el riesgo financiero, pero necesita datos históricos (como "¿cuántas veces sucedió esto el año pasado?") para funcionar. Dado que la IA es tan nueva, aún no tenemos suficientes antecedentes de estos desastres específicos de la IA para alimentar la máquina. El artículo argumenta que intentar usar estas viejas herramientas para la IA es como intentar medir la temperatura de un fuego con una regla; la herramienta tiene la forma equivocada para el trabajo.

Los cinco nuevos lentes

Para solucionar esto, el artículo introduce cinco nuevas formas de mirar el riesgo de la IA. Piensa en ellos como cinco linternas diferentes que necesitas apuntar hacia tu sistema de IA para ver el panorama completo.

1. Superficie de Ataque: Las puertas abiertas
Esto trata sobre cuántas formas tiene un actor malintencionado para entrar. Para una computadora normal, esto podría ser un par de puertos abiertos. Para una IA, es mucho mayor. Cada vez que hablas con un chatbot, subes un archivo o permites que la IA se conecte a tu correo electrónico, estás abriendo una nueva puerta. El artículo destaca que si dejas que un agente de IA (un robot que puede realizar acciones) hable con tu cuenta bancaria o tu correo electrónico, tienes una "superficie de ataque" masiva. Es como dejar la puerta principal, la puerta trasera, el garaje y las ventanas del sótano abiertas de par en par. Cuantas más formas tenga la IA de interactuar con el mundo exterior, más expuesta estará.

2. Explotabilidad del Modelo: La mente tramposa
Esto mide qué tan fácil es engañar a la IA. Algunas IA son "cajas negras" (no sabemos cómo piensan), mientras que otras son abiertas. El artículo sugiere que si las instrucciones de una IA son públicas o si la empresa es lenta en corregir trucos conocidos, la IA es altamente "explotable". Es como un mago que ha olvidado sus secretos; si alguien conoce el truco, puede hacer que el mago haga cualquier cosa. El artículo señala que la inyección de prompts (engañar a la IA con texto) es una parte fundamental de cómo funcionan estos modelos, lo que significa que no se puede "arreglar" completamente como una cerradura rota; tiene que gestionarse constantemente.

3. Integridad de los Datos: El pozo envenenado
La IA aprende de los datos, tal como un estudiante aprende de los libros de texto. Si los libros de texto están llenos de mentiras o veneno, el estudiante aprenderá mentiras. Esta dimensión observa tres cosas:

• Envenenamiento: ¿Alguien introdujo datos malos en el entrenamiento de la IA?
• Deriva (Drift): ¿La IA olvidó cómo trabajar porque el mundo real cambió? (Imagina una IA médica que fue entrenada con datos de 2020 tratando de diagnosticar un virus de 2026; podría equivocarse).
• Alucinaciones: ¿La IA inventa hechos con total seguridad?
  El artículo enfatiza que, a diferencia de un programa informático roto que simplemente deja de funcionar, una IA con "deriva" podría seguir funcionando pero dándote respuestas sutilmente erróneas durante meses sin que nadie lo note.

4. Exposición Regulatoria: El ojo vigilante de la ley
Esto trata sobre el costo de romper las reglas. Los gobiernos están creando nuevas leyes para la IA, como la Ley de IA de la UE y las reglas de la SEC. Si tu IA rompe la ley, podrías enfrentar multas enormes (hasta 35 millones de euros o el 7% de tus ingresos globales, según el artículo) o tener que informar tus errores al público. El artículo señala que las viejas herramientas de riesgo no cuentan estos costos legales. Es como conducir un coche sin seguro; el coche puede funcionar bien, pero si chocas, el golpe financiero es masivo.

5. Madurez del Control: La habilidad del guardia de seguridad
Esta es la pieza final: ¿qué tan buena es la empresa gestionando los riesgos? Incluso si una IA tiene muchas puertas abiertas (alta superficie de ataque) y es fácil de engañar (alta explotabilidad), el riesgo es menor si la empresa tiene un guardia de seguridad súper hábil vigilando las 24 horas del día. Esto incluye cosas como probar la IA con entradas maliciosas (red-teaming), monitorear sus resultados y tener humanos que revisen las decisiones importantes. El artículo argumenta que una empresa con un sistema de control "maduro" está en una posición mucho mejor que una que simplemente espera lo mejor.

Cómo funciona en el mundo real

El artículo utiliza tres ejemplos para mostrar cómo este nuevo marco cambia nuestra forma de pensar sobre el riesgo.

• El Chatbot del Banco: Esta IA habla con los clientes y puede consultar información de cuentas. Tiene una superficie de ataque Alta (todo el mundo puede hablar con ella) y una explotabilidad Alta (es una caja negra). Tiene un riesgo regulatorio Medio. El artículo sugiere que este es un riesgo Crítico porque es muy fácil de atacar y es muy público.
• La IA de Triaje del Hospital: Esta IA ayuda a los médicos a decidir quién necesita ayuda primero. Tiene una superficie de ataque Media (solo los médicos la usan) pero un riesgo de integridad de datos Alto (si alucina, un paciente podría salir herido). También tiene un riesgo regulatorio Crítico debido a las leyes de salud. El artículo dice que esto también es Crítico, pero por razones diferentes. La solución no es solo "cerrar la puerta", sino "asegurarse de que la IA no esté mintiendo".
• El Asistente de Código de la Empresa de Software: Esta IA ayuda a los programadores a escribir código. Tiene una superficie de ataque Baja (solo los empleados la usan) y un riesgo regulatorio Bajo. Incluso si comete errores, no es gran cosa. El artículo dice que este riesgo está Gestionado y no necesita tanta atención.

La clave es que dos sistemas pueden ser ambos riesgos "Críticos", pero por razones totalmente distintas. Las herramientas antiguas simplemente les darían un único número, haciendo imposible saber cómo arreglarlos. Este nuevo marco te dice exactamente dónde concentrar tu energía.

Lo que el artículo hace y no hace

Es importante entender lo que este artículo no está afirmando. El autor es muy claro en que esto no es una calculadora mágica que te dé un monto de dinero perfecto para el riesgo en este momento. Aún no tenemos suficientes datos para decir: "Esta IA nos costará $50,000 si falla". El artículo admite que faltan los números sobre la frecuencia con la que ocurren estos desastres de IA. En su lugar, el artículo ofrece una estructura para pensar. Es una forma de organizar la conversación para que, cuando sí tengamos los datos en el futuro, sepamos cómo usarlos.

El artículo también descarta la idea de que podamos simplemente ajustar las viejas herramientas. Argumenta que no puedes simplemente añadir unos pocos ajustes nuevos a CVSS para que funcionen con la IA. El problema es más profundo; toda la forma en que pensamos sobre el riesgo debe cambiar para incluir estas nuevas dimensiones.

Por qué esto es importante

El artículo concluye que el mayor problema que enfrentamos no es que no sepamos lo suficiente sobre las amenazas; es que no tenemos un lenguaje compartido para hablar de ellas. Los reguladores, las compañías de seguros y los equipos de seguridad están hablando idiomas diferentes. Este marco propone un vocabulario común. Le da a una junta directiva una forma de entender el riesgo sin necesidad de ser un experto en computación, y le da a los equipos de seguridad una lista de verificación clara de lo que deben construir.

En última instancia, el artículo sugiere que estamos en una fase de "andamiaje". Estamos construyendo la estructura que eventualmente soportará un sistema de gestión de riesgos de IA totalmente cuantificado y preciso. Hasta que tengamos los datos para llenar los números, este marco de cinco dimensiones es la mejor herramienta que tenemos para asegurar que no estamos construyendo nuestro futuro sobre una base de arena. Es un paso lúdico, práctico y necesario para asegurar que nuestros amigos de la IA no terminen quemando la casa accidentalmente.