En el mundo digital moderno, la columna vertebral de casi todos los servicios en línea es una vasta e invisible capa de computadoras y software conocida como infraestructura. Durante décadas, configurar esta infraestructura requería que equipos de ingenieros configuraran manualmente servidores, bases de datos y ajustes de seguridad, un proceso lento y propenso a errores. Para solucionar esto, la industria adoptó un método llamado "Infraestructura como Código" (Infrastructure as Code), donde toda la configuración se escribe en archivos de texto, de forma muy similar a una receta detallada o un plano. Estos archivos de texto le dicen a las computadoras exactamente cómo construir y asegurar un sistema, permitiendo un despliegue rápido, consistente y automatizado. Sin embargo, al igual que una receta con un ingrediente faltante puede arruinar una comida, un solo error en estos archivos de código puede dejar un sistema totalmente expuesto ante los hackers. Si el código contiene debilidades ocultas, como contraseñas no cifradas o reglas de acceso excesivamente permisivas, esas fallas se transfieren instantáneamente al sistema en vivo en el momento en que se enciende.

Recientemente, una nueva herramienta ha entrado en este campo: los asistentes de codificación de inteligencia artificial. Estos programas pueden leer una solicitud simple en lenguaje natural y escribir automáticamente el complejo código necesario para construir estos sistemas. Si bien esto promete acelerar el desarrollo, plantea una pregunta crítica que no se había respondido hasta ahora: ¿el código que estas máquinas escriben realmente mantiene seguros los sistemas? Los investigadores de la Universidad de Waikato en Nueva Zelanda se propusieron encontrar la respuesta. No solo buscaban errores; estaban investigando si el código generado por estas herramientas de IA cumplía con los estrictos estándares de seguridad del mundo real requeridos por gobiernos e industrias para proteger los datos. Su trabajo revela una brecha sorprendente entre lo que estas herramientas de IA pueden hacer y lo que realmente hacen cuando se dejan a su propio arbitrio, y ofrece un camino claro para solucionar el problema antes de que se despliegue una sola línea de código.

El equipo comenzó probando el comportamiento predeterminado de dieciséis modelos de inteligencia artificial diferentes. Pidieron a cada modelo que escribiera un conjunto específico de instrucciones, conocido como un rol de Ansible, para configurar dos tipos comunes de software: un servidor web llamado Apache Tomcat y un sistema de base de datos llamado MongoDB. No dieron a los modelos ningún consejo especial de seguridad, ni advertencias sobre qué evitar, ni ejemplos de buen código. Simplemente pidieron a las máquinas que hicieran el trabajo. Los resultados fueron inmediatos y preocupantes. Cada uno de los dieciséis modelos produjo código que contenía fallas de seguridad. Estas fallas incluían contraseñas grabadas en el código que cualquiera podía leer, falta de protecciones para archivos sensibles y una carencia de manejo de errores que podría causar que el sistema fallara o se comportara de manera impredecible. Cuando los investigadores compararon este código generado por IA con el código escrito por desarrolladores humanos de repositorios públicos, el código de la IA tuvo un desempeño inferior. No era solo ligeramente defectuoso; era fundamentalmente inseguro, fallando en cumplir requisitos básicos de seguridad que son estándar en la industria.

Los investigadores luego investigaron por qué estaba sucediendo esto. Descubrieron que el problema no era necesariamente que los modelos de IA carecieran de la capacidad de escribir código, sino que carecían de la capacidad de seguir instrucciones complejas relacionadas con la seguridad. En una segunda fase del estudio, el equipo cambió su enfoque. En lugar de solo pedir código, proporcionaron a los modelos un conjunto de reglas altamente estructuradas. Utilizaron una versión ampliada de un marco de "prompting" que enumeraba explícitamente las mejores prácticas de seguridad y los estándares de seguridad gubernamentales específicos. Le dijeron a los modelos exactamente qué permisos establecer, cómo gestionar las contraseñas de forma segura y qué documentación incluir, tratando estos requisitos como restricciones obligatorias en lugar de sugerencias. Este cambio de una solicitud simple a una instrucción detallada basada en reglas cambió el resultado drásticamente.

Cuando los investigadores aplicaron este enfoque estructurado, los resultados mejoraron significamente. Cuatro de los dieciséis modelos fueron capaces de seguir las complejas instrucciones y generar código que estaba libre de las fallas de seguridad vistas en la primera ronda. El modelo con mejor desempeño produjo código que cumplía entre el noventa y cinco y el cien por ciento de los estrictos parámetros de seguridad, un salto masivo desde la línea base. De hecho, este modelo de IA superior superó el promedio del código escrito por humanos, que solo cumplía entre el veintitrés y el cuarenta y tres por ciento de los mismos estándares. El estudio demostró que, para estos modelos capaces, el problema no era la falta de conocimiento, sino la incapacidad de aplicar ese conocimiento cuando las instrucciones eran vagas. Cuando las reglas eran claras y las restricciones eran explíc la, la IA podía sintetizar código seguro y de alta calidad en un solo intento, eliminando la necesidad de correcciones de tiempo consumido después de que el código ya había sido escrito.

El estudio también destacó una distinción crucial entre los modelos. Los cuatro modelos exitosos eran sistemas de código cerrado, lo que significa que sus funciones internas no son públicas, mientras que muchos de los modelos de código abierto fallaron en seguir las instrucciones complejas. Esto sugiere que la capacidad de generar código seguro depende en gran medida de cómo fue entrenado el modelo y de las capacidades específicas que desarrolló durante ese entrenamiento, más que solo del tamaño de su memoria o del número de parámetros que posee. Los investigadores encontraron que los modelos que tuvieron éxito fueron capaces de analizar las instrucciones de múltiples niveles, comprender la diferencia entre las reglas obligatorias y las prácticas recomendadas, y aplicarlas de manera consistente en todo el código. Los modelos que fallaron, incluso aquellos con puntuaciones altas en otras pruebas de codificación, simplemente no pudieron mantener las múltiples restricciones necesarias para construir un sistema seguro.

Este trabajo desafía la forma actual en que la industria maneja la seguridad. Tradicionalmente, los expertos en seguridad esperan hasta que el código está escrito para luego escanearlo en busca de errores y corregirlos, un proceso conocido como detección. Los investigadores argumentan que, para el código generado por IA, este enfoque es insuficiente porque las fallas se introducen en el momento en que el código se crea. En su lugar, proponen un método de prevención, donde los requisitos de seguridad se integran en el proceso de generación mismo. Al incrustar las reglas de seguridad directamente en las instrucciones dadas a la IA, las organizaciones pueden asegurar que el código sea seguro desde el principio. Este enfoque no requiere reentrenar los modelos de IA ni cambiar su arquitectura subyacente; solo requiere un cambio en la forma en que los humanos les hablan. El estudio concluye que, si bien los asistentes de codificación por IA tienen una gran promesa, no se puede confiar en ellos para generar infraestructura segura sin una guía clara y explícita. Con los prompts adecuados, sin embargo, pueden producir código que no solo es funcional, sino también más seguro de lo que muchos desarrolladores humanos producen hoy en día.