Las máquinas modernas están tomando cada vez más sus propias decisiones en el mundo real, desde coches autónomos que navegan por calles concurridas hasta drones que entregan paquetes. Estos sistemas suelen depender de complejos programas informáticos, incluida la inteligencia artificial, que actúan como "cajas negras". Sabemos que funcionan, pero no siempre podemos ver exactamente cómo piensan o predecir cada posible movimiento que podrían realizar. Para garantizar que estas máquinas sean seguras, los ingenieros utilizan una técnica llamada abstracción. Reemplazan la realidad complicada y continua de un objeto en movimiento con un modelo más simple, paso a paso, compuesto por bloques distintos. Esto les permite comprobar si la máquina chocará o fallará antes de que salga siquiera del laboratorio. Sin embargo, hay un inconveniente. Para ser seguros, estos modelos simplificados deben ser conservadores; deben asumir el peor de los casos para cada movimiento. Si son demasiado conservadores, se llenan de peligros imaginarios e imposibles que nunca ocurren en realidad. Este problema de las "falsas alarmas" hace que los modelos sean tan grandes y desordenados que los ordenadores no pueden analizarlos a tiempo, lo que impide a los ingenieros certificar la seguridad de los mismos sistemas que construyeron.

Un equipo de investigadores de la Universidad de Florida ha desarrollado un nuevo método para resolver este equilibrio. Crearon una herramienta llamada S3, que actúa como una guía suave para refinar estos modelos simplificados. En lugar de adivinar cómo disponer los bloques del modelo, los investigadores construyeron un objetivo matemático que puede ajustarse y mejorarse mediante técnicas de optimización estándar. Esta herramienta permite ajustar automáticamente el tamaño y la forma de los bloques del modelo para eliminar los peligros imaginarios innecesarios manteniendo el modelo seguro. Al probar este enfoque en tres escenarios diferentes —un sistema espiral, un robot tipo monociclo y un coche simulado subiendo una colina—, descubrieron que su método produce modelos que son mucho más precisos y mucho más rápidos de computar que las técnicas anteriores. El resultado es una forma de verificar que las máquinas complejas e inteligentes son seguras sin estancarse en advertencias excesivas e irreales.

El desafío central en la verificación de estas máquinas reside en la tensión entre la seguridad y la practicidad. Cuando los ingenieros construyen un modelo simplificado de un sistema en movimiento, deben asegurarse de que cada movimiento del mundo real esté cubierto por el modelo. Si el modelo omite una ruta real, es inseguro. Para garantizar esto, el modelo suele incluir rutas adicionales que la máquina real nunca podría tomar. Estas rutas adicionales son los comportamientos "espurios" mencionados anteriormente. Son como dibujar un mapa que incluya todas las carreteras posibles, incluidas las que están bloqueadas por paredes o que llevan a un precipicio, solo para estar seguro de no haber pasado por alto una ruta válida. Aunque esto garantiza que no se pierda un peligro real, crea un mapa tan saturado de callejones sin salida que resulta inútil para planificar un viaje. Los investigadores necesitaban una forma de podar estos callejones sin cortar ninguna carretera real.

Para lograr esto, el equipo se centró en un tipo específico de relación matemática llamada simulación. En este contexto, una simulación es una forma de comprobar si el modelo simplificado puede imitar el comportamiento del sistema real. Si el modelo es "sólido" (sound), significa que el sistema real nunca puede hacer algo que el modelo no permita. Los investigadores querían minimizar el error de la "simulación inversa", que mide cuánto sobreestima el modelo las posibilidades del sistema. Un error alto significa que el modelo es demasiado conservador, lleno de demasiadas rutas falsas. El problema era que la forma estándar de medir este error era demasiado lenta y demasiado irregular para ser mejorada automáticamente. Era como intentar alisar un trozo de papel arrugado a mano, un pequeño pliegue a la vez, sin una herramienta que guiara tus dedos.

El gran avance de los investigadores fue crear un "sustituto" (surrogate), un intermediario suave y fácil de calcular para la difícil medición del error. Derivaron una nueva función objetivo que aproxima el error del peor de los casos pero que se comporta de manera suave, permitiendo que los ordenadores utilicen la optimización basada en gradientes. Piense en esto como reemplazar un camino montañoso escarpado y rocoso por una colina suave y ondulada que conduce al mismo destino. Al seguir la pendiente de esta colina suave, el ordenador puede encontrar rápidamente la mejor disposición de los bloques del modelo. Este proceso implica ajustar las brechas entre los bloques, haciéndolas más anchas o más estrechas dependiendo de dónde el sistema se mueva de forma más impredecible. El método garantiza que el modelo resultante sea seguro por construcción, lo que significa que nunca pierde una ruta real, pero elimina agresivamente las falsas.

El equipo probó este enfoque en tres sistemas distintos para ver si funcionaba en la práctica. El primero fue un sistema bidimensional simple que espiralaba hacia un objetivo. El segundo fue un robot monociclo tridimensional que tenía que navegar alrededor de un obstáculo para alcanzar una meta. El tercero fue una simulación de un coche intentando subir una colina empinada, un desafío clásico en robótica donde el coche debe acumular impulso para llegar a la cima. En cada caso, compararon su nuevo método con dos estrategias establecidas: una que refina el modelo solo cuando encuentra un error específico, y otra que intenta optimizar el tamaño de la rejilla utilizando una forma fija. Los resultados mostraron que el nuevo método era significativamente más rápido. Para el robot monociclo, el nuevo enfoque tardó unos 140 segundos en construir y verificar el modelo, mientras que el método de refinamiento anterior tardó más de 1.900 segundos. Para el coche subiendo la colina, el nuevo método tardó aproximadamente 12 segundos frente a los casi 100 segundos del método anterior.

Más allá de la velocidad, la calidad de los modelos mejoró. Los investigadores midieron qué tan bien los nuevos modelos predecían el comportamiento del sistema y descubrieron que eran mucho menos conservadores. En la prueba del monociclo, el nuevo método redujo el error promedio por un margen significativo, lo que significa que el modelo contenía muchas menos rutas imposibles. Para el coche en la colina, el nuevo método permitió verificar una mayor parte de las posiciones iniciales que realmente conducirían al éxito. Esto es crucial porque un modelo demasiado conservador podría decirle a un ingeniero que un coche no puede subir la colina desde cierto punto, aunque en realidad sí puede. Al reducir este conservadurismo falso, el nuevo método da a los ingenieros más confianza en que sus sistemas funcionarán según lo previsto.

El estudio también reveló cómo se comporta la nueva herramienta bajo diferentes configuraciones. Los investigadores descubrieron que podían sintonizar la herramienta para que se centrara en el peor de los casos o en el comportamiento promedio del sistema. Si el objetivo es garantizar la seguridad absoluta contra las posibilidades más extremas, la herramienta puede configurarse para priorizar el error del peor de los casos. Si el objetivo es obtener una mejor imagen general de cómo se comporta el sistema habitualmente, la herramienta puede ajustarse para centrarse en el promedio. Esta flexibilidad permite a los ingenieros elegir el equilibrio adecuado para sus necesidades específicas. El equipo también observó que la herramienta aprendía naturalmente a hacer los bloques del modelo más pequeños en las áreas donde el sistema se movía rápidamente o cambiaba de dirección bruscamente, y más grandes donde el movimiento era constante. Esta granularidad adaptativa es exactamente lo que se necesita para crear modelos eficientes sin desperdiciar potencia de cálculo en áreas que son fáciles de predecir.

Las implicaciones de este trabajo se extienden más allá de estos tres ejemplos. El método proporciona un marco general para hacer que la verificación de sistemas complejos e inteligentes sea más práctica. A medida que las máquinas se vuelven más autónomas y se despliegan en entornos críticos para la seguridad, la capacidad de verificar rápidamente y con precisión su seguridad es primordial. La nueva herramienta no requiere que los ingenieros conozcan el controlador exacto que utiliza la máquina; funciona con la dinámica conocida del sistema y el comportamiento del controlador. Esto la hace aplicable a una amplia gama de escenarios, desde robots industriales hasta vehículos autónomos. Los investigadores han puesto su código a disposición del público, invitando a otros a construir sobre esta base.

Al final, el trabajo demuestra que es posible tener tanto seguridad como eficiencia en la verificación de sistemas complejos. Al reemplazar una medición difícil y accidentada con una guía suave y optimizable, los investigadores han abierto un nuevo camino para que los ingenieros diseñen y certifiquen la próxima generación de máquinas inteligentes. El método no promete resolver todos los problemas de la inteligencia artificial, pero ofrece una forma concreta y fiable de asegurar que los sistemas en los que confiamos no solo sean inteligentes, sino también seguros. La capacidad de eliminar el ruido de las falsas alarmas y centrarse en los riesgos reales es un paso significativo hacia adelante en el campo de la ingeniería fiable.