Model Merging is Secretly Certifiable: Non-Vacuous Generalisation Bounds for Low-Shot Learning

En el mundo de la inteligencia artificial, existe una creciente tensión entre el poder de estos sistemas y nuestra capacidad para confiar en ellos. Dependemos de la IA para tomar decisiones en campos de alto riesgo como la medicina y la seguridad, pero el requisito más fundamental para la confianza es saber que un sistema funcionará de manera fiable con datos nuevos y no vistos, no solo con los ejemplos con los que fue entrenado. Durante décadas, los científicos han intentado crear garantías matemáticas que demuestren que un modelo no fallará inesperadamente. Sin embargo, estas garantías a menudo han sido inútiles para las redes masivas y complejas que impulsan la IA moderna. Los cálculos requeridos para probar la seguridad de tales sistemas grandes suelen resultar en advertencias tan amplias y pesimistas que no nos dicen nada útil, indicando esencialmente que la tasa de error podría estar en cualquier lugar entre el cero y el cien por ciento. Este problema se vuelve aún más difícil cuando hay muy pocos datos disponibles para entrenar el sistema, una situación común en campos especializados donde recopilar miles de ejemplos es imposible.

Un equipo de investigadores ha descubierto una forma sorprendente de eludir estas limitaciones cambiando la forma en que observan el proceso de aprendizaje mismo. En lugar de intentar certificar toda la enorme red neuronal, se centraron en una técnica llamada fusión de modelos (model merging), que combina varios expertos preentrenados en un nuevo modelo único. Al tratar el proceso de combinar estos modelos como una forma de aprendizaje con muy pocos parámetros ajustables, los investigadores descubrieron que podían aplicar controles de seguridad rigurosos que antes eran imposibles. Su trabajo demuestra que es posible proporcionar garantías significativas y no vacías para el rendimiento de sistemas de inteligencia artificial enormes, incluso cuando se entrenan con tan solo cien ejemplos. Este hallazgo sugiere que las herramientas necesarias para certificar la seguridad de los modelos de IA más potentes de hoy ya estaban escondidas a plena vista, esperando ser reconocidas a través de un lente teórico diferente.

El núcleo de este descubrimiento reside en reimaginar cómo entrenamos y validamos la IA cuando los datos son escasos. Tradicionalmente, para probar que un modelo funciona, los científicos dividen sus limitados datos en un conjunto de entrenamiento y un conjunto de validación separado. Pero cuando solo tienes cien ejemplos, dividir la mitad de ellos te deja con muy pocos para entrenar un buen modelo y muy pocos para probarlo de manera fiable. Los investigadores se dieron cuenta de que un método popular llamado fusión de modelos ofrecía una solución. En este enfoque, en lugar de entrenar una red gigante desde cero, tomas varias redes existentes que ya han aprendido diferentes habilidades y las mezclas. La mezcla está controlada por un pequeño conjunto de números, o pesos, que determinan cuánto contribuye cada red original al resultado final. Debido a que el número de estos pesos de mezcla es diminuto en comparación con los miles de millones de parámetros dentro de las redes originales, el proceso de aprendizaje se vuelve mucho más simple.

Los investigadores demostraron que esta simplicidad es la clave de la certificación. Aplicaron un marco conocido como PAC-Bayes, que es un método para calcular la probabilidad de que un modelo funcione bien con nuevos datos. Usualmente, este método falla para las redes grandes porque las matemáticas se vuelven demasiado laxas para ser útiles. Sin embargo, debido a que la fusión de modelos solo ajusta un puñado de pesos, las matemáticas se mantienen ajustadas. El equipo demostró que los algoritmos de fusión existentes, que fueron diseñados simplemente para obtener el mejor modelo combinado posible, ya estaban proporcionando estas garantías de seguridad ajustadas sin necesidad de modificaciones especiales. En muchos casos, la forma estándar en que funcionaban estos algoritmos era suficiente para probar que el modelo resultante no fallaría catastróficamente, incluso con muy pocos datos de entrenamiento.

Para hacer estas garantías aún más fuertes, el equipo desarrolló una forma de ajustar el proceso de aprendizaje. Modificaron el objetivo del algoritmo de fusión para minimizar explícitamente el límite de seguridad en sí mismo, en lugar de solo intentar obtener el error más bajo en los datos de entrenamiento. Este ajuste les permitió convertir las garantías "vacías", que no ofrecían ninguna seguridad, en límites concretos y útiles sobre la frecuencia con la que el modelo podría fallar. Probaron este enfoque en dos tipos de inteligencia artificial muy diferentes: un sistema de visión capaz de reconocer imágenes y un modelo de lenguaje grande capaz de comprender texto. Para el sistema de visión, utilizaron un modelo con aproximadamente ochenta y ocho millones de parámetros, y para el modelo de lenguaje, utilizaron uno con siete mil millones de parámetros. En ambos casos, entrenaron los sistemas con solo cien ejemplos por tarea.

Los resultados fueron sorprendentes. Para las tareas de visión, los investigadores pudieron certificar que los modelos fusionados funcionarían dentro de un rango de precisión específico y estrecho. Para el modelo de lenguaje, que es significativamente más grande y complejo, lograron el mismo resultado. En muchos casos, el modelo de lenguaje base funcionaba mal en nuevas tareas cuando no se le daban ejemplos de entrenamiento, pero tras ser fusionado y entrenado con solo cien ejemplos, el sistema no solo mejoró su rendimiento, sino que también vino con un certificado matemático que demuestra su fiabilidad. Los investigadores encontraron que, para todos los conjuntos de datos, el error de prueba podía certificarse dentro de un 5% del error de entrenamiento.

Este trabajo desafía la creencia largamente sostenida de que certificar los grandes sistemas de IA requiere cantidades masivas de datos. Los investigadores demostraron que, al centrarse en el pequeño número de parámetros que realmente cambian durante el proceso de fusión, la complejidad del sistema se vuelve manejable para las pruebas de seguridad. También exploraron una técnica llamada prioris dependientes de los datos, que consiste en utilizar una pequeña parte de los datos de entrenamiento para establecer un mejor punto de partida para el cálculo de seguridad. Esto ajustó aún más las garantías, demostrando que el método es robusto y adaptable. El estudio no pretendía resolver todos los problemas de la seguridad de la IA, pero proporcionó un camino claro para certificar sistemas en regímenes de bajos datos, un escenario que es crítico para las aplicaciones del mundo real donde los datos son costosos o difíciles de obtener.

Las implicaciones de este hallazgo se extienden más allá de los números. Sugiere que la seguridad de los sistemas de IA existentes podría ser más fácil de verificar de lo que se pensaba anteriormente. Si los métodos utilizados para combinar modelos pueden certificarse tan fácilmente, entonces los sistemas construidos utilizando estos métodos pueden confiarse con mayor seguridad. Los investigadores enfatizaron que este enfoque funciona tanto para el reconocimiento de imágenes como para la comprensión del lenguaje, lo que indica que el principio es general y no se limita a un tipo específico de IA. Al demostrar que es posible obtener garantías no vacías, o significativas, para modelos tan grandes como siete mil millones de parámetros con solo cien ejemplos, el equipo ha abierto una nueva vía para asegurar que la inteligencia artificial pueda desplegarse de forma segura en las áreas más críticas de la vida humana. El trabajo es una demostración de que, a veces, la clave para resolver un problema teórico complejo no es construir una máquina más grande, sino mirar la máquina existente desde un ángulo diferente.