🤖 AI

Adversarially Robust Abductive Fusion of Pre-trained Transformer-based Perception Models

Este artículo propone un marco de fusión neurosimbólica libre de conocimiento de dominio que aprovecha los Grupos de Vectores de Etiquetas y la abducción basada en la consistencia para combinar robustamente detectores ViT preentrenados, logrando un rendimiento superior sobre las líneas de base de votación por mayoría tanto bajo cambios de distribución como bajo ataques adversarios coordinados.

Autores originales: Mario Leiva, Yue Ma, Qinru Qiu, Gerardo Simari, Paulo Shakarian

Publicado 2026-08-06

📖 8 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Mario Leiva, Yue Ma, Qinru Qiu, Gerardo Simari, Paulo Shakarian

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres el capitán de una nave espacial navegando a través de una galaxia tormentosa y alienígena. Tienes una tripulación de seis sensores expertos, cada uno entrenado para detectar hitos específicos como rocas, naves o estaciones espaciales. Pero aquí está el truco: tus sensores fueron todos entrenados en un sistema solar tranquilo y soleado. Ahora, estás volando a través de una nebulosa caótica llena de niebla extraña, polvo arremolinado y luces extrañas. Tus sensores están confundidos. Comienzan a gritar informes contradictorios: "¡Eso es una roca!", "¡No, es una nave!", "En realidad, ¡es un oso espacial gigante!".

Este es el problema del mundo real que enfrentan los científicos con la Inteligencia Artificial. Hemos construido programas informáticos increíblemente inteligentes (llamados "modelos de percepción") que pueden identificar cosas en fotos, como coches o personas. Pero estos programas son como nuestros sensores espaciales: son expertos en lo que han visto antes, pero se confunden fácilmente cuando el mundo cambia. Si tomas un coche autónomo entrenado en las carreteras soleadas de California y lo llevas a través de una tormenta de nieve en Minnesota, podría empezar a ver copos de nieve como peatones o dejar de funcionar por completo.

Para solucionar esto, los ingenieros suelen intentar que múltiples modelos de IA trabajen juntos, como un comité. La forma más común de tomar una decisión de comité es el Voto por Mayoría: si tres de seis modelos dicen "Es un coche", el sistema decide que es un coche. Suena justo, ¿verdad? Pero tiene un gran fallo. Si un hacker astuto (o simplemente una tormenta muy mala) engaña a algunos de los modelos para que coincidan en la respuesta incorrecta, todo el comité se deja engañar. Es como si tres amigos en un chat grupal decidieran gastarte una broma diciendo que el cielo es verde; si simplemente te vas con la mayoría, creerás que el cielo es verde.

Este artículo presenta una forma más inteligente de dirigir ese comité. En lugar de solo contar votos, el nuevo sistema actúa como un detective que comprueba la consistencia lógica. Pregunta: "¿Tiene sentido esta historia?". Si un modelo dice "Es un coche" y otro dice "Es una nube", el sistema no solo cuenta cabezas; examina la evidencia para ver qué historia se sostiene sin contradicciones. Los autores demuestran que este método es mucho más difícil de engañar y funciona mejor cuando el entorno es totalmente nuevo.

El Nuevo Kit de Herramientas del Detective: Aprendiendo Sin una Guía de Referencia

Los investigadores, Mario Leiva y su equipo, querían resolver dos grandes problemas. Primero, los métodos anteriores necesitaban una "guía de referencia" del conocimiento humano para detectar errores. Por ejemplo, un humano podría decirle a la computadora: "Los peatones suelen estar en la acera, no en el cielo", o "Los coches son más grandes que esto". Pero, ¿qué pasa si estás en un entorno totalmente nuevo donde no conoces las reglas? No puedes escribir una guía de referencia para un lugar que nunca has visto.

Segundo, querían evitar que el "Voto por Mayoría" fuera fácilmente hackeable.

La Solución: El "Pool de Vectores de Etiquetas"
Para resolver el primer problema, el equipo inventó una forma para que la IA aprenda su propia guía de referencia sin ayuda humana. Utilizaron un truco ingenioso que involucra la "memoria" de cada modelo de IA.

Imagina que cada modelo de IA tiene una biblioteca mental de cada objeto que ha visto durante su entrenamiento. Cuando ve un "coche", no solo almacena la palabra "coche"; almacena una huella digital matemática única (un embedding) de cómo se veía ese coche. Los investigadores recopilaron todas estas huellas digitales para cada tipo de objeto y las agruparon en pequeños grupos llamados Pools de Vectores de Etiquetas.

Piensa en ello como un "anillo de humor" para los objetos. Si un modelo ve un objeto nuevo, comprueba: "¿La huella digital de este objeto se parece al anillo de humor de 'coche', o se parece al anillo de humor de 'árbol'?". Si se supone que el objeto es un coche pero su huella digital está muy desviada —como un coche que parece una nube—, el sistema lo marca como sospechoso. Esto sucede automáticamente, utilizando solo las matemáticas dentro del modelo, sin necesidad de reglas humanas sobre aceras o tamaños.

La Solución: El "Detective de Consistencia"
Una vez que el sistema sabe qué predicciones son sospechosas, no se limita a descartarlas. En su lugar, utiliza un método llamado Razonamiento Abductivo. Esta es una forma elegante de decir "inferencia a la mejor explicación".

Imagina que eres un detective tratando de resolver un misterio con seis testigos.

El Voto por Mayoría simplemente preguntaría: "¿Quién está de acuerdo con la mayoría de la gente?". Si tres testigos dicen "El mayordomo lo hizo", el detective arresta al mayordomo.
Este Nuevo Sistema pregunta: "¿Quién está contando una historia que no contradice a los demás?".

Si tres testigos dicen "El mayordomo lo hizo", pero un testigo dice "El mayordomo estaba en la cocina en ese momento", y otro dice "El mayordomo es alérgico al arma", el sistema se da cuenta de que la historia del "mayordomo lo hizo" tiene agujeros. Podría decidir confiar en los testigos que son consistentes entre sí, incluso si son la minoría. Construye un rompecabezas lógico donde cada pieza debe encajar perfectamente. Si una pieza (una predicción) hace que toda la imagen se desmorone, se rechaza, incluso si muchas personas votaron por ella.

La Gran Prueba: Tormentas y Hackers Astutos

El equipo probó esta idea en un desafío difícil: imágenes aéreas de una ciudad bajo 15 condiciones climáticas diferentes, desde lluvia intensa hasta tormentas de polvo. Utilizaron seis modelos de IA diferentes, cada uno entrenado en un solo tipo de clima. Cuando los lanzaron a todos a la mezcla, el clima era un caos.

El Resultado de Datos Limpios
Primero, probaron el sistema en condiciones normales, no hackeadas. Descubrieron que su nuevo "Detective de Consistencia" funcionaba tan bien como los mejores equipos de "Voto por Mayoría". No perdió precisión; era tan bueno detectando coches y personas como los métodos antiguos.

La Prueba de Ataque
Luego, trajeron a los malos. Simularon un ataque coordinado. Imagina a un hacker que no puede romper los modelos de IA individualmente, pero puede engañar a un pequeño grupo de ellos para que todos griten la misma respuesta incorrecta al mismo tiempo.

El Equipo de Voto por Mayoría: Cuando el hacker hizo que el 90% de los objetos recibieran una etiqueta "invertida" (una etiqueta incorrecta forzada por el ataque), el sistema de Voto por Mayoría colapsó. Su precisión cayó a 0.35 en promedio a través de los conjuntos de prueba. Fue completamente engañado porque los hackers solo necesitaban controlar a unos pocos modelos para inclinar la balanza de la mayoría.
El Detective de Consistencia: El nuevo sistema no se movió tanto. Incluso con el mismo ataque del 90%, mantuvo una precisión promedio de 0.42 a través de los 15 conjuntos de prueba. Eso puede no parecer una diferencia enorme, pero en el mundo de la IA, es una mejora del 22% sobre el método antiguo.

¿La razón? Los hackers intentaron forzar una mayoría, pero el Detective de Consistencia miró la lógica. Si los hackers forzaron a tres modelos a decir "Es una nube", pero los otros tres modelos (y la lógica interna del sistema) dijeron "Eso no tiene sentido", el detective ignoró a los hackers. Confió en la historia que tenía sentido, no en el número de voces.

Por Qué Esto Importa

El artículo muestra que no necesitas ser un experto humano para construir una red de seguridad para la IA. Al permitir que la IA aprenda sus propias reglas de "huella digital" y al comprobar si las historias que escucha son lógicamente consistentes, puedes construir un sistema que sea:

Portátil: Funciona en entornos nuevos y extraños sin necesidad de un manual.
Resistente: No puede ser fácilmente engañado por hackers que intentan manipular la votación.

Los investigadores realizaron estas pruebas en un servidor informático estándar, y el sistema fue lo suficientemente rápido como para ser práctico. El "Detective de Consistencia" (específicamente su método "IP+TB") tardó un poco más en resolver el rompecabezas que el simple contador de votos, pero seguía siendo lo suficientemente rápido como para usarse en tiempo real.

Al final, este artículo sugiere que cuando enviamos IA a lo desconocido —ya sea una zona de desastre, un planeta remoto o una ciudad bajo ataque— no debemos escuchar solo a la voz más fuerte. Debemos escuchar a la voz que tiene más sentido.

Resumen Técnico: Fusión Abductiva Adversariamente Robusta de Modelos de Percepción Basados en Transformers Preentrenados

Declaración del Problema

El despliegue de modelos de percepción preentrenados (específicamente Vision Transformers) en entornos novedosos —como zonas de desastre o regiones remotas sin datos de entrenamiento representativos— provoca una degradación significativa de la precisión debido a los desplazamientos de distribución. Aunque el ensamblaje de múltiples modelos es una estrategia común, los combinadores simples como el voto por mayoría (MV) son frágiles: sacrifican la recuperación (recall) en favor de la precisión y son altamente susceptibles a fallos coordinados donde un adversario manipula una minoría de modelos para invertir el voto colectivo.

Los enfoques metacognitivos previos intentan mitigar esto aprendiendo reglas lógicas para señalar errores. Sin embargo, estos métodos dependen de conocimientos de dominio redactados a mano (por ejemplo, priors de tamaño de objeto, máscaras de segmentación) que no se transfieren a escenas genuinamente novedosas. Además, el trabajo previo no abordó adecuadamente los escenarios donde los modelos perceptivos están sujetos a perturbaciones adversarias diseñadas para derrotar los ensambles basados en votación.

Metodología

El marco propuesto aborda estas limitaciones enmarcando la fusión de detectores imperfectos como un probleente de abducción basado en la consistencia resuelto en el tiempo de prueba. El sistema opera en dos fases distintas:

1. Entrenamiento Offline: Capa Metacognitiva Libre de Conocimiento de Dominio

En lugar de depender de predicados de dominio redactados a mano, los autores aprenden una señal de detección de errores utilizando únicamente los embeddings internos de cada modelo preentrenado.

Pools de Vectores de Etiquetas (LVP): Para cada modelo $f_i$ y clase $c$ , el sistema agrupa los embeddings de detección de entrenamiento del modelo (usando $k$ -means, $k=3$ ) para crear un pool de vectores prototipo $\{ \mu_{i,c}^1, \mu_{i,c}^2, \mu_{i,c}^3 \}$ .
Detector de Errores: Para una nueva detección con un embedding $e$ , el sistema calcula las distancias euclidianas a todos los prototipos en el pool, formando un vector de características $\phi(e)$ . Un clasificador Random Forest, entrenado por (modelo, clase), mapea estas distancias a una probabilidad de error $s_{i,c}(e)$ .
Aprendizaje de Reglas: Estas probabilidades se someten a un umbral para generar Reglas de Detección de Errores (EDR). Una regla se activa si la probabilidad de error excede un umbral aprendido $\tau$ , el cual es controlado por un hiperparámetro de rigurosidad $\epsilon$ . Esta capa no requiere artefactos externos de la escena (máscaras, priors) y es transferible a cualquier nuevo modelo o escena.

2. Inferencia Online: Abducción Basada en Consistencia

En el tiempo de prueba, $\eta$ modelos perciben una escena novedosa. Sus predicciones, combinadas con los programas EDR de cada modelo, forman un programa lógico $\Pi$ .

Formulación Lógica: El sistema busca un subconjunto de predicciones aceptadas $H$ $H$ que maximice la cobertura (recall) mientras minimiza la inconsistencia lógica.
- Restricciones de Integridad: El único conocimiento de dominio utilizado es la exclusividad mutua de las etiquetas de clase (un objeto no puede tener dos clases diferentes).
- Objetivo: Maximizar $Pred(H)$ (el número de asignaciones aceptadas) sujeto a $Inc(H) \le \delta$ , donde $Inc(H)$ es el recuento normalizado de restricciones de integridad violadas.
Solvers: El problema se resuelve mediante:
- Programa Entero Exacto (IP): Resuelve la optimización de forma global.
- Búsqueda Heurística (HS): Un algoritmo codicioso (greedy) de tiempo polinomial que selecciona iterativamente el mejor par (modelo, clase) para aceptar basándose en la ganancia de cobertura frente al presupuesto de inconsistencia.
- Desempate (TB): Un paso opcional para resolver etiquetas ambiguas seleccionando la predicción con la mayor confianza.

Contribuciones Clave

Metacognición Libre de Conocimiento de Dominio: El artículo demuestra que las reglas de detección de errores pueden aprenderse enteramente a partir de la geometría de los propios embeddings de entrenamiento de un modelo (vía LVP). Esto elimina la necesidad de pistas redactadas a mano, haciendo que el sistema sea portátil a entornos novedosos donde las máscaras de segmentación o los priors de tamaño no están disponibles. El enfoque basado en LVP logra la paridad con las líneas base de conocimiento de dominio (dentro de 0.002 F1) sin utilizar conocimiento de dominio.
Robustez ante Ataques Coordinados: Al cambiar del conteo de votos (voto por mayoría) a la aceptación basada en consistencia, el marco es inherentemente más robusto a los ataques coordinados de inversión de etiquetas. Mientras que el voto por mayoría falla cuando una minoría de modelos es forzada a coincidir en una etiqueta incorrecta, el enfoque abductivo acepta predicciones solo si son consistentes con las restricciones lógicas y las salidas de otros modelos.
Fusión Abductiva Escalable: Los autores proporcionan tanto una formulación de IP exacta como una heurística (HS) escalable de tiempo polinomial para resolver el problema de la abducción, demostrando que la fusión impulsada por la consistencia es computacionalmente factible para escenarios de detección del mundo real.

Resultados Experimentales

El marco fue evaluado en el conjunto de datos MDS-A (Multiple Distribution Shift – Aerial), que comprende 15 conjuntos de prueba con cambios de clima y seis detectores basados en ViT, así como un conjunto de datos multimodal VisDrone-DroneVehicle (RGB + IR).

Rendimiento en Datos Limpios: En datos no atacados, los métodos propuestos (IP+TB y HS+TB) tienen un rendimiento estadísticamente similar a la línea base más fuerte de voto por mayoría (MV-Plurality), logrando puntuaciones F1 comparables (dentro de 0.005 F1) mientras superan a las líneas base de un solo modelo.
Robustez Adversaria: Bajo un ataque de inversión de etiquetas coordinado (donde un adversario fuerza a un subconjunto de modelos a coincidir en una etiqueta errónea):
- El voto por mayoría se degrada significamente a medida que aumenta la tasa de inversión ( $p$ ).
- El enfoque abductivo se degrada de forma gradual. Con una tasa de inversión del 90%, el método propuesto logra un F1 promedio de 0.42, comparado con 0.35 para MV-Plurality (una ganancia relativa del 22%).
- Una vez que la tasa de inversión supera el 0.4, el método propuesto alcanza el F1 más alto en cada conjunto de prueba.
Tiempo de Ejecución: La variante de Búsqueda Heurística (HS) procesa escenarios en 1.9–19.7 segundos con un tiempo de resolución por objeto de 1.4–3.0 ms, lo que la hace adecuada para presupuestos de latencia estrictos. El IP Exacto es más lento pero sigue siendo práctico para aplicaciones fuera de línea o menos críticas en tiempo.

Significancia y Reivindicaciones

El artículo afirma que la capa metacognitiva de un sistema de percepción de múltiples modelos puede aprenderse eficazmente sin conocimiento de dominio, apoyándose únicamente en las propiedades geométricas de los embeddings de entrenamiento. Al enmarcar la integración de modelos como un problema de abducción basado en la consistencia, los autores demuestran un combinador que es:

Competitivo en datos limpios: Igualando el rendimiento de los métodos de ensamble estándar sin depender de la votación.
Resiliente a la coordinación adversaria: Manteniendo el rendimiento bajo ataques que apuntan específicamente a los supuestos de independencia del voto por mayoría.

Los autores enfatizan que este enfoque permite que la misma maquinaria abductiva se transfiera entre dominios sin reingeniería de las reglas de detección de errores, ya que las reglas se derivan de las propias representaciones internas de los modelos en lugar de la semántica externa de la escena. Aunque los LVP y las reglas de conocimiento de dominio (DK) capturan diferentes tipos de errores (anomalías de embedding vs. errores geométricos/contextuales), el artículo señala que combinar ambos no produjo una mejora significativa de F1 en sus experimentos, aunque permanece como una dirección para trabajos futuros.