Probing Visual Concepts in Lightweight Vision-Language Models for Automated Driving

Este estudio analiza las activaciones intermedias de modelos visión-lenguaje ligeros para identificar que sus fallos en escenarios de conducción autónoma se deben tanto a la falta de codificación lineal de ciertos conceptos visuales (fallo perceptual) como a la incapacidad de alinear la información visual presente con la semántica lingüística (fallo cognitivo), revelando además que la distancia del objeto degrada rápidamente la separabilidad de estos conceptos.

Lo esencial

Imagina que los coches autónomos son como niños muy inteligentes que están aprendiendo a conducir. Para ayudarlos, los científicos les dan "ojos" (cámaras) y un "cerebro" muy avanzado llamado Modelo de Visión-Lenguaje (VLM). La idea es que este cerebro no solo vea las imágenes, sino que las "entienda" y pueda responder preguntas como: "¿Hay un peatón cruzando?" o "¿Hacia dónde va esa bicicleta?".

El problema es que, a veces, estos cerebros de IA fallan en preguntas muy sencillas que cualquier humano resolvería al instante. Los autores de este paper decidieron investigar por qué fallan, metiéndose dentro de la "caja negra" del cerebro de la IA para ver qué pasa por dentro.

Aquí tienes la explicación de su investigación, usando analogías sencillas:

1. La Misión: El Detective de Conceptos

Los investigadores querían saber si la información visual viaja bien desde los "ojos" (la cámara) hasta la "boca" (la respuesta final). Para hacerlo, crearon un experimento muy curioso: imágenes "casi idénticas".

• La analogía: Imagina que tienes dos fotos de una calle. En una, hay un peatón; en la otra, no hay nadie. Todo lo demás es exactamente igual. O tienes una foto con un semáforo en rojo y otra con el mismo semáforo en verde.
• El objetivo: Usaron estas parejas de fotos para ver si el cerebro de la IA podía notar la diferencia. Pero no solo miraron la respuesta final, sino que miraron cómo pensaba en cada paso del proceso.

2. Las Herramientas: Los "Detectives de Activación" (Linear Probes)

Dentro del cerebro de la IA hay muchas capas de procesamiento. Los investigadores pusieron pequeños "detectives" (llamados linear probes) en cada capa para preguntar: "¿Estás guardando la información de que hay un peatón aquí?".

• Lo que descubrieron:
  • Conceptos "Gordos" (Presencia): Si la pregunta es "¿Hay alguien ahí?", el cerebro lo sabe muy bien. Es como si el cerebro tuviera un interruptor gigante que se enciende claramente cuando ve a alguien. Esto funciona genial si la persona está cerca.
  • Conceptos "Delgados" (Orientación y Espacio): Si la pregunta es "¿Hacia dónde mira el peatón?" o "¿Está a la izquierda o a la derecha?", el cerebro se confunde. No tiene un interruptor claro para esto. La información está ahí, pero está "oculta" en la forma en que se organizan los píxeles, no en una señal directa. Es como intentar adivinar la dirección de un coche mirando solo el reflejo en un charco: la información está, pero es difícil de leer.

3. El Problema de la Distancia: El Efecto "Lejano"

Hubo un hallazgo muy importante: cuanto más lejos está el objeto, más borrosa se vuelve la información en el cerebro de la IA.

• La analogía: Imagina que intentas leer un cartel de tráfico. Si está a 5 metros, lo lees perfectamente. Si está a 50 metros, se ve pequeño y borroso.
• El resultado: En los coches autónomos, los peatones o coches peligrosos suelen estar lejos. El estudio mostró que, a 50 metros, la IA pierde la capacidad de distinguir si hay alguien o no, incluso si sus "ojos" (la cámara) siguen viendo la imagen. La información se desvanece antes de llegar al "cerebro" que toma la decisión.

4. Los Dos Tipos de Fallos: ¿Ciego o Tonto?

Esta es la parte más interesante. Los investigadores descubrieron que cuando la IA falla, puede ser por dos razones muy distintas:

• Fallo Perceptivo (El "Ciego"):

  • Qué pasa: La información visual nunca llegó a la parte final del cerebro. El "detective" no encontró nada.
  • La analogía: Es como si alguien te gritara desde la otra punta de la calle y tú no lo oíste porque el ruido del tráfico lo tapó. La información simplemente no estaba disponible.
  • Solución: Necesitamos mejores "ojos" (mejores cámaras o encoders visuales).

• Fallo Cognitivo (El "Tonto" o "Confundido"):

  • Qué pasa: ¡La información sí estaba ahí! El "detective" la encontró y estaba clara. Pero, al final, el cerebro de la IA decidió ignorarla o malinterpretarla al traducirla a palabras.
  • La analogía: Es como si alguien te gritara "¡Cuidado!" y tú lo oíste perfectamente, pero tu cerebro pensó: "Ah, seguro que me están llamando para una fiesta" y te quedaste quieto. La información estaba, pero no supiste conectarla con la respuesta correcta.
  • Solución: Necesitamos entrenar mejor el "cerebro" (el modelo de lenguaje) para que sepa qué hacer con esa información visual.

5. Conclusión: ¿Por qué importa esto?

Los coches autónomos actuales usan modelos de IA que son "ligeros" (pequeños) para que quepan en el ordenador del coche. Este estudio nos dice que:

1. Estos modelos son buenos viendo cosas grandes y cercanas.
2. Se vuelven "ciegos" o "confundidos" con cosas pequeñas, lejanas o con direcciones específicas.
3. No podemos simplemente culpar a la cámara o al cerebro por igual; a veces el problema es que no ven, y otras veces es que ven pero no entienden.

En resumen: Para que los coches autónomos sean seguros, no basta con que tengan "ojos" de alta definición. Necesitamos asegurarnos de que su "cerebro" no solo vea la información, sino que sepa cómo usarla para tomar decisiones vitales, especialmente cuando los peligros están lejos o son difíciles de distinguir.

Resumen técnico

Resumen Técnico: Sonda de Conceptos Visuales en Modelos Ligeros Visión-Lenguaje para Conducción Autónoma

1. Planteamiento del Problema

Los Modelos Visión-Lenguaje (VLM) han demostrado un gran potencial en aplicaciones de conducción autónoma debido a sus capacidades de razonamiento y generalización para manejar escenarios de "cola larga" (casos raros e imprevistos). Sin embargo, estos modelos a menudo fallan en preguntas visuales simples y críticas para la seguridad vial (como la orientación de un peatón o la distancia de un objeto).

El problema central identificado es la falta de comprensión sobre dónde y por qué ocurren estos fallos dentro de la arquitectura del modelo. No está claro si el fallo se debe a:

• Una incapacidad del codificador visual para extraer la información.
• Una degradación de la información por el proyectador.
• Una incapacidad del Modelo de Lenguaje (LLM) para alinear la información visual con la semántica del lenguaje.

El objetivo del trabajo es desentrañar estos mecanismos de fallo utilizando modelos VLM ligeros (menos de 4 mil millones de parámetros), adecuados para el despliegue en hardware vehicular (como NVIDIA Jetson).

2. Metodología

Los autores proponen un marco de trabajo basado en sondas lineales (linear probes) aplicadas a las activaciones intermedias de la arquitectura del VLM.

• Conjuntos de Imágenes Contrafactuales: Utilizando el simulador CARLA, generaron conjuntos de imágenes idénticas en todos los aspectos, excepto en un concepto visual específico. Esto permite aislar el concepto de interés sin sesgos de fondo.
  • Conceptos estudiados: Presencia (objeto presente/ausente), Conteo (número de objetos), Relación Espacial (posición relativa) y Orientación (dirección de movimiento).
  • Variables: Se varió la distancia del objeto (5m a 50m) para evaluar la degradación de la representación.
• Extracción de Activaciones: Se extrajeron las activaciones de tres componentes clave en cada capa:
  1. Codificador Visual (Vision Encoder): Se aplicó pooling promedio (para conceptos generales) y pooling por regiones (izquierda/derecha) para preservar estructura espacial mínima en tareas de orientación.
  2. Proyectador (Projector): Mapeo de características visuales al espacio del LLM.
  3. Modelo de Lenguaje (LLM): Se analizaron tanto los tokens visuales como el token final de la secuencia.
• Entrenamiento de Sondas: Se entrenaron clasificadores lineales simples sobre estas activaciones para determinar si un concepto visual está linealmente codificado en cada capa.
• Modelos Evaluados: Cuatro VLMs de última generación (SOTA) de tamaño reducido: Ovis2.5-2B, InternVL3.5-2B, y dos variantes de VST-3B (SFT y RL).

3. Contribuciones Clave

1. Análisis del Flujo de Información: Mapearon cómo se codifican linealmente conceptos visuales específicos a través de toda la arquitectura (Vision Encoder $\to$ Projector $\to$ LLM), identificando cuellos de botella comunes.
2. Identificación de Dos Modos de Fallo: Diferenciaron entre:
   • Fallo Perceptivo: La información visual no está codificada linealmente en las activaciones del modelo (el modelo "no ve" la información).
   • Fallo Cognitivo: La información está presente y codificada linealmente en las activaciones finales, pero el modelo falla al alinearla con la semántica del lenguaje para generar la respuesta correcta.
3. Impacto de la Distancia: Demostraron que el aumento de la distancia degrada rápidamente la separabilidad lineal de los conceptos, incluso para ideas simples como la "presencia".

4. Resultados Principales

• Codificación de Conceptos:

  • Presencia y Conteo: Se codifican explícitamente y de forma lineal desde las capas medias del codificador visual hasta el LLM. La precisión es alta para distancias cortas (5-20m) pero decae significativamente a largas distancias.
  • Relaciones Espaciales y Orientación: Estos conceptos no se codifican explícitamente en el espacio de activaciones del codificador visual. Sin embargo, la estructura espacial se preserva de forma implícita en la disposición de los parches (patches), permitiendo que el LLM infiera la respuesta en capas posteriores si la información no se ha perdido por distancia.
  • Orientación: Es el concepto más difícil. No hay evidencia de codificación lineal explícita satisfactoria en ninguna etapa de la arquitectura, especialmente a distancias mayores.

• Análisis de Fallos (Perceptivo vs. Cognitivo):

  • Se observó una brecha de precisión significativa entre la sonda lineal y la respuesta del modelo en muchos casos.
  • Fallo Perceptivo: Ocurre cuando la sonda tiene baja precisión (la información no llegó al LLM). Es común en distancias largas y en tareas de orientación.
  • Fallo Cognitivo: Ocurre cuando la sonda tiene alta precisión (la información está ahí) pero el modelo da una respuesta incorrecta. Esto sugiere un problema de alineación entre la representación visual y el espacio de lenguaje. Modelos como InternVL3.5 mostraron más fallos cognitivos que Ovis2.5.

• Efecto de la Distancia:

  • A medida que aumenta la distancia del objeto, la separabilidad lineal de los conceptos disminuye drásticamente. Esto es crítico para la conducción autónoma, donde los objetos peligrosos suelen estar lejos.

• Validación:

  • Las direcciones aprendidas por las sondas fueron validadas mediante control de activaciones (activation steering), demostrando que modificar las activaciones en la dirección aprendida cambia la respuesta del modelo de manera causal (ej. hacer que el modelo "vea" un objeto ausente).
  • Las sondas generalizaron bien a datos reales de nuScenes, confirmando que aprenden conceptos visuales subyacentes y no solo estadísticas del dataset sintético.

5. Significado e Implicaciones

Este trabajo es fundamental para la adopción segura de VLMs en conducción autónoma por las siguientes razones:

1. Diagnóstico Preciso: Permite a los ingenieros distinguir si un fallo de percepción se debe a una limitación del hardware/codificador visual (requiere mejoras en el sensor o el encoder) o a una limitación del razonamiento/alineación (requiere ajustes en el entrenamiento del LLM o estrategias de fine-tuning).
2. Limitaciones de Hardware: Al centrarse en modelos ligeros (<4B parámetros), los resultados son directamente aplicables a los sistemas embebidos actuales en vehículos, donde los modelos masivos no son viables.
3. Seguridad: La identificación de que conceptos espaciales finos (orientación) no están explícitamente codificados y que la distancia degrada la información alerta sobre los riesgos de confiar ciegamente en estos modelos para tareas críticas sin mecanismos de seguridad redundantes.
4. Dirección Futura: Sugiere que las estrategias de mitigación deben ser específicas: mejorar la extracción de características para fallos perceptivos y mejorar la alineación multimodal para fallos cognitivos.

En conclusión, el estudio revela que, aunque los VLMs ligeros son prometedores, tienen limitaciones estructurales significativas en la comprensión espacial fina y a larga distancia, y que su fallo no es uniforme, sino que depende de la naturaleza del concepto visual y la distancia del objeto.