🤖 machine learning

HyperEyes: Dual-Grained Efficiency-Aware Reinforcement Learning for Parallel Multimodal Search Agents

HyperEyes es un agente de búsqueda multimodal paralelo entrenado mediante un marco de aprendizaje por refuerzo eficiente y consciente de la eficiencia de doble granularidad que fusiona el anclaje visual y la recuperación en acciones concurrentes, logrando una precisión superior y costos de inferencia significativamente reducidos en comparación con los agentes secuenciales existentes.

Autores originales: Guankai Li, Jiabin Chen, Yi Xu, Xichen Zhang, Yuan Lu

Publicado 2026-05-11

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Guankai Li, Jiabin Chen, Yi Xu, Xichen Zhang, Yuan Lu

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres un detective tratando de resolver un misterio que involucra a seis sospechosos diferentes en una sola fotografía.

La Vieja Forma (Búsqueda Serial):
Los agentes de IA tradicionales funcionan como un detective muy minucioso pero lento. Observan la fotografía, seleccionan a la primera persona, recortan su rostro, buscan esa persona en internet, leen los resultados y luego pasan a la segunda persona. Repiten este proceso una por una.

El Problema: Si la fotografía tiene seis personas, el detective realiza seis viajes separados a la biblioteca. Para cuando llega a la sexta persona, los primeros cinco viajes han llenado su cuaderno con demasiada información, lo que dificulta la concentración. Es como intentar cocinar un menú de seis platos hirviendo una sola olla de agua, esperando a que termine, y luego hirviendo la siguiente olla. Lleva una eternidad y desperdicia energía.

La Nueva Forma (HyperEyes):
El artículo presenta HyperEyes, un nuevo agente de IA que sigue la filosofía: "Busca más amplio, no más largo."
En lugar de visitar la biblioteca seis veces, HyperEyes observa toda la fotografía, identifica a los seis sospechosos a la vez y envía seis solicitudes de búsqueda simultáneamente en un solo viaje. Es como enviar a seis investigadores diferentes a la biblioteca al mismo tiempo, todos trabajando en paralelo, y traer de vuelta un único informe organizado.

Cómo se Entrenó HyperEyes (La Analogía de la "Escuela")

Los investigadores no solo le dijeron a la IA que fuera más rápida; construyeron una escuela de entrenamiento especial para ella con dos fases principales:

1. La Fase del "Profesor Estricto" (Síntesis de Datos):
Primero, crearon una biblioteca masiva de problemas de práctica. Pero no querían cualquier respuesta correcta; querían la respuesta correcta más rápida.

Utilizaron una técnica llamada Muestreo Progresivo de Rechazo. Imagina a un profesor dando un examen a un estudiante. Si el estudiante tarda 10 minutos en resolver un problema, el profesor desecha ese intento. Si el estudiante lo resuelve en 2 minutos, el profesor lo guarda. Solo conservaron las soluciones más rápidas y eficientes para enseñar a la IA a ser ágil desde el primer día.

2. La Fase de Entrenamiento "Doble Granular" (Aprendizaje por Refuerzo):
Una vez que la IA conocía los fundamentos, aplicaron un sistema de entrenamiento especial con dos niveles:

Nivel Macro (La Gran Imagen): Otorgaron al sistema de IA un sistema de recompensas llamado TRACE. Piensa en esto como un entrenador que dice: "Si resuelves el misterio en 3 pasos, obtienes una estrella de oro. Si tardas 5 pasos, recibes una penalización". Crucialmente, el entrenador se vuelve más estricto con el tiempo. Si la IA aprende a resolverlo en 3 pasos, el entrenador eleva la barra a 2 pasos. Esto obliga a la IA a volverse constantemente más eficiente, no solo precisa.
Nivel Micro (Los Detalles Finos): A veces la IA comete un error a mitad del camino. La Destilación en Política (OPD) actúa como un "ghostwriter" que interviene solo cuando la IA falla. El ghostwriter (una IA más inteligente y grande) susurra la siguiente palabra correcta a la IA estudiante, enseñándole exactamente dónde se equivocó sin perder tiempo en las partes que ya había acertado.

La Nueva Puntuación (IMEB)

Los investigadores se dieron cuenta de que las pruebas antiguas solo se preocupaban por si la IA obtenía la respuesta correcta, ignorando cuánto tardaba o cuántos "viajes a la biblioteca" (llamadas a herramientas) realizaba.
Crearon un nuevo punto de referencia llamado IMEB (Benchmark de Múltiples Entidades en Imágenes).

La Analogía: Imagina calificar una carrera. Las pruebas antiguas solo miraban quién cruzó la línea de meta primero. La nueva prueba (IMEB) mira quién cruzó la línea de meta y quién utilizó la menor cantidad de combustible. Introdujeron una Puntuación Consciente del Costo que recompensa la precisión pero penaliza severamente el desperdicio de tiempo y energía.

Los Resultados

Cuando sometieron a HyperEyes a la prueba contra los mejores agentes de IA existentes:

Precisión: Obtuvo la respuesta correcta con más frecuencia que sus competidores (específicamente, un 9,9% mejor que el rival de código abierto más destacado).
Eficiencia: Fue dramáticamente más rápida. Necesitó 5,3 veces menos "viajes a la biblioteca" para resolver los mismos problemas.

Resumen

HyperEyes es como pasar de una carretera de un solo carril con atascos a una autopista de múltiples carriles. Al enseñar a la IA a observar todas las pistas a la vez y castigarla por tomar desvíos innecesarios, los investigadores crearon un agente que no solo es más inteligente, sino también significativamente más eficiente, resolviendo acertijos visuales complejos en una fracción del tiempo.

Resumen Técnico: HyperEyes

Declaración del Problema

Los agentes de búsqueda multimodal existentes dependen predominantemente de un paradigma secuencial, procesando las entidades objetivo una por una. Aunque efectivo para el razonamiento multi-salto, este enfoque incurre en una redundancia de interacción severa cuando las consultas se descomponen naturalmente en sub-búsquedas independientes (por ejemplo, identificar múltiples entidades en una sola imagen). Los agentes convencionales sufren de pipelines de "recortar luego buscar" donde los errores de localización temprana corrompen los resultados aguas abajo, y la naturaleza secuencial fuerza las consultas multi-entidad a rondas de interacción verbosas y redundantes. Además, los paradigmas de entrenamiento actuales optimizan principalmente para la precisión de la respuesta final, careciendo de incentivos para preferir trayectorias paralelas compactas sobre las verbosas. En consecuencia, las capacidades paralelas a menudo se degradan en una búsqueda excesiva por fuerza bruta, inflando la latencia y el consumo de tokens sin mejorar la precisión.

Metodología

Los autores proponen HyperEyes, un agente de búsqueda multimodal paralelo diseñado alrededor del principio de "buscar más amplio, no más largo". El sistema fusiona el anclaje visual y la recuperación en una única acción atómica, permitiendo la búsqueda concurrente a través de múltiples entidades dentro de un solo turno.

1. Búsqueda Anclada Unificada (UGS)

HyperEyes reformula el anclaje visual de un paso prerequisite a un parámetro de la acción de recuperación. En lugar de un proceso de dos etapas (recortar luego buscar), el agente predice simultáneamente cajas delimitadoras para todas las entidades objetivo y despacha consultas de búsqueda paralelas (tanto de imagen como de texto) dentro de un solo turno. Esto desacopla la identificación de entidades del razonamiento aguas abajo.

2. Pipeline de Entrenamiento

El proceso de entrenamiento consta de dos etapas:

Etapa 1: Síntesis de Datos Adecuados para Paralelismo y Supervisión de Arranque en Frío
- Síntesis de Datos: Los autores curan un conjunto de datos de 271.000 tareas dependientes de herramientas, incluyendo 20.000 consultas visuales multi-entidad (sintetizadas mediante aumento de mosaico de conjuntos de datos de clasificación fina) y 5.000 consultas textuales multi-restricción.
- Muestreo de Rechazo Progresivo (PRS): Para generar trayectorias de Alta Calidad para el Ajuste Fino Supervisado (SFT), los autores emplean PRS. Este algoritmo muestrea trayectorias a través de presupuestos de turnos ascendentes, reteniendo estrictamente solo la trayectoria exitosa más corta para cada consulta. Esto filtra las llamadas a herramientas redundantes y las reformulaciones iterativas, destilando 30.000 trayectorias de arranque en frío orientadas a la eficiencia.
Etapa 2: Aprendizaje por Refuerzo (RL) de Doble Granularidad Consciente de la Eficiencia
Para optimizar tanto la precisión como la eficiencia, los autores introducen un marco de RL de dos niveles:
- Nivel Macro (TRACE): Un mecanismo de recompensa a nivel de trayectoria llamado Eficiencia de Coste Adaptativa de Referencia de Uso de Herramientas (TRACE). Utiliza un umbral de referencia para rondas de llamadas a herramientas ( $\hat{t}_c$ ) que se ajusta monótonamente durante el entrenamiento basándose en los despliegues de mejor rendimiento de la época actual. Esto crea un currículo implícito que suprime las llamadas a herramientas superfluas sin restringir en exceso las búsquedas multi-salto genuinas. La recompensa penaliza las trayectorias que exceden la referencia o no cumplen la precisión, mientras que recompensa aquellas dentro de los límites eficientes.
- Nivel Micro (OPD): Para abordar la deficiencia de asignación de crédito de las recompensas de resultado dispersas en los despliegues fallidos, los autores adaptan la Destilación en Política (OPD). Un modelo "maestro" más fuerte (HyperEyes-235B) proporciona señales correctivas densas a nivel de token exclusivamente al modelo "estudiante" (HyperEyes-30B) en trayectorias fallidas. Esto permite que el estudiante aprenda de pasos de razonamiento intermedios válidos sin heredar el coste de inferencia del maestro.

3. Punto de Referencia de Evaluación (IMEB)

Reconociendo que los puntos de referencia existentes evalúan la precisión ignorando la eficiencia, los autores introducen IMEB (Punto de Referencia de Múltiples Entidades en Imagen). Este conjunto de datos curado por humanos comprende 300 instancias que requieren localización y recuperación concurrentes a través de múltiples entidades. También proponen la Puntuación Consciente del Coste (CAS), una métrica que cuantifica conjuntamente la corrección del razonamiento y la eficiencia de la búsqueda penalizando el consumo de tokens y las rondas de llamadas a herramientas.

Contribuciones Clave

Agente HyperEyes: Un agente de búsqueda multimodal paralelo que opera en un espacio de acción de Búsqueda Anclada Unificada, logrando alta eficiencia al anclar y buscar múltiples entidades concurrentemente.
Marco de RL de Doble Granularidad: Un enfoque de entrenamiento novedoso que combina restricciones de eficiencia adaptativas a nivel macro (TRACE) con destilación a nivel de token a nivel micro (OPD) para optimizar el comportamiento de búsqueda.
Punto de Referencia Consciente de la Eficiencia (IMEB): El primer punto de referencia que evalúa conjuntamente la precisión de la respuesta y la eficiencia de la búsqueda en escenarios visuales multi-entidad, acompañado de la métrica CAS.
Pipeline de Síntesis de Datos: Un método para generar datos de entrenamiento adecuados para paralelismo utilizando Muestreo de Rechazo Progresivo para destilar trayectorias sin redundancia.

Resultados Experimentales

HyperEyes fue evaluado en seis puntos de referencia de búsqueda multimodal (MMSearch, FVQA, LiveVQA, BCVL, MMSearch+ e IMEB) utilizando backbones Qwen3-VL (30B y 235B).

Precisión y Eficiencia: HyperEyes-30B (RL) supera al agente de código abierto de escala comparable más fuerte (VDR) en un 9,9% en precisión mientras requiere un 5,3× menos de rondas de llamadas a herramientas en promedio.
Rendimiento de Vanguardia: HyperEyes-235B (RL) se acerca al rendimiento del propietario Gemini-3.1-Pro, superando a otros agentes de código abierto y comerciales (por ejemplo, Claude-Opus-4.6, Kimi-K2.5) en el entorno de flujo de trabajo de agentes.
Puntuación Consciente del Coste: Bajo la métrica CAS, HyperEyes-30B logra una puntuación 4,3× mayor que el competidor de código abierto de segundo mejor rendimiento en puntos de referencia multi-salto complejos y 7,6× mayor en el punto de referencia multi-entidad IMEB.
Estudios de Ablación: Los experimentos confirman que el filtrado riguroso de calidad (reduciendo el volumen de datos en un 75%) mejora significativamente la precisión sobre el volumen de datos crudo. Además, la recompensa adaptativa TRACE y el maestro alineado con la eficiencia para OPD son críticos para reducir la redundancia de llamadas a herramientas y aumentar la precisión.

Significado y Afirmaciones

El artículo afirma que HyperEyes establece un nuevo estándar para los agentes de búsqueda de código abierto, demostrando que la precisión y la eficiencia operativa son objetivos complementarios en lugar de conflictivos en la búsqueda multimodal de agentes. Al cambiar de una búsqueda secuencial "más larga" a una paralela "más amplia", el marco elimina la redundancia y la acumulación de ruido inherentes a los pipelines convencionales de recortar luego buscar. Los autores afirman que su trabajo proporciona una base reproducible para construir asistentes multimodales eficientes y anclados, particularmente en dominios donde las respuestas verificables y ancladas a la fuente son esenciales. El lanzamiento de IMEB y el pipeline de entrenamiento tiene como objetivo reducir la barrera de entrada para la investigación en agentes multimodales conscientes de la eficiencia.