MM-DeepResearch: A Simple and Effective Multimodal Agentic Search Baseline

El artículo presenta MM-DeepResearch, un agente de investigación multimodal que supera los desafíos de escasez de datos, falta de trayectorias efectivas y altos costos mediante la propuesta de Hyper-Search para generar datos, DR-TTS para optimizar expertos de herramientas de búsqueda y un motor de búsqueda offline para el aprendizaje por refuerzo.

Lo esencial

¡Claro que sí! Imagina que quieres investigar un tema muy complejo, como "¿Quién diseñó este castillo antiguo que veo en la foto y qué historia tiene?". Un modelo de inteligencia artificial normal podría mirar la foto y decirte lo que ve, pero si necesita buscar en internet para encontrar la respuesta, a menudo se pierde, se equivoca o no sabe qué herramientas usar.

El paper que presentas, MM-DeepResearch, es como la creación de un "Detective Multimodal Super Inteligente". No es solo un modelo que "sabe" cosas, sino uno que sabe cómo investigar.

Aquí tienes la explicación sencilla, usando analogías de la vida real:

1. El Problema: El Detective sin Mapa ni Herramientas

Antes de este trabajo, los "detectives" (modelos de IA) tenían tres grandes problemas:

• No tenían casos difíciles: Solo tenían preguntas fáciles. Necesitaban practicar con casos que requirieran buscar mucho en internet (como un detective que nunca ha salido de la oficina).
• No sabían cómo moverse: No tenían un "mapa" de cómo usar diferentes herramientas (búsqueda de imágenes, búsqueda de texto, etc.) en el orden correcto.
• Era demasiado caro entrenarlos: Para aprender, necesitaban llamar a "servicios de búsqueda reales" en internet cada vez que practicaban, lo cual costaba miles de dólares. Era como entrenar a un piloto de avión haciendo vuelos reales en lugar de usar un simulador.

2. La Solución: Los Tres Superpoderes del Detective

Los autores crearon un sistema con tres componentes clave para solucionar esto:

A. Hyper-Search: El "Generador de Casos Imposibles"

Imagina que quieres entrenar a un detective, pero no tienes casos reales difíciles.

• La analogía: En lugar de inventar preguntas al azar, usan una red de conexiones (hipergrafo). Piensa en una imagen como una "semilla". El sistema siembra esa semilla y hace crecer ramas: busca fotos similares, busca textos relacionados, busca textos de esas fotos, y así sucesivamente.
• El resultado: Crea miles de "casos de entrenamiento" donde la respuesta no está en la foto original, sino que obliga al detective a saltar de una herramienta a otra (de una foto a un texto, de un texto a otra foto) para resolver el misterio. Es como crear un laberinto perfecto para practicar.

B. DR-TTS: El "Entrenador de Especialistas"

Antes, se intentaba enseñar al detective a usar todas las herramientas a la vez, y se confundía.

• La analogía: Imagina que en lugar de tener un solo detective que intenta ser experto en todo, creas un equipo de especialistas.
  • Uno es experto solo en buscar fotos.
  • Otro es experto solo en buscar textos.
  • Otro es experto en buscar conocimientos profundos.
• La magia: Primero entrenas a cada especialista por separado para que sea el mejor en su tarea. Luego, los pones a trabajar juntos en una "búsqueda en árbol" (como explorar un mapa de opciones) para ver qué combinación de especialistas resuelve el caso mejor. Al final, el detective principal aprende de este equipo de expertos y sabe exactamente cuándo llamar a quién.

C. El Motor de Búsqueda "Offline": El "Simulador de Vuelo"

• La analogía: En lugar de gastar dinero llamando a Google o Bing cada vez que el detective practica (lo cual es caro y lento), construyeron un gigantesco archivo digital privado (un simulador).
• Cómo funciona: Guardaron millones de fotos y textos de internet en su propia base de datos. Cuando el detective necesita buscar algo, el sistema le busca en su propio archivo.
• El beneficio: Es gratis (no hay costos de API), es instantáneo (no hay que esperar a que cargue la web) y permite practicar miles de veces sin gastar un centavo. Es como un simulador de vuelo que permite cometer errores sin estrellar un avión real.

3. El Resultado: MM-DeepResearch

Con estos tres ingredientes, crearon MM-DeepResearch.

• Lo que hace: Es un agente que puede ver una imagen, pensar: "Esto no me dice todo", decidir qué herramienta usar (¿busco fotos similares? ¿busco el nombre del edificio?), ejecutar la búsqueda, leer el resultado, y volver a pensar hasta tener la respuesta final.
• Su éxito: En las pruebas, este detective superó a otros modelos muy famosos (como GPT-4o o modelos de búsqueda anteriores) en tareas que requieren mucha investigación visual y textual. Lo hizo mejor, más barato y más rápido.

En resumen

El paper nos dice que para crear una IA que investigue profundamente como un humano, no basta con darle más memoria. Necesitamos:

1. Crearle problemas difíciles que la obliguen a buscar (Hyper-Search).
2. Enseñarle a usar herramientas específicas de forma experta antes de mezclarlas (DR-TTS).
3. Darle un entorno de práctica barato y rápido para que aprenda por ensayo y error sin gastar una fortuna (Motor Offline).

Es como pasar de tener un estudiante que solo lee libros de memoria, a tener un investigador de campo que sabe cómo buscar, filtrar y conectar información del mundo real para resolver cualquier misterio.

Resumen técnico

Aquí tienes un resumen técnico detallado del artículo "MM-DeepResearch: A Simple and Effective Multimodal Agentic Search Baseline" en español:

1. Problema y Motivación

El objetivo es desarrollar un agente de investigación multimodal capaz de realizar tareas de "investigación profunda" (deep research), lo que implica razonamiento explícito, planificación, invocación de múltiples herramientas y síntesis de información entre modalidades (texto e imagen). Sin embargo, el desarrollo de tales agentes enfrenta tres desafíos fundamentales:

1. Escasez de datos: Existe una falta crítica de datos de preguntas y respuestas (QA) multimodales intensivos en búsqueda que requieran múltiples vueltas de interacción y uso de diversas herramientas.
2. Falta de trayectorias efectivas: Los métodos tradicionales de síntesis de trayectorias de búsqueda están diseñados para búsquedas de una sola vuelta y no son adecuados para escenarios iterativos complejos que requieren interacción con múltiples herramientas.
3. Costo prohibitivo: El entrenamiento con APIs de búsqueda en línea (como SerpAPI o Jina) es extremadamente costoso (miles de dólares por ejecución), lo que limita la experimentación extensiva y el aprendizaje por refuerzo (RL) sistemático.

2. Metodología Propuesta

Para abordar estos desafíos, los autores proponen MM-DeepResearch, un agente multimodal que integra tres componentes clave:

A. Hyper-Search: Generación de Datos de QA Intensivos en Búsqueda

Se introduce un método basado en hipergrafos para generar datos de entrenamiento de alta calidad:

• Construcción del Hipergrafo: Modela la información web como nodos (imágenes y texto) conectados por hiperaristas que capturan las relaciones nativas entre ellos.
• Expansión de Nodos: Utiliza un MLLM para expandir nodos de imágenes (mediante búsqueda inversa de imágenes y búsqueda visual) y nodos de texto (extrayendo URLs relevantes e imágenes asociadas), creando una red profunda de información interconectada.
• Generación de QA: Crea pares de preguntas y respuestas en dos niveles:
  • Nivel 1 (Intra-hiperarista): Requiere buscar dentro de un conjunto de información relacionado.
  • Nivel 2 (Inter-hiperarista): Requiere integrar información de múltiples fuentes y rondas de búsqueda, forzando al modelo a realizar búsquedas profundas y multi-herramienta.
• Resultado: Se genera el conjunto de datos Hyper-Search-3K (3.000 pares QA) tras filtrar datos de baja calidad.

B. DR-TTS: Búsqueda de Árbol de Herramientas Descompuesta y Recomponida

Para sintetizar trayectorias de búsqueda efectivas, se propone DR-TTS (Decompose–Recompose Tool Tree Search):

• Descomposición: Clasifica las tareas de búsqueda según el tipo de herramienta requerida y entrena expertos especializados para cada herramienta (ej. búsqueda texto-a-texto, imagen-a-imagen) mediante aprendizaje por refuerzo. Esto simplifica la complejidad de aprendizaje.
• Recomposición: Combina estos expertos para realizar una búsqueda en árbol conjunta. El sistema explora múltiples trayectorias de decisión ramificando sobre diferentes expertos en cada paso.
• Extracción: Selecciona las trayectorias que conducen a respuestas correctas para crear datos de Ajuste Fino Supervisado (SFT) (conjunto DR-TTS-10K). Esto mitiga el sesgo en el uso de herramientas y mejora la diversidad de exploración.

C. Motor de Búsqueda Offline

Para evitar los costos de las APIs en línea durante el entrenamiento por refuerzo:

• Se construye un motor de búsqueda offline que utiliza un corpus multimodal pre-recopilado (texto y imágenes indexadas).
• Soporta herramientas basadas en información (búsqueda en corpus) y basadas en conocimiento (consultas a modelos expertos).
• Permite el entrenamiento de RL (usando GRPO) sin latencia ni costos de API, simulando un entorno de búsqueda realista pero controlado.

D. Entrenamiento del Agente (MM-DeepResearch)

El modelo se entrena en dos etapas:

1. SFT (Ajuste Fino Supervisado): Utiliza las trayectorias generadas por DR-TTS para aprender patrones de llamada a herramientas y síntesis de información.
2. RL (Aprendizaje por Refuerzo): Utiliza el motor de búsqueda offline con el algoritmo GRPO. La recompensa se basa en la precisión de la respuesta final y el formato correcto de la interacción con las herramientas.

3. Contribuciones Clave

1. Hyper-Search: Primera propuesta que utiliza hipergrafos para modelar dependencias multimodales y generar datos de QA intensivos en búsqueda, superando la escasez de datos.
2. DR-TTS: Un marco innovador que descompone y recompone expertos de herramientas para sintetizar trayectorias de búsqueda de alta calidad, mejorando la exploración y el éxito en tareas complejas.
3. Motor de Búsqueda Offline: Habilita el entrenamiento de agentes de investigación profunda mediante RL sin depender de APIs costosas, haciendo la investigación escalable y económica.
4. MM-DeepResearch: Un agente base potente que demuestra superioridad en tareas de investigación profunda multimodal.

4. Resultados Experimentales

El modelo se evaluó en seis benchmarks de investigación intensiva (SimpleVQA, MMSearch, LiveVQA, FVQA, InfoSeek, Browsecomp-VL):

• Rendimiento General: MM-DeepResearch-8B supera a modelos base potentes (como Qwen3-VL-8B) y a agentes de búsqueda anteriores (como MMSearch-R1 y WebWatcher).
  • Logra un promedio de 63.0 en los benchmarks, superando a Qwen3-VL-8B (46.2) y a SenseNova-MARS-8B (59.6).
  • En la versión de 32B, alcanza un promedio de 65.3, superando significativamente a su base (Qwen3-VL-32B con 50.4).
• Capacidad desde Cero: Incluso en modelos sin capacidades nativas de agentes (Qwen2.5-VL-7B), el método logra mejorar el rendimiento en un 23% en promedio, demostrando que puede dotar de capacidades de búsqueda a modelos desde cero.
• Estudios de Ablación:
  • El uso de datos de Hyper-Search mejora la profundidad de la búsqueda (más llamadas a herramientas) y la precisión.
  • La combinación de SFT con DR-TTS y RL con Hyper-Search es crucial para el rendimiento óptimo.
  • El motor offline logra resultados competitivos (62.7 en MMSearch) comparado con el online (67.8), pero con un costo de entrenamiento de $0 frente a $640 por cada 100 pasos en el método online.

5. Significado e Impacto

Este trabajo establece un baseline simple pero efectivo para la investigación de agentes multimodales. Su principal aporte es demostrar que es posible entrenar agentes de investigación profunda de alto rendimiento sin depender de costosas APIs en línea, resolviendo el cuello de botella económico y de datos. Al integrar la generación de datos sintéticos de alta calidad (Hyper-Search) con una estrategia de entrenamiento de herramientas especializada (DR-TTS) y un entorno de RL económico (Offline Search), MM-DeepResearch ofrece una ruta escalable para desarrollar sistemas de IA capaces de realizar investigaciones complejas y multimodales en el mundo real.