← Últimos artículos
🤖 AI

Can Coding Agents Solve Repository-Level Issues with Rendered Code? An Exploratory Study of Visual Representations

Este estudio evalúa el uso de imágenes de código renderizado como una estrategia de compresión de tokens para agentes de codificación a nivel de repositorio, encontrando que, si bien reduce eficazmente los costos de prompt y mantiene la precisión de la reparación, sus beneficios son condicionales y están limitados por las capacidades del modelo subyacente y las etapas específicas del flujo de trabajo de reparación.

Autores originales: Weijie Liang, Yuanfeng Song, Xing Chen, Caleb Chen Cao, Sirui Han, Yike Guo

Publicado 2026-08-11
📖 7 min de lectura🧠 Análisis profundo

Autores originales: Weijie Liang, Yuanfeng Song, Xing Chen, Caleb Chen Cao, Sirui Han, Yike Guo

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina un mundo donde las computadoras son como bibliotecarios increíblemente rápidos y superinteligentes que pueden leer millones de libros en un segundo. Estos "agentes de IA" están siendo enseñados para reparar código roto en proyectos de software masivos, actuando como mecánicos digitales para el internet. Pero hay un inconveniente: estos bibliotecarios se ven abrumados si les entregas una biblioteca entera de una sola vez. Necesitan leer el texto línea por línea, y cuanto más texto tengan que procesar, más costará en tiempo y dinero. Recientemente, los científicos descubrieron un truco: en lugar de darle al bibliotecario un muro de texto, puedes tomar una foto del código. Es como convertir una novela larga en una única imagen densa. Esta "compresión visual" ahorra espacio, pero ¿realmente ayuda al bibliotecario a reparar el libro, o simplemente hace que la imagen sea demasiado borrosa para leerla?

Esta pregunta está en el corazón de un nuevo estudio realizado por investigadores de la Universidad de Ciencia y Tecnología de Hong Kong y ByteDance. Querían saber si convertir el código en imágenes es un atajo mágico para los agentes de IA que intentan reparar software, o si es solo un truco ingenioso que choca contra un muro cuando el trabajo se pone serio. No se limitaron a pedirle a la IA que "mirara" una imagen; la colocaron en un escenario realista donde tenía que buscar a través de un almacén digital desordenado, encontrar la parte rota, arreglarla y demostrar que funcionaba. Sus hallazgos sugieren que, si bien tomar una foto del código ahorra mucho dinero, no hace que la IA sea más inteligente y, a veces, si aprietas la foto demasiado, la IA se confunde.

El Experimento: Del Texto a los Píxeles

Para probar esto, los investigadores configuraron un circuito de obstáculos digital utilizando un benchmark famoso llamado SWE-bench Verified. Piensa en esto como el nivel de un videojuego gigante y real donde la IA tiene que arreglar errores reales en proyectos de software reales. El agente de IA tenía que hacer tres cosas principales:

  1. Buscar: Encontrar el archivo correcto en un código base masivo (como encontrar una aguja específica en un pajar).
  2. Editar: Cambiar el código para solucionar el error.
  3. Verificar: Ejecutar pruebas para asegurarse de que la solución realmente funcionó y no rompió nada más.

Los investigadores compararon dos formas de darle a la IA las "pistas" que necesitaba:

  • El Método del Texto: La IA lee el código línea por línea, tal como un humano leyendo un libro.
  • El Método Visual: El código se convierte en una imagen (una captura de pantalla renderizada) y la IA mira la imagen para entender el código.

Probaron esto con diferentes niveles de "compresión". Imagina que tomas una foto de una página de texto. Puedes hacer la foto más pequeña (comprimiéndola) para ahorrar espacio. Los investigadores intentaron hacer las fotos cada vez más pequeñas (razones de compresión de 1, 3, 5 y 7) para ver cuánto espacio podían ahorrar antes de que la IA dejara de entender el código.

Los Resultados: Una Mezcla de Ahorros y Dificultades

El estudio reveló una imagen fascinante y ligeramente complicada. Esto es lo que encontraron:

1. El Ahorrador de Dinero (Pero No una Varita Mágica)
Convertir el código en imágenes definitivamente ahorra dinero. Los investigadores descubrieron que el uso de representaciones visuales redujo consistentemente el número de "tokens" (las unidades de datos que la IA procesa) que la IA tenía que leer. En algunos casos, esto ahorró hasta 2.8 veces la cantidad de datos en comparación con leer el texto bruto. Sin embargo, este ahorro no fue una línea recta. Podrías pensar que si comprimes la imagen 7 veces, ahorras 7 veces el dinero. Pero así no es como funciona. Los ahorros alcanzaron un "suelo" muy rápidamente. Para fragmentos pequeños de código, el tamaño de la imagen apenas se reduce sin importar cuánto intentes comprimirla, porque la imagen aún debe ser lo suficientemente grande para ser legible. Es como intentar encoger un sello de correos; eventualmente, no puedes hacerlo más pequeño sin que el sello sea ilegible.

2. La Trampa de la Precisión
El hallazgo más importante fue que ahorrar dinero no hizo que la IA fuera más inteligente. La capacidad de la IA para realmente arreglar los errores (su precisión) se mantuvo aproximadamente igual, ya fuera que leyera texto o mirara imágenes.

  • Cuando la IA tenía que hacer todo el trabajo desde cero (buscar, leer, arreglar), el método visual funcionaba tan bien como el método de texto, pero más barato.
  • Sin embargo, si los investigadores obligaron a la IA a comprimir las imágenes demasiado (compresión agresiva), la IA comenzó a cometer más errores. Las imágenes se volvieron demasiado borrosas o congestionadas, y la IA no pudo ver los detalles que necesitaba para arreglar el código.

3. El Problema de "Buscar" vs. "Arreglar"
Los investigadores dividieron el trabajo de la IA en dos fases distintas para ver exactamente dónde ayudaba el truco visual:

  • El Localizador (El Buscador): Esta parte de la IA busca dónde está el error. Aquí, las imágenes fueron muy útiles. Dado que la IA tenía que leer mucho código bruto para encontrar la aguja en el pajar, convertir ese código en una imagen compacta ahorró una enorme cantidad de datos.
  • El Editor (El Reparador): Una vez que se encuentra el error, la IA tiene que cambiar el código y realizar pruebas. Aquí, el truco visual no ayudó mucho. Los investigadores descubrieron que, incluso si la IA sabía exactamente dónde estaba el error, la parte más difícil era el "ensayo y error" de la reparación. La IA tenía que editar, probar, fallar, editar de nuevo y probar de nuevo. Este proceso está lleno de conversaciones de ida y vuelta y pruebas, lo cual no se beneficia mucho de la compresión de la imagen inicial. De hecho, para estos pasos de "reparación", el costo estuvo dominado por las pruebas y la edición, no por la lectura.

El Veredicto: Una Herramienta Útil, Pero No una Solución Universal

Entonces, ¿pueden los agentes de codificación resolver problemas a nivel de repositorio con código renderizado? Sí, pero con condiciones.

El estudio sugiere que convertir el código en imágenes es una estrategia viable para reducir costos, especialmente cuando la IA pasa mucho tiempo simplemente leyendo y buscando a través de cantidades masivas de texto. Es como darle al bibliotecario una foto del índice del libro en lugar del libro completo para encontrar un número de página. Es más rápido y barato.

Sin embargo, no es una solución mágica que hace que la IA sea infinitamente mejor.

  • No corrige la inteligencia subyacente de la IA; si la IA es mala arreglando errores, seguirá siendo mala arreglando errores aunque vea una imagen.
  • Tiene un límite. Si intentas comprimir la imagen demasiado para ahorrar aún más dinero, la IA se confunde y la precisión cae.
  • Ayuda más en la fase de "búsqueda". Una vez que la IA sabe dónde está el problema, la parte más difícil de arreglarlo (editar y probar) se convierte en el cuello de botella, y la compresión visual no ayuda mucho ahí.

En resumen, los investigadores concluyen que el código visual es una herramienta "condicional" excelente. Es una forma inteligente de ahorrar dinero en el trabajo pesado y aburrido de leer código, pero no reemplaza la necesidad de un editor inteligente y cuidadoso para realizar realmente el trabajo de reparación. El futuro de la codificación por IA no se trata solo de hacer que la entrada sea más pequeña; se trata de saber cuándo usar una imagen y cuándo quedarse con el texto.

¿Ahogado en artículos de tu campo?

Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.

Probar Digest →