From Brute Force to Semantic Insight: Performance-Guided Data Transformation Design with LLMs

Imagina que estás intentando enseñarle a un robot a reconocer gatos en fotos. Podrías simplemente mostrarle un millón de fotos de gatos, pero eso es aburrido y a veces el robot se confunde por la iluminación o el ángulo. Un truco más inteligente es mostrarle al robot el mismo gato, pero retorcido, estirado, con colores diferentes, o con zoom hacia adentro y hacia afuera. Esto se llama "aumento de datos" (data augmentation). Es como darle al robot un caleidoscopio de vistas para que aprenda cómo es un gato realmente, no solo una foto específica.

Durante mucho tiempo, averiguar la mejor manera de retorcer y estirar estas fotos fue un juego de adivinanzas. Los científicos o bien probaban combinaciones aleatorias (fuerza bruta) o usaban matemáticas complejas para buscar la receta perfecta. Pero hubo un nuevo jugador en la escena: los Modelos de Lenguaje Extensos (LLM). Quizás los conoces como los superinteligentes chatbots que pueden escribir historias o código. Lo sabes todo sobre ellos. La gran pregunta era: ¿Podrían estos chatbots, que son excelentes con las palabras, también ser excelentes escribiendo el código que retuerce nuestras fotos para hacer al robot más inteligente? El desafío era que estos chatbots usualmente aprenden de texto, no de la retroalimentación de "¿este código hizo al robot más inteligente?". Este artículo profundiza en ese problema exacto, preguntando si podemos enseñar a un chatbot a escribir mejor código para retorcer fotos mostrándole los resultados, en lugar de solo darle un libro de texto.

De juegos de adivinación a un entrenamiento inteligente

Los investigadores de la Universidad de Würzburg decidieron dejar de adivinar y empezar a entrenar. Querían ver si podían convertir un chatbot de IA estándar en un maestro chef de transformaciones de datos. En lugar de solo pedirle al chatbot que "escriba algo de código para retorcer imágenes", construyeron un sistema donde el chatbot podía probar los resultados.

La cocina de la "Fuerza Bruta"
Primero, necesitaban un libro de cocina masivo para aprender. No se limitaron a pedirle al chatbot que adivinara; ejecutaron un experimento de "fuerza bruta". Imagina a un chef que mezcla ingredientes al azar en una cocina 6,000 veces. Tomaron 6,000 combinaciones diferentes de giros de imagen (como cambiar el tamaño, voltear o cambiar colores) y probaron cada una en un modelo simple de reconocimiento de imágenes. No les importaba la receta; solo les importaba la puntuación. ¿Ayudó esta mezcla específica de giros al modelo a reconocer imágenes mejor? Registraron la puntuación para cada una de ellas. Esto creó una base de datos gigante de más de 6,000 "recetas" y sus correspondientes "puntuaciones de sabor".

Enseñando al Chatbot a Saborear
Después, tomaron un potente chatbot de programación (Olympic Coder 7B) y le dieron una dieta especial. No solo le alimentaron con código; le alimentaron con pares de código y puntuaciones. Le mostraron al chatbot: "Aquí hay una receta que obtuvo una puntuación baja. Aquí hay una receta que obtuvo una puntuación alta. ¿Puedes ver la diferencia?".

Utilizaron una técnica llamada Adaptación de Bajo Rango (LoRA), que es como darle al chatbot un par de gafas especiales que le ayudan a concentrarse en los detalles más importantes sin reescribir todo su cerebro. El chatbot aprendió a mirar el código y predecir: "Si escribo código como esto, la puntuación subirá. Si escribo código como aquello, la puntuación bajará". No estaba memorizando las palabras exactas; estaba aprendiendo el sentimiento de lo que hace que una transformación sea buena.

Los Resultados: Menos Adivinación, Más Genialidad
Los resultados fueron sorprendentemente claros. Cuando se le pidió al chatbot que escribiera código antes de este entrenamiento, era un desastre. Solo acertaba la sintaxis aproximadamente el 22% de las veces, y la puntuación promedio de sus creaciones era muy baja (alrededor de 0.10). Era como un estudiante que no ha estudiado, escribiendo respuestas al azar en un examen.

¿Pero después del entrenamiento? El chatbot se convirtió en un profesional.

• Eficiencia: El viejo método de "fuerza bruta" tuvo que probar 6,000 combinaciones aleatorias para encontrar las mejores. El chatbot entrenado solo necesitó probar 280 candidatos (10 por día durante 28 días) para encontrar soluciones que fueran tan buenas, o incluso mejores. Fue como encontrar una aguja en un pajar sabiendo exactamente dónde le gusta esconderse a la aguja, en lugar de excavar por todo el pajar.
• Más Inteligente, No Solo Más Fuerte: El chatbot no solo copió las mejores recetas que vio. Aprendió la lógica. Por ejemplo, comprendió que cambiar el tamaño de una imagen a un tamaño específico (como 256 píxeles) era a menudo clave para una puntuación alta. Entendió la relación entre el código y el resultado, en lugar de solo memorizar el código en sí.
• La Trampa del "Cadena de Pensamiento": Los investigadores intentaron algo interesante. Le pidieron al chatbot que "piense paso a paso" y explique su razonamiento antes de escribir el código (un truco popular llamado Cadena de Pensamiento o Chain-of-Thought). Sorprendentemente, esto empeoró las cosas. El chatbot se confundió con las palabras extra que tenía que escribir, y su rendimiento cayó. Resultó que, para este trabajo específico, el chatbot funcionaba mejor cuando iba directamente al código, sin la explicación larga y tediosa.

Lo que esto significa
Este artículo sugiere que no necesitamos sistemas de recompensa complejos o maestros humanos para hacer que la IA sea mejor en la programación. Solo necesitamos mostrarle a la IA los resultados de su propio trabajo. Al crear un ciclo donde la IA escribe código, lo prueba y aprende de la puntuación, puede descubrir de forma autónoma cómo escribir mejor código.

El estudio muestra que, aunque el chatbot puede aprender a escribir código que mejore el reconocimiento de imágenes, no es una varita mágica que funciona para todo. Los investigadores solo lo probaron en un tipo específico de modelo de imagen (ResNet) y un conjunto de datos (CIFAR-10). Sugieren que la mejor manera de retorcer una imagen puede depender en gran medida del robot específico y de las imágenes particulares que esté mirando. Pero la conclusión principal es emocionante: la IA puede aprender a ser un mejor ingeniero simplemente observando qué funciona y qué no, convirtiendo un caótico juego de adivinación en un descubrimiento inteligente y guiado.