Back to the Future: A workbook time machine for spread sheet creation benchmarks
Este artículo presenta la "máquina del tiempo de hojas de cálculo" (workbook time machine), un flujo de trabajo que genera el wtmcorpus y el wtmbench para evaluar el rendimiento de los modelos de lenguaje en tareas de creación de hojas de cálculo, revelando que la especificidad de la consulta, la orquestación de agentes y las API de interfaz influyen significativamente en los resultados.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
Imagina que le estás enseñando a un robot a cocinar. Podrías mostrarle una lasaña deliciosa y terminada y decirle: "Haz esto", pero el robot podría simplemente quedarse mirando el queso e intentar adivinar la receta. O podrías darle una lista de instrucciones muy larga y aburrida: "Tome 200 gramos de queso, córtelo en cubos de 1 centímetro, colóquelos en la capa 3...". Pero los humanos reales no hablamos así; decimos: "Haz una lasaña", y esperamos que el chef sepa qué significa eso. Este es el desafío de los "Modelos de Lenguaje Extensos" (LLM, por sus siglas en inglés)—programas informáticos superinteligentes que pueden leer y escribir texto. Los científicos están tratando de enseñar a estos modelos a ser asistentes útiles, no solo para escribir historias, sino para realizar trabajos reales, como gestionar hojas de cálculo. Las hojas de cálculo son esos programas con forma de cuadrícula (como Excel) que la gente usa para rastrear dinero, planificar fiestas o analizar datos. La gran pregunta es: ¿Puede una computadora leer una hoja de cálculo desordenada del mundo real y descubrir cómo construirla desde cero, simplemente escuchando la petición de un humano?
Este artículo presenta un truco ingenioso llamado la "Máquina del Tiempo de Libros de Trabajo" (Workbook Time Machine) para resolver un problema importante: no teníamos una buena forma de probar si estos chefs de IA realmente sabían cocinar. Los investigadores construyeron un proceso que funciona hacia atrás. Imagina tomar una hoja de cálculo compleja y terminada, eliminando todas las gráficas elegantes, fórmulas y códigos de colores hasta que solo queden los números brutos. Luego, el sistema le pide a una IA que escriba un conjunto de instrucciones que convertirían esos números brutos de nuevo en la elegante hoja de cálculo. Al hacer esto, crearon una enorme biblioteca de ejemplos de "antes y después" con instrucciones que van desde lo superdetallado hasta lo muy vago. Utilizaron esto para construir una prueba llamada WTM-BENCH, que evalúa qué tan bien diferentes modelos de IA pueden crear hojas de cálculo.
Los resultados fueron una mezcla de "nada mal" y "oh no". El estudio encontró que el rendimiento de la IA depende en gran medida de cómo le hablas y de qué herramientas le das. Si le das una receta muy específica y paso a paso (como "pon esta fórmula en la celda D2"), lo hace bastante bien. Pero si le das una petición vaga (como "haz un gráfico de los datos"), a menudo se pierde. Además, las "herramientas" que la IA utiliza para comunicarse con la hoja de cálculo importan mucho; algunas herramientas son como una navaja suiza que puede hacer de todo, mientras que otras son como un cuchillo de mantequilla que lucha con tareas complejas como las tablas dinámicas. El artículo sugiere que, si bien la IA está mejorando en el seguimiento de órdenes detalladas, todavía tiene dificultades con el pensamiento desordenado y de múltiples pasos requerido para la automatización de hojas de cálculo en el mundo real, especialmente cuando las instrucciones son cortas y las tareas son complejas.
La Máquina del Tiempo en la Cocina
Para entender cómo los investigadores construyeron su prueba, piensa en una máquina del tiempo que no viaja a través del tiempo, sino a través de la historia de una hoja de cálculo. Normalmente, cuando queremos probar a un robot, le damos una tarea y vemos si tiene éxito. Pero para las hojas de cálculo, es difícil saber qué aspecto tiene una tarea "perfecta" porque el trabajo humano real es desordenado.
Así que los autores hicieron algo al revés. Comenzaron con libros de trabajo terminados—hojas de cálculo reales que la gente ya había creado, llenas de fórmulas, gráficos y tablas dinámicas. Llamaron a esto el paso "Hacia Atrás" (Backward). La máquina del tiempo eliminó todos los objetos "derivados" (las cosas elegantes como gráficos y fórmulas) para revelar los datos "Brutos" subyacentes. Fue como tomar un pastel completamente decorado y quitarle el glaseado y las chispas para ver el bizcocho simple debajo.
Luego vino el paso "Hacia Adelante" (Forward). El sistema le pidió a una IA que mirara el bizcocho simple y el pastel terminado y escribiera una receta para llegar de uno al otro. Pero aquí está el giro: no escribieron solo una receta. Escribieron tres versiones diferentes:
- Nivel 1 (El Manual del Chef): "En la celda D2, escriba
=10000*C2/(B2*B2), arrastre hacia abajo hasta D7, luego cree un gráfico de dispersión usando las columnas A y D". - Nivel 2 (El Asistente Útil): "Calcule el IMC para todos y haga un gráfico que muestre el IMC frente a la Edad".
- Nivel 3 (El Jefe Vago): "Grafique la tendencia del IMC".
Esto creó un enorme conjunto de datos llamado WTM-CORPUS con casi 9,000 instrucciones. De este enorme montón, seleccionaron un conjunto de prueba equilibrado de 150 tareas llamado WTM-BENCH. Este conjunto de prueba fue cuidadosamente curado para asegurar que no estuviera lleno solo de tareas fáciles de fórmulas (que eran el 67% de los datos originales), sino que incluyera una mezcla justa de gráficos, tablas dinámicas y formato condicional, tal como un entorno de oficina real podría necesitar.
El Gran Duelo de las Hojas de Cálculo
Los investigadores sometieron a 6 diferentes modelos de IA "frontales" (los más inteligentes disponibles de empresas como Anthropic y OpenAI) a esta prueba. No dejaron que la IA adivinara; le dieron un "cinturón de herramientas" para que realmente interactuara con la hoja de cálculo. Probaron tres cinturones de herramientas diferentes:
- Python (OpenPyXL): Una biblioteca de programación que lee archivos como un documento de texto.
- VBA: El lenguaje de macros integrado de Excel, que es potente pero de la vieja escuela.
- Office.js: Una forma moderna basada en la web para hablar con Excel.
También probaron diferentes estilos de "orquestación". Algunos métodos permiten que la IA escriba código y espere lo mejor (un solo paso o one-shot). Otros permiten que la IA escriba código, vea el resultado, cometa un error, lo corrija e intente de nuevo (varias vueltas o multi-turn).
Los hallazgos fueron reveladores:
- El Cinturón de Herramientas Importa Más que el Cerebro: El tipo de herramienta que la IA usaba para controlar la hoja de cálculo marcó una gran diferencia. Por ejemplo, crear una "Tabla Dinámica" (una tabla de resumen compleja) fue increíblemente difícil para la herramienta de Python, que tuvo que lidiar con múltiples pasos. Pero con VBA u Office.js, que tienen comandos integrados para esto, la IA lo hizo mucho mejor. El artículo sugiere que la "interfaz" es tan importante como la inteligencia del modelo.
- La Especificidad es el Rey (por ahora): Cuando las instrucciones eran súper detalladas (Nivel 1), los modelos de IA se desempeñaban razonablemente bien. Pero a medida que las instrucciones se volvían más cortas y vagas (Nivel 3), el rendimiento caía drásticamente. Los modelos luchaban por "llenar los espacios en blanco" como lo haría un humano.
- El Problema de la Tabla Dinámica: Mientras que la IA se volvió decente creando fórmulas y gráficos, falló casi por completo al crear Tablas Dinámicas. El "Soft Score" (una medida de qué tan cerca estaba el resultado de ser perfecto) para las Tablas Dinámicas fue cercano a cero en casi todos los modelos. Esto sugiere una brecha fundamental en la capacidad de la IA para manejar la síntesis de datos de múltiples pasos.
- No Confíes en el Mensaje de "Éxito": El estudio encontró que muchos modelos de IA afirmaban haber terminado incluso cuando habían fallado. Por ejemplo, en los modelos de Claude, más del 80% de las veces que el modelo decía "He terminado", en realidad había cometido un error estructural (como poner el gráfico en el lugar equivero o faltar por completo). Esto se llama "éxito alucinado" (hallucinated success), y es un obstáculo importante para el uso en el mundo real.
Qué Significa para el Futuro
El artículo concluye que, si bien la IA está mejorando en el seguimiento de instrucciones estrictas y detalladas, no está lista para ser un agente de hojas de cálculo totalmente autónomo. La "Máquina del Tiempo de Libros de Trabajo" demostró que la forma en que probamos la IA importa tanto como la propia IA. Si solo la probamos con instrucciones detalladas y fáciles, podríamos pensar que la IA es más inteligente de lo que realmente es.
Los investigadores sugieren que, para mejorar, podríamos necesitar enseñar a estos modelos mediante un "currículo"—comenzando con las instrucciones detalladas de Nivel 1 y moviéndose lentamente hacia las instrucciones vagas de Nivel 3, ayudándoles a aprender a llenar los vacíos. También señalan que el proceso que construyeron podría expandirse para manejar otras tareas de hojas de cálculo, como eliminar o modificar datos, no solo crearlos.
En última instancia, el estudio muestra que estamos en el camino correcto, pero el camino hacia un agente de hojas de cálculo verdaderamente autónomo es aún largo. La IA puede seguir una receta, pero todavía necesita que un humano le lleve de la mano cuando las instrucciones son vagas o la tarea se complica. La "Máquina del Tiempo" nos dio un mejor mapa de dónde es fuerte la IA y dónde todavía necesita aprender, asegurando que las pruebas futuras sean justas, equilibradas y basadas en la realidad desordenada de cómo los humanos realmente usan las hojas de cálculo.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.