💬 NLP

Building Large-Scale English-Romanian Literary Translation Resources with Open Models

Este artículo presenta el Marco de Traducción TinyFabulist (TF2), un proceso unificado que aprovecha datos sintéticos y un proceso de ajuste fino de dos etapas para producir un modelo abierto de 12 mil millones de parámetros, rentable, para la traducción literaria de alta calidad de inglés a rumano, junto con el lanzamiento de conjuntos de datos a gran escala y herramientas de evaluación.

Autores originales: Mihai Nadas, Laura Diosan, Andreea Tomescu, Andrei Piscoran

Publicado 2026-07-29

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Mihai Nadas, Laura Diosan, Andreea Tomescu, Andrei Piscoran

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina un mundo donde las historias son la moneda de la cultura, pero algunos idiomas son como islas con muy pocos puentes que los conecten con el resto del mundo. Este es el desafío de la traducción automática, una rama de la inteligencia artificial que intenta enseñar a las computadoras a hablar diferentes idiomas. Normalmente, estas computadoras aprenden leyendo millones de libros y artículos de noticias escritos por humanos. Pero para muchos idiomas, especialmente aquellos hablados por menos personas, simplemente no hay suficientes libros para enseñarle a la computadora. Es como intentar aprender a cocinar comida italiana cuando nunca has visto una receta o probado un tomate.

Para resolver esto, los científicos han comenzado a utilizar Modelos de Lenguaje Extensos (LLM). Piensa en ellos como chefs digitales súper inteligentes que han probado casi todos los platos del mundo y pueden adivinar cómo debería saber una nueva receta. Sin embargo, enseñar a estos chefs a cocinar literatura —historias con sentimientos, bromas y secretos culturales— es mucho más difícil que traducir un informe de noticias. Y hacer esto para un idioma como el rumano, que tiene menos recursos digitales que el inglés, es como intentar hornear un pastel perfecto en una cocina con ingredientes muy limitados y un presupuesto ajustado. La gran pregunta que se hacen los investigadores es: ¿Podemos construir una biblioteca de alta calidad de historias traducidas sin gastar una fortuna o necesitar una supercomputadora?

La historia del pequeño fabulista

En este artículo, un equipo de investigadores de Rumania presenta un nuevo proyecto llamado TF2 (TinyFabulist Translation Framework). Su objetivo era crear una enorme biblioteca de fábulas traducidas —historias cortas con moraleja, como las fábulas de Esopo— pasando del inglés al rumano. Querían ver si podían hacer esto utilizando modelos "abiertos" (herramientas de IA gratuitas y públicas) en lugar de otros costosos y privados, y si podían hacerlo con un presupuesto muy bajo.

La receta: Construyendo una biblioteca desde cero

Los investigadores sabían que no podían simplemente pedir a humanos que tradujeran millones de historias; tomaría demasiado tiempo y costaría demasiado. En su lugar, construyeron una línea de ensamblaje de cuatro pasos para crear los datos ellos mismos:

La prueba de sabor (Etapa 1): Primero, probaron 13 modelos de IA diferentes (algunos gratuitos, otros de pago) para ver cuál era el mejor traduciendo algunas fábulas de muestra. No solo se fijaron en si las palabras coincidían; le pidieron a la IA que calificara las traducciones según cinco aspectos: precisión, fluidez, lógica de la historia, estilo y adecuación cultural. El ganador fue un modelo poderoso llamado GPT-o3, que se convirtió en su "estándar de oro" para crear el resto de la biblioteca.
El estándar de plata (Etapa 2): Utilizando ese modelo ganador, tradujeron 15,000 fábulas del inglés al rumano. Aunque fueron hechas por un robot, eran tan buenas que los investigadores las trataron como un "estándar de plata" (casi tan bueno como el oro) para entrenar sus propios modelos personalizados.
El entrenamiento especializado (Etapa 3): Esta es la parte mágica. Tomaron modelos de IA de código abierto (específicamente versiones de Gemma, que van desde modelos pequeños de 1 billón de parámetros hasta uno de 12 billones) y les dieron una "escuela de acabado" especial. Utilizaron una técnica llamada LoRA (Adaptación de Bajo Rango), que es como darle a un chef de propósito general un libro de cocina específico para fábulas sin tener que reconstruir toda la cocina. Entrenaron estos modelos con las 15,000 historias traducidas.
La producción en masa (Etapa 4): Finalmente, utilizaron sus modelos especializados recién entrenados para traducir las 3 millones de fábulas restantes de la colección original en inglés. El resultado es un nuevo y masivo conjunto de datos llamado DS-TF2-EN-RO-3M, que contiene tres millones de pares de fábulas en inglés y rumano.

Los resultados: Modelos pequeños, grandes sorpresas

Los investigadores luego pusieron a prueba sus nuevos modelos entrenados contra los grandes y caros modelos privados (como GPT-4 y DeepL) y los modelos abiertos originales sin entrenar.

La brecha se cerró: Su mejor modelo abierto, TF2-12B (la versión de 12 mil millones de parámetros), funcionó increíblemente bien. Obtuvo una puntuación promedio de 4.83 sobre 5 en su rúbrica de calidad, mientras que el principal modelo privado (GPT-o3) obtuvo 4.92. La brecha entre el modelo gratuito entrenado de forma personalizada y el gigante privado y propietario fue mínima: menos de 0.1 puntos.
La diferencia de costo: Aquí es donde la historia se vuelve realmente emocionante. Traducir las 3 millones de fábulas usando las costosas API privadas habría costado entre $1,800 y$ 32,400 (dependiendo de qué modelo eligieras). En contraste, su modelo de código abierto TF2 hizo exactamente el mismo trabajo por aproximadamente $350. Eso es un ahorro del 97% al 99%.
Los modelos pequeños: Incluso su modelo más pequeño (1 billón de parámetros), tras el entrenamiento, saltó de una puntuación de 2.02 a 3.75. No era perfecto, pero pasó de ser "apenas entendible" a "bastante bueno", demostando que incluso las computadoras pequeñas y baratas pueden aprender a contar historias si se les enseña de la manera correcta.

Lo que encontraron (y lo que no)

El artículo sugiere que no necesitas ser un multimillonario para construir herramientas de traducción literaria de alta calidad. Al utilizar un proceso inteligente paso a paso y centrarse en un tipo específico de historia (las fábulas), demostraron que los modelos abiertos pueden competir con los gigantes.

Sin embargo, los autores advierten cuidadosamente algunos puntos:

Aún no es perfecto: Aunque los modelos abiertos están cerca, los modelos privados (como GPT-o3) todavía puntuaron ligeramente más alto, especialmente en estilo y matices culturales. Los modelos abiertos son una gran alternativa, pero no han "resuelto" completamente el problema de igualar la calidad de traducción de nivel humano en cada caso.
El "Estándar de Oro" es de Plata: Las traducciones de referencia que utilizaron para entrenar los modelos fueron hechas por otra IA, no por un humano. Esto significa que los modelos están aprendiendo a sonar como otras IA, no necesariamente como traductores humanos. Los investigadores verificaron esto haciendo que un experto humano revisara una pequeña muestra de las historias, y el humano estuvo de acuerdo en que las clasificaciones de la IA eran generalmente correctas, aunque admiten que se necesita un estudio humano más amplio para estar 100% seguros.
Las fábulas son especiales: Las fábulas son cortas y tienen una estructura clara. Los investigadores sugieren que, si bien este método funciona de maravilla para las fábulas, podría ser más difícil de aplicar a novelas complejas con metáforas profundas o diálogos históricos.

La conclusión

El proyecto TF2 es como demostrar que puedes construir una magnífica biblioteca utilizando materiales reciclados y un poco de ingenio, en lugar de necesitar una bóveda de oro. Demostraron que, con los datos de entrenamiento adecuados y un enfoque inteligente y rentable, la IA de código abierto puede traducir contenido literario para idiomas como el rumano a una fracción del costo habitual. Han liberado todo su código, su conjunto de datos de 3 millones de historias y sus modelos entrenados al público, invitando a todos los demás a construir sobre su trabajo. Es un paso hacia un futuro donde la IA puede ayudar a preservar y compartir historias de cada cultura, independientemente de cuánto dinero esa cultura tenga para gastar en tecnología.

Resumen Técnico: Construcción de Recursos de Traducción Literaria Inglés–Rumano a Gran Escala con Modelos Abiertos

Planteamiento del Problema

La traducción literaria a lenguas de bajos recursos, específicamente el rumano, enfrenta un desafío dual: la escasez de datos paralelos de alta calidad y la dificultad de preservar el matiz estilístico, la coherencia narrativa y el contexto cultural. Los benchmarks de traducción automática (MT) existentes (por ejemplo, WMT) se centran predominantemente en textos de noticias o informativos, ofreciendo una guía limitada para tareas creativas y narrativas. Si bien los grandes modelos de lenguaje (LLMs) han permitido la generación de datos sintéticos, la mayor parte del trabajo existente se centra en la generación de historias monolingües o en la traducción inversa (back-translation), en lugar de la creación sistemática de conjuntos de datos bilingües literarios a gran escala. Además, los modelos propietarios optimizados para dominios generales suelen fallar al capturar los requisitos estilísticos y culturales específicos de la traducción literaria, y su despliegue suele ser prohibitivo en términos de costes para las comunidades de investigación de bajos recursos.

Metodología: El Marco de Traducción TinyFabulist (TF2)

Los autores presentan TF2, un marco unificado y de extremo a extremo para la creación, el ajuste fino (fine-tuning) y la evaluación de la traducción literaria de inglés a rumano. El pipeline consta de cuatro etapas distintas:

Etapa 1: Benchmarking y Selección de Modelos:
- Los autores evaluaron 13 sistemas diversos (incluyendo APIs propietarias como GPT-4.1, Gemini, DeepL y modelos de pesos abiertos como EuroLLM y Gemma) sobre un conjunto de control de fábulas en inglés.
- La evaluación utilizó una rúbrica basada en LLM de cinco dimensiones (Precisión, Fluidez, Coherencia, Estilo, Adaptación Cultural/Pragmática) calificada en una escala Likert de 1 a 5.
- GPT-o3 fue seleccionado como el traductor de referencia para generar datos paralelos de "estándar de plata" (silver-standard) debido a su puntuación media de rúbrica más alta (4.92). Gemma-3-12B-it fue seleccionado como el modelo base para el ajuste fino de modelos abiertos debido a su rendimiento superior entre los baselines abiertos (puntuación media de 4.43) y su licencia permisiva.
Etapa 2: Creación del Corpus Paralelo (DS-TF2-EN-RO-15K):
- Utilizando el traductor de referencia seleccionado (GPT-o3), se tradujeron 15,000 fábulas en inglés del corpus existente DS-TF1-EN-3M al rumano.
- Esto resultó en un corpus paralelo de alta calidad generado por máquina (DS-TF2-EN-RO-15K) que sirve como recurso de entrenamiento y como conjunto de referencia consistente para la evaluación posterior.
Etapa 3: Ajuste Fino de Parámetros Eficientes:
- Modelos de lenguaje de instrucción abiertos (variantes de Gemma-3: 1B, 4B y 12B de parámetros) fueron ajustados finamente en el conjunto de datos paralelo de 15k utilizando Adaptación de Bajo Rango (LoRA).
- Se inyectaron adaptadores en todas las matrices de proyección principales ($q, k, v, o, gate, up, down$) con un rango $r=32$ y un escalado $\alpha=32$ .
- El proceso incluyó el entrenamiento con AdamW, programación de tasa de aprendizaje de coseno y la generación de variantes cuantizadas de 8 bits para un despliegue eficiente.
Etapa 4: Generación de Corpus a Gran Escala (DS-TF2-EN-RO-3M):
- El mejor modelo ajustado (TF2-12B) se utilizó para traducir las aproximadamente 3 millones de fábulas en inglés restantes de DS-TF1-EN-3M.
- Esto produjo DS-TF2-EN-RO-3M, un corpus bilingüe a gran escala de fábulas morales, publicado abiertamente para la investigación.

Protocolo de Evaluación

El artículo emplea una estrategia de evaluación híbrida para abordar las limitaciones de las métricas tradicionales en contextos literarios:

Métrica Primaria: Una rúbrica multidimensional basada en LLM (Precisión, Fluidez, Coherencia, Estilo, Adaptación Cultural) implementada mediante GPT-o3-mini. Para mitigar el sesgo de auto-preferencia, se realizó una verificación cruzada entre familias utilizando Grok-3-mini.
Métrica Secundaria: Se reporta el Bilingual Evaluation Understudy (BLEU) como una comprobación de consistencia frente a la referencia de GPT-o3, aunque los autores señalan explícitamente sus limitaciones para capturar la variación estilística y la paráfrasis inherente a la traducción literaria.
Validación Humana: Un estudio piloto que involucró a un lingüista rumano independiente evaluó 40 fábulas, encontrando que los rankings automatizados eran direccionalmente consistentes con el juicio humano respecto a la fluidez, la fidelidad de las entidades y el cierre narrativo.

Resultados Clave

1. Rendimiento de los Modelos Abiertos Ajustados Finamente

El ajuste fino mejoró significamente el rendimiento de los modelos de pesos abiertos, reduciendo la brecha con los sistemas propietarios:

TF2-12B: Logró una puntuación media de rúbrica de 4.83 (con temperatura $T=0.0$ ), comparado con el baseline de Gemma-3-12B-it sin ajustar de 4.43. Esto representa una brecha de solo 0.09 puntos respecto a la referencia de GPT-o3 (4.92).
TF2-4B: Mejoró de un baseline de 3.81 a 4.74.
TF2-1B: Mejoró de 2.02 a 3.75.
Cuantización: Las variantes cuantizadas de 8 bits mantuvieron el rendimiento dentro de un margen de 0.01–0.03 puntos de sus contrapartes en FP16, demostrando la viabilidad para el despliegue en entornos con recursos limitados.

2. Eficiencia de Costes

El artículo destaca una reducción dramática de costes para la generación de conjuntos de datos a gran escala:

Traducir el corpus completo de 3 millones de fábulas utilizando APIs propietarias (por ejemplo, GPT-4.1, DeepL) tuvo un coste estimado de entre $2,700 y$ 32,400 (dependiendo del modelo y la profundidad del razonamiento).
Utilizando el modelo abierto TF2 ajustado finamente en hardware local, el coste estimado fue de aproximadamente $350, lo que representa una reducción del 97–99% en los gastos.

3. Robustez de la Evaluación

Sesgo de Familia Cruzada: Los rankings del sistema se mantuvieron estables cuando fueron evaluados por un juez independiente (Grok-3-mini), confirmando que las mejoras de rendimiento de los modelos TF2 no fueron artefactos del sesgo del evaluador.
Alineación Humana: La evaluación humana piloto confirmó que TF2-12B produce un fraseo más natural y un mejor cierre narrativo que el baseline sin ajustar, aunque GPT-o3 sigue siendo el estándar de oro estilístico.

Significación y Reivindicaciones

El artículo sostiene que TF2 proporciona un pipeline reproducible y rentable para avanzar en la traducción literaria automática en entornos de bajos recursos. Sus principales contribuciones son:

Creación de Recursos: La publicación de dos conjuntos de datos a gran escala (DS-TF2-EN-RO-15K y DS-TF2-EN-RO-3M) y tres modelos abiertos ajustados finamente (TF2-1B, TF2-4B, TF2-12B).
Validación Metodológica: Demostrar que el ajuste fino de parámetros eficientes (LoRA) sobre datos sintéticos de estándar de plata puede cerrar sustancialmente la brecha de calidad entre los modelos abiertos y los propietarios para dominios literarios específicos.
Marco de Evaluación: Establecer un protocolo de evaluación basado en rúbricas que prioriza las dimensiones estilísticas y culturales sobre la simple superposición léxica, validando su estabilidad mediante comprobaciones de familia cruzada.

Los autores mantienen una postura modesta, reconociendo que sus resultados son específicos para el género de la fábula (que posee narrativas estructuradas y morales explícitas) y que las referencias de "verdad fundamental" (ground truth) son generadas por máquinas en lugar de ser traducidas por humanos. Posicionan a TF2 no como un reemplazo para la traducción humana profesional, sino como una solución práctica y accesible para generar contenido literario culturalmente significativo en lenguas de bajos recursos donde tales recursos de otro modo no estarían disponibles.