Noise Steering for Controlled Text Generation: Improving Diversity and Reading-Level Fidelity in Arabic Educational Story Generation

Resumen Técnico: Navegación de Ruido para la Generación de Texto Controlado

1. Problema y Contexto

El artículo aborda el desafío de generar historias narrativas diversas y pedagógicamente válidas para las Evaluaciones de Lectura en los Primeros Grados (EGRA) en árabe. Estas evaluaciones requieren textos que cumplan con restricciones estrictas:

• Vocabulario controlado y nivel de lectura apropiado para niños.
• Estructura narrativa clara (inicio, nudo, desenlace).
• Neutralidad cultural y ausencia de estereotipos.

El conflicto central: Existe una tensión entre la diversidad (evitar tramas repetitivas que invalidan la evaluación) y el cumplimiento de restricciones (mantener la simplicidad lingüística).

• Los métodos actuales de generación automática, especialmente en modelos de lenguaje pequeños (SLMs) de 7-9 mil millones de parámetros centrados en árabe, tienden a producir salidas repetitivas o, al intentar aumentar la diversidad mediante muestreo estocástico (como alta temperatura), sufren de inestabilidad, colapso modal (generación de texto incoherente) y desviación del nivel de lectura adecuado (usando vocabulario demasiado complejo).
• El árabe presenta complejidades adicionales como morfología rica, variación ortográfica y diglosia, lo que agrava estos problemas en modelos más pequeños.

2. Metodología: Navegación de Ruido (Noise Steering)

Los autores proponen una técnica libre de ajuste fino (training-free) llamada Navegación de Ruido. En lugar de modificar los pesos del modelo, inyectan perturbaciones de ruido gaussiano calibrado en las representaciones internas del modelo durante la inferencia.

Se evalúan cuatro estrategias de inyección de ruido en cinco modelos SLMs árabes:

1. Ruido en la Corriente Residual (Residual Stream Noise - L-RES):
   • Inyecta ruido en la salida completa de cada bloque transformador (después de la atención y la capa MLP).
   • Ventaja: Perturba la representación global de la historia después de que la información ha sido procesada, permitiendo variaciones de alto nivel (trama, personajes) sin corromper la estructura interna básica.
2. Ruido en los Logits de Atención (Attention-logit Noise - ATTN):
   • Inyecta ruido en la salida de la subcapa de auto-atención, antes de la capa MLP.
   • Desventaja: Tiende a ser inestable y causar colapsos en la generación.
3. Ruido en los Embeddings (Embedding Noise - EMBED):
   • Inyecta ruido directamente en la tabla de búsqueda de embeddings del token.
   • Desventaja: Muy sensible; en modelos con representaciones árabes frágiles (como Phi-4-mini), causa colapso total (100% de fallos).
4. Inyección de Ruido basada en Entropía de Atención (AENI):
   • Innovación clave: La magnitud del ruido no es fija, sino que depende de la entropía de la distribución de atención del modelo en cada paso.
   • Si la atención está muy concentrada (pico alto, indicando posible repetición), se inyecta más ruido para forzar la exploración. Si la atención es difusa, se inyecta menos.
   • Objetivo: Estabilizar la generación inyectando ruido solo cuando es necesario para evitar patrones repetitivos.

Estrategia de Decaimiento: Todas las estrategias utilizan un calendario de decaimiento coseno, reduciendo la magnitud del ruido a medida que avanza la generación. Esto permite exploración creativa al inicio de la historia y restaura el cumplimiento estricto de las restricciones al final.

3. Contribuciones Clave

• Validación de la Navegación de Ruido: Demuestran que la perturbación a nivel de representación interna es superior a la estocasticidad a nivel de salida (como el muestreo de alta temperatura) para contenido educativo restringido.
• Método AENI: Introducen un mecanismo adaptativo que mitiga la inestabilidad del ruido en la atención, logrando diversidad sin colapso modal.
• Calibración de Ruido: Proponen un método para calibrar la magnitud del ruido basándose en la desviación estándar de las activaciones residuales (RMS) de cada modelo, asegurando que la perturbación sea proporcional a la escala interna de diferentes arquitecturas.
• Evaluación Exhaustiva: Comparan cuatro estrategias contra baselines de alta temperatura en cinco modelos árabes distintos, midiendo diversidad, calidad, adherencia a restricciones y nivel de lectura.

4. Resultados Principales

Los experimentos se realizaron en cinco modelos (Jais 8B, ALLaM 7B, Fanar 9B, AceGPT 8B, Phi-4-mini) generando 50 historias por condición.

• Estabilidad y Colapso Modal:

  • Las baselines de alta temperatura causaron colapsos catastróficos (hasta 84% en AceGPT) y degradaron severamente la calidad.
  • El Ruido en la Corriente Residual (L-RES) tuvo una tasa de colapso del 0% en todos los modelos.
  • El ruido en embeddings causó colapso total en Phi-4-mini.
  • AENI eliminó el colapso en todos los modelos (0% en la mayoría, 2% en Fanar), superando al ruido de atención crudo (ATTN) que tenía tasas de colapso de hasta 34%.

• Diversidad vs. Calidad:

  • L-RES mejoró consistentemente la diversidad (puntuación Vendi) en todos los modelos sin sacrificar significativamente la calidad o el cumplimiento de restricciones.
  • AENI ofreció un equilibrio excelente: recuperó la calidad perdida por el ruido de atención crudo y mantuvo la diversidad, siendo particularmente efectivo para estabilizar modelos inestables.

• Fidelidad del Nivel de Lectura (EGRA):

  • Hallazgo Crítico: Las baselines de alta temperatura inflaron artificialmente el nivel de lectura (ej. de Grado 3 a Grado 6), haciendo los textos inadecuados para niños.
  • L-RES y AENI preservaron el nivel de lectura adecuado (Grado 2-4) en todos los modelos, excepto en Phi-4 con L-RES donde hubo una ligera desviación. Esto demuestra que la navegación de ruido permite variar la trama sin recurrir a vocabulario complejo.

• Adherencia a Restricciones:

  • L-RES y AENI mantuvieron las violaciones de restricciones (longitud, uso de nombres propios, estructura) en niveles comparables a la baseline sin ruido, mientras que otros métodos aumentaron drásticamente las violaciones.

5. Significado e Impacto

Este trabajo establece que para la generación de contenido educativo restringido, la intervención a nivel de representación interna es superior a la manipulación de la distribución de salida.

• Para la Educación: Proporciona una solución viable para escalar la creación de materiales de lectura en árabe, asegurando que las historias sean diversas (evitando el sesgo de evaluación) pero pedagógicamente seguras (nivel de lectura correcto).
• Para la IA: Demuestra que es posible mejorar la creatividad de modelos pequeños sin reentrenamiento, utilizando mecanismos de control de ruido adaptativos (como AENI) que responden al estado interno del modelo.
• Limitaciones: La evaluación de calidad y algunas restricciones se basaron en un "Juez LLM" (GPT-5.3), lo que introduce posibles sesgos. Se recomienda validación humana futura por educadores nativos.

En conclusión, la Navegación de Ruido, específicamente mediante Ruido en la Corriente Residual y AENI, representa un avance significativo para la generación de texto controlado en idiomas de recursos limitados, logrando un equilibrio óptimo entre creatividad, calidad y cumplimiento de restricciones pedagógicas.