AuthorMix: Modular Authorship Style Transfer via Layer-wise Adapter Mixing

1. El Problema

La transferencia de estilo de autoría consiste en reescribir un texto manteniendo su significado original pero adoptando el estilo de un autor objetivo específico. Los métodos existentes enfrentan dos desafíos principales, especialmente en escenarios de bajos recursos (pocos ejemplos del autor objetivo):

• Compromiso entre estilo y significado: Los modelos actuales a menudo sacrifican la preservación del significado semántico para lograr un cambio de estilo más drástico.
• Rigidez y costo: La mayoría de los enfoques entrenan un único modelo monolítico en grandes corpus para modelar todos los estilos a la vez. Esto es costoso computacionalmente y ofrece poca flexibilidad para adaptarse rápidamente a nuevos autores objetivo sin reentrenar todo el sistema.

2. Metodología: AuthorMix

El autores proponen AuthorMix, un marco de trabajo ligero, modular e interpretable que evita el entrenamiento de un modelo único masivo. Su enfoque se basa en tres etapas:

A. Entrenamiento de Adaptadores de Autor (Author Adapter Training)

• Se entrena un adaptador LoRA (Low-Rank Adaptation) individual para cada uno de un conjunto de autores de "alto recurso" (con abundantes textos disponibles).
• Para esto, se generan pares de datos pseudo-paralelos: se toma el texto original del autor y se parafrasea a un "estilo neutral" (eliminando marcas estilísticas pero manteniendo el significado) usando un LLM grande. Luego, el adaptador LoRA se entrena para reconstruir el texto original a partir de la versión neutral.

B. Mezcla de Pesos (Weight Mixing)

• Para un nuevo autor objetivo (con pocos ejemplos), no se entrena un nuevo modelo desde cero. En su lugar, se construye un modelo objetivo combinando los adaptadores LoRA existentes.
• Innovación Clave (Mezcla por Capas): A diferencia de métodos anteriores que usan un peso escalar único para todo el adaptador, AuthorMix aprende pesos de mezcla específicos para cada capa del modelo.
  • Si el modelo tiene $L$ capas y $n$ adaptadores, se aprende una matriz de pesos $W \in \mathbb{R}^{n \times L}$.
  • Esto permite que diferentes capas del modelo contribuyan de manera distinta al estilo del autor objetivo, basándose en la investigación que sugiere que el conocimiento lingüístico se distribuye de manera heterogénea en las capas de las redes neuronales.

C. Optimización de los Pesos

Se exploran dos métodos para aprender estos pesos de mezcla utilizando un pequeño conjunto de ejemplos del autor objetivo:

1. LoRAHub (Optimización sin gradiente): Utiliza un optimizador automático (NGOpt) para buscar los pesos que maximicen una función de recompensa.
2. GRPO (Optimización de Política por Refuerzo): Utiliza el algoritmo Group Relative Policy Optimization (GRPO) con la puntuación conjunta de estilo y significado como función de recompensa. Este método ha demostrado ser superior.

La función objetivo combina dos métricas:

• Toward Score: Mide qué tan cerca está el texto generado del estilo del autor objetivo.
• MIS (Mutual Implication Score): Mide la preservación semántica bidireccional entre el texto original y el reescrito.

D. Selección de Subconjunto de Adaptadores

Para mejorar la eficiencia y evitar ruido, el sistema selecciona automáticamente el subconjunto de $k$ autores de alto recurso más similares estilísticamente al autor objetivo antes de realizar la mezcla.

3. Contribuciones Clave

1. Marco Modular: AuthorMix permite generar un modelo de transferencia de estilo específico para cualquier autor objetivo de manera eficiente, sin reentrenar el modelo base completo.
2. Mezcla por Capas (Layer-wise Mixing): Demuestran que aprender pesos de mezcla específicos para cada capa es significativamente superior a la mezcla a nivel de adaptador completo, mejorando tanto el estilo como la preservación del significado.
3. Interpretabilidad: Los pesos aprendidos revelan qué autores contribuyen en qué capas del modelo, ofreciendo una visión interna de cómo se compone el estilo.
4. Rendimiento en Bajos Recursos: Logran un rendimiento superior en escenarios con pocos ejemplos de entrenamiento en comparación con los métodos actuales (SoTA) y modelos de gran escala como GPT-5.1.

4. Resultados Experimentales

• Evaluación: Se probaron en 100 pares de autores (origen-objetivo) utilizando textos literarios de Project Gutenberg.
• Desempeño: La variante AuthorMix con GRPO y mezcla por capas obtuvo la puntuación conjunta más alta (0.34), superando a TinyStyler (0.31) y ASTRAPOP-DPO (0.29).
• Preservación del Significado: AuthorMix logró una puntuación MIS (preservación semántica) de 0.83, significativamente superior a otros métodos que utilizan neutralización (como ASTRAPOP, ~0.63) y comparable a los métodos de few-shot sin sacrificar el estilo.
• Eficiencia:
  • Adaptarse a un nuevo autor objetivo toma solo ~40 minutos en una GPU (aprendiendo solo ~128 parámetros escalares).
  • En comparación, métodos como ASTRAPOP requieren ~48 horas de entrenamiento completo.
• Análisis de Capas: Los resultados muestran que las capas intermedias (14-21) reciben los pesos positivos más fuertes, mientras que las capas profundas a menudo se suprimen (pesos negativos), lo que sugiere que la información estilística crítica se concentra en el medio de la red.

5. Significado e Impacto

El trabajo de AuthorMix representa un avance significativo en la personalización de LLMs:

• Viabilidad Económica: Reduce drásticamente la barrera de entrada para crear modelos de estilo personalizados, haciendo que sea viable adaptar modelos a autores específicos sin costos de entrenamiento masivos.
• Calidad Semántica: Resuelve el problema histórico de que la transferencia de estilo degrade el significado del texto, logrando un equilibrio superior entre fidelidad semántica y cambio estilístico.
• Investigación Futura: Abre nuevas vías para la fusión de modelos (model merging) y la interpretación de redes neuronales, demostrando que la composición de adaptadores a nivel de capa es una estrategia poderosa para la transferencia de tareas y estilos.

En resumen, AuthorMix propone un cambio de paradigma: en lugar de entrenar un modelo gigante para todos los estilos, se construyen bibliotecas de adaptadores modulares que se combinan dinámicamente y de manera interpretable para cada nuevo objetivo, logrando resultados de vanguardia con una fracción del costo computacional.