Towards the Readability of LLM-Generated Codes through Multitask Representation Engineering

Resumen Técnico: Hacia la legibilidad del código generado por LLM mediante la Ingeniería de Representación Multitarea

Planteamiento del Problema
Si bien los Modelos de Lenguaje de Gran Escala (LLM) han avanzado significativamente en la generación de código, la investigación existente se centra predominantemente en asegurar la corrección del código (fidelidad funcional), descuidando a menudo la legibilidad (facilidad de comprensión y mantenimiento). La legibilidad del código es inherentemente subjetiva, varía entre desarrolladores según su experiencia y preferencias, y se evalúa típicamente mediante métricas como la densidad de comentarios, las convenciones de nomenclatura y la complejidad ciclomática. Los métodos actuales para mejorar la legibilidad, como la ingeniería de prompts, carecen de estabilidad entre modelos y tareas, mientras que el ajuste fino de todos los parámetros (full-parameter fine-tuning) es computacionalmente costoso y requiere una gran cantidad de datos. Además, los enfoques de Ingeniería de Representación (RepE) existentes se dirigen principalmente al control de una sola tarea, fallando al abordar el desafío de coordinar múltiples métricas de legibilidad que podrían interferir entre sí. Existe una brecha crítica en la comprensión y gestión del compromiso (trade-off) entre la mejora de la legibilidad y la preservación de la corrección del código al aplicar un control dirigido.

Metodología
Los autores proponen MRepE (Ingeniería de Representación Multitarea), un marco diseñado para mejorar la legibilidad del código generado por LLM mediante vectores de dirección (steering vectors) multitarea sin actualizar los pesos del modelo. La metodología consta de tres etapas primarias:

1. Preparación de Datos: El marco construye conjuntos de datos contrastivos para tres métricas de legibilidad específicas: densidad de comentarios (CD), convenciones de nomenclatura (NC) y complejidad ciclomática (CC). Para cada métrica, se crean pares de prompts donde un ejemplo satisface la métrica (alta legibilidad) y el otro no (baja legibilidad). Se computan las representaciones de los estados ocultos del modelo para estos pares, y los vectores de diferencia se centran en la media para aislar los cambios de representación asociados con cada métrica.
2. Extracción de Vectores de Dirección (MOC-JPCA): Para abordar la interferencia que ocurre al extraer e inyectar de forma independiente vectores de dirección para múltiples tareas, los autores introducen el algoritmo MOC-JPCA (Análisis de Componentes Principales Conjunto con Restricciones Ortogonales Multidimensionales). A diferencia del PCA estándar, MOC-JPCA estima conjuntamente el primer componente principal para cada métrica bajo la restricción de que todos los vectores de dirección resultantes sean ortogonales entre sí. Esto se logra optimizando una suma ponderada de varianzas proyectadas en una variedad de Stiefel, asegurando que las direcciones de dirección para CD, NC y CC estén desentrelazadas geométricamente y no interfieran mutuamente. Se demuestra que el algoritmo converge a un punto estacionario de primer orden.
3. Inyección de Vectores de Dirección: Durante la inferencia, los vectores ortogonales extraídos se inyectan en capas seleccionadas del LLM. La inyección es aditiva, modificando el estado oculto $h^{(l)}$ mediante una suma ponderada de los vectores de dirección ($v^{(l)}_k = c_k \cdot d^{(l)}_k$), donde $c_k$ representa el coeficiente de fuerza de la dirección. Esto permite el ajuste dinámico del compromiso entre diferentes dimensiones de legibilidad y la preservación de la corrección.

Análisis Teórico
El artículo proporciona un marco teórico para cuantificar el impacto de la dirección multitarea:

• Mejora de la Legibilidad (Teorema 2): Los autores establecen un límite inferior para la mejora en la legibilidad del código. Demuestran que, a medida que aumentan los coeficientes de dirección, la probabilidad de que el modelo genere respuestas positivas a consultas relacionadas con la legibilidad aumenta garantizadamente, limitado por una función de la fuerza de la dirección y el rendimiento inicial del modelo.
• Compromiso de la Corrección (Teorema 3): Por el contrario, los autores derivan un límite superior para el impacto negativo en la corrección del código. El teorema caracteriza cómo la inyección de vectores de dirección de legibilidad influye en la capacidad del modelo para identificar código correcto, demostrando que la degradación en la corrección está acotada y puede controlarse mediante la magnitud de los coeficientes de dirección.

Resultados Experimentales
El marco fue evaluado en tres modelos fundacionales: Deepseek R1 14b, Qwen2.5-Coder 14b Instruct y CodeLlama 13b Instruct, utilizando un conjunto de datos MBPP extendido.

• Desempeño de Legibilidad: Los experimentos demostraron un aumento significativo y estable en la probabilidad de que los modelos proporcionen respuestas positivas a consultas relacionadas con la legibilidad (CD, NC, CC) a medida que aumentaban los coeficientes de dirección. Los resultados empíricos se alinearon estrechamente con los límites inferiores teóricos predichos por el Teorema 2.
• Impacto en la Corrección: A medida que la fuerza de la dirección aumentaba, el desempeño de los modelos en las consultas de corrección de código mostró una tendencia decreciente. Sin embargo, este declive estuvo contenido dentro de los límites superiores teóricos establecidos por el Teorema 3.
• Optimización del Compromiso: El estudio identificó combinaciones específicas de coeficientes que lograron un equilibrio favorable. Por ejemplo, con Deepseek R1 14b, una configuración específica mejoró significamente la legibilidad reduciendo la corrección en solo un 0.79%. Se observaron compromisos controlables similares para los otros modelos, validando la capacidad de ajustar el sistema para necesidades de aplicación específicas.

Contribuciones Clave y Significado
El artículo reclama las siguientes contribuciones:

1. Marco MRepE: Un novedoso marco de dirección multitarea que permite el control coordinado sobre múltiples métricas de legibilidad de código (densidad de comentarios, convenciones de nomenclatura, complejidad ciclomática) sin reentrenar el modelo.
2. Algoritmo MOC-JPCA: Un nuevo algoritmo para la extracción de vectores de dirección que impone ortogonalidad multidimensional, suprimiendo eficazmente la interferencia mutua entre diferentes métricas de legibilidad y proporcionando bases de dirección estables y complementarias.
3. Caracterización Teórica: Un análisis teórico que cuantifica el compromiso entre la legibilidad del código y la corrección, proporcionando límites inferiores para las ganancias de legibilidad y límites superiores para las pérdidas de corrección.
4. Validación Empírica: Experimentos exhaustivos a través de múltiples LLM demostrando que MRepE puede mejorar consistentemente la legibilidad limitando la degradación de la corrección a niveles aceptables.

La importancia de este trabajo radica en su cambio de un control de tarea única hacia un enfoque multitarea para la calidad del código, abordando la naturaleza subjetiva y multidimensional de la legibilidad. Al proporcionar un método ligero y de baja dependencia de datos (RepE) con garantías teóricas sobre el compromiso entre legibilidad y corrección, los autores ofrecen un mecanismo práctico para que los desarrolladores adapten el código generado por LLM a preferencias humanas específicas y requisitos de mantenimiento sin sacrificar la fiabilidad funcional.