Indic-TunedLens: Interpreting Multilingual Models in Indian Languages

1. El Problema

A pesar del despliegue creciente de Modelos de Lenguaje Grandes (LLM) multilingües en regiones lingüísticamente diversas como la India, la mayoría de las herramientas de interpretabilidad están diseñadas exclusivamente para el inglés. El trabajo identifica varios problemas críticos:

• Espacios de representación centrados en inglés: Los LLMs multilingües tienden a operar en un espacio latente centrado en el inglés, incluso cuando generan texto en otros idiomas. Esto significa que el razonamiento semántico clave a menudo se sesga hacia representaciones inglesas antes de traducirse al idioma objetivo.
• Fallo de generalización de métodos existentes: Técnicas como el Logit Lens o el Tuned Lens estándar, que decodifican directamente las activaciones intermedias usando la matriz de desincrustación (unembedding) preentrenada, fallan al generalizarse a idiomas con estructuras lingüísticas diversas, morfología rica y recursos limitados (como los idiomas indios).
• Desafíos específicos de los idiomas indios: La gran diversidad de scripts (ej. Devanagari, Gurmukhi), la morfología rica (flexión compleja) y el orden de las palabras flexible en idiomas como el hindi o el punjabi crean una "mismatch" (desajuste) de proyección. Las herramientas centradas en el inglés no logran alinear los estados ocultos intermedios con las distribuciones de salida de estos idiomas, resultando en predicciones intermedias inestables y poco fiables.

2. Metodología: Indic-TunedLens

Los autores proponen Indic-TunedLens, un marco de interpretabilidad diseñado específicamente para idiomas indios que supera las limitaciones de los enfoques anteriores mediante el aprendizaje de transformaciones afines compartidas.

• Transformación Afín: A diferencia del Logit Lens estándar que usa la matriz de salida del modelo directamente, Indic-TunedLens aprende una transformación afín específica para cada capa del transformador. Para una capa $n$ y un estado oculto $h_n$, se aplica:
  $$\tilde{h}_n = M_n h_n + b_n$$
  Donde $M_n$ es una matriz y $b_n$ es un vector de sesgo aprendidos. Esta representación transformada se pasa a la cabeza de logits del modelo para obtener una distribución sobre el vocabulario.
• Objetivo de Aprendizaje: El modelo se entrena para reproducir las predicciones de la capa final del modelo base. Se minimiza la divergencia de Kullback-Leibler (KL) entre la distribución de probabilidad de la capa final del modelo base ($p_{final}$) y la distribución generada por el lente en la capa intermedia $n$.
• Entrenamiento y Datos:
  • Modelo Base: Se utiliza el modelo Sarvam-1.
  • Idiomas: Se entrenó y evaluó en 10 idiomas indios (Bengalí, Inglés, Gujarati, Hindi, Kannada, Malayalam, Marathi, Punjabi, Nepali, Tamil y Telugu).
  • Datos: Se utilizó el conjunto de datos Sangraha para el entrenamiento y una versión adaptada del benchmark MMLU multilingüe para la evaluación.
  • Enfoque: Se entrena una sola transformación afín para aprender representaciones compartidas, pero alineadas con las distribuciones de salida específicas de los idiomas indios.

3. Contribuciones Clave

1. Identificación del problema de proyección: Demuestran que el fallo de interpretabilidad en idiomas indios es fundamentalmente un problema de proyección, no de falta de información en los estados ocultos.
2. Marco específico para idiomas indios: Presentan el primer trabajo que aplica la interpretabilidad capa por capa a LLMs multilingües para idiomas indios, proponiendo Indic-TunedLens como solución.
3. Evaluación exhaustiva: Realizan una evaluación completa en el modelo Sarvam-1 utilizando un benchmark multilingüe, demostrando mejoras significativas sobre los métodos SOTA (State-of-the-Art).
4. Análisis de dinámicas de razonamiento: Revelan dinámicas de razonamiento específicas por capa y posición de token, mostrando cómo se construye el significado en diferentes idiomas indios.

4. Resultados Principales

La evaluación comparativa contra el Logit Lens estándar y el Tuned Lens centrado en inglés muestra mejoras sustanciales:

• Mejora en la alineación temprana: Mientras que el Logit Lens estándar muestra una precisión casi nula en las primeras capas (0-15) y solo mejora significativamente después de la capa 20, Indic-TunedLens logra una interpretabilidad significativa desde la capa 1.
  • Ejemplo: En inglés, la precisión inicial es de 0.13; en Telugu y Gujarati, 0.11 y 0.10 respectivamente, manteniendo una consistencia robusta en las capas medias.
• Reducción de entropía y consolidación de información: Los mapas de calor de entropía muestran que Indic-TunedLens reduce la incertidumbre de manera más suave y coherente a través de las capas. En contraste, el enfoque centrado en inglés muestra patrones fragmentados y alta entropía, indicando una mala alineación con las estructuras lingüísticas indias.
• Patrones específicos por idioma:
  • Los idiomas con morfología rica (Bengalí, Hindi, Nepali) muestran las mayores mejoras en las primeras capas (1-4), correspondientes a la fase de análisis morfológico.
  • El inglés muestra mejoras concentradas en la capa 1, reflejando su morfología analítica.
  • Esto sugiere que el análisis morfológico y la composición semántica temprana ocurren en capas más profundas en los modelos para idiomas indios si no se usa un lente adaptado.
• Posicionamiento de tokens correctos: Indic-TunedLens coloca los tokens correctos en rangos más altos (mejor ranking) a lo largo de todas las capas en comparación con el Logit Lens. Por ejemplo, el hindi mejora su posicionamiento de rango de 4.5-5 en capas tempranas a 3.5-4.0 en capas tardías, mientras que el Logit Lens mantiene rangos peores hasta el final.
• Precisión dependiente de la posición: El modelo captura con éxito la trayectoria de razonamiento, mostrando picos de precisión en las posiciones de los tokens de respuesta, adaptándose a las diferencias en esquemas de tokenización y complejidad morfológica.

5. Significado e Impacto

• Cierre de la brecha de interpretabilidad: El trabajo demuestra que la interpretabilidad no puede ser "agnóstica al idioma". Las técnicas deben adaptarse a las diferencias tipológicas (morfología, estructura sintáctica) para ser efectivas.
• Herramienta para el desarrollo de IA responsable: Proporciona una herramienta crucial para entender cómo los modelos procesan idiomas indios, facilitando el desarrollo de sistemas de IA más equitativos, confiables y transparentes en regiones multilingües.
• Insights sobre la arquitectura de modelos: Revela que el cuello de botella en la interpretabilidad de idiomas no ingleses no es el procesamiento interno del modelo, sino el mecanismo de proyección hacia el espacio de vocabulario.
• Reproducibilidad: El código y los modelos están disponibles públicamente, fomentando futuras investigaciones en la interpretabilidad de LLMs para idiomas de recursos limitados.

En resumen, Indic-TunedLens es un avance fundamental que permite "ver" dentro de los LLMs multilingües de manera fiel para los idiomas indios, corrigiendo el sesgo hacia el inglés y permitiendo un análisis granular de cómo se construye el significado capa por capa en estas lenguas complejas.