Resumen Técnico: Análisis de las Representaciones de Autolesión en Modelos de Lenguaje

Declaración del Problema

La detección de contenido de autolesión en redes sociales es una tarea de alto riesgo que requiere una alta precisión para facilitar la intervención oportuna y el marcado de usuarios en riesgo. Aunque se han desarrollado sistemas de detección automatizada utilizando LSTMs, transformadores basados en BERT y LLMs para la moderación de contenido y el monitoreo de la salud mental, persiste una brecha significativa en la comprensión de la mecánica interna de estos modelos. Específicamente, existe un conocimiento limitado sobre:

• Dónde se "cristalizan" los conceptos de autolesión dentro de la red.
• La estabilidad geométrica de estas representaciones a través de las capas.
• Si la representación estructural de la autolesión es consistente entre diferentes arquitecturas y escalas.

Los autores argumentan que comprender estas representaciones internas es crucial para construir sistemas más seguros que vayan más allá de la ingeniería de prompts para incluir componentes explícitos y testeables para la intervención y la gobernanza.

Metodología

El estudio emplea un análisis trans-arquitectura utilizando dos conjuntos de datos y cuatro modelos de transformadores ajustados por instrucciones.

Conjuntos de Datos:

1. X-Sensitive (X-S): Un corpus multietiqueta de publicaciones de redes sociales en inglés anotadas para seis categorías. Los autores extrajeron 200 publicaciones positivas para autolesión y 200 de control (todas las categorías en cero).
2. SH-Detection (SH-D): Un conjunto de datos binario donde las publicaciones de autolesión se etiquetan como "autolesión" (self-harm) y todas las demás sirven como controles. Se muestreó un conjunto equilibrado de 600 publicaciones.
   El preprocesamiento incluyó la eliminación de publicaciones de menos de 20 caracteres, la eliminación de URLs, la colapsación de espacios en blanco y la anonimización de menciones.

Modelos:
Se analizaron cuatro transformadores ajustados por instrucciones:

• Qwen3-0.6B (0.6B de parámetros, 28 capas)
• Llama 3.2-1B-Instruct (1B de parámetros, 16 capas)
• Llama 3.2-3B-Instruct (3B de parámetros, 28 capas)
• Gemma-3-4B-it (4B de parámetros, 34 capas)

Configuración Experimental:

1. Sondeo por Capas (Layer-wise Probing): Para cada capa $\ell$, los autores extrajeron las activaciones del flujo residual del último token ($a_\ell$). Entrenaron un sondeo de regresión logística con regularización $\ell_2$ utilizando validación cruzada estratificada de 5 pliegues. La métrica principal fue el promedio de ROC-AUC, reportado sin normalización previa de las activaciones.
2. Análisis de Dirección Contrastiva: Siguiendo a Zou et al. (2023), los autores computaron un vector de dirección de autolesión contrastiva $d_\ell$ en cada capa como la diferencia normalizada entre las medias de las activaciones de las publicaciones de autolesión ($\bar{a}^+$) y las de control ($\bar{a}^-$).
   • Separabilidad: Medida mediante la $d$ de Cohen en las proyecciones escalares de las publicaciones sobre $d_\ell$ en la capa de mejor separación.
   • Estabilidad: Evaluada mediante una matriz de similitud de coseno de pares $L \times L$ de los vectores de dirección para determinar si la dirección permanece constante o rota a través de la profundidad de la red.

Resultados Clave

1. Cristalización de los Conceptos de Autolesión
En los cuatro modelos y ambos conjuntos de datos, la información de autolesión se cristaliza consistentemente en el último 3–7% de las capas de la red (del 93% al 97% de profundidad).

• Rendimiento: En el conjunto de datos SH-Detection, todos los modelos alcanzaron un alto rendimiento (AUC 0.923 a 0.972) con menor varianza en comparación con X-Sensitive. En X-Sensitive, el rendimiento fue menor (AUC 0.703 a 0.817), probablemente debido a la presencia de lenguaje figurativo y ejemplos negativos más sutiles en ese corpus.
• Análisis de Errores: Los falsos negativos a menudo involucraron lenguaje figurativo/metafórico o contextos en tercera persona. Los falsos positivos fueron frecuentemente publicaciones de defensa de la salud mental o advertencias de contenido que utilizaban vocabulario relacionado con crisis sin transmitir angustia en primera persona.

2. Separabilidad Geométrica vs. Precisión de Clasificación
Un hallazgo crítico es que los sondeos lineales más precisos no son necesariamente los más linealmente separables en términos de direcciones de diferencia de medias.

• Anomalía de Gemma-3-4B: Gemma-3-4B logró el AUC de sondeo más alto en X-Sensitive (0.817) pero la $d$ de Cohen más baja (0.71) entre los modelos.
• Interpretación: Los autores sugieren que la señal de autolesión de Gemma no está concentrada en una sola dirección, sino que está distribuida en el espacio de activación. Un sondeo lineal puede encontrar un hiperplano que explote esta señal distribuida, mientras que una simple dirección de diferencia de medias (Cohen's $d$) no logra capturar la separación completa.
• Divergencia: En Llama 3.2-3B, la dirección contrastiva alcanzó su pico de separabilidad (Cohen's $d$) en la capa 14, mucho antes de las capas finales donde el AUC del sondeo continuó aumentando, lo que indica que las direcciones de la mitad de la red pueden ser potentes pero insuficientes para una clasificación precisa por sí solas.

3. Estabilidad Direccional
La dirección contrastiva de la autoleción no es estable a través de la profundidad de la red.

• Estructura Diagonal de Bloque: Las capas adyacentes muestran una alta alineación (similitud de coseno 0.76–0.92), pero las direcciones de los dos tercios iniciales y finales de la red son casi ortogonales (similitud de coseno 0.14–0.38).
• Implicación: El concepto de autolesión se representa dinámicamente a medida que pasa a través de la red; una dirección extraída en una capa temprana no se transfiere a las capas tardías. Gemma-3-4B exhibió la similitud de coseno entre capas más baja (0.135) en SH-D.

Significancia y Reivindicaciones

El artículo afirma que sus hallazgos allanan el camino para estrategias de intervención más efectivas al revelar la geometría interna de los embeddings relevantes para la seguridad. Específicamente:

• Ingeniería de Representación: El estudio respalda el uso de la ingeniería de representación para comprender los internos del modelo, yendo más allá de la detección de caja negra hacia componentes explícitos y testeables.
• Diferencias de Arquitectura: Los resultados resaltan que diferentes modelos (por ejemplo, Gemma frente a Llama) pueden representar los mismos conceptos de seguridad (autolesión) de maneras estructuralmente diferentes (señales concentradas frente a distribuidas), lo que tiene implicaciones sobre cómo los mecanismos de seguridad podrían necesitar adaptarse a arquitecturas específicas.
• Impacto de la Calidad de los Datos: La brecha sistemática de rendimiento entre los conjuntos de datos X-Sensitive y SH-Detection sugiere que la calidad del etiquetado y la composición del corpus afectan significativamente la calidad de la representación, un factor que debe considerarse al entrenar o evaluar modelos de seguridad.

Los autores concluyen que, si bien los conceptos de autolesión se cristalizan consistentemente en las capas tardías, la naturaleza geométrica de estas representaciones es compleja y específica de cada modelo, desafiando la suposición de que existe una única y estable "dirección de seguridad" a través de todas las capas y arquitecturas.