Auditing Framing-Sensitive Behavioral Instability in Large Language Models for Mental Health Interactions

Resumen Técnico: Auditoría de la Inestabilidad Conductual Sensible al Encuadre en Modelos de Lenguaje Extensos para Interacciones de Salud Mental

Planteamiento del Problema
Los Modelos de Lenguaje Extensos (LLM, por sus siglas en inglés) se están desplegando cada vez más en aplicaciones de apoyo a la salud mental y otras interacciones conversacionales psicológicamente sensibles. En estos contextos de alto riesgo, la estabilidad y la consistencia conductual son críticas para la confianza y la seguridad del usuario. Sin embargo, los usuarios suelen expresar necesidades subyacentes similares a través de encuadres contextuales muy distintos (por ejemplo, enmarcar la incertidumbre como un problema de documentación frente a una responsabilidad institucional). Si bien investigaciones previas han establecido que los LLM alineados son sensibles al encuadre de los prompts —exhibiendo fenómenos como la sicofancia y comportamientos de seguridad dependientes del contexto—, existe una brecha significativa en la comprensión de cómo estos efectos de encuadre se manifiestan dentro de la estructura representacional interna de los modelos. Específicamente, no está claro si las variaciones conductuales inducidas por el encuadre son meramente artefactos de parafraseo superficial o si corresponden a diferencias sistemáticas en las representaciones de los estados ocultos internos vinculadas a las tendencias de respuesta interpretativa.

Metodología
Los autores proponen un marco de prompts emparejados controlados para aislar los efectos del encuadre contextual de la intención semántica.

• Construcción del Conjunto de Datos: El estudio utiliza 653 grupos de prompts emparejados, cada uno reescrito a través de cinco condiciones de encuadre distintas y no adversariales: Documentación (informes formales), Epistémica (interpretación/resolución de la incertididad), Institucional (restricciones organizacionales), Responsabilidad (riesgo/rendición de cuentas) y Basada en el Rol (guía de apoyo). La intención semántica subyacente permanece constante en todas las variantes.
• Modelos Evaluados: El marco se aplicó a múltiples familias de transformadores ajustados por instrucciones de diversas arquitecturas y escalas, incluyendo Qwen (0.5B, 1.5B), Gemma (2B, 9B), Mistral-7B y Phi (3.5, 4-mini).
• Anotación Conductual: Las respuestas fueron anotadas en cuatro categorías que van desde "Débil/Desvinculada" hasta "Escalada de Interpretación", centrándose en el grado de escalada interpretativa y la calibración del apoyo, en lugar de la corrección factual.
• Análisis de la Representación Interna:
  • Sondeo por Capas: Se entrenaron sondas de regresión logística sobre las activaciones de los estados ocultos de cada capa del transformador para predecir las categorías de respuesta. Esto incluyó sondas de encuadre de reserva (entrenadas en cuatro tipos de encuadre y probadas en el quinto) para evaluar la generalización más allá de plantillas léxicas específicas.
  • Controles: El rendimiento se comparó con controles de etiquetas aleatorias y líneas base léxicas de TF-IDF para distinguir entre pistas léxicas superficiales y señales representacionales profundas.
  • Direccionamiento de Activación: Utilizando la Adición de Activación Contrastiva (CAA, por sus siglas en inglés), los autores extrajeron direcciones de direccionamiento a partir de la diferencia entre los estados de "apoyo-restringido" y de "mayor interpretación". Estas direcciones se restaron de los estados ocultos durante la inferencia para probar si la modulación de las representaciones internas podía alterar causalmente los resultados conductuales posteriores.

Resultos Clave

• Modulación Conductual: El encuadre contextual altera sistemáticamente las tendencias de respuesta interpretativa en todas las arquitecturas probadas. El encuadre de Documentación produjo consistentemente las tasas más altas de escalada interpretativa (por ejemplo, alcanzando 0.63 en Gemma-9B), mientras que el encuadre Institucional tendió a estabilizar o suprimir la escalada. Estos cambios ocurrieron a pesar de tener intenciones semánticas idénticas.
• Decodificabilidad Representacional: La información asociada al comportamiento es decodificable de los estados ocultos a lo largo de la profundidad del transformador.
  • Generalización de Reserva: Las sondas entrenadas en condiciones de encuadre específicas se mantuvieron consistentemente por encima del azar (precisión equilibrada ~0.72–0.83) cuando se probaron en categorías de encuadre no vistas, lo que sugiere que las señales asociadas al comportamiento generalizan parcialmente más allá de las plantillas exactas de entrenamiento.
  • Léxico vs. Representacional: Aunque las líneas base léxicas de TF-IDF lograron una precisión absoluta mayor (0.89–0.94), lo que indica una fuerte contribución de las pistas de encuadre superficiales, el rendimiento de las sondas de reserva por encima del azar sugiere que la señal no es totalmente reducible al emparejamiento léxico.
  • Distribución de Profundidad: La decodificabilidad de las señales de encuadre está distribuida en múltiples capas del transformador en lugar de estar confinada a una única capa de "emergencia", aunque la estabilidad y la magnitud de esta señal varían según la arquitectura.
• Intervención mediante Direccionamiento: Los experimentos de direccionamiento de activación demostraron que las direcciones representacionales asociadas al encuadre pueden modular parcialmente las tendencias de respuesta posteriores. Un direccionamiento de fuerza moderada redujo las tasas de enrutamiento interpretativo en varios modelos (notablemente Mistral-7B y Qwen-1.5B) sin causar una degradación catastrófica en la calidad de la respuesta. Sin embargo, los efectos fueron no lineales y dependientes de la arquitectura, mostrando algunos modelos efectos de rebote con fuerzas de direccionamiento más altas.

Significancia y Reivindicaciones
El artículo argumenta que la robustez del encuadre es una dimensión crítica, aunque a menudo pasada por alto, de la evaluación de la IA confiable, particularmente en interacciones de salud mental. Los hallazgos indican que:

1. La consistencia no está garantizada: Preocupaciones semánticamente similares pueden provocar comportamientos interpretativos sistemáticamente diferentes basándose únicamente en el encuadre contextual, desafiando las expectativas del usuario sobre la fiabilidad del sistema.
2. Mecanismos Internos: Estas inestabilidades conductuales se reflejan en la organización representacional interna de los modelos, no solo en las variaciones superficiales de la salida.
3. Controlabilidad Parcial: Si bien el direccionamiento de la activación ofrece evidencia preliminar de que estas tendencias pueden intervenirse, la naturaleza no lineal y específica de la arquitectura de los efectos sugiere que la calibración conductual es un fenómeno distribuido en lugar de un simple estado de política lineal.

Los autores concluyen que auditar la estabilidad conductual frente a la variación contextual es esencial para el despliegue de la IA conversacional en dominios sensibles. Posicionan este trabajo como un paso hacia el desarrollo de sistemas más transparentes y conductualmente calibrados, enfatizando que la investigación futura debe investigar cómo estas sensibilidades al encuadre impactan la confianza y la dependencia del usuario a largo plazo en entornos del mundo real.