Resumen Técnico: Equipo MKC en CLPsych 2026

Planteamiento del Problema

El artículo aborda el desafío de capturar y caracterizar los cambios en la salud mental a través de las líneas de tiempo en redes sociales, una tarea crítica dada la prevalencia mundial de los trastornos de salud mental y la accesibilidad limitada de la atención profesional. Aunque los Modelos de Lenguaje de Gran Escala (LLMs) han mostrado potencial en dominios generales, su aplicación a la psicología clínica se ve obstaculizada por la escasez de datos de entrenamiento debido a las preocupaciones de privacidad. Los autores se centran en la tarea compartida CLPsych 2026, que utiliza un conjunto de datos introducido por Tsakalidis et al. (2022b) para identificar "Momentos de Cambio" (MOC, por sus siglas en inglés)—puntos temporales donde los cambios en el estado de ánimo de un usuario se vuelven observables. El problema central involucra un flujo de trabajo de cinco tareas interrelacionadas:

1. Evaluación a nivel de publicación (Post-level): Clasificación de los subelementos ABCD y los estados del yo (adaptativos/maladaptativos) para publicaciones individuales.
2. Agregación a nivel de usuario: Estimación de la tasa de presencia de cada estado mental a lo largo de la historia de un usuario.
3. Modelado Temporal: Identificación de "Cambios bruscos" (Switches) y "Escaladas" (Escalations, intensificaciones graduales) en publicaciones ordenadas cronológicamente.
4. Resumen (Summarization): Generación de resúmenes de los eventos de cambio.
5. Extracción de Patrones: Detección de firmas dinámicas recurrentes de mejora y deterioro.

Un obstáculo técnico significativo identificado es el severo desequilibrio de clases y la escasez de datos dentro del conjunto de datos, donde algunas subdimensiones contienen solo una instancia de entrenamiento o ninguna.

Metodología

Los autores proponen un flujo de trabajo unificado de cinco pasos basado en LLMs, diseñado para integrar la evaluación a nivel de publicación con el modelado temporal a nivel de usuario.

Paso 1: Clasificación a nivel de publicación

El sistema clasifica 12 objetivos independientes por publicación (6 subdimensiones para estados adaptativos y 6 para maladaptativos).

• Arquitectura: Qwen3-4B-Embedding (Qwen Embed) sirve como extractor de características, ajustado mediante LoRA.
• Estrategia de Entrenamiento: Los embeddings se introducen en 12 clasificadores independientes entrenados con pérdida de Entropía Cruzada (Cross-Entropy). Para abordar el desequilibrio de clases, los autores emplean ponderación de frecuencia inversa (limitada a un máximo de 10 para evitar la inestabilidad) y una estrategia de validación cruzada de 5 pliegues (5-fold) con ensamble.

Paso 2: Calificación de la Presencia del Estado del Yo

Este paso predice puntuaciones numéricas (escala Likert de 1 a 5) para los estados del yo adaptativos y maladaptativos.

• Arquitectura: Predictores dedicados regresan valores escalares a partir de los embeddings del Paso 1.
• Estrategia de Entrenamiento: Los modelos utilizan una pérdida Huber ponderada, donde los pesos se derivan de la frecuencia inversa de los intervalos de puntuación. La salida se escala al rango [1, 5]. Al igual que en el Paso 1, se utiliza un ensamble de validación cruzada de 5 pliegues.

Paso 3: Detección de Momentos de Cambio (MOC)

Este paso detecta dos tipos de transición: Cambio brusco (Switch, cambio repentino entre publicaciones consecutivas) y Escalada (Escalation, intensificación gradual).

• Arquitectura: Qwen Embed es ajustado con LoRA, conectado a dos clasificadores lineales independientes.
• Entrada: Una ventana deslizante de tamaño 2 (publicaciones en $t-1$ y $t$) para predecir transiciones en el tiempo $t$.
• Estrategia de Entrenamiento: Entropía Cruzada Binaria con ponderación de clase adaptativa y un ensamble de validación cruzada de 5 pliegues. Los autores señalan que los modelos más grandes (8B) sufren sobreajuste en el pequeño conjunto de datos (~500 muestras), lo que los llevó a preferir el modelo de 4B.

Paso 4: Resumen de Secuencias

El objetivo es generar un resumen en lenguaje natural de la secuencia completa, incorporando las anotaciones de los pasos anteriores.

• Arquitectura: Ajuste Fino Supervisado (SFT) en Qwen3.5-4B y Qwen3-4B-Instruct utilizando LoRA.
• Inferencia: El modelo toma las predicciones de los Pasos 1–3 como entrada en lugar de la verdad de campo (ground truth), simulando fielmente la configuración del flujo de trabajo.
• Desafío: Los autores observaron que el ajuste fino en este pequeño conjunto de datos a veces degradaba el rendimiento en comparación con el prompting de disparo cero (zero-shot), probablemente debido a la propagación de ruido y a que el modelo sobrescribe el conocimiento preentrenado.

Paso 5: Extracción de Firmas Dinámicas

Este paso final analiza cómo interactúan los componentes del estado del yo a través de las secuencias para identificar patrones recurrentes de deterioro y mejora.

• Enfoque: Un enfoque de disparo cero (zero-shot) utilizando Qwen3.5-9B.
• Proceso: Para evitar errores de Memoria Fuera de Uso (Out-of-Memory), las secuencias se dividen en grupos para extraer las firmas, las cuales son posteriormente resumidas.

Resultados Clave

• Pasos 1 y 2 (Clasificación y Regresión): En el conjunto de validación, la ponderación adaptativa mejoró consistentemente el rendimiento para el Paso 1. Sin embargo, para el Paso 2, los modelos sin ponderación funcionaron mejor. En el conjunto de prueba, el ensamble de K-pliegues (K-fold ensembling) proporcionó mejoras claras sobre las líneas base de un solo modelo para ambos pasos, atribuido a la utilización más completa de los datos de entrenamiento.
• Paso 3 (Detección de MOC): El modelo Qwen3-4B superó a la variante 8B, confirmando que los modelos más grandes sufren sobreajuste en el limitado conjunto de datos. El ensamble de K-pliegues aumentó aún más la puntuación F1 a 0.55.
• Paso 4 (Resumen): Los modelos ajustados (Qwen3.5-4B y Qwen3-4B) rendimiento inferior respecto a la línea base de disparo cero en términos de consistencia y puntuaciones de contradicción. Los autores atribuyen esto al ruido de los pasos precedentes y al riesgo de que el ajuste fino borre el conocimiento preentrenado.
• Paso 5 (Firmas): El enfoque de disparo cero arrojó puntuaciones de 0.7266 para Mejora y 0.2301 para Deterioro.

Significancia y Contribuciones

El artículo presenta un flujo de trabajo integral que unifica la evaluación a nivel de publicación y el modelado temporal a nivel de usuario para el análisis de la salud mental. Sus principales contribuciones incluyen:

1. Marco Unificado: Un sistema cohesivo que maneja desde la clasificación granular de publicaciones hasta la extracción de patrones temporales de alto nivel.
2. Robustez ante el Desequilibrio: El uso efectivo de la ponderación de frecuencia inversa y el ensamble de K-pliegues para mitigar el severo desequilibrio de clases y la escasez de datos inherentes a los conjuntos de datos de salud mental.
3. Perspectivas Empíricas sobre el Escalado de Modelos: El estudio destaca que, en dominios de bajos recursos y alto ruido, los modelos más pequeños (4B) combinados con estrategias de ensamble pueden superar a los modelos más grandes (8B) que son propensos al sobreajuste.
4. Advertencia sobre el Ajuste Fino: Los resultados sugieren que en entornos de recursos extremadamente limitados, el prompting de disparo cero puede ser superior al ajuste fino, ya que este último corre el riesgo de sobrescribir el valioso conocimiento preentrenado.

Limitaciones y Trabajo Futuro

Los autores reconocen limitaciones significativas, principalmente la escasez de datos de entrenamiento (aprox. 500 muestras) y el resultante desequilibrio de clases. Señalan que algunas subdimensiones tenían datos insuficientes para un aprendizaje fiable.

• Solución Propuesta: Los autores sugieren utilizar LLMs para generar publicaciones de usuarios sintéticas para las subdimensiones subrepresentadas, con el fin de crear un conjunto de datos más equilibrado.
• Consideraciones Éticas: El artículo enfatiza que este flujo de trabajo es un artefacto de investigación, no una herramienta de diagnóstico. Advierte sobre los riesgos de falsos positivos/negativos en entornos clínicos y las complejidades éticas de generar datos sintéticos sobre temas sensibles como las autolesiones, abogando por la revisión de expertos clínicos antes de que cualquier tipo de estos datos se utilice para el entrenamiento.