CARE: Counselor-Aligned Response Engine for Online Mental-Health Support

1. El Problema

El aumento global de los desafíos de salud mental ha generado una demanda sin precedentes de servicios de apoyo emocional en línea, especialmente en líneas de crisis y prevención del suicidio. Esto ha llevado a una sobrecarga de los consejeros, quienes a menudo deben gestionar múltiples conversaciones simultáneas en contextos de alto riesgo (como ideación suicida).

Los desafíos principales identificados son:

• Retrasos en la respuesta: En situaciones críticas, la demora puede poner en peligro la vida del solicitante.
• Limitaciones de los LLMs generales: Aunque los Modelos de Lenguaje Grande (LLMs) son fluidos, tienden a generar respuestas genéricas, de validación superficial o consejos directivos que no se alinean con las estrategias de lenguaje de apoyo y los protocolos de intervención en crisis utilizados por organizaciones profesionales.
• Brecha en idiomas de bajos recursos: Existe una falta significativa de investigación y adaptación de LLMs para idiomas como el hebreo y el árabe en dominios sensibles como la salud mental, donde las matices culturales y lingüísticos son cruciales.

2. Metodología

El equipo propone CARE (Counselor-Aligned Response Engine), un marco de IA generativa diseñado para asistir a los consejeros mediante la generación de recomendaciones de respuesta en tiempo real, alineadas psicológicamente.

A. Datos y Dominio

• Fuente de datos: Se utilizó el corpus de la organización Sahar, una línea de chat nacional de prevención del suicidio que atiende a comunidades de habla hebrea y árabe.
• Selección de datos: Se filtraron conversaciones de alto impacto clínico. Solo se utilizaron sesiones con una puntuación de Eficacia del Voluntario (VED) de 4 o 5 (escala 1-5), indicando una desescalada exitosa.
  • Hebreo: 800 sesiones de entrenamiento (12,100 muestras) y 200 de prueba.
  • Árabe: 800 sesiones de entrenamiento (9,970 muestras) y 200 de prueba.
• Privacidad: Se aplicó un proceso de anonimización de dos niveles (paquetes especializados como HebSafeHarbor para hebreo y modelos NER como CAMeLBERT para árabe) para eliminar información de identificación personal (PHI).

B. Arquitectura del Modelo y Entrenamiento

• Modelo Base: Se fine-tuneó el modelo de código abierto Gemma-3-12B-it.
• Enfoque de Entrenamiento: Se utilizó Fine-Tuning Supervisado (SFT) sobre historias completas de conversación.
  • A diferencia de los enfoques que resumen el contexto, CARE entrena al modelo con el historial completo del diálogo hasta el punto de intervención del consejero.
  • Función de Pérdida Enmascarada: La pérdida se calcula únicamente sobre los tokens de la respuesta del consejero, ignorando las entradas del solicitante. Esto obliga al modelo a aprender los patrones de lenguaje de apoyo y las estrategias de desescalada específicas, en lugar de predecir la conversación general.
• Técnicas de Optimización: Se empleó LoRA (Low-Rank Adaptation) con rank $r=8$ y factor de escala $\alpha=8$ para un entrenamiento eficiente en memoria (usando una sola GPU RTX 4090).

C. Inferencia

En la fase de inferencia, el modelo recibe el historial completo del diálogo y un prompt del sistema específico para el idioma (hebreo o árabe) que codifica los valores de Sahar: empatía, escucha activa, validación emocional y evitación de diagnósticos clínicos.

3. Contribuciones Clave

1. CARE: El primer marco de IA generativa diseñado específicamente para alinear LLMs con las estrategias de consejería profesional en crisis en idiomas hebreo y árabe.
2. Fine-Tuning de Historia Completa: Demostración de que entrenar sobre historiales completos de diálogo permite al modelo internalizar patrones de interacción longitudinal y estrategias de apoyo sin necesidad de etiquetas explícitas de estrategia.
3. Métrica SIM (Support Intent Match): Introducción de una nueva métrica para evaluar la alineación entre la estrategia de intervención propuesta por el modelo (ej. Reflexión, Sugerencia, Pregunta) y la estrategia utilizada por el consejero humano experto.
4. Adaptación Lingüística y Cultural: Validación de que la adaptación específica de dominio es esencial para superar la brecha cultural y táctica en idiomas de bajos recursos, superando a los modelos generales.

4. Resultados

El modelo CARE se comparó contra modelos base no adaptados (Gemma-3-12B-it, Llama-3.1-8B-it, Qwen3-14B) utilizando métricas semánticas, léxicas y estratégicas.

• Alineación Estratégica (SIM): CARE superó significativamente a los baselines.
  • Hebreo: 0.53 vs. baselines inferiores.
  • Árabe: 0.74 vs. baselines inferiores.
  • Nota: Esto se logró sin etiquetas de estrategia explícitas en el entrenamiento, demostrando aprendizaje implícito.
• Similitud Semántica y Léxica:
  • BERTScore: Mejoras significativas en la alineación semántica con las respuestas de oro.
  • ROUGE: En hebreo, el ROUGE-2 aumentó casi 9 veces (de 0.0123 a 0.1109). En árabe, el ROUGE-1 se duplicó y el ROUGE-2 mostró una mejora de casi 5 veces.
  • BLEU: En árabe, la puntuación BLEU de CARE (20.44) fue más de 20 veces superior a la de los modelos base, indicando una precisión léxica y fluidez muy superior.
• Perplejidad de Lenguaje de Apoyo (PPL): CARE obtuvo la perplejidad más baja en ambos idiomas (3.33 en hebreo, 2.63 en árabe), lo que indica que su estilo de lenguaje es mucho más similar al tono validante y reflexivo de los consejeros humanos que el de los modelos generales.
• Significancia Estadística: Las pruebas de rangos con signo de Wilcoxon (con corrección Holm) confirmaron que las diferencias de rendimiento son altamente significativas ($p \approx 0$) en todas las dimensiones y lenguajes.

5. Significado e Impacto

• Soporte al Flujo de Trabajo: CARE no reemplaza al consejero, sino que actúa como una herramienta de soporte a la decisión en tiempo real, reduciendo la carga cognitiva y los tiempos de respuesta en situaciones críticas.
• Calidad de la Atención: Al generar respuestas que imitan la "lengua de apoyo" profesional, el sistema ayuda a mantener la alianza terapéutica y previene la desvinculación del solicitante.
• Avance en Idiomas de Bajos Recursos: El trabajo demuestra que la adaptación específica de dominio es crucial para la salud mental en idiomas como el hebreo y el árabe, donde los modelos generales fallan en capturar matices culturales y protocolos clínicos.
• Ética y Seguridad: El sistema está diseñado bajo un marco de "humano en el bucle", asegurando que la responsabilidad final y la agencia de la respuesta recaigan siempre en el consejero humano capacitado.

En conclusión, el estudio valida que el fine-tuning específico de dominio sobre historiales completos de conversaciones de crisis permite a los LLMs internalizar patrones de intervención profesional, cerrando la brecha entre la IA generativa general y las necesidades clínicas reales en contextos de alta presión.