CARE: Counselor-Aligned Response Engine for Online Mental-Health Support

1. Problema e Motivação

O suporte de saúde mental online enfrenta uma demanda crescente globalmente, levando a uma sobrecarga dos conselheiros voluntários. Em situações críticas, como ideação suicida, atrasos nas respostas ou a falta de uma linguagem de suporte adequada podem comprometer a segurança do solicitante.

• Limitações dos Modelos Atuais: Embora os Grandes Modelos de Linguagem (LLMs) generativos sejam fluentes, eles tendem a produzir respostas genéricas, de "reasseguramento superficial" ou conselhos diretos que não estão alinhados com as estratégias de intervenção em crise praticadas por organizações profissionais.
• Lacuna em Baixos Recursos: A aplicação desses modelos em idiomas de baixos recursos (especificamente Hebraico e Árabe) e em domínios sensíveis como a saúde mental permanece pouco explorada.
• Falta de Alinhamento: Modelos gerais não conseguem replicar o estilo conversacional empático, validante e estrategicamente orientado (como "Reflexão", "Sugestão" ou "Incentivo") utilizado por conselheiros treinados.

2. Metodologia: O Framework CARE

O CARE (Counselor-Aligned Response Engine) é um sistema baseado em GenAI projetado para auxiliar conselheiros, gerando recomendações de resposta em tempo real alinhadas psicologicamente.

A. Dados e Domínio

• Fonte: O sistema foi treinado no corpus do Sahar, uma linha de chat nacional de prevenção ao suicídio que atende comunidades falantes de hebraico e árabe.
• Seleção de Dados: Utilizou-se um subconjunto curado de conversas de crise (30.232 sessões em hebraico e 2.376 em árabe). Apenas sessões avaliadas como altamente eficazes (pontuação de 4 ou 5 na Dimensão de Eficácia do Voluntário - VED) foram selecionadas para treinamento.
• Privacidade: Os dados passaram por um processo rigoroso de anonimização de duas camadas (usando HebSafeHarbor para hebraico e modelos NER baseados em CAMeLBERT para árabe) para remover informações de saúde protegidas (PHI).

B. Arquitetura e Treinamento

• Modelo Base: Fine-tuning do modelo de código aberto Gemma-3-12B-it.
• Abordagem de Treinamento:
  • Histórico Completo: Diferente de abordagens que usam apenas o último turno, o CARE é treinado em histórias completas de conversação. Isso permite que o modelo capture a evolução emocional e a estrutura dinâmica do diálogo.
  • Loss Mascaramento (Masked Loss): O modelo é penalizado apenas nas previsões dos tokens de resposta do conselheiro, ignorando as mensagens do solicitante. Isso força o modelo a aprender padrões específicos de linguagem de suporte e estratégias de desescalada, em vez de apenas prever o próximo token de qualquer fala.
  • Técnicas: Utilização de LoRA (Low-Rank Adaptation) e o framework Unsloth para otimização de memória, permitindo o treinamento em uma única GPU (RTX 4090).
• Inferência: O modelo recebe o histórico completo do diálogo e um prompt de sistema específico que codifica os valores da organização (empatia, não julgamento, segurança).

3. Contribuições Principais

1. Primeira Adaptação Específica de Domínio: É o primeiro trabalho a realizar fine-tuning generativo em larga escala de um modelo LLM para diálogos de prevenção ao suicídio em Hebraico e Árabe.
2. Alinhamento Estratégico Implícito: Demonstra que é possível ensinar a um modelo a selecionar estratégias de aconselhamento apropriadas (Reflexão, Sugestão, Incentivo) sem rótulos explícitos de estratégia durante o treinamento, apenas através da exposição a trajetórias de diálogo de alta qualidade.
3. Nova Métrica de Avaliação (SIM): Introdução do Support Intent Match (SIM), uma métrica que quantifica o alinhamento entre a estratégia de intervenção inferida pelo modelo e a usada pelo conselheiro humano, superando a simples similaridade semântica.
4. Validação em Idiomas de Baixos Recursos: Prova que a adaptação de domínio é crucial para superar as limitações de modelos gerais em contextos culturais e linguísticos específicos.

4. Resultados Experimentais

O CARE foi comparado com modelos base não adaptados (Gemma-3-12B-it, Llama-3.1-8B-it, Qwen3-14B) usando métricas semânticas, lexicais e clínicas.

• Alinhamento Estratégico (SIM): O CARE superou significativamente os baselines.
  • Hebraico: 0.53 (vs. baselines inferiores).
  • Árabe: 0.74.
  • Isso indica que o modelo aprendeu implicitamente quando e como usar intervenções clínicas específicas.
• Similaridade Semântica e Lexical:
  • BERTScore: Aumento significativo, indicando que o significado subjacente das respostas do CARE está mais próximo dos conselheiros humanos.
  • ROUGE: O CARE dobrou a recuperação de palavras-chave em hebraico e apresentou uma melhoria de quase 5x em árabe em comparação à média dos baselines. O ROUGE-2 em hebraico aumentou quase 9 vezes, sugerindo uma melhor internalização de bigramas e padrões linguísticos específicos.
  • BLEU: O modelo alcançou um BLEU de 20.4 em árabe (mais de 20x melhor que os baselines) e 6.0 em hebraico (6x melhor), demonstrando maior precisão lexical e fluência.
• Perplexidade de Linguagem de Suporte: O CARE apresentou a menor perplexidade (3.33 em hebraico e 2.63 em árabe), indicando que seu estilo de linguagem é estatisticamente mais semelhante ao tom validante e reflexivo dos conselheiros profissionais do que o dos modelos gerais.
• Significância Estatística: Testes de Wilcoxon pareados com correção de Holm confirmaram que as diferenças de desempenho são altamente significativas ($p \approx 0$) em todas as dimensões e idiomas.

5. Significado e Conclusão

O estudo demonstra que o fine-tuning de domínio específico, utilizando histórias completas de conversação, permite que os LLMs internalizem padrões de interação adaptativos e estratégias clínicas complexas sem a necessidade de rótulos explícitos ou módulos de memória externa pesados.

• Impacto Prático: O CARE não substitui o julgamento humano, mas atua como uma ferramenta de suporte à decisão que pode reduzir o tempo de resposta, aliviar a carga cognitiva dos conselheiros e melhorar a qualidade do cuidado em contextos de crise.
• Segurança e Ética: O sistema foi projetado com princípios éticos rigorosos, incluindo anonimização de dados e a manutenção do "humano no loop" (o conselheiro tem a palavra final).
• Futuro: O trabalho abre caminho para o uso de IA em sistemas de saúde mental em idiomas não ocidentais, sugerindo que a adaptação cultural e linguística é tão crítica quanto a capacidade generativa do modelo.

Em suma, o CARE preenche uma lacuna crítica ao transformar LLMs genéricos em assistentes especializados, capazes de fornecer suporte emocional alinhado com protocolos clínicos profissionais em idiomas de baixos recursos.