Resumo Técnico: Equipe MKC na CLPsych 2026

Declaração do Problema

O artigo aborda o desafio de capturar e caracterizar mudanças de saúde mental por meio de linhas do tempo de redes sociais, uma tarefa crítica dada a prevalência global de transtornos de saúde mental e a acessibilidade limitada de cuidados profissionais. Embora os Grandes Modelos de Linguagem (LLMs) tenham mostrado promessa em domínios gerais, sua aplicação à psicologia clínica é dificultada pela escassez de dados de treinamento devido a preocupações com a privacidade. Os autores focam na tarefa compartilhada da CLPsych 2026, que utiliza um conjunto de dados introduzido por Tsakalidis et al. (2022b) para identificar "Momentos de Mudança" (MOC) — pontos temporais onde mudanças no humor de um usuário tornam-se observáveis. O problema central envolve um pipeline de cinco tarefas inter-relacionadas:

1. Avaliação ao nível de postagem: Classificar subelementos ABCD e estados de si (adaptativo/maladaptativo) para postagens individuais.
2. Agregação ao nível de usuário: Estimar a taxa de presença de cada estado mental ao longo do histórico de um usuário.
3. Modelagem Temporal: Identificar "Trocas" (mudanças súbitas) e "Escalações" (intensificações graduais) em postagens ordenadas cronologicamente.
4. Sumarização: Gerar resumos de eventos de mudança.
5. Extração de Padrões: Detectar assinaturas dinâmicas recorrentes de melhoria e deterioração.

Um obstáculo técnico significativo identificado é o severo desequilíbrio de classes e a esparsidade de dados dentro do conjunto de dados, onde algumas subdimensões contêm apenas uma instância de treinamento ou nenhuma.

Metodologia

Os autores propõem um pipeline unificado de cinco etapas baseado em LLM, projetado para integrar a avaliação ao nível de postagem com a modelagem temporal ao nível do usuário.

Etapa 1: Classificação ao Nível de Postagem

O sistema classifica 12 alvos independentes por postagem (6 subdimensões para estados adaptativos e 6 para estados maladaptativos).

• Arquitetura: O Qwen3-4B-Embedding (Qwen Embed) serve como o extrator de características, ajustado via LoRA.
• Estratégia de Treinamento: Os embeddings são alimentados em 12 classificadores independentes treinados com perda de Entropia Cruzada (Cross-Entropy). Para lidar com o desequilíbrio de classes, os autores utilizam ponderação de frequência inversa (limitada a um máximo de 10 para evitar instabilidade) e uma estratégia de validação cruzada de 5 dobras (5-fold) com ensembling.

Etapa 2: Classificação de Presença de Estado de Si

Esta etapa prevê pontuações numéricas (escala Likert de 1 a 5) para estados de si adaptativos e maladaptativos.

• Arquitetura: Preditores dedicados realizam a regressão de valores escalares a partir dos embeddings da Etapa 1.
• Estratégia de Treinamento: Os modelos utilizam perda Huber ponderada, onde os pesos são derivados da frequência inversa dos bins de pontuação. A saída é escalonada para o intervalo [1, 5]. Assim como na Etapa 1, um ensemble de validação cruzada de 5 dobras é utilizado.

Etapa 3: Detecção de Momento de Mudança (MOC)

Esta etapa detecta dois tipos de transição: Troca (mudança súbita entre postagens consecutivas) e Escalação (intensificação gradual).

• Arquitetura: O Qwen Embed é ajustado com LoRA, conectado a dois classificadores lineares independentes.
• Entrada: Uma janela deslizante de tamanho 2 (postagens em $t-1$ e $t$) para prever transições no tempo $t$.
• Estratégia de Treinamento: Entropia Cruzada Binária com ponderação de classe adaptativa e um ensemble de validação cruzada de 5 dobras. Os autores observam que modelos maiores (8B) sofrem overfitting no pequeno conjunto de dados (~500 amostras), levando-os a preferir o modelo 4B.

Etapa 4: Sumarização de Sequência

O objetivo é gerar um resumo em linguagem natural de toda a sequência, incorporando anotações das etapas anteriores.

• Arquitetura: Ajuste Fino Supervisionado (SFT) no Qwen3.5-4B e Qwen3-4B usando LoRA.
• Inferência: O modelo recebe as previsões das Etapas 1–3 como entrada em vez do ground truth, simulando fielmente a configuração do pipeline.
• Desafio: Os autores observaram que o ajuste fino neste pequeno conjunto de dados às vezes degradou o desempenho em comparação com o prompting zero-shot, provavelmente devido à propagação de ruído e ao risco do modelo sobrescrever o conhecimento pré-treinado.

Etapa 5: Extração de Assinatura Dinâmica

Esta etapa final analisa como os componentes do estado de si interagem através das sequências para identificar padrões recorrentes de deterioração e melhoria.

• Abordagem: Uma abordagem zero-shot utilizando o Qwen3.5-9B.
• Processo: Para evitar erros de Out-of-Memory, as sequências são divididas em grupos para extrair assinaturas, que são então sumarizadas.

Principais Resultados

• Etapas 1 e 2 (Classificação e Regressão): No conjunto de validação, a ponderação adaptativa melhorou consistentemente o desempenho para a Etapa 1. No entanto, para a Etapa 2, modelos não ponderados tiveram melhor desempenho. No conjunto de teste, o ensemble de K-fold proporcionou melhorias claras sobre os baselines de modelo único para ambas as etapas, atribuído à utilização mais completa dos dados de treinamento.
• Etapa 3 (Detecção de MOC): O modelo Qwen3-4B superou a variante 8B, confirmando que modelos maiores sofrem overfitting no conjunto de dados limitado. O ensemble de K-fold elevou ainda mais o F1 score para 0.55.
• Etapa 4 (Sumarização): Os modelos ajustados (Qwen3.5-4B e Qwen3-4B) desempenharam-se abaixo do baseline zero-shot em termos de consistência e pontuações de contradição. Os autores atribuem isso ao ruído das etapas precedentes e ao risco de o ajuste fino apagar o conhecimento pré-treinado.
• Etapa 5 (Assinaturas): A abordagem zero-shot rendeu pontuações de 0.7266 para Melhoria e 0.2301 para Deterioração.

Significância e Contribuições

O artigo apresenta um pipeline abrangente que unifica a avaliação ao nível de postagem e a modelagem temporal ao nível do usuário para análise de saúde mental. Suas principais contribuições incluem:

1. Framework Unificado: Um sistema coeso que lida com todo o espectro, desde a classificação granular de postagens até a extração de padrões temporais de alto nível.
2. Robustez ao Desequilíbrio: O uso eficaz de ponderação de frequência inversa e ensemble de K-fold para mitigar o severo desequilíbrio de classes e a esparsidade de dados inerentes aos conjuntos de dados de saúde mental.
3. Insights Empíricos sobre Escalonamento de Modelos: O estudo destaca que, em domínios de baixos recursos e alto ruído, modelos menores (4B) combinados com estratégias de ensemble podem superar modelos maiores (8B) que são propensos ao overfitting.
4. Cautela sobre Ajuste Fino (Fine-Tuning): Os resultados sugerem que, em configurações de recursos extremamente baixos, o prompting zero-shot pode ser superior ao ajuste fino, pois este último corre o risco de sobrescrever o valioso conhecimento pré-treinado.

Limitações e Trabalho Futuro

Os autores reconhecem limitações significativas, principalmente a escassez de dados de treinamento (aprox. 500 amostras) e o resultante desequilíbrio de classes. Eles observam que algumas subdimensões tinham dados insuficientes para um aprendizado confiável.

• Solução Proposta: Os autores sugerem o uso de LLMs para gerar postagens de usuários sintéticas para as subdimensões sub-representadas, visando criar um conjunto de dados mais equilibrado.
• Considerações Éticas: O artigo enfatiza que este pipeline é um artefato de pesquisa, não uma ferramenta de diagnóstico. Eles alertam para os riscos de falsos positivos/negativos em ambientes clínicos e as complexidades éticas de gerar dados sintéticos para tópicos sensíveis como automutilação, defendendo a revisão por especialistas clínicos antes que qualquer um desses dados seja usado para treinamento.