Resumo Técnico: LENS (Síntese Narrativa Habilitada por LLM para Saúde Mental)

Declaração do Problema

A detecção de saúde multimodal oferece sinais comportamentais ricos (por exemplo, frequência cardíaca, padrões de sono, mobilidade) para avaliar condições de saúde mental como depressão e ansiedade. No entanto, traduzir essas medições numéricas de séries temporais em linguagem natural permanece um desafio significativo. Os Modelos de Linguagem de Grande Escala (LLMs) atuais enfrentam duas limitações primárias:

1. Incapacidade de Ingerir Nativamente Séries Temporais Longas: Os LLMs têm dificuldade com fluxos de sensores de longa duração devido a restrições de comprimento de contexto e designs de tokenizadores que impedem a ingestão direta de sequências numéricas brutas.
2. Escassez de Dados Emparelhados: Há uma falta de conjuntos de dados em grande escala que emparelhem fluxos de sensores brutos com descrições textuais fundamentadas clinicamente. Métodos existentes frequentemente dependem de dados sintéticos ou convertem séries temporais em imagens, o que introduz vieses e representações indiretas.

Consequentemente, as abordagens existentes raramente operam diretamente em fluxos de sensores brutos para gerar narrativas clinicamente significativas, limitando a escalabilidade dos LLMs como interfaces para detecção de saúde.

Metodologia

Os autores introduzem o LENS, um framework projetado para alinhar dados de detecção multimodal com modelos de linguagem para gerar narrativas de saúde mental fundamentadas clinicamente. A abordagem consiste em dois componentes principais:

1. Pipeline de Construção de Conjunto de Dados

Para abordar a escassez de dados, os autores construíram um conjunto de dados em grande escala com mais de 100.000 pares de perguntas e respostas (QA) sensor-texto de 258 participantes diagnosticados com Transtorno Depressivo Maior (TDM).

• Dados de Origem: O estudo utilizou dados longitudinais de 90 dias coletados via wearables Garmin e smartphones Android, capturando detecção passiva (GPS, passos, frequência cardíaca, estresse, uso do telefone) e Avaliações Momentâneas Ecológicas (EMA).
• Alinhamento da EMA: Os participantes completaram 14 itens de EMA (adaptados de PHQ-9 e GAD-4) três vezes ao dia, avaliando sintomas em uma escala de 0–100. Essas respostas foram alinhadas temporalmente com as quatro horas anteriores de dados de sensores.
• Síntese Narrativa:
  • Geração de Modelos: Respostas numéricas da EMA foram convertidas em modelos narrativos brutos usando frases de frequência (por exemplo, "nem um pouco", "constantemente").
  • Refinamento por LLM: Um LLM implantado localmente (Qwen2.5-14B) refinou esses modelos para melhorar a fluência e a diversidade lexical, enquanto garantia precisão factual e linguagem livre de estigma.
  • Controle de Qualidade: Um sistema multiagente de "LLM como Juiz" (usando Mistral-7B, Llama-3.1-8B e Qwen2.5-7B) avaliou as narrativas contra os modelos originais em cinco dimensões (alinhamento factual, cobertura, fidelidade de gravidade, fluência, risco de alucinação). Apenas narrativas que excederam um limiar de qualidade foram aceitas.
• Saída: O pipeline produziu pares de QA em nível de item (sintoma único) e pares de QA em nível de resumo (visão geral completa dos sintomas).

2. Arquitetura do Modelo e Treinamento

O LENS emprega um codificador baseado em patches para permitir a integração nativa de séries temporais em um LLM.

• Codificador de Séries Temporais: Valores escalares brutos de sensores passam por normalização de valor reversível. A sequência é dividida em patches não sobrepostos (largura $w=8$). Cada patch é aumentado com embeddings posicionais aprendíveis e projetado no espaço oculto do LLM por meio de um Perceptron Multicamada (MLP). Isso preserva a semântica numérica absoluta enquanto captura padrões temporais localizados.
• Arquitetura: O modelo intercala embeddings de texto (de instruções e metadados) com embeddings de patches do codificador de séries temporais. Tokens especiais (<ts>, </ts>) marcam as posições dos fluxos de sensores dentro do prompt.
• Estratégia de Treinamento:
  • Estágio 1 (Alinhamento do Codificador): O codificador é alinhado com descrições textuais usando um conjunto de dados ChatTS para capturar tendências e correlações, intercalado com amostras narrativas para preparar a geração downstream.
  • Estágio 2 (Ajuste Fino Supervisionado): O modelo é ajustado finamente nos conjuntos de dados de QA derivados da EMA construídos. A mistura de treinamento inclui QA em nível de item, QA em nível de resumo, dados de Seguimento de Instruções (IF) e um subconjunto de alinhamento aleatório para lidar com comprimentos de sequência variáveis.

Contribuições Principais

1. Pipeline de Síntese de Dados LENS: Um pipeline escalável que transforma respostas da EMA em pares sensor-texto de alta qualidade e fundamentados clinicamente, abordando a escassez de tais recursos com mais de 100.000 amostras geradas.
2. Integração Nativa de Séries Temporais: Uma estratégia de treinamento utilizando um codificador em nível de patch que projeta sinais de sensores brutos diretamente no espaço de representação do LLM, evitando a necessidade de serialização de texto ou conversão para imagens.
3. Avaliação Abrangente: Avaliação em um conjunto de dados clínico de 258 participantes (50.957 amostras) e um estudo com 13 profissionais de saúde mental, demonstrando desempenho tanto em métricas padrão de PLN quanto em precisão de gravidade de sintomas clínicos.

Resultados

• Desempenho vs. Baselines: O LENS superou baselines robustas, incluindo uma abordagem de serialização apenas em texto (TS-Text) e uma abordagem baseada em visão que converte sinais em gráficos (TS-Image).
  • Nível de Resumo: O LENS alcançou um ROUGE-L de 0,409 e BERTScore de 0,775, superando o TS-Image (0,373 ROUGE-L) e superando significativamente o TS-Text (0,151 ROUGE-L).
  • QA em Nível de Item: O LENS alcançou um ROUGE-L de 0,603, mais de quatro vezes maior que as baselines, indicando precisão superior na recuperação de intensidades específicas de sintomas.
  • Alinhamento Clínico: O LENS demonstrou maior cobertura de sintomas (0,801) e alinhamento de presença (0,601) em comparação com as baselines, minimizando alucinações.
• Estudo com Usuários: Em um estudo com 13 especialistas em saúde mental, as narrativas do LENS foram avaliadas significativamente mais altas que o TS-Text em todas as quatro dimensões: abrangência, precisão, utilidade clínica e coesão linguística.
• Paridade com Modelos Maiores: O LENS (14 bilhões de parâmetros) igualou o desempenho do modelo TS-Image de 32 bilhões de parâmetros nas avaliações de especialistas, apesar do tamanho maior deste último e de sua dependência de engenharia de gráficos visuais.
• Eficiência: O LENS exigiu aproximadamente 930 tokens por amostra, uma redução de 94% em comparação com a serialização apenas em texto e uma redução de 4x em comparação com modelos baseados em visão.
• Ablação: Experimentos confirmaram que a codificação explícita de séries temporais é essencial; uma baseline ajustada finamente apenas em texto teve desempenho significativamente pior. Experimentos de incompatibilidade de sensores mostraram uma queda de 20,1% no alinhamento de presença quando os fluxos de sensores foram embaralhados, provando que o modelo fundamenta o conteúdo em sinais reais e não em padrões estilísticos.

Significado

O artigo posiciona o LENS como um passo em direção ao monitoramento de saúde mental ecologicamente válido. Ao transformar dados brutos de sensores em insights clínicos interpretáveis, o LENS avança a capacidade dos LLMs de raciocinar sobre sinais comportamentais brutos. Os autores enquadram o sistema não como uma ferramenta de diagnóstico, mas como uma ferramenta de monitoramento pré-consulta que fornece aos clínicos resumos comportamentais naturalísticos, permitindo consultas mais informadas e eficientes em termos de tempo. O trabalho demonstra um caminho escalável para integrar detecção passiva com modelos de linguagem, potencialmente apoiando a tomada de decisão clínica downstream sem a sobrecarga de interpretação manual de dados ou engenharia visual complexa.

Os autores reconhecem limitações, notando o foco atual na depressão e ansiedade dentro de uma coorte clínica específica, a análise de janela de 4 horas (que pode perder tendências de longo prazo) e a dependência de famílias de modelos específicas. Eles enfatizam que as narrativas geradas devem complementar, e não substituir, o julgamento clínico.