Developing a Tiered Machine Learning Alert System for Real-Time Suicide Risk Detection in a Digital Mental Health Setting

Este trabalho apresenta um sistema de alerta de aprendizado de máquina em camadas, que utiliza modelos transformadores e dados demográficos para detectar níveis de risco de suicídio em terapia assíncrona, alcançando uma pontuação F1 ponderada de 0,85 e permitindo intervenções clínicas mais rápidas e precisas.

O essencial

Imagine que a terapia online é como uma grande sala de conversas, onde pessoas escrevem mensagens para seus terapeutas. O problema é que, às vezes, alguém pode estar passando por um momento muito difícil e pensar em suicídio, mas não diz isso de forma clara ou direta. O terapeuta pode não estar olhando a tela naquele exato momento, e o risco passa despercebido.

Este artigo descreve como uma empresa de saúde mental (a Talkspace) criou um "Guardião Digital Inteligente" para ajudar a resolver esse problema. Eles desenvolveram um sistema de inteligência artificial que lê essas mensagens em tempo real e avisa os terapeutas quando alguém está em perigo.

Aqui está a história de como esse sistema evoluiu, explicada de forma simples:

1. O Problema: O "Detector de Palavras" Velho

No passado, eles tinham um sistema antigo (v1.0) que funcionava como um detector de metal muito básico. Se a pessoa escrevesse uma palavra proibida (como "morrer" ou "suicídio"), o sistema apitava.

• O defeito: Ele apitava demais! Se alguém escrevesse "Vou terminar esse relacionamento", o sistema podia achar que era suicídio. Isso cansava os terapeutas, que recebiam muitos alertas falsos e começavam a ignorar os reais (como um alarme de incêndio que toca quando você queima um pão).

2. A Evolução: De "Detectar" para "Entender"

Os pesquisadores quiseram algo melhor. Eles criaram novas versões do sistema, como se estivessem treinando um novo aluno para ser um detetive de sentimentos.

• Versão 2.0 (O Detetive Contextual):
  Em vez de apenas procurar palavras, esse novo modelo (usando uma tecnologia chamada RoBERTa) aprendeu a ler o contexto. É como a diferença entre ouvir alguém dizer "Estou morrendo de sede" (literalmente, precisa de água) e "Estou morrendo de tristeza" (precisa de ajuda emocional).

  • O resultado: O sistema aprendeu a entender a diferença entre uma frase triste e uma intenção real de suicídio. Ele ficou muito mais preciso, reduzindo os alarmes falsos.

• Versão 2.1 (O Detetive com Carteira de Identidade):
  Eles tentaram dar ao sistema mais informações, como a idade da pessoa, onde ela mora e sua situação financeira (chamado de Determinantes Sociais de Saúde). A ideia era: "Será que saber que a pessoa mora em um bairro difícil ajuda a prever o risco?".

  • O resultado: Surpreendentemente, essas informações extras não ajudaram muito. O sistema já era tão bom em ler as palavras que os dados externos não faziam muita diferença. Eles decidiram focar apenas no que a pessoa escrevia.

• Versão 3.0 (O Sistema de Semáforo):
  Esta é a grande inovação final. O sistema anterior dizia apenas: "Perigo!" ou "Tudo bem". Mas na vida real, nem todo perigo é igual.

  • Imagine um semáforo de risco:
    • 🔴 Vermelho (Risco Severo): A pessoa tem um plano, uma data e um método (ex: "Vou fazer isso amanhã com remédios"). O sistema avisa: "Corra! Isso é emergência máxima!"
    • 🟡 Amarelo (Risco Moderado): A pessoa está pensando em suicídio, mas sem um plano imediato. O sistema avisa: "Fique atento, isso precisa de cuidado, mas não é uma emergência imediata."
    • 🟢 Verde (Sem Risco): A pessoa está apenas conversando sobre problemas do dia a dia. O sistema diz: "Tudo tranquilo."

Por que isso é importante?

1. Salva Vidas: O sistema consegue pegar sinais sutis que um humano poderia perder por cansaço ou distração.
2. Não Cansa o Terapeuta: Ao classificar o risco (Vermelho, Amarelo, Verde), o terapeuta não precisa correr para tudo ao mesmo tempo. Ele sabe exatamente quem precisa de ajuda agora e quem pode esperar um pouco.
3. Precisão: O novo sistema é muito mais inteligente que o antigo, acertando mais de 85% das vezes em identificar corretamente o nível de risco.

Em resumo

Os pesquisadores criaram um assistente virtual superinteligente que lê as mensagens de terapia e atua como um semáforo de segurança. Ele não apenas grita "PERIGO", mas diz "PERIGO IMEDIATO" ou "ATENÇÃO", permitindo que os terapeutas humanos foquem sua energia onde ela é mais necessária, garantindo que quem está em crise receba ajuda rápida e adequada.

Resumo técnico

Título: Desenvolvimento de um Sistema de Alerta de Machine Learning em Níveis para Detecção em Tempo Real de Risco de Suicídio em um Ambiente de Saúde Mental Digital

1. Problema e Contexto

O suicídio permanece uma das principais causas de morte nos EUA, com milhões de pessoas considerando ou tentando o ato anualmente. Os métodos tradicionais de avaliação de risco em ambientes clínicos apresentam limitações críticas, como subnotificação por parte dos pacientes, viés de memória e detecção tardia pelos clínicos.
O objetivo deste estudo foi superar essas limitações utilizando um grande corpus de dados de psicoterapia baseada em texto (da plataforma Talkspace) para desenvolver algoritmos de Machine Learning (ML) capazes de identificar risco de suicídio em tempo real em mensagens assíncronas. O desafio central era evoluir de sistemas baseados em "detecção de palavras-chave" (que geram muitos falsos positivos e ignoram o contexto) para modelos que compreendam a intenção e a nuance semântica da linguagem terapêutica.

2. Metodologia

O estudo envolveu o desenvolvimento e validação iterativa de três versões de modelos de ML, utilizando um corpus de 50.000 transcrições de psicoterapia (texto, voz e vídeo) de 2020 a 2024.

• Rotulagem de Dados:

  • Utilizou-se um sistema baseado em Large Language Models (LLM), especificamente o GPT-4.1, guiado por um framework de codificação de ideação suicida (SI) estabelecido anteriormente.
  • As mensagens foram classificadas em níveis de risco: SI-2 (fatores de risco), SI-3 (ideação sem plano), SI-4 (intento com meios) e SI-5 (plano ativo).
  • Um segundo LLM atuou como "juiz" para validar a confiabilidade dos rótulos de alto risco, mantendo apenas mensagens com alta confiança (>=8/10).
  • O conjunto de dados final para modelagem consistiu em 3.686 casos de risco moderado, 281 de risco severo e 10.000 casos de "sem risco" (amostrados).

• Arquitetura dos Modelos:

  • Modelo v2.0 (Binário): Focado em classificar "Risco" vs. "Sem Risco". Utilizou transformers de última geração (RoBERTa e ELECTRA) fine-tuned, combinados com características de texto extraídas (contagem de palavras emocionais, estrutura linguística, sentimentos). O contexto foi incorporado concatenando a mensagem atual com as quatro mensagens anteriores do cliente.
  • Modelo v2.1 (Multimodal): Tentou melhorar a precisão incorporando dados não textuais: dados demográficos, determinantes sociais de saúde (SDOH) derivados de dados do censo (por CEP) e escores de questionários clínicos (PHQ-9 e GAD-7). Utilizou o Autogluon para predição multimodal.
  • Modelo v3.0 (Multiclasse/Tiered): O modelo final, projetado para triagem clínica. Classifica o risco em três níveis: "Sem risco", "Moderado" (ideação) e "Severo" (plano/intento). Utilizou apenas dados textuais (RoBERTa e ELECTRA), excluindo os dados demográficos/SDOH que não trouxeram ganhos significativos.

• Métricas de Avaliação:

  • F1-score (ponderado e F2, que dá mais peso ao recall), Precisão, Recall, AUC-ROC e Acurácia.

3. Contribuições Chave

1. Transição para Modelos Contextuais: Demonstrou a superioridade de modelos baseados em transformers (RoBERTa) sobre métodos tradicionais, permitindo a distinção entre frases semanticamente similares, mas com intenções diferentes (ex: "querer acabar com isso" em um relacionamento vs. suicídio).
2. Sistema de Alerta em Níveis (Tiered System): A principal inovação é o modelo v3.0, que não apenas detecta risco, mas estratifica a gravidade. Isso permite que os clínicos priorizem casos urgentes (severos) em detrimento de casos moderados, otimizando o fluxo de trabalho clínico.
3. Validação em Dados Clínicos Reais: Ao contrário de muitos estudos que usam dados de redes sociais, este trabalho utilizou transcrições terapêuticas reais e de alta qualidade, superando a falta de contexto clínico comum em outras abordagens de IA.
4. Redução da Fadiga de Alerta: Ao aumentar drasticamente a precisão (reduzindo falsos positivos), o sistema visa evitar a dessensibilização dos clínicos a alertas automáticos.

4. Resultados

• Desempenho Geral: Todos os novos modelos superaram significativamente o modelo anterior (v1.0). O modelo v1.0 tinha um F1 de 0,18, enquanto os novos modelos alcançaram um F1 ponderado > 0,84.
• Modelo v2.0 (Binário): O modelo fine-tuned RoBERTa obteve o melhor desempenho, com F1 de 0,90, Precisão de 0,83 e Recall de 0,81. A AUC foi de 0,94.
• Modelo v2.1 (Com Dados Externos): A adição de dados demográficos e SDOH aumentou ligeiramente a precisão, mas reduziu o recall (aumentando falsos negativos). Como o impacto geral foi marginal e complexo, esses dados foram removidos para o modelo final.
• Modelo v3.0 (Multiclasse):
  • Alcançou um F1 ponderado de 0,85.
  • Desempenho por Classe:
    • Sem Risco: F1 = 0,89.
    • Moderado: F1 = 0,82.
    • Severo: F1 = 0,49 (com Recall de 0,54). Embora a precisão para a classe "Severo" seja menor, o modelo raramente classifica risco severo como "sem risco" (apenas 7/76 casos), o que é crucial para a segurança do paciente.
  • O modelo ELECTRA falhou em discriminar adequadamente entre risco moderado e severo, tornando o RoBERTa a arquitetura escolhida.

5. Significância e Conclusão

Este trabalho representa um avanço significativo na segurança digital em saúde mental. A implementação de um sistema de detecção de risco em tempo real, baseado em IA e validado clinicamente, permite:

• Intervenção Tempestiva: Reduzir o atraso entre a indicação de ideação suicida e a intervenção do terapeuta.
• Triagem Eficiente: O sistema em níveis (v3.0) permite que os clínicos foquem seus recursos nos casos de maior acuidade (plano e método), enquanto gerenciam casos de ideação moderada no fluxo terapêutico padrão.
• Equidade e Contexto: Ao focar na interpretação contextual da linguagem em vez de palavras-chave isoladas, o modelo busca ser mais robusto e menos suscetível a viéses linguísticos.

O estudo conclui que a combinação de técnicas avançadas de NLP com dados clínicos reais cria uma ferramenta acionável que fortalece a rede de segurança digital para pacientes em crise, equilibrando a segurança do paciente com a carga cognitiva dos provedores de saúde.