💬 NLP

Reading Between the Signs: Predicting Future Suicidal Ideation from Adolescent Social Media Texts

Este artigo apresenta o Early-SIB, um modelo baseado em transformer que prevê ideação e comportamento suicida futuro em adolescentes ao analisar sequencialmente suas postagens em redes sociais, alcançando uma acurácia balanceada de 0,73 em um fórum de jovens holandês, ao mesmo tempo em que fornece insights interpretáveis por meio de Explicações Aditivas de Shapley.

Autores originais: Paul Blum, Enrico Liscio, Ruixuan Zhang, Caroline Figueroa, Pradeep K. Murukannaiah

Publicado 2026-07-28

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Paul Blum, Enrico Liscio, Ruixuan Zhang, Caroline Figueroa, Pradeep K. Murukannaiah

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você é um detetive tentando resolver um mistério, mas as pistas estão escondidas em uma biblioteca gigante e barulhenta, onde milhões de pessoas sussurram seus segredos uns para os outros a cada segundo. Este é o mundo das redes sociais, um espaço digital onde adolescentes costumam compartilhar seus medos, frustrações e sonhos mais profundos muito antes de contarem a um médico ou a um pai. Por décadas, cientistas tentaram prever quando alguém poderia estar em perigo de se ferir observando "fatores de risco" — coisas como estar triste, ter tido uma infância difícil ou sentir-se sem esperança. Pense nesses fatores como verificar a mochila de uma pessoa para ver se ela está carregando pedras pesadas; embora pedras pesadas sejam um mau sinal, muitas pessoas que as carregam nunca as soltam, e algumas pessoas que as soltaram não carregavam nada óbvio. Na verdade, nos últimos cinquenta anos, tentar prever o suicídio usando essas listas de verificação tradicionais foi como jogar uma moeda para o alto; funciona apenas um pouco melhor do que adivinhar. Mas e se pudéssemos ouvir os sussurros na biblioteca antes que a pessoa sequer diga as palavras assustadoras em voz alta? Essa é a grande pergunta que este artigo faz: Podemos identificar os sinais de alerta nas conversas online de um adolescente antes que ele sequer publique uma mensagem sobre querer acabar com a própria vida?

Os pesquisadores por trás deste estudo, trabalhando com um fórum de ajuda holandês para jovens chamado "De Kindertelefoon", decidiram construir um detetive digital chamado EARLY-SIB. O objetivo deles era ver se consegiam prever se um usuário eventualmente escreveria uma postagem sobre pensamentos ou ações suicidas, baseando-se apenas nas coisas que ele havia escrito e respondido antes desse momento. É como tentar adivinhar que uma tempestade está chegando ao observar como os pássaros voam e como o vento sopra, em vez de esperar pela primeira gota de chuva.

Para fazer isso, eles não apenas procuraram pela palavra "suicídio". Em vez disso, treinaram um programa de computador inteligente (um tipo de IA chamado transformer) para ler milhares de postagens e respostas. O programa aprendeu a reconhecer os padrões sutis no histórico de um usuário — como uma mudança repentina no tom, falar que a escola está sendo esmagadora ou pedir conselhos sobre como parar de machucar a si mesmo — que podem sinalizar que problemas estão se formando. A equipe teve que ser muito cuidadosa. Primeiro, ensinaram o computador a identificar uma postagem que realmente mencionasse suicídio (o que ele fez com grande precisidade, acertando cerca de 96% das vezes). Em seguida, usaram essa habilidade para criar uma lista de usuários que nunca haviam postado sobre suicídio ainda, mas que postariam sobre isso no futuro.

Quando testaram seu modelo EARLY-SIB neste grupo, os resultados foram promissores. O modelo foi capaz de prever futuros pensamentos suicidas com uma "acurácia balanceada" de 0,73. No mundo da previsão, onde adivinhar aleatoriamente geralmente resulta em cerca de 0,50, este é um passo significativo à frente. Isso significa que o modelo é muito melhor do que o acaso em identificar quem está em risco. No entanto, o artigo é muito claro ao dizer que isso não é uma bola de cristal mágica. O modelo ainda comete erros; ele deixou passar algumas pessoas que estavam em risco (um "falso negativo") e às vezes sinalizou pessoas que não estavam (um "falso positivo"). De fato, o modelo foi melhor em encontrar as pessoas que estavam em risco (conseguindo identificar cerca de 71% delas) do que em ser perfeitamente seguro sobre cada pessoa que sinalizava (apenas 10% de seus alertas eram realmente corretos). Isso ocorre porque os dados são tão desequilibrados: de cada 100 usuários, apenas cerca de 4 estão em risco, então é muito fácil errar por acidente.

Os pesquisadores também usaram uma ferramenta especial chamada SHAP para espiar dentro do cerebro do computador e ver por que ele fez suas previsões. Eles descobriram que o modelo não dependia apenas de uma postagem grande e dramática. Em vez disso, ele olhava para um conjunto de interações, como um quebra-cabeça feito de muitas peças pequenas. Por exemplo, uma postagem sobre a escola ser demais, combinada com uma resposta pedindo dicas sobre automutilação, criava um padrão que o modelo reconhecia como perigoso. O estudo mostrou que quanto mais histórico o modelo conseguia ler (até cerca de 30 interações), melhor ele ficava, sugerindo que os sinais de alerta estão espalhados ao longo do tempo, não apenas em um único momento.

Os autores são cuidadosos ao dizer que esta é uma descoberta "sugestiva", não um problema resolvido. Eles argumentam que, embora sua ferramenta seja melhor que os métodos antigos, ela não está pronta para substituir médicos ou conselheiros humanos. Eles a veem como um "sistema de alerta precoce" que pode ajudar moderadores humanos em fóruns a notar usuários que possam precisar de ajuda mais cedo. No entanto, eles também alertam sobre os perigos. Se o sistema sinalizar alguém que não está realmente em perigo, pode causar pânico desnecessário ou invadir sua privacidade. Se ele perder alguém que está em perigo, as consequências podem ser trágicas. O artigo conclui que, embora a tecnologia mostre que é possível prever esses riscos a partir de textos de redes sociais, o verdadeiro desafio agora é descobrir como usar essa ferramenta de forma responsável, ética e eficaz no mundo real, garantindo que, quando o alarme tocar, haja realmente alguém lá para ajudar.

Resumo Técnico: Predição de Ideação Suicida Futura a partir de Textos de Adolescentes em Redes Sociais

Definição do Problema
O suicídio continua sendo uma das principais causas de morte entre adolescentes, mas os métodos de predição estagnaram nos últimos 50 anos. As abordagens clínicas tradicionais baseiam-se em "fatores de risco" (ex: depressão, uso de substâncias), que frequentemente apresentam um desempenho apenas ligeiramente superior ao acaso e sofrem de baixa especificidade. Além disso, uma parcela significativa de indivíduos em risco nunca busca ajuda profissional, permanecendo indetectados pelos sistemas de saúde tradicionais. Embora as redes sociais ofereçam uma fonte rica de autodescrição em tempo real, os métodos atuais de Processamento de Linguagem Natural (PLN) focam tipicamente na detecção de ideação e comportamento suicida (SIB) após o usuário expressar explicitamente tais sinais. Isso limita sua utilidade para intervenção precoce. Os autores propõem um novo desafio: prever se um adolescente irá futuramente expressar SIB baseando-se exclusivamente em seu histórico prévio de interações em redes sociais, sem utilizar nenhum post relacionado a SIB como entrada.

Metodologia
Os autores introduzem o EARLY-SIB, um modelo baseado em transformer projetado para processar sequências de interações de usuários para prever SIB futuro. A metodologia envolve um pipeline de três estágios:

Construção do Conjunto de Dados:
- Fonte: Os dados foram extraídos do De Kindertelefoon, um fórum holandês para adolescentes (12–18 anos) focado em saúde mental.
- Rotulagem ao Nível de Post: Um pequeno conjunto de dados de posts foi anotado manualmente para distinguir entre conteúdo SIB e não-SIB. Os anotadores utilizaram as diretrizes C-SSRS, alcançando concordância perfeita ( $\kappa=1.00$ ) após resolução de conflitos. O conjunto de dados incluiu instâncias negativas "difíceis" (posts com linguagem relacionada ao suicídio, mas que não constituem SIB real).
- Conjunto de Dados ao Nível de Usuário: Um classificador (LLaMA-3-8B ajustado/fine-tuned) foi aplicado a todo o fórum para rotular os posts. Um conjunto de dados ao nível de usuário foi então construído, onde a entrada consiste no histórico de interações de um usuário (posts e respostas) precedendo seu primeiro post de SIB (se houver). O rótulo alvo é binário: se o usuário eventualmente publicará SIB.
Arquitetura EARLY-SIB:
- Entrada: Uma sequência de $N$ interações (posts ou respostas) de um usuário.
- Body Transformer: O texto de cada interação (título + corpo para posts; texto da resposta para respostas) é processado por um modelo BERT holandês pré-treinado (BERTje) para obter representações CLS.
- Modelagem Sequencial: Essas representações são passadas através de um LSTM bidirecional seguido por uma camada de atenção para capturar dependências sequenciais e ponderar interações informativas.
- Title+Tag Transformer: Títulos e tags são concatenados e processados por uma instância separada do BERTje, pois contêm sinais preditivos distintos.
- Fusão: A saída do LSTM (média de pooling) e o embedding CLS de Title+Tag são concatenados e alimentados em uma camada totalmente conectada para classificação binária.
Estratégia de Treinamento:
- Devido ao severo desequilíbrio de classes (<4% de casos positivos), a classe majoritária foi subamostrada para uma distribuição de 50-50 no conjunto de treinamento, o que gerou um desempenho superior à perda ponderada (weighted loss) ou outras proporções de reamostragem.
- O comprimento da entrada foi limitado a $N=30$ interações, priorizando posts sobre respostas.

Principais Resultados

Detecção de SIB: O modelo usado para gerar os rótulos dos usuários (LLaMA-3-8B ajustado) alcançou um F1-score de 0.96 na detecção de posts SIB, superando significativamente os modelos de base zero-shot.
Predição Precoce: Na tarefa ao nível de usuário, o EARLY-SIB alcançou uma acurácia balanceada de 0.73 e um recall de 0.71.
- Superou significativamente a arquitetura de base de Zhang et al. (2024) (0.67 de acurácia balanceada) e os modelos de base zero-shot LLaMA-3 (que falharam em prever SIB futuro de forma eficaz, com acurácias balanceadas em torno de 0.55–0.57).
- A precisão foi baixa (0.10), o que os autores observam ser esperado dado o extremo desequilíbrio de classes, mas aceitável para uma aplicação de vida crítica onde perder um caso positivo (falso negativo) é mais custoso do que um alarme falso.
Ablação e Análise:
- A remoção do LSTM ou do Body Transformer resultou em quedas de desempenho, confirmando a necessidade de modelagem sequencial e análise do corpo do texto.
- O Title+Tag Transformer funcionou bem de forma independente, sugerindo que os metadados são altamente informativos.
- O desempenho melhorou conforme a janela de contexto ( $N$ ) aumentava, estabilizando em torno de $N=15$ .
Explicabilidade: Usando SHAP (Shapley Additive Explanations), os autores demonstraram que as predições dependem de um conjunto diversificado de interações (complexidade média 0.90), e não de um único post dominante. As interações mais preditivas ocorreram frequentemente dentro de 10 dias antes da divulgação do SIB, com 23% ocorrendo menos de um dia antes.

Principais Contribuições

Nova Definição de Tarefa: O artigo define e aborda a tarefa de predição de SIB precoce, movendo a linha do tempo um passo antes da literatura existente ao prever o SIB antes de qualquer expressão explícita.
Modelo EARLY-SIB: Uma arquitetura especializada que combina o texto do corpo e metadados (títulos/tags) com modelagem sequencial (LSTM) para lidar com longos históricos de usuários e capturar dependências temporais.
Validação Empírica: Demonstração de que dados de redes sociais contêm sinais detectáveis de risco futuro, alcançando uma acurácia balanceada de 0.73, o que os autores argumentam ser uma adição significativa aos métodos tradicionais.
Interpretabilidade: Aplicação de SHAP para revelar que a predição de risco é uma interação complexa de múltiplas interações, e não apenas posts isolados de "bandeira vermelha".

Significância e Alegações
Os autores afirmam que seu trabalho demonstra a viabilidade do uso de aprendizado de máquina supervisionado em redes sociais para identificar adolescentes em risco antes que eles expressem explicitamente pensamentos suicidas. Eles posicionam o EARLY-SIB não como um substituto para a avaliação clínica, mas como uma ferramenta complementar para apoiar moderadores humanos, fornecendo sinais de alerta precoce e justificativas explicáveis.

O artigo mantém um tom modesto quanto às suas alegações:

Reconhece que a verdade fundamental (ground truth) baseia-se na autodescrição, não em resultados clínicos verificados.
Observa que o modelo assume coerência temporal na linguagem do usuário, o que pode não capturar fatores externos não lineares.
Destaca os dilemas éticos, particularmente em relação à privacidade e ao potencial de falsos positivos (estigma) versus falsos negativos (intervenções perdidas).
Conclui que, embora o desafio técnico seja viável, a implementação no mundo real depende da capacidade institucional, políticas e disponibilidade de recursos de intervenção eficazes.

Os autores declaram explicitamente que seus resultados fornecem evidências de que este desafio é viável, mas não alegam ter resolvido o problema mais amplo da prevenção do suicídio. Eles convocam trabalhos futuros sobre a generalização entre idiomas e plataformas, além de mais pesquisas sobre interpretabilidade e construção de conjuntos de dados.

Mais como este