Reading Between the Signs: Predicting Future Suicidal Ideation from Adolescent Social Media Texts
Dieses Paper stellt Early-SIB vor, ein Transformer-basiertes Modell, das zukünftige suizidale Ideationen und Verhaltensweisen bei Jugendlichen durch die sequentielle Analyse ihrer Social-Media-Beiträge vorhersagt und dabei eine balancierte Genauigkeit von 0,73 in einem niederländischen Jugendforum erreicht, während es gleichzeitig interpretierbare Einblicke durch Shapley Additive Explanations liefert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, ein Rätsel zu lösen, aber die Hinweise sind in einer riesigen, lärmenden Bibliothek verborgen, in der Millionen von Menschen jede Sekunde ihre Geheimnisse miteinander flüstern. Dies ist die Welt der sozialen Medien, ein digitaler Raum, in dem Teenager oft ihre tiefsten Ängste, Frustrationen und Träume teilen, lange bevor sie jemals einem Arzt oder einem Elternteil davon erzählen. Seit Jahrzehnten versuchen Wissenschaftler vorherzusagen, wann jemand in Gefahr sein könnte, sich selbst zu verletzen, indem sie nach „Risikofaktoren“ suchen – Dingen wie Traurigkeit, einer schwierigen Kindheit oder Hoffnungslosigkeit. Betrachten Sie diese Faktoren wie das Überprüfen des Rucksacks einer Person, um zu sehen, ob sie schwere Steine trägt; während schwere Steine ein schlechtes Zeichen sind, tragen viele Menschen, die sie tragen, diese nie ab, und manche Menschen, die sie ablegen, haben gar keine offensichtlichen Steine getragen. Tatsächlich war der Versuch, Suizid mithilfe dieser traditionellen Checklisten vorherzusagen, in den letzten fünfzig Jahren vergleichbar mit einem Münzwurf; es funktioniert nur gerade so etwas besser als Raten. Aber was wäre, wenn wir den Flüsterton in der Bibliothek hören könnten, bevor die Person die beängstigenden Worte überhaupt laut ausspricht? Das ist die große Frage, die dieses Paper stellt: Können wir die Warnzeichen im Online-Geplapper eines Teenagers erkennen, bevor er eine Nachricht über den Wunsch, sein Leben zu beenden, postet?
Die Forscher hinter dieser Studie, die mit einem niederländischen Hilfsforum für junge Menschen namens „De Kindertelefoon“ arbeiteten, beschlossen, einen digitalen Detektiv namens EARLY-SIB zu erschaffen. Ihr Ziel war es zu sehen, ob sie vorhersagen könnten, ob ein Nutzer schließlich einen Post über Suizidgedanken oder -handlungen schreiben würde, basierend ausschließlich auf den Dingen, die er vor diesem Moment geschrieben und beantwortet hatte. Es ist, als würde man versuchen zu erraten, dass ein Sturm aufzieht, indem man beobachtet, wie die Vögel fliegen und wie der Wind weht, anstatt auf den ersten Regentropfen zu warten.
Um dies zu erreichen, suchten sie nicht einfach nach dem Wort „Suizid“. Stattdessen trainierten sie ein intelligentes Computerprogramm (eine Art von KI, ein sogenannter Transformer), um tausende von Posts und Antworten zu lesen. Das Programm lernte, die subtilen Muster in der Historie eines Nutzers zu erkennen – wie etwa eine plötzliche Änderung des Tons, das Reden darüber, dass die Schule überwältigend sei, oder das Fragen nach Rat, wie man aufhört, sich selbst zu verletzen – die darauf hindeuten könnten, dass Unheil droht. Das Team musste sehr vorsichtig sein. Zuerst lehrten sie den Computer, einen Post zu identifizieren, der tatsächlich Suizid erwähnte (was er mit großer Genauigkeit tat, nämlich in etwa 96 % der Fälle). Dann nutzten sie diese Fähigkeit, um eine Liste von Nutzern zu erstellen, die noch nie über Suizid gepostet hatten, dies aber in der Zukunft tun würden.
Als sie ihr EARLY-SIB-Modell an dieser Gruppe testeten, waren die Ergebnisse vielversprechend. Das Modell konnte zukünftige Suizidgedanken mit einer „balancierten Genauigkeit“ (balanced accuracy) von 0,73 vorhersagen. In der Welt der Vorhersage, in der das Zufallsraten meist etwa 0,50 erreicht, ist dies ein bedeutender Schritt nach oben. Es bedeutet, dass das Modell viel besser als der Zufall darin ist, diejenigen zu entdecken, die gefährdet sind. Dennoch ist das Paper sehr deutlich darin, dass dies keine magische Kristallkugel ist. Das Modell macht immer noch Fehler; es übersah einige Menschen, die gefährdet waren (ein „False Negative“), und markierte manchmal Leute, die es nicht waren (ein „False Positive“). Tatsächlich war das Modell besser darin, die Menschen zu finden, die tatsächlich gefährdet waren (es fand etwa 71 % von ihnen), als darin, sich über jeden einzelnen markierten Menschen absolut sicher zu sein (nur 10 % seiner Markierungen waren tatsächlich korrekt). Dies liegt daran, dass die Daten so unausgewogen sind: Von jeweils 100 Nutzern sind nur etwa 4 gefährdet, daher ist es sehr leicht, aus Versehen falsch zu liegen.
Die Forscher verwendeten auch ein spezielles Werkzeug namens SHAP, um in das Gehirn des Computers zu blicken und zu sehen, warum es seine Vorhersagen traf. Sie fanden heraus, dass das Modell sich nicht auf einen einzigen großen, dramatischen Post verließ. Stattdessen betrachtete es eine ganze Mischung aus Interaktionen, wie ein Puzzle, das aus vielen kleinen Teilen besteht. Zum Beispiel erzeugte ein Post darüber, dass die Schule zu viel sei, kombotiniert mit einer Antwort, in der nach Tipps zur Selbstverletzung gefragt wurde, ein Muster, das das Modell als gefährlich erkannte. Die Studie zeigte, dass das Modell besser wurde, je mehr Historie es lesen konnte (bis zu etwa 30 Interaktionen), was darauf hindeutet, dass die Warnzeichen über die Zeit verteilt sind und nicht nur in einem einzigen Moment auftreten.
Die Autoren betonen vorsichtig, dass dies eine „suggestive“ Erkenntnis ist und kein gelöstes Problem. Sie argumentieren, dass ihr Werkzeug zwar besser als die alten Methoden ist, aber nicht bereit ist, menschliche Ärzte oder Berater zu ersetzen. Sie sehen es als ein „Frühwarnsystem“, das menschlichen Moderatoren in Foren helfen könnte, Nutzer, die Hilfe benötigen könnten, früher zu bemerken. Sie warnen jedoch auch vor den Gefahren. Wenn das System jemanden markiert, der tatsächlich nicht in Gefahr ist, könnte dies unnötige Panik auslösen oder die Privatsphäre verletzen. Wenn es jemanden übersieht, der in Gefahr ist, könnten die Folgen tragisch sein. Das Paper kommt zu dem Schluss, dass die Technologie zwar zeigt, dass es möglich ist, diese Risiken aus Social-Media-Texten vorherzusagen, die wahre Herausforderung nun aber darin besteht, dieses Werkzeug verantwortungsbewusst, ethisch und effektiv in der realen Welt einzusetzen – um sicherzustellen, dass, wenn der Alarm schrillt, auch tatsächlich jemand da ist, der hilft.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.