Reading Between the Signs: Predicting Future Suicidal Ideation from Adolescent Social Media Texts
Dit artikel introduceert Early-SIB, een op transformer gebaseerd model dat toekomstige suïcidale ideatie en gedrag bij adolescenten voorspelt door hun sociale media-berichten sequentieel te analyseren, waarbij een gebalanceerde nauwkeurigheid van 0,73 wordt bereikt op een Nederlands jeugdforum terwijl er interpreteerbare inzichten worden geboden via Shapley Additive Explanations.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een detective bent die een mysterie probeert op te lossen, maar de aanwijzingen zijn verborgen in een enorme, lawaaierige bibliotheek waar miljoenen mensen elke seconde hun geheimen aan elkaar fluisteren. Dit is de wereld van sociale media, een digitale ruimte waar tieners vaak hun diepste angsten, frustraties en dromen delen lang voordat ze dit ooit aan een arts of ouder vertellen. Decennialang hebben wetenschappers geprobeerd te voorspellen wanneer iemand in gevaar kan komen zichzelf te verwonden door te kijken naar "risicofactoren"—dingen zoals verdrietig zijn, een moeilijke jeugd hebben of een gevoel van hopeloosheid. Denk aan deze factoren als het controleren van de rugzak van een persoon om te zien of ze zware stenen dragen; hoewel zware stenen een slecht teken zijn, dragen veel mensen met zware stenen ze nooit af, en sommige mensen die ze aflegden, droegen in eerste instantie niets voor de hand ligends. Sterker nog, voor de afgelopen vijftig jaar was het proberen te voorspellen van zelfmoord met behulp van deze traditionele checklists als het opgooien van een muntje; het werkte net iets beter dan gokken. Maar wat als we naar de fluisteringen in de bibliotheek konden luisteren voordat de persoon zelfs de enge woorden hardop uitspreekt? Dat is de grote vraag die dit artikel stelt: Kunnen we de waarschuwingssignalen in de online gesprekken van een tiener opsporen voordat ze ooit een bericht plaatsen over het willen beëindigen van hun leven?
De onderzoekers achter deze studie, werkend met een Nederlands hulfforum voor jongeren genaamd "De Kindertelefoon", besloten een digitale detective genaamd EARLY-SIB te bouwen. Hun doel was om te zien of ze konden voorspellen of een gebruiker uiteindelijk een bericht zou schrijven over suïcidale gedachten of acties, gebaseerd op alleen de dingen die zij vóór dat moment hadden geschreven en beantwoord. Het is alsof je probeert te raden dat er een storm aankomt door te kijken naar hoe de vogels vliegen en hoe de wind waait, in plaats van te wachten op de eerste regendruppel.
Om dit te doen, keken ze niet alleen naar het woord "zelfmoord". In plaats daarvan trainden ze een slim computerprogramma (een type AI genaamd een transformer) om duizenden berichten en reacties te lezen. Het programma leerde subtiele patronen in de geschiedenis van een gebruiker te herkennen—zoals een plotselinge verandering in toon, praten over school die overweldigend is, of vragen om advies over hoe ze te stoppen met zichzelf pijn doen—die kunnen signaleren dat er problemen broeien. Het team moest zeer voorzichtig zijn. Eerst leerden ze de computer hoe hij een bericht kon herkennen dat daadwerkelijk zelfmoord vermeldde (wat het met grote nauwkeurigheid deed, ongeveer 96% van de tijd). Daarna gebruikten ze die vaardigheid om een lijst van gebruikers te maken die nog nooit over zelfmoord hadden gepost, maar die dat in de toekomst wel zouden doen.
Toen ze hun EARLY-SIB-model testten op deze groep, waren de resultaten veelbelovend. Het model was in staat om toekomstige suïcidale gedachten te voorspellen met een "gebalanceerde nauwkeurigheid" van 0,73. In de wereld van voorspellingen, waar willekeurig gokken meestal rond de 0,50 ligt, is dit een significante stap omhoog. Het betekent dat het model veel beter is dan toeval bij het opsporen van wie er een risico loopt. De tekst is echter heel duidelijk dat dit geen magische kristallen bol is. Het model maakt nog steeds fouten; het miste sommige mensen die wel een risico liepen (een "vals negatief") en markeerde soms mensen die dat niet waren (een "vals positief"). Sterker nog, het model was beter in het vinden van de mensen die wel een risico liepen (het kreeg ongeveer 71% van hen gevonden) dan in het perfect zeker zijn over elke persoon die het markeerde (slechts 10% van de meldingen was daadwerkelijk correct). Dit komt omdat de data zo ongebalanceerd is: van elke 100 gebruikers zijn er slechts ongeveer 4 die een risico lopen, dus is het heel makkelijk om per ongeluk fout te zitten.
De onderzoekers gebruikten ook een speciale tool genaamd SHAP om in de hersenen van de computer te kijken en te zien waarom het zijn voorspellingen deed. Ze ontdekten dat het model niet alleen vertrouwde op één groot, dramatisch bericht. In plaats daarvan keek het naar een hele mix van interacties, zoals een puzzel gemaakt van vele kleine stukjes. Bijvoorbeeld, een bericht over school die te veel is, gecombineerd met een reactie waarin wordt gevraagd naar tips voor zelfbeschadiging, creëerde een patroon dat het model als gevaarlijk herkende. De studie toonde aan dat hoe meer geschiedenis het model kon lezen (tot ongeveer 30 interacties), hoe beter het werd, wat suggereert dat de waarschuwingssignalen verspreid zijn over de tijd, en niet slechts in één moment.
De auteurs zijn voorzichtig in hun stelling dat dit een "suggestieve" bevinding is, en geen opgelost probleem. Ze betogen dat hoewel hun instrument beter is dan de oude methoden, het niet klaar is om menselijke artsen of counselors te vervangen. Ze zien het als een "vroeg waarschuwingssysteem" dat menselijke moderatoren op fora kan helpen om gebruikers die hulp nodig hebben eerder op te merken. Ze waarschuwen echter ook voor de gevaren. Als het systeem iemand markeert die eigenlijk niet in gevaar is, kan dit onnodige paniek veroorzaken of de privacy schenden. Als het iemand mist die wel in gevaar is, kunnen de gevolgen tragisch zijn. Het artikel concludeert dat hoewel de technologie laat zien dat het mogelijk is om deze risico's te voorspellen vanuit tekst op sociale media, de echte uitdaging nu is om te bepalen hoe we deze tool verantwoordelijk, ethisch en effectief in de echte wereld gebruiken, waarbij we ervoor zorgen dat er ook echt iemand aanwezig is om te helpen wanneer het alarm afgaat.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.