Reading Between the Signs: Predicting Future Suicidal Ideation from Adolescent Social Media Texts
यह शोध पत्र Early-SIB को प्रस्तुत करता है, जो एक ट्रांसफॉर्मर-आधारित मॉडल है जो किशोरों के सोशल मीडिया पोस्ट का क्रमिक रूप से विश्लेषण करके भविष्य के आत्मघाती विचारों और व्यवहार की भविष्यवाणी करता है, जिसने एक डच यूथ फोरम पर 0.73 की संतुलित सटीकता प्राप्त की है और साथ ही शैप्ली एडिटिव एक्सप्लेनेशन्स (Shapley Additive Explanations) के माध्यम से व्याख्यात्मक अंतर्दृष्टि प्रदान की है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे हैं एक जासूस के रूप में, लेकिन सुराग एक विशाल, शोर भरी लाइब्रेरी में छिपे हुए हैं जहाँ लाखों लोग हर सेकंड एक-दूसरे को अपने राज फुसफुसा रहे हैं। यह सोशल मीडिया की दुनिया है, एक ऐसा डिजिटल स्थान जहाँ किशोर अक्सर अपनी गहरी आशंकाओं, हताशाओं और सपनों को साझा करते हैं, इससे बहुत पहले जब वे कभी किसी डॉक्टर या माता-पिता को बताते हैं। दशकों से, वैज्ञानिक यह अनुमान लगाने की कोशिश कर रहे हैं कि कब कोई व्यक्ति खुद को नुकसान पहुँचाने के खतरे में हो सकता है, "जोखिम कारकों" (risk factors) को देखकर—जैसे कि उदास होना, एक कठिन बचपन होना, या निराशा महसूस करना। इन कारकों को एक व्यक्ति के बैकपैक की जाँच करने जैसा समझें कि क्या वे भारी पत्थर ढो रहे हैं; जबकि भारी पत्थर एक बुरा संकेत हैं, कई लोग जो उन्हें ढोते हैं वे कभी उन्हें गिराते नहीं हैं, और कुछ लोग जो उन्हें गिरा देते थे, वे स्पष्ट रूप से कुछ भी नहीं ढो रहे थे। वास्तव में, पिछले पचास वर्षों में, पारंपरिक चेकलिस्ट का उपयोग करके आत्महत्या की भविष्यवाणी करने की कोशिश करना एक सिक्का उछालने जैसा था; यह केवल अंदाज़ा लगाने से थोड़ा बेहतर काम करता है। लेकिन क्या होगा अगर हम लाइब्रेरी में फुसफुसाहटों को सुन सकें उससे पहले कि व्यक्ति डरावने शब्द ज़ोर से बोले? यही वह बड़ा सवाल है जो यह शोध पत्र पूछता है: क्या हम एक किशोर की ऑनलाइन बातचीत में चेतावनी के संकेतों को पहचान सकते हैं, इससे पहले कि वे कभी जीवन समाप्त करने की इच्छा के बारे में कोई संदेश पोस्ट करें?
इस अध्ययन के पीछे के शोधकर्ताओं ने, "De Kindertelefoon" नामक युवाओं के एक डच हेल्प फोरम के साथ मिलकर, एक डिजिटल जासूस बनाने का निर्णय लिया जिसका नाम EARLY-SIB है। उनका लक्ष्य यह देखना था कि क्या वे यह अनुमान लगा सकते हैं कि कोई उपयोगकर्ता भविष्य में आत्मघाती विचारों या कार्यों के बारे में लिखेगा या नहीं, केवल उन चीजों के आधार पर जो उन्होंने उस क्षण से पहले लिखी और जवाब दी थीं। यह यह अनुमान लगाने जैसा है कि तूफान आने वाला है यह देखकर कि पक्षी कैसे उड़ रहे हैं और हवा कैसे चल रही है, बजाय इसके कि पहली बूंद गिरने का इंतज़ार किया जाए।
इसे करने के लिए, उन्होंने केवल "suicide" (आत्महत्या) शब्द की तलाश नहीं की। इसके बजाय, उन्होंने एक स्मार्ट कंप्यूटर प्रोग्राम (एक प्रकार का AI जिसे 'ट्रांसफॉर्मर' कहा जाता है) को प्रशिक्षित किया ताकि वह हजारों पोस्ट और जवाबों को पढ़ सके। प्रोग्राम ने उपयोगकर्ता के इतिहास में सूक्ष्म पैटर्न को पहचानना सीखा—जैसे कि लहजे में अचानक बदलाव, स्कूल के बारे में अत्यधिक तनावपूर्ण बातें करना, या खुद को चोट पहुँचाने से कैसे रोकें इस पर सलाह मांगना—जो संकेत दे सकते हैं कि समस्या पनप रही है। टीम को बहुत सावधान रहना पड़ा। पहले, उन्होंने कंप्यूटर को यह सिखाया कि वास्तव में आत्महत्या का उल्लेख करने वाली पोस्ट को कैसे पहचाना जाए (जिसे इसने लगभग 96% सटीकता के साथ सही पहचाना)। फिर, उन्होंने उस कौशल का उपयोग उन उपयोगकर्ताओं की एक सूची बनाने के लिए किया जिन्होंने अभी तक आत्महत्या के बारे में पोस्ट नहीं किया है, लेकिन जो भविष्य में इसके बारे में पोस्ट करेंगे।
जब उन्होंने इस समूह पर अपने EARLY-SIB मॉडल का परीक्षण किया, तो परिणाम उत्साहजनक थे। मॉडल भविष्य के आत्मघाती विचारों की भविष्यवाणी करने में 0.73 की "संतुलित सटीकता" (balanced accuracy) के साथ सक्षम था। भविष्यवाणी की दुनिया में, जहाँ रैंडम अंदाज़ा लगाने पर आमतौर पर आपको लगभग 0.50 मिलता है, यह एक महत्वपूर्ण प्रगति है। इसका मतलब है कि यह मॉडल जोखिम में मौजूद लोगों को पहचानने में संयोग से कहीं बेहतर है। हालाँकि, पेपर बहुत स्पष्ट है कि यह कोई जादुई क्रिस्टल बॉल नहीं है। मॉडल गलतियाँ करता है; इसने उन लोगों को मिस किया जो जोखिम में थे (एक "फॉल्स नेगेटिव") और कभी-कभी उन लोगों को भी फ्लैग किया जो जोखिम में नहीं थे (एक "फॉल्स पॉजिटिव")। वास्तव में, मॉडल उन लोगों को खोजने में बेहतर था जो जोखिम में थे (लगभग 71% उन्हें पकड़ लिया), बजाय इसके कि वह हर उस व्यक्ति के बारे में पूरी तरह निश्चित होता जिसे उसने फ्लैग किया था (इसके फ्लैग्स में से केवल 10% ही वास्तव में सही थे)। ऐसा इसलिए है क्योंकि डेटा बहुत असंतुलित है: प्रत्येक 100 उपयोगकर्ताओं में से केवल लगभग 4 ही जोखिम में होते हैं, इसलिए गलती से गलत होना बहुत आसान है।
शोधकर्ताओं ने कंप्यूटर के मस्तिष्क के भीतर झाँकने और यह देखने के लिए कि यह अपने अनुमान क्यों लगा रहा है, SHAP नामक एक विशेष उपकरण का भी उपयोग किया। उन्होंने पाया कि मॉडल केवल एक बड़ी, नाटकीय पोस्ट पर निर्भर नहीं था। इसके बजाय, इसने कई अंतःक्रियाओं (interactions) के मिश्रण को देखा, जैसे कि एक पहेली जो कई छोटे टुकड़ों से बनी हो। उदाहरण के लिए, स्कूल के बारे में एक पोस्ट कि वह बहुत अधिक बोझिल है, और उसके साथ खुद को नुकसान पहुँचाने के सुझावों के बारे में पूछने वाला एक जवाब, एक ऐसा पैटर्न बनाता है जिसे मॉडल ने खतरनाक के रूप में पहचाना। अध्ययन ने दिखाया कि मॉडल जितना अधिक इतिहास पढ़ सकता था (लगभग 30 अंतःक्रियाओं तक), वह उतना ही बेहतर होता गया, जिससे पता चलता है कि चेतावनी के संकेत समय के साथ फैले हुए होते हैं, न कि केवल एक क्षण में।
लेखक सावधानीपूर्वक कहते हैं कि यह एक "सुझावात्मक" (suggestive) निष्कर्ष है, न कि कोई हल की गई समस्या। उनका तर्क है कि हालांकि उनका उपकरण पुराने तरीकों से बेहतर है, लेकिन यह मानव डॉक्टरों या परामर्शदाताओं को बदलने के लिए तैयार नहीं है। वे इसे एक "प्रारंभिक चेतावनी प्रणाली" के रूप में देखते हैं जो फोरम के मानव मॉडरेटरों को उन उपयोगकर्ताओं को जल्दी पहचानने में मदद कर सकती है जिन्हें मदद की आवश्यकता हो सकती है। हालाँकि, वे खतरों के बारे में भी चेतावनी देते हैं। यदि सिस्टम किसी ऐसे व्यक्ति को फ्लैग करता है जो वास्तव में खतरे में नहीं है, तो यह अनावश्यक घबराहट पैदा कर सकता है या उनकी गोपनीयता का उल्लंघन कर सकता है। यदि यह किसी ऐसे व्यक्ति को मिस कर देता है जो खतरे में है, तो इसके परिणाम दुखद हो सकते हैं। पेपर निष्कर्ष निकालता है कि हालांकि तकनीक यह दिखाना संभव बनाती है कि इन जोखिमों की भविष्यवाणी सोशल मीडिया टेक्स्ट से की जा सकती है, वास्तविक चुनौती अब इस उपकरण का जिम्मेदारी से, नैतिक रूप से और प्रभावी ढंग से उपयोग करने का तरीका ढूंढना है, यह सुनिश्चित करना कि जब अलार्म बजे, तो वास्तव में वहां कोई मदद के लिए मौजूद हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।