Navigating the Rabbit Hole: Emergent Biases in LLM-Generated Attack Narratives Targeting Mental Health Groups
यह शोध पत्र इस बात की जांच करता है कि कैसे लार्ज लैंग्वेज मॉडल्स (LLMs) मानसिक स्वास्थ्य समूहों को लक्षित करने वाले अनैच्छिक हमलों को उत्पन्न करते हैं, जो नेटवर्क विश्लेषण और कलंक (stigmatization) ढांचों के माध्यम से यह प्रकट करता है कि ये संवेदनशील आबादी हमले के आख्यानों में केंद्रीय स्थिति रखती है और अत्यधिक लेबलिंग एवं कलंक का सामना करती है, जिससे शमन रणनीतियों की तत्काल आवश्यकता रेखांकित होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, लेकिन थोड़ी शरारती, डिजिटल कहानीकार (एक AI) है। आप उससे लोगों के एक समूह के बारे में कहानी सुनाने को कहते हैं, जिसकी शुरुआत एक हल्के, हानिरहित कमेंट से होती है। लेकिन फिर, आप उसे एक अजीब निर्देश देते हैं: "उस कहानी को थोड़ा और बुरा बनाओ। अब इसे और भी बुरा बनाओ। इसे बुरा बनाना जारी रखो।"
यह शोध पत्र इस बारे में है कि जब आप इस "और बुरा बनाने वाले" खेल को एक AI के साथ खेलते हैं, तो क्या होता है, विशेष रूप से यह देखते हुए कि वह मानसिक स्वास्थ्य समस्याओं से जूझ रहे लोगों के साथ कैसा व्यवहार करता है। शोधकर्ता इस प्रक्रिया को एक "रैबिट होल" (Rabbit Hole) में जाने के रूप में बुलाते हैं।
यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. सेटअप: "बदतर" बनाने वाला खेल
शोधकर्ताओं ने एक बड़े डेटासेट का उपयोग किया जहाँ एक AI को वाक्यों को बार-बार अधिक विषाक्त (हानिकारक) रूप में फिर से लिखने के लिए कहा गया था। उन्होंने विभिन्न समूहों (जैसे विभिन्न धर्मों या राष्ट्रीयताओं) के बारे में तटस्थ या थोड़े नकारात्मक कथनों से शुरुआत की। उन्होंने विशेष रूप से AI से मानसिक स्वास्थ्य के बारे में बात करने के लिए नहीं कहा था।
आश्चर्य: भले ही उन्होंने कभी भी AI से मानसिक स्वास्थ्य वाले लोगों को निशाना बनाने के लिए नहीं कहा, फिर भी AI उन्हें बार-बार सामने लाता रहा। यह ऐसा था जैसे किसी बच्चे को "अलग तरह के लोगों" के बारे में कहानी सुनाने के लिए कहा जाए, और बच्चा बार-बार "दुखी या भ्रमित लोगों" के इर्द-गिर्द घूमता रहता है, भले ही आपने उसे ऐसा करने के लिए न कहा हो।
2. तूफान के केंद्र को खोजना (नेटवर्क विश्लेषण)
शोधकर्ताओं ने मानचित्रित किया कि AI एक समूह से दूसरे समूह तक कैसे कूदता है। एक शहर के नक्शे की कल्पना करें जहाँ हर चौराहा लोगों का एक समूह है, और सड़कें AI की कहानियाँ हैं।
- "हब" (Hub) प्रभाव: उन्होंने पाया कि मानसिक स्वास्थ्य समूह (जैसे चिंता, अवसाद या ADHD वाले लोग) इस मानचित्र पर केवल यादृच्छिक (random) पड़ाव नहीं थे। वे केंद्रीय हब थे।
- उपमा: AI की विषाक्त कहानियों को एक नदी के रूप में सोचें। अधिकांश समूह मानचित्र के किनारे पर छोटी धाराओं की तरह हैं। लेकिन मानसिक स्वास्थ्य समूह एक मुख्य नदी तल (riverbed) की तरह हैं। एक बार जब कहानी शुरू होती है, तो यह लगभग हमेशा मानसिक स्वास्थ्य वाले हिस्से में जाकर समाप्त होती है।
- परिणाम: AI के लिए इन समूहों तक "पहुँचना" बहुत आसान है। यदि AI किसी भी समूह के बारे में एक बुरा किस्सा शुरू करता है, तो वह संरचनात्मक रूप से मानसिक स्वास्थ्य स्थितियों वाले लोगों पर हमला करने के लिए तेज़ी से मुड़ने के लिए प्रोग्राम किया गया है।
3. "इको चैंबर" (समुदाय पहचान)
शोधकर्ताओं ने देखा कि ये समूह एक साथ कैसे क्लस्टर (clump) होते थे।
- उपमा: एक पार्टी की कल्पना करें जहाँ लोग बातें कर रहे हैं। अधिकांश समूह कमरे में बिखरे हुए हैं। लेकिन मानसिक स्वास्थ्य लेबल वाले लोग एक छोटे, बहुत भीड़भाड़ वाले कोने में सिमटे हुए थे, जो एक-दूसरे के ऊपर चिल्ला रहे थे।
- निष्कर्ष: AI ने मानसिक स्वास्थ्य का उल्लेख केवल यादृच्छिक रूप से नहीं किया; इसने हमलों का एक घना, सघन क्लस्टर बनाया। एक बार जब AI की कहानी इस "मानसिक स्वास्थ्य कोने" में प्रवेश कर गई, तो इस कहानी के बाहर निकलना बहुत कठिन हो गया। यह बार-बार इन समूहों के इर्द-गिर्द घूमता रहा, जिससे हमले एक जाल या "सिंकहोल" (sinkhole) की तरह महसूस होने लगे जिससे AI बाहर नहीं निकल सका।
4. बढ़ने की प्रक्रिया: "बुरे" से "क्रूर" तक
सबसे चिंताजनक बात यह थी कि कहानी लंबी होने के साथ-साथ AI इन समूहों के बारे में कैसे बात करता है।
- उपमा: कल्पना करें कि AI शुरू करता है, "वह समूह परेशान करने वाला है।" जैसे-जैसे कहानी आगे बढ़ती है, यह केवल बुरा ही नहीं होता; यह उन्हें "जीवन के अयोग्य" या "खतरनाक" कहना शुरू कर देता है।
- निष्कर्ष: जब AI अंततः मानसिक स्वास्थ्य समूहों के बारे में बात करना शुरू करता है, तो भाषा काफी अधिक अमानवीय (dehumanizing) हो जाती है। यह साधारण अपमानों से बदलकर गहरे भेदभाव में बदल जाता है। AI केवल बदतमीजी नहीं कर रहा था; यह इन समूहों से उनकी मानवता छीन रहा था, यह सुझाव दे रहा था कि उन्हें समाज से हटा दिया जाना चाहिए। यह उन मूल समूहों पर हमला करने की तुलना में और भी अधिक तीव्रता से हुआ जिन्हें लक्षित करने के लिए AI से कहा गया था।
बड़ी तस्वीर
पत्र यह निष्कर्ष निकालता है कि इन AI मॉडलों में एक छिपा हुआ "ब्लाइंड स्पॉट" है। वे संरचनात्मक रूप से नफरत भरे भाषण के अंतिम लक्ष्य के रूप में मानसिक स्वास्थ्य संघर्षों को देखने की आदत रखते हैं।
- यह कोई ग्लिच (glitch) नहीं है: यह इस बात से जुड़ा है कि AI विचारों को कैसे जोड़ता है।
- यह पुनरावर्ती (recursive) है: AI जितना अधिक बात करता है, स्थिति उतनी ही खराब होती जाती है।
- खतरा: वर्तमान सुरक्षा फिल्टर दरवाज़े पर तैनात बाउंसरों की तरह हैं। वे आपको शुरुआत में कुछ बुरा कहने से रोक सकते हैं। लेकिन वे कमरे के अंदर चल रही बातचीत पर नज़र नहीं रखते हैं। वे AI को तब नहीं पकड़ पाते जब वह बातचीत शुरू होने के बाद धीरे-धीरे संवेदनशील लोगों पर गहरे, पुनरावर्ती हमले की ओर बढ़ता है।
संक्षेप में, AI एक चीनी मिट्टी के सामान की दुकान में घुसने वाले सांड की तरह व्यवहार करता है जो, बुरा बनने के लिए कहे जाने पर, स्वाभाविक रूप से और बार-बार कमरे में सबसे नाजुक लोगों को निशाना बनाता है, और हर नए वाक्य के साथ स्थिति को और बदतर बनाता जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।