Shiny Stories, Hidden Struggles: Investigating the Representation of Disability Through the Lens of LLMs
यह शोध पत्र इस बात की जांच करता है कि लार्ज लैंग्वेज मॉडल्स (LLMs) विकलांगता का प्रतिनिधित्व कैसे करते हैं, जिसमें एआई-जनित सोशल मीडिया पोस्ट की वास्तविक व्यक्तियों द्वारा लिखे गए पोस्ट के साथ तुलना की गई है, जिससे यह पता चलता है कि LLMs अत्यधिक सकारात्मक, आदर्शवादी रूढ़ियों को उत्पन्न करने की प्रवृत्ति रखते हैं जो वास्तविक जीवन की चुनौतियों को मिटा देती हैं, और साथ ही करियर और मनोरंजन जैसे विषयों से विकलांग लोगों को बाहर करने वाले नकारात्मक पूर्वाग्रह भी प्रदर्शित करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, नेक दिल वाला रोबोट लाइब्रेरियन है। इस लाइब्रेरियन ने इंटरनेट पर लिखी गई लगभग हर चीज़ पढ़ ली है। इसका काम विभिन्न प्रकार के लोगों के बारे में कहानियाँ लिखना है, और इसे यथासंभव सटीक और दयालु होने का प्रयास करना है।
इस शोध पत्र के शोधकर्ताओं ने इस रोबोट लाइब्रेरियन से दो समूहों के दृष्टिकोण से सोशल मीडिया पोस्ट लिखने के लिए कहा:
- विकलांगता वाले वास्तविक लोग (वास्तविक रेडिट पोस्ट से एकत्र किए गए)।
- रोबोट, जो विकलांगता वाले व्यक्ति होने का ढोंग कर रहा है।
वे यह देखना चाहते थे कि क्या रोबोट की कहानियाँ वास्तविक कहानियों से मेल खाती हैं, या रोबोट एक अलग तरह की कहानी सुना रहा है। उन्होंने जो पाया, वह यहाँ सरल रूप में समझाया गया है:
1. "हाइलाइट रील" बनाम "रॉ फुटेज"
सबसे बड़ी खोज यह है कि रोबोट "हाइलाइट रील" का दीवाना है।
- रोबोट की कहानी: जब रोबोट विकलांगता वाले व्यक्ति के बारे में लिखता है, तो वह एक ऐसी तस्वीर पेश करता है जो लगभग 100% सकारात्मक होती है। यह आनंद, कृतज्ञता, शक्ति, विजय और प्रेरणा जैसे शब्दों का उपयोग करता है। यह एक फिल्म के ट्रेलर जैसा है जहाँ नायक हर बाधा को मुस्कान के साथ पार करता है, और संगीत अपने चरम पर होता है। रोबोट कुछ भी नकारात्मक कहने से डरा हुआ सा लगता है, इसलिए वह एक "टॉक्सिक पॉजिटिविटी" (विषाक्त सकारात्मकता) का बुलबुला बना देता है। ऐसा लगता है जैसे रोबोट सोचता है, "यदि मैं सब कुछ अद्भुत कह दूँ, तो मैं अपमानजनक नहीं हो पाऊँगा!"
- वास्तविक कहानी: विकलांगता वाले लोगों के वास्तविक पोस्ट कहीं अधिक जटिल हैं। उनमें मानव जीवन का पूरा स्पेक्ट्रम शामिल है, जिसमें दर्दनाक और कठिन हिस्से भी शामिल हैं। वास्तविक लोग दर्द, डॉक्टर, बेरोजगारी, चिंता, थकान और यहाँ तक कि आत्महत्या के विचारों के बारे में बात करते हैं। वे हमेशा "योद्धा" या "प्रेरणा" महसूस नहीं करते। कभी-कभी वे बस थका हुआ, निराश या उस दुनिया से परेशान महसूस करते हैं जो उनके लिए नहीं बनी है।
रूपक: कल्पना कीजिए कि किसी व्यक्ति का पैर टूट गया है।
- रोबोट एक पोस्ट लिखता है: "मेरा टूटा हुआ पैर लचीलेपन की एक सुंदर यात्रा है! मैं इस चुनौती के लिए बहुत आभारी हूँ और मैं बहुत शक्तिशाली महसूस कर रहा हूँ!"
- वास्तविक व्यक्ति लिखता है: "मेरे पैर में इतना दर्द है कि मैं सो नहीं पा रहा हूँ, बीमा कंपनी ने मेरा दावा खारिज कर दिया है, और मुझे डर है कि मैं अपनी नौकरी खो दूँगा। मैं बस चाहता हूँ कि यह दर्द रुक जाए।"
यह शोध पत्र तर्क देता है कि रोबोट का संस्करण, भले ही सुनने में अच्छा लगे, वास्तव में वास्तविक संघर्षों को मिटा देता है। यह एक फोटो पर फिल्टर लगाने जैसा है जो दर्द को गायब कर देता है; परिणाम सुंदर दिखता है, लेकिन यह सच नहीं है।
2. "सुपरहीरो" का जाल
शोधकर्ताओं ने पाया कि रोबोट लोगों को "सुपरहीरो" में बदलने का शौक रखता है। यह लड़ाई, संघर्ष, विजय और पार पाना जैसे शब्दों का उपयोग करता है।
यह एक समस्या है क्योंकि यह सुझाव देता है कि विकलांगता वाले व्यक्ति होने का एकमात्र तरीका लगातार लड़ना और जीतना है। यह संकेत देता है कि यदि आप संघर्ष कर रहे हैं या बस दिन काटने की कोशिश कर रहे हैं, तो आप इसे सही तरीके से नहीं कर रहे हैं। यह एक इंसान को दूसरों के लिए प्रेरणा के प्रतीक में बदल देता है, बजाय इसके कि वह अपने स्वयं के अनूठे, कभी-कभी कठिन जीवन वाला एक व्यक्ति हो।
3. रोबोट बाकी सबके लिए "काम" और "मज़ा" जानता है, लेकिन उनके लिए नहीं
शोधकर्ताओं ने रोबोट से एक सामान्य व्यक्ति होने का नाटक करने के लिए भी कहा (विकलांगता का उल्लेख किए बिना) और उसके पोस्ट की तुलना उन पोस्ट से की जहाँ उसने विकलांगता होने का ढोंग किया था।
- "सामान्य" लोगों के लिए: रोबोट ने मज़ेदार, रोमांचक चीजें लिखीं: हाइकिंग, स्वादिष्ट रात का खाना बनाना, उत्सवों में जाना, शानदार करियर होना और शौक का आनंद लेना।
- विकलांगता वाले लोगों के लिए: रोबोट ने लगभग कभी भी इन सामान्य, मज़ेदार चीजों के बारे में नहीं लिखा। इसके बजाय, इसने पूरी तरह से विकलांगता पर ध्यान केंद्रित किया: वकालत (advocacy), सुलभता (accessibility) और बाधाओं को पार करना।
रूपक: यह ऐसा है जैसे रोबोट सोचता है कि यदि आपके पास कोई विकलांगता है, तो आपका पूरा जीवन आपकी विकलांगता से परिभाषित होता है। वह भूल जाता है कि विकलांगता वाले लोग भी अपनी पसंदीदा फिल्म, अपने काम या अपने रात के खाने के बारे में बात करना चाहते हैं। रोबोट "विकलांगता" के लेबल को उन पर इतनी मजबूती से चिपका देता है कि यह उनकी मानवता के बारे में बाकी सब कुछ रोक देता है।
4. यह क्यों होता है?
शोध पत्र सुझाव देता है कि रोबोट ऐसा कर रहा है क्योंकि उसे "सुरक्षित" और "विनम्र" होने के लिए प्रशिक्षित किया गया है। डेवलपर्स ने रोबोट को बुरा या अपमानजनक होने से रोकने के लिए सुरक्षा घेरे (guardrails) बनाए हैं। लेकिन नकारात्मक होने से बचने के चक्कर में, रोबोट ने पेंडुलम को बहुत दूर की ओर झुका दिया। उसने तय किया कि विकलांगता के बारे में बात करने का एकमात्र "सुरक्षित" तरीका इसे एक प्रेरणादायक सफलता की कहानी के रूप में दिखाना है।
निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि जबकि रोबोट दयालु होने की कोशिश कर रहा है, वह वास्तव में सच्चाई को छिपा रहा है। विकलांगता को जीत के निरंतर परेड और सकारात्मक वाइब्स के रूप में दिखाकर, यह उन वास्तविक, कठिन और अक्सर दर्दनाक वास्तविकताओं को अनदेखा करता है जिनका कई लोग सामना करते हैं।
शोधकर्ता कहते हैं कि हमें इन AI मॉडलों को ईमानदार होने देने की आवश्यकता है। हमें उन्हें यह कहने में सक्षम होने की आवश्यकता है कि, "कभी-कभी जीवन कठिन होता है," बिना इसे एक मुस्कुराते हुए चेहरे के साथ ठीक करने की कोशिश किए। सच्ची समावेशिता (inclusion) मानव जीवन की पूर्ण, जटिल वास्तविकता को स्वीकार करने में है, न कि केवल चमकदार, आदर्श हिस्सों को।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।