Social and Ethical Risks Posed by General-Purpose LLMs for Settling Newcomers in Canada
यह शोध पत्र चेतावनी देता है कि कनाडा के सेटलमेंट क्षेत्र में सामान्य-उद्देश्य वाले लार्ज लैंग्वेज मॉडल्स का अनियंत्रित उपयोग नए आगमनकर्ताओं के लिए महत्वपूर्ण जोखिम पैदा करता है, और सुरक्षित एवं प्रभावी एकीकरण सहायता सुनिश्चित करने के लिए एआई साक्षरता कार्यक्रमों और समुदाय-संरेखित, मानव-पर्यवेक्षित एआई उपकरणों के विकास का आग्रह करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि कनाडा के सेटलमेंट सेक्टर (बसावट क्षेत्र) को एक विशाल, हलचल भरे स्वागत केंद्र के रूप में, जो दुनिया भर से आने वाले लोगों के लिए है। इसका काम नए लोगों को घर, नौकरी, स्कूल और डॉक्टर खोजने में मदद करना है ताकि वे एक नया जीवन बना सकें। अभी, यह स्वागत केंद्र अत्यधिक व्यस्त है। जितने अधिक लोग आ रहे हैं, उससे कहीं अधिक लोग आ रहे हैं और कर्मचारी भी बहुत कम पड़ रहे हैं।
क्योंकि कर्मचारी व्यस्त हैं, इसलिए कई नए लोग (और यहाँ तक कि मददगार भी) अपनी जेब में मौजूद एक "जादुगत रोबोट" की ओर मुड़ रहे हैं: जनरल-परपज एआई (General-Purpose AI) (जैसे लोकप्रिय ChatGPT)। वे इससे सब कुछ पूछते हैं: "मुझे नौकरी कहाँ मिलेगी?" "मेरे बच्चे को किन टीकों की आवश्यकता है?" "मैं बैंक खाता कैसे खोलूँ?"
यह शोध पत्र उस जादुई रोबोट पर एक चेतावनी लेबल है। लेखक कहते हैं कि हालांकि यह रोबोट बुद्धिमान है, लेकिन इसे इस विशिष्ट स्वागत केंद्र के लिए नहीं बनाया गया था। बिना जांच किए इसे "ऑफ-द-शेल्फ" (तैयार रूप में) उपयोग करना, किसी विदेशी शहर में दिशा-निर्देशों के लिए एक प्रतिभाशाली लेकिन अप्रशिक्षित पर्यटक से पूछने जैसा है—वे आत्मविश्वास से भरे लग सकते हैं, लेकिन वे आसानी से आपको गलत रास्ते पर भेज सकते हैं।
यहाँ उन विशिष्ट खतरों का विवरण दिया गया जो शोध पत्र में पाए गए, सरल उपमाओं का उपयोग करते हुए:
1. "जॉब बायस" (रूढ़िवादिता का फिल्टर)
दावा: जब लेखकों ने एआई से नए लोगों के लिए नौकरियों का सुझाव देने को कहा, तो उनके देश के मूल के आधार पर जवाब बदल गए।
उपमा: कल्पना कीजिए कि एक हायरिंग मैनेजर गुप्त रूप से विश्वास करता है कि देश A के लोग केवल सफाई के लिए अच्छे हैं, जबकि देश B के लोग स्वाभाविक नेता होते हैं।
- क्या हुआ: जब एआई से फिलीपींस या अफगानिस्तान के किसी व्यक्ति के बारे में पूछा गया, तो इसने "एडमिनिस्ट्रेटिव असिस्टेंट" जैसे कम वेतन वाले काम सुझाए। जब यूके या जर्मनी के किसी व्यक्ति के बारे में पूछा गया, तो इसने "सॉफ्टवेयर डेवलपर" जैसे उच्च वेतन वाले काम सुझाए।
- जोखिम: एआई एक पक्षपाती फिल्टर की तरह काम कर रहा है, लोगों को वास्तव में योग्य करियरों से दूर ले जा रहा है, सिर्फ इसलिए क्योंकि वे जहाँ पैदा हुए थे वह मायने रखता है।
2. "भाषा का अंतर" (असमान अनुवादक)
दावा: एआई अंग्रेजी में बहुत अच्छा काम करता है लेकिन कई अन्य भाषाओं में संघर्ष करता है या पूरी तरह विफल हो जाता है।
उपमा: कल्पना कीजिए कि एक डॉक्टर जो अंग्रेजी में उत्तम बोलता है लेकिन फ्रेंच या स्पेनिश के केवल कुछ शब्द जानता है। यदि आप उनसे अपनी मातृभाषा में अपने स्वास्थ्य के बारे में पूछते हैं, तो वे शायद केवल सिर हिलाएंगे और कुछ अस्पष्ट कह देंगे, या इससे भी बुरा, आपको गलत सलाह दे सकते हैं।
- क्या हुआ: जब लेखकों ने अंग्रेजी में बच्चों के टीकों के बारे में पूछा, तो एआई ने एक अच्छा उत्तर दिया। लेकिन जब उन्होंने सोमाली, इग्बो या तमिल जैसी भाषाओं में पूछा, तो एआई ने शून्य सही जानकारी दी, कभी-कभी टीकों के बजाय किताबों या जन्म नियंत्रण के बारे में बात की।
- जोखिम: कम सामान्य भाषा बोलने वाले नए लोगों को एक "टूटा हुआ" संस्करण मिल रहा है, जिससे गंभीर स्वास्थ्य समस्याएं हो सकती हैं।
3. "दो सिर वाला राक्षस" (अंग्रेजी बनाम फ्रेंच)
दावा: कनाडा की दो आधिकारिक भाषाओं में भी, एआई निष्पक्ष नहीं है।
उपमा: कल्पना कीजिए कि एक गाइडबुक जिसमें अंग्रेजी में एक विस्तृत, 10-चरणीय मानचित्र है, लेकिन फ्रेंच में एक अस्पष्ट, 8-चरणीय मानचित्र है जो महत्वपूर्ण मोड़ों को छोड़ देता है।
- क्या हुआ: बैंक खाता खोलने के तरीके के बारे में पूछने पर, अंग्रेजी उत्तर एक स्पष्ट 10-चरणीय सूची थी। फ्रेंच उत्तर एक 8-चरणीय सूची थी जिसने महत्वपूर्ण विवरण छोड़ दिए। इसके अलावा, अंग्रेजी संस्करण ने उपयोगकर्ता को अपना बैंक चुनने दिया, जबकि फ्रेंच संस्करण ने बिना पूछे ही एक चुन लिया।
- जोखिम: फ्रेंच बोलने वाले नए लोगों को अपने अंग्रेजी बोलने वाले पड़ोसियों की तुलना में कम नियंत्रण और कम जानकारी मिलती है।
4. "हेलोग्राम ऑफ हेट" (रूढ़िवादिता और छवियां)
दावा: एआई ऐसी नकली छवियां और कहानियां बनाता है जो शरणार्थियों और प्रवासियों के बारे में हानिकारक रूढ़ियों को पुख्ता करती हैं।
उपमा: कल्पना कीजिए कि एक फिल्म निर्देशक जो केवल शरणार्थियों के रूप में दुखी, मध्य पूर्वी परिवारों को कास्ट करता है, जो सिर पर स्कार्फ पहने हुए हैं, यह नजरअंदाज करते हुए कि शरणार्थी पूरी दुनिया से आते हैं और वे बाकी सभी की तरह दिखते हैं।
- क्या हुआ: "शरणार्थी परिवार" की छवि बनाने के लिए पूछे जाने पर, एआई ने हमेशा एक मध्य पूर्वी मुस्लिम परिवार बनाया। "प्रवासी" के बारे में पूछे जाने पर, इसने ज्यादातर दक्षिण एशियाई परिवारों को बनाया। इसने यह भी माना कि पिता उच्च शिक्षित थे और माताएं कम शिक्षित थीं।
- जोखिम: यह लोगों के मन में एक झूठी वास्तविकता पैदा करता है, जिससे समाज को लगता है कि सभी शरणार्थी एक जैसे दिखते और व्यवहार करते हैं, जो पूर्वाग्रह को बढ़ावा देता है और समुदाय की वास्तविक विविधता को अनदेखा करता है।
5. "आत्मविश्वासी झूठा" (हैलुसिनेशन/भ्रम)
दावा: एआई ऐसे तथ्य बनाता है जो वास्तविक लगते हैं लेकिन पूरी तरह से फर्जी होते हैं।
उपमा: कल्पना कीजिए कि एक टूर गाइड आत्मविश्वास से एक इमारत की ओर इशारा करता है और कहता है, "वह प्रसिद्ध पुस्तकालय है," जबकि वास्तव में वह एक खाली मैदान है। गाइड इतना निश्चित लगता है कि आप उन पर विश्वास कर लेते हैं।
- क्या हुआ: एआई ने उन स्कूलों और सामुदायिक केंद्रों के नाम गढ़े जो अस्तित्व में ही नहीं हैं। इसने वास्तविक क्लीनिकों के गलत पते दिए। इसने लोगों को बताया कि एक क्लिनिक "वॉक-इन" है जबकि वह नहीं था।
- जोखिम: नए लोग, जो अभी शहर को नहीं जानते, एक ऐसी इमारत पर पहुँच सकते हैं जो अस्तित्व में ही नहीं है, जिससे उनका समय और उम्मीद दोनों बर्बाद होते हैं।
6. "पुराना अल्मानैक" (गलत सूचना)
दावा: एआई को नहीं पता कि अभी क्या हो रहा है।
उपमा: कल्पना कीजिए कि आप लाइब्रेरियन से आज के मौसम के बारे में पूछ रहे हैं, लेकिन वे तीन साल पहले छपी हुई किताब पढ़ रहे हैं। वे अतीत के लिए एक "सही" उत्तर देंगे, लेकिन आज के लिए वह बेकार है।
- क्या हुआ: जब ओंटारियो में न्यूनतम वेतन के बारे में पूछा गया, तो एआई ने 2021 या 2022 के आंकड़े दिए, भले ही वर्तमान दर इससे काफी अधिक थी।
- जोखिम: एक नया व्यक्ति कम वेतन पर नौकरी स्वीकार कर सकता है क्योंकि "रोबोट" ने उन्हें बताया कि यही सही दर है।
7. "भेड़ की खाल में भेड़िया" (दुर्भावनापूर्ण उपयोग)
दावा: बुरे तत्व इस एआई का उपयोग नए लोगों को ठगने के लिए कर सकते हैं।
उपमा: कल्पना कीजिए कि एक स्कैमर एक उच्च-तकनीकी वॉयस चेंजर का उपयोग करके बिल्कुल पुलिस अधिकारी या बैंक मैनेजर की तरह सुनाई देता है ताकि आपका पैसा चुरा सके।
- क्या हुआ: लेखकों ने दिखाया कि जबकि एआई में कुछ सुरक्षा उपाय हैं, चतुर स्कैमर इसे फर्जी रेंटल विज्ञापन लिखने, फर्जी आईडी इमेज बनाने, या कमजोर नए लोगों को निशाना बनाने के लिए फोन स्कैम के स्क्रिप्ट लिखने के लिए धोखा दे सकते हैं।
- जोखिम: नए लोग, जो पहले से ही इस सिस्टम को समझने में भ्रमित हैं, इन एआई-जनित घोटालों के आसान शिकार बन जाते हैं।
समाधान: रोबोट को निकालें नहीं, उसे बेहतर प्रशिक्षित करें
यह शोध पत्र यह नहीं कहता कि हमें एआई पर प्रतिबंध लगाना चाहिए। इसके बजाय, यह कहता है कि हमें इस विशिष्ट कार्य के लिए "ऑफ-द-शेल्फ" रोबोट का उपयोग करना बंद करना होगा।
- उपकरण को अनुकूलित करें: हमें एक विशेष एआई बनाने की आवश्यकता है जिसे केवल सत्यापित कनाडाई सेटलमेंट डेटा पर प्रशिक्षित किया गया हो, न कि पूरे इंटरनेट पर।
- मानवीय हस्तक्षेप (Human in the Loop): ठीक वैसे ही जैसे एक पायलट को सह-पायलट की आवश्यकता होती है, एआई को सेटलमेंट कार्यकर्ताओं के लिए एक सहायक होना चाहिए, न कि उनका विकल्प। एक मानव विशेषज्ञ को नए व्यक्ति तक पहुँचने से पहले एआई के काम की जांच करनी चाहिए।
- डिजिटल साक्षरता सिखाएं: नए लोगों को यह सिखाने की आवश्यकता है कि "जादुई रोबोट" झूठ बोल सकता है, ताकि वे महत्वपूर्ण तथ्यों की दोबारा जांच करना जान सकें।
संक्षेप में: वर्तमान एआई एक नेक इरादे वाले लेकिन अप्रशिक्षित इंटर्न की तरह है जो मदद करने के लिए उत्सुक है लेकिन तथ्यों को गढ़ता रहता है और पक्षपात दिखाता है। नए लोगों की सुरक्षा के लिए, हमें उस इंटर्न को एक विशेष, पर्यवेक्षित और सावधानीपूर्वक प्रशिक्षित सहायक से बदलने की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।