Designing Safe and Accountable GenAI as a Learning Companion with Women Banned from Formal Education
यह शोध पत्र अफगानिस्तान की महिलाओं के साथ एक सहभागी डिजाइन अध्ययन प्रस्तुत करता है जो यह प्रकट करता है कि उन्हें जेनरेटिव एआई (GenAI) की आवश्यकता केवल एक सूचना स्रोत के रूप में नहीं, बल्कि एक सुरक्षित, जवाबदेह मार्गदर्शक के रूप में है, और साथ ही यह प्रदर्शित करता है कि ऐसे सिस्टमों का सह-डिज़ाइन करना न केवल महत्वपूर्ण गोपनीयता और शैक्षणिक जोखिमों को संबोधित करता है, बल्कि उपयोगकर्ताओं की आकांक्षाओं और एजेंसी को भी महत्वपूर्ण रूप से सशक्त बनाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए एक ऐसी दुनिया की जहाँ एक पुस्तकालय बंद है, एक कक्षा बंद है, और सीखने का एकमात्र तरीका एक ऐसी खिड़की के माध्यम से है जिसे आप हमेशा खोल नहीं सकते। यह अफगानिस्तान की कई महिलाओं की वास्तविकता है, जिन्हें औपचारिक शिक्षा से प्रतिबंधित कर दिया गया है। वे सीखने, कोडिंग करने और करियर बनाने के लिए भूखी हैं, लेकिन वे यह सब अकेले, अंधेरे में, और अक्सर परिवार के उन सदस्यों की निगरानी में कर रही हैं जो शायद इसे पसंद न करें।
यह शोध पत्र उन शोधकर्ताओं के समूह के बारे में है जिन्होंने इन 20 महिलाओं के साथ (आभासी रूप से) बैठकर पूछा: "यदि आपके पास सीखने में मदद करने के लिए एक जादुई एआई (AI) मित्र होता, तो वह कैसा दिखता, और हम यह कैसे सुनिश्चित करें कि वह आपको मुसीबत में न डाले?"
यहाँ उनकी यात्रा की कहानी है, जिसे सरल भाषा में समझाया गया है।
1. समस्या: एक "कांच के घर" में सीखना
आमतौर पर, जब आप कुछ नया सीखते हैं, तो आपके पास एक शिक्षक होता है, प्रश्न पूछने के लिए सहपाठी होते हैं, और गलतियाँ करने के लिए एक सुरक्षित स्थान होता है। इन महिलाओं के लिए, वह समुदाय गायब है। वे साझा पारिवारिक फोन, अस्थिर इंटरनेट और सख्त नियमों के बीच प्रोग्रामिंग और नौकरी के कौशल सीखने की कोशिश कर रही हैं।
यदि वे एक सामान्य एआई चैटबॉट का उपयोग करती हैं, तो यह एक कांच के घर में अध्ययन करने जैसा है।
- जोखिम: यदि एआई उनके चैट इतिहास को सहेज लेता है, या यदि फोन किसी भाई या पिता के साथ साझा किया जाता है जो स्क्रीन देख लेता है, तो महिला गंभीर खतरे में पड़ सकती है।
- मेल न खाना: एआई सुझाव दे सकता है, "पढ़ाई के लिए कॉफी शॉप पर जाएँ!" या "डेटिंग ऐप्स के बारे में एक प्रोजेक्ट पर काम करें!" उनके संदर्भ में, ये सुझाव न केवल अनुपयोगी हैं; वे खतरनाक और सांस्कृतिक रूप से असंभव हैं।
- जाल: यदि एआई केवल कोडिंग की समस्या का उत्तर दे देता है, तो महिला एक पल के लिए स्मार्ट महसूस करती है, लेकिन वह वास्तव में सीख नहीं रही होती है। यह परीक्षा के उत्तर की कुंजी मिलने जैसा है; आप परीक्षा पास कर लेते हैं, लेकिन आपको कार चलाना नहीं आता।
2. समाधान: "घोस्ट मेंटर" (Ghost Mentor)
शोधकर्ताओं ने महिलाओं से उनके आदर्श एआई साथी की कल्पना करने को कहा। वे ऐसा रोबोट नहीं चाहती थीं जो केवल तथ्य उगल दे। वे एक घोस्ट मेंटर चाहती थीं।
यहाँ इस घोस्ट मेंटर को क्या करने की आवश्यकता है:
- एक "साया" (Shadow) मित्र बनना: महिलाएँ एक ऐसा एआई चाहती थीं जो उनके बगल में बैठे एक साथी की तरह महसूस हो, लेकिन जो कोई पदचिह्न न छोड़े। इसे तुरंत अपने निशान मिटाने में सक्षम होना चाहिए। एक ऐसे ब्लैकबोर्ड की कल्पना करें जो आपसे नज़र हटाते ही खुद को मिटा देता है। कोई पंजीकरण नहीं, कोई सेव किया हुआ इतिहास नहीं, बस शुद्ध, सुरक्षित सहायता।
- "चीट कोड" नहीं, बल्कि एक "धैर्यवान शिक्षक" बनना: केवल यह कहने के बजाय कि, "यहाँ वह कोड है जिसकी आपको आवश्यकता है," एआई को कहना चाहिए, "आइए इस समस्या को छोटे हिस्सों में तोड़ते हैं। आपको क्या लगता है कि अगर हम इस चरण को आजमाएं तो क्या होगा?" इसे उन्हें सोचने की प्रक्रिया के माध्यम से मार्गदर्शन करना चाहिए ताकि वे वास्तव में सीख सकें, न कि केवल उत्तरों की नकल करें।
- एक "स्थानीय मार्गदर्शक" बनना: एआई को घर के नियमों का पता होना चाहिए। इसे सार्वजनिक इंटरनेट कैफे जाने का सुझाव नहीं देना चाहिए। इसे पता होना चाहिए कि उपयोगकर्ता के पास रात का खाना पकाने से पहले केवल 15 मिनट हैं, इसलिए इसे माइक्रो-लेसन (लघु-पाठ) पेश करने चाहिए जिन्हें रोका जा सके और बाद में फिर से शुरू किया जा सके। इसे उनकी स्थानीय भाषा बोलनी चाहिए लेकिन साथ ही धीरे-धीरे अंग्रेजी भी सिखानी चाहिए, जिसकी वैश्विक नौकरियों के लिए आवश्यकता है।
- एक "करियर ब्रिज" बनना: चूंकि वे व्यक्तिगत रूप से नौकरी के साक्षात्कार के लिए नहीं जा सकतीं, इसलिए एआई को एक सिम्युलेटर के रूप में कार्य करना चाहिए। यह अपवर्क (Upwork) जैसी वेबसाइट पर एक क्लाइंट होने का नाटक कर सकता है, जिससे महिलाएँ एक सुरक्षित, निजी स्थान में प्रस्ताव लिखने और कीमतों पर बातचीत करने का अभ्यास कर सकें।
3. "साथ मिलकर सपने देखने" का जादू
इस अध्ययन का सबसे आश्चर्यजनक हिस्सा केवल एआई को डिजाइन करना नहीं था। यह इस बारे में था कि डिजाइन प्रक्रिया के दौरान महिलाओं के साथ क्या हुआ।
शोधकर्ताओं ने केवल यह नहीं पूछा, "आप कौन सी विशेषताएं चाहती हैं?" उन्होंने कहा, "आइए मिलकर आपके भविष्य की कल्पना करें।"
जब महिलाओं को इस भविष्य को डिजाइन करने का मौका मिला, तो कुछ जादुय हुआ। उनकी आशा का स्तर आसमान छू गया।
- सत्र से पहले: वे फंसी हुई महसूस कर रही थीं, जैसे कोई दरवाजा खुला न हो।
- सत्र के बाद: वे एक रास्ता आगे देख पा रही थीं। वे अधिक शक्तिशाली (एजेंसी) महसूस कर रही थीं और अपने लक्ष्यों तक पहुँचने के अधिक रास्ते देख पा रही थीं।
यह अंधेरे कमरे में होने जैसा है और कोई आपको टॉर्च थमा देता है। आप केवल दीवार नहीं देखते; आप अचानक पूरा कमरा देख लेते हैं, और आपको एहसास होता है कि वहाँ ऐसे दरवाजे भी हैं जिनके बारे में आप नहीं जानते थे।
4. बड़ा सबक: जवाब से पहले सुरक्षा
इस शोध पत्र का मुख्य निष्कर्ष यह है कि खतरनाक या प्रतिबंधात्मक स्थितियों में रहने वाले लोगों के लिए, गति से अधिक सुरक्षा महत्वपूर्ण है।
एक स्वतंत्र देश के छात्र के लिए एक "अच्छा" एआई वह हो सकता है जो सबसे तेज़ उत्तर दे। लेकिन अफगानिस्तान की एक महिला के लिए एक "अच्छा" एआई वह होना चाहिए जो:
- उसकी पहचान की रक्षा करे (ताकि वह मुसीबत में न पड़े)।
- उसकी वास्तविकता का सम्मान करे (ताकि वह असंभव चीजें सुझाने के बजाय उसकी स्थिति को समझे)।
- उसे सोचने के लिए प्रेरित करे (ताकि वह निर्भर न बने)।
"सुरक्षित घर" (Safe House) का रूपक
इस जेन-एआई (GenAI) को एक सर्च इंजन के रूप में नहीं, बल्कि एक सुरक्षित घर के रूप में देखें।
- यह एक ऐसी जगह है जहाँ आप बिना देखे जाने के डर के अपने कौशल का अभ्यास कर सकते हैं।
- यह एक ऐसी जगह है जहाँ फर्नीचर (सलाह) आपके कमरे के आकार (आपकी सीमाओं) के अनुकूल है।
- यह एक ऐसी जगह है जहाँ आप अभी बाहर कदम रखे बिना बाहरी दुनिया (नौकरियों) के लिए अभ्यास कर सकते हैं।
शोधकर्ताओं ने निष्कर्ष निकाला कि यदि हम इस प्रकार की "जवाबदेही" के साथ एआई का निर्माण करते हैं—जहाँ हम कोड की तुलना में उपयोगकर्ता की सुरक्षा और वास्तविक जीवन के संदर्भ की उतनी ही परवाह करते हैं—तो हम महिलाओं को न केवल सीखने में, बल्कि वास्तव में अपने लिए भविष्य की कल्पना करने और निर्माण करने में मदद कर सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।