Whose Knowledge Counts? Co-Designing Community-Centered AI Auditing Tools with Educators in Hawai`i
हवाई के 22 शिक्षकों के साथ सह-डिज़ाइन कार्यशालाओं के माध्यम से, यह शोध पत्र जनरेटिव एआई में सांस्कृतिक गलत प्रस्तुति के बारे में चिंताओं की पहचान करता है और न्यायसंगत एवं सांस्कृतिक रूप से उत्तरदायी शैक्षिक प्रौद्योगिकियों को सुनिश्चित करने के लिए हवाई सांस्कृतिक मूल्यों पर आधारित समुदाय-केंद्रित ऑडिटिंग टूल प्रस्तावित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अभी-अभी एक बिल्कुल नया, सुपर-स्मार्ट रोबोट शिक्षक सहायक खरीदा है। आप उससे अपने गृहनगर के बारे में एक कहानी लिखने में मदद करने के लिए कहते हैं, और वह बहुत अच्छा काम करता है—सिवाय एक चीज़ के—वह इतिहास को गलत बताता है, रूढ़ियों (stereotypes) का उपयोग करता है, और आपके समुदाय की आत्मा को समझने में विफल रहता है।
यह बिल्कुल वही हुआ जब हवाई (Hawai'i) के शोधकर्ताओं ने स्थानीय शिक्षकों से अपनी कक्षाओं में जेनरेटिव एआई (Generative AI) (जैसे ChatGPT) को आज़माने के लिए कहा। शिक्षक इस सहायक को पाने के विचार को पसंद कर रहे थे, लेकिन उन्हें जल्द ही एहसास हुआ कि रोबोट तथ्यों के मामले में "भ्रमित" (hallucinating) हो रहा था और उससे भी महत्वपूर्ण बात यह कि वह उनकी संस्कृति का गलत चित्रण कर रहा था।
यहाँ "Whose Knowledge Counts?" पेपर का रोज़मर्रा के उदाहरणों का उपयोग करके एक सरल विवरण दिया गया है।
1. समस्या: "पर्यटक ब्रोशर" वाला रोबोट
शोधकर्ताओं ने पाया कि एआई मॉडल मुख्य रूप से पश्चिम (जैसे अमेरिकी मुख्य भूमि) के डेटा पर प्रशिक्षित हैं। एआई को एक ऐसे पर्यटक की तरह समझें जिसने केवल हवाई के बारे में एक चमकदार ब्रोशर पढ़ा है लेकिन कभी वहां रहा नहीं है।
- गड़बड़ी (The Glitch): कैप्टन कुक के बारे में पूछे जाने पर, एआई ने एक "संशोधित" (sanitized) कहानी सुनाई, जैसे कि वह एक मिलनसार खोजकर्ता था। उसने उस नुकसान को पूरी तरह से अनदेखा कर दिया जो उसने मूल निवासी हवाईवासियों को पहुँचाया था।
- रूढ़िवादिता (The Stereotype): एक हवाई कक्षा की छवि बनाने के लिए कहे जाने पर, एआई ने उसमें हूला स्कर्ट पहने लोग और अनानास भर दिए, इस तथ्य को नज़रअंदाज़ करते हुए कि आधुनिक हवाई कक्षाएं विविध हैं और अनानास वास्तव में उपनिवेशवाद (colonization) का प्रतीक है, न कि केवल एक फल।
- भाषा का अंतर (The Language Gap): एआई को 'Ōlelo Hawai'i (हवाई भाषा) के साथ संघर्ष करना पड़ा, महत्वपूर्ण विराम चिह्नों को छोड़ दिया और ऐसे वाक्यांशों का उपयोग किया जो कोई भी मूल निवासी कभी उपयोग नहीं करेगा।
खतरा: यदि शिक्षक इन उपकरणों का उपयोग बिना जांचे करते हैं, तो वे अनजाने में अपने छात्रों को अपने ही इतिहास का एक नकली संस्करण पढ़ा सकते हैं।
2. समाधान: एक "सामुदायिक जासूस किट" बनाना
शोधकर्ताओं ने केवल यह नहीं कहा कि "एआई बुरा है।" इसके बजाय, वे 22 स्थानीय शिक्षकों के साथ बैठे और पूछा, "यदि आपके पास इसे ठीक करने के लिए एक जादुई छड़ी होती, तो यह कैसी दिखती?"
वे एक सामान्य "तथ्य-जांचकर्ता" नहीं चाहते थे। वे एक ऐसा उपकरण चाहते थे जो हवाई के मूल्यों पर आधारित हो। यहाँ तीन मुख्य विशेषताएं दी गई हैं जिन्हें शिक्षकों ने डिज़ाइन किया:
क. ज्ञान का "वंश वृक्ष" (Genealogy)
पश्चिमी विज्ञान में, हम आमतौर पर एक स्रोत की जाँच उसके उद्धरण (citation) को देखकर करते हैं (जैसे, "यह तथ्य 2020 के अध्ययन से आता है")।
हवाई संस्कृति में, ज्ञान वंश के माध्यम से आगे बढ़ाया जाता है। आप किसी कहानी पर इसलिए भरोसा करते हैं क्योंकि किसने उसे बताया और किसने उन्हें सिखाया।
- उपकरण का विचार: केवल एक लिंक दिखाने के बजाय, उपकरण "स्रोत की वंशावली" दिखाएगा। यह उत्तर देगा: इसे किसने लिखा? उनके शिक्षक कौन थे? क्या यह व्यक्ति समुदाय में सम्मानित है?
- उपमा: यह ऐसा है जैसे यह जांचना कि क्या कोई रेसिपी किसी रैंडम ब्लॉग से आती है या आपके Kupuna (दादा-दादी/बुजुर्गों) से। आप दादा-दादी के संस्करण पर भरोसा करते हैं क्योंकि आप उनकी वंशावली जानते हैं।
ख. "परिप्रेक्ष्य प्रिज्म" (Perspective Prism)
शिक्षक चाहते थे कि वे देख सकें कि किसकी आवाज़ गायब है।
- उपकरण का विचार: एक विजुअल डैशबोर्ड जो उत्तर का "स्वाद" दिखाता है। यदि एआई रानी लिलुओकलानी के बारे में कहानी बता रहा है, तो टूल हाइलाइट करेगा: "यह उत्तर 90% अमेरिकी सरकार के दृष्टिकोण से है। मूल निवासी हवाई दृष्टिकोण कहाँ है?"
- उपमा: एक पेंटिंग को प्रिज्म के माध्यम से देखने की कल्पना करें। एक तरफ "मुख्य भूमि" का दृश्य है, और दूसरी तरफ "स्थानीय" दृश्य है। यदि स्थानीय पक्ष खाली है, तो टूल चेतावनी लाइट चमकाता है।
ग. छात्रों के लिए "रेड फ्लैग" (Red Flag)
शिक्षकों ने महसूस किया कि छात्र एआई की हर बात पर विश्वास कर सकते हैं क्योंकि वे अभी इतने जानकार नहीं हैं।
- उपकरण का विचार: एक स्पष्ट, उज्ज्वल चेतावनी प्रणाली। यदि एआई कुछ सांस्कृतिक रूप से असंवेदनशील उत्पन्न करता है, तो एक बड़ा, मैत्रीपूर्ण झंडा पॉप अप होगा जो कहता है, "हे, यह पक्षपाती हो सकता है। आइए इस पर चर्चा करें।"
- उपमा: यह मेनू पर "तीखे भोजन" की चेतावनी जैसा है। यह आपको खाने से नहीं रोकता, लेकिन आपको सावधान रहने और इसके बारे में सोचने की चेतावनी देता है।
3. बड़ा बदलाव: "सोलो ऑडिटर" से "कम्युनिटी गार्ड" तक
पेपर का सबसे महत्वपूर्ण निष्कर्ष मानसिकता में बदलाव है।
- पुराना तरीका: हम एक अकेले विशेषज्ञ (लैब में बैठा एक टेक एक्सपर्ट) की कल्पना करते हैं जो एआई में त्रुटियों की जांच करता है।
- नया तरीका: शिक्षकों ने महसूस किया कि केवल समुदाय ही वास्तव में अपनी संस्कृति का ऑडिट कर सकता है।
- उपमा: आप पारंपरिक हवाई दावत की गुणवत्ता का निर्णय लेने के लिए किसी पर्यटक से नहीं पूछेंगे; आप स्थानीय शेफ से पूछेंगे। इसी तरह, आप एक सामान्य एआई ऑडिटर से हवाई इतिहास का निर्णय लेने के लिए नहीं कह सकते। "ऑडिट" एक सामुदायिक गतिविधि होनी चाहिए, जहाँ शिक्षक और बुजुर्ग मिलकर यह बनाने के लिए काम करें कि क्या सच है और क्या हानिकारक है।
4. "स्थानीय बनाम वैश्विक" सबक
पेपर निष्कर्ष निकालता है कि दुनिया के बाकी हिस्सों के लिए एक चेतावनी है। हम अक्सर सभी के लिए "एक-आकार-सभी-के-लिए-फिट" (one-size-fits-all) उपकरण बनाने की कोशिश करते हैं। लेकिन ठीक वैसे ही जैसे न्यूयॉर्क के पैर में फिट होने वाला जूता हवाई के पैर को चुभ सकता है, एक सामान्य एआई टूल स्वदेशी समुदायों को नुकसान पहुँचाएगा।
निष्कर्ष:
एआई को सुरक्षित और उपयोगी बनाने के लिए, हमें स्थानीय संस्कृतियों को एक वैश्विक सांचे में ढालने की कोशिश करना बंद करना होगा। इसके बजाय, हमें कस्टम टूल्स बनाने की आवश्यकता है जो स्थानीय इतिहास, भाषा और मूल्यों का सम्मान करते हों। हवाई में, इसका अर्थ एक ऐसा एआई ऑडिटिंग सिस्टम बनाना है जो जानता है कि ज्ञान केवल डेटा नहीं है—यह एक वंश वृक्ष है।
एक वाक्य में सारांश
यह पेपर तर्क देता है कि एआई को स्वदेशी संस्कृतियों का गलत चित्रण करने से रोकने के लिए, हमें यह पूछना बंद करना होगा कि "क्या यह तथ्य रूप से सही है?" और यह पूछना शुरू करना होगा कि "क्या यह हमारी समुदाय की वंशावली और मूल्यों का सम्मान करता है?"—ऐसे उपकरण बनाकर जिन्हें समुदाय नियंत्रित और समझता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।