Human-in-the-loop GenAI advising for community college pathway decision-making: a design-based case study of requirement-group modeling and privacy-preserving student-support design
यह डिज़ाइन-आधारित केस स्टडी एक गोपनीयता-संरक्षण ढांचे और आठ डिज़ाइन सिद्धांतों का प्रस्ताव करके कम्युनिटी कॉलेज परामर्श के संबंध में जेनरेटिव एआई (GenAI) अनुसंधान के अंतराल को संबोधित करती है, जो मानव निरीक्षण बनाए रखते हुए, छात्र डेटा की सुरक्षा करते हुए और शिक्षार्थी की एजेंसी को बढ़ावा देते हुए, पथ नियोजन (pathway planning) के लिए एक व्याख्यात्मक परत के रूप में एआई को स्थापित करती है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
वह GPS जो कार नहीं चलाता
कल्पना कीजिए कि आप एक विशाल, फैले हुए शहर में रास्ता खोजने की कोशिश कर रहे हैं जहाँ हर बार पलक झपकते ही सड़कें बदल जाती हैं। कुछ सड़कें एकतरफा हैं, कुछ केवल मंगलवार को खुली रहती हैं, और कुछ केवल सुझाव मात्र हैं जो सही गुप्त कोड पता होने पर राजमार्गों में बदल जाती हैं। कम्युनिटी कॉलेज की शिक्षा के लिए छात्रों को ऐसा ही महसूस होता है। वे केवल कक्षाएं नहीं चुन रहे हैं; वे आवश्यकताओं, स्थानांतरण नियमों और भविष्य के करियर लक्ष्यों के एक भूलभुलैया के माध्यम से एक मानचित्र बनाने की कोशिश कर रहे हैं। लंबे समय से, शोधकर्ता कंप्यूटर को छात्रों को निबंध लिखने या गणित की समस्याओं को हल करने में मदद करने के लिए सिखा रहे हैं, लेकिन उन्होंने स्कूल के इस "नेविगेशन" (मार्गदर्शन) वाले हिस्से पर अधिक ध्यान नहीं दिया है।
यहाँ आता है जेनरेटिव एआई (Generative AI) (या GenAI)। इसे एक सुपर-स्मार्ट, बातूनी रोबोट के रूप में सोचें जो लाखों किताबें पढ़ सकता है और सेकंडों में एक कहानी लिख सकता है। यह चीजों को समझाने में बहुत अच्छा है, लेकिन यदि आप सावधान नहीं हैं तो यह गलतियाँ भी कर सकता है या तथ्य भी बना सकता है। फिर है ह्यूमन-इन-द-लूप (Human-in-the-Loop), जो बस एक फैंसी तरीका है यह कहने का कि "रोबोट मदद करता है, लेकिन अंतिम निर्णय एक इंसान लेता है।" और अंत में, प्राइवेसी (Privacy) वह नियम है जो कहता है कि रोबोट को आपको सलाह देने के लिए आपकी निजी डायरी (आपके व्यक्तिगत ग्रेड और रिकॉर्ड) झांकने की अनुमति नहीं होनी चाहिए। यह पेपर एक बड़ा सवाल पूछता है: यदि हम इस सुपर-स्मार्ट रोबोट का उपयोग छात्रों को उनके कॉलेज पथ की योजना बनाने में मदद करने के लिए करना चाहते हैं, तो हम यह कैसे सुनिश्चित करें कि यह रास्ता न भटके, गोपनीयता का उल्लंघन न करे, और गलती से छात्र को खाई में न गिरा दे?
मानचित्र निर्माता का द्वंद्व
इस अध्ययन के लेखक, आइवी टेक कम्युनिटी कॉलेज ऑफ इंडियाना से एमरी पेक (Emery Peck) ने एक प्रोटोटाइप—एक उपकरण का परीक्षण संस्करण—बनाने का निर्णय लिया ताकि यह देखा जा सके कि क्या हम छात्रों को उनके कॉलेज सफर में मदद करने के लिए GenAI का उपयोग कर सकते हैं, बिना रोबोट को स्टीयरिंग व्हील सौंपे। अध्ययन ने यह परीक्षण नहीं किया कि क्या इस उपकरण से छात्रों के ग्रेड बेहतर हुए; इसके बजाय, इसने उपकरण के ब्लूप्रिंट, डिजाइन नोट्स और तर्क को देखा ताकि यह पता लगाया जा सके कि इसे कैसे बनाया जाना चाहिए।
मुख्य खोज यह है कि आप कॉलेज की डिग्री को एक साधारण किराने की सूची की तरह नहीं मान सकते। यदि आप केवल "दूध खरीदें, अंडे खरीदें, ब्रेड खरीदें" की चेकलिस्ट बनाते हैं, तो आप इस तथ्य को छोड़ देते हैं कि आप गाय के दूध के बजाय बादाम का दूध भी खरीद सकते हैं, या आपको तीन अंडों की आवश्यकता है लेकिन आपके पास कार्टन में केवल दो हैं। पेपर सुझाव देता है कि कॉलेज की आवश्यकताएं एक कठोर चेकलिस्ट के बजाय लचीले निर्माण ब्लॉकों (flexible building blocks) की तरह हैं। कुछ ब्लॉक निश्चित होते हैं (आपको एक गणित की कक्षा लेनी ही होगी), लेकिन अन्य एक "अपनी पसंद का रोमांच चुनें" (इस समूह की किन्हीं तीन इतिहास कक्षाओं में से कोई भी चुनें) शैली के होते हैं। अध्ययन ने पाया कि यदि आप इन लचीले ब्लॉकों को एक सपाट, उबाऊ सूची में बदलने की कोशिश करते हैं, तो एआई भ्रमित हो जाता है और छात्र को वह कक्षा मिस होने के बारे में बता सकता है जिसकी उसे वास्तव में आवश्यकता नहीं है।
एक स्मार्ट सलाहकार रोबोट के लिए आठ नियम
उनके प्रोटोटाइप के डिजाइन के आधार पर, लेखक इन एआई सलाहकारों को बनाने के लिए आठ "सड़क के नियम" प्रस्तावित करते हैं। यहाँ उन्होंने जो पाया है, उसे सरल भाषा में समझाया गया है:
सपाट चेकलिस्ट का उपयोग न करें; लचीले समूहों का उपयोग करें।
कल्पना कीजिए कि एक वीडियो गेम है जहाँ आपको "तीन जादुई वस्तुएं" एकत्र करने की आवश्यकता है। एक सपाट चेकलिस्ट कहेगी "तलवार प्राप्त करें, ढाल प्राप्त करें, अमृत प्राप्त करें।" लेकिन गेम वास्तव में आपको ढाल के बदले हेलमेट लेने की अनुमति देता है। एआई को यह समझने की आवश्यकता है कि आपको वस्तुओं का एक समूह चाहिए, न कि विशिष्ट वस्तुएं। पेपर सुझाव देता है कि आवश्यकताओं को इन लचीले समूहों के रूप में मॉडल किया जाए ताकि जब छात्र एक अलग वैध विकल्प चुनता है, तो एआई घबराए नहीं।एआई टूर गाइड है, ड्राइवर नहीं।
रोबोट को यह समझाने में बहुत अच्छा होना चाहिए कि एक निश्चित पथ क्यों काम करता है और आपको विभिन्न मार्ग दिखाने में सक्षम होना चाहिए। लेकिन उसे कागजात पर हस्ताक्षर करने वाला या अंतिम निर्णय लेने वाला नहीं होना चाहिए। एआई विकल्पों को समझाता है; मानव सलाहकार (या मानव की मदद से छात्र) चुनाव करता है।सार्वजनिक मानचित्र को निजी डायरी से अलग रखें।
यह एक बड़ा गोपनीयता नियम है। एआई कक्षाओं के काम करने के तरीके को समझाने के लिए सार्वजनिक कॉलेज कैटलॉग (जिसे कोई भी देख सकता है) को देख सकता है। लेकिन इसे किसी विशिष्ट छात्र के निजी ग्रेड या व्यक्तिगत इतिहास को देखने की आवश्यकता नहीं होनी चाहिए। अध्ययन सुझाव देता है कि सिस्टम को इस तरह बनाया जाए कि वह केवल सार्वजनिक जानकारी का उपयोग करके बेहतरीन सलाह दे सके, जिससे छात्र का गुप्त डेटा सुरक्षित और अलग रहे।बड़े निर्णयों की जांच मनुष्यों को करनी चाहिए।
यदि एआई एक ऐसा पथ सुझाता है जो छात्र के मेजर (विषय) को बदल देता है, उसकी अतिरिक्त लागत बढ़ाता है, या दूसरे स्कूल में स्थानांतरण करने की उसकी क्षमता को प्रभावित करता है, तो एक वास्तविक मानव सलाहकार को इसकी समीक्षा करनी चाहिए। रोबोट सुझाव दे सकता है, लेकिन मानव को इसे मंजूरी देनी होगी।छात्रों को खुद गाड़ी चलाने में मदद करें।
लक्ष्य केवल छात्र को यह बताना नहीं है कि "बाएं जाओ।" इसका लक्ष्य उन्हें यह समझने में मदद करना है कि बाएं जाना दाएं जाने से बेहतर क्यों है, ताकि वे स्वयं योजना बनाना सीख सकें। टूल को छात्रों को ट्रेड-ऑफ (समझौतों) को समझने और अपनी यात्रा को प्रबंधित करना सीखने में मदद करनी चाहिए।डरावने "जोखिम" वाले शब्दों का उपयोग न करें।
छात्र को "जोखिम में" या "विफल" बताने के बजाय, भाषा "गति बनाए रखने" या "एक नया रास्ता खोजने" के बारे में होनी चाहिए। अध्ययन में पाया गया कि सकारात्मक, गैर-निर्णयात्मक भाषा का उपयोग करने से छात्र खुद पर नियंत्रण महसूस करते हैं, न कि यह कि उन पर नज़र रखी जा रही है।धुंधले स्थानों को दिखाएं।
कभी-कभी, कॉलेज के नियम भ्रमित करने वाले होते हैं या इस तरह से लिखे जाते हैं जो स्पष्ट नहीं होते। एक अच्छा एआई यह दावा नहीं करना चाहिए कि वह उत्तर जानता है यदि उसे नहीं पता। उसे कहना चाहिए, "यह हिस्सा थोड़ा अस्पष्ट है, इसलिए आइए एक इंसान से इसकी दोबारा जांच करने के लिए कहें।" गलत उत्तर आत्मविश्वास से देने के बजाय अनिश्चितता स्वीकार करना बेहतर है।नौकरियां महत्वपूर्ण हैं, लेकिन वे एकमात्र लक्ष्य नहीं हैं।
एआई छात्रों को यह देखने में मदद कर सकता है कि एक कक्षा उन्हें नौकरी पाने में कैसे मदद कर सकती है, लेकिन इसे उन्हें केवल इसलिए किसी करियर में नहीं धकेलना चाहिए क्योंकि जॉब मार्केट गर्म है। छात्रों के अन्य सपने भी हो सकते हैं, जैसे विश्वविद्यालय में ट्रांसफर करना या किसी नए विषय को एक्सप्लोर करना, और एआई को उनका सम्मान करना चाहिए।
भविष्य के लिए इसका क्या अर्थ है
पेपर यह दावा नहीं करता है कि इस टूल ने पहले ही हजारों छात्रों को बचा लिया है या यह पूर्ण है। यह एक डिज़ाइन अध्ययन है, जिसका अर्थ है कि यह इस बारे में निर्देशों का एक सेट है कि कैसे ऐसी चीज़ बनाई जाए जो अच्छी तरह से काम करती है, न कि इस बारे में रिपोर्ट कि एक तैयार उत्पाद ने कैसा प्रदर्शन किया। लेखक सुझाव देते हैं कि यदि कॉलेज सलाह देने के लिए एआई का उपयोग करना चाहते हैं, तो उन्हें इन नियमों के साथ शुरुआत करनी चाहिए: डेटा को निजी रखें, इंसान को प्रभारी रहने दें, और सुनिश्चित करें कि एआई समझता है कि कॉलेज के पथ लचीले होते हैं, कठोर नहीं।
इन नियमों का पालन करके, हम एक ऐसा एआई सलाहकार बना सकते हैं जो एक सख्त रोबोट शिक्षक के बजाय एक मददगार, जानकार दोस्त जैसा महसूस हो, जो मानचित्र जानता है लेकिन आपको तय करने देता है कि आपको कहाँ जाना है। यह उस मानवीय स्पर्श को खोए बिना नई तकनीक का उपयोग करने का एक तरीका है जो शिक्षा को सफल बनाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।