How to Protect Learner Autonomy in the Age of Generative AI: EMM
यह शोध पत्र EMM को प्रस्तुत करता है, जो एक शिक्षा-केंद्रित बेंचमार्क है जिसे हेरफेर करने वाले सलाहकार कथनों को पहचानने और आनुपातिक प्रथम-पुरुष छात्र प्रतिक्रियाएं उत्पन्न करने की जनरेटिव एआई की क्षमता का मूल्यांकन करने के लिए डिज़ाइन किया गया है, जो सटीक हेरफेर पहचान और उपयुक्त स्वायत्त उत्तरों के बीच एक महत्वपूर्ण अंतर को प्रकट करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
स्नातक अध्ययन (ग्रेजुएट स्कूल) की शांत लेकिन उच्च-दांव वाली दुनिया में, एक छात्र अक्सर एक कठिन क्षण का सामना करता है: एक सलाहकार से ऐसा संदेश प्राप्त करना जो भारी, भ्रमित करने वाला या शायद अनुचित महसूस होता है। छात्र को यह तय करना होता है कि उत्तर कैसे दिया जाए। क्या उन्हें तुरंत क्षमा मांगनी चाहिए? क्या उन्हें विरोध करना चाहिए? या क्या यह दबाव केवल कठोर शैक्षणिक प्रशिक्षण का एक सामान्य हिस्सा है? यहीं पर सहायक मार्गदर्शन और मनोवैज्ञानिक हेरफेर के बीच की रेखा खतरनाक रूप से पतली हो जाती है। जैसे-जैसे आर्टिफिशियल इंटेलिजेंस टूल्स अधिक सामान्य होते जा रहे हैं, कई छात्र इन जवाबों को तैयार करने में मदद के लिए इनका उपयोग करते हैं, इस उम्मीद में कि मशीन एक तटस्थ दृष्टिकोण प्रदान कर सके। हालांकि, एक नया अध्ययन बताता है कि हालांकि ये एआई टूल्स समस्याओं को पहचानने में बेहतर हो रहे हैं, लेकिन वे अभी तक यह नहीं जान पाते कि कब रुकना है। मुख्य चुनौती केवल एक हानिकारक संदेश की पहचान करना नहीं है, बल्कि एक ऐसा उत्तर तैयार करना है जो छात्र की स्वतंत्रता की रक्षा करे बिना किसी वैध शैक्षणिक मांग को संकट में बदले।
ईस्ट चाइना नॉर्मल यूनिवर्सिटी और कार्लटन यूनिवर्सिटी के शोधकर्ताओं ने यह परीक्षण करने के लिए एक नया तरीका विकसित किया है कि एआई इस नाजुक संतुलन को कितनी अच्छी तरह संभालता है। उन्होंने एक बेंचमार्क बनाया जिसे EMM कहा जाता है, जिसका अर्थ है 'एजुकेशनल मेंटल मैनिपुलेशन' (शैक्षणिक मानसिक हेरफेर)। केवल एआई से किसी बातचीत को पढ़ने और उसे "अच्छा" या "बुरा" के रूप में लेबल करने के लिए कहने के बजाय, उन्होंने एआई को एक साथ दो काम करने के लिए कहा। पहला, इसे छात्र के रूप में कार्य करना था और एक ऐसा उत्तर लिखना था जो सीधे सलाहकार को भेजा जा सके। दूसरा, इसे एक पर्यवेक्षक के रूप में कार्य करना था और सलाहकार के मूल संदेश को चौदह श्रेणियों में से एक में वर्गीकृत करना था, जो स्वस्थ उच्च-दबाव वाली मांगों से लेकर हेरफेर के विभिन्न रूपों तक विस्तृत थी। इस डेटासेट में बीज संवादों (seed dialogues) और दृश्य पूलों (scene pools) से उत्पन्न एक हजार से अधिक चीनी-भाषा के मामले शामिल थे, जिसमें ऐसी स्थितियां शामिल थीं जहां एक सलाहकार संसाधनों को रोक सकता है, छात्र की स्थिरता पर सवाल उठा सकता है, या असंभव समय सीमा निर्धारित कर सकता है। महत्वपूर्ण रूप से, इस परीक्षण में कठिन लेकिन निष्पक्ष शैक्षणिक अनुरोधों के कई उदाहरण भी शामिल थे, जिससे यह सुनिश्चित हुआ कि एआई केवल हर मांग वाले संदेश को शोषण न मान ले।
परिणामों ने एक महत्वपूर्ण अंतर को उजागर किया: जानने और करने के बीच का अंतर। एआई मॉडल पर्यवेक्षक कार्य में आश्चर्यजनक रूप से अच्छे थे; वे अक्सर सही ढंग से पहचान सकते थे कि कब एक सलाहकार हेरफेर करने वाली युक्तियों का उपयोग कर रहा था। हालांकि, जब छात्र के रूप में वास्तविक उत्तर लिखने के लिए कहा गया, तो मॉडल अक्सर उस ज्ञान को एक उपयोगी प्रतिक्रिया में बदलने में विफल रहे। कई मामलों में, एआई ने हेरफेर को पहचान लिया लेकिन फिर भी एक ऐसा उत्तर लिखा जो बहुत अधिक दब्बू (submissive) था, जो प्रभावी रूप से सलाहकार के दबाव को सुदृढ़ करता था। अन्य मामलों में, मॉडल अत्यधिक रक्षात्मक हो गए, सामान्य, कठिन शैक्षणिक फीडबैक को भी एक हमले की तरह माना, जो एक स्वस्थ पेशेवर संबंध को संघर्ष में बदल सकता है। यह "पहचान-प्रतिक्रिया अंतराल" (recognition-response gap) दर्शाता है कि एक मॉडल समस्या को देखने के लिए पर्याप्त स्मार्ट हो सकता है, लेकिन उसे बिना स्थिति बिगाड़े हल करने के लिए पर्याप्त बुद्धिमान नहीं हो सकता।
शोधकर्ताओं ने यह भी परीक्षण किया कि क्या यह समस्या जीवन के अन्य क्षेत्रों में भी मौजूद है, जैसे कि एक प्रबंधक और कर्मचारी के बीच या एक माता-पिता और बच्चे के बीच। उन्होंने पाया कि यह समस्या तीनों संबंधों में बनी रही। जब उन्होंने तीनों क्षेत्रों के उदाहरणों के विशाल संग्रह पर एआई को प्रशिक्षित करके इसमें सुधार करने की कोशिश की, तो परिणाम मिश्रित रहे। प्रशिक्षण ने मॉडलों को हेरफेर को अधिक बार पहचानने में मदद की, लेकिन इसने उन्हें सामान्य, स्वस्थ दबाव पर भी अत्यधिक प्रतिक्रिया देने के लिए भी प्रेरित किया। एआई ने वहां भी खतरे देखना शुरू कर दिया जहां कोई खतरा नहीं था, जो यह सुझाव देता है कि केवल इसे अधिक डेटा खिलाने से इसे स्वाभाविक रूप से उस सूक्ष्मता (nuance) को नहीं सिखाया जा सकता जिसकी आवश्यकता एक कठोर लेकिन निष्पक्ष मांग और वास्तविक मनोवैज्ञानिक दबाव के बीच अंतर करने के लिए होती है।
सबसे चौंकाने वाले निष्कर्षों में से एक यह था कि कार्य को कैसे फ्रेम किया गया, यह मॉडल के आंतरिक ट्यूनिंग की तुलना में कम मायने रखता था। चाहे एआई को पहले पुरुष ("मैं यह करूँगा") या तीसरे पुरुष ("छात्र को यह करना चाहिए") में उत्तर लिखने के लिए कहा गया हो, परिणाम में किसी भी दृष्टिकोण का कोई सुसंगत लाभ नहीं दिखा। मॉडल प्रॉम्प्ट के प्रति संवेदनशील बने रहे, लेकिन वे मध्य मार्ग खोजने में संघर्ष करते रहे। अध्ययन निष्कर्ष निकालता है कि हालांकि एआई बातचीत का विश्लेषण करने के लिए एक उपयोगी उपकरण हो सकता है, लेकिन यह छात्र की स्वायत्तता की रक्षा करने में एक भरोसेमंद साथी बनने के लिए अभी तैयार नहीं है। तकनीक खतरे की पहचान कर सकती है, लेकिन यह अभी तक उस जटिल सामाजिक और भावनात्मक परिदृश्य को कुशलता से नेविगेट नहीं कर सकती है जिसके लिए उचित दृढ़ता और सम्मान के साथ प्रतिक्रिया करने की आवश्यकता होती है। जब तक यह अंतर नहीं भर जाता, इन महत्वपूर्ण क्षणों में मध्यस्थता करने के लिए एआई पर भरोसा करने से छात्रों को दबाव के प्रति असुरक्षित छोड़ने या उन्हें अनावश्यक संघर्ष में धकेलने का जोखिम बना रहता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।