From Agent Labels to Accountable Deployment: Evidence Maturity and Meaningful Human Oversight for Agentic AI in Higher Education

उच्च शिक्षा एक शांत लेकिन महत्वपूर्ण मोड़ पर खड़ी है। वर्षों से, कक्षाओं में आर्टिफिशियल इंटेलिजेंस (कृत्रिम बुद्धिमत्ता) एक बहुत तेज़, बहुत जानकार लाइब्रेरियन की तरह कार्य करती रही है। एक छात्र प्रश्न पूछता है, और सिस्टम उत्तर प्रदान करता है। यदि उत्तर गलत है, तो छात्र बस फिर से पूछता है या किसी अन्य स्रोत की जांच करता है। जोखिम केवल भ्रम के एक क्षण तक सीमित रहता है। लेकिन सॉफ्टवेयर की एक नई पीढ़ी उभर रही है जो केवल बात करने से कहीं अधिक करती है। ये प्रणालियाँ, जिन्हें अक्सर "एजेंटिक" (agentic) आर्टिफिशियल इंटेलिजेंस कहा जाता है, चीजें कर सकती हैं। वे एक बड़े लक्ष्य को छोटे चरणों में तोड़ सकती हैं, यह चुन सकती हैं कि किन उपकरणों का उपयोग करना है, विभिन्न स्थानों से जानकारी एकत्र कर सकती हैं, और फिर निरंतर मानवीय निर्देश के बिना एक योजना को निष्पादित कर सकती हैं। एक ऐसी प्रणाली की कल्पना करें जो न केवल छात्र के लिए निबंध नहीं लिखती, बल्कि निबंध का मसौदा तैयार कर सकती है, स्रोतों की जांच कर सकती है, इसे ग्रेडिंग पोर्टल पर जमा कर सकती है, और फिर किए गए कार्य का सारांश देते हुए प्रोफेसर को ईमेल कर सकती है। प्रश्नों के उत्तर देने से लेकर कार्यों को करने की ओर यह बदलाव जोखिम की प्रकृति को बदल देता है। जब एक सिस्टम केवल बोलता है, तो गलती केवल एक गलत वाक्य होती है। जब एक सिस्टम कार्य करता है, तो एक गलती छात्र के रिकॉर्ड को बदल सकती है, निजी डेटा को उजागर कर सकती है, या घटनाओं की एक ऐसी श्रृंखला शुरू कर सकती है जिसे उलटना कठिन हो।

आज विश्वविद्यालयों के सामने प्रश्न यह नहीं है कि क्या ये शक्तिशाली उपकरण काम करते हैं, बल्कि यह है कि क्या हम उन्हें अपने आप चलने देने के लिए पर्याप्त रूप से जानते हैं। दक्षिण यूराल स्टेट यूनिवर्सिटी के शोधकर्ता अभिषेक डे द्वारा की गई एक नई महत्वपूर्ण समीक्षा उच्च शिक्षा में इस तकनीक की वर्तमान स्थिति का परीक्षण करती है। अध्ययन इस तकनीक को अलग से नहीं देखता है; इसके बजाय, यह एक कठिन नैतिक प्रश्न पूछता है: क्या हमारे पास पर्याप्त प्रमाण हैं कि इन प्रणालियों को महत्वपूर्ण निर्णय लेने की चाबियाँ सौंपने से पहले वे सुरक्षित, निष्पक्ष और लाभकारी हैं? यह समीक्षा मौजूदा अध्ययनों और रिपोर्टों के दर्जनों दस्तावेज़ों को छानती है ताकि यह पता लगाया जा सके कि साक्ष्य वास्तव में क्या समर्थन करते हैं और कहाँ कमियाँ शेष हैं। निष्कर्ष बताते हैं कि हालांकि ये प्रणालियाँ विशिष्ट, छोटे कार्यों में सुधार कर सकती हैं, लेकिन साक्ष्य अभी भी इतने मजबूत नहीं हैं कि उन्हें छात्रों के भविष्य के बारे में बड़े निर्णय लेने की अनुमति दी जा सके।

समीक्षा यह स्पष्ट करने से शुरू होती है कि एक "एजेंट" किसे माना जाए। हर चैटबॉट या स्वचालित उपकरण इस विवरण में फिट नहीं बैठता। एक वास्तविक एजेंट कहलाने के लिए, एक प्रणाली में कार्यों के एक क्रम की योजना बनाने, बातचीत में पहले के संदर्भ को याद रखने, बाहरी उपकरणों का उपयोग करने और अपने स्वयं के कार्य की जांच करने की क्षमता होनी चाहिए। क्षेत्र के कई अध्ययन इन उन्नत प्रणालियों को सरल प्रणालियों के साथ मिला देते हैं जो केवल टेक्स्ट उत्पन्न करती हैं। इस भ्रम के कारण लेखक द्वारा वर्णित "लेबल इन्फ्लेशन" (label inflation) हुआ है, जहाँ किसी भी स्वचालित उपकरण को एजेंट के रूप में वर्णित किया जाता है, और "आउटकम इन्फ्लेशन" (outcome inflation) हुआ है, जहाँ एक सिस्टम के दिखने या सुनने के तरीके में मामूली सुधार को छात्रों के सीखने के वास्तविक सुधार के रूप में गलत समझा जाता है। समीक्षा पाती है कि साहित्य इन व्यापक दावों से भरा हुआ है, लेकिन साक्ष्य अक्सर कमजोर होते हैं। सबसे मजबूत प्रमाण इस बात के लिए मौजूद हैं कि ये प्रणालियाँ विशिष्ट 'आर्टिफैक्ट्स' (artifacts), जैसे कि छात्र के लेखन पर फीडबैक का एक टुकड़ा, कितनी अच्छी तरह से तैयार करती हैं। हालाँकि, जब यह देखने की बात आती है कि क्या छात्र वास्तव में अधिक सीखते हैं, क्या सिस्टम सभी के साथ निष्पक्ष व्यवहार करता है, या क्या यह लंबे समय में शिक्षकों के कार्यभार को कम करता है, तो साक्ष्य बहुत कमजोर हो जाते हैं।

सबसे आश्चर्यजनक निष्कर्षों में से एक यह है कि सबसे आशाजनक अध्ययन अक्सर अल्पकालिक, एकल-स्थल प्रयोग होते हैं जो पूरी कहानी नहीं बताते हैं। उदाहरण के लिए, एक अध्ययन ने एक ऐसी प्रणाली का परीक्षण किया जो मिडिल स्कूल के विज्ञान के छात्रों को फीडबैक देती थी। सिस्टम ने, दो अलग-अलग एजेंटों का उपयोग करके एक-दूसरे के काम की जांच की, जिससे अत्यधिक प्रशंसा करने या तथ्य गढ़ने की घटनाओं में काफी कमी आई। यह एक स्पष्ट तकनीकी सफलता है। फिर भी, अध्ययन ने यह नहीं दिखाया कि क्या छात्रों ने वास्तव में उस फीडबैक के कारण अधिक विज्ञान सीखा, या क्या शिक्षकों ने एजेंट के काम को सत्यापित करने के बाद समय बचाया। एक अन्य अध्ययन ने विश्वविद्यालय के प्रवेश कार्यालय में आवेदकों के प्रश्नों का उत्तर देने के लिए उपयोग की जाने जाने वाली एक प्रणाली को देखा। सिस्टम ने हजारों प्रश्नों का तेजी से और सटीक रूप से उत्तर दिया, जिसमें त्रुटियां बहुत कम थीं। लेकिन यह दो सप्ताह का परीक्षण था। इसने यह नहीं दिखाया कि सिस्टम एक पूरे सेमेस्टर के प्रवेश प्रक्रिया को कैसे संभालेगा, यह स्वीकार किए जाने वाले लोगों की निष्पक्षता को कैसे प्रभावित करेगा, या यह उन कर्मचारियों के कार्यभार को कैसे बदलेगा जिन्हें इस प्रक्रिया का प्रबंधन करना होता है। समीक्षा निष्कर्ष निकालती है कि हालांकि ये प्रणालियाँ तकनीकी रूप से प्रभावशाली हैं, हम अभी भी उनके वास्तविक दुनिया के प्रभाव को समझने के शुरुआती चरणों में हैं।

समीक्षा इन प्रणालियों के प्रबंधन में एक महत्वपूर्ण अंतर को भी उजागर करती है। कई रिपोर्टें "मानवीय निरीक्षण" (human oversight) की बात करती हैं, जो यह सुझाव देती हैं कि एक शिक्षक या प्रशासक सिस्टम की निगरानी कर रहा है। लेकिन समीक्षा का तर्क है कि एक मानव की उपस्थिति होना प्रभावी नियंत्रण होने के समान नहीं है। वास्तविक निरीक्षण का अर्थ है कि मानव देख सके कि सिस्टम क्या कर रहा है, यदि वह गलत दिशा में जाए तो उसे रोक सके, और यदि कोई गलती हो जाए तो उसके कार्यों को उलट सके। कई वर्तमान सेटअपों में, मानव केवल एक 'रबर स्टैंप' की तरह होता है, जो उन जटिल चरणों को समझे बिना आउटपुट को मंजूरी देता है जो सिस्टम ने वहां तक पहुँचने के लिए लिए थे। यह खतरनाक है क्योंकि यदि कोई सिस्टम गलत निर्णय लेता है, तो प्रभारी व्यक्ति के पास उसे ठीक करने के उपकरण नहीं होंगे। समीक्षा बताती है कि मजबूत, परीक्षित निरीक्षण के बिना, हम नैतिक रूप से इन प्रणालियों को लोगों के जीवन को प्रभावित करने वाले निर्णय लेने की अनुमति नहीं दे सकते, जैसे कि परीक्षा ग्रेड करना या यह तय करना कि कौन प्रोग्राम में प्रवेश पाता है।

इस बेमेल (mismatch) को हल करने के लिए कि सिस्टम क्या कर सकते हैं और हम उनके बारे में क्या जानते हैं, लेखक एक नया ढांचा प्रस्तावित करता है जिसे "स्वायत्तता-निरीक्षण-साक्ष्य" (Autonomy-Oversight-Evidence) कहा जाता है। यह ढांचा सुझाव देता है कि हम आर्टिफिशियल इंटेलिजेंस को कितनी स्वतंत्रता देते हैं, वह कभी भी इस प्रमाण की शक्ति से अधिक नहीं होनी चाहिए कि वह सुरक्षित है, न ही उस मानवीय नियंत्रण की शक्ति से जो हमारे पास है। यह ढांचा स्वायत्तता को स्तरों में विभाजित करता है, एक प्रॉम्प्ट के जवाब में एक वाक्य लिखने वाले सिस्टम से लेकर, एक ऐसे सिस्टम तक जो छात्र के भविष्य के बारे में परिणामोन्मुखी निर्णय ले सकता है। यह साक्ष्य को भी स्तरों में विभाजित करता है, एक साधारण कंप्यूटर परीक्षण से लेकर कई स्कूलों में एक दीर्घकालिक, वास्तविक दुनिया के परीक्षण तक। नियम सरल है: आप किसी सिस्टम को उच्च-स्तरीय स्वतंत्रता तब तक नहीं दे सकते जब तक आपके पास उच्च-स्तरीय प्रमाण और उच्च-स्तरीय मानवीय नियंत्रण न हो। यदि साक्ष्य कमजोर है, या यदि मानवीय निरीक्षण केवल एक औपचारिकता है, तो सिस्टम की अनुमतियाँ संकीर्ण और प्रतिवर्ती (reversible) रखी जानी चाहिए।

इस निष्कर्ष के निहितार्थ यह है कि विश्वविद्यालय आगे कैसे बढ़ें। समीक्षा यह तर्क नहीं देती है कि इन प्रणालियों पर प्रतिबंध लगाया जाना चाहिए। इसके बजाय, यह एक सतर्क, मापा गया दृष्टिकोण अपनाने का तर्क देती है। विश्वविद्यालयों को यह मानकर नहीं चलना चाहिए कि जो सिस्टम लैब में अच्छा काम करता है, वह वास्तविक कक्षा में भी अच्छा काम करेगा। उन्हें इन उपकरणों का अपने विशिष्ट संदर्भों में परीक्षण करने की आवश्यकता है, यह सावधानी से देखते हुए कि किसे लाभ हो रहा है और किसे नुकसान हो सकता है। उन्हें यह सुनिश्चित करने की आवश्यकता है कि शिक्षकों और कर्मचारियों के पास सिस्टम को रोकने की शक्ति हो और छात्रों के पास मशीन द्वारा लिए गए निर्णयों को चुनौती देने का एक तरीका हो। समीक्षा इस बात पर जोर देती है कि प्रमाण का भार संस्थान पर है। किसी भी वास्तविक एजेंट को कोई वास्तविक अधिकार सौंपने से पहले, स्कूल को यह दिखाना होगा कि उनके पास इसका समर्थन करने के लिए साक्ष्य हैं और इसे प्रबंधित करने के लिए लोग मौजूद हैं।

अंततः, यह पत्र स्पष्टता और जिम्मेदारी के लिए एक आह्वान है। तकनीक तेजी से विकसित हो रही है, प्रश्नों के उत्तर देने वाले उपकरणों से लेकर क्रियाएं करने वाली प्रणालियों तक। लेकिन उनकी सुरक्षा और निष्पक्षता का प्रमाण तालमेल नहीं रख पाया है। समीक्षा पाती है कि हालांकि ये एजेंट कुछ कार्यों में सुधार कर सकते हैं, लेकिन हम अभी उन्हें छात्र की शिक्षा को आकार देने वाले बड़े निर्णयों के लिए भरोसेमंद बनाने हेतु तैयार नहीं हैं। आगे का रास्ता नवाचार को रोकना नहीं है, बल्कि धीमा होना और आवश्यक सुरक्षा उपाय बनाना है। सिस्टम की शक्ति को साक्ष्य की मजबूती और मानवीय नियंत्रण की गुणवत्ता के साथ मिलाकर, विश्वविद्यालय यह सुनिश्चित कर सकते हैं कि ये शक्तिशाली उपकरण निष्पक्षता, जवाबदेही और सीखने के मूल्यों से समझौता किए बिना छात्रों की सेवा करें। लक्ष्य भविष्य को रोकना नहीं है, बल्कि यह सुनिश्चित करना है कि जब वह आए, तो वह सत्य और विश्वास की नींव पर निर्मित हो।