A Neurosymbolic Multiagent Framework for Culturally Responsive Personalised Explainable and Fair AI Tutoring
यह वैचारिक शोध पत्र KAIROS को प्रस्तुत करता है, जो एक न्यूरोसिम्बोलिक मल्टी-एजेंट फ्रेमवर्क है जो एक सीमित निर्णय लेने की प्रक्रिया के भीतर शैक्षणिक निर्णयों को सांस्कृतिक प्रस्तुति से औपचारिक रूप से अलग करके सांस्कृतिक रूप से उत्तरदायी, निष्पक्ष और व्याख्या योग्य एआई ट्यूटरिंग सुनिश्चित करता है, जबकि इसके सैद्धांतिक गारंटियों को मान्य करने के लिए एक कठोर मूल्यांकन प्रोटोकॉल को निर्दिष्ट करता है बिना कोई अनुभवजन्य परिणाम प्रस्तुत किए।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कक्षा में, एक शिक्षक के पास सबसे शक्तिशाली उपकरण कोई पाठ्यपुस्तक या व्हाइटबोर्ड नहीं होता, बल्कि यह जानने की क्षमता होती है कि किसी भी क्षण एक छात्र क्या समझ रहा है। दशकों से, शिक्षक जानते हैं कि जब निर्देश शिक्षार्थी की विशिष्ट आवश्यकताओं के अनुरूप होते हैं, तो छात्र एक मानक समूह परिवेश की तुलना में बहुत तेज़ी से विषय में महारत हासिल कर सकते हैं। यह विचार, जिसे अक्सर "प्रॉक्सिमल डेवलपमेंट का ज़ोन" (zone of proximal development) कहा जाता है, यह सुझाव देता है कि सीखना तब सबसे अच्छा होता है जब एक शिक्षक एक ऐसी चुनौती पेश करता है जो छात्र द्वारा अकेले किए जा सकने वाले कार्य से बस थोड़ी सी ऊपर हो, और अंतर को पाटने के लिए सही संकेत या उदाहरण प्रदान करता है। आज, आर्टिफिशियल इंटेलिजेंस इस तरह की एक-पर-एक ट्यूशन करोड़ों लोगों तक एक साथ पहुँचाने का वादा करती है। लार्ज लैंग्वेज मॉडल्स, जो कई आधुनिक चैटबॉट्स के पीछे की तकनीक है, धाराप्रवाह बातचीत कर सकते हैं और सेकंडों में जटिल विचारों को समझा सकते हैं। हालाँकि, जबकि ये प्रणालियाँ प्रभावशाली वार्ताकार हैं, वे अक्सर सही शिक्षण निर्णय लेने में संघर्ष करती हैं। वे शायद यह न जान पाएं कि एक छात्र वास्तव में क्या जानता है, वे विभिन्न समूहों के छात्रों के साथ अन्यायपूर्ण व्यवहार कर सकते हैं, और जब वे कोई गलती करते हैं, तो वे यह नहीं समझा सकते कि उन्होंने एक विशेष मार्ग क्यों चुना। इन सुरक्षा उपायों के बिना, एक एआई ट्यूटर रूढ़ियों को सुदृढ़ करने या कुछ छात्रों के लिए अपेक्षाओं को कम करने का जोखिम उठाता है, जिससे सशक्तिकरण का एक उपकरण सूक्ष्म भेदभाव के साधन में बदल सकता है।
बनारस हिंदू विश्वविद्यालय के शोधकर्ता निकिता श्रीवास्तव और दीपा मेहता ने 'काइरोस' (KAIROS) नामक एक एआई ट्यूटरिंग सिस्टम के लिए एक नया डिज़ाइन प्रस्तावित किया है, जिसका उद्देश्य इन समस्याओं को केवल सुधारना नहीं, बल्कि सिस्टम के सोचने के तरीके को पुनर्गठित करके उन्हें हल करना है। यह एक वैचारिक शोध पत्र (conceptual paper) है, जिसका अर्थ है कि लेखकों ने अभी तक सिस्टम का कार्यात्मक संस्करण नहीं बनाया है और न ही इसे वास्तविक छात्रों पर परखा है। इसके बजाय, उन्होंने एक सटीक ब्लूप्रिंट और एक कठोर योजना तैयार की है कि भविष्य में ऐसे सिस्टम का निर्माण और परीक्षण कैसे किया जाना चाहिए। उनका केंद्रीय तर्क यह है कि चार गुण जो एक विश्वसनीय ट्यूटर के लिए आवश्यक हैं—वैयक्तिकरण (personalization), सांस्कृतिक संवेदनशीलता (cultural responsiveness), निष्पक्षता (fairness), और व्याख्यात्मकता (explainability)—गहराई से जुड़े हुए हैं। यदि आप एक को दूसरे पर विचार किए बिना ठीक करने की कोशिश करते हैं, तो सिस्टम विफल हो जाएगा। उदाहरण के लिए, यदि एक एआई सांस्कृतिक रूप से संवेदनशील होने के लिए उन उदाहरणों को बदलने का प्रयास करता है जिनका वह उपयोग करता है, तो वह अनजाने में पाठ की कठिनाई को बदल सकता है, जिससे कुछ छात्रों के लिए मानक कम हो सकता है जबकि दूसरों के लिए इसे उच्च रखा जा सकता है। इसे रोकने के लिए, लेखक एक ऐसा ढांचा प्रस्तावित करते हैं जो यह कड़ाई से अलग करता है कि क्या सिखाया जा रहा है और उसे कैसे प्रस्तुत किया जा रहा है।
काइरोस ढांचे का मूल हर अंतःक्रिया के लिए एक दो-चरणीय प्रक्रिया है। सबसे पहले, सिस्टम "पेडागोगिकल कोर" (pedagogical core) का निर्णय लेता है, जो पाठ का अपरिवर्तनीय शैक्षिक सार है। इसमें यह पहचानना शामिल है कि छात्र को किस विशिष्ट कौशल का अभ्यास करने की आवश्यकता है, उपयुक्त कठिनाई स्तर निर्धारित करना, और शिक्षण के प्रकार का चयन करना, जैसे कि संकेत देना, एक नैदानिक प्रश्न पूछना, या एक हल किया हुआ उदाहरण प्रदान करना। यह निर्णय छात्र के ज्ञान और वह आगे क्या सीखने के लिए तैयार है, इसके एक विस्तृत और निरंतर अपडेट किए जाने वाले मानचित्र के आधार पर लिया जाता है। महत्वपूर्ण रूप से, यह सिस्टम का हिस्सा निष्पक्षता सुनिश्चित करने के लिए सख्त नियमों से बंधा हुआ है: समान समझ के स्तर वाले प्रत्येक छात्र को, उनकी पृष्ठभूमि की परवाह किए बिना, समान मूल निर्देश प्राप्त होना चाहिए। दूसरा चरण "प्रेजेंटेशन ट्रांसफॉर्म" (presentation transform) है। यहीं पर सिस्टम पाठ को छात्र की संस्कृति और व्यक्तिगत शैली के अनुकूल बनाता है। यह उपयोग की जाने वाली भाषा को बदल सकता है, एक सामान्य उदाहरण को छात्र के समुदाय से लिए गए उदाहरण से बदल सकता है, या लहजे को अधिक सहयोगात्मक या अधिक औपचारिक बना सकता है। नवाचार यहाँ यह है कि सिस्टम को इस तरह डिज़ाइन किया गया है कि ये सांस्कृतिक समायोजन सिखाए जा रहे विषय की कठिनाई या मूल अवधारणा को कभी नहीं बदल सकते। सांस्कृतिक अनुकूलन पाठ की सतह तक सीमित है, यह सुनिश्चित करते हुए कि संवेदनशीलता कभी भी विभेदक अपेक्षाओं में न बदल जाए।
इन निर्णयों को लेने के लिए, सिस्टम एक एकल ब्लैक-बॉक्स कंप्यूटर प्रोग्राम के बजाय मिलकर काम करने वाले विशेषज्ञ डिजिटल एजेंटों की एक टीम पर भरोसा करता है। एक एजेंट "लर्नर मॉडल" बनाए रखता है, जो छात्र के ज्ञान का एक कैलिब्रेटेड अनुमान है जिसमें अनिश्चितता का माप भी शामिल है। यदि सिस्टम इस बारे में अनिश्चित है कि छात्र क्या जानता है, तो इसे अनुमान लगाने के बजाय स्पष्ट करने के लिए एक प्रश्न पूछने के लिए डिज़ाइन किया गया है। एक अन्य एजेंट तथ्यों की शुद्धता सुनिश्चित करने के लिए एक संरचित डेटाबेस से विशिष्ट शैक्षिक सामग्री प्राप्त करता है। तीसरा एजेंट, "गार्डरेल" (Guardrail), एक सुरक्षा निरीक्षक के रूप में कार्य करता है। कोई भी पाठ देने से पहले, यह एजेंट जाँच करता है कि सांस्कृतिक अनुकूलन ने अनजाने में समस्या की कठिनाई को तो नहीं बदल दिया है और क्या शिक्षण का तरीका समान स्थितियों वाले अन्य छात्रों की तुलना में निष्पक्ष है। यदि पाठ इन जाँचों में विफल रहता है, तो इसे संशोधन के लिए वापस भेज दिया जाता है। क्योंकि इस प्रक्रिया का प्रत्येक चरण एक स्पष्ट, निरीक्षण योग्य लॉग में रिकॉर्ड किया जाता है, इसलिए सिस्टम एक "प्रोवेनेंस ट्रेस" (provenance trace) के रूप में व्याख्या प्रदान कर सकता है। एक अस्पष्ट, बाद में दी गई कहानी देने के बजाय कि उसने एक विकल्प क्यों चुना, सिस्टम सटीक डेटा बिंदु, लक्षित विशिष्ट कौशल और वे निष्पक्षता जाँचें दिखा सकता है जो उस निर्णय तक ले गईं।
लेखक सावधानीपूर्वक यह स्पष्ट करते हैं कि यह एक डिज़ाइन प्रस्ताव है, न कि एक तैयार उत्पाद। उन्होंने अभी तक यह सिद्ध करने के लिए मानव छात्रों के साथ प्रयोग नहीं किए हैं कि काइरोस वर्तमान विधियों से बेहतर काम करता है। इसके बजाय, उन्होंने सफलता को मापने के लिए नए मेट्रिक्स को परिभाषित किया है, जैसे कि सिस्टम कठिनाई को बदले बिना संस्कृति के प्रति कितनी अच्छी तरह अनुकूल होता है, और इसकी व्याख्याएँ इसके वास्तविक निर्णयों के साथ कितनी वफादारी से मेल खाती हैं। उन्होंने एक विस्तृत योजना भी तैयार की है कि भविष्य के अध्ययन में पहले सिम्युलेटेड शिक्षार्थियों का उपयोग करके और उसके बाद वास्तविक छात्रों के साथ एक बड़े, बहु-स्थल प्रयोग के माध्यम से इसका परीक्षण किया जाएगा। शोधकर्ताओं का तर्क है कि "क्या" और "कैसे" को अलग करके और मूल निर्देश पर सख्त निष्पक्षता के नियमों को लागू करके, एक ऐसा एआई ट्यूटर बनाना संभव है जो गहराई से व्यक्तिगत और कठोर रूप से निष्पक्ष दोनों हो। लक्ष्य यह सुनिश्चित करना है कि जैसे-जैसे आर्टिफिशियल इंटेलिजेंस शिक्षा का एक सामान्य हिस्सा बनता जा रहा है, यह प्रत्येक शिक्षार्थी की गरिमा और क्षमता का सम्मान करे, उनके बैकग्राउंड के अनुकूल भी हो लेकिन कभी भी उस मानक को कम न करे जिसे प्राप्त करने की उनसे अपेक्षा की जाती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।