How should AI knowledge be governed? Epistemic authority, structural transparency, and the case for open cognitive graphs
यह शोध पत्र तर्क देता है कि शैक्षिक एआई प्रणालियों को, जो वर्तमान में अनियंत्रित ज्ञानमीमांसीय अधिकार का प्रयोग करती हैं, संरचनात्मक पारदर्शिता, लोकतांत्रिक जवाबदेही और वितरित विशेषज्ञता के एकीकरण को सुनिश्चित करने के लिए ओपन कॉग्निटिव ग्राफ्स और एक ट्रंक-ब्रांच मॉडल के कार्यान्वयन के माध्यम से सार्वजनिक संज्ञानात्मक बुनियादी ढांचे के रूप में शासित किया जाना चाहिए।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बच्चे को साइकिल चलाना सिखा रहे हैं। आपके पास कुछ विकल्प हैं:
मानवीय कोच (The Human Coach): आप उनके बगल में खड़े होते हैं। यदि वे लड़खड़ाते हैं, तो आप उन्हें समझाते हैं कि वे क्यों गिरे। यदि वे गलत करते हैं, तो आप कह सकते हैं, "दरअसल, चलो दूसरी तरफ झुककर कोशिश करते हैं।" यदि आप कोई गलती करते हैं, तो वे पूछ सकते हैं, "क्या आप पक्का हैं?" और आप इसे ठीक करने के लिए किसी किताब को देख सकते हैं या किसी अन्य कोच से पूछ सकते हैं। आप जवाबदेह हैं।
जादुई ब्लैक बॉक्स (The Magic Black Box): आप बच्चे को एक हेलमेट देते हैं जिसके अंदर एक स्पीकर लगा है। हेलमेट सब कुछ जानता है। यह उसे ठीक से बताता है कि पैडल कैसे मारना है। यह तेज़ और स्मार्ट है। लेकिन अगर हेलमेट गलत सलाह देता है (जैसे "पीछे की ओर पैडल मारो"), तो बच्चे को पता ही नहीं चलता कि उसने ऐसा क्यों कहा। वह हेलमेट से उसके तर्क (logic) को समझाने के लिए नहीं पूछ सकता, और वह निश्चित रूप से गियर ठीक करने के लिए हेलमेट को खोल भी नहीं सकता। हेलमेट बस बोलता रहता है और बच्चा बस सुनता रहता है।
यह शोध पत्र इस बारे में है कि हम वर्तमान में स्कूलों में AI का उपयोग कैसे कर रहे हैं, और क्यों "जादुई ब्लैक बॉक्स" वाला दृष्टिकोण खतरनाक है।
यहाँ इस शोध पत्र के बड़े विचारों का सरल भाषा में विवरण दिया गया है:
1. समस्या: AI एक शिक्षक की तरह काम कर रहा है, लेकिन इसके पास कोई "विवेक" नहीं है
आजकल, शिक्षा में AI हर जगह है। यह होमवर्क को ग्रेड देता है, छात्रों को बताता है कि आगे क्या पढ़ना है, और जटिल विषयों को समझाता है। यह प्रभावी रूप से एक वास्तविक शिक्षक (de facto teacher) बन गया है।
लेकिन यहाँ एक पेंच है: एक मानव शिक्षक एक व्यवस्था (system) का हिस्सा होता है। यदि शिक्षक गलत है, तो उसे ठीक करने के नियम होते हैं। यदि छात्र असहमत है, तो वह अपील कर सकता है। यदि कोई पाठ्यपुस्तक गलत है, तो उसे अपडेट किया जाता है।
हालाँकि, AI आमतौर पर एक "ब्लैक बॉक्स" होता है। यह ऐसे गणित के आधार पर निर्णय लेता है जिसे हम देख नहीं सकते। यदि AI एक छात्र को कहता है कि क्योंकि वह भ्रमित हो गया था, तो वहाँ कोई "अपील प्रक्रिया" नहीं है। स्कूल उस विशिष्ट गलती को ठीक करने के लिए AI के दिमाग को खोल नहीं सकता। AI एक सहायक उपकरण होने का दावा करता है, लेकिन वास्तव में यह एक ऐसे प्राधिकारी (authority figure) की तरह काम कर रहा है जिसके पास उस अधिकार के साथ आने वाली कोई जिम्मेदारी या जवाबदेही नहीं है।
2. समाधान: "ओपन कॉग्निटिव ग्राफ" (Open Cognitive Graph - OCG)
लेखक AI बनाने का एक नया तरीका प्रस्तावित करते हैं। AI को सब कुछ अपने "दिमाग" के भीतर गुप्त रूप से सीखने देने के बजाय, वे चाहते हैं कि AI एक सार्वजनिक मानचित्र (public map) का उपयोग करे जिसे ओपन कॉग्निटिव ग्राफ कहा जाता है।
उपमा: शहर का नक्शा बनाम GPS का अनुमान
- वर्तमान AI: एक ऐसे GPS की तरह जो कल देखे गए ट्रैफिक पैटर्न के आधार पर सबसे अच्छा रास्ता अनुमान लगाता है। यह आपको एक ऐसे शॉर्टकट पर ले जा सकता है जो बंद गली में समाप्त होता है, और यह आपको यह नहीं बताएगा कि क्यों।
- OCG: दीवार पर लगे एक सार्वजनिक रूप से खींचे गए शहर के नक्शे की तरह है।
- नोड्स (Nodes): चौराहे (जैसे "गुरुत्वाकर्षण" या "भिन्न/Fractions" जैसे विचार)।
- लाइन्स (Lines): उन्हें जोड़ने वाली सड़कें (जैसे "गुणा करने से पहले आपको जोड़ समझना आवश्यक है")।
- साइन (Signs): सामान्य गलतियों के लिए चेतावनी संकेत (जैसे "सावधान: छात्र अक्सर सोचते हैं कि भारी वस्तुएं तेजी से गिरती हैं")।
इस प्रणाली में, AI केवल उत्तर का "अनुमान" नहीं लगाता। उसे सार्वजनिक मानचित्र पर सड़कों का पालन करना होता है। यदि मानचित्र कहता है कि "आप अभी यहाँ नहीं जा सकते," तो AI छात्र को वहाँ नहीं ले जा सकता।
यह शानदार क्यों है? क्योंकि यह मानचित्र खुला (open) है। शिक्षक, विशेषज्ञ और यहाँ तक कि माता-पिता भी इस मानचित्र को देख सकते हैं, कह सकते हैं, "हे, यह सड़क गलत है," और इसे ठीक कर सकते हैं। AI फिर एक गुप्त एल्गोरिदम के बजाय, ठीक किए गए मानचित्र के आधार पर अपना मार्ग अपडेट करता है।
3. शासन (Governance): "ट्रंक और ब्रांच" मॉडल
हम यह कैसे तय करेंगे कि मानचित्र पर क्या जाएगा? सड़कें कौन खींचेगा?
शोध पत्र एक वृक्ष मॉडल (Tree Model) का सुझाव देता है:
- ट्रंक (The Trunk - मुख्य तना): यह पेड़ का मजबूत, केंद्रीय हिस्सा है। इसमें वे तथ्य होते हैं जिन पर सभी सहमत होते हैं (जैसे "पानी गीला है," "पृथ्वी सूर्य के चारों ओर घूमती है")। ट्रंक को बदलना कठिन है और इसके लिए बहुत से विशेषज्ञों की सहमति आवश्यक है। यह स्थिरता बनाए रखता है।
- ब्रांचेस (The Branches - शाखाएं): ये मुख्य तने से निकलने वाली छोटी टहनियाँ हैं। ये विभिन्न शिक्षण शैलियों, सांस्कृतिक संदर्भों या नए विचारों की अनुमति देती हैं।
- उदाहरण: जापान में एक विज्ञान शिक्षक के पास एक "शाखा" हो सकती है जो गुरुत्वाकर्षण को एक विशिष्ट स्थानीय उपमा का उपयोग करके समझाती है। ब्राजील के एक शिक्षक के पास अलग शाखा हो सकती है। दोनों वैध हैं, जब तक कि वे ट्रंक के नियमों को नहीं तोड़ते।
यदि कोई "शाखा" पढ़ाने का एक बेहतरीन नया तरीका साबित होती है, तो वह अंततः इतनी मजबूत हो सकती है कि "ट्रंक" का हिस्सा बन जाए।
4. एक वास्तविक उदाहरण: "ऊर्जा" की समस्या
शोध पत्र एक विज्ञान AI के बारे में एक कहानी देता है।
- समस्या: AI छात्रों को बता रहा था कि एक बार जब वे समझ जाते हैं कि "ऊर्जा वस्तुओं का एक गुण है," तो वे "ऊर्जा संरक्षण" सीखने के लिए तैयार हैं। लेकिन वास्तविक शिक्षकों को पता था कि यह बहुत बड़ी छलांग थी। छात्र अटक रहे थे।
- समाधान: विशेषज्ञों के एक समूह (एक "शाखा") ने कहा, "रुको, हमें एक पुल की आवश्यकता है।" उन्होंने मानचित्र में दो नए चरण जोड़े: "ऊर्जा स्थानांतरण" (Energy Transfer) और "सिस्टम सीमाएं" (System Boundaries)।
- प्रक्रिया: उन्होंने केवल AI पर चिल्लाया नहीं। उन्होंने मानचित्र में बदलाव का प्रस्ताव दिया। विशेषज्ञों ने इसकी जांच की। इसका कुछ कक्षाओं में परीक्षण किया गया। यह काम कर गया। फिर, "ट्रंक" (मुख्य मानचित्र) को अपडेट किया गया, और प्रत्येक छात्र जो AI का उपयोग कर रहा था, को बेहतर, स्पष्ट व्याख्या मिली।
5. यह सभी के लिए क्यों महत्वपूर्ण है
लेखक तर्क देते हैं कि शिक्षा सार्वजनिक बुनियादी ढांचा (Public Infrastructure) है, ठीक वैसे ही जैसे सड़कें, पुल या बिजली ग्रिड।
- वर्तमान स्थिति: हम निजी कंपनियों को ज्ञान के "रास्ते" बनाने दे रहे हैं। वे विज्ञापन बेचने के लिए रास्ते बना सकते हैं, या वे उन्हें खराब तरीके से बना सकते हैं क्योंकि उन्हें स्थानीय यातायात की परवाह नहीं है।
- भविष्य की स्थिति: हम "ज्ञान के रास्तों" को एक सार्वजनिक उपयोगिता (public utility) के रूप में देखते हैं। हम सुनिश्चित करते हैं कि:
- समता (Equity): गरीब स्कूलों को भी उतने ही उच्च गुणवत्ता वाले "मानचित्र" मिलें जितने अमीर स्कूलों को मिलते हैं।
- जवाबदेही (Accountability): यदि AI कोई गलती करता है, तो हमें पता होता है कि उसे ठीक करने के लिए कहाँ देखना है।
- लोकतंत्र (Democracy): ज्ञान को कैसे व्यवस्थित किया जाए, इस पर किसी दूसरे देश के टेक सीईओ के बजाय शिक्षकों और समुदायों की राय हो।
निष्कर्ष
यह शोध पत्र यह नहीं कह रहा है कि "AI का उपयोग करना बंद करें।" यह कह रहा है, "AI को एक जादुई भविष्यवक्ता (oracle) की तरह मानना बंद करें और इसे एक सार्वजनिक पुस्तकालय की तरह मानें।"
हमें ऐसे AI सिस्टम बनाने की आवश्यकता है जहाँ "तर्क" दृश्यमान, संपादन योग्य और समुदाय द्वारा शासित हो, न कि किसी निगम के स्वामित्व वाले ब्लैक बॉक्स के भीतर छिपा हुआ हो। ओपन कॉग्निटिव ग्राफ्स और ट्रंक-ब्रांच प्रणाली का उपयोग करके, हम मानव शिक्षकों की बुद्धिमत्ता, जवाबदेही और निष्पक्षता को बनाए रखते हुए AI की गति को बरकरार रख सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।