Credential farming in the age of generative AI: relocating trust from outputs to communities
यह शोध पत्र तर्क देता है कि जनरेटिव एआई ने क्षमता के प्रॉक्सी के रूप में पारंपरिक शैक्षणिक क्रेडेंशियल्स की विश्वसनीयता को कम कर दिया है, जिससे एपिस्टेमिक ट्रस्ट (ज्ञानमीमांसीय विश्वास) को पॉलिश किए गए आउटपुट से हटाकर उन संबंधात्मक समुदायों और रचनात्मक प्रक्रियाओं की ओर स्थानांतरित करने की आवश्यकता उत्पन्न हुई है जो वास्तव में विद्वत्तापूर्ण निर्णय को विकसित और प्रमाणित करते हैं।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
दशकों से, वैज्ञानिक जगत एक सरल, विश्वसनीय धारणा पर काम करता रहा है: यदि आप एक सुसंस्कृत शोध पत्र प्रस्तुत कर सकते हैं, तो आपको उसके भीतर के कार्य की समझ अवश्य होगी। यह विचार योग्यताओं (credentials) पर निर्भर करता है—डिग्री, प्रकाशित लेख और नौकरी के पद—जो किसी व्यक्ति की आलोचनात्मक रूप से सोचने और साझा ज्ञान में योगदान देने की क्षमता के संक्षिप्त रूप (shorthand) के रूप में कार्य करते हैं। ये दस्तावेज़ किसी व्यक्ति के मस्तिष्क के कभी भी पूर्ण मापदंड नहीं थे, लेकिन वे विश्वसनीय थे क्योंकि उन्हें बनाने के लिए वास्तविक प्रयास और गहन शिक्षण की आवश्यकता होती थी। हालाँकि, जनरेटिव आर्टिफिशियल इंटेलिजेंस (AI) के उदय ने इस कड़ी को तोड़ना शुरू कर दिया है। अब, एक व्यक्ति एक त्रुटिहीन शोध लेख का उपयोग कर सकता है, जिसमें डेटा विश्लेषण और संदर्भ भी शामिल हैं, बिना वास्तव में यह जाने कि उन शब्दों का अर्थ क्या है या निष्कर्षों तक कैसे पहुँचा गया। यह बदलाव एक खतरनाक अंतराल पैदा करता है जहाँ दस्तावेज़ तो उत्तम दिखता है, लेकिन उसके पीछे का व्यक्ति शायद कुछ भी नहीं सीखा होता।
यह नई वास्तविकता वैज्ञानिकों और डॉक्टरों के चयन के पूरे तंत्र के लिए खतरा पैदा करती है। यदि संस्थान केवल उन शोध पत्रों के आधार पर लोगों का मूल्यांकन करना जारी रखते हैं जो वे प्रस्तुत करते हैं, तो वे ऐसे व्यक्तियों को नियुक्त करने का जोखिम उठाते हैं जिन्होंने उत्तर खोजने के कौशल के बजाय कंप्यूटर से उत्तर पूछने की कला में महारत हासिल कर ली है। दुनिया भर के विश्वविद्यालयों के छात्रों और प्रोफेसरों सहित शोधकर्ताओं के एक समूह ने तर्क दिया है कि समाधान लोगों द्वारा AI के उपयोग को पकड़ने के लिए बेहतर उपकरण बनाने में नहीं है, बल्कि इस बात में है कि हम अपने विश्वास को कहाँ रखते हैं। वे सुझाव देते हैं कि अंतिम उत्पाद को देखने के बजाय, हमें इस बात पर ध्यान देना चाहिए कि एक व्यक्ति समुदाय के भीतर कैसे सीखता और सोचता है।
इस शोध पत्र के लेखक, जिनमें हाई स्कूल के छात्रों से लेकर चिकित्सा शोधकर्ताओं तक एक विविध टीम शामिल है, तर्क देते हैं कि सक्षमता के मूल्यांकन का पारंपरिक तरीका ढह रहा है। वे एक ऐसी घटना का वर्णन करते हैं जिसे वे "क्रेडेंशियल फार्मिंग" (credential farming) कहते हैं, जहाँ व्यक्ति उस डिग्री या प्रकाशन के सामाजिक मूल्य को प्राप्त कर लेता है जो उन उपाधियों को अर्थ प्रदान करते हैं, बिना वास्तव में वैज्ञानिक उद्यम में योगदान दिए। अतीत में, एक शोध पत्र तैयार करना इस बात का प्रमाण था कि किसी ने एक विषय में महारत हासिल करने के लिए वर्षों बिताए हैं। आज, जनरेटिव AI किसी को भी वास्तविक ज्ञान के बावजूद तुरंत वह प्रमाण उत्पन्न करने की अनुमति देता है। लेखक बताते हैं कि इसे डिटेक्शन सॉफ्टवेयर (पकड़ने वाले सॉफ्टवेयर) के माध्यम से ठीक करने की कोशिश करना एक हारने वाली लड़ाई है। ये उपकरण अक्सर अविश्वसनीय होते हैं, उन लेखकों को अनुचित रूप से दंडित कर सकते हैं जिनकी पहली भाषा अंग्रेजी नहीं है, और उस सीमा की रक्षा करते हैं जो अब जानकार और अनजान के बीच अंतर नहीं करती है।
डिटेक्शन की जंग लड़ने के बजाय, शोधकर्ता वैज्ञानिक के निर्माण (formation) पर ध्यान केंद्रित करने का प्रस्ताव देते हैं। उनका तर्क है कि सच्ची सक्षमता किसी दस्तावेज़ में संग्रहीत नहीं होती, बल्कि एक समूह के भीतर सीखने की एक लंबी, गवाह प्रक्रिया के माध्यम से निर्मित होती है। यह अवधारणा इस विचार पर आधारित है कि हम दूसरों के साथ मिलकर काम करके सीखते हैं, जो हमारी गलतियों को देख सकते हैं और हमारे विचारों का मार्गदर्शन कर सकते हैं। एक स्वस्थ वैज्ञानिक समुदाय में, एक सदस्य केवल तथ्यों को पढ़कर नहीं सीखता, बल्कि संवादों में संलग्न होकर सीखता है जहाँ उसे अपने तर्क समझाने, अपनी गलती स्वीकार करने और साथियों से मिले फीडबैक के आधार पर अपने विचारों को संशोधित करने की आवश्यकता होती है। इस प्रकार का सीखना नकल करना कठिन है क्योंकि यह समय के साथ और दूसरों के साथ संबंधों में होता है, जबकि एक कंप्यूटर तुरंत एक आदर्श दिखने वाला निबंध उत्पन्न कर सकता है जो लेखक के मन के बारे में कुछ भी प्रकट नहीं करता।
इस विचार का परीक्षण करने के लिए, लेखक तीन व्यावहारिक चरणों का वर्णन करते हैं जिन्हें शोध समुदाय अपना सकते हैं। पहला, वे सुझाव देते हैं कि नए सदस्यों का चयन उनके बायोडाटा की स्पष्टता के बजाय उनकी सोच की गहराई के आधार पर किया जाए। इसमें ऐसे खुले प्रश्न पूछना शामिल है जिनका कोई एक सही उत्तर नहीं है, जैसे कि किसी उम्मीदवार से वह समय बताने को कहना जब एक नए विचार ने उनके विश्वदृष्टि को विचलित कर दिया हो। एक कंप्यूटर ऐसे प्रश्न का एक संभावित उत्तर उत्पन्न कर सकता है, लेकिन वह उस वास्तविक हिचकिचाहट, चिंतन और व्यक्तिगत इतिहास की नकल नहीं कर सकता जो एक वास्तविक मानव बातचीत में लाता है। दूसरा, वे छोटे, अनौपचारिक समूहों के निर्माण की सिफारिश करते हैं जहाँ लोग अंतिम रिपोर्ट प्रस्तुत करने के दबाव के बिना स्वतंत्र रूप से बात कर सकें। ये छोटे घेरे उस प्रकार के ईमानदार आदान-प्रदान की अनुमति देते हैं जहाँ एक व्यक्ति कह सकता है, "मैं यह नहीं समझता," और मदद प्राप्त कर सकता है, जो उस तरीके को दर्शाता है जिससे वास्तविक जीवन में सीखना होता है। अंत में, लेखक इन समुदायों से इन नई विधियों को नए मेट्रिक्स (मापदंडों) में बदलने की इच्छा का विरोध करने का आग्रह करते हैं। यदि वे यह गिनना शुरू कर देते हैं कि कोई कितनी बार बोलता है या कितनी जल्दी जवाब देता है, तो वे केवल वास्तविक समझ के बजाय एक संख्या के लिए अनुकूलन (optimizing) की पुरानी समस्या को ही दोबारा पैदा करेंगे।
यह पत्र इस बात पर प्रकाश डालता है कि यह बदलाव कम संसाधनों वाले परिवेश के शोधकर्ताओं के लिए विशेष रूप से महत्वपूर्ण है, जो अक्सर उन अनौपचारिक नेटवर्क के माध्यम से सीखते हैं जो पारंपरिक संस्थानों के लिए अदृश्य होते हैं। इन व्यक्तियों में गहरी जिज्ञासा और वास्तविक कौशल हो सकता है लेकिन उनके पास खुद को प्रस्तुत करने के लिए वह परिष्कृत शब्दावली नहीं होती जिसकी कुलीन विश्वविद्यालय अपेक्षा करते हैं। निर्माण और सामुदायिक संबंधों पर ध्यान केंद्रित करके, संस्थान इन प्रतिभाशाली लोगों को खोज सकते हैं जो वर्तमान में उपेक्षित हैं। लेखक स्वीकार करते हैं कि यह दृष्टिकोण एक आदर्श समाधान नहीं है और इसमें अपने स्वयं के जोखिम भी हैं, जैसे कि व्यक्तिपरक बातचीत में पूर्वाग्रह की संभावना। वे स्वीकार करते हैं कि चरित्र को देखना कठिन है और उनकी अपनी टीम में वे छात्र भी शामिल हैं जो अभी सीख रहे हैं, जिसका अर्थ है कि वे स्वयं के निर्माण को भीतर से पूरी तरह प्रमाणित नहीं कर सकते।
अंततः, पत्र यह निष्कर्ष निकालता है कि मशीनें शोध पत्र लिख सकती हैं, लेकिन वे भरोसे के योग्य इंसान नहीं बन सकतीं। वैज्ञानिक संस्थानों के लिए कार्य अब यह सत्यापित करना नहीं है कि एक दस्तावेज़ मौजूद है, बल्कि यह निर्धारित करना है कि क्या एक व्यक्ति ने वास्तव में सोचना सीखा है। इसके लिए अंतिम उत्पाद के मूल्यांकन से हटकर सीखने की यात्रा को प्रत्यक्ष रूप से देखने की ओर बढ़ने की आवश्यकता है। यह प्रणाली को फिर से बनाने का आह्वान है ताकि यह केवल चमकदार, निर्मित परिणाम के बजाय वैज्ञानिक बनने की अव्यवस्थित, कठिन और मानवीय प्रक्रिया को महत्व दे सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।