The Evolutionary Dynamics of AI, Politicization, Contestation, and Trust in Science Funding
यह शोध पत्र एक विकासवादी गेम-थ्योरी मॉडल का उपयोग करके यह प्रदर्शित करता है कि विज्ञान वित्तपोषण में कथित राजनीतिक हस्तक्षेप वैज्ञानिकों के बीच एक क्रमिक प्रतिरोध को जन्म दे सकता है, जिससे विविध संस्थागत परिणाम उत्पन्न होते हैं जहाँ परिचालन क्षमता और सार्वजनिक वैधता अलग-अलग, अक्सर विच्छेदित (decoupled) स्थितियों द्वारा शासित होती हैं जो एआई-सहायता प्राप्त समीक्षा प्रणालियों की जनता की स्वीकृति से भारी रूप से प्रभावित होती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि "शो एंड टेल" (दिखाना और बताना) का एक विशाल, उच्च-दांव वाला खेल चल रहा है जो हमारी आधुनिक दुनिया के इंजन को चलाता है। इस खेल में, प्रतिभाशाली वैज्ञानिक नई दवाओं, स्वच्छ ऊर्जा और तेज़ कंप्यूटरों के लिए जंगली (अद्भुत) विचार लेकर आते हैं। इन विचारों को बनाने के लिए धन प्राप्त करने हेतु, उन्हें विशेषज्ञों के एक पैनल को यह विश्वास दिलाना होता है कि उनकी योजनाएं अच्छी हैं। इस प्रक्रिया को पीयर रिव्यू (सहकर्मी समीक्षा) कहा जाता है, और यह वह द्वारपाल है जो तय करता है कि किन परियोजनाओं को वित्त पोषण मिलेगा और कौन खाली हाथ घर वापस जाएगा। इस प्रणाली के काम करने के लिए, दो चीजों का होना आवश्यक है: पहला, विशेषज्ञों को वास्तव में प्रस्तावों को पढ़ने का काम करना होगा (क्षमता), और दूसरा, हम जैसे बाकी लोगों को—जनता को—यह विश्वास होना चाहिए कि प्रक्रिया निष्पक्ष है और इसे राजनेताओं द्वारा हेर-फेर नहीं किया गया है (वैधता)। यदि जनता को लगता है कि खेल अनुचित है, तो वे पूरी प्रक्रिया पर भरोसा करना छोड़ देते हैं, और पूरा सिस्टम ढह सकता है, भले ही वैज्ञानिक अपना काम कर रहे हों।
अब, कल्पना कीजिए कि सरकार चीजों को तेज़ करने के लिए, विशेष रूप से यदि मानव विशेषज्ञ शिकायत करने लगते हैं कि प्रणाली अनुचित है, तो प्रस्तावों को पढ़ने में मदद करने के लिए एक सुपर-फास्ट रोबोट जज (आर्टिफिशियल इंटेलिजेंस - AI) को लाने का निर्णय लेती है। यहीं पर अनिमेष रे का एक नया अध्ययन सामने आता है। लेखक ने एक जटिल कंप्यूटर सिमुलेशन—एक डिजिटल सैंडबॉक्स—बनाया है ताकि यह देखा जा सके कि क्या होता है जब वैज्ञानिक, जनता और फंडिंग एजेंसी एक अराजक, राजनीतिक वातावरण में एक-दूसरे की प्रतिक्रिया देने लगते हैं। अध्ययन बताता है कि केवल इंसानों को रोबों से बदलने से समस्या हल नहीं होती है; वास्तव में, यह फंडिंग एजेंसी के एक "ज़ोंबी" संस्करण को बना सकता है जो निर्णय तो निकालता रहता है लेकिन अपनी आत्मा और सार्वजनिक विश्वास खो चुका होता है।
डिजिटल सैंडबॉक्स: रणनीति का एक खेल
इस सिमुलेशन में, लेखक फंडिंग की दुनिया को वैज्ञानिकों, जनता और फंडिंग एजेंसी के बीच तीन-तरफा खींचतान के रूप la treat करते हैं।
वैज्ञानिकों के पास कुछ चालें हैं। वे अच्छे खिलाड़ी बन सकते हैं, अपने सहयोगियों के काम की समीक्षा कर सकते हैं, और अपने स्वयं के प्रस्ताव प्रस्तुत कर सकते हैं। लेकिन यदि उन्हें लगता है कि प्रणाली पक्षपाती या अनुचित है, तो वे विरोध शुरू कर सकते हैं। वे या तो किसी के भी काम की समीक्षा करने से मना कर सकते हैं, या वे पाइपों को जाम करने के लिए बड़ी संख्या में प्रस्ताव जमा करके सिस्टम को "बाढ़" (फ्लड) से भरने की कोशिश कर सकते हैं। यह उन बच्चों के समूह जैसा है जो खेल में तय करते हैं कि वे नियमों का पालन करेंगे या गुस्से में एक साथ रेफरी की ओर हज़ार गेंदें फेंक देंगे।
जनता करीब से देख रही है। वे जानना चाहते हैं कि क्या खेल निष्पक्ष है। यदि वे देखते हैं कि एजेंसी (बिना किसी स्पष्टीकरण के) रोबोट जज (AI) पर बहुत अधिक निर्भर है, या यदि वे देखते हैं कि वैज्ञानिक लड़ रहे हैं, तो वे पूरे सिस्टम पर भरोसा करना बंद कर सकते हैं। वे इसे स्वीकार कर सकते हैं, इसे खारिज कर सकते हैं, या इसे रोकने के लिए मुकदमा (लिटिगेशन) भी कर सकते हैं।
फंडिंग एजेंसी वह रेफरी है जो खेल को जारी रखने की कोशिश कर रही है। उसके पास एक सीमित बजट और प्रस्तावों का बढ़ता हुआ ढेर है। जब वैज्ञानिक विरोध करते हैं, तो एजेंसी इसे ठीक करने के लिए दो चीजें करती है: उन्हें खुश रखने के लिए मानव समीक्षकों को अधिक पैसा देना, और बैकलॉग को तेज़ी से निपटाने के लिए AI रोबोट की आवाज़ (उपयोग) को बढ़ाना।
बड़ी हैरानी: "ज़ोंबी" एजेंसी
सिमुलेशन ने कुछ चौंकाने वाले और विरोधाभासी परिणाम दिखाए। सबसे महत्वपूर्ण निष्कर्ष यह है कि परिचालन क्षमता (कितने प्रस्ताव संसाधित किए जाते हैं) और संस्थागत वैधता (जनता सिस्टम पर कितना भरोसा करती है) दो अलग चीजें हैं जो स्वतंत्र रूप से विफल हो सकती हैं।
अध्ययन सुझाव देता है कि एक एजेंसी प्रस्तावों के भारी बैकलॉग को साफ करने के लिए AI का सफलतापूर्वक उपयोग कर सकती है, जिससे पैसा बहता रहता है और रोबट पूरी गति से काम करते हैं। हालांकि, ठीक उसी समय, जनता पूरी तरह से सिस्टम पर विश्वास खो सकती है, और निर्णयों को अवैध मान सकती है। लेखक इसे एक "ज़ोंबी" अवस्था कहते हैं: संस्था तकनीकी रूप से जीवित और गतिशील है, लेकिन उसका अधिकार (अथॉरिटी) मर चुका है। यह एक ऐसे रेस्टोरेंट की तरह है जो रोबोट द्वारा खाना पकाने के कारण अविश्वसनीय रूप से तेज़ खाना परोसता है, लेकिन ग्राहक खाने और शेफ दोनों से नफरत करते हैं, इसलिए वे आना बंद कर देते हैं, भले ही रसोई 100% क्षमता पर चल रही हो।
"प्रस्तावों की बाढ़" और बजट का जाल
यह पेपर एक जीवंत परिदृश्य का पता लगाता है कि क्या होता है जब वैज्ञानिक क्रोधित होते हैं। केवल काम करने से मना करने के बजाय, वे हजारों अतिरिक्त प्रस्तावों के साथ सिस्टम को "बाढ़" देने का निर्णय ले सकते हैं। सिमुलेशन दिखाता है कि यह रणनीति सिस्टम को तोड़ने में अविश्वसनीय रूप से प्रभावी है। भले ही AI रोबोट सुपर-फास्ट हो, यदि वैज्ञानिक अधिक से अधिक प्रस्ताव फेंकते रहते हैं, तो वह उसका मुकाबला नहीं कर सकता।
यहाँ मोड़ यह है: एजेंसी वैज्ञानिकों को वापस जोड़ने के लिए उन्हें अधिक पैसा देकर इसे ठीक करने की कोशिश करती है। लेकिन अध्ययन बताता है कि यह उल्टा पड़ सकता है। यदि जनता देखती है कि एजेंसी संकट के दौरान वैज्ञानिकों को बड़े "आपातकालीन" भुगतान बांट रही है, तो वे इसे रिश्वत के रूप में देख सकते हैं। यह धारणा बचे हुए विश्वास को भी नष्ट कर सकती है, जिससे स्थिति और खराब हो जाती है। इसके अलावा, इंसानों को अधिक भुगतान करने से बजट कम हो जाता है, जिसका अर्थ है कि AI रोबोटों के लिए भुगतान करने के लिए कम पैसा बचता है, जिससे एक दुष्चक्र बन जाता है जहाँ एजेंसी उस समस्या को ठीक करने के लिए पैसे नहीं जुटा पाती जिसे वह हल करने की कोशिश कर रही है।
संयोग और समय की भूमिका
पेपर यह भी उजागर करता है कि परिणाम हमेशा अनुमानित नहीं होते हैं। सिमुलेशन में, समान शुरुआती स्थितियों से बिल्कुल अलग अंत निकल सकते हैं, सिर्फ इसलिए क्योंकि लोगों ने शुरुआत में कैसे प्रतिक्रिया दी, इसमें छोटे-छोटे यादृच्छिक (रैंडम) अंतर थे। कभी-कभी, शुरुआत में थोड़ा सा अतिरिक्त विश्वास सिस्टम को बचा सकता था; अन्य मामलों में, अविश्वास की एक छोटी सी चिंगारी पूर्ण पतन का कारण बन सकती थी। अध्ययन बताता है कि एक बार जब सिस्टम "ज़ोंबी" अवस्था या पूर्ण पतन की ओर झुक जाता है, तो इसे वापस लाना बहुत कठिन होता है।
यह अध्ययन क्या नहीं कहता
यह ध्यान रखना महत्वपूर्ण है कि यह पेपर क्या दावा नहीं करता है। यह यह नहीं कहता कि AI बुरा है या हमें इसका उपयोग कभी नहीं करना चाहिए। सिमुलेशन वास्तव में दिखाता है कि AI प्रस्तावों को प्रभावी ढंग से संसाधित कर सकता है। समस्या तकनीक स्वयं नहीं है; बल्कि उसके आसपास का विश्वास है। अध्ययन यह भी नहीं कहता कि वैज्ञानिक स्वाभाविक रूप से बुरे हैं या वे निश्चित रूप से सिस्टम को बाढ़ से भर देंगे; बल्कि, यह सुझाव देता है कि यदि राजनीतिक वातावरण पर्याप्त खराब हो जाता है, तो सिस्टम को बाढ़ देने का प्रोत्साहन उनके लिए एक तर्कसंगसंगत विकल्प बन जाता है।
मुख्य निष्कर्ष
सरल शब्दों में, यह अध्ययन सुझाव देता है कि आप तेज़ रोबोट या बड़े चेक के साथ विश्वास के संकट से बाहर नहीं निकल सकते। यदि जनता को लगता है कि खेल फिक्स्ड है, तो AI की दक्षता भी इसे ठीक नहीं कर पाएगी। एजेंसी लाइट जलाकर रख सकती है और प्रस्तावों को आगे बढ़ा सकती है, लेकिन यदि देखने वाले लोग विश्वास खो देते हैं, तो पूरा उद्यम एक खोखला खोल बन जाता है। मुख्य बात यह है कि "ट्रस्ट" (विश्वास) वाले हिस्से को ठीक करना उतना ही महत्वपूर्ण है जितना कि "स्पीड" (गति) वाले हिस्से को ठीक करना, और ये दो अलग समस्याएं हैं जिन्हें दो अलग समाधानों की आवश्यकता है। यदि हम मानवीय भावनाओं और निष्पक्षता की धारणा पर ध्यान नहीं देते हैं, तो हम एक ऐसा वैज्ञानिक फंडिंग सिस्टम बनाने का जोखिम उठाते हैं जो कागज पर तो पूरी तरह काम करता है लेकिन वास्तविक दुनिया में विफल हो जाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।