Local AI pre-screening for human triple-blind peer review in health sciences
यह शोध पत्र स्वास्थ्य विज्ञान के सहकर्मी समीक्षा (पीयर रिव्यू) के लिए एक पारदर्शी, ट्रिपल-ब्लाइंड ढांचे का प्रस्ताव करता है जो अप्रकट एआई उपयोग और समीक्षकों की कमी से जुड़े जोखिमों को कम करने के लिए बहु-चरणीय प्री-स्क्रीनिंग हेतु स्थानीय रूप से होस्ट किए गए, ओपन-वेट एलएलएम (LLMs) का उपयोग करता है, जबकि यह सुनिश्चित करता है कि अंतिम निर्णय लेने का अधिकार मानव विशेषज्ञों के पास ही रहे।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
विज्ञान एक शांत, आवश्यक अनुष्ठान पर निर्भर करता है: इससे पहले कि कोई नई खोज दुनिया के साथ साझा की जाए, अन्य विशेषज्ञों को यह सुनिश्चित करने के लिए इसे ध्यान से पढ़ना चाहिए कि यह सुदृढ़ है। यह प्रक्रिया, जिसे 'पियर रिव्यू' (सहकर्मी समीक्षा) के रूप में जाना जाता है, इसी तरह काम करती है जिससे वैज्ञानिक समुदाय यह तय करता है कि कौन सा कार्य प्रकाशन के योग्य है। दशकों से, यह प्रणाली एक सबमिट किए गए पेपर को कुछ मानव विशेषज्ञों के साथ मिलान करके कार्य करती है जो इसे गुप्त रूप से पढ़ते हैं, और इस बात पर निर्णय देते हैं कि क्या पद्धतियाँ सही हैं और क्या निष्कर्ष टिकते हैं। लेकिन वर्तमान में यह प्रणाली अपने ही भार से दब रही है। हाल के वर्षों में, प्रमुख सम्मेलनों में प्रस्तुत किए जाने वाले शोध पत्रों की संख्या में विस्फोट हुआ है, जो एक एकल आयोजन के लिए 21,575 जैसी संख्या तक पहुँच गई है, जबकि उन्हें पढ़ने के इच्छुक योग्य विशेषज्ञों की संख्या इसके साथ तालमेल नहीं बिठा पाई है। इसका परिणाम एक ऐसी बाधा (बॉटलनेक) है जहाँ अच्छा विज्ञान महीनों तक प्रतीक्षा करता है, और दबाव इतना बढ़ गया है कि कुछ शोधकर्ताओं ने चुपचाप इन समीक्षाओं को लिखने के लिए कृत्रिम बुद्धिमत्ता (AI) का उपयोग करना शुरू कर दिया है, जो अक्सर बिना किसी को बताए किया जाता है। यह छिपा हुआ बदलाव नए जोखिम भी लाता है, जैसे कि कंप्यूटर द्वारा फर्जी संदर्भों का आविष्कार करना या लेखकों द्वारा टेक्स्ट के भीतर छिपे निर्देशों के माध्यम से कंप्यूटर को सकारात्मक रेटिंग देने के लिए बहकाना।
इस बढ़ते संकट के जवाब में, रोड्रिगो एम. बूस नामक एक शोधकर्ता ने सहकर्मी समीक्षा प्रक्रिया को व्यवस्थित करने का एक नया तरीका प्रस्तावित किया है जो कृत्रिम बुद्धिमत्ता के उपयोग को खुले तौर पर सामने लाता है जबकि मानव विशेषज्ञों को मजबूती से नियंत्रण में रखता है। यह शोध पत्र विशेष रूप से स्वास्थ्य विज्ञान जर्नल्स के लिए डिज़ाइन की गई एक प्रणाली की रूपरेखा तैयार करता है, जहाँ रोगी सुरक्षा और अनुसंधान अखंडता के दांव बहुत ऊंचे होते हैं। इसका मुख्य विचार तीन कृत्रिम बुद्धिमत्ता कार्यक्रमों की एक टीम का उपयोग करना है जो किसी भी पेपर की मानव समीक्षक द्वारा देखे जाने से पहले उसकी प्रारंभिक स्क्रीनिंग करने के लिए कार्य करती है। ये प्रोग्राम अंतिम निर्णय नहीं लेते कि पेपर को प्रकाशित किया जाए या अस्वीकार किया जाए; इसके बजाय, वे एक फिल्टर के रूप में कार्य करते हैं, जो यह जाँचते हैं कि क्या पांडुलिपि मानवीय ध्यान के लिए तैयार भी है या नहीं। महत्वपूर्ण रूप से, यह प्रणाली अप्रकाशित कार्य की गोपनीयता की रक्षा करने के लिए बनाई गई है। इंटरनेट पर डेटा भेजने वाले कई व्यावसायिक उपकरणों के विपरीत, यह प्रस्ताव मांग करता है कि कृत्रिम बुद्धिमत्ता जर्नल के अपने स्थानीय कंप्यूटरों पर चले, जिससे यह सुनिश्चित हो सके कि किसी नए चिकित्सा अध्ययन का टेक्स्ट जर्नल के सुरक्षित बुनियादी ढांचे से बाहर न जाए। यह डिज़ाइन उन प्रमुख वित्त पोषण एजेंसियों की चिंताओं को सीधे संबोधित करता है जो वर्तमान में अपने समीक्षकों को बाहरी एआई टूल का उपयोग करने से प्रतिबंधित करती हैं क्योंकि वे यह गारंटी नहीं दे सकते कि अप्रकाशित डेटा कहाँ संग्रहीत किया गया है।
यह प्रणाली एक सबमिट किए गए पांडुलिपि को पांच विशिष्ट चरणों के माध्यम से निर्देशित करती है। सबसे पहले, पेपर को किसी भी छिपे हुए टेक्स्ट या गुप्त निर्देशों को हटाने के लिए स्वचालित रूप से साफ किया जाता है जो कंप्यूटर को धोखा देने की कोशिश कर सकते हैं। इसके बाद, तीन स्वतंत्र एआई मॉडल गुमनाम पेपर को पढ़ते हैं और एक विशिष्ट मानदंड के विरुद्ध स्कोर करते हैं, जैसे कि क्या अध्ययन का डिज़ाइन निष्कर्षों का समर्थन करता है या क्या सांख्यिकी सटीक है। इन मॉडलों को अपने आप में अंतिम निर्णय लेने की अनुमति नहीं है; वे केवल एक स्कोर और एक संरचित स्पष्टीकरण प्रदान करते हैं। यदि स्कोर बहुत कम हैं, तो पेपर को सुधार के फीडबैक के साथ लेखक को वापस भेज दिया जाता है। यदि स्कोर पर्याप्त उच्च हैं, तो पेपर अगले चरण में जाता है, जहाँ तीन मानव विशेषज्ञ इसे पढ़ते हैं। मानव समीक्षक कृत्रिम बुद्धिमत्ता द्वारा दिए गए स्कोर से अनभिज्ञ होते हैं; वे केवल यह जानते हैं कि पेपर प्रारंभिक कंप्यूटर जांच में पास हो गया है। यह अलगाव महत्वपूर्ण है ताकि मनुष्य केवल कंप्यूटर की राय से सहमत होने के लिए मजबूर न हों। अंत में, एक संपादक प्रकाशन के लिए अंतिम निर्णय लेने हेतु एआई और मनुष्यों दोनों के कार्य की समीक्षा करता है।
इस प्रस्ताव का एक विशेष रूप से नवीन हिस्सा एक ऐसी सुविधा है जो लेखकों को यह चुनने की अनुमति देती है कि यदि पेपर तैयार नहीं है तो उनके साथ कैसा व्यवहार किया जाए। एक मानक समीक्षा में, एक लेखक को मानव संपादक से अस्वीकृति पत्र प्राप्त होता है, जो एक दर्दनाक और कलंकजनक अनुभव हो सकता है जो उन्हें अपना काम जारी रखने से हतोत्साहित करता है। यह नई प्रणाली एक ऐसा विकल्प प्रदान करती है जहाँ एक लेखक पहले से सहमति दे सकता है कि यदि तीनों एआई मॉडल इस बात पर सहमत होते हैं कि पेपर तैयार नहीं है, तो पेपर बिना किसी मानव के देखे, संशोधन के लिए उन्हें वापस कर दिया जाएगा। यह एक निजी, "अनुपदर्शक" (अनविटनेस्ड) अस्वीकृति बनाता है जो लेखक को उनके काम को पॉलिश होने से पहले किसी मानव द्वारा निर्णय सुनाए जाने के सामाजिक कलंक से बचाता है। शोध पत्र के लेखक स्वीकार करते हैं कि यह एक परिकल्पना है जिसे परीक्षण की आवश्यकता है; यह अभी तक सिद्ध नहीं हुआ है कि यह दृष्टिकोण अस्वीकृति के भावनात्मक बोझ को कम करता है, लेकिन यह वर्तमान प्रणाली में ज्ञात मनोवैज्ञानिक हानि को संबोधित करने का एक जानबूझकर किया गया प्रयास है।
शोध पत्र सावधानी से यह स्पष्ट करता है कि यह एक डिज़ाइन प्रस्ताव है, न कि कोई तैयार उत्पाद जिसका वास्तविक चिकित्सा जर्नल्स पर परीक्षण किया गया है। लेखक स्वीकार करते हैं कि कंप्यूटर चेक पास करने के निर्णय के लिए उपयोग किए जाने वाले विशिष्ट स्कोर 'वर्किंग गेस' (कार्यकारी अनुमान) हैं जिन्हें वास्तव में उपयोग किए जाने पर कैलिब्रेट करने की आवश्यकता होगी। कुछ ज्ञात सीमाएँ भी हैं: इस स्थानीय प्रणाली में उपयोग किए जाने वाले एआई मॉडल इंटरनेट पर उपलब्ध सबसे उन्नत वाणिज्यिक मॉडलों की तुलना में थोड़े कम शक्तिशाली हैं, जो पूर्ण गोपनीयता सुनिश्चित करने के लिए किया गया एक समझौता है। इसके अलावा, लेखक नोट करते हैं कि हालांकि सिस्टम को स्पष्ट त्रुटियों को पकड़ने के लिए डिज़ाइन किया गया है, फिर भी यह गारंटी नहीं दे सकता कि यह कभी भी सूक्ष्म दोष को नहीं छोड़ेगा या किसी परिष्कृत हमले से नहीं ठगा जाएगा। प्रस्ताव यह दावा नहीं करता है कि यह मानव निर्णय का स्थान लेगा, जो अनिवार्य अंतिम चरण के रूप में बना रहता है, बल्कि यह एक संरचित, पारदर्शी परत के रूप में कार्य करने का प्रयास करता है जो सबमिशन की भारी मात्रा को प्रबंधित करने में मदद करता है। कृत्रिम बुद्धिमत्ता की भूमिका को दृश्यमान और नियंत्रित बनाकर, लेखक का तर्क है कि वैज्ञानिक समुदाय इन उपकरणों का उपयोग उस विश्वास और अखंडता से समझौता किए बिना प्रक्रिया को तेज करने के लिए कर सकता है जिसे पियर रिव्यू को सुरक्षित रखना चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।