Detecting AI-Generated Content in Academic Peer Reviews
यह अध्ययन ICLR और Nature Communications से सहकर्मी समीक्षाओं (peer reviews) का विश्लेषण करता है ताकि 2022 से एआई-जनित सामग्री में हुई तीव्र वृद्धि को प्रकट किया जा सके, जो 2025 तक क्रमशः लगभग 20% और 12% तक पहुँच गई है, जिससे विद्वत्तापूर्ण मूल्यांकन में एआई सहायता की बढ़ती व्यापकता पर प्रकाश पड़ता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि अकादमिक प्रकाशन (academic publishing) की दुनिया विचारों के एक विशाल, उच्च-दांव वाले टूर्नामेंट (Tournament of Ideas) की तरह है। इस टूर्नामेंट में, वैज्ञानिक अपने शोध पत्र जमा करते हैं, और विशेषज्ञों का एक समूह (पीयर रिव्यूअर्स) यह तय करने के लिए उन्हें पढ़ता है कि क्या वे प्रकाशित होने के लायक हैं। दशकों तक, यह पूरी तरह से एक मानवीय खेल था: मनुष्यों ने शोध पत्र लिखे, और मनुष्यों ने ही उनकी आलोचना लिखी।
लेकिन हाल ही में, अखाड़े में एक नया खिलाड़ी आया है: आर्टिफिशियल इंटेलिजेंस (AI)।
यह पेपर एक जासूसी कहानी की तरह है जहाँ लेखक यह पता लगाने की कोशिश कर रहे हैं कि: इन विशेषज्ञ जजों में से कितने लोग गुप्त रूप से एक रोबोट को उनके लिए आलोचना लिखने दे रहे हैं? और इससे भी महत्वपूर्ण बात यह है कि: यह सब कब शुरू हुआ?
यहाँ उनके अन्वेषण का विवरण दिया गया है, जिसे कुछ रोजमर्रा के उपमाओं (analogies) के साथ समझाया गया है:
1. जासूस का उपकरण: "AI स्निफर" (AI Sniffer)
शोधकर्ता केवल रिव्यूअर्स से यह नहीं पूछ सकते थे कि, "क्या आपने AI का उपयोग किया?" क्योंकि रिव्यूअर्स गुमनाम होते हैं और झूठ बोल सकते हैं। इसके बजाय, उन्होंने एक डिजिटल मेटल डिटेक्टर बनाया।
- उन्होंने इसे कैसे बनाया: उन्होंने डिटेक्टर को 2021 के रिव्यूज़ का एक ढेर दिया। उन्होंने डिटेक्टर से कहा, "ये वास्तविक मानव द्वारा लिखे गए रिव्यू हैं, और ये AI द्वारा बनाए गए नकली रिव्यू हैं। अंतर को समझो।"
- प्रशिक्षण (Training): डिटेक्टर ने AI लेखन के "फिंगरप्रिंट" को पहचानना सीख लिया। यह एक कुत्ते को किसी विशिष्ट प्रकार के पनीर की गंध पहचानने के लिए सिखाने जैसा है; एक बार प्रशिक्षित होने के बाद, कुत्ता उस पनीर को भी सूंघ सकता है भले ही वह किसी दूसरे कमरे में छिपा हो।
2. अन्वेषण: अतीत को स्कैन करना
एक बार जब डिटेक्टर तैयार हो गया, तो शोधकर्ताओं ने इसका उपयोग 2022, 2023, 2024 और 2025 के रिव्यू को स्कैन करने के लिए किया। उन्होंने दो अलग-अलग "अखाड़ों" को देखा:
- ICLR: कंप्यूटर विज्ञान के लिए एक तेज़-तर्रार, वार्षिक सम्मेलन (एक स्प्रिंट की तरह)।
- Nature Communications: सभी विज्ञानों के लिए एक प्रतिष्ठित, निरंतर चलने वाला जर्नल (एक मैराथन की तरह)।
3. निष्कर्ष: "शांत" वर्ष बनाम "विस्फोट"
परिणाम एक शांत तालाब में अचानक आए बड़े उछाल की तरह थे।
- 2022 और 2023 (शांत वर्ष): डिटेक्टर को लगभग कुछ भी नहीं मिला। यह जंगल में टहलते समय शून्य प्लास्टिक की बोतलें खोजने जैसा था। लगभग सभी रिव्यू ऐसे लग रहे थे जैसे उन्हें मनुष्यों द्वारा लिखा गया हो। यह बताता है कि उस समय, AI का उपयोग करके रिव्यू लिखना दुर्लभ या गैर-मौजूद था।
- 2024 (टर्निंग पॉइंट): अचानक, डिटेक्टर बीप करने लगा। 2024 की दूसरी छमाही में, AI-नुमा रिव्यू की संख्या बढ़ने लगी। ऐसा लगा जैसे किसी ने बाढ़ का द्वार खोल दिया हो।
- 2025 (बाढ़): 2025 तक, स्थिति नाटकीय रूप से बदल गई थी।
- ICLR सम्मेलन में, लगभग 20% (5 में से 1) रिव्यू को AI-जनरेटेड के रूप में चिह्नित किया गया।
- Nature Communications में, लगभग 12% को चिह्नित किया गया।
4. "क्यों" और "कब"
पेपर में समय के बारे में एक दिलचस्प बात देखी गई। सबसे बड़ा उछाल 2024 की तीसरी और चौथी तिमाही के बीच हुआ।
इसे एक नए वीडियो गेम कंसोल के लॉन्च होने जैसा समझें। मई 2024 में, OpenAI ने अपने AI (ChatGPT-4o) का एक सुपर-स्मार्ट संस्करण जारी किया जो सभी के लिए मुफ्त था। डेटा सुझाव देता है कि जैसे ही यह "सुपर-टूल" उपलब्ध हुआ, रिव्यूअर्स ने अपने फीडबैक का मसौदा तैयार करने के लिए इसका उपयोग अधिक से अधिक करना शुरू कर दिया।
5. बड़ी तस्वीर: इसका क्या अर्थ है?
लेखक हमें चेतावनी देते हैं कि यह केवल एक मामूली गड़बड़ी नहीं है; यह व्यवहार में एक बदलाव है।
- "घोस्ट राइटर" (Ghost Writer) की समस्या: कल्पना कीजिए कि यदि खेल के एक रेफरी ने पेनल्टी कॉल लिखने के लिए एक रोबोट को अनुमति दी। खेल अभी भी ठीक दिख सकता है, लेकिन इसकी अखंडता से समझौता किया गया है। यदि AI रिव्यू लिखता है, तो क्या वैज्ञानिक वास्तव में शोध पत्रों को पढ़ रहे हैं, या वे केवल "जेनरेट" बटन दबा रहे हैं?
- "हाइब्रिड" वास्तविकता: पेपर स्वीकार करता है कि उनका डिटेक्टर उन रिव्यूज़ को देख रहा है जो मुख्य रूप से AI द्वारा लिखे गए हैं। वास्तव में, कई रिव्यूअर्स एक "मानव-AI नृत्य" (human-AI dance) कर रहे होंगे—अपने मुख्य विचार स्वयं लिख रहे होंगे लेकिन व्याकरण को सुधारने या इसे अधिक शानदार बनाने के लिए AI का उपयोग कर रहे होंगे। उनका डिटेक्टर इन "हाइब्रिड" मामलों को मिस कर सकता है, जिसका अर्थ है कि AI के उपयोग की वास्तविक संख्या और भी अधिक हो सकती है।
निष्कर्ष (The Takeaway)
यह अध्ययन एक चेतावनी (wake-up call) है। यह दिखाता है कि अकादमिक दुनिया बहुत तेज़ी से "केवल मानव" क्षेत्र से "मानव और रोबोट" क्षेत्र की ओर बढ़ रही है।
जिस तरह स्कूलों को कैलकुलेटर और फिर इंटरनेट के आने पर अपने नियम अपडेट करने पड़े थे, विज्ञान की दुनिया को भी AI के लिए नए नियम तय करने की आवश्यकता है। यदि 5 में से 1 रिव्यू मशीन द्वारा लिखा गया है, तो हमें पूछना होगा: क्या हम अभी भी विज्ञान की गुणवत्ता का निर्णय ले रहे हैं, या हम केवल इस बात का निर्णय ले रहे हैं कि AI कितनी अच्छी तरह एक इंसान की नकल कर सकता है?
लेखक निष्कर्ष निकालते हैं कि हालांकि AI दक्षता में मदद कर सकता है, हमें सावधान रहने की आवश्यकता है कि हम "मशीन के भीतर के भूतों" (ghosts in the machine) को सबसे महत्वपूर्ण काम पर कब्जा करने न दें: यह तय करने पर कि कौन सा नया ज्ञान हमारे भविष्य को आकार देगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।