Autonomous Research Agents: A Survey of AI Scientists and the Verification Gap
35 स्वायत्त अनुसंधान एजेंट प्रणालियों का यह सर्वेक्षण प्रकट करता है कि जहाँ कोड रिलीज़ होना सामान्य है, वहीं पुनरुत्पादकता-स्तर के आर्टिफैक्ट्स और बाह्य रूप से मान्य दावों की कमी के कारण एक महत्वपूर्ण सत्यापन अंतराल बना हुआ है, जो यह तर्क देता है कि क्षेत्र की प्राथमिक बाधा कार्य पूर्णता से हटकर दावा सत्यापन में स्थानांतरित हो गई है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ वैज्ञानिक कंप्यूटरों का उपयोग केवल कैलकुलेटर के रूप में नहीं करते, बल्कि साथियों के रूप में करते हैं जो सोच सकते हैं, योजना बना सकते हैं और यहाँ तक कि अंतिम रिपोर्ट भी लिख सकते हैं। यह "स्वायत्त अनुसंधान एजेंटों" (autonomous research agents) की सीमा है—ऐसे AI सिस्टम जिन्हें विज्ञान का पूरा काम करने के लिए डिज़ाइन किया गया है: एक नया विचार लाना, दूसरों ने क्या लिखा है उसे पढ़ना, प्रयोग चलाना, डेटा का विश्लेषण करना और एक पेपर ड्राफ्ट करना। लंबे समय तक, बड़ा सवाल सरल था: "क्या ये AI रोबोट वास्तव में काम पूरा कर सकते हैं?" लेकिन जैसे-जैसे ये सिस्टम पेपर निकालने में बेहतर होते जा रहे हैं, सवाल बदल गया है। अब, हमें पूछना होगा: "क्या हम उनकी बातों पर भरोसा कर सकते हैं?"
समस्या को समझने के लिए, एक ऐसे छात्र के बारे में सोचें जो गणित का निबंध लिखता है। यदि वह आपको केवल अंतिम पृष्ठ सौंप देता है जिसमें उत्तर "42" लिखा है, तो आपको उसकी बात माननी होगी। लेकिन यदि वह आपको पूरी नोटबुक सौंपता है, जिसमें हर गणना का विवरण, उपयोग किए गए विशिष्ट नंबर और सटीक चरण दिए गए हैं, तो आप उसके काम की जाँच कर सकते हैं। AI विज्ञान की दुनिया में, "नोटबुक" कोड और डेटा लॉग है। यह पेपर इन AI वैज्ञानिकों के समूह पर नज़र डालता है ताकि यह देखा जा सके कि क्या वे अपनी नोटबुक सौंप रहे हैं या केवल अंतिम उत्तर दे रहे हैं। परिणाम यह निकलता है कि हालांकि कई सिस्टम निबंध पूरा करने में अच्छे हैं, लेकिन बहुत कम ऐसे हैं जो अपना काम इस तरह दिखाने को तैयार हैं जिससे कोई भी उनके गणित की दोबारा जाँच कर सके।
"अपना काम दिखाओ" की भारी कमी
यह पेपर नई पीढ़ी के "AI वैज्ञानिकों" के एक विशाल, विस्तृत ऑडिट की तरह है। लेखकों ने 24 अलग-अलग सिस्टमों का एक समूह इकट्ठा किया जो अपने आप पर शोध करने का दावा करते हैं और गहराई से देखा कि वे वास्तव में जनता के लिए क्या जारी करते हैं। उन्होंने एक अजीब और चिंताजनक पैटर्न पाया: कोड आम है, लेकिन प्रमाण दुर्लभ है।
एक बेकरी की कल्पना करें जहाँ हर बेकर आपको एक स्वादिष्ट दिखने वाला केक (कोड) थमाता है। आप केक देख सकते हैं, और वह असली दिखता है। लेकिन जबकि 83% बेकर आपको रेसिपी (कोड) देते हैं, 62% बेकर आपको वे सटीक शुरुआती नंबर, टाइमर सेटिंग्स या चरण-दर-चरण लॉग (सीड्स और निष्पादन ट्रेसेस) देने से मना कर देते हैं जिनकी आवश्यकता उस केक को खुद बनाने के लिए होती है। उन विवरणों के बिना, आप केक खुद बनाकर यह नहीं देख सकते कि क्या उसका स्वाद भी वैसा ही है। पेपर ने पाया कि जहाँ 83% सिस्टम ने अपना कोड जारी किया, वहीं केवल 38% ने विशिष्ट "सीड्स" या "ट्रेसेस" जारी किए जो प्रयोग को पूरी तरह से दोहराने के लिए आवश्यक हैं। यह किसी जादूगर के जादू दिखाने के बाद उसे करने के निर्देशों के बिना फोटो प्राप्त करने जैसा है।
"स्व-ग्रेडिंग" का जाल
पेपर ने यह भी जांचा कि ये AI सिस्टम यह कैसे तय करते हैं कि उनके अपने विचार कितने अच्छे हैं। एक स्वस्थ विज्ञान प्रयोगशाला में, एक वैज्ञानिक एक विचार प्रस्तावित करता है, और एक अलग, स्वतंत्र व्यक्ति जाँच करता है कि क्या वह सत्य है। लेकिन कई AI सिस्टम उन छात्रों की तरह हैं जो अपना स्वयं का टेस्ट लिखते हैं और फिर खुद ही उसे ग्रेड देते हैं।
लेखकों ने पाया कि इनमें से अधिकांश "क्लोज्ड-लूप" सिस्टम (जहाँ AI शुरू से अंत तक पूरा प्रयोग चलाता है) वास्तव में मैकेनिकल लूप्स हैं। वे एक परीक्षण चलाते हैं, एक स्कोर प्राप्त करते हैं, और यदि स्कोर पर्याप्त रूप से उच्च है, तो वे कहते हैं, "बहुत बढ़िया, मैंने कुछ खोज लिया है!" लेकिन वह "स्कोर" अक्सर एक आंतरिक संख्या होती है जिसे AI ने स्वयं कैलकुलेट किया होता है, न कि वास्तविक दुनिया के विरुद्ध कोई जाँच। नौ सिस्टमों में से जो पूरी तरह से स्वायत्त (लेवल 4) होने का दावा करते थे, उनमें से सात केवल इन आंतरिक मैकेनिकल लूप्स को चला रहे थे, और एक केवल लेखक का दावा था कि "यह काम करता है" बिना कोई प्रमाण दिखाए। पूरे समूह में केवल एक ऐसा सिस्टम था जिसे वास्तव में बाहरी, भौतिक जाँच (जैसे कि एक रोबट वास्तव में रसायनों को मिला रहा हो) द्वारा सत्यापित किया गया था, और वह सिस्टम वर्तमान AI लहर शुरू होने से पहले ही बनाया गया था।
"नवीनता" का भ्रम
एक और बड़ी खोज "नवीनता" के बारे में है। विज्ञान का उद्देश्य ऐसी चीजें खोजना है जो पहले कोई नहीं जानता था। पेपर ने इस बात पर गौर किया कि ये AI सिस्टम यह कैसे जाँचते हैं कि उनके विचार वास्तव में नए हैं या नहीं। उन्होंने पाया कि केवल 38% सिस्टमों के पास यह सत्यापित करने का कोई तरीका था कि उनका विचार वास्तव में मौलिक (novel) है।
यह एक ऐसे लेखक की तरह है जो दावा करता है कि उसकी कहानी एक बिल्कुल नई कहानी है। यदि वह लाइब्रेरी में यह जाँच नहीं करता कि क्या किसी और ने पहले ही इसे लिखा है, तो वह अनजाने में एक पुरानी किताब की नकल कर सकता है। पेपर सुझाव देता है कि कई AI सिस्टम केवल ऐसे विचार उत्पन्न कर रहे हैं जो AI को नए दिखते हैं, लेकिन दुनिया के लिए शायद नए नहीं हैं, क्योंकि कोई भी वास्तव में लाइब्रेरी की अलमारियों की जाँच नहीं कर रहा है।
विश्वास का "ब्लैक बॉक्स"
लेखक तर्क देते हैं कि हम वर्तमान में एक "सत्यापन अंतराल" (verification gap) में हैं। हमारे पास ऐसे AI सिस्टम हैं जो पेपर लिख सकते हैं और कोड चला सकते हैं, लेकिन हमारे पास उन टूल्स की कमी है जिनसे यह सत्यापित किया जा सके कि वे पेपर सत्य हैं। वे बताते हैं कि:
- कोड जारी करना उच्च (83%) है, लेकिन पुनरुत्पादकता (reproducibility) कम (38%) है।
- नवीनता की जाँच दुर्लभ (38%) है।
- नए AI सिस्टम में बाहरी सत्यापन लगभग नगण्य है।
पेपर यह नहीं कहता कि ये AI वैज्ञानिक बेकार हैं। यह कहता है कि वे बहुत तेज़, बहुत आत्मविश्वासी लेखकों की तरह हैं जिन्होंने अभी तक एक उचित डायरी रखना नहीं सीखा है। जब तक वे अपनी पूरी नोटबुक (सीड्स, ट्रेसेस और स्वतंत्र जाँच) सौंपना शुरू नहीं करते, हम सुनिश्चित नहीं हो सकते कि उनकी "खोजें" वास्तविक हैं या केवल बहुत प्रभावशाली भ्रम (hallucinations)।
निष्कर्ष: भविष्य के लिए एक चेकलिस्ट
पेपर इन AI वैज्ञानिकों की समीक्षा करने वाले किसी भी व्यक्ति के लिए एक "रिपोर्टिंग चेकलिस्ट" पेश करके समाप्त होता है। यह उन नियमों का एक सेट है ताकि यह सुनिश्चित किया जा सके कि AI केवल यह न कहे कि "मैंने यह किया," बल्कि यह सिद्ध करे कि उसने किया है। नियमों में शामिल हैं:
- सीड्स दिखाएं: सटीक शुरुआती नंबर दें ताकि अन्य लोग प्रयोग को दोबारा चला सकें।
- सिलेक्शन पॉलिसी दिखाएं: समझाएं कि आपने अपने सभी प्रयासों में से "सर्वश्रेष्ठ" परिणाम कैसे चुना।
- सिद्ध करें कि यह नया है: दिखाएं कि आपने कैसे जाँच की कि आपका विचार पहले से ज्ञात नहीं था।
- एक बाहरी व्यक्ति को निर्णय लेने दें: AI को अपना होमवर्क खुद ग्रेड न करने दें; एक स्वतंत्र चेकर का उपयोग करें।
संक्षेप में, पेपर सुझाव देता है कि जबकि AI विज्ञान करने में बहुत अच्छा हो रहा है, यह विज्ञान को सिद्ध करने में अभी भी बहुत खराब है। अगला बड़ा कदम स्मार्ट AI बनाना नहीं है, बल्कि उनके काम की जाँच करने के बेहतर तरीके बनाना है। तब तक, हमें उनके द्वारा लिखे गए पेपर्स को संदेह की दृष्टि से देखना चाहिए, और उनके "काम दिखाने" का इंतज़ार करना चाहिए, इससे पहले कि हम उनके उत्तर पर विश्वास करें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।