Agentic AI Scientists Are Not Built For Autonomous Scientific Discovery
यह शोध पत्र तर्क देता है कि वर्तमान एजेंटिक एआई (agentic AI) प्रणालियाँ समस्या चयन, गूढ़ प्रयोगशाला ज्ञान के संबंध में प्रशिक्षण डेटा अंतराल, प्राथमिकता अनुकूलन (preference optimization) से होने वाले आउटपुट एकरूपता, और अपर्याप्त बेंचमार्किंग की मौलिक सीमाओं के कारण पूर्णतः स्वायत्त वैज्ञानिक खोज के लिए अक्षम हैं, जिसके लिए सिमुलेशन-आधारित सत्यापन, निरंतर विश्व मॉडल (world models) और आवश्यकता-संचालित अनुप्रयोग पर केंद्रित पुनर्रचना की आवश्यकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "एजेंटिक एआई साइंटिस्ट्स आर नॉट बिल्ट फॉर ऑटोनॉमस साइंटिफिक डिस्कवरी" (Agentic AI Scientists Are Not Built For Autonomous Scientific Discovery) शोध पत्र का सरल भाषा और रचनात्मक उपमाओं के साथ अनुवाद दिया गया है।
मुख्य विचार: "को-पायलट" बनाम "कैप्टन"
कल्पना कीजिए कि आप एक नए द्वीप को खोजने के लिए अज्ञात जलक्षेत्रों में एक जहाज चलाने की कोशिश कर रहे हैं।
- वर्तमान एआई (AI): यह एक अविश्वसनीय रूप से बुद्धिमान को-पायलट (Co-Pilot) है। यह नक्शा पढ़ सकता है, सबसे तेज़ रास्ता निकाल सकता है, और यदि आप इसे सटीक रूप से बताते हैं कि कहाँ जाना है, तो यह जहाज को मोड़ भी सकता है। यह उन समस्याओं को हल करने में अद्भुत है जो इंसान इसे देते हैं।
- शोध पत्र का तर्क: लेखक कहते हैं कि यह को-पायलट कैप्टन बनने के लिए तैयार नहीं है। यह यह तय नहीं कर सकता कि कौन सा द्वीप खोजना है, इसे नहीं पता कि क्या करना है जब नक्शा गलत हो, और यह अक्सर उन्हीं द्वीपों का सुझाव देता है जिन्हें बाकी सभी पहले से ही देख रहे हैं।
यह शोध पत्र तर्क देता है कि हालांकि एआई वैज्ञानिकों की मदद करने के लिए एक शानदार उपकरण है, लेकिन यदि हम इसे पूरी वैज्ञानिक प्रक्रिया को अपने आप चलाने देने की कोशिश करते हैं, तो यह मौलिक रूप से विफल हो जाता है।
चार प्रमुख बाधाएं
लेखक चार विशिष्ट कारणों की पहचान करते हैं कि क्यों एआई अभी तक एक "स्वायत्त वैज्ञानिक" (autonomous scientist) नहीं बन सकता।
1. "मैक्नामारा फैलेसी" (McNamara Fallacy): केवल उसे मापना जो आसान है
उपमा: कल्पना कीजिए कि एक पुलिस प्रमुख केवल इसलिए लोगों को जे-वॉकिंग (गलत जगह सड़क पार करना) के लिए गिरफ्तार करता है क्योंकि टिकट गिनना आसान है, जबकि वह बैंक डकैती जैसे वास्तविक अपराधों को अनदेखा कर देता है क्योंकि उन्हें ट्रैक करना कठिन है।
शोध पत्र का दावा: एआई सिस्टम उन चीजों को अनुकूलित (optimize) करने के लिए प्रशिक्षित किए जाते हैं जिन्हें वे माप सकते हैं (जैसे डेटा नंबर)। यह उन्हें सबसे महत्वपूर्ण, कठिन और "अमापनीय" वैज्ञानिक प्रश्नों को अनदेखा करने के लिए मजबूर करता है।
- वास्तविक दुनिया का उदाहरण: बैटरी अनुसंधान में, एआई केवल "कंडक्टिविटी" (चालकता) पर ध्यान केंद्रित कर सकता है क्योंकि यह एक संख्या है जिसे वह गणना कर सकता है। यह कठिन, अनकहे कारकों को अनदेखा कर देता है जैसे कि "क्या यह सामग्री वास्तव में निर्माण के लिए सुरक्षित है?" या "क्या यह 10 साल तक चलेगी?" क्योंकि ये चीजें अव्यवस्थित हैं और उन्हें स्कोर करना कठिन है।
2. "साइलेंट लाइब्रेरी" (The Silent Library): गलतियों का गायब होना
उपमा: कल्पना कीजिए कि एक छात्र परीक्षा के लिए केवल उस पाठ्यपुस्तक का उपयोग करके पढ़ाई कर रहा है जिसमें हर सही उत्तर सूचीबद्ध है, लेकिन उस हर पन्ने को हटा दिया गया है जहाँ लेखक ने गलती की थी, भ्रमित हुआ था, या किसी ऐसी विधि का प्रयास किया था जो विफल रही थी।
शोध पत्र का दावा: एआई प्रकाशित वैज्ञानिक शोध पत्रों से सीखता है। लेकिन विज्ञान में एक "प्रकाशन पूर्वाग्रह" (publication bias) होता है: जर्नल केवल सफलता की कहानियाँ छापते हैं। वे "विफल प्रयोगों" और "निहित ज्ञान" (tacit knowledge - वह अनकही तरकीबें जो वैज्ञानिक काम करते हुए सीखते हैं, जैसे कि "इन रसायनों को बारिश के दिन न मिलाएं") को फेंक देते हैं।
- परिणाम: एआई सोचता है कि विज्ञान सफलताओं की एक सीधी रेखा है। उसे यह नहीं पता कि विफलता को कैसे संभालना है, इसलिए जब वह वास्तविक दुनिया में किसी मृत अंत (dead end) से टकराता है, तो उसे पता नहीं होता कि अपनी दिशा कैसे बदलनी है। यह एक ऐसे शेफ की तरह है जिसने केवल रेसिपी पढ़ी हैं लेकिन कभी खाना जलाया नहीं है या खराब सामग्री के अनुसार खुद को ढालना नहीं सीखा है।
3. "हाइव माइंड" (The Hive Mind): सब एक जैसा सोचते हैं
उपमा: कल्पना कीजिए कि आप पांच अलग-अलग दिग्गजों से एक नया आइसक्रीम फ्लेवर बनाने के लिए कहते हैं। यदि वे सभी एक ही स्कूल में गए थे, एक ही किताबें पढ़ी थीं, और एक ही शिक्षक द्वारा ग्रेड दिए गए थे जिसे "स्ट्रॉबेरी" पसंद था, तो वे सभी स्ट्रॉबेरी आइसक्रीम ही बनाएंगे।
शोध पत्र का दावा: शोध पत्र इसे "डाइवर्सिटी कम्प्रेशन" (Diversity Compression) कहता है। एआई मॉडल को एक ही प्रकाशित साहित्य पर प्रशिक्षित किया जाता है और फिर इंसानों द्वारा विनम्र और सहमत दिखने के लिए "ट्यून" किया जाता है।
- प्रयोग: लेखकों ने विभिन्न कंपनियों के विभिन्न एआई मॉडलों से नए वैज्ञानिक विचार मांगे। हालांकि वे अलग-अलग मॉडल थे, फिर भी वे बिल्कुल एक ही विचार लेकर आए। वे "लोकप्रिय" उत्तरों (जैसे बैटरी सामग्री के विशिष्ट प्रकार) पर केंद्रित हो गए और अजीब, नवीन या जोखिम भरे विचारों को अनदेखा कर दिया। यदि आप दस एआई वैज्ञानिकों से एक परिकल्पना (hypothesis) मांगते हैं, तो आप प्रभावी रूप से एक ही वैज्ञानिक का उत्तर दस बार प्राप्त करते हैं।
4. "वीडियो गेम" की समस्या: वास्तविक दुनिया से फीडबैक का अभाव
उपमा: कल्पना कीजिए कि आप एक वीडियो गेम खेल रहे हैं जहाँ आपको सही उत्तर का अनुमान लगाने के लिए अंक मिलते हैं, लेकिन आपको वास्तव में उस चीज़ को बनाना नहीं पड़ता जिसका आपने अनुमान लगाया था। आप बिना वास्तविक दुनिया को छुए भी गेम जीत सकते हैं।
शोध पत्र का दावा: वर्तमान एआई बेंचमार्क (परीक्षण) वीडियो गेम की तरह हैं। वे एआई से एक परिणाम की भविष्यवाणी करने के लिए कहते हैं, और यदि वह सही है, तो उसे एक गोल्ड स्टार मिलता है। वास्तविक विज्ञान एक लूप (loop) है: आप अनुमान लगाते हैं, आप परीक्षण करते हैं, परीक्षण विफल होता है, आप अपने अनुमान को बदलते हैं, और आप फिर से परीक्षण करते हैं।
- अंतराल (Gap): एआई "अनुमान लगाने" वाले हिस्से में बहुत अच्छा है। लेकिन वह "लूप" वाले हिस्से में बहुत बुरा है। यदि कोई प्रयोग विफल हो जाता है, तो एआई अक्सर इसे "शोर" (noise) के रूप में देखता है बजाय इसके कि इसे अपनी समझ बदलने के संकेत के रूप में देखे। उसके पास यह कहने का तंत्र नहीं है कि, "ठीक है, मेरा सिमुलेशन गलत था; मुझे भौतिकी की अपनी समझ को फिर से लिखने की आवश्यकता है।"
समाधान: एआई को कैसे ठीक करें
लेखक यह नहीं कहते कि हमें एआई का उपयोग करना बंद कर देना चाहिए। वे कहते हैं कि हमें इसे बनाने के तरीके को बदलने की आवश्यकता है।
- इसे "छिपे हुए नियम" सिखाएं: हमें एआई को केवल अंतिम शोध पत्रों पर नहीं, बल्कि लैब वर्क के वीडियो और विफल प्रयोगों के रिकॉर्ड पर भी प्रशिक्षित करने की आवश्यकता है। इसे वास्तविक विज्ञान की अव्यवस्था से सीखने की आवश्यकता है।
- "हाइव माइंड" को रोकें: हमें एआई को प्रशिक्षित करने का तरीका बदलना होगा ताकि यह केवल मानव समीक्षकों को खुश करने की कोशिश न करे। इसे अजीब और विविध होने के लिए प्रोत्साहित किया जाना चाहिए।
- "प्री-रजिस्ट्रेशन" का नियम: एआई द्वारा कोई प्रयोग चलाने से पहले, उसे एक सार्वजनिक लॉग में अपनी योजना और अपनी परिकल्पना लिखनी चाहिए। यह इसे चुपके से लाखों चीजें करने और हमें केवल वही दिखाने से रोकता है जो काम कर गया (एक चाल जिसे "p-hacking" कहा जाता है)।
- सिम्युलेटर शिक्षक के रूप में: केवल किताबें पढ़ने के बजाय, एआई को उच्च-सटीकता वाले कंप्यूटर सिमुलेशन में अभ्यास करना चाहिए जो विज्ञान के लिए "फ्लाइट सिम्युलेटर" की तरह काम करते हैं, जिससे वह वास्तविक सामग्री बर्बाद किए बिना दुर्घटनाग्रस्त होकर सीख सके।
- "वर्ल्ड मॉडल" (World Model): एआई के पास एक स्थायी स्मृति होनी चाहिए जो याद रखे कि उसने कल क्या सीखा था और आज अपने विश्वासों को अपडेट करे। यह केवल एक चैटबॉट नहीं हो सकता जो विंडो बंद होते ही बातचीत को भूल जाता है।
निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि एआई एक शानदार "सह-वैज्ञानिक" (Co-Scientist) है जो मनुष्यों को उनके काम को तेज़ी से करने में मदद कर सकता है। लेकिन यह अभी तक एक "स्वायत्त वैज्ञानिक" (Autonomous Scientist) नहीं है जो नेतृत्व करने में सक्षम हो।
यदि हम अभी एआई को बागडोर संभालने देने की कोशिश करते हैं, तो हमें केवल पुराने विचारों का एक तेज़ संस्करण मिलेगा, जो उन कठिन, अव्यवस्थित और वास्तव में क्रांतिकारी प्रश्नों की अनदेखी करेगा जिनके लिए मानवीय निर्णय, अंतर्ज्ञान और विफलता से सीखने की क्षमता की आवश्यकता होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।