Contemporary AI lacks the imagination to diverge or negate in science
यह अध्ययन, जो अब तक का सबसे बड़ा साइंटिस्ट-इन-द-लूप मूल्यांकन है, यह प्रकट करता है कि जबकि एआई वैज्ञानिक विचार उत्पन्न कर सकता है, इसमें वर्तमान में विचलित होने या शून्य परिकल्पनाएं (null hypotheses) प्रस्तावित करने की कल्पना का अभाव है, यह अक्सर पारंपरिक विचारों के एक संकीर्ण "हाइवमाइंड" (hivemind) की ओर अग्रसर होता है, और विशेषज्ञ वैज्ञानिकों की तुलना में नवीनता, संदर्भ-जागरूकता और निर्णय के मामले में अपनी सीमाओं को दूर करने के लिए इसे मानवीय आधार की आवश्यकता होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: AI वैज्ञानिकों पर एक वास्तविकता की जाँच
कल्पना कीजिए कि हम एक सुपर-स्मार्ट रोबोट से विज्ञान के सबसे कठिन रहस्यों को सुलझाने में मदद मांग रहे हैं। हमें उम्मीद है कि वह शानदार, बिल्कुल नए विचार लेकर आएगा जो इंसानों ने नहीं सोचे हैं। यह शोध पत्र एक विशाल, वास्तविक दुनिया के "तनाव परीक्षण" (stress test) की तरह है, यह देखने के लिए कि क्या वह रोबोट वास्तव में इस काम के लिए तैयार है।
शोधकर्ताओं ने केवल AI को एक कहानी लिखने के लिए नहीं कहा; उन्होंने इसे एक वैज्ञानिक की तरह कार्य करने के लिए कहा। उन्होंने 1,20,000 वास्तविक वैज्ञानिक शोध पत्रों (जीव विज्ञान, चिकित्सा, रसायन विज्ञान और सामाजिक विज्ञान से) को लिया और AI से प्रत्येक शोध पत्र के "पहेली" को देखने और अगले कदम का सुझाव देने के लिए कहा। फिर, उन्होंने उन AI सुझावों को उन शोध पत्रों के वास्तविक लेखकों के पास भेजा ताकि यह देख सकें कि वे क्या सोचते हैं।
यहाँ उन्हें क्या मिला, जिसे तीन मुख्य कहानियों में विभाजित किया गया है।
1. "हाइव माइंड" (सामूहिक चेतना) बनाम "वांडरर" (भटकने वाला)
निष्कर्ष: अधिकांश AI मॉडल ("नॉन-रीजनिंग" या तर्क न करने वाले) एक विशाल, एक ही लक्ष्य वाली सामूहिक चेतना (hive) की तरह व्यवहार करते हैं। यदि आप उनमें से दस को एक ही पहेली को हल करने के लिए कहते हैं, तो वे सभी लगभग एक ही विचार सामने लाते हैं। वे एक-दूसरे के बहुत समान हैं, लेकिन वे उस चीज़ के भी बहुत समान हैं जो इंसानों ने पहले ही कह दी है। वे वास्तव में बॉक्स के बाहर नहीं सोच रहे हैं; वे बस बॉक्स के अंदर का फर्नीचर व्यवस्थित कर रहे हैं।
उपमा: कल्पना कीजिए कि दस छात्रों को एक खोए हुए कुत्ते के बारे में कहानी लिखने के लिए कहा जाता है।
- नॉन-रीजनिंग AI: सभी दस छात्र बिल्कुल एक ही कहानी लिखते हैं: "कुत्ता पार्क में गया, उसे एक हड्डी मिली, और वह घर आ गया।" वे सभी एक ही लोकप्रिय फिल्म की कहानी की नकल कर रहे हैं।
- रीजनिंग AI: ये मॉडल थोड़े बेहतर हैं। वे पार्क में थोड़ा घूमते हैं। शायद एक सुझाव देता है कि कुत्ता समुद्र तट पर गया, दूसरा सुझाव देता है कि वह बेकरी में गया। उनमें अधिक विविधता होती है।
लुप्त कड़ी: यहाँ तक कि "वांडरर्स" (तर्क करने वाले मॉडल) की भी एक अंध बिंदु (blind spot) है। वे लगभग कभी भी यह सुझाव नहीं देते कि "कुछ नहीं हुआ।"
- उपमा: यदि एक वैज्ञानिक पूछता है, "क्या ब्लूबेरी खाने से आप तेज़ दौड़ सकते हैं?" तो AI सुझाव देगा, "हाँ, ब्लूबेरी आपको सुपर स्पीड देती है!" या "शायद वे हाइड्रेशन में मदद करते हैं।"
- मानवीय कदम: एक मानव वैज्ञानिक कह सकता है, "वास्तव में, शायद ब्लूबेरी का दौड़ने की गति पर शून्य प्रभाव पड़ता है।"
- AI की विफलता: AI शायद ही कभी "नल हाइपोथीसिस" (यह विचार कि कोई संबंध नहीं है) का सुझाव देता है। यह एक ऐसे शेफ की तरह है जो केवल सामग्री जोड़ना जानता है लेकिन यह कहना भूल गया है कि, "इस व्यंजन में कुछ भी जोड़ने की आवश्यकता नहीं है।" शोध पत्र का सुझाव है कि ऐसा इसलिए है क्योंकि AI को उन किताबों पर प्रशिक्षित किया गया है जो ज्यादातर "सफलता की कहानियों" (सकारात्मक परिणामों) की रिपोर्ट करती हैं, जबकि "विफलताएं" (नल परिणाम) अक्सर विज्ञान के "फाइल ड्रॉअर" में छिपी रहती हैं, जो AI द्वारा अनदेखी रह जाती हैं।
2. वैज्ञानिकों का "इको चैंबर" (गूँज कक्ष)
निष्कर्ष: जब वास्तविक वैज्ञानिकों ने AI के विचारों की समीक्षा की, तो उन्होंने निष्पक्ष न्यायाधीशों की तरह व्यवहार नहीं किया। उन्होंने अपने स्वयं के काम के प्रशंसकों की तरह व्यवहार किया।
- "मेरे जैसा" पूर्वाग्रह: वैज्ञानिकों ने उन AI विचारों को पसंद किया जो उनके पिछले काम के समान थे। उन्हें लगा कि ये विचार अधिक "व्यवहार्य" और "सत्य होने की संभावना वाले" हैं। लेकिन, विडंबना यह है कि उन्होंने इन विचारों को कम नवीन (कम नया) माना।
- "वरिष्ठता" पूर्वाग्रह: पुराने, प्रसिद्ध वैज्ञानिक ("सीनियर" शोधकर्ता) बहुत सख्त आलोचक थे। वे AI विचारों को अपनाने के प्रति कम इच्छुक थे, विशेष रूप से सामाजिक विज्ञान में।
- "क्षेत्र" पूर्वाग्रह: चिकित्सा के क्षेत्र के वैज्ञानिक AI के प्रति सबसे अधिक खुले थे। सामाजिक विज्ञान के वैज्ञानिक सबसे अधिक संशयवादी थे। क्यों? क्योंकि सामाजिक विज्ञान अव्यवस्थित है और यह संदर्भ (जैसे संस्कृति और इतिहास) पर बहुत अधिक निर्भर करता है। AI, जो डेटा में पैटर्न से सीखता है, इन बदलते, जटिल मानवीय संदर्भों को समझने में संघर्ष करता है। यह "औसत" राय की नकल करने की कोशिश करता है, लेकिन सामाजिक विज्ञान में, अक्सर नकल करने के लिए कोई औसत राय होती ही नहीं है।
उपमा: कल्पना कीजिए कि वास्तुकारों (architects) का एक समूह एक नए डिज़ाइन की समीक्षा कर रहा है।
- यदि AI एक ऐसी इमारत का सुझाव देता है जो वास्तुकार की अपनी पिछली गगनचुंबी इमारत जैसी दिखती है, तो वास्तुकार कहता है, "शानदार! यह सुरक्षित और करने योग्य है!" (लेकिन साथ ही, "बोरिंग, मैंने यह पहले देखा है")।
- यदि AI एक जंगली, नया डिज़ाइन सुझाता है, तो वास्तुकार कहता है, "यह जोखिम भरा है।"
- पुराने, प्रसिद्ध वास्तुकार सबसे सख्त आलोचक हैं। वे उद्योग के "ग्रैंड ओल्ड मेन" की तरह हैं जिन्होंने सब कुछ देखा है और वे बहुत संशयवादी हैं।
3. टूटा हुआ स्कोरकार्ड
निष्कर्ष: वैज्ञानिक समुदाय वर्तमान में समय बचाने के लिए अन्य AI उपकरणों का उपयोग करके वैज्ञानिक विचारों को स्वचालित रूप से ग्रेड देने के लिए करता है। इस शोध पत्र ने उन उपकरणों का परीक्षण किया और पाया कि वे अपने काम में बहुत खराब हैं।
- समस्या: ये स्वचालित न्यायाधीश सभी को "C-" ग्रेड देते हैं। वे उच्च या निम्न अंक देने से डरते हैं। वे सब कुछ बीच में ही रखते हैं। वे एक शानदार विचार और एक बुरे विचार के बीच अंतर नहीं कर सकते।
- समाधान: शोधकर्ताओं ने एक नया, कस्टम "रिवॉर्ड मॉडल" (एक विशेष AI न्यायाधीश) बनाया, जो विशेष रूप से इस बात पर प्रशिक्षित है कि मानव वैज्ञानिक वास्तव में क्या पसंद करते हैं। इस नए मॉडल ने विभिन्न वैज्ञानिक क्षेत्रों के सूक्ष्म "स्वाद" को सीखा। इसने यह अनुमान लगाने में बहुत बेहतर प्रदर्शन किया कि मनुष्य क्या सोचेंगे, जिससे एक रोबोटिक न्यायाधीश और मानव न्यायाधीश के बीच का अंतर कम हो गया।
उपमा: कल्पना कीजिए कि एक संगीत प्रतियोगिता है जहाँ जज रोबोट हैं।
- पुराने रोबोट जज: वे एक रॉक गीत, एक जैज़ गीत और एक कंट्री गीत सुनते हैं, और वे सभी को 10 में से 5.5 का स्कोर देते हैं। वे अंतर नहीं कर सकते।
- नया कस्टम जज: शोधकर्ताओं ने एक नए रोबोट को सिखाया कि मानव संगीत आलोचकों को क्या पसंद था। अब, यह नया रोबोट बता सकता है, "आह, इस जैज़ गीत में एक दिलचस्प मोड़ है जिसे इंसान पसंद करते हैं," और इसे 9 अंक देता है। यह अंततः "वाइब" (vibe) को समझ जाता है।
निचोड़
शोध पत्र निष्कर्ष निकालता है कि आज का AI एक सहायक (assistant) है, न कि एक रचनात्मक साथी (creative partner)।
- यह क्या अच्छा करता है: यह बहुत सारी किताबें पढ़ सकता है, उनका सारांश दे सकता है, और जो पहले से लिखा जा चुका है उसके आधार पर अगला तार्किक कदम सुझा सकता है। यह विचारों की खोज का विस्तार करता है।
- इसमें क्या कमी है: इसमें कल्पना और निषेध (negation) की कमी है। यह यह नहीं जानता कि कैसे कहना है, "क्या होगा अगर यह गलत है?" या "क्या होगा अगर कुछ भी नहीं होता?" इसमें जिज्ञासा की कमी है। यह क्या सीखा जा सकता है, इस पर विचार करने के बजाय, यह भविष्यवाणी करता है कि क्या कहा जा चुका है।
अंतिम रूपक:
AI को एक बहुत तेज़, बहुत अच्छी तरह से पढ़ी-लिखी लाइब्रेरियन (पुस्तकालयाध्यक्ष) के रूप में सोचें।
- यदि आप पूछते हैं, "बिल्लियों के बारे में कौन सी किताबें लिखी गई हैं?" तो लाइब्रेरियन तुरंत आपको अब तक लिखी गई हर बिल्ली की किताब की सूची दे सकती है।
- लेकिन यदि आप पूछते हैं, "बिल्ली क्या नहीं है?" या "क्या होगा अगर बिल्लियाँ उड़ सकें?" तो लाइब्रेरियन भ्रमित हो जाता है। लाइब्रेरियन केवल उन किताबों को जानता है जो अलमारियों पर मौजूद हैं। वे उन किताबों के बारे में नहीं जानते जो कभी लिखी ही नहीं गईं, या वे विचार जो आजमाए गए और विफल रहे।
विज्ञान के वास्तविक विकास के लिए, अजीब सवाल पूछने, असंभव की कल्पना करने और यह तय करने के लिए कि क्या महत्वपूर्ण है, मनुष्यों की ही आवश्यकता है। AI लाइब्रेरी को व्यवस्थित करने में मदद कर सकता है, लेकिन वह अपने आप मानव ज्ञान का अगला महान अध्याय नहीं लिख सकता।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।