Silent methodological failures in AI-assisted science: benchmarking large language model agents for virtual gene knockout analysis
यह अध्ययन वर्चुअल जीन नॉकआउट विश्लेषणों पर पांच एलएलएम (LLM) एजेंटों का बेंचमार्किंग करता है और यह प्रकट करता है कि जहाँ सभी ने सफलतापूर्वक कोड निष्पादित किया, वहीं 80% ने "मौन पद्धतिगत विफलताओं" (silent methodological failures) के माध्यम से जैविक रूप से अकल्पनीय परिणाम उत्पन्न किए, जो केवल कोड निष्पादन के बजाय जैविक सत्यापन और क्रॉस-मॉडल सामंजस्य की महत्वपूर्ण आवश्यकता को रेखांकित करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
आधुनिक प्रयोगशाला में, एक नए प्रकार का सहायक आया है, जो लैब कोट नहीं पहनता या पिपेट नहीं पकड़ता, बल्कि कोड की भाषा में बोलता है। इन बड़े भाषा मॉडलों (लार्ज लैंग्वेज मॉडल्स) से कम्प्यूटेशनल बायोलॉजी के जटिल, बहु-चरणीय कार्यों को करने के लिए कहा जा रहा है, जहाँ शोधकर्ता यह सिम्युलेट करते हैं कि विशिष्ट जीन को बंद करने पर जीवित कोशिकाएं कैसे प्रतिक्रिया देती हैं। यह प्रक्रिया, जिसे वर्चुअल जीन नॉकआउट (virtual gene knockout) कहा जाता है, वैज्ञानिकों को किसी जीवित जीव को छुए बिना आनुवंशिक परिवर्तनों के व्यापक प्रभावों (रिपल इफेक्ट्स) की भविष्यवाणी करने की अनुमति देती है। यह बीमारियों को समझने और उपचार डिजाइन करने के लिए एक शक्तिशाली उपकरण है, लेकिन यह पूरी तरह से कंप्यूटर की निर्देशों के एक सेट का सही ढंग से पालन करने की क्षमता पर निर्भर करता है। वैज्ञानिक समुदाय के सामने केंद्रीय प्रश्न यह है कि क्या इन आर्टिफिशियल इंटेलिजेंस एजेंटों पर एक शोधकर्ता के इरादे को एक सही गणितीय वास्तविकता में अनुवाद करने के लिए भरोसा किया जा सकता है, या क्या वे केवल ऐसे उत्तर दे सकते हैं जो सतह पर सही दिखते हैं लेकिन मूल रूप से गलत हैं।
शीआन जियाओतोंग विश्वविद्यालय के सेकंड एफ़िलिएटेड अस्पताल के शोधकर्ताओं की एक टीम ने पांच अलग-अलग आर्टिफिशियल इंटेलिजेंस एजेंटों को स्वतंत्र वैज्ञानिकों के रूप में मानकर उनकी विश्वसनीयता का परीक्षण करने का निर्णय लिया। उन्होंने प्रत्येक एजेंट को एक ही मिशन दिया: एल्ब्यूमिन (albumin) नामक एक विशिष्ट जीन को दो अलग-अलग लिवर सेल डेटा संग्रहों से हटाने का अनुकरण करना। एल्ब्यूमिन यकृत द्वारा बनाया जाने वाला एक प्रोटीन है, और चूंकि इसकी भूमिका अच्छी तरह से समझी गई है, इसलिए यह यह जांचने के लिए एक विश्वसनीय मानक (yardstick) के रूप में कार्य करता है कि क्या कोई सिमुलेशन जैविक रूप से तर्कसंगत है। शोधकर्ताओं ने एजेंटों से इस सिमुलेशन को करने के लिए चार अलग-अलग गणितीय ढांचों का उपयोग करने के लिए कहा, जो एक ऐसा कार्य है जिसके लिए कंप्यूटर को डेटा को पार्स करने, जीन इंटरैक्शन के नेटवर्क बनाने और परिवर्तनों की सांख्यिकीय सार्थकता की गणना करने की आवश्यकता होती है। लक्ष्य यह देखना नहीं था कि क्या कंप्यूटर ऐसा कोड लिख सकते हैं जो चलता है, बल्कि यह देखना था कि क्या उनके द्वारा लिखा गया कोड वास्तव में लिवर कोशिकाओं के ज्ञात व्यवहार से मेल खाते परिणाम देता है।
परिणामों ने तकनीकी सफलता और वैज्ञानिक सत्य के बीच एक चौंकाने वाली खाई को उजागर किया। प्रत्येक एजेंट ने बिना क्रैश हुए या बिना किसी एरर मैसेज के सौंपे गए कार्यों को पूरा करने में सफलता प्राप्त की। उन्होंने सफलतापूर्वक निष्पादित होने वाला कोड तैयार किया, और उन्होंने संख्यात्मक उत्तर भी दिए। हालांकि, जब शोधकर्ताओं ने वास्तविक संख्याओं की जांच की, तो एजेंट आपस में नाटकीय रूप से असहमत पाए गए। काम को पूरा करने में लगने वाला समय बहुत भिन्न था, जिसमें सबसे तेज़ एजेंट ने एक मिनट से कुछ अधिक समय में काम पूरा किया जबकि सबसे धीमे एजेंट को तीस मिनट से अधिक समय लगा। इससे भी महत्वपूर्ण बात यह थी कि एजेंटों द्वारा निकाले गए जैविक निष्कर्ष अक्सर असंगत थे। कुछ मामलों में, एक एजेंट दावा करता था कि जीन नॉकआउट का बहुत बड़ा प्रभाव पड़ा है, जबकि दूसरा एजेंट, ठीक उसी डेटा पर काम करते हुए, यह निष्कर्ष निकालता था कि प्रभाव नगण्य था। उनके संख्यात्मक आउटपुट में भिन्नता इतनी अधिक थी कि उच्चतम और निम्नतम अनुमानों के बीच का अंतर एक सौ चालीस प्रतिशत से अधिक तक पहुँच गया।
सबसे चिंताजनक खोज "साइलेंट मेथोडोलॉजिकल फेलियर्स" (silent methodological failures) की व्यापकता थी, जिसे शोधकर्ताओं ने नाम दिया है। चार में से पांच एजेंट इस जाल में फंस गए। इन एजेंटों ने ऐसा कोड तैयार किया जो बिना किसी त्रुटि के चलता था और त्रुटिहीन रिपोर्ट देता था, फिर भी उनके द्वारा दिए गए परिणाम जैविक रूप से असंभव थे। उदाहरण के लिए, एक एजेंट ने गलती से डेटा मैट्रिक्स को उल्टा कर दिया, एक ऐसी गलती जिसने गणना के पूरे अर्थ को बदल दिया लेकिन कोई चेतावनी संकेत उत्पन्न नहीं किया। दूसरे एजेंट ने "इम्पैक्ट" (प्रभाव) के लिए एक अलग गणितीय परिभाषा का उपयोग किया, जिससे उसने एक महत्वपूर्ण निष्कर्ष रिपोर्ट किया जबकि वास्तव में ऐसा कोई निष्कर्ष मौजूद नहीं था। क्योंकि कोड बिना किसी त्रुटि के चला, इसलिए ये गलतियाँ उन शोधकर्ताओं की नज़र से बच जातीं जो केवल तकनीकी गड़बड़ियों की जाँच करते हैं। एजेंटों ने निर्देशों के अक्षरशः पालन तो किया लेकिन वैज्ञानिक पद्धति की भावना को समझने में विफल रहे, जिससे ऐसे आउटपुट निकले जो कम्प्यूटेशनल रूप से वैध थे लेकिन वैज्ञानिक रूप से भ्रामक थे।
सभी एजेंट समान रूप से खराब प्रदर्शन नहीं कर रहे थे, और अध्ययन ने इस बात पर प्रकाश डाला कि एक क्षेत्र में सफलता दूसरे क्षेत्र में सफलता की गारंटी नहीं देती है। एक एजेंट, GLM 5.1, सबसे संतुलित प्रदर्शन करने वाला बनकर उभरा, जो अधिकांश परीक्षणों में जैविक रूप से प्रशंसनीय परिणाम देने में सफल रहा। एक अन्य एजेंट, किमी (Kimi) ने एक मेमोरी एरर को स्वचालित रूप से ठीक करके प्रभावशाली लचीलापन दिखाया, जिसके कारण उसे रुकना पड़ा था, हालांकि इस रिकवरी की कीमत उसे काफी समय के रूप में चुकानी पड़ी। इसके विपरीत, सबसे तेज़ एजेंट, मिनीमैक्स (Minimax) ने सबसे तेज़ परिणाम दिए, लेकिन अपने अधिकांश प्रयासों में जैविक रूप से प्रशंसनीय परिणाम उत्पन्न करने में विफल रहा। अध्ययन में पाया गया कि एक एजेंट जिस तरह से गणितीय चरण को लागू करने का विकल्प चुनता है, वह उच्च-स्तरीय निर्देश समान होने के बावजूद अंतिम उत्तर को पूरी तरह से बदल सकता है। यह सुझाव देता है कि वर्तमान पीढ़ी के AI एजेंट जटिल वैज्ञानिक वर्कफ्लो में मानवीय निरीक्षण के विश्वसनीय विकल्प नहीं हैं।
शोधकर्ताओं ने निष्कर्ष निकाला कि किसी AI की कोड लिखने की क्षमता, जो चलता हो, यह सिद्ध करने के लिए पर्याप्त नहीं है कि विज्ञान सही है। साइलेंट फेलियर्स की उपस्थिति का अर्थ है कि केवल स्वचालित निष्पादन पर भरोसा करने से गलत खोजें या छूटे हुए अंतर्दृष्टि (insights) हो सकते हैं। विश्वसनीयता सुनिश्चित करने के लिए, अध्ययन सुझाव देता है कि वैज्ञानिकों को केवल एक ही AI एजेंट के आउटपुट पर भरोसा नहीं करना चाहिए। इसके बजाय, उन्हें एक ही विश्लेषण को कई अलग-अलग एजेंटों के माध्यम से चलाना चाहिए और उनके बीच सहमति देखना चाहिए। यदि एजेंट बहुत अलग-अलग संख्याएँ उत्पन्न करते हैं, तो यह एक संकेत है कि कुछ गलत है और इसके लिए मानवीय जांच की आवश्यकता है। इसके अलावा, इन AI सिस्टमों को दिए जाने वाले निर्देशों को बहुत अधिक सटीक होने की आवश्यकता है, जिसमें यह स्पष्ट रूप से परिभाषित हो कि गणितीय संचालन कैसे किए जाने चाहिए, न कि AI को सर्वोत्तम दृष्टिकोण का अनुमान लगाने के लिए छोड़ दिया जाए। जब तक ये सुरक्षा उपाय लागू नहीं होते, विज्ञान में आर्टिफिशियल इंटेलिजेंस की सबसे मूल्यवान भूमिका एक शक्तिशाली सहायक की बनी रहेगी जिसे अपने कार्य को सत्यापित करने के लिए एक जानकार मानव की आवश्यकता होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।