Verification Debt in Automated Biological Research Workflows: A Proof-of-Concept

आधुनिक जीव विज्ञान एक ऐसे युग में प्रवेश कर रहा है जहाँ कंप्यूटर केवल आंकड़ों की गणना करने वाले उपकरण नहीं रह गए हैं, बल्कि खोज में सक्रिय भागीदार बन गए हैं। वैज्ञानिक अब आर्टिफिशियल इंटेलिजेंस एजेंटों का उपयोग करना शुरू कर रहे हैं—ऐसे सॉफ्टवेयर प्रोग्राम जिन्हें शोधकर्ताओं की तरह कार्य करने के लिए डिज़ाइन किया गया है—ताकि वे प्रयोगों की योजना बना सकें, चिकित्सा साहित्य के विशाल पुस्तकालयों में खोज कर सकें, और जीन एवं रोगों के बीच के संबंधों को जोड़ सकें। ये प्रणालियाँ हजारों जैविक डेटाबेस तक पहुँच सकती हैं और जटिल वर्कफ़्लो चला सकती हैं जिन्हें पूरा करने में मानव टीमों को कभी हफ्तों लग जाते थे। इसका वादा अपार है: तेज़ उपचार, जीवन की गहरी समझ, और अनुसंधान का वह पैमाना जिसे मनुष्य अकेले कभी प्रबंधित नहीं कर सकता था। हालाँकि, यह गति एक नए प्रकार का जोखिम भी लाती है। जब एक कंप्यूटर कोई निर्णय लेता है, तो यह हमेशा स्पष्ट नहीं होता कि उसने वह चुनाव क्यों किया, उसने किस साक्ष्य का उपयोग किया, या क्या उसने कोई महत्वपूर्ण चरण छोड़ दिया। यदि एक मनुष्य कंप्यूटर के काम की आसानी से जाँच नहीं कर सकता, तो अनिश्चितता का एक छिपा हुआ बोझ जमा होने लगता है। इसे शोधकर्ता "वेरिफिकेशन डेट" (सत्यापन ऋण) कहते हैं: बिना सत्यापित धारणाओं और छिपे हुए चरणों का बढ़ता हुआ ढेर जो, यदि अनियंत्रित छोड़ दिया जाए, तो गलत निष्कर्षों की ओर ले जा सकता है।

शोधकर्ताओं की एक टीम ने यह मापने के लिए कि आज के जैविक एआई में इस ऋण का वास्तव में कितना अस्तित्व है, सटीक रूप से प्रयास किया। उन्होंने एक विशिष्ट प्रणाली को परीक्षण के लिए चुना जिसे 'बायोमनी' (Biomni) कहा जाता है, जो एक आर्टिफिशियल इंटेलिजेंस एजेंट है जिसे बायोमेडिकल अनुसंधान को संभालने के लिए डिज़ाइन किया गया है। टीम ने कंप्यूटर से केवल यह नहीं पूछा कि क्या वह बुद्धिमान है; बल्कि उन्होंने इसे दस विशिष्ट, वास्तविक दुनिया के जैविक प्रश्नों पर काम पर लगाया। ये प्रश्न सरल पूछताछ से लेकर, जैसे "इस विशिष्ट प्रोटीन का क्या कार्य है?" से लेकर जटिल पहेलियों तक थे, जैसे "आरएनए (RNA) और प्रोटीन डेटा मिलकर एक विशिष्ट प्रकार के कैंसर की व्याख्या कैसे करते हैं?" परिणामों को विश्वसनीय बनाने के लिए, शोधकर्ताओं ने एआई को प्रत्येक प्रश्न का तीन अलग-अलग बार उत्तर देने के लिए कहा, और प्रत्येक रन को एक स्वतंत्र प्रयोग माना। इसके बाद उन्होंने एआई द्वारा उठाए गए हर एक कदम की सूक्ष्मता से जांच की, उस क्षण से लेकर जब उसे प्रश्न प्राप्त हुआ था, अंतिम उत्तर तक। उनका लक्ष्य यह देखना था कि क्या एआई का तर्क ठोस साक्ष्य पर आधारित था, या क्या वह ऐसे छलाँग लगा रहा था जिसे एक मानव वैज्ञानिक सत्यापित नहीं कर सकता था।

शोधकर्ताओं ने पाया कि हालांकि एआई सटीक और अक्सर सही उत्तर देने में सक्षम था, लेकिन वह अक्सर अनवेरिफाइड (असत्यापित) विकल्पों का निशान पीछे छोड़ देता था। कई मामलों में, एआई किसी दावे का समर्थन करने के लिए एक वैज्ञानिक अध्ययन का उल्लेख करता था, लेकिन उसने वास्तव में उस अध्ययन के पूर्ण पाठ को नहीं पढ़ा था। इसके बजाय, उसने एक खोज टूल द्वारा प्रदान किए गए संक्षिप्त सारांश पर भरोसा किया, यह मानकर कि सारांश में वह विशिष्ट तथ्य मौजूद है जिसकी उसे आवश्यकता थी। इसने एक ऐसी स्थिति पैदा कर दी जहाँ एआई साक्ष्य पर आधारित प्रतीत होता था, लेकिन साक्ष्य वास्तव में गायब या अधूरा था। टीम ने पाया कि प्रसिद्ध जैविक तथ्यों के लिए, एआई अक्सर खोज प्रक्रिया को पूरी तरह से छोड़ देता था, और यह बताए बिना कि वह ऐसा कर रहा है, अपनी आंतरिक स्मृति से उत्तर देता था। इसका अर्थ यह था कि कुछ प्रश्नों के लिए, यह जाँचने का कोई तरीका नहीं था कि जानकारी कहाँ से आई, जिससे प्रमाण की श्रृंखला में एक अंतराल रह गया।

समस्या की प्रकृति प्रश्न की कठिनाई के आधार पर बदल जाती थी। सरल प्रश्नों के लिए, मुख्य मुद्दा पारदर्शिता की कमी थी; एआई बिना कारण बताए धारणाएँ बनाता था या चरण छोड़ देता था। अधिक जटिल प्रश्नों के लिए, समस्याएँ व्याख्या की ओर स्थानांतरित हो गईं। एआई कभी-कभी ऐसे निष्कर्ष निकालता था जो डेटा द्वारा समर्थित वास्तविक निष्कर्षों से कहीं अधिक मजबूत थे, या वह विभिन्न प्रकार के साक्ष्यों को मिला देता था, जैसे कि चूहों के अध्ययन के परिणामों को मानव आनुवंशिक डेटा के साथ मिलाना, बिना उनकी विश्वसनीयता के अंतर को स्पष्ट किए। शोधकर्ताओं ने नोट किया कि ये त्रुटियाँ सुसंगत नहीं थीं; वे अप्रत्याशित रूप से होती थीं। एक बार एआई एक आदर्श पथ का अनुसरण कर सकता था, और अगली बार वह छिपे हुए दोषों के साथ एक अलग मार्ग ले सकता था। यह अनिश्चितता सिस्टम पर भरोसा करना कठिन बना देती है, भले ही वह सही उत्तर दे रहा हो, क्योंकि उत्तर तक पहुँचने का मार्ग त्रुटिपूर्ण हो सकता है।

अध्ययन का एक प्रमुख निष्कर्ष यह था कि एआई के चरणों का रिकॉर्ड रखना, जिसे "ट्रेस" (trace) कहा जाता है, कार्य के सही होने की गारंटी देने के लिए पर्याप्त नहीं था। एआई द्वारा उपयोग किए गए प्रत्येक टूल और क्वेरी किए गए प्रत्येक डेटाबेस का विस्तृत लॉग प्रदान करने के बावजूद, वह डेटा की गलत समझ या एक अनकही धारणा के आधार पर निष्कर्ष पर पहुँच सकता था। शोधकर्ताओं ने "डिपेंडेंसी कॉन्सीक्वेंस" (निर्भरता परिणाम) नामक एक विशिष्ट प्रकार के जोखिम की पहचान की, जहाँ प्रक्रिया के शुरुआती चरण में एक एकल अनवेरिफाइड निर्णय पूरे वर्कफ़्लो में लहर की तरह फैल सकता है, जिससे बाद के सभी परिणाम दूषित हो सकते हैं। उन्होंने पाया कि उनके द्वारा परीक्षण किए गए लगभग प्रत्येक प्रश्न में, एआई के अधिकांश निर्णयों में इस तरह का उच्च-जोखिम शामिल था। यदि एक मानव शोधकर्ता श्रृंखला के प्रत्येक लिंक की सावधानीपूर्वक जाँच नहीं करता है, तो एक छोटी सी त्रुटि एक बड़ी वैज्ञानिक गलती की ओर ले जा सकती है।

अध्ययन निष्कर्ष निकालता है कि जबकि ये स्वचालित प्रणालियाँ शक्तिशाली हैं, उन्हें पूरी तरह से अपने आप काम करने के लिए भरोसेमंद नहीं माना जा सकता। गति और पैमाना जो वे प्रदान करते हैं वे मूल्यवान हैं, लेकिन वे एक कंप्यूटर द्वारा किए गए कार्य और एक मानव द्वारा उसे सत्यापित करने की क्षमता के बीच एक अंतर पैदा करते हैं। शोधकर्ताओं का तर्क है कि पारदर्शिता—एआई द्वारा उठाए गए कदमों को दिखाना—आवश्यक तो है लेकिन पर्याप्त नहीं है। एक प्रणाली पूरी तरह से पता लगाने योग्य (traceable) हो सकती है और फिर भी अविश्वसनीय परिणाम दे सकती है यदि उन कदमों के पीछे का तर्क त्रुटिपूर्ण हो। आगे बढ़ने के लिए, वैज्ञानिक समुदाय को न केवल अंतिम उत्तर की, बल्कि उस पूरी यात्रा की व्यवस्थित रूप से जाँच करने के नए तरीकों की आवश्यकता है जो एआई ने वहाँ तक पहुँचने के लिए ली थी। जब तक ये सत्यापन विधियाँ स्थापित नहीं हो जातीं, मानव विशेषज्ञों को लूप में रहना होगा, ताकि वे उन छिपे हुए ऋणों को पकड़ सकें जो मशीनें काम करते समय संचित करती हैं।