Balancing Autonomy and Oversight in Language-Agent-Guided Physical Experimentation
यह शोध पत्र ADAM को प्रस्तुत करता है, जो एक मल्टी-एजेंट लार्ज लैंग्वेज मॉडल फ्रेमवर्क है जो क्लोज्ड-लूप मैटेरियल्स एक्सपेरिमेंटेशन को सुरक्षित रूप से निर्देशित करने के लिए सिमेंटिक रिवर्सिबिलिटी बाउंड्रीज़ का उपयोग करके उच्च स्वायत्तता और लक्षित मानव निरीक्षण के बीच संतुलन बनाता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
विज्ञान लंबे समय से सामग्रियों की अदृश्य दुनिया को खोजने के लिए शोधकर्ताओं के स्थिर हाथों और तेज आंखों पर निर्भर रहा है। यह समझने के लिए कि एक नई बैटरी ऊर्जा कैसे संग्रहीत कर सकती है या एक कंप्यूटर चिप सूचना को कैसे संसाधित कर सकती है, वैज्ञानिकों को पहले सूक्ष्म नमूनों का निर्माण और परीक्षण करना होता है, जो अक्सर इलेक्ट्रॉन माइक्रोस्कोप जैसी विशाल, जटिल मशीनों का उपयोग करके किया जाता है। ये उपकरण शक्तिशाली हैं लेकिन इन्हें महारत हासिल करना कठिन है; इन्हें सुरक्षित और प्रभावी ढंग से संचालित करने के लिए वर्षों के प्रशिक्षण की आवश्यकता होती है। दशकों से, स्वचालन (ऑटोमेशन) का लक्ष्य यह रहा है कि मशीनें निरंतर मानवीय पर्यवेक्षण के बिना इन प्रयोगों को चला सकें, जिससे खोज की गति बढ़ सके। हालांकि, अधिकांश प्रयास या तो एक में फंस गए: या तो मशीनें बहुत कठोर थीं, जो केवल सख्त, पूर्व-लिखित निर्देशों का पालन करती थीं और अप्रत्याशित परिणामों को नहीं संभाल पाती थीं, या वे बहुत जोखिम भरी थीं, जिनमें कृत्रिम बुद्धिमत्ता (AI) का उपयोग किया गया था जो गलत अनुमान लगाकर महंगी मशीनों को नुकसान पहुंचा सकती थी या असुरक्षित स्थितियां पैदा कर सकती थी। चुनौती एक ऐसा तरीका खोजने की थी जिससे मशीन को सोचने और अनुकूलित होने के लिए पर्याप्त स्वतंत्रता दी जा सके, जबकि उसे सुरक्षा और मानवीय निर्णय के दायरे में रखा जा सके।
नेशनल लैबोरेटरी ऑफ द रॉकीज के शोधकर्ताओं की एक टीम ने इस समस्या को हल करने के लिए ADAM नामक एक नई प्रणाली बनाई है। ADAM कोई एकल रोबोट नहीं है बल्कि एक स्मार्ट सॉफ्टवेयर फ्रेमवर्क है जो एक वैज्ञानिक साथी के रूपas कार्य करता है। यह उन्नत भाषा मॉडल (language models)—जो मानव भाषा को समझने और उत्पन्न करने के लिए प्रशिक्षित सिस्टम हैं—का उपयोग वास्तविक भौतिक उपकरणों पर प्रयोगों की योजना बनाने और चलाने के लिए करता है। मुख्य नवाचार यह है कि यह स्वतंत्रता और सुरक्षा के बीच संतुलन कैसे बनाता है। हर उस नियम को हार्ड-कोड करने के बजाय कि मनुष्य को कब हस्तक्षेप करना चाहिए, ADAM यह पहचानना सीखता है कि कौन से कार्य आसानी से वापस लिए जा सकते हैं और कौन से स्थायी हैं। यह नियमित चरणों के दौरान उच्च स्वायत्तता के साथ काम करता है, लेकिन किसी भी अपरिवर्तनीय कार्य को करने से ठीक पहले, जैसे कि नमूने को काटना या कोई महत्वपूर्ण सेटिंग बदलना, यह स्वतः ही रुक जाता है और मानवीय अनुमोदन के लिए पूछता है। यह दृष्टिकोण इसे प्राकृतिक भाषा का उपयोग करके जटिल समस्याओं को सुलझाने की अनुमति देता है, बिल्कुल वैसे ही जैसे एक मानव वैज्ञानिक करता है, जबकि यह सुनिश्चित करता है कि कोई भी खतरनाक गलती न हो जाए।
शोधकर्ताओं ने ADAM का परीक्षण दो बहुत अलग परिदृश्यों में किया ताकि यह देखा जा सके कि क्या यह नियमित कार्यों और खुले-अंत वाले अन्वेषण (open-ended discovery) दोनों को संभाल सकता है। पहले परीक्षण में, सिस्टम को एक विशिष्ट प्रकार के इलेक्ट्रॉनिक उपकरण में दोष खोजने और फिर आगे के विश्लेषण के लिए उस उपकरण का एक स्लाइस तैयार करने के लिए कहा गया था। यह एक सामान्य लेकिन कठिन कार्य है जिसमें आमतौर पर एक विशेषज्ञ को छवियों को देखने, विफलता के सूक्ष्म संकेतों को पहचानने और फिर आयन बीम के साथ सावधानीपूर्वक सामग्री को हटाने की आवश्यकता होती है। ADAM को साधारण अंग्रेजी निर्देश दिया गया कि विफलता स्थलों को खोजे और एक क्रॉस-सेक्शन तैयार करे। सिस्टम ने सफलतापूर्वक नमूने को स्कैन किया, छवियों का विश्लेषण किया और तीन अलग-अलग प्रकार के दोषों की पहचान की, और फिर निर्णय लिया कि किसे काटा जाना चाहिए। इसने अपने निष्कर्षों और योजना को दिखाने के लिए मानव ऑपरेटर को रोका, अनुमोदन प्राप्त किया, और फिर काटने की प्रक्रिया को निष्पादित किया। सिस्टम ने अनुकूलन की एक अनूठी क्षमता भी प्रदर्शित की: जब मानव ऑपरेटर ने बाद में इसे छवियों में दोषों को स्वचालित रूप से लेबल करने के लिए एक कंप्यूटर स्क्रिप्ट लिखने को कहा, तो ADAM ने मौके पर ही कोड तैयार किया, यह समझते हुए कि यह एक सॉफ्टवेयर टूल के लिए अनुरोध था न कि माइक्रोस्कोप को हिलाने का कोई कमांड।
दूसरे परीक्षण में, शोधकर्ताओं ने सिस्टम को और आगे बढ़ाया और इसे एक अपरिचित नमूने पर एक खुले-अंत वाले अन्वेषण (open-ended investigation) को करने के लिए कहा। यहाँ, कोई पूर्व-निर्धारित योजना या ज्ञात लक्ष्य नहीं था। एक नौसिखिया शोधकर्ता ने बस सिस्टम को एक लक्षण वर्णन (characterization) प्रयोग डिजाइन करने और चलाने के लिए कहा। ADAM ने केवल मशीन को अंधाधुंध चलाना शुरू नहीं किया; इसने सबसे पहले लैब के अपने आंतरिक प्रक्रियाओं और वैज्ञानिक नोट्स के डिजिटल पुस्तकालय से परामर्श किया ताकि एक तार्किक, चरण-दर-चरण योजना बनाई जा सके। इसने मानव ऑपरेटर को अपने तर्क को समझाया, यह विवरण देते हुए कि इसने कुछ विशेष इमेजिंग तकनीकों को क्यों चुना और वह क्या सीखने की उम्मीद करता है। अनुमोदन मिलने के बाद, सिस्टम ने प्रयोग चलाया, और वास्तविक समय में ली गई छवियों का विश्लेषण किया। जब इसने कुछ अप्रत्याशित देखा, तो इसने अपनी योजना को समायोजित किया, और बेहतर दृश्य प्राप्त करने के लिए नमूने को झुकाने (tilt) का निर्णय लिया। इसके बाद यह कण की रासायनिक संरचना का विश्लेषण करने के लिए आगे बढ़ा। इस पूरी प्रक्रिया के दौरान, सिस्टम ने एक अनुभवी विशेषज्ञ की तरह कार्य किया, वैज्ञानिक सिद्धांतों के आधार पर निर्णय लिए, न कि केवल एक स्क्रिप्ट का पालन किया, और इस दौरान प्रमुख निर्णयों के लिए मानव को प्रक्रिया में शामिल रखा।
परिणामों ने दिखाया कि यह नया दृष्टिकोण सुरक्षा से समझौता किए बिना निरंतर मानवीय पर्यवेक्षण की आवश्यकता को काफी कम करता है। एक प्रत्यक्ष तुलना में, सिस्टम को एक नियमित फोकस समायोजन को पूरा करने के लिए एक अनुभवी विशेषज्ञ की तुलना में भी बहुत कम मानवीय इंटरैक्शन की आवश्यकता पड़ी, और इसने परिणाम भी उतने ही सटीक दिए। अपने निर्णयों को लैब के अपने दस्तावेजों के सत्यापित डेटाबेस में स्थापित करके, सिस्टम ने कृत्रिम बुद्धिमत्ता के "भ्रमित" (hallucinating) होने या तथ्य बनाने की आम समस्या से खुद को बचाया। अनुमान लगाने के बजाय, इसने अपने कार्यों को उचित ठहराने के लिए विशिष्ट प्रक्रियाओं और डेटा का हवाला दिया। यह पारदर्शिता का अर्थ है कि एक नया शोधकर्ता सिस्टम के तर्क का अनुसरण कर सकता है, उसके विकल्पों से सीख सकता है और देख सकता है कि उसकी जानकारी वास्तव में कहाँ से आई। सिस्टम ने यह सिद्ध किया कि एक ऐसी मशीन बनाना संभव है जो केवल आदेशों का पालन करने वाला उपकरण नहीं है, बल्कि एक सहयोगी है जो उच्च-स्तरीय लक्ष्यों को समझ सकता है, उन्हें प्राप्त करने के लिए आवश्यक चरणों के बारेв तर्क दे सकता है और उन्हें सुरक्षित रूप से निष्पादित कर सकता है।
यह कार्य इस बात का संकेत देता है कि भविष्य में वैज्ञानिक खोज कैसे हो सकती है। बाधा अब केवल महंगी मशीनों तक पहुंच या उनका उपयोग करना सीखने में लगने वाला समय नहीं है। ADAM जैसे सिस्टम के साथ, ध्यान स्वयं प्रश्नों पर वापस आ सकता है। एक शोधकर्ता एक साधारण भाषा में एक लक्ष्य बता सकता है, और सिस्टम यह पता लगाने के जटिल, उबाऊ और खतरनाक काम को संभाल सकता है कि उसे कैसे प्राप्त किया जाए। शोधकर्ताओं ने प्रदर्शित किया है कि यह अनुमान लगाकर कि मदद कब मांगनी है, बजाय इसके कि यह बताया जाए कि कब रुकना है, मशीनें स्वतंत्रता के उस स्तर के साथ काम कर सकती हैं जो पहले बहुत जोखिम भरा माना जाता था। यह वैज्ञानिक को प्रतिस्थापित नहीं करता है बल्कि उन्हें माइक्रोस्कोप से मुक्त करता है, जिससे वे विज्ञान के रचनात्मक पहलुओं पर अधिक समय बिता सकते हैं जबकि मशीन निष्पादन को संभालती है। सिस्टम को लचीला बनाया गया है, जिसका अर्थ है कि इसे अंततः केवल उन उपकरणों के साथ काम करने के लिए अनुकूलित किया जा सकता है जिनका उपयोग इस अध्ययन में किया गया है, न कि केवल उन्हीं के साथ। हालाँकि अभी भी कुछ सीमाएँ हैं, जैसे कि कंप्यूटर के सोचने में लगने वाला समय और डिजिटल उपकरणों के सावधानीपूर्वक सेटअप की आवश्यकता, प्रयोग यह सिद्ध करता है कि सुरक्षित, स्वायत्त वैज्ञानिक तर्क अब पहुंच के भीतर है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।