Chemical Chain-of-Thought Functions as a Hallucination-Prone Molecular Scratchpad
यह अध्ययन प्रकट करता है कि भाषा मॉडलों में रासायनिक चेन-ऑफ-थॉट रीजनिंग एक भ्रम-प्रवण (hallucination-prone) आणविक स्क्रैचपैड के रूप में कार्य करती है जहाँ निर्मित संरचनात्मक दावे आम हैं फिर भी सही उत्तर उत्पन्न करने के लिए कारण-भारित (causally load-bearing) हैं, जो सरल उत्तर मूल्यांकन के बजाय प्रक्रिया-स्तरीय पर्यवेक्षण को आवश्यक बनाता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस के विशाल परिदृश्य में, मॉडलों की एक नई पीढ़ी ने बोलने से पहले सोचना सीख लिया है। सीधे उत्तर पर कूदने के बजाय, इन प्रणालियों को एक चरण-दर-चरण तर्क प्रक्रिया लिखने के लिए प्रशिक्षित किया गया है, ठीक वैसे ही जैसे एक छात्र रफ पेपर पर गणित की समस्या हल करता है। 'चेन-ऑफ-थॉट रीजनिंग' (chain-of-thought reasoning) के रूप में जानी जाने वाली यह विधि, कंप्यूटरों को जटिल पहेलियाँ सुलझाने में मदद करने का एक मानक तरीका बन गई है। रसायन विज्ञान के क्षेत्र में, जहाँ अणु जीवन और औषधि के निर्माण खंड हैं, यह क्षमता विशेष रूप से आशाजनक है। वैज्ञानिक उम्मीद करते हैं कि यदि कोई कंप्यूटर एक नई दवा डिजाइन करने या एक रासायनिक संरचना की पहचान करने के लिए अपने तर्क को समझा सकता है, तो मानव विशेषज्ञ उस तर्क में त्रुटियों की जाँच कर सकते हैं। यह धारणा रही है कि यदि अंतिम उत्तर सही है, तो वहाँ तक पहुँचने के लिए उपयोग किया गया तर्क भी विश्वसनीय होना चाहिए।
हालाँकि, एक हालिया अध्ययन इस सुखद धारणा को चुनौती देता है। नेशनल यूनिवर्सिटी ऑफ सिंगापुर और हांगकांग पॉलिटेक्निक यूनिवर्सिटी सहित संस्थानों के शोधकर्ताओं ने इस बात की जांच की कि क्या ये एआई मॉडल वास्तव में रासायनिक समस्याओं के माध्यम से तर्क कर रहे हैं या वे केवल बीच में चीजें बना रहे हैं। उन्होंने 'हैलुसिनेशन' (hallucination) नामक एक विशिष्ट प्रकार की त्रुटि पर ध्यान केंद्रित किया, जहाँ एक मॉडल आत्मविश्वास के साथ एक ऐसा तथ्य बताता है जो वास्तव में सत्य नहीं है। रसायन विज्ञान के संदर्भ में, यह ऐसा हो सकता है जहाँ एक मॉडल दावा करे कि एक अणु में एक विशिष्ट रासायनिक समूह, जैसे कि कार्बोक्सिलिक एसिड मौजूद है, जबकि वह समूह वास्तव में उस संरचना से गायब हो। क्योंकि रासायनिक संरचनाएं सटीक होती हैं और उन्हें एक ज्ञात डेटाबेस के विरुद्ध जांचा जा सकता है, यह क्षेत्र यह परीक्षण करने का एक दुर्लभ अवसर प्रदान करता है कि क्या एक एआई का स्पष्टीकरण वास्तविकता से मेल खाता है। शोधकर्ता जानना चाहते थे: जब एक मॉडल सही उत्तर प्राप्त करता है, तो क्या यह इसलिए है क्योंकि उसने रसायन विज्ञान को समझा है, या उसने बस एक सही आकार का अनुमान लगाया और उसे न्यायसंगत ठहराने के लिए एक फर्जी कहानी गढ़ दी?
उत्तर खोजने के लिए, टीम ने बारह विभिन्न रसायन विज्ञान कार्यों में चार अलग-अलग परिवारों के रीजनिंग मॉडलों का विश्लेषण किया, जिसमें अणुओं का वर्णन करने से लेकर नए अणुओं को डिजाइन करने तक शामिल हैं। उन्होंने मॉडलों के लिखित तर्क को पढ़ने और प्रत्येक रासायनिक दावे की वास्तविक आणविक संरचनाओं के विरुद्ध जाँच करने के लिए एक प्रणाली बनाई। उन्होंने जो खोजा वह चौंकाने वाला था। हैलुसिनेशन व्यापक थे। कई मामलों में, मॉडलों ने बिल्कुल सही आणविक संरचना तैयार की लेकिन अपने लिखित स्पष्टीकरण में मनगढ़ंत रासायनिक विवरण शामिल किए। उदाहरण के लिए, पाठ्य विवरणों से अणुओं के निर्माण से संबंधित एक कार्य पर, एक अग्रणी मॉडल की लगभग 13 प्रतिशत प्रतिक्रियाएँ अपने अंतिम आउटपुट में बिल्कुल सही थीं, फिर भी उनके साथ दिए गए रीजनिंग टेक्स्ट में कम से कम एक मनगढ़ंत रासायनिक दावा मौजूद था। अध्ययन में पाया गया कि इन झूठों की उपस्थिति का इस बात से लगभग कोई संबंध नहीं था कि अंतिम उत्तर सही था या गलत। एक मॉडल अपने परिणाम में पूरी तरह से सटीक हो सकता है जबकि उसका तर्क मिथ्याओं से भरा हो सकता है, या वह अपने परिणाम में गलत हो सकता है जबकि उसका तर्क शुद्ध हो सकता है।
यह विच्छेद सुझाव देता है कि लिखित तर्क हमेशा निष्कर्ष तक पहुँचने के तरीके का निष्ठावान रिकॉर्ड नहीं होता है। यह समझने के लिए कि ऐसा क्यों होता है, शोधकर्ताओं ने प्रयोगों की एक श्रृंखला आयोजित की जहाँ उन्होंने जानबूझकर मॉडलों के आउटपुट को बदल दिया। उन्होंने लिखित तर्क टेक्स्ट लिया और रासायनिक समूहों के नामों को गलत नामों से बदल दिया। आश्चर्यजनक रूप रूप से, इन मौखिक दावों को बदलने का मॉडल द्वारा उत्पन्न अंतिम उत्तर पर बहुत कम प्रभाव पड़ा। मॉडल अंतिम संरचना बनाने के समय अपने स्वयं के लिखित स्पष्टीकरण को अनदेखा करता हुआ प्रतीत हुआ। हालाँकि, जब उन्होंने मूल इनपुट या मॉडल द्वारा लिखे गए आंतरिक संरचनात्मक रेखाचित्रों को बदला, तो अंतिम उत्तर नाटकीय रूप से बदल गया। इससे पता चला कि मॉडल अपने गद्य (prose) पर निर्भर नहीं थे। इसके बजाय, वे रीजनिंग स्पेस का उपयोग एक प्रकार के आणविक रफ नोट (scratchpad) के रूप में कर रहे थे।
शोधकर्ताओं ने पाया कि मॉडल रासायनिक संरचनाओं के अंश लिख रहे थे, जो अक्सर SMILES नामक एक प्रारूप में होते हैं, जो अणुओं को टेक्स्ट स्ट्रिंग्स के रूप में दर्शाने का एक तरीका है। ये अंश मध्यवर्ती नोट्स के रूप में कार्य करते थे जिनका उपयोग मॉडल अंतिम उत्तर बनाने के लिए करता था। जबकि रसायन विज्ञान का वर्णन करने वाले पठनीय वाक्य अक्सर अविश्वसनीय और मनगढ़ंत होने के प्रति संवेदनशील थे, ये संरचनात्मक ड्राफ्ट वास्तविक गणना का भार वहन कर रहे थे। विभिन्न मॉडलों ने इस स्क्रैचपैड का उपयोग अलग-अलग तरीकों से किया। कुछ ने इन टेक्स्ट-आधारित संरचनात्मक अंशों पर बहुत अधिक भरोसा किया, जबकि अन्य अणु के आकार या विशिष्ट भागों की स्थिति जैसे व्यापक रासायनिक संकेतों पर अधिक ध्यान केंद्रित करते प्रतीत हुए। अध्ययन ने दिखाया कि पठनीय स्पष्टीकरण अक्सर एक 'पोस्ट-हॉक रैशनलाइजेशन' (post-hoc rationalization) है—एक ऐसी कहानी जो बाद में सुनाई जाती है—जबकि वास्तविक कार्य इन छिपे हुए संरचनात्मक ड्राफ्ट्स में होता है।
इस खोज के निहितार्थ विज्ञान में आर्टिफिशियल इंटेलिजेंस पर विश्वास करने और उपयोग करने के तरीके के लिए महत्वपूर्ण हैं। यदि एक मॉडल रासायनिक समूहों के बारे में झूठ बोलकर एक सही दवा उम्मीदवार का उत्पादन कर सकता है, तो केवल अंतिम उत्तर पर भरोसा करना जोखिम भरा है। एक मानव रसायनशास्त्री जो स्पष्टीकरण पढ़ रहा है, वह मनगढ़ंत विवरणों से भ्रमित हो सकता है, यह मानकर कि मॉडल ने रसायन विज्ञान को समझा है जबकि उसने नहीं समझा। शोधकर्ताओं ने प्रदर्शित किया कि मॉडलों को अधिक ईमानदार बनाना संभव है। एक नया प्रशिक्षण तरीका बनाकर जो मॉडल को केवल तभी पुरस्कृत करता है जब उसके तर्क में कोई मनगढ़ंत दावा न हो, उन्होंने मॉडल का एक ऐसा संस्करण तैयार किया जिसने अपने स्पष्टीकरणों में बहुत कम गलतियाँ कीं, बिना अपनी समस्याओं को हल करने की क्षमता खोए। उन्होंने इस नए दृष्टिकोण को विकसित किया, जिसे उन्होंने 'केम-आर-फेथफुल' (Chem-R-Faithful) कहा, जिसने उच्च प्रदर्शन बनाए रखते हुए मनगढ़ंत दावों की दर को काफी कम कर दिया।
अंततः, यह कार्य प्रकट करता है कि रसायन विज्ञान में 'चेन-ऑफ-थॉट रीजनिंग' न तो एक पूर्ण स्पष्टीकरण है और न ही एक बेकार उपोत्पाद। यह एक जटिल, हैलुसिनेशन-प्रवण कार्यक्षेत्र है जहाँ मॉडल अपना समाधान तैयार करता है। पठनीय टेक्स्ट अक्सर अविश्वसनीय होता है, लेकिन उस टेक्स्ट के भीतर छिपे संरचनात्मक नोट्स सही उत्तर प्राप्त करने के लिए महत्वपूर्ण हैं। इसका अर्थ यह है कि विज्ञान में एआई पर वास्तव में विश्वास करने के लिए, हम केवल अंतिम परिणाम या लिखित कहानी को नहीं देख सकते। हमें प्रक्रिया को सत्यापित करने के नए तरीके विकसित करने होंगे, जिसमें संरचनात्मक ड्राफ्ट और पर्दे के पीछे के तर्क की जाँच की जा सके। जैसे-जैसे ये उपकरण ड्रग डिस्कवरी और आणविक डिजाइन में अधिक सामान्य होते जा रहे हैं, यह समझना कि रीजनिंग ट्रेस एक अंतिम रिपोर्ट के बजाय एक वर्किंग ड्राफ्ट है, भविष्य के रसायनों की सुरक्षा और सटीकता सुनिश्चित करने के लिए आवश्यक होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।