Can Scientific Claims Be Removed from Large Language Models? A Systematic Evaluation of Claim-Level Unlearning
यह शोध पत्र साइंटिफिक क्लेम अनलर्निंग (Scientific Claim Unlearning) के कार्य और एक नए बेंचमार्क, SciUnlearn को प्रस्तुत करता है, जो यह प्रदर्शित करता है कि वर्तमान मशीन अनलर्निंग विधियाँ लार्ज लैंग्वेज मॉडल्स से परस्पर जुड़े हुए, विकसित होते वैज्ञानिक दावों को प्रभावी ढंग से हटाने में विफल रहती हैं, जिसके परिणामस्वरूप अक्सर वास्तविक ज्ञान उन्मूलन के बजाय केवल सतही दमन ही होता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक कृत्रिम बुद्धिमत्ता (AI) प्रणालियाँ, जिन्हें अक्सर लार्ज लैंग्वेज मॉडल्स कहा जाता है, मानव ज्ञान के विशाल पुस्तकालयों की तरह कार्य करती हैं। उन्हें प्रश्नों के उत्तर देने और समस्याओं को हल करने के तरीके सीखने के लिए वैज्ञानिक शोध पत्रों सहित पाठ के विशाल संग्रह को पढ़कर प्रशिक्षित किया जाता है। हालाँकि, विज्ञान एक स्थिर संग्रह नहीं है; यह निरंतर संशोधन की एक जीवंत, सांस लेती प्रक्रिया है। जब कोई नया अध्ययन किसी पुराने विचार को गलत सिद्ध करता है, या जब त्रुटि के कारण किसी शोध पत्र को वापस ले लिया जाता है, तो वैज्ञानिक रिकॉर्ड अपडेट हो जाता है। समस्या यह है कि ये AI मॉडल स्वतः ही स्वयं को अपडेट नहीं करते हैं। एक बार जब उन्होंने कोई तथ्य सीख लिया, तो वे उसे पकड़े रहने की प्रवृत्ति रखते हैं, भले ही वैज्ञानिक समुदाय ने उसे गलत घोषित कर दिया हो। यह एक ऐसा जोखिम पैदा करता है जहाँ एक AI आत्मविश्वास के साथ पुराना या गलत साबित हो चुके जानकारी को दोहरा सकता है, जिससे शोधकर्ताओं को गुमराह करने या चिकित्सा जैसे क्षेत्रों में नुकसान पहुँचाने की संभावना बनी रहती है।
इस समस्या के समाधान के लिए, शोधकर्ताओं ने 'मशीन अनलर्निंग' (machine unlearning) नामक एक तकनीक विकसित की है। इसका लक्ष्य मॉडल को विशिष्ट सूचनाओं को "भूलने" के लिए सिखाना है, जबकि अन्य प्रश्नों के उत्तर देने की उसकी क्षमता बरकरार रहे। कल्पना कीजिए कि एक लाइब्रेरियन को शेल्फ से एक विशिष्ट, गलत पुस्तक को हटाना है, बिना बाकी लाइब्रेरी को बाधित किए या अन्य पुस्तकों को खोजने की अपनी क्षमता खोए। हालांकि इसका परीक्षण व्यक्तिगत डेटा या कॉपीराइट सामग्री को हटाने के लिए किया गया है, लेकिन वैज्ञानिक अभी तक यह नहीं जान पाए हैं कि विशिष्ट वैज्ञानिक दावों को प्रभावी ढंग से कैसे हटाया जाए। ये दावे जटिल हैं क्योंकि वे आपस में गहराई से जुड़े हुए हैं; एक तथ्य को जानने के लिए अक्सर कई अन्य तथ्यों को समझना आवश्यक होता है। यदि आप एक तथ्य को हटाने का प्रयास करते हैं, तो मॉडल केवल उस जानकारी को जीवित रखने के लिए उसे थोड़ा बदलकर प्रस्तुत करना सीख सकता है, या वह अनजाने में बाकी सब कुछ भी भूल सकता है।
TCS रिसर्च और येल यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने इस विशिष्ट समस्या को हल करने के लिए हाथ डाला। उन्होंने यह देखने के लिए कि क्या वर्तमान AI मॉडल वास्तव में वैज्ञानिक दावों को भूल सकते हैं, 'SciUnlearn' नामक एक नया परीक्षण वातावरण बनाया। उन्होंने कंप्यूटर साइंस और मेडिसिन के वास्तविक वैज्ञानिक शोध पत्रों का उपयोग करके एक डेटासेट बनाया, जिसमें उन शोध पत्रों का भी समावेश था जिन्हें आधिकारिक तौर पर वापस (retracted) ले लिया गया था। प्रत्येक पेपर के लिए, उन्होंने मूल वैज्ञानिक दावों को निकाला और उन्हें बहुविकल्पीय, सही/गलत और रिक्त स्थान भरने जैसे विभिन्न प्रकार के प्रश्नों में बदल दिया। परीक्षण को निष्पक्ष बनाने के लिए, उन्होंने प्रश्नों को दो समूहों में विभाजित किया: एक समूह मॉडल को भूलना सिखाने के लिए, और दूसरा समूह उन्हीं तथ्यों पर आधारित पुनर्गठित (rephrased) प्रश्न, यह देखने के लिए कि क्या मॉडल ने वास्तव में अवधारणा को भुला दिया है या केवल विशिष्ट प्रश्नों को याद कर लिया है।
इसके बाद शोधकर्ताओं ने मौजूदा अनलर्निंग विधियों को इन मॉडलों पर लागू किया। उन्होंने मॉडलों को प्रश्नों के पहले समूह को भूलने के लिए कहा और फिर दूसरे समूह के साथ-साथ सामान्य ज्ञान के प्रश्नों पर उनका परीक्षण किया ताकि यह सुनिश्चित हो सके कि मॉडल बेकार तो नहीं हो गए हैं। परिणाम काफी स्पष्ट थे। विधियाँ उन विशिष्ट प्रश्नों पर विफल होने में सफल रहीं जिनके लिए उन्हें प्रशिक्षित किया गया था। हालाँकि, जब पुनर्गठित प्रश्नों का सामना करने की बात आई जो उसी अंतर्निहित वैज्ञानिक दावे का परीक्षण करते थे, तो मॉडल अक्सर सही उत्तर दे रहे थे। यह सुझाव देता है कि मॉडल वास्तव में ज्ञान को हटा नहीं रहे थे; वे केवल प्रशिक्षण प्रश्नों में उपयोग किए गए शब्दों के विशिष्ट पैटर्न को दबा रहे थे। यह ऐसा था मानो मॉडल ने एक विशिष्ट वाक्य को अनदेखा करना सीख लिया हो, बजाय इसके कि वह उसके पीछे के तथ्य को मिटा देता।
अध्ययन ने यह भी देखा कि मॉडलों ने अन्य, असंबंधित सूचनाओं को कितनी अच्छी तरह याद रखा। कुछ विधियों ने, जो लक्षित दावों को भूलने का प्रयास करती थीं, अनजाने में मॉडल की सामान्य प्रश्नों के उत्तर देने की क्षमता को भी कम कर दिया, जबकि अन्य ने शेष ज्ञान को सुरक्षित रखा। शोधकर्ताओं ने पाया कि किसी दावे को भूलने की कठिनाई इस बात पर निर्भर करती थी कि वह दावा वैज्ञानिक साहित्य में कितना गहराई से रचा-बसा है। वे दावे जो कई अन्य अध्ययनों द्वारा बार-बार उद्धृत (cited) किए गए थे, उन्हें हटाना बहुत कठिन था। ये अत्यधिक उद्धृत विचार संबंधित पाठ के एक विस्तृत जाल द्वारा सुदृढ़ किए गए थे, जिससे वे एक एकल अनलर्निंग प्रयास द्वारा मिटाए जाने के प्रति प्रतिरोधी बन गए थे। इसके विपरीत, कम उद्धृत पत्रों के दावे आसानी से बाधित किए जा सकते थे, लेकिन फिर भी, यह विस्मृति अक्सर प्रश्न के सटीक सतही रूप तक ही सीमित थी।
अंततः, अध्ययन यह निष्कर्ष निकालता है कि वर्तमान विधियाँ अभी तक वास्तविक वैज्ञानिक दावा अनलर्निंग के योग्य नहीं हैं। वे ज्ञान के विशिष्ट उदाहरणों को छिपा सकते हैं, लेकिन वे अंतर्निहित वैचारिक समझ को हटाने में संघर्ष करते हैं। शोधकर्ता सुझाव देते हैं कि भविष्य के कार्यों को मॉडल के ज्ञान के भीतर इन गहरे, संरचित संबंधों को लक्षित करने वाली विधियों पर ध्यान केंद्रित करने की आवश्यकता है, न कि केवल सतही पैटर्न को दबाने पर। तब तक, ये AI मॉडल पुराने विज्ञान का भार ढोते रह सकते हैं, उन तथ्यों को थामे हुए जिन्हें दुनिया पहले ही पीछे छोड़ चुकी है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।