In-Context Examples Suppress Scientific Knowledge Recall in LLMs
यह शोध पत्र यह प्रदर्शित करता है कि लार्ज लैंग्वेज मॉडल्स में इन-कॉन्टेक्स्ट उदाहरण जोड़ने से उनकी अंतर्निहित वैज्ञानिक ज्ञान को याद करने और लागू करने की क्षमता दब सकती है, जिससे वे अनुभवजन्य पैटर्न फिटिंग (empirical pattern fitting) पर निर्भर हो जाते हैं, भले ही उदाहरण सही अंतर्निहित सूत्रों द्वारा ही निर्मित किए गए हों।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ इस शोध पत्र का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण दिया गया है।
मुख्य विचार: जब उदाहरण आपको वह भुला देते हैं जो आप जानते हैं
कल्पना कीजिए कि आप एक प्रतिभाशाली छात्र हैं जिसने भौतिकी, रसायन विज्ञान और अर्थशास्त्र के नियमों को रट लिया है। आप जानते हैं कि सही सूत्रों का उपयोग करके किसी समस्या को कैसे हल किया जाता है। लेकिन फिर, आपका शिक्षक आपको एक ट्विस्ट के साथ एक टेस्ट देता है: समस्या को हल करने से पहले, वे आपको समान समस्याओं के 10 उदाहरण उनके उत्तरों के साथ दिखाते हैं।
आप सोच सकते हैं, "बहुत बढ़िया! ये उदाहरण मुझे नियमों को बेहतर तरीके से याद रखने में मदद करेंगे।"
इस शोध पत्र ने खोजा कि इसके विपरीत सच है। जब AI (लार्ज लैंग्वेज मॉडल) उन उदाहरणों को देखता है, तो वह वास्तव में अपने रटे हुए वैज्ञानिक नियमों का उपयोग करना बंद कर देता है और इसके बजाय उदाहरणों में मौजूद पैटर्न के आधार पर अनुमान लगाने लगता है। यह एक मास्टर शेफ की तरह है जो, किसी व्यंजन की कुछ तस्वीरें देखने के बाद, रेसिपी भूल जाता है और केवल तस्वीरों को देखकर सामग्री का अनुमान लगाने की कोशिश करता है।
लेखक इसे "नॉलेज डिस्प्लेसमेंट" (ज्ञान विस्थापन) कहते हैं। उदाहरण ज्ञान को मजबूत नहीं करते; वे उसे रास्ते से हटा देते हैं।
AI सोचने के दो तरीके
यह शोध पत्र AI द्वारा वैज्ञानिक समस्याओं को हल करने के लिए उपयोग किए जाने वाले दो अलग-अलग "मोड्स" का वर्णन करता है:
"टेक्स्टबुक मोड" (ज्ञान-संचालित - Knowledge-Driven):
- यह कैसे काम करता है: AI एक समस्या देखता है (जैसे, "कोई वस्तु कितनी तेज़ी से ठंडी होती है?"), कीवर्ड्स को पहचानता है, और अपनी मेमोरी से सही सूत्र निकालता है (जैसे न्यूटन का कूलिंग लॉ)। फिर वह गणित का उपयोग करके चरण-दर-चरण उत्तर की गणना करता है।
- उपमा: यह एक मैकेनिक की तरह है जो इंजन की अजीब आवाज़ सुनता है, वर्षों के प्रशिक्षण के आधार पर जानता है कि कौन सा हिस्सा खराब है, और सही टूल का उपयोग करके उसे ठीक करता है।
"पैटर्न मोड" (उदाहरण-संचालित - Example-Driven):
- यह कैसे काम करता है: AI सूत्रों को अनदेखा कर देता है। इसके बजाय, वह प्रॉम्प्ट में दिए गए 10 उदाहरणों को देखता है और एक शॉर्टकट या ट्रेंड खोजने की कोशिश करता है। वह यह कहकर उत्तर का अनुमान लगाता है, "उदाहरणों में, जब संख्या बढ़ी, तो उत्तर कम हुआ, इसलिए मैं भी वैसा ही करूँगा।"
- उपमा: यह एक ऐसे मैकेनिक की तरह है जिसने कभी इंजन की पढ़ाई नहीं की है, लेकिन वह खराब हिस्सों वाली कारों की 10 तस्वीरें देखता है। वह बिना यह समझे कि इंजन शोर क्यों कर रहा है, केवल यह देखकर सुधार का अनुमान लगाता है कि "इन सभी तस्वीरों में टायर पंचर था, इसलिए मैं बस अनुमान लगा लूँगा कि टायर पंचर है।"
खोज: जब आप AI को उदाहरण देते हैं (सही उदाहरण होने पर भी), तो वह लगभग हमेशा "टेक्स्टबुक मोड" से "पैटर्न मोड" में स्विच हो जाता है। वह वास्तविक विज्ञान करना बंद कर देता है और "पैटर्न मैचिंग" करने लगता है।
आश्चर्य: कभी यह मदद करता है, कभी नुकसान पहुँचाता है
शोधकर्ताओं ने पाँच क्षेत्रों (अर्थशास्त्र, रसायन विज्ञान, भौतिकी, जीव विज्ञान और भूविज्ञान) में 60 विभिन्न वैज्ञानिक समस्याओं पर इसका परीक्षण किया। उन्होंने पाया कि हालांकि AI हमेशा "पैटर्न मोड" में स्विच हो गया, लेकिन अंतिम स्कोर का परिणाम प्रत्येक विषय के लिए अलग था।
यहाँ बताया गया है कि यह कैसे हुआ:
"नुकसान पहुँचाने वाला" मामला (अर्थशास्त्र और रसायन विज्ञान):
- क्या हुआ: AI सूत्रों को पूरी तरह से जानता था। उदाहरण दिखाए जाने पर, उसने उनका उपयोग करना बंद कर दिया और पैटर्न का अनुमान लगाने लगा।
- परिणाम: स्कोर काफी गिर गया।
- उपमा: एक गणित के जीनियस की कल्पना करें जो पहाड़े (multiplication table) को पूरी तरह से जानता है। यदि आप उन्हें के कुछ उदाहरण दिखाते हैं, तो वे "2 गुना 2" सोचना छोड़ सकते हैं और सिर्फ इसलिए "शायद यह 5 है?" का अनुमान लगा सकते हैं क्योंकि उदाहरण कुछ खास तरह के दिख रहे थे। वे गलत उत्तर देते हैं क्योंकि वे उस नियम को भूल जाते हैं जो वे पहले से जानते थे।
"मदद करने वाला" मामला (भूविज्ञान):
- क्या हुआ: AI सूत्र तो जानता था, लेकिन विशिष्ट संख्याओं (जैसे चट्टानों का घनत्व) को याद रखने में वह खराब था। वह बार-बार गलत नंबरों का अनुमान लगा रहा था। उदाहरण दिखाए जाने पर, उसने संख्याओं को याद करने की कोशिश छोड़ दी और उत्तर का अनुमान लगाने के लिए उदाहरणों के पैटर्न को देखना शुरू कर दिया।
- परिणाम: स्कोर बढ़ गया।
- उपमा: एक छात्र की कल्पना करें जो रेसिपी का सूत्र तो जानता है लेकिन हमेशा नमक की मात्रा भूल जाता है। यदि आप उन्हें तैयार व्यंजन की 10 तस्वीरें दिखाते हैं, तो वे नमक की मात्रा याद करने की कोशिश करने के बजाय केवल तस्वीरों से स्वाद की नकल कर सकते हैं। उन्हें बेहतर व्यंजन मिलता है, लेकिन उन्होंने रेसिपी नहीं सीखी; वे बस पैटर्न के साथ भाग्यशाली रहे।
"कोई बदलाव नहीं" वाला मामला (भौतिकी और जीव विज्ञान):
- क्या हुआ: AI मोड बदल गया, लेकिन इन विशिष्ट समस्याओं के लिए "पैटर्न मोड" संयोग से "टेक्स्टबुक मोड" जितना ही अच्छा था।
- परिणाम: स्कोर वही रहा।
- उपमा: यह कार चलाने जैसा है। आप GPS (टेक्स्टबुक मोड) का उपयोग करके गाड़ी चला सकते हैं या अपने दोस्त की कार का पीछा करके (पैटर्न मोड)। यदि आपका दोस्त बिल्कुल सही गाड़ी चला रहा है, तो आप भी उसी समय पहुँचेंगे। लेकिन आप अब GPS का उपयोग नहीं कर रहे हैं।
ऐसा क्यों होता है?
शोध पत्र ने पाया कि AI का "टेक्स्टबुक मोड" बहुत नाजुक है। यह कीवर्ड्स (Keywords) पर निर्भर करता है।
- यदि समस्या कहती है "Consumer Surplus", तो AI "अर्थशास्त्र सूत्र" के बारे में सोचता है।
- यदि आप शब्दों को बदलकर "Alpha Wave" (उसी अवधारणा के लिए एक नकली नाम) कर देते हैं, तो AI पूरी तरह से सूत्र भूल जाता है।
हालाँकि, "पैटर्न मोड" को शब्दों की परवाह नहीं होती। यह केवल संख्याओं को देखता है। इसलिए, जब आप AI को संख्याओं के साथ उदाहरण देते हैं, तो वह तुरंत पैटर्न मोड में स्विच हो जाता है क्योंकि यह आसान है, भले ही उदाहरण उन नियमों के साथ पूरी तरह से सुसंगत हों जिन्हें वह पहले से जानता है।
उपयोगकर्ताओं के लिए मुख्य चेतावनी
यह शोध पत्र विज्ञान के लिए AI का उपयोग करने वाले किसी भी व्यक्ति के लिए एक चेतावनी के साथ समाप्त होता है:
यह मान न लें कि AI को उदाहरण देने से वह अपने ज्ञान का उपयोग करने में बेहतर होगा।
वास्तव में, यह इसके विपरीत भी कर सकता है। यह AI को वैज्ञानिक की तरह सोचने के बजाय एक अनुमान लगाने वाले (गुएसर) की तरह सोचने पर मजबूर कर सकता है। कभी-कभी यह अनुमान लगाने वाला भाग्यशाली होता है और बेहतर स्कोर प्राप्त करता है, लेकिन अक्सर यह खराब स्कोर प्राप्त करता है क्योंकि यह उन नियमों को भूल जाता है जिन्हें उसे जानना चाहिए था।
संक्षेप में: उदाहरणों ने AI को कुछ नया नहीं सिखाया; उन्होंने बस उसे वह भुला दिया जो वह पहले से जानता था।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।