Revisiting Prompt Sensitivity in Large Language Models for Text Classification: The Role of Prompt Underspecification
यह शोध पत्र यह तर्क देता है कि लार्ज लैंग्वेज मॉडल्स में देखी गई प्रॉम्प्ट संवेदनशीलता का एक महत्वपूर्ण हिस्सा मॉडल की अंतर्निहित अस्थिरता के बजाय प्रॉम्प्ट के अपर्याप्त विवरण (underspecification) से उत्पन्न होता है, जो यह प्रदर्शित करता है कि विशिष्ट निर्देश आंतरिक निरूपणों (internal representations) पर केवल मामूली प्रभाव डालते हुए प्रदर्शन भिन्नता और लॉजिट अनिश्चितता को कम करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत बुद्धिमान, लेकिन थोड़े शाब्दिक अर्थ निकालने वाले (literal-minded) रोबोट को डाक के ढेर को "जंक" (कचरा) और "महत्वपूर्ण" में छाँटने के लिए कहने की कोशिश कर रहे हैं।
यदि आप रोबोट को एक नोट देते हैं जिसमें सिर्फ लिखा है, "यहाँ एक पत्र है: [पत्र की सामग्री]," और उसे छाँटने के लिए कहते हैं, तो रोबोट भ्रमित हो सकता है। वह पत्र पर कविता लिखना शुरू कर सकता है, या वह बस उसे खाली आँखों से देखता रह सकता है। यदि आप नोट को थोड़ा बदलकर कहते हैं, "यहाँ एक पत्र है: [पत्र की सामग्री]। कृपया इसे छाँटें," तो रोबोट अचानक पूरी तरह से काम करने लगेगा। यदि आप इसे फिर से बदलकर "इसे छाँटो: [पत्र की सामग्री]" करते हैं, तो वह फिर से विफल हो सकता है।
यह शोध पत्र तर्क देता है कि रोबोट का भ्रम इस कारण नहीं है कि वह डाक छाँटने में "खराब" है। बल्कि इसलिए है क्योंकि आपने उसे स्पष्ट निर्देश नहीं दिए।
यहाँ सरल उपमाओं (analogies) का उपयोग करके शोध पत्र के निष्कर्षों का विवरण दिया गया है:
1. समस्या: "अस्पष्ट नोट्स" बनाम "स्पष्ट निर्देश"
शोधकर्ताओं ने पाया कि AI मॉडल का परीक्षण करने वाले कई अध्ययन "अस्पष्ट" (underspecified) प्रॉम्प्ट्स का उपयोग करते हैं। इन्हें अस्पष्ट नोट्स के रूप में समझें जैसे "यह क्या है?" या बिना किसी संदर्भ के केवल टेक्स्ट पेस्ट कर देना।
- परिणाम: जब निर्देश अस्पष्ट होते हैं, तो AI का प्रदर्शन बहुत ही अस्थिर होता है। एक दिन वह जीनियस होता है; अगले दिन, वह बेतरतीब ढंग से अनुमान लगा रहा होता है। शोध पत्र इसे "प्रॉम्प्ट संवेदनशीलता" (prompt sensitivity) कहता है।
- कारण: AI वास्तव में गहराई में इस कार्य को करना जानता है, लेकिन क्योंकि निर्देश बहुत अस्पष्ट थे, इसलिए उसे यह नहीं पता था कि आपको उत्तर कैसे दिखाना है। यह उस छात्र की तरह है जो गणित जानता है तो है, लेकिन क्योंकि शिक्षक ने स्पष्ट रूप से नहीं पूछा, इसलिए वह अंतिम संख्या लिखना भूल जाता है।
2. समाधान: "निर्देश प्रॉम्प्ट्स" (Instruction Prompts)
जब शोधकर्ताओं ने "निर्देश प्रॉम्प्ट्स" (स्पष्ट, विशिष्ट निर्देश जैसे "इस टेक्स्ट को पढ़ें और मुझे बताएं कि यह सकारात्मक है या नकारात्मक") का उपयोग किया, तो AI बहुत अधिक स्थिर और सटीक हो गया।
- उपमा: यह एक शेफ को कच्चा सामान देकर यह कहने के बीच का अंतर है कि "कुछ बनाओ" बनाम यह कहना कि "एक ग्रिल्ड चीज़ सैंडविच बनाओ।" शेफ (AI) दोनों ही स्थितियों में कुशल है, लेकिन दूसरा निर्देश यह सुनिश्चित करता है कि आउटपुट वही है जो आप वास्तव में चाहते थे।
3. "जादुई ट्रिक": इन-कॉन्टेक्स्ट लर्निंग (In-Context Learning)
शोध पत्र ने AI के भ्रम को ठीक करने के कई तरीकों का परीक्षण किया। सबसे प्रभावी तरीका इन-कॉन्टेक्स्ट लर्निंग (ICL) था।
- उपमा: केवल एक नियम देने के बजाय, आप उसे पहले दो उदाहरण दिखाते हैं: "यहाँ एक खुशहाल मूवी रिव्यू है। यहाँ एक दुखी रिव्यू है। अब, यहाँ एक नया रिव्यू है: क्या यह खुशहाल है या दुखी?"
- निष्कर्ष: यह सरल ट्रिक उन जटिल गणितीय सुधारों (जिन्हें "कैलिब्रेशन" कहा जाता है) की तरह ही लगभग उतना ही प्रभावी था, जिनमें रोबोट के दिमाग के अंदर जाकर काम करने की आवश्यकता होती है। इसने रोबोट के आंतरिक कोड को बदले बिना भ्रम को हल कर दिया।
4. रोबोट के दिमाग के अंदर झाँकना (Logits और Probes)
शोधकर्ताओं ने यह देखने के लिए कि भ्रम कहाँ हुआ, मशीन के भीतर की जांच की।
- लॉगिट्स (Logits - "विश्वास स्कोर"): जब AI अस्पष्ट निर्देशों से भ्रमित होता है, तो सही उत्तर के लिए उसके आंतरिक "विश्वास स्कोर" बहुत कम होते—लगभग शून्य। यह ऐसा है जैसे रोबोट अपना उत्तर इतनी धीरे फुसफुसा रहा है कि आप उसे सुन नहीं सकते। जब निर्देश स्पष्ट होते हैं, तो रोबोट उच्च आत्मविश्वास के साथ उत्तर चिल्लाकर बताता है।
- लीनियर प्रोब्स (Linear Probes - "ब्रेन स्कैन"): उन्होंने AI की आंतरिक परतों (उसके "विचार प्रक्रिया") को स्कैन किया।
- आश्चर्य: AI का दिमाग वास्तव में कार्य को समझता था भले ही निर्देश अस्पष्ट थे। वह "ज्ञान" मस्तिष्क की मध्य परतों में मौजूद था।
- गड़बड़ी: समस्या केवल बिल्कुल अंत में हुई, जब AI ने उस ज्ञान को अंतिम उत्तर में अनुवादित करने की कोशिश की। अस्पष्ट निर्देशों ने आउटपुट को खराब किया, सोचने की प्रक्रिया को नहीं।
5. क्या काम नहीं आया
शोध पत्र ने "खाली" टोकन (बेमतलब के शब्द) जोड़ने जैसे कुछ अन्य विचारों का भी परीक्षण किया ताकि AI को "कैलिब्रेट" किया जा सके।
- परिणाम: इससे अक्सर चीजें और भी खराब हो गईं, जिससे AI का प्रदर्शन बेतरतीब अनुमान लगाने से भी बदतर हो गया। यह एक भ्रमित शेफ को समझाने के लिए उस पर बेमतलब के शब्द चिल्लाने जैसा है; यह केवल शोर बढ़ाता है।
मुख्य निष्कर्ष (The Bottom Line)
शोध पत्र निष्कर्ष निकालता है कि AI मॉडल में हम जो "अस्थिरता" देखते हैं, उसका एक बड़ा हिस्सा इसलिए नहीं है क्योंकि मॉडल टूटे हुए या अप्रत्याशित हैं। बल्कि इसलिए है क्योंकि हम उनसे भ्रमित तरीके से सवाल पूछ रहे हैं।
यदि हम विश्वसनीय AI परिणाम चाहते हैं, तो हमें अस्पष्ट, न्यूनतम प्रॉम्प्ट का उपयोग करना बंद करना होगा और स्पष्ट, विशिष्ट निर्देशों (और शायद पहले AI को कुछ उदाहरण दिखाने) का उपयोग करना शुरू करना होगा। AI काम करने में सक्षम है; उसे बस एक बेहतर जॉब डिस्क्रिप्शन (कार्य विवरण) की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।