Why is prompting hard? Understanding prompts on binary sequence predictors
यह शोध पत्र प्रॉम्पटिंग की चुनौतियों की जांच इसे सीक्वेंस प्रेडिक्टर्स (sequence predictors) पर इष्टतम कंडीशनिंग सीक्वेंस खोजने के रूप में रूपायित करते हुए करता है, जो नियंत्रित प्रयोगों और फ्रंटियर मॉडल विश्लेषण के माध्यम से यह प्रकट करता है कि इष्टतम प्रॉम्प्ट अक्सर गैर-सहज होते हैं, गहन खोज के साथ भी उन्हें पहचानना कठिन होता है, और मानक प्रदर्शन-आधारित विधियों का उपयोग करने पर अक्सर उप-इष्टतम होते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक अत्यंत बुद्धिमान, उच्च प्रशिक्षित तोता है। इस तोते ने लाखों किताबें पढ़ी हैं, अनगिनत फिल्में देखी हैं और अब तक के सभी रेडियो शो सुने हैं। यह किसी भी अन्य व्यक्ति की तुलना में वाक्य में अगले शब्द की भविष्यवाणी करने में माहिर है। यह आपका AI मॉडल है।
अब, आप चाहते हैं कि यह तोता एक विशिष्ट करतब दिखाए: एक चुटकुला सुनाना, एक उदास कविता लिखना, या गणित की कोई समस्या हल करना। आप इसे यह करने के लिए एक प्रॉम्ट (prompt) देते हैं—निर्देश या उदाहरण के कुछ शब्द ताकि इसकी शुरुआत हो सके।
यह शोध पत्र एक सरल लेकिन गहरा प्रश्न पूछता है: तोते को देने के लिए एकदम सही शब्द ढूँढना इतना कठिन क्यों है? कभी-कभी, वे निर्देश जो सबसे अच्छा काम करते हैं, वे पूरी तरह से अजीब, निरर्थक, या यहाँ तक कि मानव दृष्टि में "गलत" लगते हैं। ऐसा क्यों है कि एक प्रॉम्ट जो बिना सिर-पैर का लगता है, वह बेहतर काम करता है बजाय एक स्पष्ट, तार्किक निर्देश के?
लेखकों ने केवल अनुमान लगाना बंद कर दिया और परीक्षण करना शुरू किया। उन्होंने यह समझने के लिए कि तोते के मस्तिष्क के भीतर वास्तव में क्या हो रहा है, एक छोटा, नियंत्रित संसार बनाया।
प्रयोग: कॉइन फ्लिप तोता (The Coin Flip Parrot)
एक वास्तविक, जटिल AI के बजाय, उन्होंने एक सरल "तोता" बनाया जो केवल Heads (चित) और Tails (पट) (जैसे एक सिक्के का उछाल) को समझता है।
- प्रशिक्षण (The Training): उन्होंने इस तोते को हजारों सिक्कों के उछाल दिखाकर प्रशिक्षित किया। लेकिन यहाँ एक पेंच है: उन्होंने इसे केवल निष्पक्ष सिक्के नहीं दिखाए। उन्होंने इसे ऐसे सिक्के दिखाए जो अलग-अलग तरीकों से पक्षपाती (biased) थे। कुछ सिक्के 20% बार Heads आते थे, कुछ 90% बार, और कुछ दोनों का मिश्रण थे। तोते ने अपने प्रशिक्षण में देखे गए पैटर्न के आधार पर अगले उछाल का अनुमान लगाना सीखा।
- कार्य (The Task): अब, वे चाहते थे कि यह तोता एक विशिष्ट सिक्के की तरह व्यवहार करे जो 70% बार Heads आता है। उन्होंने पूछा: "तोते को Heads और Tails का ऐसा कौन सा सर्वोत्तम क्रम दिखाएं जिससे वह 70% Heads का अनुमान लगाने लगे?"
बड़ी हैरानी: "गलत" प्रॉम्ट सबसे अच्छा काम करते हैं
आप सोच सकते हैं कि तोते को 70% Heads का अनुमान लगाने के लिए सिखाने का सबसे अच्छा तरीका उसे 70% Heads और 30% Tails की एक लंबी सूची दिखाना है। यह तर्कसंगत लगता है, है ना?
शोध पत्र में पाया गया कि यह अक्सर गलत होता है।
कई मामलों में, इष्टतम प्रॉम्ट (optimal prompt) (जो वास्तव में सबसे अच्छा काम करता है) एक ऐसा क्रम था जो कार्य से बिल्कुल मेल नहीं खाता था।
- उपमा (The Analogy): कल्पना कीजिए कि आप एक ऐसे छात्र को पढ़ाना चाहते हैं जो एक शांत पुस्तकालय में पढ़ने का आदी है, ताकि वह एक शोर वाले कैफेटेरिया में पढ़ सके। आप सोच सकते हैं कि उसे एक शोर वाले कैफेटेरिया की रिकॉर्डिंग दिखाना उसे तैयार करने का सबसे अच्छा तरीका है। लेकिन शोध पत्र में पाया गया कि कभी-कभी, उसे तैयार करने का सबसे अच्छा तरीका उसे शांति का एक ऐसा क्रम दिखाना है जो सूक्ष्म रूप से उसके मस्तिष्क को शोर की अपेक्षा करने के लिए प्रेरित करता है।
- वास्तविकता: "सर्वश्रेष्ठ" प्रॉम्ट पूरी तरह से इस बात पर निर्भर करता है कि तोते को कैसे प्रशिक्षित किया गया था (इसका प्री-ट्रेनिंग डिस्ट्रीब्यूशन)। यदि तोते को सिक्कों के विशिष्ट मिश्रण पर प्रशिक्षित किया गया था, तो उसे एक निश्चित व्यवहार करने के लिए प्रेरित करने वाली "जादुई शब्द" Heads का एक समूह, या 10 Heads और 2 Tails का एक अजीब मिश्रण हो सकती है। एक इंसान के लिए जो कार्य को देख रहा है, यह एक गलती जैसा दिखता है। लेकिन तोते के लिए, यह एक आदर्श कुंजी है जो सही व्यवहार को अनलॉक करती है।
यह समझना इतना कठिन क्यों है?
लेखक इन "जादुई शब्दों" को खोजने के तीन मुख्य कारण बताते हैं:
1. "छिपी हुई रेसिपी" की समस्या (The "Hidden Recipe" Problem)
तोते का व्यवहार एक गुप्त "रेसिपी" (प्री-ट्रेनिंग डिस्ट्रीब्यूशन) द्वारा आकार लेता है जिसे हम आमतौर पर नहीं जानते।
- उपमा: कल्पना कीजिए कि आप एक विशिष्ट स्टेशन ट्यून करने की कोशिश कर रहे हैं। आप नहीं जानते कि स्टेशन कैसा सुनाई देता है, और आप यह भी नहीं जानते कि रेडियो कैसे बनाया गया है। आप बस डायल घुमाते हैं। कभी-कभी, "स्पष्ट" स्थान पर घुमाने से केवल शोर (static) मिलता है। आपको एक अजीब, रैंडम स्थान पर घुमाना होगा ताकि स्पष्ट ध्वनि मिल सके। बिना रेडियो की आंतरिक वायरिंग जाने, आप यह स्पष्ट नहीं कर सकते कि वह अजीब स्थान क्यों काम करता है।
2. "फ्लैट लैंडस्केप" की समस्या (The "Flat Landscape" Problem)
लेखकों ने सबसे अच्छे प्रॉम्ट की खोज को एक पहाड़ी परिदृश्य पर चलने की तरह दर्शाया है।
- उपमा: आप उच्चतम शिखर (सबसे अच्छा प्रॉम्ट) की तलाश कर रहे हैं। एक आदर्श दुनिया में, एक तीक्ष्ण पर्वत शिखर होता है, और उसे ढूंढना आसान होता है। लेकिन इस शोध पत्र के प्रयोगों में, "परिदृश्य" अक्सर एक समतल पठार (flat plateau) होता है। सैकड़ों अलग-अलग प्रॉम्ट हैं जो लगभग समान रूप से अच्छे हैं।
- परिणाम: यदि आप थोड़े से डेटा (जैसे एक छोटे टेस्ट बैच) का उपयोग करके सबसे अच्छा प्रॉम्ट खोजने की कोशिश करते हैं, तो आप गलती से एक "काफी अच्छा" प्रॉम्ट चुन सकते हैं जो वास्तव में वास्तविक सर्वश्रेष्ठ से अलग है। यदि आप एक थोड़े अलग बैच के साथ फिर से परीक्षण करते हैं, तो आप एक अलग "काफी अच्छा" प्रॉम्ट चुन सकते हैं। यह परिणामों को अविश्वसनीय और व्याख्या करने में कठिन बनाता है।
3. "विशेषज्ञ डेमो" का जाल (The "Expert Demo" Trap)
AI को सिखाने का एक लोकप्रिय तरीका उसे किसी विशेषज्ञ द्वारा किए गए कार्य के उदाहरण दिखाना है (जैसे, "यहाँ देखें कि एक शतरंज का ग्रैंडमास्टर कैसे खेलता है")।
- निष्कर्ष: शोध पत्र ने दिखाया कि विशेषज्ञ के उदाहरण दिखाना अक्सर कम प्रभावी होता है बजाय एक अजीब, अनुकूलित (optimized) प्रॉम्ट के।
- उपमा: कल्पना कीजिए कि आप चाहते हैं कि एक रोबोट शतरंज को पूरी तरह से खेले। आप उसे ग्रैंडमास्टर द्वारा खेले गए 100 गेम दिखा सकते हैं। या, आप उसे एक अजीब, छोटा कोड दे सकते हैं जो उसके मस्तिष्क को "ग्रैंडमास्टर मोड" में डाल देता है। शोध पत्र में पाया गया कि अजीब कोड अक्सर 100 गेम्स की तुलना में बेहतर काम करता है। विशेषज्ञ के उदाहरण बहुत अधिक "सामान्य" होते हैं और वे रोबोट के विशिष्ट प्रशिक्षण पूर्वाग्रहों (biases) को ध्यान में नहीं रखते हैं।
वास्तविक AI (जैसे चैटबॉट्स) के बारे में क्या?
लेखकों ने मूवी रिव्यूज (फिल्म समीक्षाओं) का उपयोग करके वास्तविक लार्ज लैंग्वेज मॉडल्स (जैसे GPT-2 और Gemma) पर इन विचारों का परीक्षण किया।
- उन्होंने वही पैटर्न देखे: एक "सकारात्मक" समीक्षा उत्पन्न करने के लिए सबसे अच्छे प्रॉम्ट हमेशा सकारात्मक दिखने वाले शब्द नहीं थे। कभी-कभी, वे छोटे, अजीब, या यहाँ तक कि नकारात्मक दिखने वाले शब्द थे जो किसी तरह सही प्रतिक्रिया को ट्रिगर करते थे।
- उन्होंने यह भी पाया कि सबसे अच्छे प्रॉम्ट को विश्वसनीय रूप से खोजने के लिए, आपको डेटा की एक विशाल मात्रा (हजारों उदाहरण) की आवश्यकता होती है, न कि केवल उन छोटे बैचों (लगभग 200) की जिनका लोग आमतौर पर उपयोग करते हैं। छोटे बैचों के साथ, आप केवल अनुमान लगा रहे होते हैं।
निष्कर्ष (The Takeaway)
शोध पत्र निष्कर्ष निकालता है कि प्रॉम्टिंग कठिन है क्योंकि हम एक ऐसी मशीन को चलाने की कोशिश कर रहे हैं जिसके पूरे इतिहास को हम नहीं जानते।
- "सर्वश्रेष्ठ" प्रॉम्ट सापेक्ष है: कोई सार्वभौमिक "सर्वश्रेष्ठ" प्रॉम्ट नहीं है। सबसे अच्छा प्रॉम्ट AI के प्रशिक्षण डेटा के विशिष्ट, छिपे हुए पूर्वाग्रहों पर निर्भर करता है।
- सहज ज्ञान (Intuition) विफल हो जाता है: जो एक इंसान के लिए तर्कसंगत दिखता है (AI को वह दिखाना जो आप चाहते हैं) अक्सर विफल हो जाता है क्योंकि यह AI के आंतरिक "गणित" को ध्यान में नहीं रखता है।
- विश्वसनीयता कम है: जब तक आप व्यापक रूप से खोज नहीं करते और विशाल डेटासेट का उपयोग नहीं करते, तब तक आपके द्वारा पाए गए प्रॉम्ट केवल भाग्यशाली अनुमान हो सकते हैं जो लगातार काम नहीं करेंगे।
संक्षेप में, शोध पत्र सुझाव देता है कि प्रॉम्टिंग का "जादू" केवल अच्छे निर्देश लिखने के बारे में नहीं है; यह AI के छिपे हुए सांख्यिकीय पूर्वाग्रहों को उस तरह से हैक करने के बारे में है जो अक्सर हमारे लिए पूरी तरह से प्रति-सहज (counter-intuitive) लगता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।