BayesPrompt: human readable prompts that make sense

आर्टिफिशियल इंटेलिजेंस के तेजी से बदलते परिदृश्य में, एक विचित्र घटना उभरी है जहाँ कंप्यूटर ऐसी भाषा बोलना सीख रहे हैं जिसे मनुष्य नहीं समझ सकते। लार्ज लैंग्वेज मॉडल्स, जो आधुनिक चैटबॉट्स और राइटिंग असिस्टेंट्स के पीछे के शक्तिशाली इंजन हैं, ने 'इन-कॉन्टेक्स्ट लर्निंग' नामक एक उल्लेखनीय क्षमता प्रदर्शित की है। इसका अर्थ यह है कि वे केवल एक टेक्स्ट बॉक्स में दिए गए कुछ उदाहरणों को पढ़कर नए कार्यों को हल कर सकते हैं, जैसे कि भाषाओं का अनुवाद करना या गणित की समस्याओं को हल करना, बिना किसी पुन: प्रशिक्षण (retraining) या अपने आंतरिक सेटिंग्स को बदले। इस क्षमता को अनलॉक करने की कुंजी 'प्रॉम्ट' में निहित है, जो मशीन को दिए गए निर्देशों या उदाहरणों का एक विशिष्ट समूह है। लंबे समय तक, शोधकर्ताओं ने यह माना कि एक सटीक उत्तर प्राप्त करने का सबसे अच्छा तरीका एक ऐसा प्रॉम्ट तैयार करना है जो स्वाभाविक लगे और व्याकरण की दृष्टि से सही हो, ठीक वैसे ही जैसे कोई मनुष्य लिखता है। हालाँकि, एक आश्चर्यजनक खोज ने इस धारणा को उलट दिया: इन मशीनों के लिए सबसे प्रभावी प्रॉम्ट अक्सर शब्दों की छोटी, निरर्थक कतारें होती हैं जो एक मानव पाठक के लिए बकवास जैसी दिखती हैं। ये "स्यूडोप्रॉम्ट्स" (pseudoprompts) मॉडल को सही उत्तर तक ले जाने में किसी भी मानव द्वारा रचित वाक्य की तुलना में कहीं अधिक कुशल हो सकते हैं, जिससे मशीन के लिए जो काम करता है और जो मनुष्य के लिए अर्थपूर्ण है, उसके बीच एक अजीब अंतर पैदा हो जाता है।

यह विच्छेद उन लोगों के लिए एक महत्वपूर्ण चुनौती पेश करता है जो इन उपकरणों का विश्वसनीय रूप से उपयोग करने का प्रयास कर रहे हैं। यदि कंप्यूटर से बात करने का सबसे अच्छा तरीका यादृच्छिक टोकन (random tokens) का एक कोड है, तो यह समझना, डिबग करना या यह समझना कठिन हो जाता है कि मशीन एक निश्चित तरीके से व्यवहार क्यों कर रही है। इटली के इंटरनेशनल स्कूल फॉर एडवांस्ड स्टडीज और न्यूयॉर्क के फ्लैटआयरन इंस्टीट्यूट के शोधकर्ताओं ने अब इस अंतर को पाटने का एक नया तरीका प्रस्तावित किया है। उनका तर्क है कि हमें ये समझ से परे प्रॉम्ट्स इसलिए मिलते हैं क्योंकि प्रॉम्ट खोजने के लिए उपयोग की जाने वाली गणितीय समस्या अपूर्ण है। इस समस्या को न केवल उच्चतम स्कोर खोजने के खेल के रूप में, बल्कि संभाव्यता (probability) के साथ तर्क करने की प्रक्रिया के रूप में देखते हुए, उन्होंने एक ऐसी विधि विकसित की है जो ऐसे प्रॉम्ट्स बनाती है जो अत्यधिक प्रभावी भी हैं और पूरी तरह से पठनीय भी। उनका कार्य सुझाव देता है कि इन मशीनों से बात करने का रहस्य मानव भाषा को त्यागना नहीं है, बल्कि सही शब्दों को खोजने के लिए एक अलग प्रकार की सांख्यिकीय सोच का उपयोग करना है।

शोधकर्ताओं ने पहले इस बात की जांच की कि मौजूदा विधियाँ पठनीय प्रॉम्ट्स बनाने में क्यों विफल रहती हैं। वर्तमान तकनीकें अक्सर एक ऐसे हाइकर की तरह कार्य करती हैं जो केवल अपने पैरों के नीचे की जमीन को देखकर एक विशाल, धुंधली घाटी में सबसे निचले बिंदु को खोजने की कोशिश कर रहा है। वे शब्दों का एक ऐसा क्रम खोजते हैं जो उत्तर के बारे में मॉडल की उलझन, या "परप्लेक्सिटी" (perplexity) को कम करता है। जबकि यह समाधान खोजने के लिए अच्छा काम करता है, यह इस तथ्य को अनदेखा करता है कि मानव भाषा विशिष्ट नियमों और पैटर्न का पालन करती है। एक मार्गदर्शक के बिना जो खोज को प्राकृतिक भाषण के दायरे में रखे, एल्गोरिदम अजीब क्षेत्र में भटक जाता है, ऐसे टोकन एकत्र करता है जिन्हें मशीन तो पसंद करती है लेकिन मनुष्य उन्हें समझ नहीं पाते। लेखकों ने महसूस किया कि इसे ठीक करने के लिए, उन्हें खोज प्रक्रिया में एक "प्रायर" (prior), यानी स्वाभाविक अंग्रेजी जैसी लगने वाली वाक्यों के लिए एक सांख्यिकीय प्राथमिकता, जोड़नी होगी। यह सुनिश्चित करता है कि एल्गोरिदम न केवल कोई भी समाधान खोजे, बल्कि एक ऐसा समाधान खोजे जो मानव भाषा की संरचना का सम्मान करता हो।

इसे हल करने के लिए, टीम ने 'बायेसियन इन्फरेंस' (Bayesian inference) के रूप में ज्ञात एक ढांचे का उपयोग करके पूरी समस्या को फिर से परिभाषित किया। केवल एक सबसे अच्छे प्रॉम्ट की तलाश करने के बजाय, उन्होंने इस कार्य को संभावनाओं के एक विशाल परिदृश्य से नमूने लेने (sampling) की प्रक्रिया के रूप में देखा। कल्पना कीजिए कि आप एक जटिल शहर में सबसे अच्छे रास्ते को खोजने की कोशिश कर रहे हैं; केवल मानचित्र पर सबसे छोटे रास्ते को चुनने और उसके काम करने की उम्मीद करने के बजाय, आप कई अलग-अलग रास्तों का पता लगाते हैं, और प्रत्येक के सही होने की संभावना का आकलन इस आधार पर करते हैं कि वह रास्ता कितना स्वाभाविक लगता है। शोधकर्ताओं ने संभावित प्रश्नों के स्थान का पता लगाने के लिए 'मार्कोव चेन मोंटे कार्लो' (Markov Chain Monte Carlo) नामक एक परिष्कृत सैंपलिंग तकनीक का उपयोग किया। यह विधि कंप्यूटर को एक वाक्य में छोटे, यादृच्छिक परिवर्तन करने की अनुमति देती है—एक शब्द बदलना, एक वाक्यांश जोड़ना, या एक टोकन हटाना—और फिर यह निर्णय लेना कि उस परिवर्तन को रखना है या नहीं, दो कारकों के आधार पर: नया वाक्य उत्तर की ओर कितनी अच्छी तरह ले जाता है, और वह वाक्य कितना प्रवाहपूर्ण और स्वाभाविक लगता है।

उनकी सफलता का एक महत्वपूर्ण हिस्सा यह था कि उन्होंने खोज कैसे शुरू की। यादृच्छिक शब्दों के ढेर से शुरुआत करने के बजाय, जिसे एक सुसंगत वाक्य में बदलने में लंबा समय लगता, उन्होंने एक "रिवर्स लैंग्वेज मॉडल" का उपयोग किया। यह कंप्यूटर प्रोग्राम का एक विशेष संस्करण है जिसे वाक्यों को उल्टा पढ़ने के लिए प्रशिक्षित किया गया है। उत्तर को फीड करके और मॉडल से प्रश्न को उल्टा उत्पन्न करने के लिए कहकर, वे एक उच्च-गुणवत्ता वाला शुरुआती बिंदु बना सके जो पहले से ही व्याकरणिक रूप से सही था। इस "वार्म स्टार्ट" (warm start) ने सैंपलिंग प्रक्रिया को एक बढ़त दी, यह सुनिश्चित करते हुए कि कंप्यूटर विस्तृत अनुकूलन (optimization) शुरू करने से पहले पहले से ही एक समझ में आने योग्य वाक्य के साथ काम कर रहा है। शोधकर्ताओं ने इस दृष्टिकोण का परीक्षण ओपन-डोमेन प्रश्न और उत्तरों के एक बड़े डेटासेट पर किया, और अपने तरीके की तुलना मानक तकनीकों से की जो निरर्थक स्यूडोप्रॉम्ट्स उत्पन्न करती हैं।

परिणामों ने उनके नए तरीके के लिए एक स्पष्ट और विशिष्ट लाभ दिखाया। जबकि पारंपरिक अनुकूलन तकनीकें ऐसे प्रॉम्ट्स बनाती थीं जो या तो उत्तर के प्रति अत्यधिक आश्वस्त थे लेकिन पूरी तरह से अपठनीय थे, या प्रवाहपूर्ण थे लेकिन अप्रभावी थे, नए सैंपलिंग दृष्टिकोण ने एक वास्तविक संतुलन हासिल किया। शोधकर्ताओं के एल्गोरिदम द्वारा उत्पन्न प्रॉम्ट्स मशीन-जनित सर्वोत्तम संभव प्रॉम्ट्स जितने ही प्रभावी थे, फिर भी वे एक मनुष्य के लिए पूरी तरह से समझने योग्य रहे। जब शोधकर्ताओं ने प्रश्नों की गुणवत्ता का मूल्यांकन किया, तो उनके तरीके ने व्याकरण और संभाव्यता के मामले में अन्य सभी को लगातार पछाड़ दिया। पारंपरिक विधियां अक्सर ऐसे टेक्स्ट बनाती थीं जो विभिन्न भाषाओं और फॉर्मेटिंग प्रतीकों के मिश्रण की तरह दिखते थे, जबकि नए तरीके ने ऐसे वाक्य बनाए जो मूल मानव प्रश्नों की संरचना और तर्क को बनाए रखते थे।

अध्ययन ने यह भी रेखांकित किया कि खोज को कैसे शुरू किया जाता है, यह काफी मायने रखता है। जब शोधकर्ताओं ने अपनी नई "वार्म स्टार्ट" तकनीक को पुराने, मानक तरीकों पर लागू किया, तो वे विधियां प्रवाह के मामले में तो सुधरीं, लेकिन वे नए सैंपलिंग दृष्टिकोण द्वारा प्राप्त संतुलन से मेल खाने में विफल रहीं। पुरानी विधियों का झुकाव या तो उत्तर के लिए अत्यधिक अनुकूलन (over-optimize) करने की ओर था, जिससे पठनीयता का त्याग हो जाता था, या वे उत्तर खोजने में विफल रहती थीं। इसके विपरीत, नया तरीका लगातार ऐसे प्रॉम्ट्स खोजने में सफल रहा जो एक मानव के लिए एक अच्छे प्रश्न और एक मशीन के लिए एक पूर्ण निर्देश के बीच के 'स्वीट स्पॉट' में स्थित थे। यह सुझाव देता है कि समस्या केवल अधिक कंप्यूटिंग शक्ति या बेहतर एल्गोरिदम की कमी नहीं थी, बल्कि प्रॉम्ट की खोज को फ्रेम करने के तरीके की मौलिक गलतफहमी थी।

यह प्रदर्शित करके कि प्रभावी प्रॉम्ट्स का अर्थ समझ से परे होना नहीं है, यह कार्य कृत्रिम बुद्धिमत्ता की ओर अधिक पारदर्शी और विश्वसनीय पथ प्रदान करता है। यह दिखाता है कि सबसे कुशल प्रॉम्ट्स की अजीब, विदेशी भाषा इन मॉडल्स की एक आवश्यक विशेषता नहीं है, बल्कि यह इस बात का दुष्प्रभाव है कि हम उन्हें कैसे सीखने के लिए कह रहे हैं। शोधकर्ताओं का दृष्टिकोण सिद्ध करता है कि ऐसे निर्देश डिजाइन करना संभव है जो मशीन के लिए सांख्यिकीय रूप से इष्टतम हों और मानव के लिए पूरी तरह से स्पष्ट हों। यह एक ऐसे भविष्य के द्वार खोलता है जहाँ हम इन शक्तिशाली उपकरणों के साथ प्राकृतिक भाषा का उपयोग करके बातचीत कर सकते हैं, इस विश्वास के साथ कि हमारे द्वारा दिए गए निर्देश मशीन द्वारा समझे जाने योग्य और हमारे लिए समझने योग्य दोनों हैं। यह कार्य यह दावा नहीं करता है कि इसने आर्टिफिशियल इंटेलिजेंस की हर समस्या को हल कर दिया है, लेकिन यह मानव और मशीन के बीच की बातचीत को अधिक सुसंगत और विश्वसनीय बनाने के लिए एक ठोस, परीक्षित तरीका प्रदान करता है।