What You Prompt is What You Get: Increasing Transparency of Prompting Using Prompt Cards
यह शोध पत्र "प्रॉम्ट कार्ड्स" (prompt cards) प्रस्तावित करता है, जो मॉडल कार्ड्स से प्रेरित एक संरचित दस्तावेज़ीकरण है, ताकि प्रॉम्ट इंजीनियरिंग में मानकीकरण की कमी को दूर करने के लिए डिज़ाइन संबंधी निर्णयों, मूल्यांकन प्रथाओं और नैतिक विचारों को व्यवस्थित रूप से रिकॉर्ड किया जा सके जिससे लार्ज लैंग्वेज मॉडल इंटरैक्शन में पारदर्शिता, पुनरुत्पादकता और गुणवत्ता मूल्यांकन को बढ़ाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अभी-अभी एक शानदार, अविश्वसनीय रूप से तेज़, लेकिन थोड़े सनकी शेफ (लार्ज लैंग्वेज मॉडल या LLM) को आपके लिए भोजन पकाने के लिए काम पर रखा है। आप एक विशिष्ट व्यंजन चाहते हैं: एक फुटबॉल खिलाड़ी के कौशल का विवरण, या किसी व्यक्तित्व परीक्षण का सारांश।
आप उसे एक रेसिपी कार्ड (प्रॉम्ट) देते हैं। यदि रेसिपी अस्पष्ट है ("कुछ अच्छा बनाओ"), तो शेफ अंदाज़ा लगा सकता है, मतिभ्रम (hallucination) का शिकार हो सकता है (ऐसी सामग्री बना सकता है जो मौजूद ही नहीं है), या आपको ऐसा व्यंजन परोस सकता है जिसका स्वाद आपके इच्छित स्वाद से बिल्कुल अलग हो। यदि रेसिपी सटीक है, तो वह एक उत्कृष्ट कृति (masterpiece) परोसता है।
समस्या:
अभी, हर कोई इन रेसिपी कार्डों को गुप्त रूप से लिख रहा है। कुछ शेफ इन्हें नैपकिन पर लिखते हैं, कुछ अदृश्य स्याही वाले नैपकिन पर, और किसी को पता नहीं है कि कौन सी सामग्री (डेटा) का उपयोग किया गया था या क्या कदम उठाए गए थे। यदि भोजन खराब निकलता है, तो हम यह पता नहीं लगा सकते कि क्यों हुआ। क्या शेफ बुरा था? क्या रेसिपी भ्रमित करने वाली थी? क्या सामग्रियां खराब हो गई थीं?
समाधान: "प्रॉम्ट कार्ड" (The Prompt Card)
इस पेपर के लेखक करने के एक नए तरीके का प्रस्ताव करते हैं जिसे प्रॉम्ट कार्ड कहा जाता है। इसे एक मानकीकृत, पारदर्शी "मेन्यू और रेसिपी बुक" के रूप में सोचें जिसे हर शेफ को व्यंजन परोसने से पहले भरना ही होगा।
यहाँ वे इसे सरल उपमाओं का उपयोग करके समझाते हैं:
1. प्रॉम्ट कार्ड क्या है?
यह एक मॉडल कार्ड (एक दस्तावेज़ जो बताता है कि मशीन लर्निंग मॉडल कैसे काम करता है) की तरह है, लेकिन विशेष रूप से उन निर्देशों के लिए है जो आप मॉडल को देते हैं।
- पुराना तरीका: आप बस कहते हैं, "एक सॉकर खिलाड़ी के बारे में एक कहानी लिखो।"
- नया तरीका (प्रॉम्ट कार्ड): आप एक विस्तृत दस्तावेज़ संलग्न करते हैं जो कहता है:
- शेफ कौन है? (हम किस AI संस्करण का उपयोग कर रहे हैं? AI अक्सर बदलता रहता है, जैसे आपके फोन पर सॉफ्टवेयर अपडेट)।
- लक्ष्य क्या है? (क्या यह स्कूल प्रोजेक्ट के लिए है या एक पेशेवर स्काउट के लिए? एक वास्तविक नौकरी के लिए स्कूल प्रोजेक्ट का उपयोग न करें!)।
- हमने किन सामग्रियों का उपयोग किया? (डेटा कहाँ से आया? क्या यह 10 लाख सर्वेक्षण उत्तर थे? 500 फुटबॉल आँकड़े थे?)।
- नियम क्या हैं? (क्या हमने AI को एक सख्त रिक्रूटर की तरह व्यवहार करने के लिए कहा? क्या हमने उसे अच्छे उत्तरों के उदाहरण दिए?)।
2. हमें इसकी आवश्यकता क्यों है?
पेपर का तर्क है कि इन कार्डों के बिना, हम अंधेरे में तीर चला रहे हैं।
- "मतिभ्रम" (Hallucination) का जाल: कभी-कभी AI चीजें बना देता है। यदि आपको रेसिपी नहीं पता है, तो आप यह नहीं जान पाएंगे कि AI ने खिलाड़ी के आँकड़े गढ़े या डेटा बस गायब था।
- "बायस" (Bias) का सूप: यदि आप AI को जो डेटा खिलाते हैं वह पक्षपाती है (उदाहरण के लिए, केवल पुरुष फुटबॉल खिलाड़ियों को देखना), तो आउटपुट भी पक्षपाती होगा। प्रॉम्ट कार्ड आपको यह स्वीकार करने के लिए मजबूर करता है, "हे, यह रेसिपी केवल पुरुष खिलाड़ियों के लिए है; यह महिला एथलीटों के लिए काम नहीं करेगी।"
- पुनरुत्पादकता (Reproducibility): यदि आप कल फिर से वही व्यंजन बनाना चाहते हैं, तो आपको ठीक वही रेसिपी चाहिए। यदि आप इसे लिखते नहीं हैं, तो आप इसे दोबारा नहीं कर सकते।
3. "वर्डलाइजेशन" (Wordalisation) का उदाहरण
अपने विचार को सिद्ध करने के लिए, लेखकों ने "वर्डलाइजेशन" नामक एक विशिष्ट कार्य आज़माया।
- कार्य: उबाऊ नंबरों (जैसे एक फुटबॉल खिलाड़ी की गति, गोल और टैकल) को एक मज़ेदार, पठनीय पैराग्राफ में बदलना।
- प्रॉम्ट कार्ड: उन्होंने एक कार्ड बनाया जो स्पष्ट रूप से बताता है कि उन्होंने "7.5" जैसे नंबर को "एक ठोस, विश्वसनीय प्रदर्शन करने वाला" वाक्यांश में कैसे बदला। उन्होंने कच्चे डेटा से लेकर अंतिम वाक्य तक के हर चरण को प्रलेखित किया, ताकि कोई भी देख सके कि वह जादू कैसे हुआ।
4. "बेंचमार्क" (Benchmarks) का उपयोग क्यों नहीं?
आप पूछ सकते हैं, "क्यों न हम AI का एक मानक परीक्षण पर परीक्षण करें, जैसे कि गणित की परीक्षा?"
लेखक कहते हैं: यह हर चीज़ के लिए काम नहीं करता।
- उपमा: कल्पना कीजिए कि एक जैज़ संगीतकार को शास्त्रीय संगीत सिद्धांत पर बहुविकल्पीय परीक्षा देकर आंकने की कोशिश करना। यह काम के लिए गलत उपकरण है।
- कई AI कार्य अद्वितीय और रचनात्मक होते हैं। आप हर संभावित प्रॉम्ट के लिए एक एकल "मानक परीक्षण" नहीं रख सकते। हर प्रॉम्ट को टेस्ट ट्यूब में डालने के बजाय, हमें बस ईमानदार और पारदर्शी होना चाहिए। प्रॉमत कार्ड वही ईमानदारी है।
5. सुरक्षा और नैतिकता (बारीक विवरण)
ठीक वैसे ही जैसे दवा की बोतल पर चेतावनी लेबल होता है, एक प्रॉम्ट कार्ड में एक सुरक्षा अनुभाग होता है।
- गोपनीयता (Privacy): क्या हमने AI को निजी मेडिकल रिकॉर्ड खिलाए? यदि हाँ, तो कार्ड को कहना चाहिए, "हमने पहले नाम हटा दिए थे, लेकिन सावधान रहें।"
- नैतिकता (Ethics): यदि AI लोगों के व्यक्तित्व का निर्णय ले रहा है, तो कार्ड को यह स्वीकार करना चाहिए, "यह परीक्षण पूर्ण नहीं है और कुछ संस्कृतियों के प्रति पक्षपाती हो सकता है।"
बड़ी तस्वीर (The Big Picture)
यह पेपर मूल रूप से कह रहा है: "रेसिपी छिपाना बंद करें।"
एक ऐसी दुनिया में जहाँ AI नौकरियों, ऋणों और चिकित्सा सलाह के बारे में निर्णय ले रहा है, हमें पता होना चाहिए कि वे निर्णय कैसे लिए गए। प्रॉम्ट कार्ड का उपयोग करके, हम "ब्लैक बॉक्स" (जहाँ हम केवल आउटपुट देखते हैं और बेहतर की उम्मीद करते हैं) से "ग्लास बॉक्स" (जहाँ हम सामग्री, चरणों और चेतावनियों को देख सकते हैं) की ओर बढ़ते हैं।
यह विश्वास बनाने के बारे में है। यदि आप जानते हैं कि शेफ ने भोजन कैसे पकाया है, तो आप तय कर सकते हैं कि क्या वह खाने के लिए सुरक्षित है, भले ही वह शेफ एक रोबोट हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।