Prompts for Public-Sector LLMs Should Be Governed as Commons
यह शोध पत्र तर्क देता है कि सार्वजनिक क्षेत्र के लार्ज लैंग्वेज मॉडल्स (LLMs) के लिए प्रॉम्प्ट्स को निजी इनपुट के बजाय एक शासित कॉमन्स (governed commons) के रूप में माना जाना चाहिए, और एआई परिनियोजन में पारदर्शिता, चुनौती देने की क्षमता और ऑडिट करने की क्षमता को बढ़ाने के लिए वर्जन वाले रिपॉजिटरी और हितधारक वार्ता तंत्र के साथ एक "प्रॉम्प्ट कॉमन्स" ढांचे का प्रस्ताव देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक नगर निगम की बैठक का संचालन कर रहे हैं जहाँ एक बहुत ही बुद्धिमान, लेकिन थोड़ी अपनी राय रखने वाले रोबोट सहायक को निर्णय तैयार करने में आपकी मदद करने के लिए रखा गया है। आपको लग सकता है कि रोबोट का व्यक्तित्व तय है क्योंकि इसे एक बड़ी टेक कंपनी ने बनाया है। लेकिन यह शोध पत्र तर्क देता है कि आप रोबोट से कैसे बात करते हैं (जिसे "प्रॉम्ट" कहा जाता है) वास्तव में इस बातचीत का सबसे महत्वपूर्ण हिस्सा है।
यहाँ इस शोध पत्र के मुख्य विचारों का सरल विवरण दिया गया है, जिसमें रोजमर्रा के उदाहरणों का उपयोग किया गया है।
1. समस्या: "छिपी हुई रेसिपी" (The Hidden Recipe)
लार्ज लैंग्वेज मॉडल (LLM) को एक विशाल, उच्च-शक्ति वाले किचन के रूप में सोचें। सामग्री (डेटा) और शेफ का प्रशिक्षण (मॉडल का कोड) पहले से ही निर्धारित है।
हालाँकि, यह शोध पत्र तर्क देता है कि आप शेफ को जो रेसिपी देते हैं, वही वास्तव में भोजन निर्धारित करती है।
- यदि आप शेफ से कहते हैं, "बजट पार्टी के लिए एक तीखा व्यंजन बनाएं," तो आपको एक परिणाम मिलता है।
- यदि आप उनसे कहते हैं, "एक वीआईपी के लिए एक स्वस्थ, महंगा व्यंजन बनाएं," तो आपको बिल्कुल अलग परिणाम मिलता है।
सार्वजनिक सरकारी नौकरियों में, ये "रेसिपी" (प्रॉम्ट) अक्सर एक व्यक्ति द्वारा लिखी जाती हैं, अनौपचारिक रूप से इधर-उधर भेजी जाती हैं, या गुप्त रखी जाती हैं। यदि किसी रेसिपी में कोई छिपा हुआ पूर्वाग्रह (जैसे यह मान लेना कि हर कोई कार चलाता है) है, तो रोबोट ऐसे निर्णय लेगा जो उन लोगों को नुकसान पहुँचा सकते हैं जो बस का उपयोग करते हैं। क्योंकि रेसिपी छिपी हुई है, इसलिए कोई भी पूर्वाग्रह को देख नहीं सकता, उस पर बहस नहीं कर सकता, या उसे ठीक नहीं कर सकता।
2. समाधान: "सामुदायिक कुकबुक" (Prompt Commons)
लेखक "प्रॉम्ट कॉमन्स" (Prompt Commons) नामक एक नई प्रणाली का प्रस्ताव देते हैं। एक एकल शेफ की जेब में रखे गुप्त नोटबुक के बजाय, इसकी कल्पना एक सार्वजनिक, सामुदायिक रूप से संचालित रेसिपी लाइब्रेरी के रूप में करें।
इस लाइब्रेरी के तीन विशेष नियम हैं:
- वर्जन कंट्रोल (Version Control): प्रत्येक रेसिपी का एक वर्जन नंबर और इतिहास लॉग होता है। यदि कोई सामग्री बदलता है, तो सभी को पता होता है कि ठीक कब और क्यों बदलाव किया गया।
- प्रोवेनेंस (Provenance - "कौन"): प्रत्येक रेसिपी में यह लिखा होना चाहिए कि इसे किसने लिखा है। क्या इसे एक वरिष्ठ नागरिक ने लिखा था? एक विकलांगता अधिवक्ता ने? या एक पड़ोस समूह ने? यह सुनिश्चित करता है कि हमें पता हो कि रेसिपी में किसकी आवाज़ शामिल है।
- "वीटो" बटन (The "Veto" Button): यदि कोई विशिष्ट समूह (जैसे कि एक स्थानीय विकलांग परिषद) ऐसी रेसिपी देखता है जो उनके समुदाय को नुकसान पहुँचाती है, तो वे एक "पॉज" बटन दबा सकते हैं। रेसिपी को तब तक एक क्वारंटाइन ज़ोन में लॉक कर दिया जाता है जब तक कि उस मुद्दे पर चर्चा और सुधार न हो जाए।
3. व्यवहार में यह कैसे काम करता है: "सिटी पायलट"
शोधकर्ताओं ने एक बड़े उत्तरी अमेरिकी शहर में इस विचार का परीक्षण किया। उन्होंने विभिन्न सामुदायिक समूहों (वरिष्ठ नागरिक, अप्रवासी, LGBTQ+ समूह आदि) से विभिन्न 443 लोगों को इकट्ठा किया ताकि वे यह लिखने में मदद कर सकें कि शहर का रोबोट सड़कों और पार्कों के बारे में कैसे बात करे।
उन्होंने इन विचारों को 3,000 से अधिक विविधताओं के एक डेटासेट में बदल दिया और लाइब्रेरी को प्रबंधित करने के तीन अलग-अलग तरीकों का परीक्षण किया:
- ओपन (Open): कोई भी रेसिपी जोड़ सकता है (जैसे कि एक सार्वजनिक सूचना बोर्ड)।
- क्यूरेटेड (Curated): एक टीम यह जाँचती है कि प्रत्येक रेसिपी में सही टैग हैं और वे विभिन्न समूहों को कवर करती हैं (जैसे कि एक सख्त संपादक)।
- वीटो-सक्षम (Veto-Enabled): क्यूरेटेड सिस्टम, लेकिन इसमें विशिष्ट समूहों के पास खराब रेसिपी को रोकने की अतिरिक्त शक्ति है।
परिणाम:
- जब उन्होंने एक व्यक्ति की रेसिपी का उपयोग किया, तो रोबलेट एक तर्क के प्रति बहुत "प्रतिबद्ध" (committed) था (जैसे, हमेशा कारों को प्राथमिकता देना)।
- जब उन्होंने सामुदायिक कुकबुक (विशेष रूप से वीटो संस्करण) का उपयोग किया, तो रोबोट के उत्तर अधिक संतुलित हो गए। यह किसी एक पक्ष को चुनने के बजाय "समझौते" (जैसे, "आइए एक बाइक लेन और एक पार्किंग स्पॉट रखें") का सुझाव देने की अधिक संभावना रखता था।
- सबसे महत्वपूर्ण बात यह है कि जब कोई "खराब" उत्तर आया, तो वीटो सिस्टम वाली टीम ने इसे बहुत तेज़ी से ठीक किया (लग लगभग 5 घंटे में), जबकि ओपन सिस्टम में इसमें 30 घंटे से अधिक का समय लगा।
4. यह सरकार के लिए क्यों महत्वपूर्ण है
यह शोध पत्र सुझाव देता है कि सरकारों को इन प्रॉम्ट्स को अस्थायी नोट्स के रूप में मानना बंद कर देना चाहिए। इसके बजाय, उन्हें इन्हें आधिकारिक नीति दस्तावेज के रूप में मानना चाहिए।
- पारदर्शिता (Transparency): जिस तरह एक शहर को अपना बजट प्रकाशित करना चाहिए, उसे उन "रेसिपी" को भी प्रकाशित करना चाहिए जिनका उपयोग वह निर्णय लेने के लिए करता है।
- जवाबदेही (Accountability): यदि कोई निर्णय गलत हो जाता है, तो आप इसे रेसिपी के उस विशिष्ट वर्जन तक ट्रैक कर सकते हैं जिसके कारण यह हुआ।
- बातचीत (Negotiation): एक व्यक्ति द्वारा रोबोट के व्यक्तित्व को तय करने के बजाय, विभिन्न समूह अपने स्वयं के संस्करण प्रस्तुत कर सकते हैं, और सिस्टम को बीच का रास्ता खोजने के लिए डिज़ाइन किया जा सकता है।
5. यह शोध पत्र क्या नहीं कहता है
यह महत्वपूर्ण है कि आप केवल वही कहें जो शोध पत्र वास्तव में दावा करता है:
- यह नहीं कहता कि यह प्रणाली पूर्ण है या यह सभी AI समस्याओं को हल करती है।
- यह यह दावा नहीं करता कि "समझौते" वाले उत्तर हमेशा सबसे अच्छा नैतिक विकल्प होते हैं; यह केवल यह कहता है कि वे अधिक दृश्यमान और बहस करने में आसान हैं।
- यह यह सुझाव नहीं देता कि रोबोट के मस्तिष्क (मॉडल) को बदलने की आवश्यकता है; परिवर्तन पूरी तरह से इस बात में है कि हम उससे कैसे बात करते हैं।
निचोड़ (The Bottom Line)
यह शोध पत्र तर्क देता है कि हम सवाल कैसे पूछते हैं, यह उत्तर के समान ही महत्वपूर्ण है। प्रॉम्ट (प्रश्न) को एक सार्वजनिक, साझा और विनियमित संसाधन के रूप में मानकर, हम सरकार में AI को अधिक निष्पक्ष, पारदर्शी और लोगों के प्रति जवाबदेह बना सकते हैं। यह एक गुप्त, एक-व्यक्ति के निर्देश को एक सार्वजनिक संवाद में बदल देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।