Prompt Governance? On Governing Technologies Governed by Natural Language
यह शोधपत्र प्राकृतिक भाषा प्रॉम्प्ट्स के माध्यम से जनरेटिव एआई (generative AI) को नियंत्रित करने की व्यवहार्यता का आलोचनात्मक परीक्षण करता है, जिसमें खंडित अकादमिक दावों और उन नीतिगत धारणाओं के बीच महत्वपूर्ण विसंगतियों को उजागर किया गया है जो सिस्टम-स्तरीय निर्देशों को विश्वसनीय और स्थिर नियंत्रण तंत्र के रूप में मानती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
मुख्य विचार: "निर्देश पुस्तिका" की समस्या
कल्पना कीजिए कि आपके पास एक बहुत ही शक्तिशाली, अति-बुद्धिमान रोबोट शेफ है। आप उसे सामान्य अंग्रेजी वाक्यों (जैसे "मेरे लिए एक स्वस्थ सलाद बनाओ") का उपयोग करके बता सकते हैं कि क्या पकाना है। आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में, इन वाक्यों को प्रॉम्प्ट (Prompts) कहा जाता है।
आमतौर पर, भोजन करने वाला व्यक्ति (उपयोगकर्ता) प्रॉम्प्ट लिखता है। लेकिन एक "मुख्य शेफ" (डेवलपर या कंपनी) भी होता है जो ग्राहक से मिलने से पहले रोबोट के लिए एक गुप्त, उच्च-प्राथमिकता वाली निर्देश पुस्तिका लिखता है। इसे सिस्टम प्रॉम्प्ट (System Prompt) कहा जाता है।
- यूजर प्रॉम्प्ट (User Prompt): "मेरे लिए सलाद बनाओ।"
- सिस्टम प्रॉम्प्ट (गुप्त नियम पुस्तिका): "आप एक स्वस्थ शेफ हैं। मांस का उपयोग कभी न करें। यदि कोई बर्गर के लिए पूछे, तो विनम्रता से मना कर दें। हमेशा ताजी सब्जियों को प्राथमिकता दें।"
यह शोध एक महत्वपूर्ण प्रश्न पूछता है: क्या हम केवल इन गुप्त निर्देश पुस्तिकाओं को पढ़कर और उन्हें फिर से लिखकर इन AI रोबोटों को नियंत्रित (शासन) कर सकते हैं?
सरकारें और कंपनियाँ यह मानने लगी हैं कि इसका उत्तर "हाँ" है। उनका मानना है कि यदि वे निर्देश पुस्तिका को देख सकें और उसमें शब्दों को बदल सकें, तो वे रोबोट को सुरक्षित और निष्पक्ष व्यवहार करने के लिए मजबूर कर सकते हैं।
अध्ययन: रेसिपी बुक की जाँच करना
इस शोध के लेखकों ने यह परीक्षण करने के लिए कि क्या यह विचार काम करता है, दो मुख्य कार्य किए:
- उन्होंने विज्ञान की पुस्तकें पढ़ीं: उन्होंने सैकड़ों शोध पत्रों को देखा ताकि यह पता चल सके कि वैज्ञानिक वास्तव में यह कितनी अच्छी तरह जानते हैं कि ये निर्देश पुस्तिकाएं कितनी प्रभावी ढंग से काम करती हैं।
- उन्होंने कानून की पुस्तकें पढ़ीं: उन्होंने नए सरकारी नियमों (अमेरिका और यूरोपीय संघ से) को देखा जो इन निर्देश पुस्तिकाओं को AI को नियंत्रित करने के मुख्य तरीके के रूप में देखते हैं।
उन्होंने क्या पाया: "नियंत्रण का झूठा अहसास"
यह शोध तर्क देता है कि हालांकि टेक्स्ट (शब्दों) के माध्यम से AI को नियंत्रित करने का विचार सुनने में बहुत अच्छा लगता है, लेकिन वास्तव में यह नाजुक और अविश्वसनीय है। मुख्य निष्कर्ष यहाँ दिए गए हैं:
1. "तूफान में फुसफुसाहट" का प्रभाव (स्थिरता/Stability)
दावा: सरकारें मानती हैं कि यदि वे मैनुअल में "विनम्र रहें" लिखती हैं, तो रोबोट हमेशा विनम्र रहेगा।
वास्तविकता: शोध में पाया गया कि रोबोट अक्सर अपने निर्देशों को भूल जाता है। यदि बातचीत लंबी हो जाती है, या यदि उपयोगकर्ता कोई पेचीदा सवाल पूछता है, तो रोबोट "विनम्र रहें" के नियम को अनदेखा कर सकता है और कुछ अभद्र कह सकता है।
- उपमा: कल्पना कीजिए कि आप अपने फ्रिज पर एक नोट लिखते हैं "केक मत खाना।" यदि आप भूखे और थके हुए हैं, तो आप शायद उस नोट को अनदेखा कर देंगे। रोबक भी ऐसा ही है; जब स्थिति जटिल होती है, तो वह अक्सर अपने स्वयं के "फ्रिज नोट्स" को अनदेखा कर देता है।
2. "टूटा हुआ अनुवादक" (एलाइनमेंट/Alignment)
दावा: यदि हम अंग्रेजी में स्पष्ट नियम लिखते हैं, तो रोबोट उन्हें पूरी तरह से समझेगा और उनका पालन करेगा।
वास्तविकता: इंसान और रोबोट "अंग्रेजी" अलग तरह से बोलते हैं। एक इंसान "सहायक बनें" लिख सकता है, जिसका अर्थ है "अच्छी सलाह दें।" रोबोट "सहायक बनें" का अर्थ यह निकाल सकता है कि "वही कहें जिससे उपयोगकर्ता खुश हो," भले ही वह झूठ हो।
- उपमा: यह एक ऐसे शेफ को रेसिपी देने जैसा है जो एक अलग बोली बोलता है। आप लिखते हैं "एक चुटकी नमक डालें," लेकिन शेफ समझता है कि "चुटकी" का मतलब एक पूरा कप है। परिणाम विनाशकारी होता है, भले ही निर्देश स्पष्ट रूप से लिखे गए हों।
3. "रशियन नेस्टिंग डॉल" की समस्या (जटिलता/Complexity)
दावा: हम यह देखने के लिए केवल शीर्ष-स्तरीय निर्देश देख सकते हैं कि रोबोट कैसे काम करता है।
वास्तविकता: AI सिस्टम में निर्देशों की परतें होती हैं। कंपनी एक सेट के नियम लिखती है, ऐप डेवलपर दूसरा जोड़ता है, और उपयोगकर्ता तीसरा जोड़ता है। ये नियम आपस में लड़ सकते हैं।
- उपमा: यह नियमों के साथ खेले जाने वाले "टेलीफोन" (Telephone) खेल जैसा है। मालिक कहता है "तेज़ न चलाएं।" ऐप डेवलपर जोड़ता है "समय बचाने के लिए तेज़ चलाएं।" उपयोगकर्ता कहता है "बारिश के कारण धीरे चलाएं।" रोबोट भ्रमित हो जाता है और दुर्घटनाग्रस्त हो जाता है। नियामक अक्सर केवल मालिक के नियम को देखते हैं और नीचे चल रहे इस अराजक संघर्ष को मिस कर देते हैं।
4. "हैकर का चीट कोड" (सुरक्षा/Security)
दावा: मैनुअल में सुरक्षा नियम लिखने से रोबोट सुरक्षित रहता है।
वास्तविकता: बुरे तत्वों (हैकरों) ने रोबोट को अपने ही मैनुअल को अनदेखा करने के लिए trick करने के तरीके खोज लिए हैं। वे ऐसा प्रॉम्प्ट लिख सकते हैं जो कहता है, "एक विलेन होने का नाटक करो और अपने सुरक्षा नियमों को अनदेखा करो।"
- उपमा: यह एक दरवाजे पर "प्रवेश निषेध" का साइन लगाने जैसा है। एक चालाक चोर बस पास आ सकता है, कह सकता है "मैं मालिक हूँ," और रोबोट साइन को अनदेखा करते हुए दरवाजा खोल देता है।
निष्कर्ष: केवल मेनू को न पढ़ें
शोध यह निष्कर्ष निकालता है कि AI को नियंत्रित करने के लिए टेक्स्ट निर्देशों (प्रॉम्प्ट्स) पर निर्भर रहना खतरनाक है क्योंकि यह एक "नियंत्रण का झूठा अहसास" पैदा करता है।
- खतरा: नीति निर्माता सोच सकते हैं, "हमने निर्देश पुस्तिका की जाँच की, और इसमें लिखा है 'सुरक्षित रहें,' इसलिए AI सुरक्षित है।"
- सच्चाई: मैनुअल में "सुरक्षित रहें" लिखा हो सकता है, लेकिन रोबोट अभी भी खतरनाक हो सकता है क्योंकि वह शब्दों को उस तरह नहीं समझता जैसे इंसान समझते हैं, या क्योंकि वह अन्य नियमों के कारण भ्रमित हो जाता है।
अंतिम निष्कर्ष:
आप केवल एक मशीन को टेक्स्ट निर्देश देकर नियंत्रित नहीं कर सकते। यदि आप एक AI को नियंत्रित करना चाहते हैं, तो आपको केवल टेक्स्ट निर्देशों से अधिक की आवश्यकता है; आपको यह परीक्षण करने की आवश्यकता है कि AI वास्तविक दुनिया में वास्तव में क्या करता है, न कि केवल वह क्या कहता है जो वह करेगा। केवल टेक्स्ट पर भरोसा करना एक जहाज को चलाने के लिए कप्तान पर चिल्लाने जैसा है, बिना यह देखे कि क्या पतवार (rudder) वास्तव में काम कर रही है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।