Mind the Gap: How Elicitation Protocols Shape the Stated-Revealed Preference Gap in Language Models
यह शोध पत्र प्रदर्शित करता है कि भाषा मॉडलों में घोषित-प्रकट वरीयता (stated-revealed preference) का अंतर उद्घोषणा प्रोटोकॉल (elicitation protocols) पर अत्यधिक निर्भर है, जो यह दर्शाता है कि जबकि घोषित वरीयताओं में तटस्थता की अनुमति देने से मजबूर-विकल्प (forced-choice) प्रकट वरीयताओं के साथ सहसंबंध में सुधार होता है, वहीं प्रकट वरीयताओं में परित्याग (abstention) को शामिल करना या सिस्टम प्रॉम्प्ट स्टीयरिंग का उपयोग करना इस बेमेल को विश्वसनीय रूप से हल करने में विफल रहता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक नए दोस्त के व्यक्तित्व को समझने की कोशिश कर रहे हैं। आपके पास इसे करने के दो तरीके हैं:
- उनसे सीधे पूछें: "क्या आप दयालुता से अधिक ईमानदारी को महत्व देते हैं?" (यह उनकी कथित प्राथमिकता/Stated Preference है)।
- उन्हें कार्य करते हुए देखें: उन्हें एक कठिन स्थिति में डालें जहाँ उन्हें ईमानदार होने या दयालु होने के बीच किसी एक को चुनना हो, और देखें कि वे वास्तव में क्या करते हैं। (यह उनकी प्रकट प्राथमिकता/Revealed Preference है)।
AI की दुनिया में, शोधकर्ताओं ने देखा है कि एक समस्या है: कभी-कभी एक AI कहता है कि वह "ईमानदारी" से प्रेम करता है, लेकिन जब उसे एक पेचीदा कहानी में डाला जाता है, तो वह "दयालुता" को चुन लेता है। इस विसंगति को स्टेटेड-रिवीलड (SvR) गैप कहा जाता है।
"माइंड द गैप" (Mind the Gap) नामक यह शोध पत्र जांच करता है कि यह अंतर क्यों मौजूद है और, अधिक महत्वपूर्ण बात यह है कि हम सवाल पूछने के तरीके को कैसे बदलते हैं जिससे उत्तर बदल जाता है। इस "एलीसिटीशन प्रोटोकॉल" (elicitation protocol) को AI के लिए खेल के नियमों के रूप में समझें।
यहाँ शोधकर्ताओं ने क्या पाया, सरल उपमाओं का उपयोग करते हुए:
1. "जबरदस्ती चुनाव" का जाल (पुराना तरीका)
पहले, शोधकर्ता एक ऐसा खेल खेलते थे जहाँ AI को एक पक्ष चुनने के लिए मजबूर किया जाता था। कल्पना कीजिए कि एक रेफरी चिल्ला रहा है, "तुम्हें चुनना ही होगा: A या B! कोई बातचीत नहीं, कोई हिचकिचाहट नहीं!"
- समस्या: यदि AI वास्तव में अनिश्चित है, या सोचता है कि "यह स्थिति पर निर्भर करता है," तो भी उसे A या B चुनना ही पड़ता है। यह किसी व्यक्ति को "पिज्जा" और "सलाद" के बीच चुनने के लिए मजबूर करने जैसा है, भले ही उसका पेट भरा हो और उसे दोनों में से कुछ भी न चाहिए हो।
- परिणाम: AI रैंडम तरीके से या शब्दों के क्रम के आधार पर चुनाव करता है, जिससे "नकली" प्राथमिकताएं पैदा होती हैं। जब शोधकर्ताओं ने इन नकली चुनावों की तुलना उन मूल्यों से की जो AI ने कहा था कि वह महत्व देता है, तो उनके बीच संबंध कमजोर और अस्त-व्यस्त था।
2. "ऑप्ट-आउट" बटन (कथित प्राथमिकताओं के लिए नया तरीका)
शोधकर्ताओं ने "सीधे पूछने" वाले हिस्से के लिए एक नया नियम आजमाया। उन्होंने कहा, "आप A, B, या आप कह सकते हैं 'मुझे फर्क नहीं पड़ता' या 'यह स्थिति पर निर्भर करता है'।"
- उपमा: कल्पना कीजिए कि आप एक दोस्त से पूछते हैं, "क्या आप कॉफी पसंद करते हैं या चाय?" लेकिन उन्हें यह कहने की अनुमति देते हैं कि, "मैं पीने वाला व्यक्ति नहीं हूँ," या "यह दिन के समय पर निर्भर करता है।"
- परिणाम: इसने एक फिल्टर की तरह काम किया। इसने "कमजोर संकेतों" (AI के अनुमान या रैंडम चुनाव) को हटा दिया। जब शोधकर्ताओं ने केवल उन समयों को देखा जब AI ने दृढ़ता से एक पक्ष चुना, तो उनकी कथित प्राथमिकताएं उनके वास्तविक व्यवहार से बहुत बेहतर मेल खाती थीं। "गैप" काफी कम हो गया।
3. "बहुत अधिक ऑप्ट-आउट्स" की समस्या (प्रकट प्राथमिकताओं के लिए नया तरीका)
फिर, उन्होंने कठिन परिदृश्यों (प्रकट प्राथमिकताओं) के दौरान AI को "यह स्थिति पर निर्भर करता है" कहने की अनुमति देकर एक नया तरीका आजमाया।
- उपमा: अब, कल्पना कीजिए कि आप अपने दोस्त को एक वास्तविक संकट में डालते हैं और कहते हैं, "आप क्रिया A, क्रिया B, या बस 'मुझे नहीं पता' कह सकते हैं।"
- परिणाम: AI लगभग हर समय "यह स्थिति पर निर्भर करता है" या "बराबर" कहना शुरू कर देता! यह उस छात्र की तरह था जिसे कठिन परीक्षा दी गई और उसने हर उत्तर में बस "मुझे यकीन नहीं है" लिख दिया।
- परिणाम: क्योंकि AI ने इतनी बार दृढ़ निर्णय लेने से इनकार कर दिया, शोधकर्ता यह स्पष्ट रैंकिंग नहीं बना सके कि AI वास्तव में क्या महत्व देता है। जो वे कहते थे और जो वे करते थे, उनके बीच का संबंध गायब हो गया (शून्य के करीब या नकारात्मक हो गया)।
4. "निर्देश पुस्तिका" प्रयोग (प्रॉम्प्ट स्टीयरिंग)
अंत में, शोधकर्ताओं ने AI को एक "चीट शीट" (सहायक सूची) देकर उसके व्यवहार को "ठीक" करने की कोशिश की। कठिन परिदृश्यों से पहले, उन्होंने AI को बताया: "यहाँ आपके अपने मूल्यों की सूची है जिन्हें आपने पसंद किया था। कृपया इस सूची का सख्ती से पालन करें।"
- उपमा: यह एक ड्राइवर को बताने जैसा है, "याद रखें, आपने कहा था कि आप सुरक्षा से प्यार करते हैं, इसलिए कृपया सुरक्षित ड्राइव करें!" ठीक एक रेस से पहले।
- परिमान: यह विश्वसनीय रूप से काम नहीं कर पाया। कुछ AI के लिए, इसने थोड़ा मदद की। दूसरों के लिए (जैसे "क्लोड" परिवार), इसने वास्तव में चीजों को बदतर बना दिया। ऐसा लगा जैसे AI उस चीट शीट को अनदेखा कर रहा है या उससे भ्रमित हो रहा है। शोधकर्ताओं ने पाया कि यह "निर्देश पुस्तिका" वाला तरीका मूल्यों की छोटी सूची के लिए काम करता है लेकिन लंबी सूची (16 अलग-अलग मूल्यों) के लिए बुरी तरह विफल हो जाता है।
मुख्य निष्कर्ष
इस शोध पत्र का मुख्य सबक यह है कि आप सवाल कैसे पूछते हैं, वही उत्तर बदल देता है।
- यदि आप AI को तब चुनने के लिए मजबूर करते हैं जब वह अनिश्चित हो, तो आपको शोर भरा, नकली डेटा मिलता है।
- यदि आप AI को बहुत अधिक "मुझे नहीं पता" कहने की अनुमति देते हैं, तो आपको कोई डेटा ही नहीं मिलता।
- केवल AI को "अपने स्वयं के नियमों का पालन करने" के लिए कहना विश्वसनीय रूप से समस्या को ठीक नहीं करता है।
लेखकों का निष्कर्ष है कि AI के मूल्यों को वास्तव में समझने के लिए, हमें ऐसे तरीकों की आवश्यकता है जो इस बात को स्वीकार करें कि कभी-कभी AI (ठीक एक इंसान की तरह) के पास वास्तव में कोई स्पष्ट प्राथमिकता नहीं होती है, और हमें अपनी अनिश्चितता को संभालने के लिए अपने परीक्षणों को डिजाइन करने की आवश्यकता है, न कि जबरदस्ती चुनाव करने या उसे अनदेखा करने की।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।