Co-design of LLM-based preference agents: participation may drive overtrust
यह शोध पत्र तर्क देता है कि जबकि उपयोगकर्ताओं के साथ LLM-आधारित प्राथमिकता एजेंटों को सह-डिज़ाइन करना जुड़ाव और विश्वास को बढ़ावा देता है, यह विरोधाभासी रूप से एक "अति-विश्वास इंजन" (overtrust engine) के रूप में कार्य कर सकता है जो एजेंटों की सजातीय, अमूर्त प्रतिक्रियाओं और उन मनुष्यों की सूक्ष्म प्राथमिकताओं के बीच व्यवस्थित गलत संरेखण को छिपा देता है जिनका वे प्रतिनिधित्व करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अपना एक डिजिटल जुड़वां बनाने की कोशिश कर रहे हैं—एक रोबोटिक संस्करण जो जानता हो कि आपको क्या पसंद है, आप कैसे सोचते हैं, और यदि आप प्रभारी होते तो आप क्या चुनते। यह अब विज्ञान कथा नहीं है; यह अभी हो रहा है, एक प्रकार के सुपर-स्मार्ट कंप्यूटर प्रोग्राम के साथ जिसे 'लार्ज लैंग्वेज मॉडल' (LLM) कहा जाता है। इन मॉडलों को विशाल, अति-पठन पुस्तकालयों के रूप में सोचें जिन्होंने इंटरनेट पर लिखी गई लगभग हर चीज़ को निगल लिया है। वे मानव बातचीत की नकल करने में इतने कुशल हैं कि शोधकर्ता उनका उपयोग अध्ययनों में वास्तविक लोगों के स्थान पर खड़े होने के लिए, या यहाँ तक कि व्यक्तिगत सहायकों के रूप में निर्णय लेने के लिए करने लगे हैं। लेकिन यहाँ एक बड़ा सवाल है: यदि आप एक कंप्यूटर से आपकी तरह व्यवहार करने का नाटक करने के लिए कहते हैं, तो क्या वह वास्तव में आपको समझता है? या क्या वह केवल एक सामान्य, "औसत" संस्करण देता है जो संयोग से आपकी तरह सुनाई देता है? यह "वरीयता सिमुलेशन" (preference simulation) की पेचीदा पहेली है। यह इस बारे में है कि क्या ये डिजिटल क्लोन वास्तव में मानव विकल्पों की अव्यवस्थित, विशिष्ट और कभी-कभी विरोधाभासी प्रकृति को पकड़ सकते हैं, या क्या वे सब कुछ एक उबाऊ, एक-साने-सभी-के-लिए (one-size-fits-all) उत्तर में सुव्यवस्थित कर देते हैं।
अब, आइए एक ताज़ा अध्ययन पर नज़र डालते हैं जिसने लोगों को अपने स्वयं के डिजिटल जुड़वां बनाने देकर इस पहेली को सुलझाने की कोशिश की। शोधकर्ताओं ने, माइकल फेल के नेतृत्व में, एक सरल प्रश्न पूछा: क्या होगा यदि हम केवल कंप्यूटर से यह अनुमान लगाने के लिए न पूछें कि हम कौन हैं, बल्कि हम स्वयं अपने एजेंटों को सह-डिज़ाइन (co-design) करें? कल्पना कीजिए कि आप एक रोबोट के साथ बैठते हैं और कहते हैं, "नहीं, मैं ऐसा महसूस नहीं करता। मैं वास्तव में अपने बिजली बिलों को लेकर बहुत चूजी हूँ, और मैं कुछ पैसे बचाने के बजाय अपने परिवार के आराम को अधिक महत्व देता हूँ।" विचार यह था कि मिलकर काम करके, लोग ऐसे एजेंट बना सकते थे जो पूरी तरह से उनका प्रतिनिधित्व करते हों, और रास्ते में कंप्यूटर द्वारा की गई किसी भी गलती को सुधार सकें।
इस अध्ययन में 12 वास्तविक लोगों ने शामिल होकर अपने व्यक्तिगत ऊर्जा एजेंटों को बनाने में समय बिताया। उन्होंने अपने जीवन, मूल्यों और आदतों के बारे में सर्वेक्षण भरे, और फिर अपनी व्यक्तित्व को ट्यून करने के लिए कंप्यूटर के साथ लंबी, मैत्रीपूर्ण बातचीत की। उन्होंने एजेंटों का विभिन्न परिदृश्यों के साथ परीक्षण किया, जैसे कि "क्या हमें इलेक्ट्रिक कार चार्जिंग को धीमा कर देना चाहिए जब सूरज नहीं चमक रहा हो?" प्रतिभागियों को यह प्रक्रिया बहुत पसंद आई। उन्हें लगा कि उन्हें सुना जा रहा है, उन्हें नियंत्रण का अनुभव हुआ, और अंत में, लगभग सभी ने सोचा, "वाह, यह रोबमा वास्तव में मुझे समझता है! यह मूल रूप से मैं ही हूँ!" उन्हें लगा कि उनके एजेंट उनके वास्तविक स्वरूप का प्रतिनिधित्व करने में शानदार काम कर रहे हैं।
लेकिन यहीं पर कहानी में एक मोड़ आता है, जैसे किसी रहस्यमयी फिल्म की कहानी में। जब शोधकर्ताओं ने प्रतिभागियों की मदद के बिना एजेंटों के उत्तरों को देखने के लिए पीछे हटकर देखा, तो तस्वीर बहुत अलग थी। जबकि मनुष्य बहुत विविध थे—कुछ "हाँ" कह रहे थे, कुछ "नहीं", कुछ "शायद", और कुछ "यह मौसम पर निर्भर करता है"—रोबोट आश्चर्यजनक रूप से उबाऊ थे। वे सभी एक जैसी बातें कह रहे थे, बहुत दृढ़ निर्णय ले रहे थे, और बहुत अमूर्त, उच्च-स्तरीय सिद्धांतों में बात कर रहे थे। उन्होंने शायद ही कभी "शायद" या "मुझे यकीन नहीं है" कहा।
अध्ययन सुझाव देता है कि एजेंट को सह-डिज़ाइन करने की प्रक्रिया ने ही प्रतिभागियों को इस बात के लिए भ्रमित कर दिया होगा कि वे इस पर बहुत अधिक भरोसा करें। यह "बार्नम प्रभाव" (Barnum effect) जैसा है जो आप राशिफल में देखते हैं: आप एक अस्पष्ट, सामान्य कथन पढ़ते हैं जो किसी के भी लिए लागू हो सकता है, लेकिन क्योंकि यह व्यक्तिगत लगता है और आपने इसे लिखने में मदद की है, तो आप सोचते हैं, "यह पूरी तरह से मैं हूँ!" प्रतिभागियों ने एजेंट की सफलताओं (जब उसने कुछ सही किया) को देखा और उसकी विफलताओं (जब वह बहुत सामान्य या बहुत निर्णायक था) को अनदेखा कर दिया। शोधकर्ता इसे एक "ओवरट्रस्ट इंजन" (overtrust engine) कहते हैं। आप जितना अधिक भाग लेते हैं और प्रक्रिया जितनी अधिक पारदर्शी महसूस होती है, आप परिणाम पर उतना ही अधिक भरोसा करते हैं, भले ही परिणाम वास्तव में एक व्यवस्थित समस्या को छिपा रहा हो: एजेंट वास्तव में आप नहीं है; यह आपका एक पॉलिश किया हुआ, आत्मविश्वासी, लेकिन थोड़ा गलत संस्करण है।
यह शोध पत्र यह नहीं कहता कि यह एक आपदा है, लेकिन यह हमें चेतावनी देता है। यह सुझाव देता है कि यदि हम इन एजेंटों को अपना जीवन चलाने या हमारे लिए निर्णय लेने के लिए छोड़ देते हैं, तो हम एक ऐसी दुनिया में समाप्त हो सकते हैं जहाँ हर किसी की अनूठी, अव्यवस्थित वरीयताएँ एक एकल, सुचारू, "परफेक्ट" राय में बदल जाती हैं। एजेंट हमारे जैसा दिखने में महान हो सकते हैं, लेकिन वे हमारे जैसा होने में बहुत अच्छे नहीं हो सकते हैं। अध्ययन निष्कर्ष निकालता है कि हालांकि सह-डिज़ाइन इन उपकरणों को बनाने का एक मजेदार और आकर्षक तरीका है, हम यह मानकर नहीं चल सकते कि वे पूरी तरह से हमारे अनुरूप हैं। हमें उनके काम की जाँच करते रहना होगा, क्योंकि कभी-कभी, वह रोबोट जो सोचता है कि वह आपको सबसे अच्छी तरह जानता है, वास्तव में वही है जो आपको सबसे कम जानता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।