Beyond Value Elicitation: Towards Moral Profiles in Early Requirements Engineering via Role-Playing Games and Anthropologist LLMs
यह अध्ययन रिक्वायरमेंट्स इंजीनियरिंग (Requirements Engineering) में एक नवीन दृष्टिकोण प्रस्तावित करता है जो उपयोगकर्ताओं के अंतर्निहित नैतिक प्रोफाइल्स (tacit moral profiles) को गतिशील कथात्मक निरूपणों (dynamic narrative representations) के रूप में प्राप्त करने और पुनर्निर्मित करने के लिए मानवशास्त्रीय रूप से आधारित लार्ज लैंग्वेज मॉडल्स के साथ इमर्सिव रोल-प्लेइंग गेम्स को जोड़ता है, जिससे पारंपरिक मूल्य निष्कर्षण विधियों की सीमाओं को दूर किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप यह समझने की कोशिश कर रहे हैं कि कोई व्यक्ति वास्तव में किस बात की परवाह करता है। आप उनसे सीधे पूछ सकते हैं, "आपका सबसे महत्वपूर्ण मूल्य (value) क्या है?" लेकिन अक्सर, लोग इसका उत्तर नहीं जानते, या वे इसे समझा नहीं पाते। उनके मूल्य 'टैसिट नॉलेज' (tacit knowledge) की तरह होते हैं—छिपे हुए व्यवहार और अंतर्ज्ञान जो केवल तभी सामने आते हैं जब वे वास्तव में कुछ कर रहे होते हैं, न कि केवल उसके बारे में बात कर रहे होते हैं।
यह शोध पत्र सॉफ्टवेयर डिजाइनरों के लिए इन छिपे हुए मूल्यों को उजागर करने का एक नया तरीका प्रस्तावित करता है। एक उबाऊ सर्वेक्षण भरने के बजाय, शोधकर्ताओं ने प्रत्येक उपयोगकर्ता के लिए एक "नैतिक प्रोफाइल" (Moral Profile) बनाने के लिए एक रोल-प्लेइंग गेम (RPG) और एक विशेष AI "नृवंशविज्ञानी" (Anthropologist) का उपयोग किया।
यह कैसे काम करता है, यहाँ इसके सरल चरण दिए गए हैं:
1. खेल: नैतिकता के लिए एक डिजिटल "सिम सिटी" (Sim City)
शोधकर्ताओं ने डिजिटल गोपनीयता (digital privacy) की वास्तविक दुनिया में आधारित एक टेबलटॉप रोल-प्लेइंग गेम (जैसे डन्जन्स एंड ड्रैगन्स) बनाया।
- सेटअप: दस वास्तविक लोगों ने यह खेल खेला। वे काल्पनिक जादूगर बनकर नहीं खेल रहे थे; वे स्वयं के रूप में अभिनय कर रहे थे।
- कथानक: खिलाड़ियों को फर्जी ईमेल मिले, उन्हें एक संदिग्ध कंप्यूटर मिला, उन्हें एक भ्रमित बुजुर्ग पड़ोसी मिला जिसे स्मार्टफोन में मदद की जरूरत थी, और उन्हें यह तय करना था कि क्या किसी संदिग्ध वेबसाइट पर भरोसा किया जाए या पुलिस को फोन किया जाए।
- ट्विस्ट: इसमें कोई "जीतने" या "हारने" की स्थिति नहीं थी। लक्ष्य अंक प्राप्त करना नहीं था; लक्ष्य चुनाव करना था।
- जादू: क्योंकि यह एक खेल था, खिलाड़ी प्रयोग करने के लिए सुरक्षित महसूस कर रहे थे। उन्होंने एक-दूसरे से बहस की, सलाह के लिए एक AI "ओरेकल" (oracle) से पूछा, और उन्होंने अपने निर्णयों के पीछे के कारणों के बारे में एक डायरी लिखी। इसने केवल उत्तरों की सूची के बजाय कहानियों का एक समृद्ध ताना-बाना बुना।
उपमा: इसे एक फ्लाइट सिम्युलेटर की तरह समझें। आप एक पायलट से यह पूछकर नहीं सीखते कि वह तूफ़ान को कैसे संभालता है, "आप तूफ़ान को कैसे संभालते हैं?" बल्कि आप उसे तब देखते हैं जब आभासी मौसम खराब हो जाता है और वह विमान उड़ा रहा होता है। इस खेल ने खिलाड़ियों को नैतिक दुविधाओं के बीच से "उड़ने" के लिए मजबूर किया, जिससे यह प्रकट हुआ कि दबाव में वे वास्तव में कैसा व्यवहार करते हैं।
2. AI: "नृवंशविज्ञानी" जासूस
एक बार खेल समाप्त होने के बाद, शोधकर्ताओं के पास डेटा का एक विशाल ढेर था: ऑडियो रिकॉर्डिंग, डायरी प्रविष्टियाँ, AI के साथ चैट लॉग और मानव शोधकर्ता द्वारा ली गई नोट्स।
- समस्या: एक इंसान के लिए इस पूरे डेटा को पढ़ने में हफ्तों लग जाते।
- समाधान: उन्होंने एक लार्ज लैंग्वेज मॉडल (LLM) का उपयोग किया, लेकिन उन्होंने केवल टेक्स्ट का सारांश नहीं मांगा। उन्होंने AI को एक विशिष्ट "जॉब डिस्क्रिप्शन" दिया: "एक नृवंशविज्ञानी (Anthropologist) की तरह कार्य करें।"
- प्रशिक्षण: उन्होंने AI को एक "पाठ्यपुस्तक" खिलाई कि नृवंशविज्ञानी मनुष्यों का अध्ययन कैसे करते हैं। इस पाठ्यपुस्तक ने AI को निम्नलिखित चीजों को खोजने के लिए प्रशिक्षित किया:
- कहानियां: खिलाड़ी ने अपने चुनाव को कैसे समझाया?
- संदर्भ (Context): क्या उन्होंने अपने दोस्तों के कारण अलग तरह से व्यवहार किया?
- विरोधाभास (Contradictions): क्या उन्होंने कहा कि वे सावधान रहते हैं लेकिन फिर भी जोखिम उठाते हैं? (AI को इन विरोधाभासों को अनदेखा करने के लिए नहीं, बल्कि उन्हें कहानी के हिस्से के रूप में देखने के लिए कहा गया था)।
- आउटपुट: केवल "मूल्य: गोपनीयता, ईमानदारी, सुरक्षा" की चेकलिस्ट देने के बजाय, AI ने एक नैरेटिव प्रोफाइल (कथात्मक प्रोफाइल) लिखा। इसने खिलाड़ी की "नैतिक दुनिया" को एक गतिशील कहानी के रूप में वर्णित किया। उदाहरण के लिए, यह कह सकता था: "यह खिलाड़ी नियमों को जानता है, लेकिन अक्सर क्षण की तात्कालिकता में बह जाता है, और कठिन निर्णय लेने के लिए अपने दोस्तों पर निर्भर रहता है।"
उपमा: कल्पना कीजिए कि एक जासूस जो केवल संदिग्ध का आईडी कार्ड (जिसमें उसका नाम और आयु होती है) नहीं देखता। इसके बजाय, जासूस संदिग्ध को दोस्तों के साथ बातचीत करते हुए देखता है, संकट के समय उसकी प्रतिक्रिया देखता है, और उसकी अपनी कहानी सुनता है। फिर जासूस एक जीवनी लिखता है जो यह समझाती है कि वह व्यक्ति कौन है, न कि केवल उसके आँकड़े (stats) सूचीबद्ध करता है।
3. परीक्षण: क्या "प्रोफाइल" काम कर गया?
यह देखने के लिए कि क्या यह तरीका वास्तव में काम करता है, शोधकर्ताओं ने एक अनुमान लगाने वाला खेल खेला।
- उन्होंने खिलाड़ियों को नए गोपनीयता संबंधी संकटों (ऐसे प्रश्न जो उन्होंने पहले नहीं देखे थे) का एक सेट दिखाया।
- उन्होंने AI से केवल खेल के बाद लिखे गए "नैतिक प्रोफाइल" के आधार पर यह भविष्यवाणी करने को कहा कि प्रत्येक खिलाड़ी कैसे उत्तर देगा।
- परिणाम: AI ने 81% बार सही अनुमान लगाया।
- एक मानक AI (बिना "नृवंशविज्ञानी" प्रशिक्षण के) केवल लगभग 51% बार सही था।
- यह साबित करता है कि "नैतिक प्रोफाइल" (कहानी) ने खिलाड़ियों के बारे में कुछ ऐसा वास्तविक पकड़ा जिसे मूल्यों की एक साधारण सूची मिस कर गई थी।
सॉफ्टवेयर के लिए यह क्यों महत्वपूर्ण है
वर्तमान में, जब सॉफ्टवेयर कंपनियां जानना चाहती हैं कि उपयोगकर्ता क्या चाहते हैं, तो वे अक्सर कठोर श्रेणियों (जैसे, "मैं गोपनीयता को महत्व देता हूँ") का उपयोग करती हैं। लेकिन लोग जटिल और अनिश्चित होते हैं।
- पुराना तरीका: किसी व्यक्ति को "गोपनीयता-प्रथम" (Privacy-First) लेबल वाले बॉक्स में फिट करने की कोशिश करना।
- नया तरीका: यह समझना कि एक व्यक्ति गोपनीयता को महत्व दे सकता है जब तक कि वह जल्दी में न हो, या जब तक कि उसका दोस्त उससे साझा करने के लिए न कहे।
यह शोध पत्र सुझाव देता है कि कहानियाँ उत्पन्न करने के लिए खेलों का उपयोग करके और उन कहानियों का विश्लेषण करने के लिए AI का उपयोग करके, हम ऐसे सॉफ्टवेयर बना सकते हैं जो मानवीय मूल्यों के सरलीकृत संस्करण के बजाय, उनके वास्तविक, जटिल और गतिशील स्वभाव का सम्मान करते हैं।
सारांश
शोध पत्र का दावा है कि:
- खेल यह जानने के लिए सर्वेक्षणों से बेहतर हैं कि लोग वास्तव में क्या करते हैं, न कि केवल वह जो वे कहते हैं।
- AI, जब उसे एक नृवंशविज्ञानी की तरह सोचने के लिए सिखाया जाता है, तो वह अव्यवस्थपूर्ण गेम डेटा को एक सुसंगत "नैतिक प्रोफाइल" (एक व्यक्ति के मूल्यों के बारे में एक कहानी) में बदल सकता है।
- ये प्रोफाइल इतने सटीक हैं कि वे नई स्थितियों में लोगों के व्यवहार की भविष्यवाणी कर सकते हैं, जिससे सॉफ्टवेयर डिजाइनरों को मानव स्वभाव के अनुकूल सिस्टम बनाने में मदद मिलती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।