Extending the UXR Point of View Pyramid: A Generative AI-Augmented Methodology for Human-Centred AI Systems
यह शोध पत्र यूएक्सआर (UXR) पॉइंट्स ऑफ व्यू पिरामिड के एक एआई-संवर्धित विस्तार का प्रस्ताव करता है, जिसमें एक संरचित प्रॉम्प्ट आर्किटेक्चर और एक एआई-सक्षम प्लेबुक कार्ड प्रणाली शामिल है, ताकि यूके की एआई-संचालित ऋण प्रबंधन प्रौद्योगिकियों में मानव-केंद्रित डिजाइन, नैतिक निरीक्षण और नियामक अनुपालन को बढ़ाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही कठिन पहेली सुलझाने की कोशिश कर रहे हैं, लेकिन पहेली के टुकड़े कांच के बने हैं, और उनमें से कुछ अदृश्य भी हैं। यह तब होता है जब बैंक और वित्तीय कंपनियाँ उन लोगों की मदद करने के लिए आर्टिफिशियल इंटेलिजेंस (AI) का उपयोग करती हैं जो कर्ज के बोझ से जूझ रहे हैं। AI यह निर्णय लेता है कि कौन ऋण चुकाने में सक्षम है, लेकिन क्योंकि AI एक "ब्लैक बॉक्स" है, इसलिए यह समझना कठिन है कि उसने वे चुनाव क्यों किए।
यह शोध पत्र इस बारे में है कि कैसे शोधकर्ता (जिन्हें UXR शोधकर्ता कहा जाता है) एक विशेष प्रकार के AI (जेनरेटिव AI) का उपयोग करके इस पहेली को सुलझाने में मदद कर सकते हैं, बिना टुकड़ों पर अपना नियंत्रण खोए।
यहाँ सरल उपमाओं (analogies) का उपयोग करके इसका विवरण दिया गया है:
1. समस्या: "ब्लैक बॉक्स" और तनावग्रस्त ग्राहक
यूके (UK) में, कई लोग वित्तीय दबाव में हैं। बैंक AI का उपयोग यह तय करने के लिए करते हैं कि एक व्यक्ति कितना कर्ज संभाल सकता है।
- मुद्दा: कभी-कभी ये AI सिस्टम अनुचित या भ्रमित करने वाले होते हैं। वे शायद यह नहीं समझ पाते कि किसी व्यक्ति की आय महीने-दर-माह बदल सकती है (जैसे कि एक गिग वर्कर की होती है), या वे ऐसा निर्णय ले सकते हैं जो कंप्यूटर के लिए तार्किक हो सकता है लेकिन एक इंसान के लिए क्रूर महसूस हो सकता है।
- जोखिम: यदि शोधकर्ता बस AI से पूछते हैं, "हमें क्या करना चाहिए?" और बिना जांचे उसका उत्तर मान लेते हैं, तो वे अनजाने में स्थिति को और खराब कर सकते हैं। यह एक GPS से कार चलाने के लिए कहने जैसा है जबकि आप सो रहे हों; यदि GPS भ्रमित हो जाता है, तो आप दुर्घटनाग्रस्त हो जाएंगे।
2. समाधान: "AI-ऑगमेंटेड पिरामिड" (AI-Augmented Pyramid)
लेखकों ने एक मौजूदा टूल जिसे UXR PoV (Point of View) पिरामिड कहा जाता है, उसे लिया। इस पिरामिड को एक रेसिपी (विधि) के रूप में सोचें जो बिखरे हुए रिसर्च नोट्स को एक स्पष्ट, रणनीतिक योजना में बदल देती है।
- पुराना तरीका: शोधकर्ता इंटरव्यू और डेटा पढ़ते थे, और फिर एक रिपोर्ट लिखते थे।
- नया तरीका: उन्होंने जेनरेटिव AI को एक सुपर-पावर्ड असिस्टेंट के रूप में जोड़ा ताकि वह नोट्स को व्यवस्थित करने में मदद कर सके, लेकिन उन्होंने सख्त नियम बनाए रखे ताकि असिस्टेंट नियंत्रण न ले सके।
उन्होंने यह सुनिश्चित करने के लिए कि अंतिम व्यंजन खाने के लिए सुरक्षित हो, एक 4-चरणीय कुकिंग प्रक्रिया (4-Step Cooking Process) बनाई:
स्टेप 1: "पैटर्न फाइंडर" (परिकल्पना निर्माण - Hypothesis Generation)
अनुमान लगाने के बजाय, शोधकर्ता AI से पूछते हैं कि पिछले डेटा को देखकर क्या वह कोई पैटर्न देख पा रहा है।
- उपमा: कल्पना कीजिए कि एक सहायक शेफ सॉस चखता है और कहता है, "यह बहुत नमकीन है क्योंकि हमने पुराने टमाटरों का उपयोग किया था।"
- नियम: AI सुझाव (परिकल्पनाएं) देता है, लेकिन अगले चरण पर जाने से पहले एक मानव शेफ को उसे चखना और स्वीकृत करना होगा। AI बॉस नहीं है; वह केवल एक मददगार है।
स्टेप 2: "स्टेकहोल्डर मैप" (शासन - Governance)
निर्णय लेने से पहले, शोधकर्ता इसमें शामिल सभी लोगों का मानचित्रण करते हैं।
- उपमा: घर बनाने से पहले, आपको यह जानना आवश्यक है कि वहां कौन रहता है, जमीन का मालिक कौन है, और बिल्डिंग इंस्पेक्टर की क्या आवश्यकताएं हैं।
- लक्ष्य: उन्होंने पहचान की कि AI को ग्राहक (जिसे निष्पक्षता चाहिए), रिस्क ऑफिसर (जिसे कानून का पालन करना है), और डेटा साइंटिस्ट (जिसे मॉडल को काम करना है) को संतुष्ट करना होगा। AI इस मानचित्र को बनाने में मदद करता है, लेकिन रेखाएं कहाँ खींची जाएंगी, यह इंसान तय करते हैं।
स्टेप 3: "प्लेबुक कार्ड्स" (टूलकिट)
यह सबसे रचनात्मक हिस्सा है। टीम ने "प्ले कार्ड्स" (एक बोर्ड गेम के ताश के पत्तों की तरह) का एक सेट बनाया।
- उपमा: कल्पना कीजिए कि एक कार्ड है जो कहता है: "यदि AI कहता है कि एक व्यक्ति $500 वहन कर सकता है, लेकिन उसकी आय परिवर्तनशील है, तो यह कार्ड खेलें: 'काउंटरफैक्चुअल परिदृश्य के साथ स्ट्रैस टेस्ट चलाएं।'"
- यह कैसे काम करता है: प्रत्येक कार्ड में एक विशिष्ट प्रॉम्प्ट (AI के लिए एक प्रश्न) और एक मानवीय जांच होती है।
- कार्ड का उदाहरण: "हार्डशिप नैरेटिव कम्प्रेशन (Hardship Narrative Compression)।" यदि AI किसी दुखद कहानी को बहुत जल्दी सारांशित कर देता है और उसके दर्द को मिस कर देता है, तो यह कार्ड इंसान को रुकने और साक्ष्य को टैग करने के लिए कहता है ताकि वह कहानी खो न जाए।
- कार्ड का उदाहरण: "बायस इंटरोगेशन (Bias Interrogation)।" यह कार्ड AI को मजबूर करता है कि वह पूछे, "क्या मैंने अभी यह निर्णय केवल पुराने, अनुचित डेटा के कारण लिया है?"
स्टेप 4: "स्टोरीटेलर" (अंतिम वृत्तांत - Final Narrative)
अंत में, टीम इन सभी जांची गई तथ्यों को कंपनी के लीडर्स के लिए एक कहानी में बदल देती है।
- उपमा: AI भाषण का पहला ड्राफ्ट लिखने में मदद करता है, लेकिन मानव शोधकर्ता इसे संपादित करता है ताकि यह सुनिश्चित हो सके कि यह ईमानदार, निष्पक्ष और कानूनी रूप से सुरक्षित लगे।
- परिणाम: एक स्पष्ट संदेश जो कहता है, "हमने यह प्रणाली निष्पक्षता के लिए बनाई है, यहाँ उसका प्रमाण है, और यहाँ बताया गया है कि हमने त्रुटियों के लिए जाँच कैसे की।"
3. स्वर्णिम नियम: "पायलट, न कि ऑटोपायलट"
यह पेपर एक मुख्य विचार पर जोर देता है: जेनरेटिव AI एक उपकरण है, अधिकार नहीं।
- रूपक: AI को कार में एक बहुत तेज़, बहुत जानकार नेविगेटर के रूप में सोचें। वह आपको सबसे तेज़ रास्ता बता सकता है और ट्रैफिक के बारे में चेतावनी दे सकता है। लेकिन मानव शोधकर्ता ही ड्राइवर है। ड्राइवर को अपने हाथ स्टीयरिंग व्हील पर रखने चाहिए, खिड़की से बाहर देखना चाहिए, और बाएं या दाएं मुड़ने का अंतिम निर्णय लेना चाहिए।
- यदि नेविगेटर कहता है "बाएं मुड़ें, एक झील में जा रहे हैं," तो ड्राइवर को कहना चाहिए, "नहीं, यह गलत है," और उसे ठीक करना चाहिए।
4. उन्होंने वास्तव में क्या सिद्ध किया?
यह पेपर यह दावा नहीं करता कि यह सिस्टम पूर्ण है या इसने यूके में कर्ज की सभी समस्याओं को हल कर दिया है। इसके बजाय, यह दावा करता है कि:
- उन्होंने सफलतापूर्वक एक कार्यप्रणाली (methodology) (इस विशिष्ट उच्च-जोखिम वाले क्षेत्र में AI का सुरक्षित रूप से उपयोग करने के लिए एक चरण-दर-चरण मार्गदर्शिका) बनाई है।
- उन्होंने 10 विशिष्ट "प्ले कार्ड्स" बनाए हैं जिनका उपयोग शोधकर्ता पूर्वाग्रह, अनुचितता या स्पष्टता की कमी जैसी त्रुटियों को पकड़ने के लिए कर सकते हैं।
- उन्होंने दिखाया कि इस पद्धति का उपयोग करके, शोधकर्ता ऐसी योजनाएं बना सकते हैं जो रक्षात्मक (defensible) हैं (वे नियामकों को साबित कर सकते हैं कि उन्होंने एक निर्णय क्यों लिया) और ट्रेसेबल (traceable) हैं (आप देख सकते हैं कि AI को उसकी जानकारी कहाँ से मिली)।
सारांश
यह शोध पत्र वित्तीय शोधकर्ताओं के लिए एक मैनुअल है कि कैसे एक शक्तिशाली नए उपकरण (जेनिरेटिव AI) का उपयोग करके कर्ज में डूबे लोगों की मदद की जाए, बिना उस उपकरण को पूरी कमान सौंपे। यह AI को एक सहायक में बदल देता है जो विचारों को व्यवस्थित करने और त्रुटियों की जाँच करने में मदद करता है, जबकि यह सुनिश्चित करता है कि अंतिम, नैतिक निर्णय हमेशा एक इंसान द्वारा ही लिया जाए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।