Identifying Harm in Personalized, Generative AI Systems Requires User-Centered Auditing at the Interaction Level
यह स्थिति पत्र तर्क देता है कि पारंपरिक, स्थिर ऑडिटिंग विधियाँ व्यक्तिगत जनरेटिव एआई प्रणालियों के उभरते और विकसित होते नुकसानों को पकड़ने में विफल रहती हैं, जिसके लिए उपयोगकर्ता-केंद्रित, इंटरेक्शन-स्तरीय दृष्टिकोणों की ओर बढ़ने की आवश्यकता है जो नुकसान को एक अनुकूलनशील और बहुलवादी प्रक्रिया के रूप में पहचानते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी मशीन के साथ बातचीत की कल्पना करें जो आपकी कही गई हर बात को याद रखती है, आपकी पसंद को समझती है, और आपकी पूरी तरह से फिट होने के लिए अपने व्यक्तित्व को धीरे-धीरे नया आकार देती है। यह व्यक्तिगत जनरेटिव आर्टिफिशियल इंटेलिजेंस (AI) का वादा है, एक ऐसी तकनीक जो अब चैटबॉट्स और लेखन सहायकों के रूप में दिखाई दे रही है जो आपके पिछले संवादों के आधार पर अपने लहजे, शैली और सलाह को अनुकूलित करती है। पुराने कंप्यूटर प्रोग्रामों के विपरीत, जो केवल उत्तरों की एक निश्चित सूची में से चुनते थे, ये नई प्रणालियाँ वास्तविक समय में पूरी तरह से नए उत्तर बनाती हैं, और उपयोगकर्ता के साथ संबंध गहरा होने पर अपना व्यवहार बदल लेती हैं। जबकि यह अनुकूलनशीलता बातचीत को अधिक प्रासंगिक बनाती है, यह एक छिपे हुए खतरे को भी जन्म देती है: जो चीज़ एक व्यक्ति के लिए मददगार महसूस हो सकती है, वह दूसरे के लिए हानिकारक या अलगावपूर्ण महसूस हो सकती है, और ये नुकसान अक्सर हफ्तों या महीनों तक बातचीत करने के बाद ही सामने आते हैं, न कि किसी एक परीक्षण में।
शोधकर्ता लंबे समय से सिमुलेशन चलाकर, जहाँ वे कंप्यूटर से बार-बार एक ही सवाल पूछते हैं ताकि यह देख सकें कि क्या वह पक्षपाती या आपत्तिजनक उत्तर देता है, आर्टिफिशियल इंटेलिजेंस की समस्याओं को खोजने और उन्हें ठीक करने का प्रयास करते रहे हैं। यह तरीका स्थिर त्रुटियों को खोजने के लिए अच्छा काम करता है, जैसे कि एक ऐसा मानचित्र जो हमेशा एक विशिष्ट शहर को गलत बताता है। हालाँकि, माइक्रोसॉफ्ट रिसर्च और स्टैनफोर्ड यूनिवर्सिटी की हन्ना चा द्वारा लिखित एक नया शोध पत्र तर्क देता है कि यह दृष्टिकोण व्यक्तिगत प्रणालियों में हो रहे वास्तविक नुकसान को पकड़ने में विफल हो रहा है। अध्ययन का सुझाव है कि क्योंकि ये मशीनें उपयोगकर्ता के साथ विकसित होती हैं, इसलिए क्या हानिकारक है इसकी परिभाषा समय के साथ बदल जाती है और एक ही पृष्ठभूमि वाले लोगों के बीच भी बहुत भिन्न होती है। शोधकर्ताओं ने पाया कि इसे और अधिक गहन निजीकरण (personalization) बनाकर ठीक करने का प्रयास वास्तव में हाशिए पर रहने वाले समूहों के लिए चीजों को बदतर बना सकता है, जिससे उन्हें अपने दर्द को समझाने के लिए या बहुत अधिक निजी जानकारी प्रकट करने के लिए अतिरिक्त काम करना पड़ता है ताकि मशीन सुरक्षित रूप से व्यवहार कर सके।
समस्या का मूल कारण यह है कि हम वर्तमान में नुकसान को कैसे मापते हैं। अधिकांश मौजूदा परीक्षण यह मानकर चलते हैं कि एक हानिकारक आउटपुट एक स्थिर वस्तु है, जैसे कार का कोई टूटा हुआ हिस्सा, जिसे कार के सड़क पर चलने से पहले पहचाना जा सकता है। शोधकर्ताओं का तर्क है कि व्यक्तिगत AI की दुनिया में, नुकसान एक गलत दिशा में जाने वाली बातचीत की तरह है। प्रयोगशाला में एक शोधकर्ता के लिए जो प्रतिक्रिया हानिरहित लग सकती है, वह उपयोगकर्ता के लिए गहराई से अपमानजनक महसूस हो सकती है क्योंकि उसका सिस्टम के साथ एक विशिष्ट इतिहास है। उदाहरण के लिए, एक मशीन शुरू में मददगार लगने वाले भोजन के सुझाव देना शुरू कर सकती है, लेकिन महीनों की बातचीत के बाद, उपयोगकर्ता को एहसास होता है कि सुझाव उनकी संस्कृति के बारे में रूढ़ियों (stereotypes) पर आधारित हैं, जिससे एक मददगार इशारा सूक्ष्म आक्षेप (microaggression) में बदल जाता है। ये नुकसान संबंध के प्रवाह से उत्पन्न होते हैं, न कि किसी एक गलती से, जिसका अर्थ है कि पारंपरिक परीक्षण जो मशीन को अलग-थलग देखते हैं, वे खतरे को पूरी तरह से अनदेखा कर देते हैं।
इसके अलावा, पेपर यह भी बताता है कि वर्तमान विधियाँ लोगों के समूहों के साथ इस तरह व्यवहार करती हैं जैसे कि वे सभी एक जैसा महसूस करते हों। ऑडिट अक्सर यह जाँचते हैं कि क्या कोई प्रणाली "महिलाओं" या "अश्वेत लोगों" के साथ एक पूरे ब्लॉक के रूप में निष्पक्ष व्यवहार करती है। लेकिन शोधकर्ता दिखाते हैं कि किसी भी एकल समूह के भीतर, लोगों के अलग-अलग जीवन, अलग-अलग ट्रॉमा और अलग-अलग सीमाएँ होती हैं। एक समुदाय में जिसे एक व्यक्ति आपत्तिजनक पाता है, दूसरा उसे स्वीकार्य पा सकता है, और तीसरा शायद उस पर ध्यान भी न दे। जब कोई प्रणाली किसी समूह के औसत व्यवहार से सीखने की कोशिश करती है, तो वह अक्सर इन जटिल अंतरों को उस समूह के एक एकल, सरलीकृत संस्करण में समेट देती है। इससे ऐसी स्थिति पैदा हो सकती है जहाँ मशीन किसी समुदाय की सबसे प्रभावशाली आवाजों की पसंद को सीख लेती है और बाकी को अनदेखा कर देती है, जिससे प्रभावी रूप से उन लोगों के अनूठे अनुभवों को मिटा दिया जाता है जो हाशिए पर हैं।
शोधकर्ताओं ने एक लुभावना समाधान भी तलाशा: क्या होगा यदि मशीन ठीक वही सीख ले जो प्रत्येक व्यक्तिगत उपयोगकर्ता को हानिकारक लगता है? हालांकि यह आदर्श लगता है, पेपर का तर्क है कि यह एक अनुचित बोझ पैदा करता है। मशीन को यह सिखाने के लिए कि क्या दुखद है, एक उपयोगकर्ता को हर गलती की ओर संकेत करते रहना पड़ता है, जिसमें निरंतर भावनात्मक श्रम (emotional labor) की आवश्यकता होती है। उन लोगों के लिए जिनके अनुभव पहले से ही मशीन की डिफ़ॉल्ट सेटिंग्स से भिन्न हैं, इसका अर्थ है कि उन्हें सिस्टम को सुधारने के लिए भारी काम करना होगा, जबकि जो लोग डिफ़ॉल्ट में फिट होते हैं, उन्हें बिना किसी प्रयास के सहज अनुभव मिलता है। इसके अतिरिक्त, मशीन को सिखाने के लिए, उपयोगकर्ताओं को अपनी पहचान या अपने पिछले दुखों के संवेदनशील विवरण प्रकट करने पड़ सकते हैं, जिससे एक गोपनीयता जाल (privacy trap) बन जाता है जहाँ उन्हें या तो दुख सहने या अपना व्यक्तिगत डेटा सौंपने के बीच चयन करना पड़ता है। यह गतिशीलता सबसे कमजोर उपयोगकर्ताओं को तकनीक से पूरी तरह दूर धकेलने का जोखिम उठाती है।
इन प्रणालियों को डिजाइन करने के बजाय, पेपर इन प्रणालियों को डिजाइन करने के तरीके में बदलाव का प्रस्ताव देता है। लेखक सुझाव देते हैं कि ऐसा बुनियादी ढांचा (infrastructure) बनाना जो उपयोगकर्ताओं को नुकसान होने पर, केवल उसके बाद नहीं, बल्कि होते ही बोलने की अनुमति दे। इसमें ऐसे उपकरण शामिल होंगे जहाँ उपयोगकर्ता किसी प्रतिक्रिया को समस्याग्रस्त के रूपв रूप में चिह्नित कर सकें और समझा सकें कि क्यों, बिना सिस्टम के यह मान लिए कि एक व्यक्ति की शिकायत सभी के लिए अंतिम सत्य है। महत्वपूर्ण रूप से, यह प्रणाली उपयोगकर्ताओं को यह देखने की अनुमति भी देगी कि उनके समुदाय के अन्य लोगों ने समान स्थितियों की व्याख्या कैसे की है, जिससे उन्हें यह तय करने में मदद मिलेगी कि क्या कोई साझा स्पष्टीकरण उनके अपने अनुभव के साथ मेल खाता है। लक्ष्य एक ऐसे मॉडल से दूर जाना है जहाँ मशीन चुपचाप सीखती है और उपयोगकर्ता निष्क्रिय रूप से प्राप्त करता है, एक ऐसी साझेदारी की ओर जहाँ उपयोगकर्ता यह नियंत्रण रखता है कि मशीन कैसे अनुकूलित होती है।
शोधकर्ता स्वीकार करते हैं कि यह दृष्टिकोण कोई सरल समाधान नहीं है। इसके लिए उन प्रणालियों में विश्वास बनाने की आवश्यकता है जो अक्सर अपारदर्शी होती हैं, और यह समुदाय के भीतर परस्पर विरोधी विचारों को संभालने के कठिन प्रश्न भी खड़े करता है। यदि एक व्यक्ति कहता है कि कोई टिप्पणी हानिकारक है और दूसरा कहता है कि यह ठीक है, तो सिस्टम को एक एकल उत्तर थोपे बिना दोनों सत्यों को धारण करने में सक्षम होना चाहिए। पेपर यह दावा नहीं करता है कि उसने इन तकनीकी चुनौतियों को हल कर लिया है, लेकिन यह जोर देता है कि स्थिर परीक्षण और गहन निजीकरण का वर्तमान मार्ग अपर्याप्त है। यह पहचानते हुए कि नुकसान एक तरल, विकसित होने वाली प्रक्रिया है जो उपयोगकर्ता के इतिहास और संदर्भ से आकार लेती है, हम ऐसी AI डिजाइन करना शुरू कर सकते हैं जो मानव अनुभव की जटिलता को सरल बनाने के बजाय उसका सम्मान करती है। अंतिम निष्कर्ष यह है कि व्यक्तिगत दुनिया में उपयोगकर्ताओं की रक्षा करने के लिए उन्हें बातचीत में आवाज देने की आवश्यकता है, न कि केवल इस उम्मीद में कि मशीन सही सबक खुद ही सीख लेगी।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।