Aspirational Affordances of AI
यह शोध पत्र "आकांक्षी सामर्थ्य" (aspirational affordances) और "आकांक्षी हानि" (aspirational harm) की अवधारणाओं को प्रस्तुत करता है ताकि यह तर्क दिया जा सके कि एआई (AI) प्रणालियाँ उन व्याख्यात्मक संसाधनों को विकृत करके अनूठे मनोवैज्ञानिक जोखिम उत्पन्न करती हैं जिन पर व्यक्ति अपनी भविष्य की संभावनाओं की कल्पना करने के लिए निर्भर करते हैं, जिससे पारंपरिक प्रतिनिधिक (representational) और आवंटनात्मक (allocative) हानियों से परे इन पारिस्थितिक और केंद्रित प्रभावों का मूल्यांकन करने के लिए एक नए ढांचे की आवश्यकता होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
अपने भविष्य के बारे में सपने देखने के शांत, आंतरिक कार्य की कल्पना करें। यह केवल एक दिवास्वप्न नहीं है; यह उन उपकरणों, कहानियों और छवियों को एकत्र करने की मानसिक प्रक्रिया है जिनकी हमें यह चित्रित करने के लिए आवश्यकता होती है कि हम क्या बन सकते हैं। हम इन संभावनाओं का आविष्कार शून्य में नहीं करते हैं। इसके बजाय, हम दुनिया के आसपास से उन्हें उधार लेते हैं: उन किताबों से जिन्हें हम पढ़ते हैं, उन फिल्मों से जिन्हें हम देखते हैं, उन विज्ञापनों से जिन्हें हम देखते हैं, और उन बातचीत से जो हम करते हैं। ये साझा सांस्कृतिक सामग्रियां एक प्रकार का मानसिक मचान (scaffolding) के रूप में कार्य करती हैं, जो हमें यह समझने में मदद करती हैं कि क्या संभव है, क्या वांछनीय है, और क्या प्रयास करने योग्य भी है। जब ये सामग्रियां समृद्ध और विविध होती हैं, तो हमारी कल्पना को बढ़ने की जगह मिलती है। जब वे संकीर्ण या विकृत होती हैं, तो हमारे भविष्य का दृष्टिकोण सिकुड़ जाता है। यह उस क्षेत्र का हिस्सा है जिसे शोधकर्ता "आकांक्षात्मक सामर्थ्य" (aspirational affordances) कहते हैं—एक ऐसा शब्द जो सरल रूप से यह बताता है कि हमारे पास उपलब्ध संसाधन कैसे नए लक्ष्यों तक पहुँचने की हमारी क्षमता को आकार देते हैं।
अब, विचार करें कि कैसे आर्टिफिशियल इंटेलिजेंस (AI) तेजी से हमारे इन संसाधनों के निर्माण और साझाकरण के तरीके को बदल रहा है। AI सिस्टम अब केवल डेटा को छाँटने के उपकरण नहीं रह गए हैं; वे हमारी कहानियों के लेखक, हमारी छवियों के क्यूरेटर और हमारे व्यक्तिगत विकास के मार्गदर्शक बनते जा रहे हैं। वे करियर संबंधी सलाह लिखते हैं, भविष्य की छवियां उत्पन्न करते हैं, और साथ निभाने के लिए साथी (companionship) प्रदान करते हैं। जैसे-जैसे ये सिस्टम हमारे जीवन में समाहित हो रहे हैं, एक महत्वपूर्ण प्रश्न उठता है: जब हमारे सपने देखने के लिए उपयोग किए जाने वाले उपकरण ही कुछ शक्तिशाली एल्गोरिदम द्वारा नियंत्रित हों, तो एक अलग भविष्य की कल्पना करने की हमारी क्षमता का क्या होता है? यह नॉर्थईस्टर्न यूनिवर्सिटी के सिना फाज़ेलपुर और मेका मैग्नानी के एक नए शोध पत्र की केंद्रीय चिंता है। उनका तर्क है कि हमें AI की सामान्य चिंताओं से परे देखने की आवश्यकता है, जैसे कि क्या यह लोगों के साथ निष्पक्ष व्यवहार करता है या संसाधनों का सही वितरण करता है, और इसके बजाय यह जांचना चाहिए कि यह कैसे चुपचाप इस बात को सीमित कर सकता है कि हम अपने और अपने समाज के लिए क्या संभव मानते हैं।
लेखक इस घटना को समझाने के लिए एक विशिष्ट अवधारणा पेश करते हैं: आकांक्षात्मक सामर्थ्य (aspirational affordances)। इन्हें मानसिक "हैंडल" या "पकड़ने के बिंदुओं" के रूप में सोचें जो संस्कृति प्रदान करती है, जिससे हम इस विचार को पकड़ सकें कि हम कौन हो सकते हैं। जिस तरह एक भौतिक सीढ़ी चढ़ने की क्षमता रखने वाले व्यक्ति के लिए चढ़ने का अवसर (affordance) प्रदान करती है, उसी तरह एक सांस्कृतिक कहानी या छवि उस व्यक्ति के लिए एक निश्चित प्रकार की आकांक्षा प्रदान करती है जो इसे समझ सकता है। ये सामर्थ्य नियतिवादी (deterministic) नहीं हैं; वे हमें किसी विशिष्ट तरीके से कार्य करने के लिए मजबूर नहीं करते हैं। हालांकि, वे कुछ पथों को स्पष्ट और सुलभ महसूस कराते हैं जबकि अन्य को अदृश्य या असंभव बना देते हैं। शोधकर्ताओं का सुझाव है कि जब AI सिस्टम ये कहानियाँ और छवियां उत्पन्न करते हैं, तो वे केवल मिश्रण में अधिक सामग्री नहीं जोड़ रहे होते हैं; वे मौलिक रूप से उस परिदृश्य को बदल रहे होते हैं जिसे हम कल्पना कर सकते हैं।
यह पत्र तीन अलग-अलग कारणों को रेखांकित करता है कि क्यों AI का हमारी आकांक्षाओं पर प्रभाव पारंपरिक मीडिया की तुलना में भिन्न और अधिक खतरनाक है। पहला, AI के साथ बातचीत अक्सर निजी, व्यक्तिगत और संवादात्मक होती है। एक सार्वजनिक रूप से साझा की जाने वाली फिल्म या पुस्तक के विपरीत, एक AI चैटबॉट एक लाइफ कोच या थेरेपिस्ट के रूप में कार्य कर सकता है, जो एक-पर-एक सेटिंग में अनुकूलित सलाह देता है। यह आत्मीयता सुझावों को अधिक वस्तुनिष्ठ और प्रश्न पूछने में कठिन बना सकती है। दूसरा, यह पारिस्थितिक (ecological) प्रभाव है, जिसका अर्थ है कि यह उस पूरे वातावरण को बदल देता है जिसमें विचार निर्मित होते हैं। AI का उपयोग अब स्क्रिप्ट लिखने, विज्ञापन डिजाइन करने और शहरों की योजना बनाने के लिए किया जा रहा है। इसका अर्थ है कि विचार जिनका मानव उपयोग करते हैं, वह पूल हमारे पास पहुँचने से पहले ही एल्गोरिदम द्वारा फ़िल्टर और पुनर्गठित किया जा रहा है। तीसरा, यह शक्ति अत्यधिक केंद्रित है। कुछ ही निगम उन प्रमुख AI सिस्टमों को नियंत्रित करते हैं जो इन सांस्कृतिक संसाधनों को उत्पन्न करते हैं। जब कुछ ही आवाजें भविष्य की कहानियों को निर्धारित करती हैं, तो संभावनाओं का दायरा संकुचित हो जाता है, और वैकल्पिक दृष्टिकोण मिटने के जोखिम में होते हैं।
इन जोखिमों को समझने के लिए, लेखक "आकांक्षात्मक हानि" (aspirational harm) नामक एक नई श्रेणी का प्रस्ताव करते हैं। यह AI की अधिक परिचित हानियों से अलग है, जैसे कि प्रतिनिधित्व संबंधी हानि (जहाँ एक समूह को रूढ़िबद्ध या अपमानजनक तरीके से चित्रित किया जाता है) या आवंटन संबंधी हानि (जहाँ संसाधनों का वितरण अनुचित तरीके से किया जाता है)। आकांक्षात्मक हानि तब होती है जब AI सिस्टम उपलब्ध व्याख्यात्मक संसाधनों को इस तरह से विकृत या कम कर देते हैं जो अपने जीवन के लिए व्यावहारिक संभावनाओं की कल्पना करने की एक व्यक्ति की क्षमता को कमजोर करता है। यह आवश्यक रूप से अपमानित होने या नौकरी से वंचित होने के बारे में नहीं है; यह अपने जीवन के लिए आगे का रास्ता देखने में असमर्थ होने के बारे में है। भले ही कोई AI सिस्टम किसी समूह को सम्मान के साथ चित्रित करे, फिर भी वह आकांक्षात्मक हानि पहुँचा सकता है यदि वह उन्हें केवल भूमिकाओं के एक संकीर्ण सेट में ही दिखाता है, जिससे अन्य तरीकों से अस्तित्व में रहने के द्वार प्रभावी रूप से बंद हो जाते हैं।
शोधकर्ता इसे तीन ठोस उदाहरणों के माध्यम से स्पष्ट करते हैं। पहले में, वे करियर मार्गदर्शन पर ध्यान केंद्रित करते हैं। एक AI सिस्टम महिलाओं को विज्ञान और प्रौद्योगिकी के क्षेत्रों में प्रवेश करने में मदद करने के लिए सफल महिला वैज्ञानिकों की छवियां दिखाकर मदद करने का प्रयास कर सकता है। हालांकि, यदि सिस्टम सफलता के एक एकल, कठोर आदर्श (archetype) को प्रस्तुत करता है—शायद एक ऐसा जो प्रतिकूल वातावरण में अत्यधिक लचीलेपन की मांग करता है—तो यह अनजाने में सफलता के अन्य वैध तरीकों को मिटा सकता है। यह संभावनाओं की एक विविध श्रृंखला को एक एकल, संकीर्ण पटकथा से बदल देता है, जिससे उन युवा महिलाओं की कल्पना को सीमित कर दिया जाता है जो किसी अलग तरह के करियर पथ का अनुसरण करना चाहती थीं।
दूसरे उदाहरण में, लेखक देखते हैं कि AI भविष्य को कैसे दृश्य रूप देता है। उन्होंने इसे यह पूछकर परीक्षण किया कि एक इमेज-जेनरेटिंग AI वर्ष 2040 में ईरानी स्कूली लड़कियों की तस्वीर कैसे बनाएगा। वास्तविक दुनिया का संदर्भ राजनीतिक स्वतंत्रता और अनिवार्य ड्रेस कोड को हटाने के आंदोलन से जुड़ा था। हालाँकि, AI ने ऐसी छवियां उत्पन्न कीं जो पूरी तरह से तकनीकी प्रगति पर केंद्रित थीं, जैसे कि होलोग्राफिक टैबलेट और पर्यावरण के अनुकूल वास्तुकला, जबकि सामाजिक और राजनीतिक यथास्थिति को पूरी तरह से बरकरार रखा गया। लड़कियां अभी भी हिजाब पहने हुए थीं, और राजनीतिक प्रतिबंध बने हुए थे। AI के पास भविष्य की कल्पना करने की शक्ति थी, लेकिन इसने एक ऐसे संस्करण को चुना जहाँ तकनीक तो बदली लेकिन मानवाधिकार नहीं बदले। इसने प्रभावी रूप से प्रदर्शनकारियों की आकांक्षाओं को मिटा दिया, जिससे उनके मुक्त भविष्य के दृष्टिकोण को अदृश्य बना दिया और, इसके परिणामस्वरूप, उन लोगों के लिए कम विश्वसनीय बना दिया जो उन छवियों को देखते हैं।
तीसरा उदाहरण इस बारे में है कि AI हमारी सामाजिक वास्तविकता की समझ को कैसे आकार देता है। जब AI सिस्टम समाचारों का सारांश बनाने या प्रश्नों के उत्तर देने के लिए उपयोग किए जाते हैं, तो वे सूक्ष्म रूप से उपयोगकर्ताओं को प्रमुख दृष्टिकोणों की ओर मोड़ सकते हैं जबकि वैकल्पिक आख्यानों को दबा सकते हैं। यदि कोई AI लगातार वर्तमान सामाजिक व्यवस्था को एकमात्र तार्किक या अपरिहार्य परिणाम के रूप में प्रस्तुत करता है, तो यह लोगों को यह कल्पना करने से हतोत्साहित कर सकता है कि चीजें अलग हो सकती हैं। यह केवल पूर्वाग्रह का मामला नहीं है; यह सामाजिक परिवर्तन के लिए उपलब्ध मानसिक स्थान को सिकोड़ने का मामला है। वर्तमान यथास्थिति को एकमात्र वास्तविकता बनाकर, ये सिस्टम उस आशा को कम कर सकते हैं जो परिवर्तन के लिए आवश्यक है।
शोध पत्र निष्कर्ष निकालता है कि ये हानियाँ वास्तविक हैं और इनके लिए तत्काल ध्यान देने की आवश्यकता है। लेखक यह नहीं कह रहे हैं कि AI एक राक्षस है जो हमारे सपनों को चुरा लेगा, न ही वे यह दावा कर रहे हैं कि नुकसान अपरिहार्य है। इसके बजाय, वे यह तर्क देते हैं कि हमें उन विशिष्ट शक्तियों को पहचानने की आवश्यकता है जो हमारे भविष्य के बारे में सोचने के लिए उपयोग किए जाने वाले संसाधनों को आकार देती हैं। खतरा उन लाखों व्यक्तिगत इंटरैक्शन और एल्गोरिथम विकल्पों के शांत, संचयी प्रभाव में निहित है जो धीरे-धीरे इस क्षितिज को संकुचित करते हैं कि हम क्या संभव मानते हैं। "आकांक्षात्मक हानि" को एक अलग श्रेणी के रूप में पहचानकर, शोधकर्ता यह उम्मीद करते हैं कि वे यह चर्चा शुरू कर सकेंगे कि कैसे ऐसे AI सिस्टम का डिज़ाइन बनाया जाए जो हमारी कल्पना को सीमित करने के बजाय उसे विस्तार दें। लक्ष्य यह सुनिश्चित करना है कि जैसे-जैसे ये तकनीकें हमारे जीवन में एकीकृत हो रही हैं, वे प्रतिरोध और परिवर्तन के उपकरण के रूप में कार्य करना जारी रखें, जिससे हमें एक ऐसा भविष्य देखने और बनाने में मदद मिले जो वास्तव में सभी के लिए खुला हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।