Human-AI Relationships at the Intersection of Engineering, Ethics, and Policy: A Systematic Review
169 अध्ययनों (2022-2026) का यह व्यवस्थित अवलोकन प्रकट करता है कि वर्तमान मानव-एआई शासन खंडित और प्रतिक्रियात्मक है, जो इंजीनियरिंग, नैतिकता और नीति के बीच महत्वपूर्ण अंतराल द्वारा लक्षित है, और मानवशास्त्रीय धोखे (anthropomorphic deception) और उपयोगकर्ता की संवेदनशीलता जैसे मुद्दों को संबोधित करने के लिए एक तर्कसंगत, पूर्वसूचक, बहु-हितधारक ढांचे की ओर तत्काल बदलाव का तर्क देता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
हम एक ऐसे क्षण में पहुँच गए हैं जहाँ हम जिनसे बात करते हैं, वे मशीनें अब केवल प्रश्नों के उत्तर नहीं देतीं; वे सांत्वना, साथ और यहाँ तक कि रोमांस का भी आभास कराती हैं। लाखों लोगों के लिए, आर्टिफिशियल इंटेलिजेंस (AI) कार्यों को पूरा करने वाले एक उपकरण से बदलकर एक सामाजिक साथी के रूप में बदल गया है जो मानवीय सहानुभूति और भावनाओं की नकल करता है। इस तीव्र विकास ने एक नए प्रकार के संबंध को जन्म दिया है, जहाँ उपयोगकर्ता सॉफ्टवेयर के साथ वास्तविक भावनात्मक बंधन बनाते हैं। हालाँकि, यह बदलाव उन नियमों और दिशा-निर्देशों की गति से कहीं आगे निकल गया है जो लोगों की सुरक्षा के लिए बनाए गए हैं। जबकि इंजीनियर इन प्रणालियों को अधिक मानव जैसा बनाने के लिए निर्माण कर रहे हैं, और नीतिशास्त्री मनोवैज्ञानिक जोखिमों को लेकर चिंतित हैं, उन्हें नियंत्रित करने वाले कानून और नीतियां बिखरी हुई और प्रतिक्रियात्मक बनी हुई हैं। समाज के सामने अब केंद्रीय प्रश्न यह है कि सुरक्षा, ईमानदारी और मानव कल्याण को नज़रअंदाज़ किए बिना इन संबंधों को कैसे प्रबंधित किया जाए।
ओटावा विश्वविद्यालय के शोधकर्ताओं की एक टीम ने इस जटिल परिदृश्य का मानचित्रण करने का प्रयास किया। उन्होंने मौजूदा वैज्ञानिक साहित्य को एकत्र करने और विश्लेषण करने की एक व्यवस्थित समीक्षा आयोजित की, ताकि यह समझा जा सके कि इंजीनियरिंग, नैतिकता और नीति वर्तमान में मानव-AI संबंधों के अध्ययन में कैसे एक दूसरे से जुड़ते हैं। 2022 और 2026 के बीच प्रकाशित अध्ययनों पर ध्यान केंद्रित करते हुए, उन्होंने सैकड़ों रिकॉर्ड्स की छानबीन की ताकि उन 169 शोध पत्रों को खोजा जा सके जो सीधे मनुष्यों और आर्टिफिशियल इंटेलिजेंस के बीच के संबंध को संबोधित करते थे। उनका लक्ष्य केवल यह सूचीबद्ध करना नहीं था कि क्या अध्ययन किया गया है, बल्कि यह देखना था कि ये तीन क्षेत्र—कि तकनीक कैसे बनाई जाती है, उसका नैतिक मूल्यांकन कैसे किया जाता है, और उसे कैसे विनियमित किया जाता है—एक-दूसरे से कैसे बात करते हैं, या आपस में संवाद करने में विफल रहते हैं।
शोधकर्ताओं ने पाया कि ज्ञान का वर्तमान भंडार एक एकल, एकीकृत संवाद नहीं है। इसके बजाय, यह तीन अलग-अलग समूहों, या क्लस्टर्स में विभाजित है, जो शायद ही कभी एक-दूसरे से बात करते हैं। पहला समूह सामाजिक और उपभोक्ता पक्ष पर केंद्रित है, जहाँ लोग AI साथियों के साथ चैट करते हैं। यहाँ, शोध AI को मानवीय महसूस कराने और उपयोगकर्ताओं को धोखा देने के जोखिम के बीच के तनाव से गहराई से चिंतित है। इस क्षेत्र के अध्ययन अक्सर यह पता लगाते हैं कि लोग इन डिजिटल मित्रों पर भावनात्मक रूप से कैसे निर्भर हो जाते हैं, फिर भी उनमें वास्तविक कानूनों या सरकारी नीतियों के साथ अक्सर कोई संबंध नहीं होता है। ऐसा लगता है जैसे शोधकर्ता एक नई घटना के भावनात्मक प्रभाव का अध्ययन कर रहे हैं, जबकि कानूनी प्रणाली इससे पूरी तरह अनजान है।
दूसरा समूह सबसे बड़ा है और यह उपयोगकर्ताओं को जोड़े रखने और उन्हें सुरक्षित रखने के बीच संतुलन से संबंधित है। यह क्लस्टर उन सैद्धांतिक ढांचों और प्रस्तावों से भरा है कि इन प्रणालियों को कैसे शासित किया जाए, लेकिन इसमें एक महत्वपूर्ण कमी है: यह शायद ही कभी इन विचारों को ठोस नीति में परिवर्तित करता है। यहाँ शोधकर्ता भविष्य के नियमों को डिजाइन करने में व्यस्त हैं, लेकिन वे अभी तक उन लोगों के साथ काम नहीं कर रहे हैं जो आज कानून लिखते हैं। तीसरा समूह स्वास्थ्य सेवा पर केंद्रित है, जहाँ AI डॉक्टरों और रोगियों की सहायता करता है। इस उच्च-जोखिम वाले वातावरण में, बातचीत बहुत अलग है। यहाँ, ध्यान पारदर्शिता और विश्वास पर है। क्योंकि एक चिकित्सा संबंधी गलती जीवन के लिए घातक हो सकती है, इसलिए इस बात पर ज़ोर दिया जाता है कि AI अपने निष्कर्षों तक कैसे पहुँचता है, उसके स्पष्टीकरण दिए जाएँ। यह समूह मौजूदा नीतियों, जैसे कि चिकित्सा नियमों के साथ सबसे अधिक जुड़ा हुआ है, लेकिन यह अक्सर उन भावनात्मक और संबंधपरक जोखिमों की अनदेखी करता है जो अन्य दो समूहों के केंद्र में हैं।
इस समीक्षा का एक प्रमुख निष्कर्ष यह है कि सबसे गंभीर समस्याएँ अक्सर इन समूहों के बीच के अंतराल में रह जाती हैं। शोधकर्ताओं ने एक आवर्ती मुद्दा पहचाना जिसे वे "जवाबदेही अंतराल" (accountability gap) कहते हैं। यह तब होता है जब कुछ गलत हो जाता है, और यह स्पष्ट नहीं होता कि इसके लिए कौन जिम्मेदार है: वह व्यक्ति जिसने सॉफ्टवेयर डिजाइन किया, वह कंपनी जो इसे बेचती है, या वह उपयोगकर्ता जो इस पर निर्भर था। यह भ्रम विशेष रूप रूप से तीव्र हो जाता है जब एक AI एक मानव मित्र या चिकित्सा सलाहकार की तरह कार्य करता है। समीक्षा ने एक "नियामक अंतराल" (regulatory lag) पर भी प्रकाश डाला, जिसका अर्थ है कि AI को नियंत्रित करने के नियम स्वयं तकनीक की तुलना में बहुत धीमी गति से चल रहे हैं। जब तक किसी विशिष्ट जोखिम को संबोधित करने के लिए कोई कानून लिखा जाता है, तब तक तकनीक अक्सर पहले ही बदल चुकी होती है।
शायद सबसे चिंताजनक बात शोधकर्ताओं के ज्ञान और वास्तव में किए जा रहे कार्यों के बीच का विच्छेद है। अध्ययन में पाया गया कि जबकि कई शोध पत्र भावनात्मक हेरफेर और उपयोगकर्ता की संवेदनशीलता के खतरों पर चर्चा करते हैं, इन चिंताओं को शायद ही कभी लागू करने योग्य नियमों में बदला जाता है। स्वास्थ्य सेवा क्षेत्र में, जहाँ नियम सख्त हैं, नैतिक सिद्धांतों और वास्तविक दुनिया के अभ्यास के बीच का अंतर व्यापक बना हुआ है। सामाजिक क्षेत्र में, जहाँ नियम ढीले हैं, यह अंतर अक्सर अदृश्य होता है क्योंकि यह बातचीत कभी नीति निर्माताओं तक नहीं पहुँचती। शोधकर्ता सुझाव देते हैं कि वर्तमान दृष्टिकोण बहुत अधिक प्रतिक्रियात्मक है, जो समस्याओं को रोकने के बजाय उनके प्रकट होने के बाद लक्षणों का उपचार करता है।
यह समीक्षा एक विशिष्ट पथ की ओर संकेत करती है: एक डिज़ाइन दर्शन जिसे 'वैल्यू-सेंसिटिव डिज़ाइन' (Value-Sensitive Design) कहा जाता है। यह दृष्टिकोण इंजीनियरों से यह अपेक्षा करता है कि वे तकनीकी समस्याओं को बाद में ठीक करने के बजाय, शुरुआत से ही तकनीक में नैतिक विचारों को शामिल करें। हालाँकि, लेखक नोट करते हैं कि जबकि यह विचार सिद्धांत में लोकप्रिय है, लेकिन व्यवहार में इसे बहुत कम लागू किया जाता है। लोगों की रक्षा करने के लिए, अध्ययन का तर्क है कि इंजीनियरों, नीतिशास्त्रियों और नीति निर्माताओं को अलग-थलग होकर काम करना बंद करना चाहिए। उन्हें सहयोग करने की आवश्यकता है ताकि एक ऐसा ढांचा बनाया जा सके जो जोखिमों का पूर्वानुमान लगा सके, जिससे यह सुनिश्चित हो सके कि जैसे-जैसे AI हमारे जीवन में अधिक एकीकृत हो रहा है, वह मानवीय गरिमा और सुरक्षा का सम्मान करते हुए हो। इस समन्वित प्रयास के बिना, आर्टिफिशियल इंटेलिजेंस का तीव्र विकास इसे जिम्मेदारी से नियंत्रित करने की हमारी क्षमता से आगे बढ़ता रहेगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।