Modeling AI Overreliance as a Complex Adaptive System
यह शोध पत्र एआई (AI) पर अत्यधिक निर्भरता को एक जटिल अनुकूलनशील प्रणाली के रूप में मॉडल करता है, यह प्रदर्शित करते हुए कि जहाँ व्यक्तिगत शिक्षण और सामाजिक सर्वसम्मति स्वाभाविक रूप से सामूहिक विफलता का कारण नहीं बनते हैं, वहीं दृश्यमान असत्यापित उपयोग फीडबैक कैस्केड (feedback cascades) को सक्रिय करता है जिसे रणनीतिक फीडबैक डिज़ाइन के माध्यम से रोका जा सकता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक कार्यस्थल में, एक नए प्रकार का सहायक आया है। यह एक कृत्रिम बुद्धिमत्ता (AI) है जो ईमेल लिख सकती है, कोड लिख सकती है, या कानूनी दस्तावेजों का सारांश तैयार कर सकती है। हमें बताया जाता है कि ये उपकरण अविश्वसनीय रूप से सटीक हैं, फिर भी एक अजीब समस्या उभर कर आई है: लोग हमेशा इनका सही उपयोग नहीं करते हैं। कभी-कभी वे मशीन पर बहुत अधिक भरोसा करते हैं, और गलत उत्तर को भी तथ्य के रूप में स्वीकार कर लेते हैं। अन्य समय में, वे एक उपयोगी उपकरण को इसलिए अनदेखा कर देते हैं क्योंकि उसने अतीत में एक बार गलती की थी। शोधकर्ता लंबे समय से जानते हैं कि केवल सॉफ्टवेयर की सटीकता ही एकमात्र महत्वपूर्ण चीज़ नहीं है; जो अधिक मायने रखता है वह यह है कि मनुष्य यह कैसे तय करते हैं कि कब सुनना है और कब दोबारा जांच करनी है। वर्षों तक, वैज्ञानिकों ने इस व्यवहार का अध्ययन करने के लिए एक व्यक्ति को एक शांत प्रयोगशाला में एक एकल समस्या हल करने के लिए कहा। उन्होंने देखा कि वह व्यक्ति एक सुझाव के प्रति कैसी प्रतिक्रिया देता है। लेकिन यह दृष्टिकोण वास्तविक दुनिया के एक महत्वपूर्ण हिस्से को छोड़ देता है। वास्तव में, लोग अलगाव में काम नहीं करते हैं। वे अपने सहयोगियों को इन उपकरणों का उपयोग करते हुए देखते हैं। वे सफलताओं और विफलताओं के बारे में सुनते हैं। वे दूसरों में क्या देखते हैं, उसके आधार पर अपने स्वयं के व्यवहार को समायोजित करते हैं। यह प्रभाव का एक जटिल जाल बनाता है जहाँ एक व्यक्ति का विश्वास पूरे समूह में फैल सकता है, जिससे संभावित रूप से सभी के काम करने के तरीके में बदलाव आ सकता है।
पिट्सबर्ग विश्वविद्यालय के एक शोधकर्ता ने इस सामाजिक वास्तविकता को मॉडल करने का निर्णय लिया। एक समय में एक व्यक्ति का अध्ययन करने के बजाय, उन्होंने एक पूरी आबादी का कंप्यूटर सिमुलेशन बनाया। उन्होंने एक आभासी दुनिया बनाई जहाँ सैकड़ों डिजिटल एजेंटों को कार्यों की एक श्रृंखला का सामना करना पड़ा। इस दुनिया में, प्रत्येक एजेंट के पास तीन विकल्प थे: समस्या को अकेले हल करना, बिना देखे AI से उत्तर स्वीकार करना, या AI का उपयोग करना लेकिन फिर स्रोतों की जाँच करके या किसी मानव से पूछकर उत्तर को सत्यापित करना। एजेंट अपने अनुभवों से सीखते थे, और AI की विश्वसनीयता के बारे में अपनी धारणा को अपडेट करते थे। महत्वपूर्ण रूप से, वे सिमुलेशन में अपने पड़ोसियों से भी सीखते थे। वे देख सकते थे कि उनके साथी क्या कर रहे हैं। यदि उन्होंने देखा कि कई सहकर्मी बिना जाँच किए AI के उत्तरों को स्वीकार कर रहे हैं, तो उन्हें भी वैसा ही करने का सामाजिक दबाव महसूस हुआ। शोधकर्ता ने यह देखने के लिए हजारों सिमुलेशन चलाए कि समूह का व्यवहार समय के साथ कैसे विकसित होता है, जिसमें कार्य की कठिनाई, AI की गुणवत्ता और सामाजिक प्रभाव के विभिन्न स्तरों का परीक्षण किया गया।
सिमुलेशन द्वारा प्रकट की गई पहली बात यह थी कि वातावरण मंच तैयार करता है। कार्य की कठिनाई और AI की वास्तविक गुणवत्ता विश्वास के आधारभूत स्तर को निर्धारित करती है। जब कार्य आसान थे और AI अच्छा था, तो लोगों ने उचित रूप से उस पर भरोसा किया। जब कार्य कठिन थे और AI खराब था, तो लोग उस पर अत्यधिक निर्भर होने लगे, और गलत उत्तरों को अधिक बार स्वीकार करने लगे। हालाँकि, शोधकर्ता ने पाया कि सबसे खतरनाक कारक स्वयं AI नहीं था, बल्कि वह तरीका था जिससे लोग एक-दूसरे को देखते थे। उन्होंने एक विशिष्ट तंत्र की खोज की जिसे वे "सोशल प्रूफ" (सामाजिक प्रमाण) कहते हैं। यह वह भावना है कि कोई व्यवहार सही है क्योंकि बाकी सभी भी वही कर रहे हैं। सिमुलेशन में, जब एजेंटों ने देखा कि उनके पड़ोसी बिना जाँच किए AI का उपयोग कर रहे हैं, तो जाँच करने की उपयोगिता (utility) कम हो गई। यदि हर कोई बस उत्तर को स्वीकार कर रहा है, तो सत्यापन करना अनावश्यक लगा। इसने एक फीडबैक लूप बना दिया। जैसे-जैसे अधिक लोगों ने जाँच करना बंद किया, बिना जाँच के स्वीकार करना और भी सामान्य होता गया, जब तक कि पूरा समूह सामूहिक अति-निर्भरता की स्थिति में नहीं गिर गया। आबादी ने AI के काम को पूरी तरह से सत्यापित करना बंद कर दिया, इसलिए नहीं कि AI पूर्ण था, बल्कि इसलिए क्योंकि सामाजिक संकेत ने कहा कि सत्यापन की अब आवश्यकता नहीं है।
शोधकर्ता ने फिर यह परीक्षण किया कि क्या लोगों को एक नेटवर्क में जोड़ना ही इस पतन का कारण बनने के लिए पर्याप्त है। वे यह जानना चाहते थे कि क्या समूह की संरचना मायने रखती है—क्या कई कनेक्शन वाले कुछ लोकप्रिय "हब्स" (hubs) होने से परिणाम बदल जाएगा। आश्चर्यजनक रूप से, उन्होंने पाया कि नेटवर्क संरचना स्वयं अति-निर्भरता को प्रेरित नहीं करती थी। यदि एजेंट केवल अपने साथियों के काम के कच्चे परिणामों से सीख रहे थे, तो समूह केवल AI की गुणवत्ता पर एक सहमति तक पहुँच गया बिना अपने समग्र व्यवहार को बदले। नेटवर्क ने उन्हें मशीन पर अंधाधुंध विश्वास करने के लिए मजबूर नहीं किया। पतन तभी हुआ जब दूसरों के दृश्य व्यवहार ने सीधे तौर पर जाँच करने या न करने के निर्णय को प्रभावित किया। यह देखा गया व्यवहार था जिसने प्रभाव डाला, न कि केवल एक जुड़े हुए नेटवर्क की उपस्थिति। यह अंतर महत्वपूर्ण है। इसका अर्थ है कि समस्या यह नहीं है कि लोग बहुत अधिक जुड़े हुए हैं, बल्कि यह है कि वे गलत प्रकार के व्यवहार को देख रहे हैं।
अंत में, शोधकर्ता ने इस पतन को रोकने के तरीके की खोज की। उन्होंने फीडबैक लूप को पुनर्गठित करने के विभिन्न तरीकों का परीक्षण किया। उन्होंने पाया कि केवल AI के काम को जाँचना सस्ता या आसान बनाने से समस्या हल नहीं हुई। भले ही सत्यापन में कम समय लगता, लेकिन बिना जाँच के उपयोग करने का सामाजिक खिंचाव बहुत मजबूत बना रहा। इस प्रवृत्ति को उलटने का एकमात्र तरीका यह था कि जो लोग देख रहे थे उसे बदला जाए। जब शोधकर्ता ने सत्यापन के कार्य को दृश्यमान बनाया—ताकि एजेंट देख सकें कि उनके साथी काम की जाँच कर रहे हैं—तो समूह ने दिशा बदल ली। आबादी ने फिर से जाँच करना शुरू कर दिया, और सामूहिक अति-निर्भरता समाप्त हो गई। इसी तरह, यदि उन्होंने उस सामाजिक संकेत को कम किया जो बिना जाँच के उपयोग को सामान्य दिखाता था, तो समूह ने सुधार किया। अध्ययन बताता है कि लोगों को AI पर अंधाधुंध भरोसा करने से रोकने के लिए, हम केवल उपकरणों को बेहतर या जाँच प्रक्रिया को आसान नहीं बना सकते। हमें अपने इंटरफेस को इस तरह डिजाइन करना चाहिए कि जाँच का कार्य दृश्यमान और प्रशंसनीय हो, जिससे उस चक्र को तोड़ा जा सके जहाँ मौन और अनियंत्रित स्वीकृति डिफ़ॉल्ट बन जाती है।
इन सिमुलेशन के परिणाम एक स्पष्ट तस्वीर पेश करते हैं कि एक सामाजिक सेटिंग में मानव-AI संपर्क कैसे काम करता है। अति-निर्भरता का खतरा व्यक्तिगत उपयोगकर्ता की खामी नहीं है, बल्कि फीडबैक लूप की एक प्रणालीगत विफलता है। जब एक समुदाय अनियंत्रित उपयोग को सामान्य मानता है, तो सत्यापन समाप्त हो जाता है। जब सत्यापन को दृश्यमान बनाया जाता है, तो समुदाय पुनर्गठित होता है। इसका मतलब यह नहीं है कि समस्या हल हो गई है, लेकिन यह आगे का रास्ता दिखाता है। शोधकर्ता इस बात पर जोर देते हैं कि ये निष्कर्ष कंप्यूटर मॉडल से आए हैं, वास्तविक दुनिया के प्रयोगों से नहीं, इसलिए वे एक अंतिम निर्णय के बजाय परीक्षण योग्य परिकल्पनाओं का एक सेट प्रतिनिधित्व करते हैं। फिर भी, तर्क सुदृढ़ है: जिस तरह से हम अपने साथियों द्वारा तकनीक का उपयोग देखते हैं, वह हमारे स्वयं के उपयोग को आकार देता है। यदि हम एक ऐसे भविष्य से बचना चाहते हैं जहाँ पूरे समूह उन मशीनों पर सवाल उठाना बंद कर दें जिन पर वे निर्भर हैं, तो हमें इस बात के प्रति सावधान रहना होगा कि हम किन व्यवहारों को दृश्यमान बनाते हैं। समाधान एल्गोरिदम में नहीं, बल्कि उसके आसपास के सामाजिक वातावरण के डिजाइन में निहित है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।