AI Agents Push Humans Out of the Loop

आधुनिक कार्यस्थल में, अस्पतालों से लेकर कॉर्पोरेट कार्यालयों तक, एक नए प्रकार का डिजिटल सहायक अधिक जिम्मेदारी संभाल रहा है। ये वे सरल उपकरण नहीं हैं जो किसी कमांड का इंतजार करते हैं और फिर एक एकल कार्य करते हैं; ये स्वायत्त एजेंट (autonomous agents) हैं जो स्वयं योजना बनाने, निर्णय लेने और जटिल क्रियाओं के अनुक्रमों को निष्पादित करने में सक्षम हैं। क्योंकि ये सिस्टम इतनी स्वतंत्रता के साथ कार्य कर सकते हैं, विशेषज्ञों और नियामकों ने लंबे समय से एक सुरक्षा नियम पर जोर दिया है: एक इंसान को हमेशा निगरानी में रहना चाहिए, ताकि यदि चीजें गलत हो जाएं तो वह हस्तक्षेप कर सके। यह अवधारणा, जिसे अक्सर "ह्यूमन इन द लूप" (मानव नियंत्रण में) कहा जाता है, यह मानती है कि एक व्यक्ति मशीन की प्रभावी ढंग से निगरानी कर सकता है, त्रुटियों को पहचान सकता है और गलत निर्णयों को बदल सकता है। हालांकि, यह धारणा एक महत्वपूर्ण विश्वास पर टिकी है: कि मानव पर्यवेक्षक मशीन को देखते समय भी सतर्क, कुशल और गहन सोच में सक्षम बना रहता है।

एक हालिया शोध पत्र इस विश्वास को सीधे चुनौती देता है। लेखक, जो हगिंग फेस (Hugging Face) और डेटा एंड सोसाइटी (Data & Society) के शोधकर्ता हैं, तर्क देते हैं कि इन उन्नत एआई एजेंटों का उपयोग करने की प्रक्रिया वास्तव में उन मानवीय कौशलों को धीरे-धीरे कम कर रही है जो उनकी निगरानी के लिए आवश्यक हैं। उनका सुझाव है कि जैसे-जैसे हम नियंत्रण मशीनों को सौंपते जा रहे हैं, हमारी समझने की क्षमता, मशीन के तर्क पर सवाल उठाने की क्षमता और गलतियों को पकड़ने की क्षमता क्षीण होती जा रही है। यह एक खतरनाक विरोधाभास पैदा करता है: एआई जितना अधिक सक्षम होता जाता है, मानव उतना ही कम सक्षम होता जाता है, जब तक कि मानव वास्तव में एक पर्यवेक्षक न रहकर केवल एक निष्क्रिय नाममात्र का व्यक्ति बनकर रह जाता है, जो सबसे महत्वपूर्ण समय पर हस्तक्षेप करने में असमर्थ होता है। यह शोध पत्र न केवल इस समस्या की पहचान करता है; बल्कि यह भी बताता है कि वर्तमान डिजाइन इसे कैसे बदतर बनाते हैं और इन प्रणालियों को बनाने का एक नया तरीका प्रस्तावित करता है जो मानवीय मानसिक सीमाओं को एक विचार के बाद के रूप में नहीं, बल्कि एक केंद्रीय इंजीनियरिंग आवश्यकता के रूप रूप में देखता है।

शोधकर्ता शुरुआत में समझाते हैं कि वर्तमान पर्यवेक्षण दृष्टिकोण क्यों विफल हो रहा है। अतीत में, जब कंप्यूटर सरल कार्य करते थे, तो एक मानव अंतिम परिणाम की आसानी से जांच कर सकता था। यदि कैलकुलेटर ने गलत संख्या दी, तो त्रुटि स्पष्ट थी। लेकिन आज के एआई एजेंट अलग हैं। वे केवल एक उत्तर नहीं देते; वे तर्क की लंबी श्रृंखलाएं बनाते हैं, विभिन्न सॉफ्टवेयर टूल्स का चयन करते हैं, और लक्ष्य पूरा करने के लिए अन्य प्रणालियों के साथ संवाद करते हैं। इसकी निगरानी करने के लिए, एक मानव को वास्तविक समय में एक तेजी से चलती, जटिल कहानी का पालन करना होगा, और एजेंट द्वारा उठाए गए प्रत्येक कदम को समझना होगा। शोध पत्र बताता है कि वर्तमान इंटरफेस इसमें मदद नहीं करते हैं। इसके बजाय, वे अक्सर उपयोगकर्ता को बहुत अधिक जानकारी से अभिभूत कर देते हैं या इसे इस तरह से प्रस्तुत करते हैं जिसे समझना कठिन हो। जब किसी मानव को कार्यों की एक लंबी सूची की समीक्षा करने या निर्णयों की एक श्रृंखला को मंजूरी देने के लिए कहा जाता है, तो वे अक्सर "अप्रूवल फटीग" (अनुमोदन की थकान) की स्थिति में चले जाते हैं। वे ध्यान से पढ़ना बंद कर देते हैं और काम को जारी रखने के लिए बस "एप्रूव" पर क्लिक करने लगते हैं, जिससे वे मशीन पर जरूरत से ज्यादा भरोसा करने लगते हैं।

यह इस शोध पत्र के मुख्य निष्कर्ष की ओर ले जाता है: स्वचालन (automation) की प्रक्रिया सक्रिय रूप से मानव मस्तिष्क को कमजोर कर रही है। लेखक उस शोध का हवाला देते हैं जो दिखाता है कि जब लोग स्वचालित प्रणालियों पर बहुत अधिक निर्भर होते हैं, तो उनके आलोचनात्मक सोच कौशल घटने लगते हैं, ठीक वैसे ही जैसे एक मांसपेशी जो अब उपयोग नहीं की जाती। वे इसे "डेस्किलिंग" (कौशल ह्रास) या "इंट्यूशन रस्ट" (सहज ज्ञान का जंग लगना) कहते हैं। जब कोई व्यक्ति समस्या का विश्लेषण करने के कठिन कार्य का अभ्यास करना बंद कर देता है क्योंकि एक मशीन उसके लिए यह काम कर रही है, तो वह इसे स्वयं करने की क्षमता खो देता है। यह विशेष रूप रूप से विशेषज्ञों के लिए सच है; यहाँ तक कि एक कुशल सॉफ्टवेयर डेवलपर जो एक नई भाषा में कोड लिखने के लिए एआई एजेंट का उपयोग करता है, वह भी समय के साथ उस भाषा की अपनी समझ को कमजोर होते देख सकता है। शोध पत्र नोट करता है कि यह केवल थकान का मामला नहीं है; यह मस्तिष्क के काम करने के तरीके में एक मौलिक परिवर्तन है। मनुष्य स्वाभाविक रूप से मानसिक शॉर्टकट लेना पसंद करते हैं, और जब एक एआई एक सहज, आत्मविश्वासी उत्तर प्रदान करता है, तो मस्तिष्क बिना किसी प्रश्न के उसे स्वीकार कर लेता है। इसे "ऑटोमेशन बायस" (स्वचालन पूर्वाग्रह) के रूप में जाना जाता है, और यह लोगों को मशीन पर तब भी भरोसा करने के लिए प्रेरित करता है जब वह गलत होती है।

स्थिति इस बात से और बिगड़ जाती है कि इन प्रणालियों को कैसे डिजाइन किया गया है और कंपनियां इनका उपयोग कैसे करती हैं। शोध पत्र का तर्क है कि वर्तमान एआई एजेंट कुशल और सुचारू होने के लिए बनाए गए हैं, जो अक्सर अपने आंतरिक तर्क को छिपा लेते हैं ताकि बातचीत निर्बाध लगे। पारदर्शिता की यह कमी मानव को यह देखने में कठिनाई पैदा करती है कि गलती कहाँ हो रही होगी। इसके अलावा, ये सिस्टम अक्सर मानवीय फीडबैक से सीखते हैं। यदि एक थका हुआ मानव बिना बारीकी से देखे एक गलत योजना को मंजूरी दे देता है, तो एआई यह सीख जाता है कि यह व्यवहार स्वीकार्य है। समय के साथ, सिस्टम उस चीज़ के लिए अनुकूलित (optimize) हो जाता है जो एक विचलित मानव को अच्छा दिखता है, न कि जो वास्तव में सही है। यह एक ऐसा फीडबैक लूप बनाता है जहाँ एआई इंसान को यह विश्वास दिलाने में बेहतर हो जाता है कि सब कुछ ठीक है, जबकि इंसान समस्याओं को पहचानने में कमजोर होता जाता है। लेखक इसे "कॉग्निटिव सरेंडर" (संज्ञानात्मक समर्पण) का एक रूप बताते हैं, जहाँ मानव नियंत्रण में रहने के लिए आवश्यक मानसिक प्रयास छोड़ देता है।

इसे ठीक करने के लिए, शोधकर्ता प्रस्तावित करते हैं कि हमें मानव निरीक्षण को एक साधारण 'एड-ऑन' के रूप में मानना बंद कर देना चाहिए और इसे सिस्टम के डिजाइन के एक मुख्य हिस्से के रूप में देखना शुरू करना चाहिए। वे एक दो-भाग वाला समाधान सुझाते जिसमें सॉफ्टवेयर बनाने वाले लोग और इसका उपयोग करने वाले संगठन दोनों शामिल हैं। डेवलपर्स के लिए, इसका अर्थ है ऐसे इंटरफेस बनाना जो मानव को सोचने के लिए मजबूर करें। एआई को सुचारू रूप से चलने देने के बजाय, सिस्टम को "रणनीतिक घर्षण" (strategic friction) पेश करना चाहिए। इसका अर्थ यह हो सकता है कि एआई के सुझाव देखने से पहले मानव को अपने स्वयं के तर्क को समझाने के लिए कहना, या किसी निर्णय को मंजूरी देने से पहले उन्हें एक क्षण रुकने के लिए कहना। ये छोटी बाधाएं मानव की आलोचनात्मक सोच को जगाने और उन्हें ऑटोपायलट पर केवल क्लिक करने से रोकने के लिए डिज़ाइन की गई हैं। शोध पत्र यह भी सुझाव देता है कि सिस्टम को मानव को ठीक वही दिखाना चाहिए जो एआई कर रहा है, न कि केवल अंतिम परिणाम, ताकि मानव के पास जो हो रहा है उसकी एक स्पष्ट तस्वीर बनी रहे।

उन संगठनों के लिए जो इन उपकरणों का उपयोग कर रहे हैं, समाधान यह है कि काम को कैसे व्यवस्थित किया जाए। शोध पत्र का तर्क है कि कंपनियों को अपने कर्मचारियों की मानसिक तीक्ष्णता की रक्षा करनी चाहिए। इसका अर्थ है कि एक व्यक्ति एआई की निगरानी में कितना समय बिता सकता है, इसकी सीमा तय करना, कौशल को ताजा रखने के लिए कर्मचारियों को एआई-सहायता प्राप्त कार्यों और मैनुअल कार्यों के बीच बदलना, और उन्हें यह प्रशिक्षण देना कि एआई किस तरह से विफल हो सकता है। इसका अर्थ भूमिकाओं को अलग करना भी है ताकि जो व्यक्ति काम की जांच कर रहा है, वह वही न हो जिसे काम जल्दी पूरा होने से लाभ मिलता है। यदि किसी प्रबंधक को गति के लिए पुरस्कृत किया जाता है, तो वह एआई की गलतियों को अनदेखा करने के लिए प्रेरित हो सकता है। इन प्रोत्साहनों को बदलकर, संगठन अपने कर्मचारियों को सतर्क और संलग्न रहने के लिए प्रोत्साहित कर सकते हैं।

लेखक स्पष्ट हैं कि केवल एआई को अधिक पारदर्शी बनाना या मनुष्यों को लॉग पढ़ने के लिए बेहतर उपकरण देना पर्याप्त नहीं है। उनका तर्क है कि कोई भी बेहतर सॉफ्टवेयर इस समस्या को ठीक नहीं कर सकता यदि मानव मस्तिष्क पहले से ही जटिलता के साथ जुड़ने की क्षमता खो चुका है। शोध पत्र का निष्कर्ष है कि इन परिवर्तनों के बिना, हम एक ऐसे भविष्य की ओर बढ़ रहे हैं जहाँ "ह्यूमन इन द लूप" एक भ्रम मात्र होगा। मानव शारीरिक रूप से वहां होगा, बटन दबा रहा होगा, लेकिन मानसिक रूप से वह बहुत दूर होगा, उस प्रणाली को समझने या नियंत्रित करने में असमर्थ होगा जिसकी उसे निगरानी करनी चाहिए। शोधकर्ता आग्रह करते हैं कि तकनीकी समुदाय को मानवीय संज्ञानात्मक सीमाओं को एक गंभीर इंजीनियरिंग बाधा के रूप में देखना चाहिए, जो एआई की गति या शक्ति के समान ही महत्वपूर्ण है। यदि हम मानव मस्तिष्क को सहारा देने के लिए कार्य नहीं करते हैं, तो वे सिस्टम जिन्हें हम हमारी मदद के लिए बनाते हैं, अंततः हमें लूप से पूरी तरह बाहर धकेल देंगे, जिससे हमारे पास ऐसी शक्तिशाली मशीनें बचेंगी जिन्हें हम प्रबंधित करना भी नहीं जानते।