Agentic AI: User Empowerment or Foreclosure?
ऐड ब्लॉकर्स और स्पैम फिल्टर जैसे ऐतिहासिक उदाहरणों का विश्लेषण करते हुए, यह शोध पत्र तर्क देता है कि एजेंटिक एआई (Agentic AI) की उपयोगकर्ताओं को सशक्त बनाने की क्षमता उद्योग-नियंत्रित मानकों के माध्यम से शासन के "वि-राजनीतिकरण" (depoliticization) को रोकने पर निर्भर करती है, क्योंकि वर्तमान में मालिकाना प्रोटोकॉल के इर्द-गिर्द हो रहा संकेंद्रण इस जोखिम को बढ़ाता है कि उपयोगकर्ता-अनुकूल विकल्पों के सुदृढ़ होने से पहले ही सामूहिक प्रतिवाद की क्षमता को समाप्त कर दिया जाएगा।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ आपका कंप्यूटर, फोन या कोई समर्पित उपकरण केवल आपके सवालों के जवाब देने के लिए ही नहीं, बल्कि आपके लिए काम करने के लिए आपका व्यक्तिगत सहायक बन जाए। यह आपके द्वारा देखी जाने वाली खबरों को फ़िल्टर कर सकता है, किसी उड़ान के लिए बेहतर कीमत पर बातचीत कर सकता है, या आपके सोते समय आपके निवेश का प्रबंधन कर सकता है। इस उभरती हुई तकनीक को 'एजेंटिक आर्टिफिशियल इंटेलिजेंस' (agentic artificial intelligence) कहा जाता है। वादा यह है कि ये एजेंट आपके सर्वोत्तम हित में कार्य करेंगे, जिससे आप उबाऊ कार्यों से मुक्त हो जाएंगे। लेकिन एक महत्वपूर्ण प्रश्न बना हुआ है: इन एजेंटों को वास्तव में नियंत्रित कौन करता है? यदि यह तकनीक कुछ बड़ी कंपनियों द्वारा बनाई गई है, तो क्या ये एजेंट वास्तव में आपकी सेवा करेंगे, या वे उन कंपनियों के हितों की सेवा करेंगे जिन्होंने उन्हें बनाया है? इस प्रश्न का उत्तर देने के लिए, मिशिगन विश्वविद्यालय के शोधकर्ताओं ने पिछले दो दशकों में इसी तरह की तकनीकों के विकास पर नज़र डाली। उन्होंने उन चार विशिष्ट क्षेत्रों का अध्ययन किया जहाँ सॉफ़्टवेयर को उपयोगकर्ताओं की ओर से कार्य करने के लिए डिज़ाइन किया गया था: वे उपकरण जो ऑनलाइन विज्ञापनों को ब्लॉक करते हैं, वे सिस्टम जो यह तय करते हैं कि आप सोशल मीडिया पर क्या सामग्री देखते हैं, स्वचालित वित्तीय सलाहकार, और वे फ़िल्टर जो स्पैम ईमेल को रोकते हैं। विभिन्न इतिहासों की तुलना करके, टीम ने एक परेशान करने वाला पैटर्न पाया। प्रत्येक मामले में, तकनीक उपयोगकर्ता के नियंत्रण के लिए संभावनाओं की एक विस्तृत श्रृंखला के साथ शुरू हुई थी, लेकिन समय के साथ, इन उपकरणों के काम करने के नियमों को उद्योग के मानकों और तकनीकी डिजाइनों द्वारा चुपचाप स्थापित कर दिया गया। यह प्रक्रिया, जिसे लेखक 'डिपॉलिटाइज़ेशन' (depoliticization - राजनीतिकता का अभाव) कहते हैं, राजनीतिक विकल्पों—कि किसे ब्लॉक या रिकमेंड किया जाना चाहिए, इसका निर्णय कौन लेगा—को ऐसे दिखने वाले तटस्थ तकनीकी तथ्यों में बदल देती है जिन्हें कोई आसानी से चुनौती नहीं दे सकता।
शोधकर्ताओं ने ब्राउज़र-आधारित एड ब्लॉकर्स (ad blockers) का परीक्षण करके शुरुआत की, जो वे उपकरण हैं जो वेब ब्राउज़ करते समय विज्ञापनों को छिपाने की अनुमति देते हैं। शुरुआती दिनों में, ये उपकरण लचीले थे। उपयोगकर्ता ऐसे एक्सटेंशन इंस्टॉल कर सकते थे जो खुले समुदायों द्वारा बनाए गए और अपडेट किए गए नियमों की सूची के आधार पर किसी भी विज्ञापन को रोक सकते थे। हालाँकि, जैसे-जैसे विज्ञापन उद्योग राजस्व के नुकसान को लेकर चिंतित हुआ, नियम बदल गए। एक प्रमुख ब्राउज़र निर्माता ने अपने अंतर्निहित सॉफ़्टवेयर को फिर से डिज़ाइन किया ताकि इन एक्सटेंशन की क्षमताओं को सीमित किया जा सके। एक्सटेंशन किसी भी अनुरोध को रोकने के बजाय, नए नियमों ने उन्हें अपने ब्लॉकिंग प्लान को पहले से घोषित करने के लिए मजबूर किया और उनके द्वारा उपयोग किए जाने वाले नियमों की संख्या को सीमित कर दिया। इस बदलाव को सुरक्षा सुधार के रूप में उचित ठहराया गया, लेकिन व्यावहारिक परिणाम यह था कि सबसे शक्तिशाली एड-ब्लॉकिंग टूल्स को कमजोर कर दिया गया। यह निर्णय कि क्या एक स्वीकार्य विज्ञापन माना जाए, अब उपयोगकर्ता या उनके समुदाय के अधीन नहीं था; यह एक उद्योग समूह द्वारा तय किया गया था जिसमें सबसे बड़े विज्ञापन विक्रेता शामिल थे, और ब्राउज़र निर्माता ने इस निर्णय को सभी के लिए स्वचालित रूप से लागू किया।
स्पैम फिल्टर के साथ भी ऐसी ही कहानी सामने आई। शुरुआत में, अवांछित ईमेल को रोकना एक सहयोगात्मक प्रयास था। नेटवर्क प्रशासकों के छोटे समूह ज्ञात खराब ईमेल पतों की सूचियाँ साझा करते थे, और कोई भी उन नियमों को देख सकता था या उनके खिलाफ तर्क दे सकता था। जैसे ही स्पैम एक विशाल औद्योगिक संचालन बन गया, समाधान शक्तिशाली कंप्यूटर प्रोग्रामों में बदल गया जो केवल विशाल ईमेल कंपनियों के पास मौजूद भारी मात्रा में डेटा का विश्लेषण करके स्पैम को पहचानने के लिए सीखे गए। ये नए सिस्टम व्यक्तिगत इनबॉक्स को साफ करने में अविश्वसनीय रूप से प्रभावी थे, जिससे ईमेल का उपयोग करना बहुत सुखद हो गया। हालाँकि, यह तय करने की शक्ति कि क्या स्पैम है, पूरी तरह से उन बड़ी कंपनियों के हाथों में चली गई। पुराने, खुले सूचकांकों की जगह निजी, 'ब्लैक-बॉक्स' सिस्टमों ने ले ली। परिणाम एक विरोधाभास था: औसत उपयोगकर्ता को बहुत कम स्पैम संदेश प्राप्त हुए, लेकिन सार्वजनिक या छोटे समूहों की यह क्षमता कि वे स्पैम के नियमों को चुनौती दे सकें या बदल सकें, पूरी तरह से गायब हो गई।
अध्ययन ने स्वचालित वित्तीय सलाहकारों और सोशल मीडिया अनुशंसा प्रणालियों (recommendation systems) को भी देखा। दोनों क्षेत्रों में, तकनीक का विचार उपयोगकर्ताओं के लिए सेवाओं को व्यक्तिगत बनाने का था। फिर भी, ये सिस्टम कैसे काम करेंगे इसके नियम चलाने वाली कंपनियों द्वारा निर्धारित किए गए थे, जो अक्सर उपयोगकर्ता की विशिष्ट आवश्यकताओं के बजाय अपने स्वयं के लाभ को प्राथमिकता देते थे। वित्तीय सलाहकारों के लिए, एल्गोरिदम को मानक निवेश सिद्धांतों का पालन करने के लिए डिज़ाइन किया गया था, लेकिन किन फंडों की सिफारिश की जाए, इसके विशिष्ट चयन अक्सर कंपनी के अपने उत्पादों के पक्ष में होते थे। सोशल मीडिया के लिए, सिस्टम्स ने उपयोगकर्ताओं को ऐसी सामग्री दिखाने के लिए सीखा जो उन्हें लंबे समय तक जोड़े रखे, एक ऐसा लक्ष्य जो अक्सर वास्तव में उपयोगी या विविध सामग्री दिखाने के विपरीत होता था। इन मामलों में, शोधकर्ताओं ने पाया कि उपयोगकर्ताओं के लिए यह प्रभाव डालने का स्थान कि एजेंट कैसे व्यवहार करेंगे, वास्तव में कभी खुला था ही नहीं। बुनियादी ढांचा स्वयं प्लेटफार्मों द्वारा बनाया गया था, जिसका अर्थ था कि नियम उपयोगकर्ताओं के पास भाग लेने का अवसर मिलने से पहले ही तय कर दिए गए थे।
इस शोध पत्र का मुख्य निष्कर्ष यह है कि व्यक्तिगत अनुभव में सुधार और लोगों की व्यवस्था को संगठित करने और चुनौती देने की क्षमता, दोनों विपरीत दिशाओं में जा सकते हैं। आप एक स्वच्छ इनबॉक्स या अधिक व्यक्तिगत फीड प्राप्त कर सकते हैं और साथ ही साथ उन प्रणालियों के काम करने के तरीके को बदलने की शक्ति भी खो सकते हैं। शोधकर्ता तर्क देते हैं कि ऐसा इसलिए होता है क्योंकि एजेंटों के क्या करने के निर्णय उनके तकनीकी डिजाइन में समाहित होते हैं। जब यह निर्णय लिया जाता है कि किस डेटा का उपयोग किया जाए या सॉफ़्टवेयर को किस लक्ष्य के लिए अनुकूलित किया जाना चाहिए, और वह विकल्प एक जटिल कोड या बंद उद्योग मानक के भीतर छिपा होता है, तो उसे चुनौती देना बहुत कठिन हो जाता है। लेखक इसे "डिपॉलिटाइज़ेशन" कहते हैं क्योंकि यह निर्णय की राजनीतिक प्रकृति को हटा देता है, जिससे यह इंजीनियरिंग दक्षता का एक सरल मामला प्रतीत होता है, न कि इस बारे में एक विकल्प कि किसके हितों की सेवा की जा रही है।
अब, शोधकर्ता इस दृष्टिकोण को नई लहर वाले 'एजेंटिक आर्टिफिशियल इंटेलिजेंस' पर लागू कर रहे हैं। वे समान पैटर्न बनते देख रहे हैं। एक नया सेट नियम, जिसे 'मॉडल कॉन्टेक्स्ट प्रोटोकॉल' (Model Context Protocol) के रूप में जाना जाता है, यह परिभाषित करने के लिए स्थापित किया जा रहा है कि ये AI एजेंट अन्य सेवाओं के साथ कैसे संवाद करेंगे। इस प्रोटोकॉल का प्रबंधन एक फाउंडेशन द्वारा किया जा रहा है जो बड़ी तकनीकी कंपनियों के प्रभुत्व में है। हालांकि यह प्रक्रिया सतह पर खुली दिखती है, जिसमें सार्वजनिक बैठकें और दस्तावेज़ शामिल हैं, लेकिन अंतिम निर्णय लेने की वास्तविक शक्ति इन प्रमुख कंपनियों के बोर्ड के पास है। यहाँ उपयोगकर्ता समूहों या सार्वजनिक हित के संगठनों के लिए इन निर्णयों को चुनौती देने का कोई औपचारिक तरीका नहीं है। शोधकर्ता चेतावनी देते हैं कि यदि यह पथ जारी रहता है, तो इन AI एजेंटों की सीमाएं तकनीक के जनता द्वारा पूरी तरह से उपयोग किए जाने से पहले ही उद्योग के भीतर के लोगों द्वारा तय कर दी जाएंगी। पिछले मामलों के विपरीत, जहाँ नियम कई वर्षों में कठोर हुए, ये निर्णय बहुत तेज़ी से, तकनीक के रिलीज़ होने के मात्र दो वर्षों के भीतर लिए जा रहे हैं।
पत्र का निष्कर्ष है कि उपयोगकर्ताओं को वास्तव में सशक्त बनाने के लिए, उन्हें केवल एक अच्छे व्यवहार वाले AI एजेंट की ही नहीं, बल्कि एक ऐसी प्रणाली की आवश्यकता है जहाँ नियमों को चुनौती दी जा सके। इसके लिए तीन चीजों की आवश्यकता है: यह देखने की क्षमता कि सिस्टम कैसे काम करता है, स्वतंत्र तकनीक तक पहुँच जो बड़ी कंपनियों द्वारा नियंत्रित नहीं है, और एक औपचारिक प्रक्रिया जहाँ उपयोगकर्ता उन निर्णयों के विरुद्ध तर्क दे सकें जो उन्हें नुकसान पहुँचाते हैं। शोधकर्ता सुझाव देते हैं कि हम एक महत्वपूर्ण क्षण पर हैं। एजेंटिक AI के नियम अभी लिखे जा रहे हैं। यदि हम तकनीक के पूरी तरह से स्थापित होने तक प्रतीक्षा करते हैं, तो इसके अंतर्निहित ढांचे को बदलना बहुत कठिन होगा। लक्ष्य केवल बेहतर एजेंट बनाना नहीं है, बल्कि एक ऐसा पारिस्थितिकी तंत्र बनाना है जहाँ यह तय करने की शक्ति कि वे एजेंट क्या करेंगे, विवाद के लिए खुली रहे, जिससे यह सुनिश्चित हो सके कि तकनीक जनता के बजाय केवल उन कंपनियों की सेवा करे जिन्होंने उन्हें बनाया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।