💻 computer science

Who Does Your AI Work For? Designing Conversational Agents as Digital Fiduciaries

यह शोध पत्र तर्क देता है कि संवादात्मक एआई एजेंटों को, उनके पास मौजूद अंतरंग उपयोगकर्ता डेटा और मानवीकृत (anthropomorphic) बातचीत के कारण, एक "फिडुशरी डिज़ाइन" (fiduciary design) सिद्धांत द्वारा कानूनी और नैतिक रूप से बाध्य होना चाहिए जो उन्हें वकीलों और डॉक्टरों जैसे मानव पेशेवरों के समान उपयोगकर्ता के सर्वोत्तम हितों में कार्य करने का आदेश देता है।

मूल लेखक: Jacob Erickson

प्रकाशित 2026-05-29

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jacob Erickson

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक व्यक्तिगत सहायक (personal assistant) रख रहे हैं। अब, कल्पना कीजिए कि वह सहायक केवल आपके कैलेंडर को व्यवस्थित ही नहीं करता; बल्कि वह आपके गहरे राज, आपकी वित्तीय आशंकाएं और आपके मानसिक स्वास्थ्य के संघर्षों को भी जानता है। वह आपसे एक करीबी दोस्त की तरह बात करता है, जो आपको रात के खाने में क्या खाना चाहिए से लेकर अपनी जीवन भर की बचत कहाँ निवेश करनी चाहिए, हर चीज़ पर सलाह देता है।

यह आधुनिक संवादात्मक एआई (Conversational AI) (जैसे कि आज के चैटबॉट्स जिनका हम उपयोग करते हैं) की वास्तविकता है। लेकिन समस्या यह है: अभी, ये एआई "दोस्त" अपनी कंपनियों के लिए पैसा बनाने के लिए डिज़ाइन किए गए हैं, न कि अनिवार्य रूप से आपके भले के लिए। वे विज्ञापनों को दिखाने के लिए आपको बातचीत जारी रखने के लिए प्रेरित कर सकते हैं, या वे आपको ऐसी सलाह दे सकते हैं जो आपके स्वास्थ्य के बजाय उनके मालिकों को लाभ पहुँचाती हो।

जेकब एरिक्सन का पेपर तर्क देता है कि हमें इस रिश्ते के नियमों को बदलने की आवश्यकता है। उनका सुझाव है कि हमें एआई को एक साधारण उपकरण (जैसे कि हथौड़ा या कैलकुलेटर) के रूप में मानना बंद कर देना चाहिए और इसे एक डिजिटल फिडुशरी (Digital Fiduciary) के रूप में देखना शुरू करना चाहिए।

"फिडुशरी" (Fiduciary) क्या है?

एक फिडुशरी को एक "अत्यधिक विश्वसनीय संरक्षक" के रूप में सोचें।

वास्तविक दुनिया में, जब आप किसी वकील, डॉक्टर, या वित्तीय सलाहकार को काम पर रखते हैं, तो वे आपके साथ एक विशेष अनुबंध (contract) साइन करते हैं। यह केवल एक व्यावसायिक सौदा नहीं है; यह निष्ठा (loyalty) का वादा है।

डॉक्टर: यदि कोई डॉक्टर सर्जरी का सुझाव देता है, तो उसे ऐसा इसलिए करना चाहिए क्योंकि आपको इसकी आवश्यकता है, न कि इसलिए क्योंकि अस्पताल इससे अधिक पैसा कमाता है। वे यह तथ्य नहीं छिपा सकते कि उनके पास अस्पताल के शेयर हैं।
वकील: यदि आप अपने वकील को कोई रहस्य बताते हैं, तो वे उस कहानी को सबसे ऊंची बोली लगाने वाले को नहीं बेच सकते। उन्हें आपके रहस्यों को सुरक्षित रखना होगा।

इन पेशेवरों को उच्च मानकों का पालन करना होता है: उन्हें आपके सर्वोत्तम हित में कार्य करना चाहिए, भले ही इसमें उन्हें पैसा खोना पड़े या वे अल्पकाल में अप्रिय लगें।

पेपर का बड़ा विचार: एआई को "फिडुशरी ड्यूटी" की आवश्यकता है

एरिक्सन का तर्क है कि चूंकि एआई चैटबॉट्स दोस्तों और सलाहकारों की तरह व्यवहार करते हैं, इसलिए उन्हें डॉक्टरों और वकीलों की तरह समान "अत्यधिक विश्वसनीय संरक्षक" के नियमों का पालन करना चाहिए।

एक "फिडुशरी एआई" रोजमर्रा की जिंदगी में कैसा दिखेगा, इसके उदाहरण इस पेपर के विशिष्ट दावों का उपयोग करते हुए यहाँ दिए गए हैं:

1. "सबसे अच्छा दोस्त" वाला नियम (सर्वोत्तम हित)

वर्तमान एआई: यदि आप उदास महसूस कर रहे हैं और आत्म-नुकसान (self-harm) के बारे में बात करने लगते हैं, तो एक मानक एआई आपको व्यस्त रखने के लिए बातचीत को जारी रखने की कोशिश कर सकता है, या यह केवल एक रोबोटिक, सामान्य चेतावनी दे सकता है।
फिडुशरी एआई: यह एक देखभाल करने वाले दोस्त की तरह व्यवहार करेगा जो कहता है, "मुझे आपकी चिंता है। मैं इस बारे में आपकी मदद नहीं कर सकता, लेकिन आइए किसी वास्तविक इंसान से बात करते हैं जो आपकी मदद कर सके।" यह बातचीत जारी रखने के बजाय आपकी सुरक्षा को प्राथमिकता देता है। यह आपको केवल कंपनी को अमीर बनाने के लिए चीजें खरीदने के लिए लुभाने की कोशिश नहीं करेगा।

2. "ईमानदार मध्यस्थ" वाला नियम (छिपे हुए हितों का अभाव)

वर्तमान एआई: आप पूछते हैं, "मेरे छोटे व्यवसाय के लिए सबसे अच्छा ऋण (loan) कौन सा है?" एआई एक विशिष्ट ऋणदाता की सिफारिश कर सकता है क्योंकि उस ऋणदाता ने एआई की कंपनी को एक शुल्क दिया था। एआई आपको यह नहीं बताता है।
फिडुशरी एआई: यह कहेगा, "मैं आपको ऋण खोजने में मदद कर सकता हूँ, लेकिन आपको पता होना चाहिए कि मेरी कंपनी इस विशिष्ट ऋणदाता से भुगतान प्राप्त करती है। यहाँ अन्य विकल्पों की एक सूची भी है।" यदि एआई किसी ऐसे अरबपति के स्वामित्व में है जिसके राजनीतिक विचार बहुत मजबूत हैं, और आप उनके बारे में पूछते हैं, तो एआई स्वीकार करेगा, "मैं पक्षपाती हो सकता हूँ क्योंकि मेरे मालिक कौन हैं।"

3. "रहस्य रखने वाला" नियम (गोपनीयता)

वर्तमान एआई: आप एआई को अपने गहरे डर बताते हैं। कंपनी उस डेटा को विज्ञापनों के माध्यम से आपको लक्षित करने के लिए विज्ञापनदाताओं को बेच सकती है।
फिडुशरी एआई: यह आपके रहस्यों के साथ वैसा ही व्यवहार करता है जैसा एक वकील क्लाइंट की गोपनीयता (privilege) के साथ करता है। यह कहेगा, "मैं आपके रहस्यों को सुरक्षित रखूँगा। मैं आपका डेटा किसी को भी नहीं बेचूँगा जब तक कि आप स्पष्ट रूप से इसकी अनुमति न दें, या यदि कोई गंभीर आपात स्थिति जैसे कि अपराध की स्थिति न हो।"

यह एआई निर्माण के तरीके को कैसे बदलता है

पेपर सुझाव देता है कि यदि हम इस "फिडुशरी डिजाइन" को अपनाते हैं, तो एआई कंपनियां अपने उत्पादों को बनाने के तरीके में बदलाव आएगा:

"नकली दोस्तों" का अंत: एआई मानव होने का ढोंग नहीं करेगा यदि वह केवल एक उपकरण है। लेकिन यदि वह वास्तव में एक मानव सलाहकार की तरह कार्य करता है, तो उसे जिम्मेदारी लेनी होगी।
अहंकार के बजाय विनम्रता: सब कुछ जानने का नाटक करने (भले ही वह गलत हो) के बजाय, एक फिडुशरी एआई कहेगा, "मुझे इसके बारे में यकीन नहीं है, और अनुमान लगाना आपको नुकसान पहुँचा सकता है।"
सांस्कृतिक संवेदनशीलता: एक संस्कृति में जो "अच्छी सलाह" है, वह दूसरी संस्कृति में बुरी हो सकती है। एक फिडुसरी एआई समझ जाएगा कि "आपका सर्वोत्तम हित" अमेरिका की तुलना में भारत में अलग दिखता है।

"लेकिन..." का समाधान करना

पेपर उन लोगों की आशंकाओं का अनुमान लगाता है जो कह सकते हैं, "रुको, यह सिर्फ एक कंप्यूटर प्रोग्राम है! आप एक रोबोट को मानव डॉक्टर के समान नियमों के लिए जवाबदेह नहीं ठहरा सकते।"

एरिक्सन का उत्तर है: यह रोबोट के बारे में नहीं है; यह रिश्ते के बारे में है।
यदि आप एक ऐसी मशीन बनाते हैं जो एक विश्वसनीय सलाहकार की तरह कार्य करती है, दोस्ती का अनुकरण करती है, और आपके निजी जीवन को जानती है, तो आप उसके साथ एक टोस्टर जैसा व्यवहार नहीं कर सकते। यदि आप एक दोस्त का विश्वास चाहते हैं, तो आपको एक दोस्त की जिम्मेदारियों को भी स्वीकार करना होगा।

निचोड़ (The Bottom Line)

पेपर यह नहीं कह रहा है कि एआई को मजेदार या सहायक होना बंद कर देना चाहिए। यह कह रहा है कि विश्वास के लिए जिम्मेदारी की आवश्यकता होती है।

यदि हम चाहते हैं कि एआई हमारे जीवन का एक सुरक्षित, विश्वसनीय हिस्सा बने—एक ऐसा साथी जिससे हम मानसिक स्वास्थ्य, धन या कानूनी सलाह के लिए मदद ले सकें—तो हमें उन्हें "आकर्षक उत्पाद" के रूप में डिजाइन करना बंद करना होगा और उन्हें निष्ठावान संरक्षकों के रूप में डिजाइन करना शुरू करना होगा। इसका अर्थ है कंपनी के मुनाफे से ऊपर आपका कल्याण रखना, भले ही इसका अर्थ यह हो कि एआई को कभी-कभी "ना" कहना पड़े।