Algorithmic Addiction by Design: Big Tech's Leverage of Dark Patterns to Maintain Market Dominance and its Challenge for Content Moderation

मिशेल नी के शोध पत्र, "एल्गोरिद्मिक एडिक्शन बाय डिज़ाइन" (Algorithmic Addiction by Design) का सरल भाषा और रोज़मर्रा के उदाहरणों के साथ विवरण यहाँ दिया गया है।

बड़ी तस्वीर: डिजिटल कैसीनो

कल्पना कीजिए कि सबसे बड़ी तकनीकी कंपनियाँ (जैसे गूगल, मेटा, अमेज़न और एप्पल) एक विशाल, हाई-टेक कैसीनो की मालिक हैं। उनका लक्ष्य केवल आपको खेल खेलने देना नहीं है; उनका लक्ष्य आपको यथासंभव लंबे समय तक मेज पर बनाए रखना है ताकि वे आपके ध्यान (attention) को विज्ञापनों को बेच सकें।

यह शोध पत्र तर्क देता है कि ये कंपनियाँ केवल भाग्यशाली नहीं हैं; वे धोखाधड़ी कर रही हैं। उन्होंने जानबूझकर अपने प्लेटफॉर्म्स (जैसे इंस्टाग्राम, टिकटॉक और यूट्यूब) को ऐसे "ट्रिक्स" का उपयोग करके बनाया है जिससे आपका वापस जाना असंभव हो जाए। यह कोई दुर्घटना नहीं है; यह उन्हें प्रभावशाली और लाभदायक बनाए रखने की एक व्यावसायिक रणनीति है।

व्यापार के नुस्खे (डार्क पैटर्न्स)

शोध पत्र इन ट्रिक्स को "डार्क पैटर्न्स" (Dark Patterns) कहता है। इन्हें ऐसे डिज़ाइन विकल्पों के रूप में सोचें जो किसी वीडियो गेम को खिलाड़ी के लिए "अनुचित" महसूस कराते हैं, लेकिन इस तरह से कि आप खेलते रहने के लिए मजबूर हो जाते हैं।

1. अनंत गलियारा (इन्फिनिट स्क्रॉल और ऑटोप्ले):

   • ट्रिक: सामान्यतः, जब आप कोई किताब या टीवी शो समाप्त करते हैं, तो आपको एक चुनाव करना होता है: "क्या मैं और पढ़ना/देखना चाहता हूँ?" ये प्लेटफॉर्म यह विकल्प ही हटा देते हैं। वे बिना आपके छुए अपने आप अगला वीडियो लोड कर देते हैं या अगली पोस्ट दिखा देते हैं।
   • उदाहरण: यह कैंडी की एक ऐसी कन्वेयर बेल्ट की तरह है जो कभी नहीं रुकती। आपको अगला टुकड़ा लेने के लिए हाथ बढ़ाने की ज़रूरत नहीं है; वह बस सीधे आपके मुँह में आ जाता है। यह आपकी "मैं भर गया हूँ" या "मेरा हो गया है" कहने की क्षमता को छीन लेता है।

2. मन पढ़ने वाला शेफ (रिकमेंडर एल्गोरिदम):

   • ट्रिक: ऐप्स शक्तिशाली AI का उपयोग यह अध्ययन करने के लिए करते हैं कि आप किस पर क्लिक करते हैं, कहाँ अधिक समय बिताते हैं, और यहाँ तक कि आपके डर क्या हैं। फिर वे आपको ऐसा कंटेंट परोसते हैं जो आपके विशिष्ट मनोवैज्ञानिक बटनों को हिट करता है।
   • उदाहरण: एक ऐसे शेफ की कल्पना करें जो जानता है कि आप वास्तव में क्या चाहते हैं। यदि आप उदास महसूस कर रहे हैं, तो वे आपको सलाद नहीं देंगे; वे आपको एक ट्रिपल-चॉकलेट केक देंगे जो आपके भावनात्मक स्थान को पूरी तरह से संतुष्ट कर दे। शोध पत्र नोट करता है कि व्यक्तिगत फीड मस्तिष्क के उन्हीं हिस्सों को सक्रिय करती है जो ड्रग एडिक्शन (नशे की लत) के समान होते हैं।

3. FOMO का जाल (मनोविज्ञान का शोषण):

   • ट्रिक: "स्टोरीज" जैसे फीचर्स जो 24 घंटे के बाद गायब हो जाते हैं, इस तरह डिज़ाइन किए गए हैं कि वे आपको यह महसूस कराएं कि यदि आप लगातार चेक नहीं कर रहे हैं, तो आप कुछ महत्वपूर्ण मिस कर देंगे।
     la उदाहरण: यह एक ऐसी पार्टी की तरह है जहाँ मेजबान लगातार फुसफुसाता रहता है, "सबसे अच्छा हिस्सा अभी हो रहा है, लेकिन अगर आप एक मिनट के लिए भी कमरे से बाहर गए, तो आप इसे हमेशा के लिए मिस कर देंगे।" यह आपको स्क्रीन से चिपके रहने, तनावग्रस्त रहने और डिस्कनेक्ट न हो पाने के लिए मजबूर रखता है।

लागत: यह हमें कैसे नुकसान पहुँचाता है (विशेषकर बच्चों को)

शोध पत्र चेतावनी देता है कि यह "कैसिनो" खतरनाक है, विशेष रूप से बच्चों और किशोरों के लिए जिनका मस्तिष्क अभी विकसित हो रहा है।

• मानसिक प्रभाव: ठीक उसी तरह जैसे एक जुआरी अपनी नींद और पैसा खो देता है, इन ऐप्स के आदी बच्चे चिंता, अवसाद और नींद की कमी से जूझते हैं।
• सामाजिक प्रभाव: शोध पत्र का तर्क है कि ये ऐप्स "नकली समुदायों" की तरह हैं। वे क्षणिक रूप से संतोषजनक लग सकते हैं, लेकिन वे वास्तविक, स्थायी दोस्ती नहीं बनाते हैं। यह चिप्स के एक पैकेट को खाने और घर के बने भोजन के बीच का अंतर है (चिप्स संतोषजनक लेकिन खाली होते हैं, जबकि घर का खाना पौष्टिक होता है)। असली जुड़ाव के लिए चिप्स पर निर्भर रहना आपको वास्तव में भूखा छोड़ देता है।

"कंटेंट मॉडरेशन" की समस्या

आप सोच सकते हैं, "क्या कंपनियाँ अपने कंटेंट को सुरक्षित बनाने के लिए खुद की निगरानी नहीं कर सकतीं?" शोध पत्र कहता है नहीं, इसके दो मुख्य कारण हैं:

1. लाभ का संघर्ष: कंपनियाँ जानती हैं कि "सुरक्षित" कंटेंट (जैसे कि पोस्ट को उस क्रम में दिखाना जिसमें वे बनाई गई थीं, बजाय इसके कि AI क्या दिखाना चाहता है) कम लत लगाने वाला होता है। कम लत का मतलब है ऐप पर कम समय, जिसका अर्थ है कम लाभ। वे उस मशीन को ठीक नहीं करेंगी जो पैसा बनाना बंद कर देती है।
2. राजनीतिक दबाव: वर्तमान में, बहुत अधिक राजनीतिक दबाव (विशेष रूप से अमेरिका में) है जो इन कंपनियों को भाषण को "सेंसर" करने से रोकने और सब कुछ मुक्त छोड़ने के लिए कह रहा है। शोध पत्र का तर्क है कि इस माहौल में, कंपनियाँ स्वेच्छा से खुद पर सीमाएं लगाने की संभावना नहीं रखेंगी।

समाधान: खेल के नियम बदलना

शोध पत्र सुझाव देता है कि हम केवल उपयोगकर्ताओं पर "अधिक प्रयास करने" के भरोसे नहीं रह सकते क्योंकि खेल का मैदान पक्षपाती है, इसलिए हमें खेल के नियमों को पूरी तरह से बदलने की आवश्यकता है।

1. नए कानून (एक "सुरक्षा निरीक्षक"):

   • शोध पत्र यूरोप की ओर इशारा करता है, जहाँ कानून निर्माता ऐसे कानून पारित करने की कोशिश कर रहे हैं जो कंपनियों को डिफ़ॉल्ट रूप से "ट्रिक्स" को बंद करने के लिए मजबूर करें।
   • समाधान: एक ऐसा कानून जिसकी कल्पना की जा सकती है: "आप अनंत कन्वेयर बेल्ट नहीं रख सकते। आपको ग्राहक से पूछना होगा कि क्या वे और चाहते हैं।" इसका मतलब होगा कि ऑटोप्ले और इन्फिनिट स्क्रॉल को तब तक बंद रखना जब तक कि उपयोगकर्ता विशेष रूप से न पूछे।

2. एकाधिकार को तोड़ना (Antitrust):

   • शोध पत्र का तर्क है कि ये कंपनियाँ इतनी शक्तिशाली हैं क्योंकि वे पूरे इकोसिस्टम (फोन, ऐप, इंटरनेट कनेक्शन) की मालिक हैं।
   • समाधान: हमें इन दिग्गजों को अलग करने के लिए पुराने "एंटीट्रस्ट" कानूनों का उपयोग करने की आवश्यकता हो सकती है। यदि वे पूरे कैसीनो की मालिक नहीं हो सकतीं, तो उन्हें केवल एक अधिक लत लगाने वाले उत्पाद के बजाय एक बेहतर उत्पाद बनाने के लिए प्रतिस्पर्धा करने के लिए मजबूर किया जा सकता है।

3. "पब्लिशर" नियम को अपडेट करना (Section 230):

   • अमेरिका में, एक कानून (Section 230) है जो कहता है कि ये प्लेटफॉर्म जो लोग पोस्ट करते हैं उसके लिए जिम्मेदार नहीं हैं। शोध पत्र का तर्क है कि इस कानून ने उन्हें उनके डिज़ाइन से होने वाले नुकसान के लिए जवाबदेही से मुक्त कर दिया है। इस कानून को बदलने से उन्हें उनके उत्पादों की लत लगाने वाली प्रकृति के लिए जिम्मेदारी लेने के लिए मजबूर किया जा सकता है।

निचोड़

शोध पत्र निष्कर्ष निकालता है कि हम केवल उपयोगकर्ताओं को शिक्षित करके ऐप्स का उपयोग कम करने के लिए नहीं कह सकते क्योंकि ये ऐप्स सुपर-स्मार्ट AI द्वारा बनाए गए हैं जो इन्हें अपरिहार्य (irresistible) बनाते हैं। इसे ठीक करने का एकमात्र तरीका प्रोत्साहन (incentives) को बदलना है। हमें ऐसे कानूनों और नियमों की आवश्यकता है जो कंपनियों को हमें आदी बनाकर लाभ कमाने से रोकें, और उन्हें ऐसी तकनीक डिजाइन करने के लिए मजबूर करें जो हमारे समय को चुराने के बजाय हमारे समय और मानसिक स्वास्थ्य का सम्मान करे।