Functional Misalignment in Human-AI Interactions on Digital Platforms
यह शोध पत्र यह तर्क देता है कि एल्गोरिद्मिक प्रणालियों के प्रतिकूल सामाजिक परिणाम, जैसे कि ध्रुवीकरण और मानसिक स्वास्थ्य संबंधी मुद्दे, एक संरचनात्मक "कार्यात्मक बेमेल" (फंक्शनल मिसअलाइनमेंट) से उत्पन्न होते हैं जहाँ पूर्वानुमेय व्यवहार संबंधी संकेतों के लिए अनुकूलन करना वास्तविक मानवीय लक्ष्यों के साथ तालमेल बिठाने में विफल रहता है, जो कि प्रतिक्रियाशील संकेतों, फीडबैक लूप और उभरती सामूहिक गतिशीलता के प्रति पूर्वाग्रहों द्वारा संचालित एक समस्या है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ "Functional Misalignment in Human–AI Interactions on Digital Platforms" (डिजिटल प्लेटफॉर्म पर मानव-एआई अंतःक्रियाओं में कार्यात्मक बेमेल) का सरल भाषा और रचनात्मक उपमाओं का उपयोग करते हुए विवरण दिया गया है।
मुख्य विचार: वह "परफेक्ट" शेफ जो जंक फूड परोसता है
कल्पना कीजिए कि आपने आपके लिए खाना पकाने के लिए एक अति-बुद्धिमान शेफ (एल्गोरिदम) को काम पर रखा है। आपका लक्ष्य लंबे समय में स्वस्थ, खुश और संतुष्ट रहना है।
वह शेफ एक विशिष्ट चीज़ में अविश्वसनीय रूप से प्रतिभाशाली है: यह भविष्यवाणी करना कि आप आगे क्या खाएंगे।
- यदि आप एक डोनट उठाते हैं, तो शेफ नोट करता है, "आह, उन्हें डोनट पसंद हैं!" और अधिक डोनट बनाता है।
- यदि आप एक सेकंड के लिए तीखे टैको (taco) को देखते हैं, तो शेफ सोचता है, "उन्हें तीखा पसंद है!" और आपको हॉट सॉस का ज्वालामुखी परोस देता है।
- यदि आप एक मेज से गिरती हुई बिल्ली के वीडियो पर क्लिक करते हैं, तो शेफ मान लेता है, "उन्हें अराजकता चाहिए!" और आपको गिरती हुई बिल्लियों के हज़ार वीडियो दिखाता है।
शेफ इस बात में पूरी तरह सटीक है कि आप किस चीज़ पर क्लिक करेंगे या क्या खाएंगे। लेकिन समस्या यहाँ है: आप वास्तव में केवल डोनट, हॉट सॉस और गिरती हुई बिल्लियाँ नहीं खाना चाहते। आप एक संतुलित आहार चाहते हैं जो आपको कल अच्छा महसूस कराए, न कि केवल अभी।
यह पेपर तर्क देता है कि सोशल मीडिया एल्गोरिदम बिल्कुल इस शेफ की तरह हैं। वे आपकी आवेगों (आप क्या क्लिक करते हैं) की भविष्यवाणी करने में इतने अच्छे हैं कि वे अनजाने में आपकी वास्तविक जरूरतों (जो आपको खुश या स्वस्थ बनाती हैं) को अनदेखा कर देते हैं। पेपर इसे "फंक्शनल मिसअलाइनमेंट" (कार्यात्मक बेमेल) कहता है।
ऐसा क्यों होता है? (तीन तंत्र/मैकेनिज्म)
लेखक बताता है कि यह बेमेल होना तीन विशिष्ट कारणों से होता है:
1. "फास्ट ब्रेन" बनाम "स्लो ब्रेन"
- उपमा: कल्पना कीजिए कि आपके मस्तिष्क के दो मोड हैं।
- सिस्टम 1 (फास्ट ब्रेन): यह आपकी प्रतिक्रिया (reflex) है। यह वह हिस्सा है जो एक चमकीले लाल संकेत को देखकर चिल्लाता है "देखो!", किसी भद्दे कमेंट पर गुस्सा करता है, या किसी दोस्त की वेकेशन फोटो देखकर जलन महसूस करता है। यह तेज़, भावनात्मक और स्वचालित है।
- सिस्टम 2 (स्लो ब्रेन): यह आपका विचारशील स्वरूप है। यह वह हिस्सा है जो कहता है, "मुझे यह लंबा लेख पढ़ना चाहिए," या "मुझे तीन घंटे तक स्क्रॉल नहीं करना चाहिए," या "मैं दयालुता को महत्व देता हूँ।" इसमें प्रयास और समय लगता है।
- समस्या: एल्गोरिदम ऐसे शेफ की तरह हैं जो केवल आपके फास्ट ब्रेन की बात सुनते हैं। यह भविष्यवाणी करना आसान है कि आप कब डोनट उठाएंगे (फास्ट), लेकिन यह कठिन है कि आप कब सलाद चुनेंगे (स्लो)। इसलिए, एल्गोरिदम आपको अंतहीन डोनट खिलाता रहता है क्योंकि वे आपके रिफ्लेक्स बताते हैं कि आप क्या चाहते हैं, भले ही आपका विचारशील स्वरूप सलाद के लिए चिल्ला रहा हो।
2. "इको चैंबर" फीडबैक लूप
- उपमा: कल्पना कीजिए कि एक माइक्रोफोन स्पीकर के बहुत करीब है।
- आप कुछ छोटा कहते हैं (एक क्लिक)।
- स्पीकर (एल्गोरिदम) उसे बढ़ाता है और उसे और ज़ोर से वापस बजाता है।
- आप इसे और ज़ोर से सुनते हैं, इसलिए आप और भी तीव्रता से प्रतिक्रिया करते हैं।
- स्पीकर इसे फिर से बढ़ाता है।
- समस्या: यह एक फीडबैक लूप बनाता है। यदि आप एक राजनीतिक पोस्ट पर गुस्सा होते हैं, तो एल्गोरिदम आपको दस और गुस्से वाली पोस्ट दिखाता है। आप और अधिक क्रोधित होते हैं, अधिक क्लिक करते हैं, और एल्गोरिदम सीख जाता है, "गुस्सा काम करता है! चलो उन्हें और अधिक देते हैं!" जल्द ही, आप शुद्ध क्रोध की दुनिया में रहने लगते हैं, भले ही आपने शुरुआत केवल मामूली झुंझलाहट से की हो। सिस्टम सबसे चरम भावनाओं को बढ़ाने के लूप में फंस जाता है क्योंकि उन्हें सबसे बड़ी प्रतिक्रिया मिलती है।
3. "क्राउड इफेक्ट" (उभरती हुई अराजकता)
- उपमा: कल्पना कीजिए कि एक स्टेडियम है जहाँ हर कोई बेहतर दृश्य पाने की कोशिश कर रहा है।
- यदि एक व्यक्ति देखने के लिए खड़ा होता है, तो अन्य सभी भी खड़े हो जाते हैं।
- जल्द ही, सभी खड़े हो जाते हैं, और कोई भी पहले से बेहतर देख नहीं पाता, लेकिन सभी थक गए हैं और असहज हैं।
- समस्या: जब लाखों लोग इन एल्गोरिदम के साथ अंतःक्रिया करते हैं, तो छोटी व्यक्तिगत प्रतिक्रियाएं (जैसे डरावनी हेडलाइन पर क्लिक करना) बड़े सामाजिक संकट पैदा करती हैं। सिस्टम का उद्देश्य विभाजित या चिंतित दुनिया बनाना नहीं है; यह केवल क्लिक प्राप्त करने की कोशिश कर रहा है। लेकिन क्योंकि हर कोई एक ही "फास्ट ब्रेन" ट्रिगर्स पर प्रतिक्रिया दे रहा है, पूरी समाज अंततः अधिक विभाजित, चिंतित और दुखी हो जाता है।
वास्तविक दुनिया के परिणाम
पेपर दिखाता है कि यह "मिसअलाइनमेंट" तीन मुख्य क्षेत्रों में वास्तविक नुकसान कैसे पहुँचाता है:
- राजनीतिक ध्रुवीकरण: एल्गोरिदम सीखता है कि गुस्सा क्लिक दिलाता है। इसलिए, यह आपको ऐसी सामग्री दिखाता है जो आपको "दूसरे पक्ष" से नफरत करने पर मजबूर करे। आप अपने राजनीतिक विरोधियों को केवल अलग विचार रखने वाले लोगों के बजाय राक्षसों के रूप में देखने लगते हैं। एल्गोरिदम ने आपको विभाजित करने की इच्छा नहीं की; यह केवल आपको क्लिक करवाते रहने के लिए था, और गुस्सा ऐसा करने का सबसे विश्वसनीय तरीका है।
- मानसिक स्वास्थ्य (विशेषकर किशोरों के लिए): एल्गोरिदम सीखता है कि ईर्ष्या क्लिक दिलाती है। यह किशोरों को "परफेक्ट" शरीर और "परफेक्ट" जीवन की तस्वीरें दिखाता है। किशोरों का "फास्ट ब्रेन" ईर्ष्या और असुरक्षा के साथ प्रतिक्रिया करता है ("मेरा जीवन ऐसा क्यों नहीं है?")। एल्गोरिदम इन छवियों को और अधिक दिखाता रहता है क्योंकि किशोर उन्हें देखते रहते हैं। यह अवसाद और बॉडी इमेज के मुद्दों के चक्र को जन्म देता है।
- खराब समूह निर्णय: कल्पना कीजिए कि लोगों का एक समूह सबसे अच्छा गाना चुनने की कोशिश कर रहा है। यदि एल्गोरिदम उन्हें वे गाने दिखाता है जो पहले से ही लोकप्रिय हैं (क्योंकि उन्हें क्लिक मिले थे), तो हर कोई फिर से उन्हीं गानों पर क्लिक करता है। "सबसे अच्छा" गाना कभी नहीं सुना जा सका क्योंकि उसे पहले कुछ क्लिक नहीं मिले। समूह एक खराब प्लेलिस्ट के साथ समाप्त होता है, इसलिए नहीं कि वे मूर्ख हैं, बल्कि इसलिए क्योंकि सिस्टम ने गलत सिग्नल को बढ़ाया।
इसे "ठीक करना" कठिन क्यों है
पेपर का तर्क है कि हम इसे केवल निम्न तरीकों से ठीक नहीं कर सकते:
- अधिक डेटा प्राप्त करके: यदि आप गलत चीज़ों पर क्लिक कर रहे हैं, तो आपके द्वारा किए गए क्लिक के बारे में अधिक जानना मदद नहीं करता है।
- बेहतर भविष्यवाणियाँ करके: यदि एल्गोरिदम पूरी तरह से भविष्यवाणी करता है कि आप एक नफरत भरी वीडियो पर क्लिक करेंगे, तो उसने अपने काम में "सफलता" प्राप्त की है, भले ही परिणाम बुरा हो।
- पारदर्शिता लाकर: भले ही ऐप आपको बताए कि, "हम गुस्से वाली वीडियो दिखाते हैं क्योंकि उनसे क्लिक मिलते हैं," आप फिर भी लूप में फंसे रहेंगे। आपका "फास्ट ब्रेन" अभी भी गुस्से पर प्रतिक्रिया देगा।
समाधान: केवल शेफ को नहीं, बल्कि नियमों को बदलें
पेपर का सुझाव है कि हमें एल्गोरिदम को केवल "भविष्यवाणी" करने वाले सरल उपकरण के रूप में देखना बंद करना चाहिए। हमें उन्हें जटिल प्रणालियों के रूप में मानना चाहिए जो मानव व्यवहार को आकार देती हैं।
यह पूछने के बजाय कि, "हम अधिक क्लिक कैसे प्राप्त करें?" हमें पूछना चाहिए:
- "हम एक ऐसा सिस्टम कैसे डिज़ाइन कर सकते हैं जो लंबे समय के कल्याण को अल्पकालिक क्लिक से ऊपर महत्व दे?"
- "हम उन फीडबैक लूपों को कैसे तोड़ सकते हैं जो गुस्से और ईर्ष्या को बढ़ाते हैं?"
- "हम यह कैसे माप सकते हैं कि लोग वास्तव में खुश हैं, न कि केवल एंगेज्ड (जुड़े हुए) हैं?"
संक्षेप में: समस्या यह नहीं है कि एल्गोरिदम "बुरे" या "टूटे हुए" हैं। समस्या यह है कि वे ठीक वैसे ही काम कर रहे हैं जैसा उन्हें डिज़ाइन किया गया है: वे हमारे आवेगों की भविष्यवाणी करने में माहिर हैं, लेकिन उन्होंने हमारे बेहतर स्वरूप की सेवा करना भूल गए हैं। इसे ठीक करने के लिए, हमें केवल खिलाड़ियों को नहीं, बल्कि खेल के नियमों को बदलना होगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।