TikTok Search Recommendations: Governance and Research Challenges
यह स्थिति पत्र टिकटॉक की अपारदर्शी खोज अनुशंसा प्रणाली द्वारा उत्पन्न शासन और अनुसंधान चुनौतियों का परीक्षण करता है, जो यूरोपीय संघ के डिजिटल सेवा अधिनियम जैसे नियमों के तहत प्लेटफॉर्म उत्तरदायित्व और सामग्री मॉडरेशन के मुद्दों को संबोधित करने के लिए बढ़ी हुई पारदर्शिता और एक नए कम्प्यूटेशनल अनुसंधान एजेंडे के पक्ष में तर्क देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
टिकटॉक (TikTok) की कल्पना एक विशाल, हलचल भरे शहर के चौक के रूप में करें जहाँ लोग छोटे वीडियो साझा करते हैं। लंबे समय तक, यह चौक मुख्य रूप से यादृच्छिक मनोरंजन (random entertainment) की एक फीड को स्क्रॉल करने के बारे में था। लेकिन हाल ही में, टिकटॉक एक पुस्तकालय या सर्च इंजन की तरह काम करने लगा है, जो लोगों को ठीक वही खोजने में मदद करने की कोशिश कर रहा है जो वे ढूंढ रहे हैं।
यह पेपर एक "पोजीशन पेपर" (position paper) है, जो एक शोधकर्ता के औपचारिक नोट की तरह है जो कहता है, "हे, हमें इस नए फीचर को करीब से देखने की जरूरत है इससे पहले कि यह समस्या पैदा करे।" विचाराधीन फीचर है सर्च रिकमेंडेशन (Search Recommendations)।
यहाँ इस पेपर का विवरण दिया गया, जिसमें सरल उपमाओं (analogies) का उपयोग किया गया है:
1. नया फीचर: "सुझाए गए प्रश्न" (Suggested Questions)
कल्पना कीजिए कि आप किसी सेलिब्रिटी का वीडियो देख रहे हैं। आमतौर पर, आप बस देखते हैं और शायद एक कमेंट छोड़ देते हैं। अब, टिकटॉक स्क्रीन पर (या कमेंट्स के ऊपर) एक छोटा सा स्टिकी नोट रखता है जो कहता है, "आप शायद इसके लिए सर्च करना चाहेंगे: 'उसका बॉयफ्रेंड कौन है?' या 'वह शर्ट किस ब्रांड की है?'"
ये पहले से लिखे गए प्रश्न हैं जिन्हें टिकटॉक आपको सर्च बार में टाइप करने का सुझाव देता है। पेपर इसे "रिकमेंडेशन का एक नया रूप" कहता है। यह सिर्फ यह बताने के बजाय कि आपको अगला कौन सा वीडियो देखना चाहिए, यह आपको बता रहा है कि आपको किस बारे में पूछना चाहिए।
2. "मैजिक बॉक्स" की समस्या (पारदर्शिता का अभाव)
टिकटॉक उपयोगकर्ताओं और क्रिएटर्स को कहता है: "चिंता न करें, हम ये सुझाव मनगढ़ंत नहीं बना रहे हैं। हम बस देखते हैं कि लोग कमेंट्स में क्या कह रहे हैं और क्या सर्च कर रहे हैं, और हम उन्हें बस कॉपी कर लेते हैं।"
इस पेपर के लेखक कहते हैं कि यह एक जादूगर की तरह है जो दावा करता है कि उसका करतब केवल "प्राकृतिक जादू" है, जबकि वास्तव में वह छिपे हुए तारों का उपयोग कर रहा है।
- दावा: टिकटॉक कहता है, "हम केवल उपयोगकर्ता की बातचीत को दर्शाने वाला एक तटस्थ दर्पण हैं।"
- वास्तविकता: पेपर का तर्क है कि वास्तव में टिकटॉक ही यह तय कर रहा है कि किन बातचीत को सर्च सुझावों में बदला जाए। वे यह स्पष्ट नहीं करते कि वे उन्हें कैसे चुनते हैं। यह एक "ब्लैक बॉक्स" है। हमें नहीं पता कि वे सबसे लोकप्रिय कमेंट्स चुन रहे हैं, सबसे हालिया कमेंट्स, या क्या वे गुप्त रूप से कुछ विशिष्ट शब्दों को बढ़ावा देने के लिए चुन रहे हैं।
3. "घोस्ट राइटर" की समस्या (हानिकारक सुझाव)
चूंकि टिकटॉक यह स्पष्ट नहीं करता कि ये सुझाव कैसे बनाए जाते हैं, इसलिए ऐसी बुरी चीजें हो सकती हैं जिनकी वीडियो क्रिएटर ने मांग नहीं की थी।
- उपमा: कल्पना कीजिए कि आप एक डिनर पार्टी (आपका वीडियो) होस्ट कर रहे हैं। आपकी बातचीत सामान्य और अच्छी चल रही है। अचानक, आपकी दीवार पर लगा एक लाउडस्पीकर चिल्लाने लगता है, "क्या होस्ट वास्तव में एक जासूस है?" या "होस्ट की गुप्त जेंडर पहचान क्या है?"
- पेपर के निष्कर्ष: शोधकर्ताओं ने डच इन्फ्लुएंसर्स के वीडियो देखे और पाया कि टिकटॉक उनके व्यक्तिगत जीवन, रोमांटिक रिश्तों और जेंडर पहचान के बारे में सर्च करने का सुझाव दे रहा था—भले ही उस वीडियो का उन विषयों से कोई लेना-देना न हो।
- खतरा: यह अफवाहें फैला सकता है, ड्रामा पैदा कर सकता है, या उत्पीड़न (harassment) के लिए इस्तेमाल किया जा सकता है (जैसे कि किसी ट्रांस व्यक्ति को उनके पुराने नाम (deadname) से सर्च करने का सुझाव देना)। वीडियो क्रिएटर के पास इसे रोकने या यह जानने का कोई तरीका नहीं है कि यह हो रहा है।
4. "पपेट मास्टर" की समस्या (सिस्टम को चकमा देना)
पेपर चेतावनी देता है कि क्योंकि नियम गुप्त हैं, इसलिए बुरे तत्व (bad actors) सिस्टम को धोखा दे सकते हैं।
- उपमा: कल्पना कीजिए कि एक शहर है जहाँ मेयर (टिकटॉक) कहता है, "हम केवल वही लिखते हैं जो भीड़ चिल्लाती है।" फिर लोगों का एक समूह संगठित होकर एक ही समय में एक ही फर्जी चीज़ चिल्ला सकता है। मेयर का सिस्टम उस फर्जी चीज़ को एक "लोकप्रिय सर्च" के रूप में लिख देगा, जिससे वह असली लगने लगेगा।
- वास्तविक उदाहरण: पेपर उल्लेख करता है कि रोमानिया में एक राजनीतिक चुनाव के दौरान, लोगों ने कमेंट्स को समन्वित (coordinate) किया ताकि एक विशिष्ट उम्मीदवार को शीर्ष सर्च सुझाव के रूप में दिखाया जा सके, भले ही वे वास्तव में लोकप्रिय न हों।
5. "नो एग्जिट" की समस्या (उपयोगकर्ता नियंत्रण)
यदि आप कोई ऐसा सर्च सुझाव देखते हैं जो आपको पसंद नहीं है, तो आप उसे बंद नहीं कर सकते।
- उपमा: यह एक कार में होने जैसा है जहाँ जीपीएस (GPS) बार-बार खतरनाक रास्तों का सुझाव देता है। आप जीपीएस को यह कहने की कोशिश कर सकते हैं कि "मुझे यह पसंद नहीं है," लेकिन कार नहीं सुनती, और आप जीपीएस को बंद नहीं कर सकते।
- पेपर का बिंदु: क्रिएटर्स कमेंट्स को फ़िल्टर कर सकते हैं, लेकिन वे अपने वीडियो पर दिखने वाले सर्च सुझावों को फ़िल्टर नहीं कर सकते। उपयोगकर्ता इस फीचर को अक्षम (disable) नहीं कर सकते। यह आपको उत्पीड़न या गलत सूचना से बचाने में कठिन बनाता है।
6. कानून के लिए यह क्यों महत्वपूर्ण है
पेपर बताता है कि टिकटॉक डिजिटल सर्विसेज एक्ट (DSA) के नियमों को तोड़ रहा है, जो एक नया यूरोपीय कानून है।
- नियम: कानून कहता है कि बड़ी टेक कंपनियों को इस बारे में ईमानदार होना चाहिए कि उनके एल्गोरिदम कैसे काम करते हैं और वे आपको चीजें कैसे रिकमेंड करते हैं।
- उल्लंघन: टिकटॉक यह छिपा रहा है कि ये सर्च सुझाव कैसे बनाए जाते हैं। वे दावा करते हैं कि वे केवल डेटा को "एग्रीगेट" (एकत्रित) कर रहे हैं, लेकिन पेपर का तर्क है कि वे वास्तव में उन्हें जनरेट और क्यूरेट कर रहे हैं, जो उन्हें जो भी दिखाई देता है उसके लिए जिम्मेदार बनाता है।
अनुसंधान योजना: हम आगे क्या करते हैं?
लेखक एक "कंप्यूटेशनल रिसर्च एजेंडा" प्रस्तावित करते हैं। चूंकि टिकटॉक उन्हें इस सिस्टम का गुप्त कोड नहीं देगा, इसलिए उन्हें जासूसों की तरह काम करने की आवश्यकता है। वे चाहते हैं कि:
- कोड को क्रैक करें: यह पता लगाएं कि वास्तव में कौन से कमेंट्स सर्च सुझावों में बदल जाते हैं।
- फर्जी लोगों को पहचानें: यह पता लगाएं कि कब लोगों के समूह सिस्टम को धोखा देने के लिए मिलकर काम कर रहे हैं।
- संदर्भ की जाँच (Context Check): ऐसे उपकरण विकसित करें जो यह समझ सकें कि कोई सुझाव हानिकारक क्यों है (उदाहरण के लिए, यह जानना कि "Nikkie as a boy" हानिकारक है क्योंकि आप जानते हैं कि क्रिएटर एक ट्रांस महिला है)।
- विषयों को वर्गीकृत करें: किस प्रकार की चीजें सुझाई जा रही हैं (उदाहरण के लिए, क्या वे ज्यादातर शॉपिंग, गॉसिप या राजनीति के बारे में हैं?) इसे वर्गीकृत करें।
सारांश
संक्षेप में, टिकटॉक उपयोगकर्ताओं को प्रश्न सुझाकर अपने वीडियो को एक सर्च इंजन में बदल रहा है। पेपर का तर्क है कि टिकटॉक यह छिपा रहा है कि वह इन प्रश्नों को कैसे चुनता है, जिससे अफवाहें, उत्पीड़न और राजनीतिक हेरफेर "केवल उपयोगकर्ता जो कह रहे हैं" के नाम पर फैल सकते हैं। लेखक इस शक्तिशाली नए टूल के बारे में अधिक पारदर्शिता के लिए अधिक शोध और सख्त नियमों की मांग कर रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।