Beyond the Checkbox: Strengthening DSA Compliance Through Social Media Algorithmic Auditing
यह शोध पत्र सोशल मीडिया प्लेटफॉर्म के वर्तमान DSA ऑडिट रिपोर्टों का आलोचनात्मक परीक्षण करता है, जो एल्गोरिदम अनुपालन का आकलन करने में महत्वपूर्ण पद्धतिगत विसंगतियों और तकनीकी गहराई की कमी को प्रकट करता है, और नियामक प्रवर्तन को मजबूत करने के एक अधिक प्रभावी साधन के रूप में एल्गोरिदम ऑडिटिंग को अपनाने का प्रस्ताव देता है—जिसमें एआई (AI) प्रतिक्रियाओं को देखने और विश्लेषण करने के लिए सिम्युलेटेड उपयोगकर्ता व्यवहार का उपयोग किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि डिजिटल सेवा अधिनियम (DSA) इंटरनेट के लिए नए, सख्त यातायात नियमों के समान है। इसका लक्ष्य यह सुनिश्चित करना है कि विशाल सोशल मीडिया प्लेटफॉर्म (जैसे टिकटॉक, यूट्यूब और इंस्टाग्राम) लापरवाही से गाड़ी न चलाएं, विशेष रूप से बच्चों की सुरक्षा, संवेदनशील डेटा को छिपाने और अपने "सिफारिश इंजन" (recommendation engines) के बारे में ईमानदार रहने के मामले में।
यह सुनिश्चित करने के लिए कि ये प्लेटफॉर्म नियमों का पालन कर रहे हैं, कानून कहता है कि उन्हें स्वतंत्र ऑडिटर्स (Auditors) को काम पर रखना होगा। ऑडिटर्स को "सुरक्षा निरीक्षकों" के रूप में सोचें जो सड़क पर उतरने से पहले कारों की जांच करते हैं।
यह शोध पत्र, जिसे स्लोवाकिया के शोधकर्ताओं द्वारा लिखा गया है, इन ऑडिटर्स द्वारा 20 late 2024 में जमा की गई निरीक्षण रिपोर्टों के पहले बैच का बारीकी से विश्लेषण करता है। उन्होंने पाया कि निरीक्षक नए ज़माने की "सेल्फ-ड्राइविंग कारों" की जांच करने के लिए पुराने, आउटडेटेड उपकरणों का उपयोग कर रहे हैं।
उनके निष्कर्षों का सरल उपमाओं (analogies) का उपयोग करके विवरण यहाँ दिया गया है:
1. समस्या: एक "जीवित" मशीन पर "स्थिर" चेकलिस्ट का उपयोग करना
ऑडिटर पारंपरिक ऑडिटिंग (Traditional Auditing) का उपयोग कर रहे हैं।
- उपमा: कल्पना कीजिए कि किसी घर की सुरक्षा की जांच करने के लिए ब्लूप्रिंट (नक्शा) देखना और मालिक से पूछना कि, "क्या आपके पास स्मोक डिटेक्टर है?" यदि मालिक कहता है "हाँ" और एक बॉक्स दिखाता है, तो निरीक्षक उसे सूची में टिक कर देता है।
- वास्तविकता: सोशल मीडिया एल्गोरिदम स्थिर घर नहीं हैं; वे जीवित, सांस लेते जीव हैं जो हर सेकंड बदलते हैं—आपके क्लिक करने, देखने या टाइप करने के आधार पर।
- दोष: ऑडिटर्स ने यह जांचा कि क्या ब्लूप्रिंट पर "स्मोक डिटेक्टर" (सेटिंग्स) मौजूद था। उन्होंने यह नहीं जांचा कि क्या वास्तव में आग लगने पर वह डिटेक्टर काम कर रहा था, या क्या निरीक्षक के देखते समय घर का लेआउट बदल गया था।
2. तीन "यातायात उल्लंघन" जिनकी उन्होंने जांच की
शोधकर्ताओं ने देखा कि ऑडिटर्स ने तीन विशिष्ट नियमों की जांच कैसे की:
- नियम A: "सिफारिश" स्विच (क्या उपयोगकर्ता नियंत्रित कर सकते हैं कि वे क्या देखते हैं?)
- ऑडिटर्स ने क्या किया: उन्होंने मेनू देखा और वहां एक बटन देखा जिस पर लिखा था "पर्सनलाइजेशन बंद करें।" उन्होंने इसे "अनुपालन योग्य" (Compliant) के रूप में टिक कर दिया।
- चूक: उन्होंने वास्तव में बटन दबाकर यह नहीं देखा कि क्या वीडियो वाकई बदले। यह कार में ब्रेक पेडल होने की जांच करने जैसा है, बिना कभी उसे दबाकर यह देखे कि क्या कार रुकती है या नहीं।
- नियम B: नाबालिगों की सुरक्षा (क्या बच्चे वे विज्ञापन देख रहे हैं जो उन्हें नहीं दिखने चाहिए?)
- ऑडिटर्स ने क्या किया: उन्होंने प्लेटफॉर्म से पूछा, "क्या आप जानते हैं कि कौन सा बच्चा है?" प्लेटफॉर्म ने कहा, "हाँ, हम उनसे उनकी जन्मतिथि टाइप करने को कहते हैं।" ऑडिटर ने कहा, "बहुत अच्छा, आप अनुपालन कर रहे हैं।"
- चूक: बच्चे अक्सर अपनी उम्र के बारे में झूठ बोलते हैं। ऑडिटर्स ने यह परीक्षण नहीं किया कि क्या सिस्टम यह पता लगा सकता था कि कोई बच्चा देख रहा है (जैसे कि रात के 3 बजे कार्टून देखना)। उन्होंने केवल "बर्थडे बॉक्स" पर भरोसा किया, बिना "किड-डिटेक्टिंग रडार" का परीक्षण किए।
- नियम C: संवेदनशील डेटा विज्ञापन (स्वास्थ्य या राजनीति पर आधारित विज्ञापन नहीं)
- ऑडिटर्स ने क्या किया: उन्होंने जांचा कि क्या विज्ञापन प्रणाली में "कैंसर" या "मतदान" जैसे शब्दों के लिए एक "ब्लॉक लिस्ट" है।
- चूक: उन्होंने यह परीक्षण नहीं किया कि क्या सिस्टम चतुराई से यह अनुमान लगा सकता है कि आपको कैंसर है क्योंकि आपने कीमोथेरेपी के बारे में तीन वीडियो देखे हैं, भले ही आपने कभी "कैंसर" शब्द टाइप न किया हो।
3. पाई गई मुख्य समस्याएं
यह शोध पत्र वर्तमान निरीक्षण शैली के दो मुख्य मुद्दों पर प्रकाश डालता है:
- "स्नैपशॉट" की समस्या: पारंपरिक ऑडिट एक फोटो खींचने जैसा है। वे एक विशिष्ट क्षण में सिस्टम की जांच करते हैं। लेकिन सोशल मीडिया एल्गोरिदम लगातार सीख रहे हैं और बदल रहे हैं। एक सिस्टम जो आज सुरक्षित दिखता है, वह कल खतरनाक हो सकता है। ऑडिटर्स ने स्वीकार किया कि वे समय के साथ सिस्टम के व्यवहार को नहीं देख सके।
- "रूलर" (पैमाने) की समस्या: अलग-अलग ऑडिटर्स एक ही चीज़ को मापने के लिए अलग-अलग पैमाने का उपयोग कर रहे थे। एक ऑडिटर कह सकता है कि "यह सुरक्षित है" क्योंकि उन्होंने कोड देखा, जबकि दूसरा कह सकता है कि "यह असुरक्षित है" क्योंकि उन्होंने यूजर इंटरफेस देखा। चूंकि इन जटिल AI सिस्टमों को मापने का कोई मानक तरीका नहीं है, इसलिए परिणाम असंगत हैं।
4. प्रस्तावित समाधान: "एल्गोरिद्मिक ऑडिटिंग"
लेखक इन प्लेटफॉर्मों के निरीक्षण का एक नया तरीका सुझाते हैं, जिसे वे एल्गोरिद्मिक ऑडिटिंग (Algorithmic Auditing) कहते हैं।
- उपमा: केवल ब्लूप्रिंट देखने के बजाय, कल्पना कीजिए कि अभिनेताओं (या रोबोटों) की एक टीम को काम पर रखना जो वास्तविक उपयोगकर्ताओं के रूप में व्यवहार करें।
- यह कैसे काम करता है:
- "सॉक पपेट्स" (नकली प्रोफाइल) बनाना: ऑडिटर्स नकली यूजर प्रोफाइल बनाते हैं (जैसे, एक 15 वर्षीय गेमर, एक 40 वर्षीय माता-पिता)।
- लाइव टेस्टिंग: ये नकली उपयोगकर्ता हफ्तों तक प्लेटफॉर्म पर बिताते हैं, बिल्कुल असली लोगों की तरह क्लिक करना, देखना और बातचीत करना।
- प्रतिक्रिया देखना: ऑडिटर्स देखते हैं कि एल्गोरिदम उन्हें वास्तव में क्या दिखाता है। क्या 15 वर्षीय लड़के को जुए के विज्ञापन दिखाए जा रहे हैं? क्या एक सप्ताह के बाद सिस्टम अपना निर्णय बदल देता है?
- यह बेहतर क्यों है: यह स्नैपशॉट नहीं है; यह एक फिल्म है। यह दिखाता है कि वास्तविक दुनिया की जटिलताओं के साथ समय के साथ सिस्टम कैसे व्यवहार करता है, न कि केवल यह कि सेटिंग्स कागज़ पर कैसी दिखती हैं।
सारांश
यह शोध पत्र तर्क देता है कि हम वर्तमान में सेल्फ-ड्राइविंग कारों की जांच यह देखकर करने की कोशिश कर रहे हैं कि उनमें स्टीयरिंग व्हील है या नहीं, बिना कभी उन्हें टेस्ट ड्राइव पर उतारे। वर्तमान "चेकलिस्ट" ऑडिट बहुत उथले और स्थिर हैं। उपयोगकर्ताओं की वास्तव में सुरक्षा करने के लिए, हमें व्यवहार संबंधी ऑडिट (behavioral audits) की आवश्यकता है जहाँ हम वास्तविक उपयोगकर्ताओं के सिस्टम के साथ बातचीत करने का अनुकरण करें ताकि यह देखा जा सके कि AI वास्तव में क्या करता है, न कि केवल वह क्या कहता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।