Governance of AI-Generated Content: A Case Study on Social Media Platforms
यह शोध पत्र 40 सोशल मीडिया प्लेटफॉर्म्स पर एआई-जनित सामग्री के शासन का परीक्षण करता है, जिसमें यह पाया गया है कि जबकि अधिकांश प्लेटफॉर्म मॉडरेशन और प्रकटीकरण पर ध्यान केंद्रित करते हैं, बहुत कम स्वामित्व और मुद्रीकरण को संबोधित करते हैं, जो अधिक व्यापक नीतियों और उपयोगकर्ता शिक्षा के लिए आह्वान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि इंटरनेट एक विशाल, हलचल भरा ग्रैंड बाज़ार है। वर्षों से, यह बाज़ार वास्तविक लोगों द्वारा चलाए जा रहे स्टालों से भरा हुआ था जो अपने हस्तनिर्मित शिल्प, कहानियाँ और समाचार बेचते थे। लेकिन हाल ही में, एक नए प्रकार के विक्रेता का आगमन हुआ है: द एआई रोबोट (AI Robot)। ये रोबकी एक इंसान द्वारा कॉफी बनाने के समय में हज़ारों पेंटिंग, गाने और लेख तैयार कर सकते हैं।
हालाँकि यह सुनने में अद्भुत लगता है, लेकिन इससे कुछ अराजकता फैल रही है। कुछ रोबोट नकली सामान बेच रहे हैं, कुछ असली कलाकारों का रूप धर रहे हैं, और खरीदारों के लिए यह पहचानना कठिन होता जा रहा है कि क्या मानव-निर्मित है और क्या मशीन-निर्मित।
यह शोध पत्र एक मार्केट इंस्पेक्टर (बाज़ार निरीक्षक) की तरह है जिसे 40 सबसे बड़े स्टालों (सोशल मीडिया प्लेटफॉर्म जैसे टिकटॉक, फेसबुक, रेडिट आदि) पर भेजा गया है ताकि यह देखा जा सके कि वे इस नए रोबोट कार्यबल को कैसे प्रबंधित करने की कोशिश कर रहे हैं। शोधकर्ताओं ने, जो शिकागो विश्वविद्यालय और गूगल की एक टीम है, इन प्लेटफॉर्म्स द्वारा पोस्ट किए गए "हाउस रूल्स" (घर के नियमों) का अध्ययन किया ताकि यह देखा जा सके कि वे एआई सामग्री (AI content) का शासन कैसे कर रहे हैं।
यहाँ उन्हें क्या मिला, जिसे सरल उपमाओं (analogies) में विभाजित किया गया है:
1. "पुराने नियम" वाला दृष्टिकोण (सबसे आम रणनीति)
उपमा: कल्पना कीजिए कि बाज़ार का एक नियम है: "कोई भी चोरी का माल नहीं बेच सकता या जो वह बेच रहा है उसके बारे में झूठ नहीं बोल सकता।"
वास्तविकता: अधिकांश प्लेटफॉर्म (40 में से 25) बस इतना कह रहे हैं कि, "एआई रोबोट को मानव विक्रेताओं के समान ही नियमों का पालन करना होगा।" यदि कोई एआई फर्जी समाचार कहानी या घृणित छवि बनाता है, तो उसे ठीक वैसे ही प्रतिबंधित किया जाता है जैसे किसी इंसान को किया जाता।
पेंच: वे रोबोटों के लिए नए नियम नहीं बना रहे हैं; वे बस पुराने नियमों को उन पर लागू कर रहे हैं। यह एक टूटे हुए कार इंजन को ठीक करने के लिए कोट हैंगर (coat hanger) का उपयोग करने जैसा है—यह कुछ समय के लिए काम करता है, लेकिन यह एकदम सही फिट नहीं है।
2. "लेबलिंग" प्रणाली (दूसरा सबसे आम)
उपमा: बाज़ार का प्रबंधक हर चीज़ पर एक स्टीकर लगा देता है। यदि किसी रोबोट ने पेंटिंग बनाई है, तो उस पर एक स्टीकर होगा जिस पर लिखा होगा "रोबोट द्वारा निर्मित।"
वास्तविकता: लगभग 18 प्लेटफॉर्म उपयोगकर्ताओं को अपनी एआई सामग्री को लेबल करने के लिए कहते हैं या प्रोत्साहित करते हैं। कुछ प्लेटफॉर्म अपने स्वयं के रोबोट भी रखते हैं जो स्वचालित रूप से पोस्ट को स्कैन करते हैं और यदि उन्हें मशीन-निर्मित सामग्री का पता चलता है, तो उन पर डिजिटल "एआई" स्टीकर चिपका देते हैं।
समस्या: स्टीकर असंगत हैं। एक स्टाल पर, स्टीकर बड़ा और चमकीला है; दूसरे पर, यह छोटा और छिपा हुआ है। कभी-कभी रोबोट का स्टीकर गलती से मानव पेंटिंग पर लग जाता है, और इंसान के पास इसे हटाने का कोई आसान तरीका नहीं होता।
3. "विशेष क्षेत्र" (निश प्लेटफॉर्म्स)
उपमा: बाज़ार के कुछ स्टाल बहुत विशिष्ट हैं। एक विशेषज्ञ ज्ञान का पुस्तकालय है, और दूसरा मूल कला के लिए गैलरी है।
वास्तविकता: ये विशिष्ट प्लेटफॉर्म अधिक सख्त हैं।
- पुस्तकालय (जैसे Stack Overflow): वे कहते हैं, "हमें केवल मानव उत्तर चाहिए। यदि आप उत्तर लिखने के लिए रोबोट का उपयोग करते हैं, तो आप इसे यहाँ पोस्ट नहीं कर सकते।" वे एआई सामग्री को पूरी तरह से प्रतिबंधित करते हैं क्योंकि वे मानव विशेषज्ञता को महत्व देते हैं।
- कला गैलरी (जैसे DeviantArt, Medium): वे कहते हैं, "आप रोबोट का उपयोग कर सकते हैं, लेकिन आप कला को तब तक नहीं बेच सकते जब तक कि आप हमें यह न बता दें कि यह एआई-निर्मित है, और यदि गुणवत्ता कम है तो आप इससे पैसा नहीं कमा सकते।" वे कला के "मूल्य" को लेकर चिंतित हैं।
4. "इन-स्टोर फैक्ट्री" (एकीकृत एआई उपकरण)
उपमा: कुछ स्टालों के पास अपना स्वयं का इन-हाउस कारखाना है जहाँ वे ग्राहकों के उपयोग के लिए वहीं स्टोर में रोबोट बनाते हैं।
वास्तविकता: टिकटॉक और फेसबुक जैसे प्लेटफॉर्म ने अपने स्वयं के एआई उपकरण बनाए हैं। क्योंकि उन्होंने कारखाना बनाया है, इसलिए वे अधिक जिम्मेदार महसूस करते हैं। वे मशीनों पर सुरक्षा गार्ड लगाते हैं और बाजार में पहुँचने से पहले ही उनके कारखाने से निकलने वाली हर चीज़ को स्वचालित रूप से लेबल कर देते हैं। वे निर्माता और पुलिस दोनों की भूमिका निभाते हैं।
5. "शिक्षा केंद्र" (उपयोगकर्ताओं को सशक्त बनाना)
उपमा: कुछ स्टालों ने खरीदारों को यह सिखाने के लिए एक कक्षा स्थापित की है कि नकली चीज़ को कैसे पहचाना जाए।
वास्तविकता: कुछ प्लेटफॉर्म उपयोगकर्ताओं को ऐसे उपकरण दे रहे हैं जिससे वे एआई सामग्री को फ़िल्टर कर सकें यदि वे इसे नहीं देखना चाहते, या उन्हें डीपफेक को पहचानने के तरीके सिखा रहे हैं। हालाँकि, यह दुर्लभ है। अधिकांश प्लेटफॉर्म बस उम्मीद करते हैं कि खरीदार इसे खुद समझ लेंगे।
निरीक्षकों द्वारा पाई गई बड़ी समस्याएँ
शोधकर्ताओं ने पाया कि बाज़ार अभी भी थोड़ा अव्यवस्थित है:
- भ्रमित करने वाले संकेत: नियम हर जगह बिखरे हुए हैं। आपको एआई नियम "सेवा की शर्तों" (बारीक अक्षरों), "सहायता केंद्र", या किसी रैंडम ब्लॉग पोस्ट में मिल सकते हैं। उन्हें ढूंढना कठिन है।
- "रोबोट डिटेक्टर" दोषपूर्ण है: एआई सामग्री का पता लगाने के लिए उपयोग की जाने वाली तकनीक चाबियों और सिक्कों पर बीप करने वाले मेटल डिटेक्टर की तरह है। यह पूर्ण नहीं है। कभी-कभी यह वास्तविक एआई को मिस कर देता है, और कभी-कभी किसी इंसान पर रोबोट होने का आरोप लगा देता है।
- कोई अपील प्रक्रिया नहीं: यदि किसी मानव कलाकार को गलती से रोबोट के रूप में लेबल किया जाता है, तो अक्सर उनके पास अपना पक्ष रखने या स्टीकर हटाने का कोई तरीका नहीं होता।
आगे क्या होना चाहिए?
शोध पत्र बाज़ार को ठीक करने के लिए तीन मुख्य सुझाव देता है:
- स्पष्ट संकेत: प्लेटफॉर्म्स को नियमों को बारीक अक्षरों में छिपाना बंद करना चाहिए। उन्हें एक एकल, स्पष्ट "एआई नीति" पेज की आवश्यकता है जो यह समझाए कि क्या अनुमत है, किसे लेबल किया जाना चाहिए, और किसे प्रतिबंधित किया जाना चाहिए।
- बेहतर डिटेक्टर और अपील: हमें मानव और एआई के बीच अंतर करने के लिए बेहतर तकनीक की आवश्यकता है, और हमारे पास एक निष्पक्ष तरीका होना चाहिए जिससे इंसान कह सकें, "अरे, मैंने इसे खुद बनाया है, रोबोट का स्टीकर हटा लो!"
- नए सामान के लिए नए कानून: वर्तमान कानून मानव-निर्मित वस्तुओं के लिए लिखे गए थे। हमें नए कानूनों की आवश्यकता है जो विशेष रूप से यह संबोधित करें कि एआई कला का स्वामित्व किसके पास है, इसके लिए भुगतान किसे किया जाता है, और कम गुणवत्ता वाले "एआई स्लॉप" (स्पैम) को कैसे संभाला जाए।
संक्षेप में: इंटरनेट यह समझने की कोशिश कर रहा है कि एआई सामग्री की बाढ़ को कैसे संभाला जाए। अभी, अधिकांश प्लेटफॉर्म केवल पुराने नियमों और कुछ स्टीकरों के साथ काम चला रहे हैं। बाज़ार को सभी के लिए सुरक्षित और निष्पक्ष बनाने के लिए, हमें बेहतर नियमों, बेहतर उपकरणों और स्पष्ट संचार की आवश्यकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।