Terms of (Ab)Use: An Analysis of GenAI Services
यह शोध पत्र यूरोपीय संघ के उपभोक्ता दृष्टिकोण से छह जनरेटिव एआई सेवाओं के उपयोग की शर्तों का विश्लेषण करता है, जो शक्ति के महत्वपूर्ण असंतुलन, अस्पष्ट उत्तरदायित्व और प्रतिबंधात्मक खंडों को प्रकट करता है जो उपयोगकर्ताओं को अनभिज्ञ और अपने दायित्वों को पूरा करने में असमर्थ छोड़ देते हैं, जिससे नीति निर्माताओं से उपभोक्ता संरक्षण तंत्रों को तत्काल अपडेट करने का आग्रह किया जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने एक शानदार नया टोस्टर खरीदा। आप इसे प्लग में लगाते हैं, इसमें ब्रेड डालते हैं, और लीवर को नीचे दबाते हैं। लेकिन टोस्ट के बजाय, टोस्टर राख का ढेर उगल देता है, आपकी रसोई में आग लगा देता है, या उससे भी बुरा, आपके पड़ोसी की निजी डायरी छापने लगता है।
जब आप शिकायत करते हैं, तो टोस्टर कंपनी एक छोटे, 50 पन्नों के मैनुअल की ओर इशारा करती है जिसे आपने कभी पढ़ा ही नहीं (क्योंकि वह ऐसी भाषा में लिखा गया था जिसे केवल वकील समझ सकते हैं)। वे कहते हैं:
- "हमने कभी वादा नहीं किया कि यह टोस्ट बनाएगा।" (कोई गुणवत्ता गारंटी नहीं)।
- "यह आपकी गलती है कि ब्रेड खराब थी।" (इनपुट के लिए आप जिम्मेदार हैं)।
- "अगर टोस्ट आपके घर में आग लगा देता है, तो आग के नुकसान के लिए आप भुगतान करेंगे, हम नहीं।" (आउटपुट के लिए आप उत्तरदायी हैं)।
- "लेकिन चिंता न करें, हम आपके जले हुए टोस्ट का उपयोग अपने अगले टोस्टर को प्रशिक्षित करने के लिए कर रहे हैं, और आप हमें रोक भी नहीं सकते भले ही आप हमें भुगतान करें।" (वे आपका डेटा मुफ्त में लेते हैं)।
- "साथ ही, यदि आप यह देखने के लिए टोस्टर को खोलने की कोशिश करते हैं कि यह कैसे काम करता है, तो हम आपको प्रतिबंधित कर देंगे।" (रिवर्स इंजीनियरिंग नहीं)।
यह बिल्कुल वैसा ही है जैसा ट्रिनिटी कॉलेज डबलिन के शोधकर्ताओं की एक टीम ने पाया जब उन्होंने छह लोकप्रिय जेनरेटिव एआई सेवाओं (जैसे ChatGPT, Gemini और Claude) के "उपयोग की शर्तों" (Terms of Use) का विश्लेषण किया। वे अपने शोध पत्र को "Terms of (Ab)Use" कहते हैं।
यहाँ उनके द्वारा की गई खोजों का रोजमर्रा के उदाहरणों का उपयोग करके एक सरल विवरण दिया गया है।
1. "ब्लैंक चेक" अनुबंध
जब आप इन एआई सेवाओं के लिए साइन अप करते हैं, तो आप केवल एक उपकरण का उपयोग करने के लिए सहमति नहीं दे रहे होते हैं; आप एक ऐसे अनुबंध पर हस्ताक्षर कर रहे होते हैं जो पूरी तरह से आपके विरुद्ध है।
- उदाहरण: कल्पना कीजिए कि आप कार किराए पर ले रहे हैं। आमतौर पर, रेंटल कंपनी वादा करती है कि कार में ब्रेक, टायर और इंजन है। इन एआई अनुबंधों में, कंपनी कहती है, "हम कुछ भी वादा नहीं करते। कार में कोई ब्रेक नहीं हो सकता, इंजन फट सकता है, और अगर दुर्घटना होती है, तो यह 100% आपकी गलती है।"
- वास्तविकता: उनके द्वारा विश्लेषण की गई छह में से किसी भी सेवा ने कोई गारंटी नहीं दी कि एआई सही ढंग से काम करेगा, सटीक होगा, या उपलब्ध भी होगा। उन्होंने स्पष्ट रूप से कहा कि सेवा "जैसी है वैसी ही" (as is) प्रदान की जाती है (जिसका अर्थ है "जैसा है वैसा ही लें, कोई रिफंड नहीं, कोई वादे नहीं")।
2. "आंखों पर पट्टी बांधकर गाड़ी चलाने" की समस्या
अनुबंध कहते हैं कि एआई जो कुछ भी कहता या करता है, उसके लिए आप जिम्मेदार हैं।
- उदाहरण: कल्पना कीजिए कि आप कार चला रहे हैं, लेकिन आपकी आंखों पर पट्टी बंधी है। कार खुद चल रही है, लेकिन यदि वह किसी पैदल यात्री से टकरा जाती है, तो पुलिस कहती है, "यह आपकी गलती है क्योंकि आपने स्टीयरिंग व्हील पकड़ा हुआ था।" आप सड़क देख नहीं सकते, आप नहीं जानते कि कार का कंप्यूटर कैसे काम करता है, और आप कोड को बदल नहीं सकते, फिर भी आप ही गिरफ्तार किए जाते हैं।
- वास्तविकता: एआई कंपनियां कानूनी जिम्मेदारी पूरी तरह से उपयोगकर्ता पर डाल देती हैं। यदि एआई गलती से कुछ अवैध, नस्लवादी या कॉपीराइट वाली चीज़ लिख देता है, तो उपयोगकर्ता को प्रतिबंधित कर दिया जाता है या मुकदमा चलाया जाता है। कंपनी कहती है, "हमने सिर्फ इंजन बनाया है; आपने इसे दीवार में टकरा दिया।" शोधकर्ता तर्क देते हैं कि यह अनुचित है क्योंकि उपयोगकर्ताओं का इस पर कोई नियंत्रण नहीं है कि एआई कैसे सोचता है या इसे किस डेटा पर प्रशिक्षित किया गया था।
3. डेटा का "जादुई बॉक्स"
कंपनियां वह सब कुछ लेती हैं जो आप टाइप करते हैं (इनपुट) और जो एआई वापस लिखता है (आउटपुट) ताकि उनके भविष्य के मॉडल को प्रशिक्षित किया जा सके।
- उदाहरण: कल्पना कीजिए कि आप जिम की सदस्यता लेते हैं। जिम का मालिक कहता है, "बहुत बढ़िया! हम आपके वर्कआउट रूटीन, आपके पसीने और आपके व्यक्तिगत आंकड़ों का उपयोग अन्य सभी के लिए बेहतर जिम बनाने के लिए करेंगे। ओह, और आप अपने स्वयं के वर्कआउट डेटा का उपयोग बाद में अपना खुद का जिम बनाने के लिए नहीं कर सकते।"
- वास्तविकता:
- मुफ्त उपयोगकर्ता: आप मूल रूप से एक 'उत्पाद' हैं। आपका डेटा उनके मॉडलों को प्रशिक्षित करता है।
- सशुल्क उपयोगकर्ता: भले ही आप सदस्यता के लिए भुगतान करते हैं, कंपनियां अक्सर अभी भी अपने मॉडलों को प्रशिक्षित करने के लिए आपके डेटा का उपयोग करती हैं, जब तक कि आप "ऑप्ट-आउट" करने के लिए कठिन प्रक्रियाओं का पालन न करें।
- दोहरा मानक: कंपनियां अपने उत्पाद को स्मार्ट बनाने के लिए आपके डेटा का उपयोग करती हैं, लेकिन वे आपको अपने स्वयं के एआई को प्रशिक्षित करने के लिए एआई के उत्तरों का उपयोग करने से रोकती हैं। यह एकतरफा रास्ता है जहाँ वे आपका ईंधन लेते हैं लेकिन आपको कार चलाने नहीं देते।
4. "बदलते लक्ष्य" (Moving Goalposts)
कंपनियां बिना आपको बताए किसी भी समय नियमों या सेवा को बदलने का अधिकार सुरक्षित रखती हैं।
- उदाहरण: आप एक फिल्म का टिकट खरीदते हैं। आधे रास्ते में, थिएटर का मालिक फिल्म को दूसरे जॉनर में बदल देता है, स्क्रीन का रेजोल्यूशन कम कर देता है, या तय करता है कि फिल्म अब कॉमेडी के बजाय हॉरर फिल्म है। वे आपसे कहते हैं, "हम जब चाहें फिल्म बदल सकते हैं, और यदि आपको यह पसंद नहीं आता है, तो आप जा सकते हैं, लेकिन आपको पैसे वापस नहीं मिलेंगे।"
- वास्तविकता: शर्तें बताती हैं कि एआई अपनी विशेषताओं, गुणवत्ता या यहाँ तक कि अपने अंतर्निहित मस्तिष्क (मॉडल) को बिना किसी पूर्व सूचना के बदल सकता है। यदि एआई अचानक खराब हो जाता है, तो कंपनी कहती है, "हमने कभी वादा नहीं किया कि यह अच्छा बना रहेगा।"
5. "कानूनी भूलभुलैया"
अनुबंध कानूनी शब्दावली में लिखे गए हैं, जो अक्सर व्यवसायों के लिए उपयोग किए जाने वाले शब्दों के साथ मिश्रित होते हैं, जिससे एक सामान्य व्यक्ति के लिए यह जानना असंभव हो जाता है कि वह क्या साइन कर रहा है।
- उदाहरण: यह एक ऐसे शहर के मानचित्र को पढ़ने की तरह है जो अदृश्य स्याही से बनाया गया है, जिसमें कुछ हिस्से दूसरी भाषा में लिखे गए हैं, और हर बार जब आप देखते हैं तो मानचित्र का आकार बदल जाता है।
- वास्तविकता: शोधकर्ताओं ने पाया कि गूगल और माइक्रोसॉफ्ट जैसी कुछ कंपनियों के लिए, एआई की शर्तें उन विशाल दस्तावेजों के भीतर दबी हुई हैं जो उनकी अन्य सेवाओं (जैसे ईमेल या क्लाउड स्टोरेज) को भी कवर करती हैं। यह एक "बौद्धिक बारूदी सुरंग" है जहाँ एक आम व्यक्ति आसानी से उस क्लॉज पर ठोकर खा सकता है जिसे वह समझ नहीं पाया।
मुख्य निष्कर्ष: यह क्यों मायने रखता है
शोधकर्ताओं का तर्क है कि ये शर्तें अनुचित और यूरोपीय उपभोक्ता संरक्षण कानूनों के तहत संभावित रूप से अवैध हैं।
- असंतुलन: कंपनियां सारा नियंत्रण और लाभ रखती हैं (अपने को स्मार्ट बनाने के लिए आपके डेटा का उपयोग करना), जबकि उपयोगकर्ता सारा जोखिम और दोष झेलते हैं (एआई की गलतियों के लिए मुकदमे का सामना करना)।
- समाधान: वे सरकारों और नियामकों से हस्तक्षेप करने का आह्वान कर रहे हैं। वे ऐसे नए कानून चाहते हैं जो कहें कि:
- कंपनियों को ईमानदार होना चाहिए कि उनका एआई क्या कर सकता है और क्या नहीं।
- कंपनियां सारा कानूनी दोष उपयोगकर्ताओं पर नहीं डाल सकतीं यदि उनका एआई पर नियंत्रण नहीं है।
- यदि आप किसी सेवा के लिए भुगतान करते हैं, तो आपके पास यह रोकने का अधिकार होना चाहिए कि आपके डेटा का उपयोग कंपनी के भविष्य के उत्पादों को प्रशिक्षित करने के लिए किया जाए।
संक्षेप में: शोध पत्र चेतावनी देता है कि जबकि जेनरेटिव एआई रोमांचक है, इसकी "बारीक शर्तें" (fine print) हमें एक ऐसे सौदे को स्वीकार करने के लिए छलने की कोशिश कर रही हैं जहाँ हम सभी जोखिम उठाते हैं, और कंपनियां सभी पुरस्कार लेती हैं। अब नियमों को फिर से लिखने का समय आ गया है ताकि खेल का मैदान समान हो सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।