Transparency as Architecture: Structural Compliance Gaps in EU AI Act Article 50 II
यह शोध पत्र यह तर्क देता है कि यूरोपीय संघ के एआई अधिनियम (EU AI Act) की अनुच्छेद 50 II की एआई-जनित सामग्री के लिए मानव और मशीन दोनों के लिए पठनीय पारदर्शिता की आवश्यकता, वर्तमान जनरेटिव सिस्टम के लिए मौलिक तकनीकी और वर्कफ़्लो बाधाओं के कारण संरचनात्मक रूप से अव्यवहार्य है, जिससे पारदर्शिता को एक 'पोस्ट-होक' लेबलिंग कार्य के बजाय एक मुख्य आर्किटेक्चरल डिज़ाइन आवश्यकता के रूप में मानने की ओर बदलाव करना आवश्यक हो जाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि यूरोपीय संघ ने अभी-अभी AI एक्ट नामक एक नया कानून पारित किया है। इस कानून का एक विशिष्ट नियम (अनुच्छेद 50) कहता है: "यदि कोई कंप्यूटर कहानी लिखता है, चित्र बनाता है या डेटा बनाता है, तो उसे एक डिजिटल 'नाम का टैग' पहनना होगा।"
इस नाम टैग के दो काम हैं:
- इंसानों के लिए: इसे पढ़ना आसान होना चाहिए (जैसे कि "AI द्वारा बनाया गया" लिखा हुआ एक लेबल)।
- मशीनों के लिए: इसमें एक गुप्त कोड होना चाहिए जिसे अन्य कंप्यूटर यह सत्यापित करने के लिए स्कैन कर सकें कि, "हाँ, यह निश्चित रूप से एक रोबोट द्वारा बनाया गया था।"
कानून कहता है कि यह नियम अगस्त 2026 में शुरू होगा।
इस शोध पत्र के लेखक, जो कि शोधकर्ताओं की एक टीम है, कह रहे हैं: "रुको, ठहरो। अगर हम मौजूदा AI सिस्टम पर बस एक स्टिकर चिपकाने की कोशिश करेंगे, तो यह एक आपदा होगी।" उनका तर्क है कि आज AI जिस तरह से काम करता है, वह इस कानून के साथ मौलिक रूप से असंगत है।
यहाँ उनके तर्क का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:
1. दो समस्याग्रस्त परिदृश्य
शोधकर्ताओं ने इस कानून का परीक्षण दो वास्तविक दुनिया की स्थितियों के विरुद्ध किया जहाँ AI का बहुत अधिक उपयोग किया जाता है।
परिदृश्य A: "नकली डेटा" का कारखाना (सिंथेटिक डेटा)
स्थिति: AI मॉडल को सीखने के लिए भारी मात्रा में डेटा की आवश्यकता होती है। कभी-कभी, वास्तविक डेटा उपलब्ध नहीं होता, इसलिए कंपनियाँ अन्य AI को प्रशिक्षित करने के लिए AI का उपयोग करके "नकली" (सिंथेटिक) डेटा बनाती हैं।
समस्या: कानून कहता है कि इस नकली डेटा पर एक स्थायी "AI टैग" (वॉटरमार्क) होना चाहिए।
- उपमा: कल्पना कीजिए कि आप एक केक (AI प्रशिक्षण) बना रहे हैं जिसमें आटे (डेटा) का उपयोग किया जा रहा है। कानून कहता है कि आपको आटे के हर दाने में एक छोटा, स्थायी, खाने योग्य प्लास्टिक चिप रखना होगा ताकि लोगों को पता चले कि यह "AI-आटा" है।
- गड़बड़ी: यदि आप आटे में वह प्लास्टिक चिप डालते हैं, तो केक का स्वाद अजीब हो जाएगा। AI उस प्लास्टिक चिप को पहचानने लगेगा बजाय वास्तविक आटे के। यह एक छात्र की तरह है जो परीक्षा के लिए पढ़ाई तो कर रहा है, लेकिन उत्तरों के बजाय पाठ्यपुस्तक के फॉन्ट (font) को रट रहा है।
- विरोधाभास: यदि आप टैग को इतना मजबूत बनाते हैं कि मशीनें उसे देख सकें, तो वह प्रशिक्षण के लिए डेटा को खराब कर देता है। यदि आप टैग को इतना कमजोर बनाते हैं कि वह डेटा को खराब न करे, तो मशीनें उसे देख नहीं पातीं। आप दोनों चीजें एक साथ नहीं कर सकते।
परिदृश्य B: "सत्य का जासूस" (फैक्ट-चेकिंग)
स्थिति: समाचार कक्ष (newsrooms) पत्रकारों को यह जाँचने में मदद करने के लिए AI का उपयोग करते हैं कि कोई दावा सत्य है या नहीं। AI साक्ष्य एकत्र करता है, एक निर्णय लिखता है, और स्पष्ट करता है कि क्यों।
समस्या: कानून कहता है कि AI के आउटपुट पर टैग होना चाहिए।
- उपमा: कल्पना कीजिए कि एक रोबोट समाचार लेख का एक ड्राफ्ट लिखता है। फिर, एक मानव पत्रकार उसे संपादित करता है, वाक्यों को फिर से लिखता है, लहजा बदलता है, और तथ्यों को ठीक करता है। अंत में, लेख प्रकाशित किया जाता है।
- गड़बड़ी: कानून चाहता है कि "AI टैग" इस प्रक्रिया में भी बना रहे। लेकिन मानवीय संपादन एक ब्लेंडर (मिक्सर) की तरह है। यदि आप कागज के टुकड़े पर "रोबोट द्वारा बनाया गया" का स्टिकर लगाते हैं और फिर उस टुकड़े को ब्लेंडर (संपादन, पैराफ्रेसिंग, सारांश) में चलाते हैं, तो स्टिकर फट जाएगा।
- वास्तविकता: जब तक लेख प्रकाशित होता है, तब तक मानव और रोबोट ने मिलकर इतना काम कर लिया होता है कि आप यह नहीं बता सकते कि रोबोट कहाँ रुका और इंसान कहाँ से शुरू हुआ। "टैग" उस प्रक्रिया द्वारा नष्ट हो जाता है जो समाचार को बेहतर बनाने के लिए की जाती है।
2. सिस्टम में तीन बड़ी खामियां
शोधकर्ताओं ने तीन "संरचनात्मक अंतराल" (structural gaps) पाए जो इस कानून का पालन करना वर्तमान तकनीक के साथ असंभव बनाते हैं:
"भाषा की बाधा" (कोई सामान्य प्रारूप नहीं):
कोई सार्वभौमिक "स्टिकर" नहीं है जिस पर सभी कंप्यूटर सहमत हों। एक कंपनी लाल बिंदु का उपयोग कर सकती है, दूसरी नीले वर्ग का। यदि कोई मशीन कंपनी A के दस्तावेज़ की जाँच करती है, तो वह कंपनी B के टैग को नहीं समझ पाएगी। यह ऐसा है जैसे हर कोई अलग बोली बोल रहा हो; मशीनें टैग को सत्यापित करने के लिए एक-दूसरे से बात नहीं कर सकतीं।"अनुमान लगाने का खेल" (विश्वसनीयता बनाम संभावना):
AI कैलकुलेटर (1+1=2) की तरह काम नहीं करता है। यह मौसम पूर्वानुमानकर्ता (80% बारिश की संभावना) की तरह काम करता है। यह संभावना के आधार पर अगले शब्द का अनुमान लगाता है। कानून "विश्वसनीय" टैग की मांग करता है जो हमेशा मौजूद हों। लेकिन यदि AI केवल अनुमान लगा रहा है, तो टैग 100% विश्वसनीय कैसे हो सकता है? कानून यह मान लेता है कि AI एक स्टैम्पिंग मशीन है; वास्तव में, यह एक रचनात्मक कलाकार है जो अपना मन बदलता रहता है।"एक ही आकार सबके लिए" वाली गलती:
कानून कहता है "समझने योग्य बनाएं।" लेकिन जो एक कंप्यूटर इंजीनियर के लिए समझने योग्य है, वह एक आम आदमी के लिए निरर्थक हो सकता है, और इसके विपरीत भी। कानून यह नहीं समझाता कि चेतावनी को कैसे तैयार किया जाए। क्या आपको एक पत्रकार को जटिल कोड दिखाना चाहिए? या एक दादाजी को एक साधारण कार्टून? कानून इस पर मौन है, जिससे कंपनियाँ केवल अनुमान लगाने के लिए छोड़ दी गई हैं।
3. बड़ा निष्कर्ष
लेखकों का निष्कर्ष है कि आप इसे केवल अंत में सॉफ्टवेयर में "पैच" लगाकर ठीक नहीं कर सकते (post-hoc labeling)।
रूपक (Metaphor):
इसे बाद में टैग जोड़कर ठीक करने की कोशिश करना एक ऐसी कार पर सीटबेल्ट लगाने जैसा है जिसे बिना फ्रेम के बनाया गया था। इससे कोई फर्क नहीं पड़ता कि सीटबेल्ट कितनी अच्छी है; कार उसे संभालने के लिए बनी ही नहीं है।
समाधान:
हमें पारदर्शिता को वास्तुकला (architecture) के रूप में देखना होगा, न कि एक एक्सेसरी के रूप में।
- हमें AI को ज़ीरो से फिर से डिजाइन करने की आवश्यकता है।
- हमें वकीलों, इंजीनियरों और डिजाइनरों को अभी मिलकर यह तय करने के लिए काम करना होगा कि इन टैगों को संपादन और प्रशिक्षण के दौरान कैसे जीवित रखा जाए।
- हमें कानून लागू होने से पहले नए मानक (जैसे AI टैग के लिए एक सार्वभौमिक भाषा) विकसित करने की आवश्यकता है।
संक्षेप में: यूरोपीय संघ ने एक ऐसे नियम के लिए समय सीमा निर्धारित कर दी है जिसका वर्तमान तकनीक बिना उन चीजों को तोड़े जिनका उद्देश्य AI है, पालन ही नहीं कर सकती। जब तक हम AI बनाने के तरीके को पूरी तरह से नहीं बदलते, कानून विफल हो जाएगा या भारी भ्रम पैदा करेगा।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।