Who gets to verify AI? Provenance, authority and accountability in digital government
यह शोध पत्र यह तर्क देता है कि प्रभावी एआई-सामग्री शासन के लिए केवल पृथक लेबलिंग या प्रोवेनेंस उपकरणों से आगे बढ़कर एक समग्र ढांचे को अपनाना आवश्यक है जो सामग्री जीवनचक्र में सार्वजनिक सुपाठ्यता, ढांचागत सत्यापन क्षमता और संस्थागत उत्तरदायित्व के बीच अंतर करता हो, ताकि केवल प्रतीकात्मक अनुपालन के बजाय वास्तविक जवाबदेही सुनिश्चित की जा सके।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक दुनिया में, सरकारी एजेंसियां आधिकारिक नोटिस तैयार करने, दस्तावेजों का अनुवाद करने, चित्र बनाने और यहां तक कि नागरिकों के सवालों के जवाब देने वाले चैटबॉट्स को चलाने के लिए तेजी से आर्टिफिशियल इंटेलिजेंस (AI) पर निर्भर हो रही हैं। यह तकनीक गति और दक्षता तो प्रदान करती है, लेकिन यह एक अनूठा खतरा भी लाती है: यह आधिकारिक जानकारी के अत्यधिक विश्वसनीय नकली संस्करण बनाना संभव बनाती है। किसी सार्वजनिक अधिकारी की एक सिंथेटिक छवि या एक फर्जी आपातकालीन अलर्ट सच्चाई से कहीं अधिक तेजी से फैल सकता है, जिससे लोग इस बात को लेकर अनिश्चित हो जाते हैं कि क्या वास्तविक है और क्या निर्मित। इससे निपटने के लिए, नियामक और प्रौद्योगिकी कंपनियां एक सरल विचार की ओर मुड़ी हैं: लेबलिंग (लेबल लगाना)। तर्क यह है कि यदि हम सामग्री को स्पष्ट रूप से "AI द्वारा निर्मित" के रूप में चिह्नित कर सकें, तो लोग सतर्क रहना जानेंगे। हालांकि, यह दृष्टिकोण यह मान लेता है कि एक साधारण चेतावनी संकेत विश्वास बहाल करने के लिए पर्याप्त है, जो उस जटिल नियमों, सॉफ्टवेयर और मानवीय निर्णयों के जाल की अनदेखी करता है जो ऐसे सिस्टम को वास्तव में काम करने के लिए आवश्यक हैं।
शुआई वांग और उनके सहयोगियों द्वारा किया गया एक नया अध्ययन इस बात की जांच करता है कि क्या ये लेबलिंग सिस्टम वास्तव में सरकारों और प्रौद्योगिकी कंपनियों को जवाबदेह बनाते हैं, या वे केवल सुरक्षा का आभास मात्र पैदा करते हैं। शोधकर्ताओं ने चीन, यूरोपीय संघ और अंतर्राष्ट्रीय संगठनों के ग्यारह प्रमुख नियामक दस्तावेजों और तकनीकी मानकों का परीक्षण किया। उन्होंने अनिवार्य लेबलिंग कानूनों से लेकर डिजिटल "वॉटरमार्क" के तकनीकी विशिष्टताओं तक सब कुछ देखा, जो यह ट्रैक करते हैं कि कोई फ़ाइल कहां से आई है। उनका विश्लेषण प्रकट करता है कि पारदर्शिता कोई एकल स्विच नहीं है जिसे चालू किया जा सके। इसके बजाय, उन्होंने पाया कि एक कामकाजी प्रणाली के लिए तीन अलग-अलग स्तरों की आवश्यकता होती है जो एक साथ कार्य करें: सामग्री को जनता के लिए बोधगम्य बनाना, सामग्री के मूल को मशीनों द्वारा सत्यापन योग्य बनाना, और यह सुनिश्चित करना कि जब चीजें गलत होती हैं तो संस्थानों को जिम्मेदार ठहराया जा सके।
शोधकर्ताओं ने पाया कि केवल किसी सामग्री के साथ एक दृश्य लेबल जोड़ना अक्सर सत्यापन का बोझ औसत नागरिक पर डाल देता है। यदि कोई उपयोगकर्ता एक चेतावनी देखता है कि एक छवि AI-जनित है, लेकिन उसके पास स्रोत की जांच करने या यह समझने का कोई तरीका नहीं है कि वह चेतावनी वास्तव में क्या मायने रखती है, तो लेबल संगठन के लिए सार्वजनिक सुरक्षा के उपकरण के बजाय दायित्व प्रबंधन (liability management) का एक रूप बन जाता है। अध्ययन दिखाता है कि बिना सत्यापन के लेबल लगाना बिना स्टोर के पते वाले रसीद जैसा है; यह बताता है कि एक लेनदेन हुआ है, लेकिन यह कोई प्रमाण नहीं देता कि वह कहां से आया है। इसके अलावा, फ़ाइल के इतिहास को ट्रैक करने के लिए डिज़ाइन किए गए तकनीकी सिस्टम—जिसे प्रोवेनेंस (provenance) कहा जाता है—अक्सर कुछ बड़ी प्रौद्योगिकी फर्मों और मानक निकायों के हाथों में शक्ति केंद्रित करते हैं। ये सिस्टम सत्यापित कर सकते हैं कि एक फ़ाइल एक विशिष्ट सर्वर से आई थी, लेकिन वे यह सत्यापित नहीं कर सकते कि फ़ाइल के भीतर की जानकारी सत्य है या नहीं। एक दस्तावेज़ अपने निर्माण से प्रकाशन तक पूरी तरह से ट्रैक किया जा सकता है, फिर भी उसमें गलत या भ्रामक जानकारी हो सकती है।
शायद सबसे महत्वपूर्ण निष्कर्ष यह है कि भले ही सभी तकनीकी हिस्से मौजूद हों, जवाबदेही अक्सर इसलिए विफल हो जाती है क्योंकि सिस्टम जिस तरह से व्यवस्थित है वह दोषपूर्ण है। शोधकर्ताओं ने छह सामान्य तरीकों की पहचान की जिनसे ये सिस्टम टूट जाते हैं। एक प्रमुख विफलता तब होती है जब विभिन्न प्रकार की सामग्री के नियम बहुत व्यापक होते हैं, जो एक हानिरहित रचनात्मक छवि और एक महत्वपूर्ण आपातकालीन अलर्ट के बीच अंतर नहीं कर पाते, जिससे संसाधन बर्बाद होते हैं और खतरनाक जानकारी कम सुरक्षित रह जाती है। एक अन्य विफलता तब होती है जब दृश्य लेबल और छिपे हुए तकनीकी डेटा के बीच संबंध नहीं होता, जिससे एक संगठन चेतावनी प्रदर्शित तो कर सकता है लेकिन अंतर्निहित साक्ष्य खो जाते हैं या अप्राप्य हो जाते हैं। अध्ययन इस बात पर भी प्रकाश डालता है कि जब किसी फ़ाइल को संपादित किया जाता है या विभिन्न प्लेटफार्मों पर साझा किया जाता है, तो डिजिटल निशान अक्सर टूट जाते हैं, जिससे सामग्री को उसके स्रोत तक वापस ट्रैक करने का कोई रास्ता नहीं बचता। इन परिदृश्यों में, जिम्मेदारी खंडित हो जाती; सॉफ्टवेयर प्रदाता प्लेटफॉर्म को दोष देता है, प्लेटफॉर्म उपयोगकर्ता को दोष देता है, और नियामक के पास कहानी को फिर से जोड़ने की तकनीकी क्षमता या शक्ति नहीं होती।
लेखकों का तर्क है कि पारदर्शिता को सार्थक बनाने के लिए, इसे एक साधारण तकनीकी समाधान के बजाय सार्वजनिक बुनियादी ढांचे के रूप में माना जाना चाहिए। इसका अर्थ है कि लेबलिंग नियमों को सुलभ सत्यापन उपकरणों से जोड़ा जाना चाहिए जो नागरिकों को सूचना के स्रोत की जांच करने की अनुमति दें। इसके लिए यह भी आवश्यक है कि संस्थानों के पास उन रिकॉर्डों तक पहुंचने का अधिकार और क्षमता हो जिनकी आवश्यकता दोष मढ़ने और गलत सूचना फैलने पर सुधार लागू करने के लिए होती है। अध्ययन सुझाव देता है कि एक सफल प्रणाली "यह किसने बनाया?" के प्रश्न को "क्या यह सत्य है?" के प्रश्न से अलग करेगी, यह सुनिश्चित करते हुए कि एक सत्यापित स्रोत का अर्थ स्वतः ही सटीक सामग्री नहीं है। अंततः, शोध निष्कर्ष निकालता है कि अधिक प्रकटीकरण (disclosure) का अर्थ स्वतः ही अधिक जवाबदेही नहीं है। सत्यापन योग्य साक्ष्य से दृश्य लेबल को न जोड़कर और संस्थानों को उस साक्ष्य पर कार्रवाई करने में सक्षम न बनाकर, AI लेबलिंग की वर्तमान लहर "ट्रस्ट थिएटर" (विश्वास का नाटक) का एक रूप बनने का जोखिम उठाती है, जहाँ सुरक्षा के संकेत तो दिखाई देते हैं, लेकिन जनता की रक्षा करने की वास्तविक क्षमता पहुंच से बाहर रहती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।