AI Accountability Infrastructure: Cryptographically Verifiable Decision Provenance for High-Stakes AI Systems
यह शोध पत्र एआई अकाउंटेबिलिटी इंफ्रास्ट्रक्चर (AAI) का प्रस्ताव करता है, जो एक क्रिप्टोग्राफिक ढांचा है जो विशिष्ट एआई निर्णय उत्पत्ति (प्रोवेनेंस) के गोपनीयता-संरक्षित, तृतीय-पक्ष सत्यापन को सक्षम करने के लिए हैश-चेन्ड, डिजिटल रूप से हस्ताक्षरित रिकॉर्ड और थ्रेशोल्ड क्रिप्टोग्राफी का उपयोग करता है, जबकि नवीन प्रयोगात्मक परिणाम प्रस्तुत किए बिना औपचारिक मॉडल, खतरा विश्लेषण और नियामक संरेखण प्रदान करता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक हलचल भरे शहर में घूम रहे हैं जहाँ विशाल, अदृश्य रोबोट सभी के लिए जीवन बदलने वाले निर्णय ले रहे हैं। कभी-कभी कोई रोबोट आपका ऋण आवेदन (loan application) अस्वीकार कर देता है, किसी वीडियो को हटाने के लिए फ्लैग कर देता है, या किसी चिकित्सा उपचार का सुझाव देता है। अतीत में, यदि आप जानना चाहते थे कि किसी इंसान ने गलत निर्णय क्यों लिया, तो आप उनसे पूछ सकते थे, या उनकी डायरी देख सकते थे। लेकिन ये AI रोबोट डायरी नहीं रखते, और अक्सर वे अपने विचारों को इस तरह से समझाने में भी असमर्थ होते हैं जो हमारे लिए समझ में आए। इससे एक बड़ी समस्या पैदा होती है: यदि कोई रोबोट गलती करता है, तो हम कैसे साबित करें कि क्या हुआ था?
इस समस्या को हल करने के लिए, वैज्ञानिक AI के लिए "ब्लैक बॉक्स" बनाने की कोशिश कर रहे हैं, जो विमानों के फ्लाइट रिकॉर्डर की तरह होते हैं जो दुर्घटना के बाद यह बताने के लिए जीवित बच जाते हैं कि क्या गलत हुआ था। वे "एक्सप्लेनेबल एआई" (explainable AI) का भी उपयोग करते हैं, जो एक शिक्षक की तरह है जो घटना के बाद गणित की समस्या समझाने की कोशिश करता है, लेकिन यह अक्सर उस सटीक क्षण को पकड़ने में विफल रहता है जब निर्णय लिया गया था। सबसे बड़ी चुनौती दो चीजों के बीच संतुलन बनाना है: हमें जवाबदेही तय करने के लिए सबूत देखने की आवश्यकता है, लेकिन हम सभी को कच्चा डेटा (raw data) नहीं दिखा सकते क्योंकि इससे निजी रहस्य या यह कैसे काम करता है, इसका खुलासा हो सकता है (जिसका उपयोग हैकर्स कर सकते हैं)। यह शोध पत्र उस जटिल मध्य मार्ग में कदम रखता है और पूछता है: क्या हम एक ऐसा सिस्टम बना सकते हैं जो AI के निर्णयों को इस तरह रिकॉर्ड करे जो अपरिवर्तनीय, निजी और केवल तभी अनलॉक करने योग्य हो जब भरोसेमंद लोगों का एक समूह सहमत हो?
शोध का मुख्य विचार: एक AI "टेम्पर-प्रूफ डायरी"
इस शोध पत्र के लेखक, मेज़बाहु उद्दीन रफ़ी, एक नया सिस्टम प्रस्तावित करते हैं जिसे AI अकाउंटेबिलिटी इंफ्रास्ट्रक्चर (AAI) कहा जाता है। इसे एक जादुई, अटूट डायरी के रूप में समझें जिसे हर उच्च-दांव वाले AI सिस्टम को रखने के लिए मजबूर किया जाता है। लेकिन यह सिर्फ कोई साधारण डायरी नहीं है; यह एक विशेष कोड में लिखी गई डायरी है जो इसे बिना किसी के ध्यान में आए एक पन्ना मिटाने या बदलने को असंभव बनाती है।
यह सिस्टम कैसे काम करता है, इसके लिए कुछ मनोरंजक रूपकों का उपयोग किया गया है:
1. "ब्लैक बॉक्स" रसीद
हर बार जब कोई AI निर्णय लेता है (जैसे ऋण स्वीकृत करना), तो सिस्टम केवल उत्तर को सहेजता ही नहीं है। यह एक "रसीद" सहेजता है जिसे AI अकाउंटेबिलिटी रिकॉर्ड (AAR) कहा जाता है। यह रसीद सूचीबद्ध करती है कि AI ने वास्तव में क्या देखा (इनपुट), उसने किन उपकरणों का उपयोग किया (जैसे कैलकुलेटर या डेटाबेस), और किन नियमों का पालन किया। महत्वपूर्ण बात यह है कि यह AI के आंतरिक "विचारों" या छिपे हुए तर्क को रिकॉर्ड करने की कोशिश नहीं करता है, क्योंकि वे बहुत जटिल और परिवर्तनशील होते हैं। यह केवल अवलोकन योग्य तथ्यों को रिकॉर्ड करता है, जैसे कि सुरक्षा कैमरा यह रिकॉर्ड करता है कि कौन दरवाजे से अंदर आया, न कि वे क्या सोच रहे थे।
2. अटूट कड़ियों की श्रृंखला
यह सुनिश्चित करने के लिए कि कोई बाद में चुपके से डायरी में बदलाव न कर सके, सिस्टम हर नई रसीद को पिछली रसीद से एक डिजिटल "श्रृंखला" का उपयोग करके जोड़ता है। कल्पना करें कि एक श्रृंखला जहाँ हर कड़ी एक विशेष धातु से बनी है जो अगर आप उसे पिघलाने की कोशिश करेंगे तो रंग बदल देती है। यदि कोई पिछले सप्ताह की रसीद को बदलने की कोशिश करता है, तो कड़ी टूट जाएगी, और पूरी श्रृंखला लाल हो जाएगी, जो चिल्लाकर कहेगी, "हे! किसी ने इसके साथ छेड़छाड़ की है!" इसे हैश-चेनिंग (hash-chaining) कहा जाता है, और यह सुनिश्चित करता है कि एक बार निर्णय लिख दिया जाए, तो वह बिल्कुल वैसा ही रहे।
3. "जादुई चाबी" जिसे तीन लोगों की आवश्यकता होती है
यह सबसे चतुर हिस्सा है। आमतौर पर, जो कंपनी AI की मालिक होती है, उसके पास डायरी की चाबियाँ होती हैं। यदि वे अपनी गलती छिपाना चाहते हैं, तो वे बस डायरी को लॉक कर सकते हैं और चाबी फेंक सकते हैं। AAI सिस्टम थ्रेशोल्ड क्रिप्टोग्राफी (threshold cryptography) का उपयोग करके इस समस्या को ठीक करता है। कल्पना करें कि डायरी की चाबी को पांच टुकड़ों में काटा गया है। डायरी खोलने और रहस्य पढ़ने के लिए, आपको कम से कम तीन अलग-अलग लोगों को अपने टुकड़े एक साथ लाने की आवश्यकता होगी। ये लोग AI कंपनी, एक स्वतंत्र ऑडिटर और एक सरकारी नियामक हो सकते हैं। कोई भी अकेला व्यक्ति—यहाँ तक कि AI कंपनी का CEO भी—अकेले डायरी नहीं खोल सकता। यह सुनिश्चित करता है कि सबूत किसी एक बुरे व्यक्ति द्वारा छिपाए या जाली नहीं बनाए जा सकें।
4. "क्रमिक" टॉर्च (Graduated Flashlight)
कभी-कभी आपको पूरी डायरी देखने की आवश्यकता नहीं होती; आपको बस एक विशिष्ट तथ्य की जांच करने की आवश्यकता होती है। सिस्टम एक "क्रमिक प्रकटीकरण" (graduated disclosure) मॉडल का उपयोग करता है। यह एक टॉर्च रखने जैसा है जो केवल एक वाक्य, या एक पूरा पैराग्राफ, या पूरा पेज दिखा सकती है, जो इस बात पर निर्भर करता है कि कौन और क्यों पूछ रहा है। यदि किसी न्यायाधीश को सबूत देखने की आवश्यकता है, तो "जादुई चाबी" वाले लोग उस विशिष्ट भाग को अनलॉक करते हैं जिसकी उन्हें आवश्यकता है, लेकिन डायरी का बाकी हिस्सा अंधेरे और निजी रहता है। यह न्याय की अनुमति देते हुए उपयोगकर्ता की गोपनीयता की रक्षा करता है।
इस शोध पत्र ने वास्तव में क्या पाया (और क्या नहीं)
लेखक इस बारे में बहुत ईमानदार हैं कि उन्होंने क्या किया है और क्या अभी भी प्रगति पर है। उन्होंने एक विशाल, वास्तविक दुनिया का AI सिस्टम नहीं बनाया जो किसी बैंक या अस्पताल को चलाता हो। इसके बजाय, उन्होंने एक प्रोटोटाइप बनाया—उनके सिस्टम का एक छोटा, सिम्युलेटेड संस्करण जो एक एकल कंप्यूटर पर चलता है।
अपने सिमुलेशन में, उन्होंने 5,000 नकली AI निर्णय बनाए। उन्होंने अपने सिस्टम का परीक्षण किया और पाया कि:
- यह तेज़ है: श्रृंखला में एक नया "रसीद" जोड़ने में एक मिलीसेकंड से भी कम समय लगा (औसतन 0.24 मिलीसेकंड)।
- यह झूठ पकड़ता है: जब उन्होंने डेटा के साथ छेड़छाड़ करने की कोशिश की, तो सिस्टम ने तुरंत इसे टूटा हुआ घोषित कर दिया।
- यह रहस्य सुरक्षित रखता है: उन्होंने दिखाया कि आप पूरे रिकॉर्ड को प्रकट किए बिना एक विशिष्ट तथ्य को प्रमाणित कर सकते हैं।
हालाँकि, शोध पत्र स्पष्ट रूप से कहता है कि यह अभी वास्तविक दुनिया के लिए तैयार कोई अंतिम उत्पाद नहीं है। सिमुलेशन एक ही कंप्यूटर पर चला, इसलिए इसने यह परीक्षण नहीं किया कि सिस्टम कितना धीमा हो जाएगा जब "चाबी धारक" अलग-अलग देशों में होंगे और इंटरनेट के माध्यम से एक-दूसरे से बात करने के लिए मजबूर होंगे। लेखक यह भी स्वीकार करते हैं कि जबकि उनका सिस्टम यह सिद्ध करता है कि रिकॉर्ड को बदला नहीं गया है, यह यह सिद्ध नहीं कर सकता कि AI ने जो मूल डेटा देखा था वह सत्य था (उदाहरण के लिए, यदि किसी हैकर ने AI को फर्जी डेटा खिलाया, तो रिकॉर्ड निष्ठापूर्वक फर्जी डेटा को ही दिखाएगा, जो कि अभी भी एक समस्या है)।
यह क्यों महत्वपूर्ण है
यह शोध पत्र एक नए प्रकार के सुरक्षा जाल के ब्लूप्रिंट की तरह है। यह हर समस्या को हल नहीं करता, और यह दावा नहीं करता कि यह AI को पूर्ण बनाने वाला कोई जादुई मंत्र है। इसके बजाय, यह एक तरीका प्रदान करता है जिससे यह सुनिश्चित किया जा सके कि जब AI कोई बड़ी गलती करता है, तो हमारे पास एक विश्वसनीय, अपरिवर्तनीय रिकॉर्ड हो कि क्या हुआ था, और कोई भी व्यक्ति उस रिकॉर्ड को छिपा न सके। यह "हम AI पर भरोसा करते हैं" और "हम यह सिद्ध कर सकते हैं कि AI ने क्या किया" के बीच के अंतर को पाटता है, जिससे अदालतों, नियामकों और आम लोगों को गोपनीयता या सुरक्षा से समझौता किए बिना इन शक्तिशाली प्रणालियों को जवाबदेह ठहराने का तरीका मिलता है।
लेखक निष्कर्ष निकालते हैं कि हालांकि उनके परीक्षणों में गणित और तर्क सही हैं, लेकिन वास्तविक दुनिया का परीक्षण अभी भी सामने है। वे अन्य शोधकर्ताओं को आमंत्रित करते हैं कि वे उनके ब्लूप्रिंट को लें, उनके वास्तविक वितरित सिस्टम (distributed system) का निर्माण करें, और देखें कि क्या यह वास्तविक इंटरनेट की अराजकता को संभाल सकता है। यह एक ठोस आधार है, लेकिन घर अभी बना नहीं है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।