The Acknowledgment Point Is the System: Durable Policy-Decision Receipts for AI Audit Evidence
यह शोध पत्र RuntimeGuard-AI प्रस्तुत करता है, जो एक शोध प्रोटोटाइप है जो नीतिगत निर्णयों को स्पष्ट सिंक्रोनाइज़ेशन सीमाओं पर हस्ताक्षरित रसीदों से बांधकर टिकाऊ और सत्यापन योग्य AI ऑडिट साक्ष्य सुनिश्चित करता है, जिससे यह एक "मुफ्त" एसिंक्रोनस समाधान के बजाय कम-विलंबता वाले बफ़र्ड प्रदर्शन और उच्च-निष्ठा वाले सिंक्रोनस रिकॉर्डिंग के बीच एक मापा गया समझौता प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आर्टिफिशियल इंटेलिजेंस की दुनिया में, एक सिस्टम पलक झपकते ही, अक्सर एक झपकी के समय में ही, निर्णय लेता है। लेकिन उस निर्णय को भरोसेमंद होने के लिए, उसका एक स्थायी रिकॉर्ड होना चाहिए, एक ऐसा रिकॉर्ड जिसे बिजली विफल होने या कंप्यूटर क्रैश होने पर मिटाया न जा सके। यही जवाबदेही की मुख्य चुनौती है: यह जानना कि ठीक कब एक डिजिटल वादा एक तथ्य बन जाता है। यदि कोई कंप्यूटर उपयोगकर्ता को कहता है, "मैंने जो अभी किया उसका प्रमाण सुरक्षित कर लिया है," लेकिन सेव करने की प्रक्रिया अभी भी बैकग्राउंड में चल रही है, तो वह वादा नाजुक है। अचानक क्रैश होने से रिकॉर्ड वास्तव में सुरक्षित होने से पहले ही मेमोरी मिट सकती है। इसके विपरीत, यदि कंप्यूटर रिकॉर्ड के पूरी तरह सुरक्षित होने तक प्रतीक्षा करता है, तो उपयोगकर्ता को एक ध्यान देने योग्य देरी का अनुभव हो सकता है। शोधकर्ता जिस सवाल का सामना कर रहे हैं वह केवल यह नहीं है कि लॉग कैसे लिखा जाए, बल्कि यह है कि निश्चित रूप से कैसे पता लगाया जाए कि वह लॉग अपरिवर्तनीय और भरोसे के योग्य कब है।
शोधकर्ताओं की एक स्वतंत्र टीम ने इस विशिष्ट टाइमिंग समस्या को हल करने के लिए एक नया सिस्टम बनाया है, एक ऐसा प्रोटोटाइप तैयार किया है जो स्वीकृति के क्षण को ही सत्य के क्षण के रूप में मानता है। उनका काम, जिसे RuntimeGuard-AI कहा जाता है, एक सरल लेकिन कठिन नियम पर केंद्रित है: एक कंप्यूटर को उपयोगकर्ता को तब तक सबूतों के अस्तित्व के बारे में नहीं बताना चाहिए जब तक कि वह सबूत वास्तव में संभावित क्रैश से बच न गया हो। इसे हासिल करने के लिए, उन्होंने उन जटिल परतों को हटा दिया जिन पर पिछले संस्करणों के सिस्टम निर्भर थे, और इंजन को फिर से बनाया ताकि यह छोटा, तेज़ और परीक्षण करने में आसान हो सके। परिणाम एक ऐसा सिस्टम है जो हर निर्णय को एक विशिष्ट नीति (policy) से जोड़ता है, स्टोरेज में एक छोटा, सुरक्षित रिकॉर्ड लिखता है, और उपयोगकर्ता को एक हस्ताक्षरित रसीद देता है जो स्पष्ट रूप से बताती है कि वह रिकॉर्ड सुरक्षित है या अभी भी असुरक्षित है।
शोधकर्ताओं ने सिस्टम को इस ट्रेड-ऑफ (समझौते) को संभालने के तीन अलग-अलग तरीके प्रदान करने के लिए डिज़ाइन किया है, जिससे उपयोगकर्ता गति और सुरक्षा के बीच चुनाव कर सके। सबसे तेज़ मोड में, सिस्टम रिकॉर्ड को एक अस्थायी बफर में लिखता है और तुरंत एक ऐसी रसीद वापस करता है जो स्वीकार करती है कि डेटा अभी सुरक्षित नहीं है। यह उन उच्च-गति वाले कार्यों के लिए उपयोगी है जहाँ डेटा हानि का एक छोटा जोखिम स्वीकार्य है। अन्य दो मोड में, सिस्टम प्रतीक्षा करता है। यह कंप्यूटर को मजबूर करता है कि वह रसीद वापस करने से पहले डेटा को भौतिक रूप से स्टोरेज ड्राइव के साथ सिंक्रोनाइज़ करे, जो यह गारंटी देता है कि रिकॉर्ड टिकाऊ है, बशर्ते ऑपरेटिंग सिस्टम और स्टोरेज हार्डवेयर अपने दस्तावेजी अर्थों (semantics) का पालन करें। इनमें से एक मोड सुनिश्चित करता है कि डेटा डिस्क पर सुरक्षित है, जबकि दूसरा यह सुनिश्चित करता है कि डेटा स्टोरेज कंट्रोलर तक फ्लश कर दिया गया है, हालांकि सिस्टम स्पष्ट रूप से रिमोट रेप्लिकेशन या रोलबैक के विरुद्ध प्रतिरक्षा का दावा नहीं करता है। शोधकर्ताओं ने पाया कि यह चुनाव मुफ्त नहीं है। जब उन्होंने आधुनिक चार वर्कर थ्रेड्स वाले प्रोसेसर पर सिस्टम का परीक्षण किया, तो तेज़, बफर्ड मोड प्रति सेकंड लगभग 27,193 अनुरोधों को संभाल सकता था जिसमें केवल 141.9 माइक्रोसेकंड की देरी हुई। हालाँकि, जब उन्होंने उस मोड पर स्विच किया जो गारंटी देता है कि डेटा डिस्क पर सुरक्षित है, तो गति नाटकीय रूप से गिरकर लगभग 242 अनुरोध प्रति सेकंड रह गई, और देरी बढ़कर 16.0 मिलीसेकंड हो गई। यह अंतर कोई बग नहीं है; यह स्टोरेज के काम करने की एक मापी गई वास्तविकता है। यह सिस्टम सिद्ध करता है कि आप एक ही समय में त्वरित स्वीकृति और गारंटीकृत स्थायित्व (durability) प्राप्त नहीं कर सकते।
गति परीक्षणों के अलावा, शोधकर्ताओं ने एक विधि बनाई है जिससे यह सत्यापित किया जा सके कि ये रिकॉर्ड समय के साथ छेड़छाड़ से मुक्त रहे हैं। वे इन हजारों हस्ताक्षरित रसीदों को 'एपॉक्स' (epochs) नामक बड़े समूहों में समूहित करते हैं। प्रत्येक एपॉक्स को एक क्रिप्टोग्राफिक सिग्नेचर के साथ सील किया जाता है, जो साक्ष्य की एक ऐसी श्रृंखला बनाता जिसे एक स्वतंत्र ऑडिटर जांच सकता है। यदि कोई पिछले निर्णय को बदलने या रिकॉर्ड को हटाने की कोशिश करता है, तो श्रृंखला टूट जाती है, और सिग्नेचर अब मेल नहीं खाता, हालांकि सिस्टम नोट करता है कि एक विशेषित ऑपरेटर, जिसके पास पूर्ण रिकॉर्ड को फिर से लिखने की क्षमता है, इन चेकसम्स को बायपास कर सकता है। सिस्टम में एक कठोर रिकवरी प्रक्रिया भी शामिल है। यदि कंप्यूटर क्रैश होता है और पुनरारंभ होता है, तो इंजन स्वचालित रूप से मिले रिकॉर्ड की जांच करता है, यह सुनिश्चित करता है कि वे पूर्ण और सही क्रम में हैं। यह किसी भी आंशिक या दूषित डेटा को अस्वीकार कर देता है, और तब तक शुरू होने से मना कर देता है जब तक कि वह आश्वस्त न हो जाए कि इतिहास बरकरार है। 100,000 रिकॉर्डों के लॉग को रिकवर और वैलिडेट करने में एक सेकंड से भी कम समय लगा, जो दर्शाता है कि सिस्टम बिना यह भूल जाए कि क्रैश से पहले क्या हुआ था, तेजी से पुनरारंभ हो सकता है।
शोधकर्ता इस बात को लेकर सावधान थे कि उनका सिस्टम क्या नहीं करता है। यह यह सिद्ध नहीं करता कि आर्टिफिशियल इंटेलिजेंस मॉडल स्वयं सही सोच रहा है या निर्णय लेने वाला कोड छिपे हुए वायरस से मुक्त है। यह उस हैकर को नहीं रोकता जो पहले से ही पूरे कंप्यूटर पर कब्जा कर चुका है और इतिहास को फिर से लिख रहा है। इसके बजाय, यह एक विशिष्ट निर्णय और एक विशिष्ट नीति के बीच एक गहरा संबंध बनाता है, यह सुनिश्चित करता है कि यदि निर्णय दर्ज किया गया है, तो वह ठीक वैसे ही दर्ज किया गया है जैसा नीति ने निर्देश दिया था, हालांकि यह कार्यान्वयन (implementation) को बदलने से सुरक्षा नहीं दे सकता। सिस्टम AI कार्यों के लिए एक सटीक अकाउंटेंट की तरह कार्य करता है, जो मिलीसेकंड और अनुरोध प्रति सेकंड में सुरक्षा की सटीक लागत को मापता है। यह एक स्पष्ट, ईमानदार इंटरफेस प्रदान करता है जहाँ कंप्यूटर कहता है, "मैंने इसे सहेज लिया है," केवल तभी जब उसने वास्तव में ऐसा किया हो, या "मैंने नहीं किया है," जब वह अभी भी प्रतीक्षा कर रहा हो। रिकॉर्ड की स्थायित्व को बातचीत का एक दृश्य हिस्सा बनाकर, सिस्टम सुरक्षा के अस्पष्ट वादे को एक मापने योग्य, मशीन-जांच योग्य तथ्य में बदल देता है।
अंतिम चित्र जादू के बजाय स्पष्टता का है। सिस्टम कोई ऐसा 'फ्री लंच' नहीं देता जहाँ रिकॉर्ड तत्काल और स्थायी दोनों हों। यह एक विकल्प चुनने के लिए मजबूर करता है, और उस विकल्प की कीमत को सटीकता के साथ मापता है। शोधकर्ताओं ने पाया कि 100,000 रिकॉर्डों के एक बड़े बैच को एकल, हस्ताक्षरित एपॉक्स में सील करने में लगभग 97 मिलीसेकंड लगते हैं, जो एक दीर्घकालिक, सत्यापन योग्य इतिहास बनाने के लिए एक छोटी सी लागत है। यह कार्य सुझाव देता है कि AI में वास्तविक जवाबदेही के लिए इन देरी और लागतों को स्वीकार करना आवश्यक है, न कि चालाक युक्तियों के साथ इनसे बचने की उम्मीद करना। यह सिस्टम उन लोगों के लिए एक व्यावहारिक उपकरण के रूप में खड़ा है जिन्हें यह जानने की आवश्यकता है, पूर्ण निश्चितता के साथ, कि एक डिजिटल निर्णय ठीक वैसे ही संरक्षित किया गया है जैसा वह हुआ था, जो किसी भी समय भविष्य में एक ऑडिटर या अदालत द्वारा जांच के लिए तैयार है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।