A Challenge-Nonce Freshness Gap in Project Veraison's TPM Reference Schemes, Found by Appraising Application-Layer Action Evidence End-to-End
यह शोध पत्र एप्लिकेशन-लेयर एक्शन एविडेंस के लिए प्रोजेक्ट वेरिशन (Project Veraison) के टीपीएम (TPM) संदर्भ स्कीम्स के एंड-टू-एंड सत्यापन को प्रस्तुत करता है, जो एक महत्वपूर्ण चैलेंज-नॉन्स फ्रेशनेस (challenge-nonce freshness) भेद्यता को उजागर करता है और उसे ठीक करता है, जिसने पहले रिप्लेड कोट्स (replayed quotes) को गलत तरीके से वैध के रूप में स्वीकार करने की अनुमति दी थी।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
डिजिटल गवाह की समस्या (The Digital Witness Problem)
कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे हैं, लेकिन एकमात्र व्यक्ति जिसने अपराध देखा है, वह स्वयं संदिग्ध ही है। वे आपको एक हस्ताक्षरित डायरी प्रविष्टि थमाते हैं जिसमें लिखा है, "मैंने कुकी नहीं चुराई; मैं रसोई में बेकिंग कर रहा था।" आप हस्ताक्षर की जांच करते हैं, और वह एकदम सही है। लेकिन यहाँ एक पेच है: संदिग्ध ने डायरी तब लिखी जब वे कुकी खा चुके थे, और उनके पास रसोई के इतिहास को फिर से लिखने की शक्ति है। कंप्यूटर सुरक्षा की दुनिया में, इसे "जवाबदेही अंतराल" (accountability gap) कहा जाता है। जब कोई AI एजेंट या सॉफ्टवेयर बॉट कुछ महत्वपूर्ण कार्य करता है—जैसे पैसा स्थानांतरित करना या सिस्टम सेटिंग बदलना—तो वह पीछे एक रिकॉर्ड छोड़ देता है। लेकिन वह रिकॉर्ड उसी सॉफ्टवेयर द्वारा बनाया जाता है जिस पर हम भरोसा करने की कोशिश कर रहे हैं। यदि सॉफ्टवेयर झूठ बोल रहा है, तो रिकॉर्ड एकदम सही दिखेगा, लेकिन कहानी झूठ होगी।
इसे ठीक करने के लिए, वैज्ञानिक एक चतुर तरकीब का उपयोग करते हैं जिसे रिमोट अटैस्टेशन (Remote Attestation) कहा जाता है। इसे एक ऐसे नोटरी पब्लिक की तरह समझें जो कभी सोता नहीं है। संदिग्ध की डायरी पर भरोसा करने के बजाय, हम कंप्यूटर के अंदर एक विशेष, अपरिवर्तनीय हार्डवेयर चिप (जिसे TPM कहा जाता है) से पूछते हैं कि वह अभी सॉफ्टवेयर क्या कर रहा है, उसका एक "स्नैपशॉट" ले। यह चिप एक "कोट" (डिजिटल प्रमाणपत्र) पर हस्ताक्षर करती है जो कहता है, "मैंने सॉफ्टवेयर को X करते हुए देखा।" यदि सॉफ्टवेयर उस बारे में झूठ बोलने की कोशिश करता है कि क्या हुआ था, तो स्नैशपॉट झूठ से मेल नहीं खाएगा, और नोटरी उसे पकड़ लेगी। यह पेपर "क्या हुआ" (क्रिया) को "स्नैपशॉट" (सुरक्षा प्रमाण) से जोड़ने के बारे में है ताकि यह सुनिश्चित किया जा सके कि AI एजेंट इतिहास को फर्जी बनाने से बच सकें।
पेपर की कहानी: "समय-यात्रा" वाले झूठ को पकड़ना
यह पेपर एक नए विचार जिसे एक्शन एविडेंस पैकेज (AEP) कहा जाता है, उसे एक वास्तविक, कठोर परीक्षण से गुजारता है। एक AEP, AI के कार्यों के लिए एक डिजिटल रसीद की तरह है: यह सूचीबद्ध करता है कि AI ने क्या किया, किसने इसे करने के लिए कहा, और परिणाम क्या रहा। लेखक यह देखना चाहते थे कि क्या वे इस रसीद को हार्डवेयर "स्नैपशॉट" के साथ बांध सकते हैं ताकि यदि AI परिणाम को बदलने की कोशिश करे (जैसे "मैंने 10 ट्रांसफर किए" में बदलना), तो हार्डवेयर हस्ताक्षर टूट जाए।
उन्होंने एक सिम्युलेटेड सुरक्षा चिप (TPM का एक सॉफ्टवेयर संस्करण) का उपयोग करके एक पूर्ण प्रणाली बनाई और अपनी रसीदों को प्रोजेक्ट वेरेशन (Project Veraison) नामक एक वास्तविक, मानकों के अनुरूप सुरक्षा जांचकर्ता के माध्यम से भेजा। परिणाम? यह क्या हुआ, इसके बारे में झूठ पकड़ने के लिए यह पूरी तरह से काम कर गया। जब उन्होंने एक क्रिया के परिणाम को बदला, तो सिस्टम ने इसे सही ढंग से "कॉन्ट्राइंडिकेटेड" (Contraindicated - एक फैंसी तरीका कहने का कि "नहीं, यह गलत है") के रूप में चिह्नित किया। जब उन्होंने हस्ताक्षर की नकल करने की कोशिश की, तो सिस्टम ने उसे भी पकड़ लिया। इसने साबित कर दिया कि "रसीद" और "स्नैपशॉट" अब आपस में मजबूती से जुड़े हुए हैं; आप सील तोड़े बिना कहानी नहीं बदल सकते।
हालाँकि, लेखक को एक छिपा हुआ ट्रैपडोर (trapdoor) मिला।
परीक्षण के दौरान, उन्होंने पाया कि सुरक्षा जांचकर्ता द्वारा ताजगी (freshness) को संभालने के तरीके में एक बड़ा अंतर था। वास्तविक दुनिया में, यदि आप सुरक्षा गार्ड को अपना आईडी दिखाते हैं, तो उन्हें यह जानने की आवश्यकता है कि यह आज का आईडी है, न कि पिछले साल का बनाया गया कोई कॉपी। डिजिटल दुनिया में, यह एक "नॉन्स" (nonce) के साथ किया जाता है—एक यादृच्छिक संख्या जो हर बार पूछने पर बदल जाती है। यह एक गार्ड द्वारा पूछने जैसा है, "आज का गुप्त शब्द क्या है?" और आपका सही उत्तर देना।
लेखक ने पाया कि प्रोजेक्ट वेरेशन का रेफरेंस स्कीम एक चाल चल रहा था। यह गुप्त शब्द के लिए पूछेगा, और सिस्टम अंतिम रिपोर्ट में इसे वापस दोहरा देगा, जिससे ऐसा लागेगा कि इसने शब्द की जांच की है। लेकिन वास्तव में, सुरक्षा जांचकर्ता ने कभी भी रिपोर्ट में गुप्त शब्द की तुलना उस शब्द से नहीं की जो उसने पूछा था! इसने केवल हस्ताक्षर और सामग्री की जांच की।
परिणाम: एक हमलावर एक अच्छे दिन की वैध "रसीद" चुरा सकता है, एक सप्ताह इंतजार कर सकता है, और इसे दोबारा चला (replay) सकता है। क्योंकि सिस्टम यह जांच नहीं रहा था कि गुप्त शब्द वर्तमान दिन के किससे मेल खाता है, यह अभी भी कहेगा, "हाँ, यह अच्छा है!" भले ही AI की वर्तमान स्थिति पूरी तरह से अलग हो। यह एक गार्ड द्वारा 2015 के फोटो आईडी को स्वीकार करने जैसा था क्योंकि फोटो व्यक्ति जैसा ही दिख रहा था, भले ही व्यक्ति ने तब से अपना नाम और पता बदल लिया हो।
समाधान: लेखक ने केवल छेद की ओर इशारा नहीं किया; उन्होंने इसे पैच (ठीक) भी किया। उन्होंने कोड में एक छोटा सा बदलाव किया (एक लाइन) ताकि सिस्टम वास्तव में गुप्त शब्द को पढ़े, और उन्होंने एक सरल नियम (पॉलिसी) लिखा कि, "यदि गुप्त शब्द उस शब्द से मेल नहीं खाता जो हमने अभी पूछा था, तो इसे तुरंत अस्वीकार कर दें।" उन्होंने इस सुधार का परीक्षण किया और दिखाया कि बिल्कुल वही "अच्छी" रसीद, जब दूसरी बार दोबारा चलाई गई, तो अब सही ढंग से "कॉन्ट्राइंडिकेटेड" के रूप में खारिज कर दी गई।
इसका क्या अर्थ है:
यह पेपर पुष्टि करता है कि हम सफलतापूर्वक AI कार्यों को हार्डवेयर सुरक्षा से बांध सकते हैं, लेकिन यह हमें चेतावनी भी देता है कि एक "परफेक्ट" सिस्टम में भी अंधे बिंदु (blind spots) हो सकते हैं। लेखक ने पाया कि जिस विशिष्ट सुरक्षा योजना का उन्होंने परीक्षण किया था, उसमें "क्या यह अभी हो रहा है?" की जांच करने के लिए एक महत्वपूर्ण कमी थी। उन्होंने एक काम करने वाला समाधान प्रदान किया जो एक दोबारा चलाए गए झूठ को एक पता चले हुए विफलता में बदल देता है। हालांकि उनके परीक्षण में एक सिम्युलेटेड चिप का उपयोग किया गया था (वास्तविक कंप्यूटर में भौतिक चिप नहीं), समाधान का तर्क वास्तविक हार्डवेयर पर भी लागू होता है। यह पेपर यह दावा नहीं करता है कि इसने AI सुरक्षा की सभी समस्याओं को हल कर दिया है, लेकिन इसने सफलतापूर्वक एक विशिष्ट, खतरनाक खामी को बंद कर दिया है जिसने पुराने, बासी रिकॉर्डों को नया और ताज़ा होने का ढोंग करने दिया था।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।