Hardware-rooted attestation for AI-agent evidence: composing IETF RATS with action evidence packages

डिजिटल ब्लैक बॉक्स का रहस्य

कल्पना कीजिए कि आप एक रहस्य को सुलझाने की कोशिश कर रहे हैं, लेकिन एकमात्र गवाह स्वयं संदिग्ध ही है। आर्टिफिशियल इंटेलिजेंस की दुनिया में, हम "एजेंट्स" बना रहे हैं—स्मार्ट कंप्यूटर प्रोग्राम जो निर्णय ले सकते हैं, कोड लिख सकते हैं, या यहाँ तक कि रोबोट को नियंत्रित भी कर सकते हैं। इन एजेंटों को ईमानदार रखने के लिए, हमें उनके काम की जाँच करने के तरीके की आवश्यकता है। वर्तमान में, हम एक डिजिटल "लॉगबुक" पर निर्भर हैं जिसे एजेंट खुद लिखता है। यह कहता है, "मैंने यह किया, मुझे इसे करने की अनुमति थी, और यहाँ परिणाम है।" यह उपयोगी है, लेकिन इसमें एक घातक दोष है: यदि एजेंट झूठ बोल रहा है, या यदि किसी चालाक हैकर ने एजेंट के मस्तिष्क को किसी दूसरे मस्तिष्क से बदल दिया है, तो लॉगबुक फिर भी एकदम सही दिखेगी। यह वैसा ही है जैसे कोई अपराधी हाथ में कुकी पकड़े हुए डायरी में लिखता है, "मैंने कुकी नहीं चुराई।" डायरी हस्ताक्षरित और सील बंद है, लेकिन यह इस बात का प्रमाण नहीं है कि वास्तव में इसे किसने लिखा या कौन सा कंप्यूटर चल रहा था।

इसे हल करने के लिए, हमें एक "ब्लैक बॉक्स" रिकॉर्डर की आवश्यकता है, जो हवाई जहाजों में पाए जाने वाले उपकरणों के समान हो। ये उपकरण एक तीसरे पक्ष द्वारा बनाए जाते हैं, जिन्हें पूरी तरह सील कर दिया जाता है, और वे ऐसा डेटा रिकॉर्ड करते हैं जिसे पायलट (या कंप्यूटर ऑपरेटर) के साथ छेड़छाड़ करना संभव नहीं होता। कंप्यूटर की दुनिया में, इसे "हार्डवेयर अटेस्टेशन" (hardware attestation) कहा जाता है। यह एक तरीका है जिससे कंप्यूटर के भीतर मौजूद एक विशेष, विश्वसनीय चिप एक बाहरी निरीक्षक को एक गुप्त संदेश भेजती है, यह कहते हुए, "मैं वादा करता हूँ कि अभी जो सॉफ्टवेयर चल रहा है, वह बिल्कुल वही है जो मालिक कहता है।" बड़ा सवाल जो वैज्ञानिक पूछ रहे हैं वह यह है: हम एजेंट की अपनी कहानी (लॉगबुक) को इस अटूट हार्डवेयर प्रमाण (ब्लैक बॉक्स) के साथ कैसे जोड़ सकते हैं ताकि एक एकल, निर्विवाद सत्य बनाया जा सके?

लॉगबुक और सीलबंद रिकॉर्डर

यह शोध पत्र इन दोनों चीजों को जोड़ने का एक चतुर तरीका प्रस्तावित करता है। लेखक, एंटोन सोकोलोव (Anton Sokolov) का सुझाव है कि हमें केवल एआई (AI) की लॉगबुक पर भरोसा नहीं करना चाहिए, न ही केवल हार्डवेयर पर भरोसा करना चाहिए। इसके बजाय, हमें उन्हें इस तरह "सीवन" (stitch) लगाना चाहिए कि उन्हें अलग न किया जा सके।

इसे एक उड़ान चालक दल (flight crew) के रूप में सोचें जो एक उथल-पुथल भरी लैंडिंग की व्याख्या करने की कोशिश कर रहा है।

1. लॉगबुक (AEP): यह "एक्शन एविडेंस पैकेज" (Action Evidence-Package) है। यह चालक दल की लिखित रिपोर्ट है: "हमें टावर द्वारा लैंड करने की अनुमति दी गई थी, हमने बाएं रनवे का उपयोग किया, और हम सुरक्षित रूप से उतरे।" यह विस्तृत और हस्ताक्षरित है, लेकिन यह अभी भी चालक दल द्वारा लिखे गए शब्द ही हैं।
2. ब्लैक बॉक्स (RATS एविडेंस): यह हार्डवेयर प्रमाण है। यह एक सीलबंद रिकॉर्डर है जो कहता है, "इस सटीक क्षण पर, विमान का कंप्यूटर लैंडिंग सॉफ्टवेयर का वर्जन 1.0 चला रहा था, और इंजन पूरी शक्ति पर थे।" पायलट इसे बदल नहीं सकता; यह विमान के अपने सेंसर द्वारा रिकॉर्ड किया गया एक भौतिक तथ्य है।

शोध पत्र का तर्क है कि केवल लॉगबुक पर्याप्त नहीं है क्योंकि चालक दल झूठ बोल सकता है। केवल ब्लैक बॉक्स भी पर्याप्त नहीं है क्योंकि यह हमें यह नहीं बताता कि विमान क्यों उतरा या क्या पायलट नियमों का पालन कर रहा था। समाधान उन्हें बाँधना (bind) है। जब चालक दल लॉगबुक में लिखता है, तो उन्हें एक ताज़ा, सीलबंद स्टैम्प भी संलग्न करना होगा जो यह प्रमाणित करे कि विमान का कंप्यूटर उस सटीक क्षण पर सही स्थिति में था।

प्रयोग कैसे हुआ

लेखक ने इसे केवल कल्पना में नहीं छोड़ा; उन्होंने यह देखने के लिए कि क्या यह संभव है, एक छोटा, कामकाजी मॉडल बनाया। उन्होंने एक "सॉफ्टवेयर TPM" (वास्तविक कंप्यूटरों में पाए जाने वाले विशेष सुरक्षा चिप का एक नकली, सिम्युलेटेड संस्करण) का उपयोग ब्लैक बॉक्स के रूप में किया। उन्होंने एक नकली एआई लॉगबुक बनाई और इसे हार्डवेयर प्रमाण के साथ जोड़ने का प्रयास किया।

उन्होंने अपने सिमुलेशन में यह पाया:

• "अच्छा" परिदृश्य (The "Good" Scenario): जब एआई ने वह किया जो उसे करना चाहिए था, और कंप्यूटर सही सॉफ्टवेयर चला रहा था, तो सिस्टम ने ग्रीन लाइट दी। निर्णय था "अटेस्टेड" (Attested)। लॉगबुक और ब्लैक बॉक्स सहमत थे।
• "बदला हुआ मस्तिष्क" परिदृश्य (The "Swapped Brain" Scenario): शोधकर्ताओं ने सिस्टम को धोखा देने की कोशिश की। उन्होंने ढोंग किया कि एआई ने अपने मस्तिष्क को एक अलग, अनधिकृत मॉडल से बदल दिया है। ब्लैक बॉक्स ने बदलाव को तुरंत पकड़ लिया। भले ही लॉगबुक एकदम सही दिख रही थी और कह रही थी, "मैं अच्छा मॉडल हूँ," हार्डवेयर प्रमाण ने कहा, "नहीं, तुम नहीं हो।" निर्णय था "कॉन्टेस्टेड" (Contested)। यह इस शोध पत्र की बड़ी जीत है: लॉगबुक पूरी तरह से वैध रहती है, लेकिन संयुक्त निर्णय कहानी और हार्डवेयर की वास्तविकता के बीच विसंगति को उजागर कर देता है।
• "पुरानी खबर" परि経過 (The "Old News" Scenario): उन्होंने आज की लॉगबुक पर कल का एक वैध ब्लैक बॉक्स स्टैम्प लगाने की कोशिश की। सिस्टम ने कहा, "बहुत पुराना!" और निर्णय दिया "एक्सपायर्ड" (Expired)।
• "नकली लॉगबुक" परिदृश्य (The "Fake Logbook" Scenario): उन्होंने एक वैध ब्लैक बॉक्स स्टैम्प लिया और उसे पूरी तरह से मनगढ़ंत लॉगबुक के साथ जोड़ने की कोशिश की। सिस्टम ने इसे तुरंत खारिज कर दिया। स्टैम्प और कहानी आपस में मेल नहीं खाते थे, इसलिए पूरी चीज़ को बाहर कर दिया गया।

इसका क्या अर्थ है (और क्या नहीं है)

शोध पत्र बहुत सावधानी से कहता है कि इसने क्या नहीं किया है। यह एक नियमित कंप्यूटर पर एक नकली चिप का उपयोग करके किया गया एक सिमुलेशन था। यह सिद्ध करता है कि विचार काम करता है, लेकिन यह अभी तक यह सिद्ध नहीं करता कि एक वास्तविक, भौतिक चिप एक वास्तविक सर्वर में भी ऐसा ही करेगी। लेखक स्वीकार करते हैं कि वास्तविक दुनिया में, हमें वास्तविक एआई मॉडल फ़ाइल (यानी "मस्तिष्क") को मापना होगा और यह सुनिश्चित करना होगा कि हार्डवेयर वास्तव में अपरिवर्तित है, जो कि एक बड़ी इंजीनियरिंग चुनौती है।

हालाँकि, मूल विचार ठोस है: एआई की कहानी को हार्डवेयर सील के साथ जोड़कर, हम एक नए प्रकार का सत्य बना सकते हैं। हम यह पूछने से कि "एआई क्या कहता है कि उसने क्या किया?", इस ओर बढ़ सकते हैं कि "क्या उस विशिष्ट कंप्यूटर ने वास्तव में किया है जिसका दावा ऑपरेटर कर रहा है?"

शोध पत्र सुझाव देता है कि यह "कम्पोजिट" दृष्टिकोण विश्वास के लिए छह शब्दों की शब्दावली बनाता है: ऑथोराइज्ड (इसे अनुमति थी), अनऑथोराइज्ड (इसे अनुमति नहीं थी), इंडिटरमिनेट (हमें नहीं पता), अटेस्टेड (हार्डवेयर ठीक है), कॉन्टेस्टेड (हार्डवेयर झूठ बोल रहा है या बदल गया है), और एक्सपायर्ड (प्रमाण बहुत पुराना है)।

संक्षेप में, शोध पत्र दिखाता है कि हम एक ऐसा सिस्टम बना सकते हैं जहाँ एआई की लॉगबुक एक हार्डवेयर सील के भीतर लॉक होती है। यदि एआई अपने कार्यों के बारे में झूठ बोलने की कोशिश करता है, या यदि कोई एआई के मस्तिष्क को किसी अन्य मॉडल से बदलने की कोशिश करता है, तो सील टूटती नहीं है, लेकिन संयुक्त निर्णय "कॉन्टेस्टेड" हो जाता है, जो प्रकट करता है कि कहानी और मशीन के बीच असहमति है। यह यह सुनिश्चित करने का एक तरीका है कि जब एआई कहता है, "मैंने यह किया," तो हम आश्वस्त हो सकें कि यह केवल एक कहानी नहीं है, बल्कि मशीन द्वारा समर्थित एक तथ्य है।