Explainability Methods for Hardware Trojan Detection: A Systematic Comparison
यह शोध पत्र व्यवस्थित रूप से तीन श्रेणियों के व्याख्यात्मकता तरीकों—डोमेन-अवेयर प्रॉपर्टी एनालिसिस, मॉडल-एग्नोस्टिक केस-बेस्ड रीजनिंग, और मॉडल-एग्नोस्टिक फीचर एट्रिब्यूशन तकनीकों—की ट्रस्ट-हब बेंचमार्क पर तुलना करता है ताकि यह निर्धारित किया जा सके कि कौन सा दृष्टिकोण गेट-लेवल हार्डवेयर ट्रोजन डिटेक्शन में फाल्स पॉजिटिव और फाल्स नेगेटिव को कम करने के लिए सबसे बेहतर क्रियात्मक अंतर्दृष्टि प्रदान करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक अरब ट्रांजिस्टर वाले माइक्रोचिप की कल्पना एक विशाल, हलचल भरे शहर के रूप में करें जो पूरी तरह से लॉजिक गेट्स से बना है। अधिकांश इमारतें ईमानदार नागरिक हैं जो अपना काम कर रही हैं, लेकिन एक चालाक घुसपैठिए (एक "हार्डवेयर ट्रोजन") ने चुपके से एक इमारत में एक छोटा, छिपा हुआ गुप्त दरवाज़ा (trapdoor) बना दिया है। यह दरवाज़ा तब तक बंद रहता है जब तक कि घटनाओं का एक बहुत ही विशिष्ट, दुर्लभ संयोजन नहीं होता—जैसे कि एक निश्चित समय पर एक निश्चित चौराहे से कारों का एक विशिष्ट क्रम गुजरना—फिर यह राज चुराने या शहर को तबाह करने के लिए खुल जाता है।
समस्या यह है कि आप इन ट्रैप्स को सॉफ़्टवेयर अपडेट के साथ ठीक नहीं कर सकते। एक बार जब चिप बन जाती है, तो वह ट्रैपडोर सिलिकॉन में हमेशा के लिए जम जाता है। यदि आप इसे चूक जाते हैं, तो आपको पूरे उत्पाद को वापस बुलाना (recall) पड़ेगा, जिसमें बहुत पैसा खर्च होता है। इसलिए, इंजीनियरों को चिप बनने से पहले इन ट्रैप्स को खोजने का एक तरीका चाहिए।
यहाँ केस वेस्टर्न रिजर्व यूनिवर्सिटी के शोधकर्ताओं का योगदान है। उन्होंने इन शहरों के ब्लूप्रिंट को स्कैन करने और संदिग्ध इमारतों का पता लगाने के लिए आर्टिफिशियल इंटेलिजेंस (AI) का उपयोग करने की कोशिश की। लेकिन पेच यह है कि AI एक "ब्लैक बॉक्स" है। यह किसी इमारत की ओर इशारा कर सकता है और कह सकता है, "इसकी ट्रैप होने की संभावना 73% है," लेकिन यह यह नहीं समझा सकता कि क्यों। एक मानव इंजीनियर के लिए, "73%" जैसा नंबर बेकार है। उन्हें यह जानने की ज़रूरत है कि उस इमारत में ऐसा क्या है जो संदिग्ध लग रहा है ताकि वे उसकी दोबारा जांच कर सकें।
टीम ने एक बड़ा सवाल पूछा: किस प्रकार का "स्पष्टीकरण" (explanation) वास्तव में एक मानव इंजीनियर की मदद करता है?
उन्होंने AI के जासूसी कार्य को समझाने के तीन अलग-अलग तरीकों का परीक्षण किया:
1. "डोमेन एक्सपर्ट" (प्रॉपर्टी-आधारित विधि)
यह दृष्टिकोण ऐसा है जैसे शहर की भाषा बोलने वाले जासूस को काम पर रखना। केवल एक स्कोर देने के बजाय, यह तरीका 31 विशिष्ट "शहर नियमों" को देखता है। उदाहरण के लिए, यह कह सकता है: "इस इमारत का प्रवेश द्वार अजीब तरह से जटिल (high fanin) है जो मुख्य निकास (primary output) के ठीक बगल में स्थित है। यह एक दुर्लभ-घटना वाले ट्रैप के पैटर्न से मेल खाता है।"
- परिणाम: यह तरीका इंजीनियर की भाषा बोलने में माहिर है। यह उन अवधारणाओं का उपयोग करता है जिन्हें वे पहले से जानते हैं। हालाँकि, जब शोधकर्ताओं ने इस तरीके का उपयोग ट्रैप्स को पकड़ने के लिए किया, तो यह थोड़ा अनाड़ी साबित हुआ। इसने लगभग सभी ट्रैप्स (88.9% रिकॉल) को ढूंढ लिया, लेकिन इसने इतने सारे निर्दोष भवनों को संदिग्ध के रूप में चिह्नित किया कि इसकी शुद्धता (precision) केवल 1.7% रह गई। यह एक ऐसे जासूस की तरह था जो हर बार किसी के दरवाजे के पास चलते ही "चोर!" चिल्लाता है—उपयोगी होने के लिए बहुत अधिक गलत अलार्म।
2. "केस फ़ाइल" (k-नेरेस्ट नेबर्स विधि)
यह दृष्टिकोण ऐसा है जैसे एक जासूस कहता है, "मुझे सिद्धांत की आवश्यकता नहीं है; बस सबूत देखें।" यह अपने प्रशिक्षण फ़ाइलों से 5 सबसे समान इमारतों को ढूंढता है और कहता है, "यह इमारत हमारे ज्ञात ट्रैप्स वाले अन्य 4 भवनों के बिल्कुल समान दिखती है।"
- परिणाम: यह एक बड़ी सफलता रही। AI का निर्णय "केस फ़ाइलों" से 96.51% बार मेल खाया। इसने इंजीनियरों को अलर्ट पर भरोसा करने के लिए एक ठोस, दृश्य कारण दिया: "देखो, यह ज्ञात बुरे लोगों से मेल खाता है।"
3. "गणितीय स्कोरकार्ड" (LIME, SHAP, और ग्रेडिएंट)
ये कई क्षेत्रों (जैसे इमेज रिकग्निशन) में उपयोग किए जाने वाले लोकप्रिय, सामान्य-उद्देश्य वाले AI स्पष्ट करने वाले हैं। ये एक स्कोरकार्ड की तरह काम करते हैं, जो प्रत्येक विशेषता (feature) को एक नंबर देता है। उदाहरण के लिए, "निकटतम फ्लिप-फ्लॉप से दूरी ने संदेह स्कोर में +0.05 का योगदान दिया।"
- परिणाम: शोधपत्र ने पाया कि हालांकि ये तरीके गणितीय रूप से कठोर हैं, लेकिन ये हार्डवेयर इंजीनियरों के लिए बहुत अधिक उपयोगी नहीं हैं। उन्होंने ऐसे जेनेरिक स्कोर दिए जिनमें उस "सर्किट-स्तरीय संदर्भ" की कमी थी जिसकी समस्या को वास्तव में ठीक करने के लिए आवश्यकता होती है।
- सहमति की समस्या: जब शोधकर्ताओं ने इन विभिन्न गणितीय तरीकों के स्कोर की तुलना की, तो वे आपस में बहुत अच्छी तरह मेल नहीं खाए। सहसंबंध (correlation) केवल 0.30 था (1.0 के पूर्ण पैमाने पर)। यह तीन अलग-अलग मौसम ऐप्स द्वारा बारिश की थोड़ी अलग संभावनाएँ बताने जैसा है; वे संबंधित तो हैं, लेकिन वे एक ही कहानी नहीं बता रहे हैं।
- स्पीड ट्रैप: इनमें से एक तरीका (ग्रेडिएंट) बहुत तेज़ था (0.16 मिलीसेकंड प्रति गेट), जबकि दूसरा (SHAP) धीमा था (1.10 मिलीसेकंड)। लेकिन शोधपत्र तर्क देता है कि गति मायने नहीं रखती यदि स्पष्टीकरण बेकार हो। एक जेनेरिक स्कोर देने में तेज़ होना आपको उस ट्रैप को खोजने में मदद नहीं करता जिसे वास्तव में ठीक करने की आवश्यकता है।
बड़ा विजेता: एक बेहतर जासूस
शोधकर्ताओं ने एक नए प्रकार के AI क्लासिफायर जिसे XGBoost (एक "ग्रेडिएंट-बूस्टेड" ट्री) कहा जाता है, का भी परीक्षण किया। इसे एक जासूस के आवर्धक लेंस (magnifying glass) को अपग्रेड करने के रूप में समझें।
- पुराना तरीका (SVM): पिछला मानक तरीका एक ऐसे जासूस की तरह था जो 70% ट्रैप ढूंढता था लेकिन हर 1,000 गेट चेक किए जाने पर 35 निर्दोष भवनों को चिह्नित करता था। यह बहुत अधिक समय बर्बाद करने वाला है!
- नया तरीका (XGBoost): नया तरीका 69.44% ट्रैप ढूंढता है (लग लगभग उतनी ही मात्रा में) लेकिन इसने केवल 4.74 निर्दोष भवनों को 1,000 गेट्स प्रति चिह्नित किया। यह गलत अलार्मों में 7.4 गुना कमी है! इसने "शुद्धता" (precision - कितने चिह्नित भवन वास्तव में दोषी थे) को 11.33% से सुधारकर 48.08% कर दिया।
यह आपके लिए क्या मायने रखता है
शोधपत्र निष्कर्ष निकालता है कि हार्डवेयर सुरक्षा के लिए, जेनेरिक गणितीय स्कोर पर्याप्त नहीं हैं। आपको ऐसे स्पष्टीकरणों की आवश्यकता है जो सर्किट की वास्तविक दुनिया में समझ में आ सकें।
- केस-आधारित तर्क (पिछले मामलों के समान मामले दिखाना) अविश्वसनीय रूप से अच्छा काम करता है क्योंकि इसने इंजीनियरों को विश्वास करने के लिए एक पूर्ववृत्त (precedent) दिया।
- डोमेन-अवेयर विश्लेषण (सर्किट-विशिष्ट नियमों का उपयोग करना) यह समझने के लिए महान है कि क्यों, लेकिन इसे बहुत अधिक गलत अलार्मों से बचने के लिए XGBoost जैसे मजबूत डिटेक्टर के साथ जोड़ा जाना चाहिए।
- जेनेरिक फीचर स्कोर (LIME और SHAP जैसे) गणितीय रूप से दिलचस्प हैं, लेकिन वे उन "क्रियात्मक अंतर्दृष्टि" (actionable insights) को प्रदान नहीं करते जिनकी इंजीनियरों को वास्तव में चिप को ठीक करने के लिए आवश्यकता होती है।
लेखक सावधानी से नोट करते हैं कि ये परिणाम Trust-Hub बेंचमार्क पर आधारित हैं, जो डिजिटल सर्किट में कृत्रिम (मानव-निर्मित) ट्रैप का उपयोग करता है। उन्होंने अभी तक वास्तविक दुनिया के जटिल एनालॉग चिप्स या अनुक्रमिक (sequential) ट्रैप्स पर इनका परीक्षण नहीं किया है, इसलिए हालांकि यह तरीका आशाजनक दिखता है, यह अभी भी वास्तविक दुनिया के लिए एक प्रगतिशील कार्य है। लेकिन फिलहाल, उन्होंने दिखाया है कि यदि आप हार्डवेयर ट्रोजन को खोजना चाहते हैं, तो आपको एक ऐसे जासूस की आवश्यकता है जो सर्किट की भाषा बोलता हो, न कि केवल एक कैलकुलेटर की जो नंबर उगल देता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।