One RNG to Rule Them All: How Randomness Becomes an Attack Vector in Machine Learning
यह शोध पत्र इस बात की खोज करता है कि कैसे मशीन लर्निंग फ्रेमवर्क में छद्म यादृच्छिक संख्या जनरेटर (PRNGs) की कमजोरियों को गुप्त हमले के वाहकों के रूप में इस्तेमाल किया जा सकता है और **RNGGuard** का प्रस्ताव करता है, जो एक ऐसा टूल है जो मशीन लर्निंग सिस्टम की सुरक्षा के लिए असुरक्षित रैंडम फंक्शन्स का स्टैटिक विश्लेषण करता है और उन्हें सुरक्षित कार्यान्वयन के साथ डायनामिक रूप से बदल देता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
गुप्त सामग्री: क्यों "यादृच्छिकता" (Randomness) AI की ए킬िस हील (कमजोरी) है
कल्पना कीजिए कि आप एक मास्टर शेफ हैं। अपने सिग्नेचर डिश को परफेक्ट बनाने के लिए, आप केवल रेसिपी का पालन नहीं करते; आप "नियंत्रित अराजकता" (controlled chaos) पर भरोसा करते हैं। आप "बस पर्याप्त" नमक डालते हैं, समान गर्मी सुनिश्चित करने के लिए बर्तन को एक रैंडम पैटर्न में चलाते हैं, और स्वाद को अनूिक बनाए रखने के लिए कुछ गुप्त मसालों को रैंडम तरीके से चुनते हैं।
आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में, यादृच्छिकता (randomness) वही गुप्त सामग्री है।
AI मॉडल लगभग हर चीज़ के लिए यादृच्छिकता का उपयोग करते हैं: यह चुनने के लिए कि किस डेटा से सीखना है, जानकारी को कैसे "शफल" करना है, यह तय करने के लिए, और यहाँ तक कि लोगों की गोपनीयता की रक्षा करने के लिए "शोर" (noise) जोड़ने के लिए भी। यदि यादृच्छिकता अच्छी है, तो AI स्मार्ट और निष्पक्ष है। लेकिन यदि यादृच्छिकता "टूटी हुई" या अनुमान लगाने योग्य है, तो पूरा किचन बिखर जाता है।
समस्या: "फिक्स्ड डाइस" (Rigged Dice) वाला परिदृश्य
पर्ड्यू यूनिवर्सिटी के शोधकर्ताओं ने एक डरावनी वास्तविकता का पता लगाया है: वे "पासे" (dice) जिनका उपयोग AI इन रैंडम निर्णयों को लेने के लिए करता है, वे अक्सर फिक्स्ड होते हैं—कभी गलती से, तो कभी जानबूझकर।
इसे इस तरह सोचें: कल्पना कीजिए कि एक कैसीनो है जहाँ रूलेट व्हील बिल्कुल सामान्य दिखता है, लेकिन एक चालाक चोर ने गेंद को थोड़ा वजनदार बना दिया है ताकि वह हमेशा लाल पर ही गिरे। एक साधारण दर्शक के लिए, खेल निष्पक्ष दिखता है। लेकिन चोर के लिए, परिणाम 100% अनुमानित है।
AI में, ऐसा इसलिए होता है क्योंकि विभिन्न सॉफ्टवेयर फ्रेमवर्क (AI बनाने के लिए उपयोग किए जाने वाले "टूलकिट") रैंडम नंबर जेनरेट करने के लिए अलग-अलग तरीकों का उपयोग करते हैं। कुछ "कमजोर" यादृच्छिकता का उपयोग करते हैं (जैसे वर्तमान समय को 'सीड' के रूप में उपयोग करना, जिसका अनुमान लगाना आसान है), और कुछ "असुरक्षित" यादृच्छिकता का उपयोग करते हैं जो आपके निजी डेटा की रक्षा करने के लिए पर्याप्त मजबूत नहीं है।
यदि कोई हमलावर "रैंडम" नंबरों का अनुमान लगा सकता है, तो वे:
- गोपनीयता के साथ धोखाधड़ी कर सकते हैं: वे आपके व्यक्तिगत डेटा को छिपाने के लिए बनाए गए 'शोर' को "अनडू" कर सकते हैं, जो अनिवार्य रूप से एक डिजिटल मास्क के पार देख सकता है।
- मस्तिष्क में तोड़फोड़ कर सकते हैं: वे AI के सीखने के तरीके में हेरफेर कर सकते हैं, जिससे यह पक्षपाती, अनुचित हो सकता है या विशिष्ट कार्यों में विफल हो सकता है।
- बैकडोर बना सकते हैं: वे AI में ऐसे "ट्रैपडोर्स" (trapdoors) छिपा सकते हैं जो केवल तभी सक्रिय होते हैं जब वे चाहते हैं।
समाधान: RNGGUARD (डिजिटल सुरक्षा गार्ड)
शोधकर्ताओं ने RNGGUARD नामक एक नया सिस्टम बनाया है। RNGGUARD को AI शेफ के कंधे के ऊपर खड़े एक हाई-टेक, अदृश्य सुरक्षा गार्ड के रूप में समझें।
RNGGUARD दो चतुर तरीकों से काम करता है:
- ब्लूप्रिंट चेक (स्टैटिक एनालिसिस): खाना पकाने शुरू होने से पहले, RNGGUARD पूरे रेसिपी बुक (कोड) को स्कैन करता है। यह प्रक्रिया के उस हिस्से को खोजता है जहाँ एक "सस्ता" या "अविश्वसनीय" पासा इस्तेमाल किया जा सकता है। यदि इसे कोई कमजोर कड़ी मिलती है, तो यह उसे बदलने के लिए चिह्नित कर देता है।
- लाइव ऑडिटर (डायनामिक एनालिसिस): जब AI "खाना पका" (ट्रेनिंग) रहा होता है, तब RNGGUARD लाइव स्पॉट-चेक करता है। यह एक फूड क्रिटिक की तरह है जो बीच-बीच में सॉस का एक चम्मच लेकर यह जांचता है कि सीजनिंग वास्तव में रैंडम है या इसमें हेरफेर किया जा रहा है। यदि "सॉस" संदिग्ध लगता है (यानी नंबर सांख्यिकीय रूप से रैंडम नहीं हैं), तो RNGGUARD अलार्म बजाता है और यादृच्छिकता के एक उच्च-गुणवत्ता वाले, "क्रिप्टोग्राफिक रूप से सुरक्षित" संस्करण को बदल देता है।
यह क्यों मायने रखता है
जैसे-जैसे हम एक ऐसी दुनिया की ओर बढ़ रहे हैं जहाँ AI हमारे मेडिकल निदान, हमारे बैंक ऋण और हमारी गोपनीयता के बारे में निर्णय लेता है, हम सिस्टम में "फिक्स्ड डाइस" होने का जोखिम नहीं उठा सकते।
यह पेपर साबित करता है कि हमें यादृच्छिकता को एक बैकग्राउंड डिटेल के रूप में मानना बंद करना होगा और इसे एक महत्वपूर्ण सुरक्षा विशेषता के रूप में मानना शुरू करना होगा। RNGGUARD यह सुनिश्चित करने की दिशा में एक कदम है कि जब कोई AI कहता है कि एक निर्णय "रैंडम" है, तो वह वास्तव में रैंडम है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।