Send a SCOUT First: Pre-hoc Reasoning for Adaptive Detector Allocation in Prompt-Injection Defense
यह शोधपत्र SCOUT का परिचय देता है, जो एक गतिशील ढांचा (डायनामिक फ्रेमवर्क) है जो अनुमानित विश्वसनीयता और विलंबता (लेटेंसी) के आधार पर विषम डिटेक्टरों (हेटरोजीनियस डिटेक्टर्स) और एलएलएम जजों को अनुकूल रूप से आवंटित करके प्रॉम्प्ट-इंजेक्शन डिफेंस को अनुकूलित करता है, जिससे स्टैटिक सिंगल-डिटेक्टर या ऑलवेज-ऑन जज दृष्टिकोणों की तुलना में हमले की सफलता दर और विलंबता में महत्वपूर्ण कमी आती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक व्यस्त हवाई अड्डे के सुरक्षा प्रमुख हैं। आपका काम आतंकवादियों (प्रॉम्प्ट-इंजेक्शन हमलों) को विमानों (लार्ज लैंग्वेज मॉडल्स) को हाईजैक करने से रोकना है, जबकि नियमित यात्रियों (सौम्य अनुरोधों) को तेजी से जाने देना है।
अतीत में, सुरक्षा टीमों ने दो मुख्य दृष्टिकोणों को आजमाया था:
- "सुपर-स्कैनर" दृष्टिकोण: आप एक अविश्वसनीय रूप से बुद्धिमान, महंगे सुरक्षा गार्ड को काम पर रखते हैं जो हर एक व्यक्ति की जांच करता है। यह व्यक्ति बुरे लोगों को पकड़ने में बहुत अच्छा है लेकिन यह धीमा, महंगा है और लंबी कतारें पैदा करता है।
- "एक-उपकरण" दृष्टिकोण: आप एक विशिष्ट उपकरण (जैसे मेटल डिटेक्टर) चुनते हैं और हर किसी को इसके माध्यम से जाने के लिए मजबूर करते हैं। यह तेज़ है, लेकिन यदि कोई आतंकवादी प्लास्टिक से बने बम (एक प्रकार का हमला जिसे मेटल डिटेक्टर नहीं पकड़ पाता) को छिपाकर निकल जाता है, तो वे बच निकलते हैं।
समस्या यह है कि बुरे लोग चालाक होते हैं। वे अपनी रणनीति बदलते हैं। कभी वे आम लोगों के बीच छिप जाते हैं; कभी वे जटिल कोड का उपयोग करते हैं। कोई भी एकल सुरक्षा गार्ड या उपकरण हर प्रकार के खतरे को पकड़ने के लिए पूर्ण नहीं हो सकता।
SCOUT से मिलिए: "स्मार्ट सुरक्षा डिस्पैचर"
यह शोध एक नया सिस्टम पेश करता है जिसे SCOT कहा जाता है। हर यात्री को एक ही गेट से गुजारने के बजाय, SCOUT एक स्मार्ट डिस्पैचर की तरह काम करता है जो गेट तक पहुँचने से पहले ही प्रत्येक व्यक्ति को देखता है और तय करता है कि कौन सी सुरक्षा टीम उनके लिए सबसे उपयुक्त है।
यह इस प्रकार काम करता है, सरल उपमाओं का उपयोग करते हुए:
1. "फिंगरप्रिंट" लाइब्रेरी
कल्पना कीजिए कि आपकी इमारत के प्रत्येक सुरक्षा गार्ड के पास उनके पिछले प्रदर्शन का एक "फिंगरप्रिंट" है।
- गार्ड A जूतों में हथियार छिपाने वाले लोगों को पकड़ने में माहिर है लेकिन सामान में हथियार छिपाने वाले लोगों को पकड़ने में बहुत खराब है।
- गार्ड B सामान के लिए बेहतरीन है लेकिन जूतों के खतरों को चूक जाता है।
- गार्ड C "सुपर-स्कैनर" (महंगा AI जज) है जो लगभग सब कुछ पकड़ लेता है लेकिन प्रति व्यक्ति 10 मिनट लेता है।
SCOUT केवल अनुमान नहीं लगाता; यह हजारों पिछले यात्रियों पर प्रत्येक गार्ड के प्रदर्शन का एक विस्तृत लॉग (फिंगरप्रिंट) रखता है। यह जानता है कि किस प्रकार के यात्री के लिए कौन सा गार्ड विश्वसनीय है।
2. "प्री-हॉक" प्रेडिक्शन (कदम उठाने से पहले देखना)
जब एक नया यात्री आता है, तो SCOUT उसे किसी यादृच्छिक गार्ड के पास नहीं भेजता। वह एक छोटे, तेज़ AI सहायक से पूछता है: "इस यात्री के दिखने और उनके पास मौजूद सामान के आधार पर, किन गार्डों ने अतीत में इस तरह के लोगों को सफलतापूर्वक पकड़ा है?"
यह "प्री-हॉक रीजनिंग" वाला हिस्सा है। यह वास्तविक जांच होने से पहले परिणाम की भविष्यवाणी करता है।
- यदि यात्री "जूते का खतरा" जैसा दिखता है, तो SCOUT उसे गार्ड A के पास भेजता है।
- यदि यात्री "सामान का खतरा" जैसा दिखता है, तो SCOUT उसे गार्ड B के पास भेजता है।
- यदि यात्री बहुत जटिल है और तेज़ गार्ड अनिश्चित हैं, तो SCOUT मामले को अंतिम, निर्णायक फैसले के लिए "सुपर-स्कैनर" (महंगे AI) के पास भेज देता है।
3. "टीम वोट"
SCOUT अक्सर यात्री को एक साथ (समानांतर में) जांच करने के लिए तेज़ गार्डों की एक टीम के पास भेजता है।
- यदि गार्ड A और गार्ड B दोनों कहते हैं, "यह व्यक्ति सुरक्षित है," तो SCOUT उन्हें तुरंत जाने देता है।
- यदि वे असहमत हैं या अनिश्चित दिख रहे हैं, तो SCOट मामले को अंतिम, निर्णायक निर्णय के लिए "सुपर-स्कैनर" के पास भेज देता है।
4. "गति बनाम सुरक्षा" डायल
सबसे अच्छी बात यह है कि हवाई अड्डे के प्रबंधक (ऑपरेटर) के पास एक सिंगल डायल होता है जिसे घुमाया जा सकता है।
- इसे बाईं ओर घुमाएं (कम सुरक्षा, उच्च गति): SCOUT मुख्य रूप से तेज़ गार्डों पर निर्भर रहता है। यह अविश्वसनीय रूप से तेज़ है, लेकिन कुछ बुरे लोग निकल सकते हैं।
- इसे दाईं ओर घुमाएं (उच्च सुरक्षा, कम गति): SCOUT अधिक लोगों को "सुपर-स्कैनर" के पास भेजता है। यह लगभग सभी को पकड़ लेता है, लेकिन लाइन लंबी हो जाती है।
सिस्टम सटीक रूप से भविष्यवाणी करता है कि डायल की किसी भी सेटिंग के लिए लाइन कितनी लंबी होगी, जिससे प्रबंधक दिन शुरू होने से पहले ही सही संतुलन चुन सकता है।
उन्होंने क्या पाया?
शोधकर्ताओं ने एक नया, कठिन परीक्षण बनाया जिसे SCOUT-450 (ट्रिकी और जटिल हमलों का एक संग्रह जिसे पुराने परीक्षणों ने मिस कर दिया था) कहा जाता है। उन्होंने अपने सिस्टम का परीक्षण किया:
- केवल तेज़ गार्डों का उपयोग करके (कई हमलों को मिस कर दिया)।
- केवल "सुपर-स्कैनर" का उपयोग करके (हमलों को पकड़ा लेकिन बहुत धीमा था)।
- SCOUT (डिस्पैचर) के साथ।
परिणाम:
- सुरक्षा: SCOUT ने अकेले "सुपर-स्कैनर" का उपयोग करने की तुलना में 46% अधिक हमलों को पकड़ा।
- गति: यह सभी के लिए "सुपर-स्कैनर" का उपयोग करने की तुलना में 40% तेज़ था।
- लचीलापन: यदि आप टीम में एक नया सुरक्षा गार्ड जोड़ते हैं, तो SCOUT बिना दोबारा प्रशिक्षित हुए तुरंत उनका उपयोग करना सीख सकता है। यह बस उनके "फिंगरप्रिंट" को देखता है और उपयोग करना शुरू कर देता है।
निचोड़
SCOUT खेल को "एक आकार सभी के लिए" से बदलकर "सही काम के लिए सही उपकरण" में बदल देता है। यह प्रत्येक विशिष्ट अनुरोध के लिए किस सुरक्षा टीम का उपयोग करना है, यह तय करने के लिए एक स्मार्ट, तेज़ प्रेडिक्टर का उपयोग करता है, जिससे यह सुनिश्चित होता है कि आपको असहनीय प्रतीक्षा समय के बिना सर्वोत्तम सुरक्षा मिले। यह एक ऐसे सुरक्षा तंत्र की तरह है जो जानता है कि हर विशिष्ट दरवाजे के लिए कौन सा ताला खोलना है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।