Cross-Agent Campaign Attribution: Linking Asynchronous Attacks Across LLM Agents
यह शोध पत्र स्वतंत्र LLM एजेंटों के बीच वितरित, एसिंक्रोनस (asynchronous) प्रतिकूल सत्रों को जोड़ने की चुनौती को संबोधित करने के लिए एसिंक्रोनस एट्रिब्यूशन फिंगरप्रिंट वेक्टर () पद्धति और SCD-v1 बेंचमार्क प्रस्तुत करता है, जो यह प्रदर्शित करता है कि संरचनात्मक और शैलीगत अवशेष (residues) वहां प्रभावी अभियान एट्रिब्यूशन (campaign attribution) सक्षम करते हैं जहाँ पारंपरिक प्रति-सत्र डिटेक्टर विफल हो जाते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसी दुनिया की कल्पना करें जहाँ आपके डिजिटल सहायक—वे एजेंट जो कोड लिखते हैं, ग्राहकों के सवालों के जवाब देते हैं, या डेटा का विश्लेषण करते हैं—स्वतंत्र जासूसों की एक टीम की तरह हैं। प्रत्येक जासूस अपने स्वयं के कार्यालय में काम करता है, उसके पास अपना स्वयं का नोटबुक है, और वे काम के दौरान एक-दूसरे से बात नहीं करते हैं। अब, एक मास्टरमाइंड अपराधी की कल्पना करें जो रहस्य चुराना चाहता है। एक साथ एक ही कार्यालय में घुसने की कोशिश करने के बजाय, यह अपराधी अलग-अलग समय पर अलग-अलग जासूसों को छोटी, भ्रमित करने वाली सुरागों की एक श्रृंखला भेजता है। जासूस A के लिए, सुराग एक हानिरहित टाइपो (typo) जैसा दिखता है। जासूस B के लिए, यह एक अजीब फॉर्मेटिंग त्रुटि जैसा दिखता है। जासूस C के लिए, यह एक सामान्य प्रश्न जैसा दिखता है। यदि प्रत्येक जासूस केवल अपनी नोटबुक को देखता है, तो उसे कुछ भी संदिग्ध नहीं दिखेगा। वे सोचेंगे, "ओह, बस एक तकनीकी खराबी।" लेकिन यदि आप एक साथ पूरी टीम की नोटबुकों को देख सकें, तो आप महसूस कर सकते हैं कि ये सभी छोटी-मोटी खामियां वास्तव में एक बड़े, समन्वित डकैती का हिस्सा थीं। यह "क्रॉस-एजेंट" (cross-agent) हमलों की समस्या है: बुरे लोग स्वतंत्र प्रणालियों के बीच के अंतराल में छिप जाते हैं।
यह शोध पत्र कंप्यूटर सुरक्षा के एक विशिष्ट कोने को संबोधित करता है जिसे LLM-एजेंट सुरक्षा कहा जाता है। सरल शब्दों में, लार्ज लैंग्वेज मॉडल (LLM) एजेंट स्मार्ट कंप्यूटर प्रोग्राम हैं जो कार्यों को करने के लिए उपकरणों (जैसे वेब खोजना या फाइलें पढ़ना) का उपयोग कर सकते हैं। आमतौर पर, सुरक्षा टीमें इन एजेंटों का परीक्षण करने के लिए उन्हें एक बार में एक प्रश्न पूछकर देखती हैं कि क्या उन्हें चकमा दिया जा सकता है। लेकिन वास्तविक दुनिया में, हमले दिनों तक चल सकते हैं, विभिन्न टीमों के माध्यम से हो सकते हैं, और विभिन्न प्रोग्रामों के माध्यम से हो सकते हैं। बड़ा सवाल यह है: क्या हम इन बिखरे हुए, अलग-थलग घटनाओं को एक साथ जोड़ सकते हैं ताकि यह महसूस किया जा सके कि वे सभी एक ही बुरे आदमी से आ रहे हैं, भले ही हमें यह न पता हो कि वह बुरा आदमी कौन है? इस पेपर के लेखक कहते हैं "हाँ," लेकिन एक बहुत ही विशिष्ट, चतुर तरीके के साथ जो इस बात पर निर्भर नहीं करता कि एजेंट एक-दूसरे से बात करें।
शोधकर्ताओं ने, जो Tynapse नामक एक कंपनी से हैं, इन "घोस्ट" (ghost) अभियानों को पकड़ने का एक नया तरीका पेश किया है। वे अपने तरीके को A2FV (Asynchronous Attribution Fingerprint Vectors) कहते हैं। A2FV को एक अत्यंत बुद्धिमान जासूस के रूप में सोचें जो सभी एजेंटों के कार्यालयों के बाहर बैठा है, और उनके द्वारा भेजे जाने वाले और प्राप्त किए जाने वाले मेल (mail) को देख रहा है। इस जासूस को एजेंटों के दिमाग के अंदर के गुप्त विचारों को पढ़ने की आवश्यकता नहीं है (जो कि असंभव है)। इसके बजाय, वे मेल में छोड़े गए "पदचिह्नों" (footprints) को देखते हैं।
यहाँ बताया गया है कि वह जासूस कैसे काम करता है:
- संरचनात्मक पदचिह्न (The Structural Footprint): जब एक एजेंट किसी उपकरण (जैसे "खोज" या "फाइल पढ़ें") का उपयोग करता है, तो वह एक पैटर्न छोड़ता है। भले ही बुरा आदमी उन शब्दों को बदल दे जिनका वे उपयोग करते हैं, लेकिन जिन उपकरणों के लिए वे अनुरोध करते हैं उनका क्रम अक्सर समान रहता है। यह एक अपराधी की तरह है जो हमेशा एक ही विशिष्ट प्रकार के जूते पहनता है, भले ही वह अपना कोट और टोपी बदल ले।
- शैलीगत पदचिह्न (The Stylistic Footprint): यह हमले की "लिखावट" है। भले ही बुरा आदमी अपने संदेश को फिर से लिख दे, फिर भी वह उसी अजीब विराम चिह्न, वाक्यांशों के उसी तरीके, या उसी विशिष्ट टाइपो का उपयोग कर सकता है। यह एक जालसाज की तरह है जो एक हस्ताक्षर की नकल तो कर सकता है लेकिन अक्षरों पर अपने स्वयं के अनूठे झुकाव का उपयोग करना बंद नहीं कर पाता।
- समय का पदचिह्न (The Timing Footprint): यह अनुरोधों के बीच लगने वाले समय को ट्रैक करता है। हालांकि पेपर में पाया गया कि यह उनके विशिष्ट परीक्षणों में एक कमजोर सुराग था, फिर भी यह जासूस के टूलकिट का हिस्सा है, जैसे यह जांचना कि क्या अपराधी हमेशा दिन के ठीक एक ही समय पर दरवाजा खटखटाता है।
टीम ने यह देखने के लिए एक विशेष परीक्षण वातावरण बनाया जिसे SCD-v1 कहा जाता है कि क्या उनका जासूस वास्तव में मामले को सुलझा सकता है। उन्होंने सामान्य, उबाऊ ट्रैफिक और नकली हमलों का मिश्रण बनाया जहाँ एक "बुरे आदमी" ने अलग-अलग एजेंटों को समय के साथ संबंधित सुराग भेजे। उन्होंने यह सुनिश्चित किया कि एजेंट नोट्स साझा न कर सकें और हमले अंतराल पर हों, ठीक वैसे ही जैसे वास्तविक दुनिया में होता है।
परिणाम काफी उत्साहजनक थे। जब उन्होंने अपने A2FV जासूस से सत्रों (sessions) को जोड़ने के लिए कहा, तो इसने लगभग 82% बार सही अनुमान लगाया (0.82 का स्कोर)। इसे संदर्भ देने के लिए, उन्होंने अन्य तरीकों को आजमाया जो केवल प्रत्येक व्यक्तिगत संदेश के "सुरक्षा स्कोर" को देखते थे या एक विशाल AI को पूरी चीज़ का निर्णय लेने के लिए पूछते थे। वे अन्य तरीके मूल रूप से रैंडम अनुमान लगाते थे, जो केवल लगभग 50% बार सही होते थे। पेपर सुझाव देता है कि "संरचनात्मक" और "शैलीगत" पदचिह्न यहाँ असली नायक थे, जिन्होंने पहेली को सुलझाने में सबसे अधिक भार वहन किया।
हालाँकि, पेपर बहुत सावधानी से यह कहने से बचता है कि यह सब कुछ हल करने वाला एक जादुई समाधान है। उन्होंने परीक्षण किया कि क्या होता है यदि बुरा आदमी अपनी शैली या समय को बदलने की कोशिश करता है ताकि खुद को छिपा सके। उन्होंने पाया कि जबकि एक चतुर बुरा आदमी हमलों को एक एकल "अभियान" (जैसे सुरागों को बिखेरना) में समूहित करने में कठिनाई पैदा कर सकता है, वे व्यक्तिगत संकेतों के बीच के संबंध को पूरी तरह से मिटा नहीं सकते। "फिंगरप्रिंट" जोड़ने के लिए पर्याप्त दृश्यमान बना रहा, भले ही बुरे आदमी ने खुद को छिपाने की कोशिश की हो।
लेखकों ने यह भी जांचा कि क्या उनका तरीका उपयोग किए गए विशिष्ट कंप्यूटर प्रोग्रामों का एक इत्तेफाक मात्र था। उन्होंने अलग-अलग AI मॉडल (जैसे Qwen और Gemini) के साथ समान परीक्षण चलाए और पाया कि परिणाम बरकरार रहे। उन्होंने यह भी जांचा कि क्या "बुरे लोग" केवल समान विषयों (जैसे "पासवर्ड चुराना") का उपयोग करके सिस्टम को धोखा दे रहे थे। उन्होंने पाया कि भले ही विषय समान थे, फिर भी विधि अंतर बता सकती थी कि एक वास्तविक समन्वित हमला और समान प्रश्न पूछने वाले रैंडम लोगों के बीच क्या अंतर है।
संक्षेप में, यह पेपर सुझाव देता है कि हमें AI एजेंटों के लिए सुरक्षा की एक नई परत की आवश्यकता है। हम अब केवल प्रत्येक एजेंट को अलग से नहीं देख सकते। हमें एक "केंद्रीय पर्यवेक्षक" (central observer) की आवश्यकता है जो हमलावर द्वारा छोड़े गए बिखरे हुए, एसिंक्रोनस पदचिह्नों को देख सके और कह सके, "हे, ये तीन अलग-अलग घटनाएं वास्तव में एक ही मास्टरमाइंड की हैं।" हालाँकि यह हर संभावित भविष्य की चाल (विशेष रूप से यदि बुरा आदमी बहुत स्मार्ट हो जाता है और वास्तविक समय में अनुकूलित होता है) के खिलाफ एक पूर्ण ढाल नहीं है, फिर भी यह साबित करता है कि इन बिखरे हुए हमलों को जोड़ना संभव और मापने योग्य है। यह बिखरे हुए अलर्टों के भ्रमित ढेर को एक सुल्झने वाली पहेली में बदल देता है, जिससे सुरक्षा टीमों को बुरे लोगों को साम्राज्य की चाबियाँ चुराने से पहले पकड़ने का बहुत बेहतर मौका मिलता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।