DiagChain: A Diagnostic Benchmark for Evaluating LLM Agents on Evidence-Grounded Attack Chain Reconstruction
यह शोध पत्र DiagChain प्रस्तुत करता है, जो 69 विविध परिदृश्यों वाला एक नैदानिक बेंचमार्क है और साक्ष्य-आधारित हमला श्रृंखला पुनर्निर्माण (evidence-grounded attack chain reconstruction) पर LLM एजेंटों का मूल्यांकन करने के लिए ECRAG फ्रेमवर्क का उपयोग करता है, जिससे यह पता चलता है कि जहाँ बड़े मॉडल साक्ष्य के क्रम निर्धारण में संघर्ष करते हैं, वहीं छोटे मॉडल बुनियादी साक्ष्य समावेश में विफल रहते हैं, जिससे समग्र सटीकता के बजाय चरण-वार मूल्यांकन की आवश्यकता रेखांकित होती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य को सुलझाने की कोशिश कर रहे हैं, लेकिन एक अपराध स्थल के बजाय, आप एक डिजिटल अपराध स्थल को देख रहे हैं। यहाँ "सुराग" हर जगह बिखरे हुए हैं: कंप्यूटर लॉग्स, सुरक्षा अलर्ट और सिस्टम रिकॉर्ड्स की लाखों लाइनें। साइबर सुरक्षा की दुनिया में, विशेषज्ञ लार्ज लैंग्वेज मॉडल्स (LLMs) का उपयोग करते हैं—जो विशाल मात्रा में टेक्स्ट पर प्रशिक्षित सुपर-स्मार्ट AI चैटबॉट्स हैं—डिजिटल जासूसों के रूप में कार्य करने के लिए। इन AI एजेंटों से उम्मीद की जाती है कि वे बिखरे हुए सुरागों को पढ़ें, समझें कि क्या हुआ था, और हमले की कहानी को सही क्रम में लिखें। इस प्रक्रिया को अटैक चेन रिकंस्ट्रक्शन (attack chain reconstruction) कहा जाता है। यह एक ऐसी फिल्म को देखने जैसा है जिसे हजारों रैंडम फ्रेम में काट दिया गया हो और फिर आप किसी से उन फ्रेमों को सही क्रम में रखकर कहानी बनाने के लिए कहें।
लेकिन यहाँ एक समस्या है: अधिकांश परीक्षण जो इन AI जासूसों का परीक्षण करते हैं, वे केवल उनके द्वारा लिखी गई अंतिम कहानी को देखते हैं। यदि कहानी गलत है, तो परीक्षण कहता है "विफल," लेकिन यह आपको यह नहीं बताता कि क्यों। क्या जासूस ने कोई सुराग छोड़ दिया? क्या उन्होंने सुराग ढूंढे लेकिन उन्हें लिखना भूल गए? या क्या उन्होंने सही सुराग ढूंढे लेकिन उन्हें गलत क्रम में रख दिया? हमें जासूस के दिमाग के अंदर झांकने के एक तरीके की आवश्यकता है जब वे काम कर रहे हों, ताकि हम देख सकें कि वे वास्तव में कहाँ अटक जाते हैं। यहीं पर नया पेपर, DiagChain, आता है। यह एक विशेष परीक्षण क्षेत्र पेश करता है जो न केवल अंतिम उत्तर को ग्रेड देने के लिए है, बल्कि उस विशिष्ट चरण का निदान करने के लिए भी है जहाँ AI जासूस रास्ता भटक जाता है।
इस पेपर के लेखक, त्सिंगहुआ विश्वविद्यालय और CRRC कॉर्पोरेशन के शोधकर्ताओं ने एक नया बेंचमार्क बनाया जिसे DiagChain कहा जाता है, ताकि इस ब्लाइंड स्पॉट को ठीक किया जा सके। उन्होंने MAIN-69 नामक एक डेटासेट बनाया, जिसमें सरल से लेकर बहुत जटिल तक के 69 विभिन्न "अपराध स्थल" (परिदृश्य) शामिल हैं। ये दृश्य वास्तविक दुनिया के डेटा जैसे लिनक्स लॉग्स, विंडोज इवेंट्स और क्लाउड अलर्ट से लिए गए हैं। इसे यथार्थवादी बनाने के लिए, उन्होंने इसमें अलग-अलग स्तर का "शोर" (noise) जोड़ा—जैसे कि सुरागों में हानिरहित बैकग्राउंड चैटर जोड़ना ताकि यह देखा जा सके कि क्या AI विचलित होता है। उन्होंने हमले की श्रृंखलाओं की लंबाई को भी बदला, जो छोटी गतिविधियों से लेकर लंबी, खिंची हुई घुसपैठ तक फैली हुई थी।
AI को परखने के लिए, उन्होंने ECRAG (एविडेंस-सेंट्रिक रिट्रीवल-ऑगमेंटेड जनरेशन) नामक एक विशेष वर्कफ़्लो का उपयोग किया। इसे ऐसे समझें जैसे आप AI जासूस को एक आवर्धक लेंस (magnifying glass) और एक नोटबुक दे रहे हैं जो खुद को अपडेट करती रहती है। AI को सुराग खोजने, उन्हें एक साथ समूहबद्ध करने, टाइमलाइन का पता लगाने और फिर कहानी लिखने के लिए कहा जाता है, और यह सब करते समय वह लगातार अपने काम की जांच करता रहता है। शोधकर्ताओं ने AI के प्रदर्शन को मापने के लिए केवल एक अंतिम ग्रेड के बजाय पांच विशिष्ट "हेल्थ चेक" का उपयोग किया:
- रिट्रीवल (Retrieval): क्या AI ने सुराग ढूंढे?
- ग्रुपिंग (Grouping): क्या उसने संबंधित सुरागों को सही श्रेणियों में रखा?
- ऑर्डरिंग (Ordering): क्या उसने घटनाओं को सही समय क्रम में व्यवस्थित किया?
- ग्राउंडिंग (Grounding): क्या उसने वास्तव में अपने द्वारा खोजे गए सुरागों का उपयोग अपनी कहानी के समर्थन में किया?
- एट्रीब्यूशन गैप (Attribution Gap): क्या उसने एक सुराग पाया, उसे देखा, और फिर अपनी अंतिम रिपोर्ट में उसका उल्लेख करना भूल गया?
परिणाम चौंकाने वाले थे। सबसे स्मार्ट AI कॉन्फ़िगरेशन भी MAIN-69 डेटासेट के 849 संदर्भ चरणों में से केवल 39.6% को ही बिना किसी पिछली गलती के पूरी तरह से सही कर पाए। पेपर सुझाव देता है कि AI मॉडल का प्रकार इस बात पर बहुत मायने रखता है कि वे कहाँ विफल होते हैं। छोटे मॉडल अक्सर बुनियादी बातों में संघर्ष करते हैं: वे एक सुराग ढूंढते हैं लेकिन उसे अपनी अंतिम कहानी में शामिल करने में विफल रहते हैं, जो अनिवार्य रूप से सबूतों को छोड़ देने जैसा है। बड़े, अधिक शक्तिशाली मॉडल सुराग खोजने और उन्हें बनाए रखने में बेहतर होते हैं, लेकिन वे उन्हें सही क्रम में रखने की कोशिश करते समय अक्सर लड़खड़ा जाते हैं। यह एक छोटे जासूस जैसा है जो बंदूक तो पाता है लेकिन उसे लिखना भूल जाता है, बनाम एक विशाल जासूस जो बंदूक, उंगलियों के निशान और नक्शा सब कुछ पाता है, लेकिन चोरी की टाइमलाइन को पूरी तरह से गड़बड़ा देता है।
शोधकर्ताओं ने यह भी परीक्षण किया कि क्या होता है यदि आप AI को अधिक समय या अधिक "सर्च बजट" (अधिक सुरागों को देखने की अनुमति देना) देते हैं। उन्होंने पाया कि केवल AI को अधिक संसाधन देने से समस्या का स्वतः समाधान नहीं होता है। हालांकि अधिक सुराग देखना AI को अधिक सबूत खोजने में मदद करता है, लेकिन यह गारंटी नहीं देता कि AI उस साक्ष्य को सही ढंग से व्यवस्थित करेगा या अंतिम असेंबली में गलतियाँ करना बंद कर देगा। वास्तव में, कुछ मॉडलों के लिए, बिना बेहतर रणनीति के बहुत अधिक सुराग देखना काम को और कठिन बना देता है।
अंततः, पेपर का तर्क है कि हमें केवल अंतिम स्कोर को देखना बंद करना चाहिए और प्रक्रिया का निदान करना शुरू करना चाहिए। निष्कर्ष बताते हैं कि AI मॉडल को बड़ा बनाने से "चेन असेंबली" की समस्या हल नहीं होती है; यह केवल बाधा को "सुराग खोजने" से बदलकर "सुरागों को व्यवस्थित करने" पर ले आता है। विश्वसनीय साइबर सुरक्षा एजेंट बनाने के लिए, हमें ऐसे सिस्टम डिजाइन करने की आवश्यकता है जो विशेष रूप से साक्ष्य को एक सुसंगत, क्रमबद्ध और ग्राउंडेड कहानी में बुनने में अच्छे हों, न कि केवल इस उम्मीद पर निर्भर रहें कि बड़े मॉडल खुद ही इसे सुलझा लेंगे। लेखक अपना कोड और डेटा प्रदान करते हैं ताकि अन्य लोग इन डिजिटल जासूसों का परीक्षण और सुधार करना जारी रख सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।