ATLAS: Discovering Agent Strategies through LLM-Guided Abstraction and Automata Learning

कल्पना कीजिए कि आप एक प्रतिभाशाली लेकिन रहस्यमय जासूस को अपराध सुलझाते हुए देख रहे हैं। आप जासूस को कमरों में जाते, सुराग उठाते और संदिग्धों से बात करते हुए देख सकते हैं, लेकिन आप उनके आंतरिक विचारों (internal monologue) को नहीं सुन सकते। आप उनके कार्यों को देखते हैं, लेकिन उनकी रणनीति को नहीं जानते। आर्टिफिशियल इंटेलिजेंस की दुनिया में, इन जासूसों को "AI एजेंट" कहा जाता है। ये कंप्यूटर प्रोग्राम हैं जो विशाल भाषा मॉडल (सोचिए कि वे सुपर-स्मार्ट, टेक्स्ट-प्रेडिक्टिंग इंजन हैं) द्वारा संचालित होते हैं जो जटिल, बहु-चरणीय समस्याओं को हल कर सकते हैं जैसे कि वेब नेविगेट करना, कोड लिखना, या यहाँ तक कि कंप्यूटर सुरक्षा का परीक्षण करना। लेकिन समस्या यह है कि: जबकि ये एजेंट समस्याओं को हल करने में बेहतर हो रहे हैं, वे समझने में कठिन होते जा रहे हैं। हम अंतिम परिणाम देखते हैं, या उनके द्वारा टाइप किए गए हर एक कमांड की एक लंबी, अव्यवस्थित सूची देखते हैं, लेकिन हम उस "मानचित्र" (map) को आसानी से नहीं देख पाते कि वे वहाँ तक कैसे पहुँचे। यह एक शतरंज के ग्रैंडमास्टर की प्रतिभा को केवल अंतिम बोर्ड की स्थिति की फोटो देखकर समझने की कोशिश करने जैसा है, बिना यह देखे कि वे वहाँ तक पहुँचने के लिए कौन सी चालें चले।

यह शोध पत्र, जिसका शीर्षक ATLAS है, इस समस्या का समाधान करता है कि ये AI एजेंट वास्तव में कैसे सोचते और कार्य करते हैं। लेखक इन जटिल, विशिष्ट कंप्यूटर कमांडों को एक स्पष्ट, सरल मानचित्र—एक "व्यवहार मॉडल" (behavioral model)—में बदलना चाहते हैं, जो एजेंट की रणनीति को दर्शाता है। वे दो मुख्य तरकीबों का उपयोग करते हैं। पहले, वे एक शक्तिशाली AI (एक लार्ज लैंग्वेज मॉडल) का उपयोग एक अनुवादक के रूप में करते हैं, जो जटिल, विशिष्ट कंप्यूटर कमांडों को सरल, उच्च-स्तरीय श्रेणियों में बदल देता है (जैसे "sudo -l" को "विशेष अनुमतियों की जाँच करना" में बदलना)। दूसरा, वे "ऑटोमेटा लर्निंग" नामक एक गणितीय तकनीक का उपयोग करते हैं, जो एक पैटर्न-पहचानने वाली मशीन की तरह है जो इन अनुवादित कार्यों को देखती है और खेल के नियमों को समझती है। लक्ष्य एक संक्षिप्त, पढ़ने में आसान आरेख बनाना है जो न केवल यह समझाता है कि एजेंट ने क्या किया, बल्कि उसने ऐसा क्यों किया, जिससे लूप (loops), डेड एंड (dead ends) और सफल पथों का पता चल सके।

जासूस का गुप्त मानचित्र

तो, आप डिजिटल पदचिह्नों के एक अराजक ढेर को एक साफ, समझने योग्य मानचित्र में कैसे बदल सकते हैं? इस शोध पत्र के लेखकों ने ATLAS (Automata Learning for Agent Trajectory Analysis and Strategy Discovery) नामक एक प्रणाली बनाई है। ATLAS को एक जादुई कैमरे के रूप में सोचें जो न केवल यह रिकॉर्ड करता है कि एक AI एजेंट क्या करता है, बल्कि तुरंत उसके कार्यों को एक कहानी के प्रारूप में अनुवादित करता है और फिर उसके निर्णय लेने की प्रक्रिया का एक फ्लोचार्ट बनाता है।

इसका परीक्षण करने के लिए, शोधकर्ताओं ने एक AI एजेंट का उपयोग किया जिसे पेनेट्रेशन टेस्टिंग (penetration testing) के लिए डिज़ाइन किया गया है—जो एथिकल हैकिंग का एक फैंसी शब्द है जहाँ AI कंप्यूटर सिस्टम में सुरक्षा खामियाँ खोजने की कोशिश करता है। उन्होंने 12 अलग-अलग "कमजोर" मशीनों (जैसे डिजिटल अभ्यास लक्ष्य) के साथ एक परिदृश्य सेट किया और AI एजेंट को उनमें घुसपैठ करने की कोशिश करने दी।

चरण 1: कच्चा बिखराव (The Raw Mess)
जब एक AI एजेंट काम करता है, तो वह एक "ट्रैजेक्टरी" (trajectory) उत्पन्न करता है। यह बस उसके द्वारा किए गए सब कुछ का एक लंबा, कच्चा लॉग है। यह ऐसा दिख सकता है:

• एजेंट टाइप करता है: exec_command id
• कंप्यूटर जवाब देता है: uid=1000(lowpriv)...
• एजेंट टाइप करता है: exec_command sudo -l
• कंप्यूटर जवाब देता है: (ALL) NOPASSWD:ALL...

एक इंसान के लिए, यह थोड़ा नीरस है। पैटर्न खोजने की कोशिश कर रहे एक कंप्यूटर के लिए, यह एक दुःस्वप्न है। इसमें बहुत अधिक विशिष्ट विवरण (जैसे सटीक यूजर आईडी या लंबे एरर मैसेज) हैं जो बड़े चित्र से ध्यान भटकाते हैं। यह एक फिल्म को समझने की कोशिश करने जैसा है जहाँ आप प्लॉट देखने के बजाय हर एक फ्रेम के पिक्सेल डेटा को पढ़ रहे हैं।

चरण 2: जादुई अनुवादक (Abstraction)
यहीं ATLAS का पहला हिस्सा चमकता है। शोधकर्ताओं ने एक शक्तिशाली AI (एक "फाउंडेशन मॉडल") का उपयोग एक अनुवादक के रूप में किया। उन्होंने इस AI को अव्यवस्थित लॉग दिए और इसे सरल श्रेणियों में समान कार्यों को समूहित करने के लिए कहा।

• exec_command id के बजाय, AI कहता है: "Discovery User" (उपयोगकर्ता की खोज)।
• sudo -l के बजाय जो बिना पासवर्ड के रूट प्रकट करता है, AI कहता है: "Exploitable Sudo" (शोषण योग्य सुडो)।

अचानक, अव्यवस्थित लॉग एक साफ कहानी बन जाता है: "एजेंट ने एक उपयोगकर्ता की तलाश की, विशेष अनुमतियों का उपयोग करने का एक तरीका पाया, और फिर घुसपैठ करने की कोशिश की।" इस प्रक्रिया को एब्स्ट्रैक्शन (abstraction) कहा जाता है। यह शोर को हटाकर मूल रणनीति को प्रकट करता है।

चरण 3: मानचित्र बनाना (Automata Learning)
एक बार जब लॉग इन सरल श्रेणियों में अनुवादित हो जाते हैं, तो ATLAS का दूसरा भाग शुरू होता है। यह एक एल्गोरिदम (जिसे Alergia कहा जाता है) का उपयोग करता है जो सैकड़ों ऐसे अनुवादित वृत्तांतों को देखता है और एक मार्कोव चेन (Markov Chain) बनाता है।

एक बोर्ड गेम की कल्पना करें। मार्कोव चेन उस खेल का एक मानचित्र है।

• वृत्त (States): ये दर्शाते हैं कि एजेंट अपनी सोचने की प्रक्रिया में कहाँ है (जैसे, "अभी शुरू किया," "उपयोगकर्ता मिला," "कमजोरी मिली")।
• तीर (Transitions): ये दिखाते हैं कि एजेंट आगे क्या करता है।
• संख्याएँ: ये उस पथ को लेने की संभावना (probability) को दर्शाती हैं। उदाहरण के लिए, "उपयोगकर्ता मिलने के बाद, 70% संभावना है कि एजेंट एक विशिष्ट कमांड आज़माएगा, लेकिन 30% संभावना है कि वह भ्रमित हो जाएगा और कुछ और आज़माने लगेगा।"

एक ही मशीन पर 20 अलग-अलग प्रयासों से सीखकर, सिस्टम ने एक ऐसा मानचित्र बनाया जिसने एजेंट के विशिष्ट व्यवहार को दिखाया। इसने उन पैटर्न को उजागर किया जो कच्चे लॉग में छिपे थे। उदाहरण के लिए, मानचित्र ने दिखाया कि एजेंट आमतौर पर उपयोगकर्ता की जानकारी की जाँच करके शुरू करता है। यदि उसे कोई कमजोरी मिलती है, तो वह तुरंत 30% बार सफल हो जाता है। लेकिन यदि नहीं, तो वह अंततः सफल होने से पहले गलत कमांड आज़माने के लूप में फंस जाता है।

उन्होंने क्या पाया?

शोध पत्र सुझाव देता है कि यह दृष्टिकोण आश्चर्यजनक रूप से अच्छा काम करता है। कच्चे लॉग को इन प्रतीकात्मक मानचित्रों में बदलकर, शोधकर्ता दो शानदार चीजें कर सके:

1. "जूनियर" जासूसों को सिखाना (Knowledge Transfer)
शोधकर्ताओं ने एक बहुत ही स्मार्ट AI (DeepSeek V4) से सीखा गया "रणनीति मानचित्र" लिया और उसका उपयोग एक छोटे, सस्ते और कम शक्तिशाली AI (ministral-8b) को उन्हीं हैकिंग कार्यों को हल करने में मदद करने के लिए किया।

• बिना मदद के, छोटा AI केवल 5% बार सफल हुआ।
• जब उन्होंने छोटे AI को मानचित्र के आधार पर एक "हिंट" दिया (उसे ठीक से बताया कि अगला कदम क्या लेना है), तो सफलता दर बढ़कर 28.3% हो गई।
• सबसे प्रभावी तरीका "डायनेमिक" मार्गदर्शन था, जहाँ मानचित्र एक GPS की तरह काम करता था, जो छोटे AI को बताता था, "आप चरण 3 पर हैं, अब X करें," बजाय इसके कि उसे निर्देशों की एक लंबी, भ्रमित करने वाली सूची दी जाए। यह सुझाव देता है कि स्मार्ट AI के "मस्तिष्क" को एक सरल मानचित्र में बदला जा सकता है जो कमजोर AI को बहुत बेहतर प्रदर्शन करने में मदद करता है।

2. "क्यों" को समझाना (Explanation Models)
कभी-कभी, मानचित्र बहुत बड़ा और जटिल होता है। शोधकर्ताओं ने दिखाया कि सफलता की ओर ले जाने वाले हिस्सों पर ध्यान केंद्रित करने के लिए मानचित्र को कैसे "स्लाइस" (काटा) किया जा सकता है। वे सभी डेड एंड्स और लूप्स को काट सकते थे, जिससे एक सरल, सीधी रेखा वाला आरेख बचता है जो स्पष्ट रूप से समझाता है कि एजेंट ने कोड को कैसे क्रैक किया। उदाहरण के लिए, एक परिदृश्य में, सरलीकृत मानचित्र ने दिखाया कि सफलता की कुंजी केवल एक विशिष्ट फ़ाइल (.bash_ery) को पढ़ना था। यह एक 57-चरणीय जटिल प्रक्रिया को 7-चरणीय स्पष्ट व्याख्या में बदल देता है।

बड़ी तस्वीर

लेखक सावधानी बरतते हुए कहते हैं कि यह एक प्रूफ ऑफ कॉन्सेप्ट (सिद्धांत की पुष्टि) है। उन्होंने AI सुरक्षा की हर समस्या को हल नहीं किया है, लेकिन उन्होंने AI व्यवहार को देखने का एक नया तरीका दिखाया है। वे तर्क देते हैं कि AI एजेंटों को चलते हुए देखने और यह उम्मीद करने के बजाय कि वे गलतियाँ नहीं करेंगे, हमें उनके "ट्रैजेक्टरीज" (उनके एक्शन लॉग) को मूल्यवान डेटा के रूप में मानना चाहिए जिसे औपचारिक मॉडल में बदला जा सकता है।

ये मॉडल केवल सुंदर चित्र नहीं हैं; ये इंजीनियरिंग उपकरण हैं। वे हमारी मदद कर सकते हैं:

• AI सिस्टम का ऑडिट (Audit) करने में कि क्या वे सुरक्षित रूप से व्यवहार कर रहे हैं।
• उन्हें डीबग (Debug) करने में, यह पता लगाकर कि वे कहाँ लूप में फंस जाते हैं।
• बड़े, महंगे AI मॉडलों से ज्ञान को छोटे, तेज़ मॉडलों में ट्रांसफर (Transfer) करने में।

शोध पत्र निष्कर्ष निकालता है कि यह तो बस शुरुआत है। यदि हम AI एजेंटों के अराजक कार्यों को स्पष्ट, गणितीय मानचित्रों में बदल सकते हैं, तो हम वास्तव में उन स्वायत्त प्रणालियों को समझना, उन पर भरोसा करना और उनमें सुधार करना शुरू कर सकते हैं जो हमारे संसार का एक बड़ा हिस्सा बनती जा रही हैं। यह AI के "ब्लैक बॉक्स" को थोड़ा पारदर्शी बनाने की दिशा में एक कदम है, एक रहस्य को एक मानचित्र में बदलने की दिशा में।