Trace2Policy: From Expert Behavior Traces to Self-Evolving Decision Agents
Trace2Policy एक त्रुटि-संचालित पुनरावृत्ति कौशल परिशोधन (EISR) ढांचे को पेश करता है जो विशेषज्ञ निर्णय नियमों को उच्च-सटीक, नियतात्मक पायथन कोड में व्यवस्थित रूप से पुनर्प्राप्त और सुधारता है, जो अनुपालन-संवेदनशील कार्यों में स्थिर LLM डिस्टिलेशन और शुद्ध-LLM बेसलाइन दोनों से बेहतर प्रदर्शन करता है और साथ ही परिशोधन लागत को महत्वपूर्ण रूप से कम करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक व्यस्त लॉजिस्टिक्स कंपनी है जहाँ विशेषज्ञ ऑडिटर्स अपना दिन हजारों शिपिंग दावों (claims) की समीक्षा करने में बिताते हैं। वे फोटो देखते हैं, रिपोर्ट पढ़ते हैं और निर्णय लेते हैं: "क्या यह नुकसान कैरियर (carrier) की गलती है, या भेजने वाले (sender) की?" ये विशेषज्ञ इन निर्णयों को उन जटिल, अलिखित मानसिक नियमों के आधार पर लेते हैं जिन्हें उन्होंने वर्षों में सीखा है। वे जानते हैं कि जैसे, "यदि फोटो में बॉक्स फटा हुआ दिखता है लेकिन सिस्टम कहता है कि वह 'अक्षत' (intact) है, तो फोटो पर भरोसा करें," या "यदि रिव्यूअर ने 'C:' से शुरू होने वाला नोट लिखा है, तो इसका मतलब है कि वह गुप्त रूप से जिम्मेदारी (liability) को फिर से सौंप रहा है।"
समस्या यह है कि ये नियम विशेषज्ञों के दिमाग के अंदर फंसे हुए हैं। यदि आप किसी कंप्यूटर (एक AI) को केवल कुछ उदाहरण दिखाकर यह काम सिखाने की कोशिश करते हैं, तो वह भ्रमित हो जाता है। वह उन सूक्ष्म, छिपे हुए तरीकों को मिस कर देता है जिनका विशेषज्ञ उपयोग करते हैं।
Trace2Policy एक नया सिस्टम है जिसे इस समस्या को हल करने के लिए डिज़ाइन किया गया है। इसे एक "नियम निष्कर्षण और परिशोधन मशीन" (Rule Extraction and Refinement Machine) के रूप में समझें। यह कैसे काम करता है, इसके लिए सरल उपमाओं (analogies) का उपयोग किया गया है:
1. जासूसी चरण (व्यवहार को कैप्चर करना - The Detective Phase)
सबसे पहले, सिस्टम एक शांत जासूस की तरह कार्य करता है। यह विशेषज्ञ ऑडिटर्स को उनके कंप्यूटर पर काम करते हुए देखता है, उनके द्वारा किए गए हर क्लिक, उनके द्वारा देखे गए हर स्क्रीन और उनके द्वारा टाइप किए गए हर नोट को रिकॉर्ड करता है। यह केवल यह रिकॉर्ड नहीं करता कि उन्होंने क्या क्लिक किया; बल्कि यह समझने की कोशिश करता है कि उन्होंने ऐसा क्यों किया।
- उपमा: कल्पना कीजिए कि एक कोच एक जटिल व्यंजन बनाने वाले मास्टर शेफ को रिकॉर्ड कर रहा है। कोच केवल यह नहीं लिखता कि "नमक डालें"; बल्कि वह नोट करता है कि, "शेफ ने सूप चखा, नाक सिकोड़ी और थोड़ा नमक डाला क्योंकि शोरबा (broth) बहुत अम्लीय (acidic) था।"
2. ड्राफ्टिंग चरण (पहला प्रयास - The Drafting Phase)
सिस्टम इन रिकॉर्डिंग्स को लेता है और एक स्मार्ट AI से उन नियमों को लिखने के लिए कहता है जो उसे लगता है कि शेफ का पालन कर रहे हैं।
- समस्या: पहला ड्राफ्ट आमतौर पर सतही होता है। यह स्पष्ट चरणों को तो पकड़ लेता है (जैसे "बॉक्स चेक करें") लेकिन गहरे, छिपे हुए तर्क को मिस कर देता है (जैसे "मौजूदा कोड देखें, मूल कोड नहीं, क्योंकि सिस्टम रीयल-टाइम में अपडेट होता है")।
- परिणाम: यह पहला ड्राफ्ट (जिसे "v1 Skills" कहा जाता है) ठीक-ठाक है, लेकिन यह केवल 70% निर्णयों को सही करता है। यह उस छात्र की तरह है जिसने पाठ्यपुस्तक तो रट ली है लेकिन अंतिम परीक्षा के 'ट्रिक' वाले सवालों को नहीं सीखा है।
3. "EISR" इंजन (जादुई लूप - The "EISR" Engine)
यही मुख्य नवाचार है। सिस्टम EISR (Error-driven Iterative Skill Refinement) नामक एक प्रक्रिया का उपयोग करता है।
- यह कैसे काम करता है: सिस्टम अपने ड्राफ्ट नियमों को परीक्षण मामलों (test set) पर चलाता है। जब यह कोई गलती करता है, तो यह केवल यह नहीं कहता कि "गलत"। यह एक सख्त संपादक की तरह कार्य करता है:
- निदान (Diagnose): यह गलतियों को समूहों में बांटता है। क्या वे "Missing" (कोई नियम इस मामले को कवर नहीं करता) हैं? "Wrong" (नियम मौजूद था लेकिन गलत उत्तर दिया) हैं? या "Conflicting" (दो नियमों के बीच टकराव हुआ)?
- पैच (Patch): यह उन त्रुटियों के समूह के लिए एक विशिष्ट सुधार लिखता है।
- सुरक्षा जांच (The Regression Gate): सुधार को सेव करने से पहले, यह पुराने सही मामलों को फिर से चलाता है। यदि नया सुधार किसी भी ऐसी चीज़ को बिगाड़ देता है जो पहले सही काम कर रही थी, तो यह उस सुधार को फेंक देता है।
- उपमा: कल्पना कीजिए कि एक मैकेनिक कार के इंजन को ठीक कर रहा है। हर बार जब वह किसी खड़खड़ाहट को ठीक करने के लिए बोल्ट कसता है, तो वह तुरंत इंजन का परीक्षण करता है ताकि यह सुनिश्चित हो सके कि उसने गलती से स्पार्क प्लग ढीला नहीं कर दिया है। वे तब तक ऐसा करते रहते हैं जब तक कि कार बिना किसी अन्य खराबी के पूरी तरह से न चलने लगे।
4. "ट्रैप रूल्स" की खोज (The "Trap Rules" Discovery)
इस लूप के माध्यम से, सिस्टम ने "ट्रैप रूल्स" (Trap Rules) खोजे—वह गहरा ज्ञान जिसे कोई भी एक इंटरव्यू में नहीं लिख सकता था।
- उदाहरण: एक ट्रैप यह था कि स्क्रीन पर दिखने वाला एक विशिष्ट कोड "साझा जिम्मेदारी" (Shared Liability) जैसा दिख सकता है, लेकिन वास्तव में यह केवल एक अस्थायी लेबल था जो पांच मिनट पहले "पैकेजिंग डैमेज" से बदला गया था। विशेषज्ञों को पता था कि लेबल को अनदेखा करना है और रिव्यूअर द्वारा की गई कार्रवाई को देखना है। AI ने यह केवल तब सीखा जब उसने बार-बार गलती की और उसे सुधारा गया।
5. अंतिम उत्पाद: कंपाइल्ड बनाम प्रॉम्प्ट (The Final Product: Compiled vs. Prompt)
यह पेपर इस बारे में एक बहुत ही विशिष्ट और आश्चर्यजनक दावा करता है कि नियमों का उपयोग कैसे किया जाता है:
- प्रॉम्प्ट विधि (The Prompt Method): आप नियमों को निर्देशों की एक लंबी सूची (एक "प्रॉम्प्ट") के रूप में AI को दे सकते हैं। यह काम करता है, लेकिन यह एक जीनियस से गणित की समस्या हल करने के लिए कहने जैसा है जबकि वह 50 पन्नों का मैनुअल पढ़ रहा हो। यह लगभग 70% सही होता है।
- कंपाइल्ड विधि (The Compiled Method): सिस्टम उन नियमों को एक सख्त कंप्यूटर प्रोग्राम (Python कोड) में बदल देता है। यह उस मैनुअल को एक कैलकुलेटर में बदलने जैसा है जो बस गणित करता है।
- परिणाम: "कंपाइल्ड" संस्करण ने 79.6% सटीकता प्राप्त की। पेपर का तर्क है कि इन विशिष्ट, नियम-प्रधान कार्यों के लिए, नियमों की गुणवत्ता उस AI की बुद्धिमत्ता से अधिक महत्वपूर्ण है जिसे प्रॉम्प्ट दिया गया है। एक स्मार्ट AI जो खराब नियमों का पालन करता है, विफल हो जाता है; एक सरल कंप्यूटर जो सटीक नियमों का पालन करता है, सफल होता है।
6. "फ्लाईव्हील" (स्व-सुधार - The "Flywheel")
एक बार तैनात होने के बाद, सिस्टम रुकता नहीं है।
- लूप: विशेषज्ञ ऑडिटर्स अभी भी हर मामले की समीक्षा करते हैं (उनके सामान्य काम के हिस्से के रूप में)। सिस्टम अपने उत्तर की तुलना मानव के उत्तर से करता है। यदि उनमें अंतर है, तो सिस्टम इसे फ्लैग करता है, अपनी त्रुटि का विश्लेषण करता है, और स्वचालित रूप से नियम को ठीक करने के लिए एक और "EISR" राउंड को ट्रिगर करता है।
- लागत: इसे मैन्युअल रूप से करने में एक मानव विशेषज्ञ को प्रति चक्र 70 घंटे लगेंगे। स्वचालित संस्करण (Auto-EISR) इसे 10 में और कुछ घंटों में करता है।
दावों का सारांश (Summary of Claims)
- यह क्या करता है: विशेषज्ञ व्यवहार को स्व-सुधारने वाले निर्णय नियमों में बदलता है।
- इसने क्या पाया:
- वन-शॉट लर्निंग (AI से एक बार पूछना) गहरे, छिपे हुए नियमों को पकड़ने में विफल रहता है।
- पुनरावृत्त त्रुटि सुधार (Iterative error correction/EISR) "ट्रैप रूल्स" को खोजता है जो सटीकता को काफी बढ़ा देते हैं।
- इन विशिष्ट कार्यों के लिए, नियमों को एक सख्त कंप्यूटर प्रोग्राम के रूप में चलाना, AI को उन्हें प्रॉम्प्ट के रूप में पढ़ने के लिए कहने से कहीं बेहतर है।
- एक AI "सुरक्षा जाल" (AI safety net) जोड़ने से (AI को अनिश्चित होने पर नियमों को ठीक करने देने से) इस विशिष्ट मामले में वास्तव में सटीकता कम हो गई, क्योंकि AI दावों को खारिज करने में बहुत उत्सुक था, जबकि नियम कंपनी की विशिष्ट आवश्यकताओं के लिए पूरी तरह से ट्यून किए गए थे।
- दायरा: इसका परीक्षण एक लॉजिस्टिक्स कंपनी के डैमेज क्लेम्स (3,349 मामले) और कुछ कानूनी तर्क बेंचमार्क पर किया गया था। लेखक यह दावा नहीं करते हैं कि यह हर प्रकार के निर्णय के लिए काम करता है, बल्कि विशेष रूप से उन कार्यों के लिए जहाँ विशेषज्ञ व्यवस्थित, अंतर्निहित नियमों का पालन करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।