KC-Agent: A Dual-Process Cognitive Architecture for Efficient ML Model Improvement

कल्पना कीजिए कि आप एक अंतरिक्ष यान के कप्तान हैं जो वर्षों से एक ही तारा मंडल में चक्कर काट रहा है। आपके जहाज का कंप्यूटर, जिसे आपने सटीक नेविगेशन के लिए प्रोग्राम किया है, हर एस्टेरॉयड और गैस क्लाउड को अच्छी तरह जानता है। लेकिन एक दिन, ब्रह्मांड बदल जाता है। एक नया नेबुला आकर बीच में आ जाता है, तारे अपना रंग बदलने लगते हैं, और पुराने नक्शे बाहर के दृश्य से मेल नहीं खाते। यदि आपका कंप्यूटर पुराने नक्शों का ही उपयोग करता रहा, तो आप दुर्घटनाग्रस्त हो जाएंगे। यह वास्तविक दुनिया में "मशीन लर्निंग" (ML) का दैनिक संघर्ष है: सॉफ्टवेयर जो डेटा से सीखता है, वह अक्सर भ्रमित हो जाता है जब समय के साथ वह डेटा बदल जाता है, जिसे वैज्ञानिक "डेटा ड्रिफ्ट" (data drift) कहते हैं।

इसे ठीक करने के लिए, हमें आमतौर पर मानव विशेषज्ञों को लगातार सॉफ्टवेयर को फिर से प्रशिक्षित (retrain) करने की आवश्यकता होती है, जो धीमा और महंगा है। हाल ही में, हमने "AI एजेंट्स" बनाए हैं—स्मार्ट प्रोग्राम जो कोड लिख सकते हैं और खुद को ठीक कर सकते हैं, बिल्कुल एक डिजिटल मैकेनिक की तरह। लेकिन इन डिजिटल मैकेनिकों में एक दोष है: या तो वे बहुत तेज़ और लापरवाह होते हैं, जिससे वे जल्दबाजी में ऐसे बदलाव करते हैं जो चीजों को बिगाड़ देते हैं, या वे बहुत धीमे और सावधान होते हैं, जिससे समस्या को तुरंत हल करने में बहुत समय लग जाता है। वे गति और सुरक्षा के बीच संतुलन बनाने में संघर्ष करते हैं। यह पेपर एक नए प्रकार के AI मैकेनिक का परिचय देता है जो इसे हल करता है: यह समझने के लिए कि मानव मस्तिष्क कैसे काम करता है, उसने एक ट्रिक उधार ली है: सोचने के दो अलग-अलग "मोड" होना।

---

मिलिए KC-Agent से: द ब्रेन-ई मैकेनिक (The Brainy Mechanic)

लेखकों ने एक नया AI सिस्टम बनाया है जिसे KC-Agent (Kahneman-Clear Agent के लिए संक्षिप्त) कहा जाता है। इसे मशीन लर्निंग मॉडल को स्वचालित रूप से ठीक करने के लिए डिज़ाइन किया गया है जब वे खराब प्रदर्शन करने लगते हैं क्योंकि जिस डेटा पर वे निर्भर करते हैं वह बदल गया है। इसका गुप्त मंत्र क्या है? यह केवल एक तरीके से नहीं सोचता; यह एक "डुअल-प्रोसेस" (dual-process) मस्तिष्क का उपयोग करता है, जो इस बात से प्रेरित है कि इंसान कैसे सोचते हैं।

KC-Agent के मस्तिष्क को दो अलग-अलग व्यक्तित्वों के रूप में समझें जो एक साथ काम कर रहे हैं:

1. सिस्टम 1 (द फास्ट रिफ्लेक्स - तेज़ प्रतिक्रिया): यह "अंतर्ज्ञान" (gut feeling) वाला मोड है। यह बहुत तेज़ है। जब कोई समस्या आती है, तो सिस्टम 1 अपनी मेमोरी को स्कैन करता है कि क्या उसने पहले कभी ऐसी स्थिति देखी है। यदि उसे कोई समानता मिलती है, तो वह तुरंत एक ऐसा समाधान लागू करता है जो उसे पता है कि अतीत में काम आया था। यह एक ऐसे शेफ की तरह है जो एक जला हुआ पैन देखता है और बिना सोचे-समझे तुरंत अग्निशामक यंत्र उठा लेता है, क्योंकि उसने ऐसा सौ बार किया है।

2. सिस्टम 2 (द स्लो थिंकर - धीमा विचारक): यह "गहन अध्ययन" (deep dive) वाला मोड है। यह विचारशील, सावधान और थोड़ा धीमा है। यदि सिस्टम 1 कोई त्वरित समाधान नहीं ढूंढ पाता, या यदि समस्या बहुत अजीब है, तो वह काम सिस्टम 2 को सौंप देता है। सिस्टम 2 समस्या को छोटे, सुरक्षित चरणों में तोड़ देता है। यह एक छोटा सा बदलाव करता है, जांचता है कि क्या यह काम करता है, और यदि यह विफल हो जाता है, तो यह तुरंत "अनडू" (undo) बटन दबा देता है और कुछ और आजमाता है। यह एक वैज्ञानिक की तरह है जो एक प्रयोग करता है, एक समय में एक चर (variable) को बदलता है और देखता है कि क्या होता है।

यह व्यवहार में कैसे काम करता है

पेपर KC-Agent को एक वर्कफ़्लो के रूप में वर्णित करता है जहाँ ये दोनों सिस्टम एक-दूसरे से बात करते हैं। जब AI पता लगाता है कि उसका मॉडल नए डेटा पर खराब प्रदर्शन कर रहा है, तो वह पहले सिस्टम 1 से पूछता है: "क्या हमने यह पहले देखा है?"

• यदि हाँ: सिस्टम 1 अपने पिछले अनुभवों से एक सफल सुधार की "मेमोरी" निकालता है और उसे तुरंत लागू करता है। यह बहुत तेज़ है।
• यदि नहीं: सिस्टम 1 कहता है, "मैं अटक गया हूँ," और सिस्टम 2 को बुलाता है। सिस्टम 2 फिर एक धीमी, व्यवस्थित प्रक्रिया शुरू करता है। यह छोटे, "एटॉमिक" (atomic) बदलाव करता है (जैसे एक नंबर को एडजस्ट करना या एक टूल को बदलना) और उनका परीक्षण करता है। यदि कोई बदलाव चीज़ों को बेहतर बनाता है, तो वह उसे रख लेता है। यदि कोई बदलाव चीज़ों को बदतर बनाता है, तो वह तुरंत उस बदलाव को वापस ले लेता है ताकि मॉडल कभी भी पहले से बदतर न हो जाए।

एक बार जब सिस्टम 2 समाधान ढूंढ लेता है, तो वह इसे केवल वहीं नहीं छोड़ देता। वह सिस्टम 1 को सिखाता है! वह अपने नए समाधान को अपनी "मेमोरी बैंक" में लिख देता है ताकि अगली बार जब इसी तरह की समस्या आए, तो सिस्टम 1 उसे पहचान सके और तुरंत हल कर सके। इसे नॉलेज कंसोलिडेशन (knowledge consolidation) कहा जाता है।

उन्होंने क्या पाया

शोधकर्ताओं ने पांच अलग-अलग डेटासेट्स पर KC-Agent का परीक्षण किया। दो वास्तविक औद्योगिक डेटासेट्स थे जो नासा (NASA) के जेट इंजनों के समय के साथ घिसने के बारे में थे, जिसमें वास्तविक टेम्पोरल डिग्रेडेशन (temporal degradation) दिखाया गया था। अन्य तीन सिंथेटिक डेटासेट्स (ऋण, स्वास्थ्य स्थितियों और प्रशासनिक निर्णयों का अनुकरण करते हुए) थे जहाँ मूल डेटा को GPT-4 का उपयोग करके उत्पन्न किया गया था और फिर वास्तविकतापूर्ण फीचर वितरण और सुसंगत ड्रिफ्ट पैटर्न सुनिश्चित करने के लिए सावधानीपूर्वक परिष्कृत (refined) किया गया था, जिससे निरर्थक संबंधों को समाप्त किया जा सके। उन्होंने KC-Agent की तुलना CodeAct, Tree of Thoughts, और ReAct जैसे अन्य प्रसिद्ध AI एजेंट्स से की।

यहाँ आंकड़े क्या कहते हैं:

• सटीकता (Accuracy): KC-Agent ने 76.8% की औसत सटीकता प्राप्त की, जो अगले सर्वश्रेष्ठ एजेंट (CodeAct) से 2.4% अधिक थी। इसने "Tree of Thoughts" पद्धति को 3.6% और "ReAct" को 8.0% से भी पीछे छोड़ दिया।
• गति (Speed): यह अविश्वसनीय रूप से कुशल था, औसतन केवल 13.2 सेकंड में चलने में सक्षम था। इसके विपरीत, उनके अपने एजेंट का "धीमा" संस्करण (केवल सिस्टम 2) 141.2 सेकंड ले रहा था। इसका मतलब है कि डुअल-प्रोसेस दृष्टिकोण केवल धीमे, सावधान विचारक का उपयोग करने की तुलना में 91% तेज़ था।
• समझदारी (Smartness): जब अन्य उन्नत AI के एक पैनल ने कोड परिवर्तनों की गुणवत्ता का मूल्यांकन किया, तो KC-Agent ने "स्मार्टनेस" पर 10 में से 8.33 का स्कोर प्राप्त किया। यह CodeAct (5.93) और ReAct (5.33) से बहुत अधिक था। जजों ने नोट किया कि KC-Agent ने केवल सुरक्षित और उबाऊ बदलाव करने के बजाय रणनीतिक और चतुर बदलाव किए।

यह क्यों महत्वपूर्ण है

पेपर सुझाव देता है कि AI मॉडल को ठीक करने की कुंजी केवल उन्हें स्मार्ट या तेज़ बनाना नहीं है; बल्कि उन्हें सोचने का सही ढांचा देना है। काम को एक तेज़, पैटर्न-मैचिंग सिस्टम और एक धीमे, सावधान सिस्टम के बीच विभाजित करके, KC-Agent दोनों दुनियाओं का सर्वश्रेष्ठ लाभ उठाता है। यह सामान्य समस्याओं पर तेज़ी से प्रतिक्रिया करता है लेकिन जब चीजें अजीब होती हैं तो घबराता नहीं है।

लेखकों ने यह भी साबित किया कि उनकी विधि सुरक्षित है। क्योंकि सिस्टम 2 केवल छोटे बदलाव करता है और यदि वे विफल हो जाते हैं तो उन्हें तुरंत वापस ले लेता है, इसलिए मॉडल कभी भी पहले से बदतर नहीं होता। यह "एटॉमिक चेंज" (atomic change) सिद्धांत वास्तविक दुनिया के उपयोग के लिए महत्वपूर्ण है, जहाँ आप एक ऐसे सिस्टम को खराब नहीं कर सकते जो किसी अस्पताल या पावर प्लांट को चला रहा हो।

संक्षेप में, KC-Agent दिखाता है कि यदि आप चाहते हैं कि एक AI एक अच्छा मैकेनिक बने, तो आपको केवल उसे जीनियस नहीं बनाना चाहिए; आपको उसे एक तेज़ रिफ्लेक्स और एक सावधान दिमाग देना चाहिए, और उन्हें एक-दूसरे को सिखाने देना चाहिए। यह दृष्टिकोण बताता है कि भविष्य के AI सिस्टम बिना किसी इंसान के हाथ पकड़ने की आवश्यकता के, बदलती दुनिया में खुद को अपडेट रखने में बहुत बेहतर हो सकते हैं।