Semantic Uncertainty-Guided Orchestration in Hierarchical Multi-Agent Systems

आर्टिफिशियल इंटेलिजेंस के तेजी से विकसित होते परिदृश्य में, प्रणालियों की एक नई पीढ़ी उभर रही है जो समस्याओं को हल करने के लिए किसी एकल, अखंड मस्तिष्क (monolithic brain) पर निर्भर नहीं करती है। इसके बजाय, ये सिस्टम विशेषज्ञों की एक छोटी टीम की तरह कार्य करते हैं, जहाँ विभिन्न कृत्रिम एजेंट जटिल कार्यों को विभाजित करने, चरणों के माध्यम से तर्क करने और एक अंतिम उत्तर तैयार करने के लिए सहयोग करते हैं। यह दृष्टिकोण, जिसे मल्टी-एजेंट सिस्टम कहा जाता है, उन कठिन चुनौतियों से निपटने के लिए बड़ी संभावना रखता है जो एक एकल कंप्यूटर प्रोग्राम को उलझा देती हैं। हालाँकि, यह अतिरिक्त जटिलता एक नया जोखिम भी लाती है: यदि टीम का एक सदस्य गलती करता है, कोई तथ्य गढ़ता है (hallucinates), या असंगत तर्क देता है, तो वह त्रुटि पूरे समूह में फैल सकती है, जिससे एक आत्मविश्वासी लेकिन पूरी तरह से गलत निष्कर्ष निकल सकता है। शोधकर्ताओं के लिए केंद्रीय चुनौती केवल इन टीमों का निर्माण करना नहीं है, बल्कि यह समझना है कि जब वे अपने स्वयं के उत्तरों के बारे में अनिश्चित हों, तो उन्हें कैसे प्रबंधित किया जाए।

इसे संबोधित करने के लिए, शोधकर्ताओं की एक टीम ने इन डिजिटल टीमों को निर्देशित करने की एक नई विधि विकसित की है, जिसे HASSUM कहा जाता है। यह सिस्टम एक सरल लेकिन शक्तिशाली विचार पर आधारित है: यह देखने के लिए अंत तक प्रतीक्षा करने के बजाय कि उत्तर सही है या गलत, सिस्टम को काम के दौरान ही अनिश्चितता को महसूस करने में सक्षम होना चाहिए। यह टीम की सोच में दो विशिष्ट प्रकार के "शोर" (noise) को सुनकर ऐसा करता है। शोर का पहला प्रकार है विरोधाभास (contradiction), जहाँ टीम के विभिन्न सदस्य एक ही बात कह रहे होते हैं लेकिन वास्तव में उनके अर्थ अलग और परस्पर विरोधी होते हैं। दूसरा प्रकार है अस्पष्टता (vagueness), जहाँ टीम एक दिशा पर सहमत तो दिखती है लेकिन उनके उत्तर इतने धुंधले या अनिश्चित होते हैं कि उनमें स्पष्ट और सटीक अर्थ का अभाव होता है। इन दो संकेतों को मापकर, सिस्टम यह बता सकता है कि टीम कब भ्रम की ओर बढ़ रही है और अंतिम निर्णय लेने से पहले हस्तक्षेप कर सकता है।

शोधकर्ताओं ने इस दृष्टिकोण का परीक्षण एक पदानुक्रमित संरचना (hierarchical structure) का उपयोग करके किया, जहाँ एक केंद्रीय "सीईओ" (CEO) एजेंट विशिष्ट कार्यकर्ता एजेंटों को कार्य सौंपता है। एक मानक सेटअप में, सीईओ केवल उत्तर एकत्र कर सकता है और आगे बढ़ सकता है। नए HASSUM सिस्टम में, सीईओ श्रमिकों की सोच की गुणवत्ता की जाँच करने के लिए रुकता है। यदि श्रमिक अस्पष्ट या विरोधाभासी उत्तर देते हैं, तो सीईओ परिणाम को केवल स्वीकार नहीं करता है। इसके बजाय, वह कार्रवाई करता है। वह उसी कार्यकर्ता को अधिक स्पष्ट प्रॉम्प्ट के साथ फिर से प्रयास करने के लिए कह सकता है, वह उस कार्यकर्ता को हटाकर काम के लिए एक अलग विशेषज्ञ को नियुक्त कर सकता है, या वह मुद्दे पर समानांतर में बहस करने के लिए कई श्रमिकों को बुला सकता है। यह प्रक्रिया तब तक दोहराई जाती है जब तक कि टीम एक आत्मविश्वासी, स्थिर उत्तर तक नहीं पहुँच जाती या जब तक कि प्रयासों की संख्या की सीमा समाप्त नहीं हो जाती।

इस अध्ययन के परिणाम, जो विभिन्न कठिन तर्क संबंधी कार्यों पर परीक्षण किए गए, दर्शाते हैं कि यह अनिश्चितता-निर्देशित दृष्टिकोण तब सबसे अच्छा काम करता है जब समस्या में अस्पष्टता या चीजें बनाने (hallucination) का प्रलोभन शामिल हो। उन कार्यों पर जहाँ उत्तर अक्सर अस्पष्ट होते हैं या जहाँ एआई तथ्य गढ़ने के प्रति प्रवृत्त होता है, नए सिस्टम ने अंतिम उत्तरों की सटीकता में महत्वपूर्ण सुधार किया। उदाहरण के लिए, एक परीक्षण पर जो यह देखने के लिए बनाया गया था कि क्या एआई को सुरक्षा नियमों को अनदेखा करने के लिए trick किया जा सकता है, इस सिस्टम की सटीकता मानक पद्धति की तुलना में दोगुनी से अधिक हो गई। इसी तरह, एक परीक्षण पर जो यह मापता है कि एआई कितनी बार सच बोलता है बनाम सामान्य भ्रांतियों के बारे में बताता है, नए सिस्टम ने सफलता दर को लगभग तीन गुना कर दिया। शोधकर्ताओं ने पाया कि यह प्रणाली उन त्रुटियों को पकड़ने में विशेष रूप से प्रभावी थी जहाँ एआई अनिश्चित (wishy-washy) हो रहा था या जहाँ तर्क के विभिन्न भाग चुपचाप एक-दूसरे का विरोध कर रहे थे, ऐसी समस्याएँ जिन्हें मानक सिस्टम अक्सर छोड़ देते हैं क्योंकि उत्तर सतही तौर पर समान दिखते हैं।

हालाँकि, अध्ययन ने इस पद्धति की सीमाओं को भी उजागर किया। शोधकर्ताओं ने पाया कि जब त्रुटियाँ सरल तथ्यात्मक अंतराल या तार्किक गलतियों के कारण थीं जिनका अस्पष्टता से कोई लेना-देना नहीं था, तो यह सिस्टम मददगार नहीं था, और कुछ मामलों में इसने चीजों को थोड़ा और खराब भी कर दिया। यदि टीम के पास सही जानकारी की कमी थी या उसने एक स्पष्ट तार्किक गलती की जो सभी प्रयासों में सुसंगत थी, तो अनिश्चितता संकेतों ने सहायक हस्तक्षेप शुरू नहीं किए। यह सुझाव देता है कि इस दृष्टिकोण का मूल्य सार्वभौमिक नहीं है; यह एक विशेष उपकरण है जो तब सबसे अधिक चमकता है जब समस्या यह हो कि एआई अनिश्चित या भ्रमित है, न कि तब जब वह केवल अनभिज्ञ या तार्किक रूप से त्रुटिपूर्ण है।

अंततः, यह कार्य प्रदर्शित करता है कि अनिश्चितता को केवल एक स्कोर के रूप में नहीं, बल्कि एक लाइव कंट्रोल सिग्नल के रूप में उपचारित करना, आर्टिफिशियल इंटेलिजेंस टीमों को अधिक मजबूत बना सकता है। केंद्रीय समन्वयक को यह महसूस करने की क्षमता देकर कि टीम अपने शब्दों के अर्थ के साथ संघर्ष कर रही है, सिस्टम वास्तविक समय में अपनी रणनीति को अनुकूलित कर सकता है। यह तकनीक को अधिक विश्वसनीय, स्वायत्त एजेंटों की ओर एक कदम करीब ले जाता है जो जानते हैं कि मदद कब मांगनी है, कब फिर से प्रयास करना है, और अपने निष्कर्षों पर कब भरोसा करना है, यह सुनिश्चित करते हुए कि अंतिम आउटपुट केवल संयोग का उत्पाद नहीं, बल्कि सावधानीपूर्वक, सत्यापित तर्क का परिणाम है।