COCORELI: Enforcing Execution Preconditions for Reliable Collaborative Instruction Following
यह शोध पत्र COCORELI को प्रस्तुत करता है, जो एक मॉड्यूलर आर्किटेक्चर है जो अधूरी जानकारी का पता लगाने को क्रिया के निवारण के साथ संरचनात्मक रूप से जोड़कर निष्पादन विश्वसनीयता को लागू करता है, जिससे स्वायत्त एजेंटों को तब तक कार्य निष्पादित करने से रोका जाता है जब तक कि लक्षित स्पष्टीकरण के माध्यम से अपूर्णताओं को हल नहीं कर लिया जाता।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप अपने एक दोस्त के साथ मिलकर लेगो (Lego) का एक जटिल किला बना रहे हैं। आप आर्किटेक्ट (Architect) हैं और आपका दोस्त बिल्डर (Builder) है। आप निर्देश देते हैं जैसे, "नीले ईंट के ऊपर एक लाल ईंट रखें।"
वास्तविक दुनिया में, आप मान लेते हैं कि आपके दोस्त को पता है कि कौन सी लाल ईंट और "ऊपर" का सटीक अर्थ क्या है। लेकिन AI एजेंटों की डिजिटल दुनिया में, यदि आप हर एक विवरण निर्दिष्ट नहीं करते हैं, तो AI अक्सर गायब हिस्सों का अंदाजा (guess) लगाने की कोशिश करता है। वह गलत ईंट चुन सकता है या उसे गलत जगह रख सकता है, और क्योंकि वह अपने अंदाजे को लेकर बहुत आश्वस्त होता है, इसलिए वह एक टेढ़ा मीनार बना देता है। एक बार गलती हो जाने के बाद, इसे ठीक करना कठिन होता है।
यह शोध पत्र एक नई प्रणाली पेश करता है जिसे COCORELI (जो Cooperative, Reconstitution & Execution of Language Instructions का संक्षिप्त रूप है) कहा जाता है, ताकि इस समस्या को हल किया जा सके।
मुख्य समस्या: "अंदाजा लगाने" का जाल
वर्तमान AI सिस्टम अति-उत्साही इंटर्न की तरह हैं। यदि आप उनसे "एक मीटिंग बुक करें" कहते हैं, और आप भूल जाते हैं कि किसे आमंत्रित करना है, तो वे शायद कोई नाम बना लेंगे या सूची से किसी भी व्यक्ति को चुन लेंगे। वे पहचान तो लेते हैं कि जानकारी गायब है, लेकिन वे रुकते नहीं हैं; वे बस खाली जगह को अपने अंदाजे से भर देते हैं और आगे बढ़ जाते हैं। इससे "हैलुसिनेशन" (चीजों को मनगढ़ंत बनाना) और असुरक्षित कार्य होते हैं।
लेखकों का तर्क है कि जानकारी के एक हिस्से को पहचानना ही काफी नहीं है। आपको एक ऐसी प्रणाली की आवश्यकता है जो जानकारी मिलने तक क्रिया को भौतिक रूप से रोक (block) दे।
समाधान: "सेफ्टी लॉक" का उदाहरण
COCORELI को एक सख्त सुरक्षा लॉक (safety lock) वाले निर्माण स्थल के रूप में सोचें।
- ब्लूप्रिंट (संरचित प्रतिनिधित्व - Structured Representation): केवल आपके शब्दों को पढ़ने के बजाय, COCORELI आपके निर्देश को एक सख्त डिजिटल ब्लूप्रिंट (एक JSON फ़ाइल) में बदल देता है। ब्लूप्रिंट के हर हिस्से में एक स्लॉट होता है: रंग (Color), स्थान (Location), प्रकार (Type)।
- गायब स्लॉट: यदि आप कहते हैं, "एक ईंट रखें," तो ब्लूप्रिंट में "रंग" का एक स्लॉट खाली रहता है।
- सेफ्टी लॉक: COCORELI में, मशीन के पास एक सेफ्टी लॉक है जो कहता है, "यदि कोई भी स्लॉट खाली है, तो मशीन हिल भी नहीं सकती।" यह वास्तव में निर्माण करने से इनकार कर देती है।
- स्पष्टीकरण (Clarification): अंदाज़ा लगाने के बजाय, सिस्टम तुरंत रुक जाता है और आपसे पूछता है, "ईंट का रंग क्या होना चाहिए?"
- रिलीज़: केवल आपके उत्तर देने और स्लॉट भरने के बाद ही, सेफ्टी लॉक खुलता है, जिससे क्रिया होने की अनुमति मिलती है।
व्यवहार में यह कैसे काम करता है
उन्होंने इस परीक्षण को एक नियंत्रित 3D बिल्डिंग गेम (जिसे ENVIRONMENT कहा जाता है) में किया जहाँ गलतियाँ स्थायी होती हैं। यदि आप एक ब्लॉक को गलत जगह रखते हैं, तो संरचना ढह जाती है, और आप इसे वापस पहले जैसा नहीं कर सकते।
उन्होंने COCORELI की तुलना अन्य लोकप्रिय AI विधियों से की:
- चेन-ऑफ-थॉट (CoT): एक बुद्धिमान छात्र की तरह जो बहुत सोचता है लेकिन यदि वह सुनिश्चित नहीं है, तो फिर भी उत्तर का अनुमान लगा लेता है।
- एजेंटिक फ्रेमवर्क्स (Agentic Frameworks): श्रमिकों की एक टीम की तरह जो आपस में बात तो करती है, लेकिन यदि उन्हें लगता है कि उनके पास पर्याप्त जानकारी है, तो वे आगे बढ़ जाते हैं।
- COCORELI: एक सख्त फोरमैन की तरह जो तब तक एक भी ईंट नहीं रखने देता जब तक कि हर विवरण की पुष्टि न हो जाए।
परिणाम:
- जब निर्देश पूर्ण थे, तो सभी ने अच्छा प्रदर्शन किया।
- जब निर्देशों में विवरण गायब थे (अपूर्ण निर्देश), तो अन्य सिस्टमों ने गलत संरचनाएं बनाने के लिए अंदाज़ा लगाना और निर्माण जारी रखा।
- COCORELI ने कभी अंदाज़ा नहीं लगाया। यह रुका, स्पष्टीकरण मांगा, और फिर बिल्कुल सटीक संरचना बनाई। इसने इन परीक्षणों में "हैलुसिनेटेड" (मनगढ़ंत) कार्यों को पूरी तरह से समाप्त कर दिया।
"कॉपी-पेस्ट" की शक्ति (एब्स्ट्रैक्शन - Abstraction)
शोध पत्र यह भी दिखाता है कि COCORELI एक पैटर्न सीख सकता है और उसका पुन: उपयोग कर सकता है।
- परिदृश्य: आप 62 टुकड़ों का उपयोग करके एक जटिल "खोपड़ी" (Skull) का आकार बनाते हैं।
- पूछना: बाद में, आप कहते हैं, "मेरे लिए एक और खोपड़ी बनाओ, लेकिन इसे नीला बना दो और इसे वहाँ रख दो।"
- परिणाम: COCORELI को उन सभी 62 चरणों को फिर से बताने की आवश्यकता नहीं है। यह खोपड़ी के ढांचे (ब्लूप्रिंट) को याद रखता है और बस रंग और स्थान को बदल देता है। अन्य सिस्टम बिना हर चरण को दोबारा सूचीबद्ध किए, इस जटिल पैटर्न को याद रखने में संघर्ष करते हैं।
निचोड़
शोध पत्र का दावा है कि AI के लिए मनुष्यों के साथ काम करते समय वास्तव में विश्वसनीय होने के लिए, हम केवल AI को "स्मार्ट" बनाने या बेहतर अंदाज़ा लगाने पर निर्भर नहीं रह सकते। हमें आर्किटेक्चर (सिस्टम के डिज़ाइन) को बदलने की आवश्यकता है ताकि यह असंभव हो जाए कि AI अधूरी जानकारी पर कार्य करे।
COCORELI सिद्ध करता है कि लापता जानकारी को "अंदाज़ा लगाने के संकेत" के बजाय एक "स्टॉप साइन" (रोकने के संकेत) के रूप में मानकर, हम ऐसे एजेंट बना सकते हैं जो सुरक्षित, विश्वसनीय और वास्तव में सहयोगात्मक हैं। यह AI के स्मार्ट होने के बारे में नहीं है; यह सिस्टम के अधिक सख्त होने के बारे में है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।