Copy-on-Write Scoring: Application-Specific Agent Evaluations
यह शोध पत्र कॉपी-ऑन-राइट (CoW) स्कोरिंग पेश करता है, जो एक ऐसा ढांचा है जो एप्लिकेशन वातावरण के भीतर सीधे LLM-आधारित एजेंटों का मूल्यांकन करने के लिए PostgreSQL-स्तरीय आइसोलेशन का लाभ उठाता है, जिससे डेटाबेस राइट विफलताओं की सूक्ष्म और लागत प्रभावी पहचान और एजेंट टूल सतहों में निरंतर सुधार संभव हो पाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपने अभी-अभी एक सुपर-स्मार्ट रोबोट असिस्टेंट बनाया है जो आपके पसंदीदा ऐप्स, जैसे कि प्रोजेक्ट मैनेजमेंट टूल या कैलेंडर, से बात कर सकता है। आप चाहते हैं कि यह आपके जीवन को व्यवस्थित करने में आपकी मदद करे, लेकिन आप इस बात से डरे हुए हैं कि कहीं यह गलती से आपकी पूरी टू-डू लिस्ट ही डिलीट न कर दे या आपके बॉस का स्टेटस बदलकर "वेकेशन पर" न कर दे, जबकि वे वास्तव में एक मीटिंग में हों। यह AI एजेंट्स की दुनिया है: कंप्यूटर प्रोग्राम जो केवल चैट नहीं करते, बल्कि सॉफ्टवेयर सिस्टम में वास्तव में काम भी करते हैं। इस समय बड़ी समस्या यह है कि इन रोबोट्स का सुरक्षित रूप से परीक्षण कैसे किया जाए। आमतौर पर, वैज्ञानिक उन्हें नकली, बनावटी दुनिया (जैसे कि एक वीडियो गेम सिमुलेशन) में टेस्ट करते हैं, लेकिन ये सिमुलेशन अक्सर वास्तविकता से भटक जाते हैं, या उन्हें बनाना इतना महंगा होता है कि जब भी असली ऐप में कोई बदलाव आता है, तो कोई उन्हें अपडेट करने का खर्च नहीं उठा पाता। हमें एक ऐसा तरीका चाहिए जिससे हम वास्तविक ऐप में रोबोट को काम करते हुए देख सकें, लेकिन बिना किसी चीज़ को वास्तव में नुकसान पहुँचाए, ताकि हम ठीक से देख सकें कि वह कहाँ भ्रमित हो रहा है और उसे ठीक कर सकें।
यहाँ एक नया विचार आता है जिसे कॉपी-ऑन-राइट (CoW) स्कोरिंग कहा जाता है, जिसे शोधकर्ता जोआना रॉय और स्वेन होलज़ेल ने प्रस्तावित किया है। उनके इस तरीके को एक डेटाबेस (वह डिजिटल फाइलिंग कैबिनेट जहाँ ऐप्स अपना डेटा स्टोर करते हैं) के भीतर बनाई गई एक "जादुई कांच की दीवार" की तरह समझें। सामान्य रूप से, यदि आप एक रोबोट को "इस फ़ाइल को बदलें" कहते हैं, तो वह सीधे असली फ़ाइल पर जाता है और उस पर कुछ लिख देता है। CoW के साथ, रोबोट को एक विशेष, अदृश्य कांच की शीट पर लिखने के लिए कहा जाता है जो असली फ़ाइल के ऊपर स्थित होती है। रोबोट को लगता है कि वह असली चीज़ पर लिख रहा है, लेकिन वास्तव में वह केवल कांच पर लिख रहा है। मूल फ़ाइल नीचे पूरी तरह सुरक्षित और अछूती रहती है।
सबसे चतुर हिस्सा यह है: सिस्टम एक "ग्राउंड ट्रुथ" वर्शन रखता है कि क्या होना चाहिए (जैसे कि एक आदर्श मानव द्वारा किया गया कार्य) और इसकी तुलना उससे करता है जो रोबोट ने कांच पर किया है। क्योंकि रोबोट एक अलग लेयर पर लिख रहा है, शोधकर्ता तुरंत देख सकते हैं: "ओह, रोबोट ने गलत रो (row) को डिलीट करने की कोशिश की," या "उसने गलत टास्क में एक कमेंट जोड़ दिया।" वे रोबोट के प्रदर्शन को इस आधार पर स्कोर कर सकते हैं कि कांच पर उसकी लिखावट, परफेक्ट ह्यूमन वर्शन के कितने करीब थी। यदि रोबोट विफल होता है, तो शोधकर्ता बस कांच को साफ कर देते हैं और फिर से प्रयास करते हैं, बिना कभी बैकअप को रिस्टोर किए या वास्तविक डेटा को खराब होने की चिंता किए।
अपने अध्ययन में, टीम ने प्लेन (Plane) पर इसका परीक्षण किया, जो एक ओपन-सोर्स प्रोजेक्ट मैनेजमेंट प्लेटफॉर्म है। उन्होंने 20 अलग-अलग वास्तविक दुनिया के कार्य सेट किए, जैसे कि "सभी अधूरे बग्स को 'इन प्रोग्रेस' लिस्ट में ले जाएं" या "नए टास्क विशिष्ट टीम सदस्यों को असाइन करें।" उन्होंने पाँच अलग-अलग AI मॉडल्स को ये काम करने दिया जबकि CoW सिस्टम उन पर नज़र रख रहा था। परिणाम चौंकाने वाले थे। शोधकर्ताओं ने पाया कि कई रोबोट इसलिए विफल नहीं हुए क्योंकि वे "मूर्ख" थे, बल्कि वोकैबुलरी मिसमैच (शब्दावली के अंतर) के कारण विफल हुए। उदाहरण के लिए, ऐप चीजों को "वर्क आइटम्स" कहता था, लेकिन रोबोट "इश्यूज" (issues) की तलाश कर रहे थे। रोबोट अटक गए, हार मान ली, या उन्होंने मतिभ्रम (hallucination) दिखाना शुरू कर दिया (यानी फर्जी कमांड बनाने लगे) क्योंकि वे सही शब्दों को नहीं ढूँढ पा रहे थे।
CoW स्कोरिंग का उपयोग करके, टीम इन सटीक विफलताओं को सटीक रूप से पहचान सकी। वे समझ गए, "आह, रोबोट यहाँ इसलिए विफल हो रहा है क्योंकि वह नहीं जानता कि 'इश्यू' का मतलब 'वर्क आइटम' है।" इसलिए, उन्होंने रोबोट द्वारा उपयोग किए जाने वाले टूल्स को अपडेट किया ताकि उनमें दोनों शब्द शामिल हों। जब उन्होंने दोबारा टेस्ट चलाए, तो रोबोट बहुत बेहतर हो गए। उदाहरण के लिए, एक मॉडल जेमिनी-2.5-प्रो (Gemini-2.5-Pro) का स्कोर 54% बढ़ गया, और दूसरे मॉडल जीपीटी-4.1 (GPT-4.1) में 47% की उछाल आई। यह अध्ययन बताता है कि यह "कांच की दीवार" वाला तरीका वास्तविक अनुप्रयोगों में AI एजेंट्स को डीबग करने का एक शक्तिशाली, कम लागत वाला तरीका है, जिससे डेवलपर्स उन विशिष्ट टूल्स और प्रॉम्प्ट्स को ठीक कर सकते हैं जो रोबोट को भ्रमित करते हैं, बजाय इसके कि वे केवल अंदाज़ा लगाते रहें कि क्या गलत हुआ। यह रोबोट को वास्तविक दुनिया के जोखिम के बिना वास्तविक दुनिया में अभ्यास करने का एक तरीका है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।