Toward User-Conditioned Evaluation of Personal LLM Agents under Temporal Interventions
यह शोध पत्र तर्क देता है कि मौजूदा बेंचमार्क उपयोगकर्ता-आधारित स्थिति विकास (user-conditioned state evolution) को ध्यान में न रखकर, टेम्पोरल इंटरवेंशन (temporal interventions) के तहत व्यक्तिगत एलएलएम एजेंटों का मूल्यांकन करने में विफल रहते हैं, और यह इस कमी को दूर करने के लिए विशिष्ट स्थितियों और मेट्रिक्स के साथ एक नए मूल्यांकन प्रोटोकॉल का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट बटलर (नौकर) बना रहे हैं। रोबोटिक्स के शुरुआती दिनों में, हमने उन्हें एक स्टेरिल लैब (कीटाणुरहित प्रयोगशाला) में टेस्ट किया: हमने उन्हें एक साफ कप दिया, उन्हें उसे धोने को कहा, और यह जांचा कि क्या उन्होंने कप तोड़े बिना उसे धो लिया। यदि वे इसमें सफल रहे, तो वे "अच्छे" थे। लेकिन वास्तविक जीवन कोई स्टेरिल लैब नहीं है। वास्तविक जीवन अस्त-व्यस्त है। आपका रोबोट बटलर आपके साथ रहता है। उसे याद रहता है कि आपको अपनी कॉफी में दो चम्मच चीनी पसंद है, उसे पता है कि आपको रोशनी का टिमटिमाना पसंद नहीं है, और उसने आपके स्मार्ट फ्रिज को खोलने के लिए एक विशिष्ट डांस स्टेप सीख लिया है। उसके पास आपकी आदतों की एक दीर्घकालिक स्मृति (long-term memory) है और उसके पास आपके घर के लिए विशेष रूप से सीखी गई कौशलों का एक सेट है।
अब, कल्पना कीजिए कि स्मार्ट फ्रिज निर्माता एक सॉफ्टवेयर अपडेट भेजता है जो दरवाजे के खुलने के तरीके को बदल देता है। पुराने लैब टेस्ट में, रोबोट शायद एक बार दरवाजा खोलने में विफल होता और रुक जाता। लेकिन आपके घर में, रोबोट घबरा सकता है। क्योंकि उसे याद है कि दरवाजा पहले कैसे काम करता था, वह उसे जबरदस्ती खोलने की कोशिश कर सकता है, हैंडल तोड़ सकता है, और फिर भ्रमित होने के कारण गलती से आपकी कॉफी गिरा सकता है। समस्या केवल यह नहीं है कि रोबोट विफल हुआ; समस्या यह है कि उसकी व्यक्तिगत यादों और सीखी हुई आदतों ने विफलता को आपके जीवन के अन्य हिस्सों में फैला दिया। यह पेपर इस बारे में है कि रोबots को केवल इस आधार पर कैसे टेस्ट किया जाए कि क्या वे कोई कार्य कर सकते हैं, बल्कि इस आधार पर भी कि जब उनके आसपास की दुनिया बदल जाती है, तो वे इन व्यक्तिगत, अव्यवस्थित, यादों से भरे संकटों को कैसे संभालते हैं।
द पेपर: आपका रोबोट बटलर आपको क्यों भूल सकता है (और हमें एक नए टेस्ट की आवश्यकता क्यों है)
इस पेपर के लेखक, कारनेगी मेलन और जॉर्जिया टेक जैसी जगहों के शोधकर्ताओं की एक टीम, "पर्सनल एआई एजेंटों" (Personal AI Agents) के परीक्षण करने के तरीके में एक विशिष्ट ब्लाइंड स्पॉट (अंधे मोड़) की ओर इशारा कर रहे हैं। ये वे फैंसी एआई असिस्टेंट हैं जिन्हें आपको जानने, आपकी पसंद को याद रखने और समय के साथ आपकी दिनचर्या को सीखने के लिए बनाया गया है।
वर्तमान में, जब वैज्ञानिक इन एआई एजेंटों का परीक्षण करते हैं, तो वे उन्हें अलग-थseits, अलग मशीनों की तरह मानते हैं। उनके पास एक "मेमोरी टेस्ट" होता है यह देखने के लिए कि क्या एआई को आपका जन्मदिन याद है। उनके पास एक "टूल टेस्ट" होता है यह देखने के लिए कि क्या एआई कैलकुलेटर का उपयोग कर सकता है। उनके पास एक "सेफ्टी टेस्ट" होता है यह देखने के लिए कि क्या एआई कुछ बुरा कहने से मना करता है। लेकिन लेखकों का तर्क है कि यह एक कार के ब्रेक, उसके इंजन और उसके जीपीएस को तीन अलग-अलग दिनों में, तीन अलग-अलग गैरेज में टेस्ट करने और फिर यह कहने जैसा है, "बहुत बढ़िया, कार सुरक्षित है!"
वास्तविकता यह है कि ये सभी चीजें आपस में जुड़ी हुई हैं। यदि जीपीएस को एक अपडेट मिलता है (एक "टेम्पोरल इंटरवेंशन"), तो यह इंजन को भ्रमित कर सकता है, जिससे ब्रेक फेल हो सकते हैं। एआई की दुनिया में, यदि कोई एपीआई (वह टूल जिसका एआई उपयोग करता है) बदल जाता है, तो एक ऐसा एआई जिसके पास पुराने टूल की "यादें" हैं, वह पुराने निर्देशों का उपयोग करने की कोशिश कर सकता है, जो उसके द्वारा सीखे गए कौशल को तोड़ सकता है, जो फिर एक सुरक्षा नियम का उल्लंघन कर सकता है जिसे उसे पालन करना था।
बड़ी खोज: "परफेक्ट स्टॉर्म" टेस्ट मौजूद नहीं है
शोधकर्ताओं ने एक ऐसा टेस्ट खोजने की कोशिश की जो इस विशिष्ट प्रकार की अव्यवस्था को पकड़ सके। उन्होंने एक "परफेक्ट स्टॉर्म" टेस्ट के लिए चार नियम बनाए:
- परिवर्तन (The Change): एआई के काम करते समय दुनिया में कुछ बदलना चाहिए (जैसे टूल अपडेट)।
- स्मृति (The Memory): एआई को उस बदलाव के दौरान अपना व्यक्तिगत इतिहास (यादें, कौशल, सेटिंग्स) साथ लेकर चलना चाहिए।
- लहर (The Ripple): टेस्ट को यह मापना चाहिए कि वह परिवर्तन एआई द्वारा किए जा रहे अन्य कार्यों को कैसे तोड़ता है (जैसे एक याद के कारण टूल का विफल होना)।
- व्यक्ति (The Person): टेस्ट को यह दिखाना चाहिए कि वही परिवर्तन अलग-अलग लोगों को अलग-अलग तरह से प्रभावित करता है। एक "लाइट यूजर" (जो एआई पर बहुत अधिक निर्भर नहीं है) ठीक हो सकता है, लेकिन एक "पावर यूजर" (जिसने एआई को अपना पूरा जीवन याद रखने के लिए दिया है) का जीवन पूरी तरह से अस्त-व्यस्त हो सकता है।
लेखक फिर एक जासूसी मिशन पर निकले। उन्होंने एआई एजेंटों के लिए उपलब्ध 15 सबसे लोकप्रिय, सार्वजनिक टेस्टों को देखा। उन्होंने उन्हें अपने चार नियमों के विरुद्ध जांचा।
परिणाम? उन्हें एक भी टेस्ट नहीं मिला जो इन चारों नियमों को पूरा करता हो।
यह एक कार क्रैश टेस्ट खोजने जैसा है जो यह सिम्युलेट करता है कि दुर्घटना तब होती है जब ड्राइवर टेक्स्टिंग कर रहा हो, रेडियो तेज़ आवाज़ में बज रहा हो, और जीपीएस रास्ता बदल रहा हो, और साथ ही यह भी देखता है कि अलग-अलग ड्राइवर इस पर कैसे प्रतिक्रिया देते हैं। उन्होंने क्रैश के लिए टेस्ट पाए, टेक्स्टिंग के लिए टेस्ट पाए, और जीपीएस के लिए भी टेस्ट पाए। लेकिन उन्हें कोई भी ऐसा टेस्ट नहीं मिला जो यह देखने के लिए इन सबको जोड़ सके कि व्यक्तिगत संदर्भ परिणाम को कैसे बदल देता है।
यह क्यों महत्वपूर्ण है
पेपर सुझाव देता है कि इन नए टेस्टों के बिना, हम अंधेरे में उड़ रहे हैं। हम एक ऐसा एआई बना सकते हैं जो लैब में तो परफेक्ट दिखता है लेकिन वास्तविक दुनिया में बिखर जाता है क्योंकि उसका "पर्सनल स्टेट" (उसकी यादें और आदतें) उसे नाजुक बना देती है।
इसे ठीक करने के लिए, लेखक टेस्ट डिजाइन करने का एक नया तरीका प्रस्तावित करते हैं। वे टेस्ट के लिए "यूजर प्रोफाइल्स" बनाने का सुझाव देते हैं। कल्पना कीजिए कि एक टेस्ट में आपके पास एक ही एआई के दो संस्करण हैं:
- यूजर A (लाइट यूजर): इसके पास कोई विशेष यादें या कौशल नहीं हैं। जब टूल बदलता है, तो यह बस फिर से प्रयास करता है और सफल हो जाता है।
- यूजर B (पावर यूजर): इसके पास पुराने टूल की याद है, एक ऐसा कौशल है जो पुराने टूल के आधार पर सीखा गया था, और एक सुरक्षा सेटिंग है जो मानती है कि पुराना टूल अभी भी वहीं है। जब टूल बदलता है, तो यह एआई भ्रमित हो सकता है, पुराने टूल का उपयोग करने की कोशिश कर सकता है, विफल हो सकता है, और फिर इसे ठीक करने की कोशिश में अनजाने में एक सुरक्षा नियम को तोड़ सकता है।
पेपर "एडैप्टेशन लेटेंसी" (रिकवर होने में लगने वाला समय) और "रिग्रेशन रेट" (कितने पुराने कार्य अचानक काम करना बंद कर देते हैं) जैसी चीजों को मापने का प्रस्ताव करता है। उन्होंने एक नमूना "बेंचमार्क कार्ड" (एक टेस्ट की रेसिपी) भी बनाया जिसमें एक रिपोर्टिंग असिस्टेंट शामिल है जिसे अचानक डेटा स्टोरेज के तरीके में बदलाव का सामना करना पड़ता है।
निष्कर्ष
लेखक यह दावा नहीं कर रहे हैं कि उन्होंने अभी तक परफेक्ट एआई नहीं बनाया है। वे यह भी नहीं कह रहे हैं कि वर्तमान एआई खराब हैं। वे कह रहे हैं, "हमारे पास इस विशिष्ट प्रकार की विफलता को मापने के लिए कोई पैमाना नहीं है।" वे इस समुदाय के लिए इन नए, अधिक जटिल टेस्ट बनाने का आह्वान कर रहे हैं जो इस तथ्य को ध्यान में रखते हैं कि पर्सनल एआई केवल एक टूल नहीं है; यह एक स्मृति वाला साथी है, और जब दुनिया बदलती है, तो उसकी स्मृति एक लायबिलिटी (दायित्व/बोझ) बन सकती है। जब तक हम ये टेस्ट नहीं बनाते, हम वास्तव में नहीं जान पाएंगे कि हमारे पर्सनल एआई एजेंट वास्तविक दुनिया के लिए तैयार हैं या नहीं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।