The Regression Tax: Decomposing Why Skills Help and Hurt LLM Agents
यह शोध पत्र यह प्रकट करता है कि LLM एजेंटों में प्रक्रियात्मक कौशल (procedural skills) जोड़ने से अक्सर 'डिस्क्रिप्शन ऑस्मोसिस' (description osmosis), 'ग्राउंडिंग डिस्प्लेसमेंट' (grounding displacement) और 'वेरिफिकेशन डिस्प्लेसमेंट' (verification displacement) के कारण प्रदर्शन में महत्वपूर्ण गिरावट आती है, और यह तर्क देता है कि विश्वसनीयता प्रक्रियात्मक मार्गदर्शन को अनुकूलित करने के बजाय ग्राउंडिंग और वेरिफिकेशन में सुधार करने पर अधिक निर्भर करती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक सुपर-स्मार्ट रोबोट असिस्टेंट को अपना होमवर्क करने के लिए सिखा रहे हैं। आप उसे कुछ "कौशल" (skills) देते हैं—जैसे छोटे चीट शीट्स या नियम पुस्तिकाएं जो उसे विशिष्ट समस्याओं को हल करने के बारे में बताती हैं, जैसे कि "स्प्रेडशीट में एक नंबर कैसे खोजें" या "वित्तीय रिपोर्ट कैसे पढ़ें।" आर्टिफिशियल इंटेलिजेंस की दुनिया में, इन्हें LLM एजेंट्स (लार्ज लैंग्वेज मॉडल एजेंट्स) कहा जाता है, और लक्ष्य उन्हें वास्तविक दुनिया के कामों में बेहतर बनाना है। लंबे समय तक, वैज्ञानिकों ने सफलता को केवल इस बात से मापा कि नए कौशल देने के बाद रोबोट ने कितने अधिक कार्य सही ढंग से किए। यह एक "जितना अधिक, उतना बेहतर" वाला खेल था। लेकिन ठीक वैसे ही जैसे किसी इंसान को एक नया, जटिल निर्देश मैनुअल देने से कभी-कभी वह भ्रमित हो सकता है और उन चीजों में चूक कर सकता है जो वह पहले आसानी से कर लेता था, एक AI को बहुत अधिक कौशल देना उल्टा भी पड़ सकता है। बड़ा सवाल जो शोधकर्ता पूछ रहे हैं वह है: जब हम ये कौशल जोड़ते हैं, तो क्या हम वास्तव में मदद कर रहे हैं, या हम अनजाने में उन चीजों को बिगाड़ रहे हैं जो पहले से ही ठीक काम कर रही थीं?
"द रिग्रेशन टैक्स" (The Regression Tax) नामक यह शोध पत्र उसी समस्या की गहराई से जांच करता है। लेखकों, दर्शन टैंक और बरन नामा ने कार्यालय संबंधी कार्यों (जैसे वित्तीय दस्तावेजों को पढ़ना या स्प्रेडशीट को ठीक करना) को हल करने के लगभग 6,000 अलग-अलग प्रयासों के साथ एक विशाल प्रयोग किया। उन्होंने तीन अलग-अलग AI मॉडलों का उपयोग किया। उन्होंने तुलना की कि नए कौशल के साथ रोबोट कैसा प्रदर्शन करते हैं बनाम बिना किसी कौशल के वे कैसा प्रदर्शन करते हैं।
यहाँ उन्हें जो मोड़ मिला, वह यह है: कौशल जोड़ने का मतलब केवल जीत जोड़ना नहीं है; यह जीत चुराना भी है।
इसे एक वीडियो गेम की तरह सोचें। आपको एक नया "पावर-अप" (एक कौशल) मिलता है जो उस बॉस को हराने में आपकी मदद करता है जिससे आप संघर्ष कर रहे थे। बहुत बढ़िया! लेकिन शायद वही पावर-अप आपको उस पत्थर से टकरा देता है जिसे आप पहले आसानी से कूदकर पार कर लेते थे। लेखक इसे "रिग्रेशन टैक्स" कहते हैं। उन्होंने पाया कि हर 100 नए कार्यों के लिए जिन्हें रोबोट कौशलों की मदद से हल करता है, वे वास्तव में लगभग 59 कार्यों को खराब कर देते जिन्हें वे अपने दम पर पूरी तरह से हल कर सकते थे। इसलिए, यदि आप केवल नएWins (जीत) को गिनते हैं, तो "नेट" सुधार उतना बड़ा नहीं दिखता जितना वह दिखता है।
यह शोध पत्र तीन चालाक तरीकों की पहचान करता है जिनसे ये कौशल रोबोट को गलती करने पर मजबूर करते हैं:
स्किल-डिस्क्रिप्शन ऑस्मोसिस (द "घोस्ट" इफेक्ट): कल्पना कीजिए कि आपके डेस्क पर एक नियम पुस्तिका रखी है। भले ही आप उसे कभी न खोलें या निर्देश न पढ़ें, केवल शीर्षक "टैक्स की गणना कैसे करें" देखना भी आपको घबरा सकता है और आपके गणित करने के तरीके को बदल सकता है। लेखकों ने पाया कि कौशल का विवरण (description) केवल रोबोट की मेमोरी में होने मात्र से (भले ही रोबोट उस कौशल का उपयोग कभी न करे) उसके व्यवहार को बदल सकता है और उसे विफल होने का कारण बन सकता है। यह ऐसा है जैसे रोबोट उस कौशल के "वाइब" को सोख रहा है और केवल उसकी उपस्थिति से ही भ्रमित हो रहा है।
ग्राउंडिंग डिस्प्लेसमेंट (द "गलत मैप" प्रॉब्लम): यह तब होता है जब कौशल रोबोट को बताता है कि कुछ कैसे करना है, लेकिन ऐसा करने में यह रोबोट को समस्या के गलत हिस्से की ओर देखने के लिए मजबूर कर देता है। यह एक ड्राइवर को ड्राइविंग के सटीक निर्देश देने जैसा है, लेकिन वे निर्देश उसे गलत एग्जिट साइन की ओर देखने के लिए मजबूर कर देते हैं। रोबोट प्रक्रिया का पूरी तरह से पालन करता है लेकिन गलत जगह पहुँच जाता है क्योंकि कौशल ने सही शुरुआती बिंदु खोजने की उसकी क्षमता को "विस्थापित" (displace) कर दिया।
वेरिफिकेशन डिस्प्लेसमेंट (द "नो-चेक" ज़ोन): यह तब होता है जब कौशल रोबोट को सुरक्षा जांच छोड़ने के लिए कहता है। कल्पना कीजिए कि एक रोबोट जो आमतौर पर काम जमा करने से पहले अपने काम की दोबारा जांच करता है। एक नया कौशल कह सकता है, "बस इसे जल्दी से करो!" और रोबोट अपने उत्तर की जांच करना भूल जाता है। गणित सही हो सकता है, लेकिन क्योंकि उसने परिणाम को सत्यापित (verify) नहीं किया, इसलिए वह विफल हो जाता है।
लेखकों ने यह भी पाया कि वर्तमान में हम इन कौशलों को बनाने का तरीका थोड़ा असंतुलित है। अधिकांश कौशल निर्माता "मध्य" भाग पर ध्यान केंद्रित करते हैं—यानी चरण-दर-चरण प्रक्रिया। लेकिन डेटा दिखाता है कि असली समस्या के स्थान शुरुआत (सही जानकारी खोजना, या "ग्राउंडिंग") और अंत (उत्तर की जांच करना, या "वेरिफिकेशन") में हैं। कौशल यह बताने में तो बहुत अच्छे हैं कि रोबोट को क्या करना है, लेकिन वे अक्सर रोबोट को यह जानने में कमजोर बना देते हैं कि कहाँ देखना है या क्या वह सही है।
संक्षेप में, यह शोध पत्र सुझाव देता है कि हमें केवल उन कार्यों को नहीं गिनना चाहिए जिनमें AI बेहतर होता जा रहा है। हमें उस "टैक्स" को भी देखना चाहिए जो वह उन चीजों को बिगाड़कर चुकाता है जिन्हें वह पहले जानता था। AI को वास्तव में विश्वसनीय बनाने के लिए, हमें केवल अधिक प्रक्रियाएं लिखना बंद करना होगा और रोबोटों को नक्शा पढ़ने और अपने काम की जांच करने में बेहतर बनाने में मदद करनी होगी। लेखक सुझाव देते हैं कि यदि हम इन विशिष्ट "ग्राउंडिंग" और "वेरिफिकेशन" समस्याओं को ठीक कर दें, तो हम उन कई कार्यों को वापस पा सकते हैं जो वर्तमान में विफल हो रहे हैं। यह केवल अधिक कौशल रखने के बारे में नहीं है; यह उस सही प्रकार की मदद के बारे में है जो रोबोट को लड़खड़ाने न दे।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।