Contracting for LLM Delegation: Moral Hazard in Technology and Effort Choice

आर्टिफिशियल इंटेलिजेंस की तेजी से बदलती दुनिया में, एक शांत क्रांति हो रही है जहाँ कंप्यूटर अब केवल सवालों के जवाब ही नहीं दे रहे हैं, बल्कि उनसे काम करने के लिए कहा जा रहा है। एक इंसान द्वारा प्रॉम्प्ट टाइप करने और एक एकल उत्तर की प्रतीक्षा करने के बजाय, हम स्वायत्त एजेंटों (autonomous agents) का उदय देख रहे हैं—ऐसे सॉफ्टवेयर प्रोग्राम जो जटिल कार्यों को विभाजित कर सकते हैं, निर्णय ले सकते हैं और अपने आप कदम उठा सकते हैं। कल्पना कीजिए कि एक लॉ फर्म एक एआई से अनुबंध (contract) की समीक्षा करने के लिए कहती है, या एक सॉफ्टवेयर टीम उससे किसी बग को ठीक करने के लिए कहती है। इंसान लक्ष्य प्रदान करता है, लेकिन मशीन यह तय करती है कि वहां तक कैसे पहुँचना है। यह बदलाव एक नए प्रकार के संबंध को जन्म देता है, जिसका अध्ययन अर्थशास्त्रियों ने दशकों से किया है: प्रिंसिपल-एजेंट डायनेमिक (principal-agent dynamic)। इस व्यवस्था में, एक पक्ष, जिसे 'प्रिंसिपल' कहा जाता है, दूसरे पक्ष, जिसे 'एजेंट' कहा जाता है, को कार्य करने के लिए नियुक्त करता है। समस्या तब उत्पन्न होती है जब प्रिंसिपल यह नहीं देख पाता कि एजेंट वास्तव में क्या कर रहा है। यदि एजेंट को इस आधार पर भुगतान किया जाता है कि वह कितना काम करता हुआ प्रतीत होता है, तो वह समय बर्बाद कर सकता है या केवल पैसे बचाने के लिए सबसे सस्ते, कम प्रभावी उपकरणों का चयन कर सकता है, जिससे प्रिंसिपल को खराब परिणाम प्राप्त होते हैं। इस छिपे हुए व्यवहार को 'मोरल हेज़र्ड' (moral hazard) के रूप में जाना जाता है, और यह तब विशेष रूप से जटिल हो जाता है जब "श्रमिक" एक परिष्कृत एआई होता है जो विभिन्न बौद्धिक क्षमताओं के बीच चयन कर सकता है और यह तय कर सकता है कि किसी समस्या के बारे में कितनी गहराई से सोचना है।

वॉटरलू विश्वविद्यालय के शोधकर्ताओं ने इस उभरते परिदृश्य में यह समझने के लिए कदम रखा है कि इन स्वायत्त एजेंटों को निष्पक्ष और प्रभावी ढंग से कैसे भुगतान किया जाए। उन्होंने एक विशिष्ट परिदृश्य पर ध्यान केंद्रित किया जहाँ एक एआई एजेंट को दो चीजें चुननी होती हैं: अपने मस्तिष्क के रूप में किस लार्ज लैंग्वेज मॉडल का उपयोग करना है, और कार्य के लिए कितनी कम्प्यूटेशनल मेहनत (computational effort) खर्च करनी है। इन मॉडल्स को अलग-अलग प्रकार के इंजनों के रूप में समझें; कुछ छोटे, सस्ते और तेज़ होते हैं लेकिन कठिन समस्याओं में संघर्ष कर सकते हैं, जबकि अन्य विशाल, महंगे और शक्तिशाली होते हैं लेकिन उन्हें चलाने में बहुत लागत आती है। एजेंट "मेहनत" (effort) का भी निर्णय लेता है, जो एआई की दुनिया में उन टोकन या टेक्स्ट की इकाइयों को दर्शाता है जिन्हें वह समस्या को हल करने के लिए उत्पन्न करता है। शोधकर्ताओं ने पाया कि जैसे-जैसे एजेंट अधिक मेहनत खर्च करता है, उत्तर की गुणवत्ता में सुधार होता है, लेकिन एक सीमा तक ही। एक बाल्टी भरने की तरह, पहले कुछ गैलन पानी बहुत बड़ा अंतर पैदा करते हैं, लेकिन कुछ समय बाद, अधिक पानी डालने से बाल्टी और अधिक नहीं भरती, बल्कि वह बस ओवरफ्लो हो जाती है। यह पैटर्न, जिसे 'सैचुरेटिंग फंक्शन' (saturating function) कहा जाता है, यह बताता है कि प्रयास पर अधिक पैसा खर्च करने से अंततः मिलने वाला लाभ घटता जाता है।

अध्ययन का मुख्य केंद्र एक भुगतान योजना, या अनुबंध (contract) तैयार करना था जो एजेंट को सही विकल्प चुनने के लिए प्रोत्साहित करे, बिना प्रिंसिपल द्वारा हर गतिविधि की निगरानी किए। शोधकर्ताओं ने एक सरल रैखिक अनुबंध (linear contract) प्रस्तावित किया: एजेंट को अंतिम परिणाम के मूल्य का एक प्रतिशत मिलता है। यदि परिणाम अच्छा है, तो एजेंट को पाई का एक बड़ा हिस्सा मिलता है। टीम ने गणितीय रूप से सिद्ध किया कि इस प्रणाली के तहत, एजेंट स्वाभाविक रूप से एक सस्ते, कमजोर मॉडल से एक महंगे, शक्तिशाली मॉडल पर केवल तभी स्विच करेगा जब इनाम का हिस्सा एक विशिष्ट सीमा (threshold) को पार कर जाएगा। इस रेखा के नीचे, एजेंट लागत बचाने के लिए सस्ते मॉडल पर टिका रहता है। इसके ऊपर, बेहतर परिणाम की संभावना महंगे मॉडल को उसकी कीमत के लायक बनाती है। यह स्विचिंग पॉइंट (बदलने का बिंदु) यादृच्छिक नहीं है; यह लागतों और उपलब्ध मॉडलों की क्षमताओं द्वारा निर्धारित एक सटीक गणितीय सीमा है। शोधकर्ताओं ने यह भी दिखाया कि प्रिंसिपल अपने स्वयं के लाभ को अधिकतम करने के लिए, इनाम की लागत और उत्पादित कार्य की गुणवत्ता के बीच संतुलन बनाते हुए, सटीक प्रतिशत की गणना कर सकता है।

यह देखने के लिए कि क्या यह सिद्धांत वास्तविक दुनिया में खरा उतरता है, टीम ने वास्तविक एआई मॉडल्स का उपयोग करके दो कठिन चुनौतियों पर इसका परीक्षण किया: उन्नत गणित और जटिल सामान्य ज्ञान के प्रश्न। उन्होंने इस बात का डेटा एकत्र किया कि विभिन्न मॉडल्स ने अधिक और अधिक कम्प्यूटेशनल प्रयास का उपयोग करने पर कैसा प्रदर्शन किया, और उनके वास्तविक प्रदर्शन को सैद्धांतिक वक्रों (theoretical curves) के अनुरूप ढाला। इसके बाद उन्होंने एक सिमुलेशन सेट किया जहाँ एक एआई एजेंट और एक मानव प्रिंसिपल हजारों राउंड के दौरान परस्पर क्रिया करना सीखते हैं। एजेंट ने यह जानने के लिए एक लर्निंग एल्गोरिदम का उपयोग किया कि विभिन्न भुगतान प्रस्तावों के लिए कौन सा मॉडल और प्रयास स्तर सबसे अच्छा काम करता है, जबकि प्रिंसिपल ने यह सीखा कि कौन सा रिवॉर्ड शेयर उनके रिटर्न को अधिकतम करता है। परिणाम आश्चर्यजनक थे। दोनों—एजेंट और प्रिंसिपल—जो मॉडल्स की छिपी हुई क्षमताओं के बारे में बिना किसी पूर्व ज्ञान के शुरू हुए थे, अंततः ऐसे रणनीतियों पर पहुँचे जो शोधकर्ताओं के सैद्धांतिक भविष्यवाणियों से लगभग पूरी तरह मेल खाते थे। एजेंटों ने ठीक उसी बिंदु पर मॉडल बदलने के बारे में सीखा जैसा कि गणित ने सुझाव दिया था, और प्रिंसिपल्स ने ठीक वही रिवॉर्ड शेयर देना सीखा जो उनके रिटर्न को अधिकतम करता था।

अध्ययन ने यह भी पता लगाया कि क्या होता है जब मॉडल्स को एक "वार्म-अप" अवधि की आवश्यकता होती है, एक ऐसा चरण जहाँ उन्हें कोई उपयोगी उत्तर देने से पहले एक निश्चित मात्रा में प्रयास खर्च करना पड़ता है। यह जटिल तर्क वाले कार्यों में आम है जहाँ एआई को समाधान लिखने से पहले कुछ समय सोचने की आवश्यकता होती है। शोधकर्ताओं ने पाया कि यह प्रारंभिक लागत गणित को थोड़ा बदल देती है, जिससे अधिक शक्तिशाली मॉडल पर स्विच करने का बिंदु और भी ऊपर चला जाता है। इस अतिरिक्त जटिलता के बावजूद, सिमुलेशन में लर्निंग एल्गोरिदम ने इष्टतम पथ (optimal path) खोज लिया, जिससे पुष्टि हुई कि सरल, पारदर्शी अनुबंध स्वायत्त प्रणालियों को कुशल व्यवहार की ओर निर्देशित कर सकते हैं। यह कार्य सुझाव देता है कि जैसे-जैसे हम एक ऐसे भविष्य की ओर बढ़ रहे हैं जहाँ एआई एजेंट अन्य एआई एजेंटों का प्रबंधन करेंगे, हमें उन्हें ईमानदार रखने के लिए जटिल, अपारदर्शी प्रणालियों की आवश्यकता नहीं है। परिणाम की गुणवत्ता पर आधारित एक सीधा समझौता, मानव और मशीन के हितों को संरेखित करने के लिए पर्याप्त है, यह सुनिश्चित करते हुए कि सही उपकरणों का उपयोग किया जाए और प्रयास की सही मात्रा लगाई जाए।

यह शोध यह दावा नहीं करता है कि इसने आर्टिफिशियल इंटेलिजेंस के अर्थशास्त्र की हर समस्या को हल कर दिया है। लेखक नोट करते हैं कि उनका मॉडल यह मानता है कि प्रिंसिपल अंतिम परिणाम को आसानी से सत्यापित कर सकता है, जो वास्तविक दुनिया में हमेशा सच नहीं हो सकता है। वे यह भी बताते हैं कि भविष्य के कार्य उन स्थितियों की खोज कर सकते हैं जहाँ कार्य का मूल्य एजेंट से छिपा हुआ हो, जिससे अनिश्चितता की एक गहरी परत पैदा होती है। हालाँकि, निष्कर्ष स्वायत्त प्रतिनिधि (autonomous delegation) के युग में सौदे बनाने के लिए एक ठोस आधार प्रदान करते हैं। तकनीक के चुनाव और प्रयास के आवंटन को एक एकल, समन्वित निर्णय के रूप में मानकर, यह अध्ययन उन बाजारों के निर्माण के लिए एक स्पष्ट मार्ग प्रदान करता है जहाँ एआई एजेंट निरंतर मानवीय पर्यवेक्षण के बिना कुशलतापूर्वक कार्य कर सकें। संदेश एक सतर्क आशावाद का है: सही प्रोत्साहन के साथ, आर्टिफिशियल इंटेलिजेंस की जटिल मशीनरी को हमारे लिए काम करने के लिए निर्देशित किया जा सकता है, न कि केवल अपने स्वयं के लिए।