MO-CAPO: Multi-Objective Cost-Aware Prompt Optimization
MO-CAPO एक नवीन बहु-उद्देश्यीय प्रॉम्प्ट अनुकूलन एल्गोरिदम है जो कुशल बजट आवंटन के माध्यम से लार्ज लैंग्वेज मॉडल के प्रदर्शन और अनुमान लागत (इन्फरेंस कॉस्ट) को संयुक्त रूप से अनुकूलित करता है, जो लागत-दक्षता बनाए रखते हुए विविध और सुदृढ़ प्रदर्शन-लागत ट्रेड-ऑफ की खोज करके मौजूदा विधियों से बेहतर प्रदर्शन करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, लेकिन महंगी, रोबोटिक सहायक (एक लार्ज लैंग्वेज मॉडल या LLM) है। आप चाहते हैं कि वह एक विशिष्ट कार्य करे, जैसे कि कोई कहानी लिखना या गणित की समस्या हल करना। रोबोट से अपना सर्वश्रेष्ठ प्रदर्शन प्राप्त करने के लिए, आपको उसे निर्देशों का एक सेट देना होगा, जिसे "प्रॉम्ट" (prompt) कहा जाता है।
समस्या यह है कि हाथ से एक आदर्श प्रॉम्ट लिखना वैसा ही है जैसे लॉटरी के जीतने वाले नंबरों का अनुमान लगाने की कोशिश करना: यह कठिन, समय लेने वाला और अक्सर अविश्वसनीय होता है। साथ ही, रोबोट आपके द्वारा पढ़ाए गए (इनपुट) और लिखे गए (आउटपुट) प्रत्येक शब्द के लिए आपसे पैसे लेता है। यदि आपका प्रॉम्ट बहुत लंबा है या रोबोट को बहुत अधिक सोचने पर मजबूर करता है, तो आपका बिल बढ़ जाता है।
पुराना तरीका: "जितना अधिक, उतना बेहतर"
पहले, शोधकर्ताओं ने बेहतर प्रॉम्ट लिखने के लिए स्वचालित उपकरण बनाने की कोशिश की। हालाँकि, इन उपकरणों में एक बड़ी कमी थी: वे केवल इस बात पर ध्यान देते थे कि रोबोट का प्रदर्शन कितना अच्छा रहा। उन्हें इस बात की परवाह नहीं थी कि इसकी लागत कितनी है।
यह एक ऐसे डिलीवरी ड्राइवर को काम पर रखने जैसा था जिसे केवल पैकेज को जल्दी पहुँचाने की चिंता है, लेकिन उसे इस बात की परवाह नहीं है कि वह कितना अतिरिक्त ईंधन जला रहा है। आपको एक बेहतरीन प्रॉम्ट मिल सकता है, लेकिन यह चलाने के लिए इतना महंगा हो सकता है कि वास्तविक दुनिया में उपयोग के लिए बेकार हो जाए।
अन्य शोधकर्ताओं ने प्रदर्शन और लागत के बीच संतुलन बनाने के लिए एक "किचन सिंक" दृष्टिकोण (एक एल्गोरिदम जिसे NSGA-II कहा जाता है) का उपयोग किया। उन्होंने सब कुछ आजमाकर देखा ताकि पता चल सके कि क्या काम करता है। लेकिन यह धीमा और बर्बादी भरा था, जैसे कि हर संभव व्यंजन बनाकर दुनिया के सबसे अच्छे व्यंजन को खोजने की कोशिश करना, यहाँ तक कि उन व्यंजनों को भी जो स्पष्ट रूप से खराब हैं।
नया समाधान: MO-CAPO
लेखकों ने MO-CAPO (मल्टी-ऑब्जेक्टिव कॉस्ट-अवेयर प्रॉम्ट ऑप्टिमाइज़ेशन) पेश किया। MO-CAPO को एक समझदार, बजट-सचेत शेफ के रूप में समझें जो एक आदर्श मेनू खोजने की कोशिश कर रहा है।
यह कैसे काम करता है, इसके लिए सरल उपमाओं का उपयोग करते हैं:
1. दो लक्ष्य (प्रदर्शन बनाम लागत)
केवल "सर्वश्रेष्ठ" व्यंजन खोजने के बजाय, MO-CAPO सर्वोत्तम समझौतों (trade-offs) की तलाश करता है।
- लक्ष्य A: व्यंजन का स्वाद अद्भुत बनाएं (उच्च प्रदर्शन)।
- लक्ष्य B: किराने का बिल कम रखें (कम लागत)।
MO-CAPO आपको केवल एक उत्तर नहीं देता। यह आपको विकल्पों का एक मेनू देता है: - विकल्प 1: एक सस्ता, सरल व्यंजन जो सबसे अच्छे वाले जितना 80% स्वादिष्ट है।
- विकल्प 2: एक थोड़ा अधिक महंगा व्यंजन जो सबसे अच्छे वाले जितना 90% स्वादिष्ट है।
- विकल्प 3: सबसे महंगा, शानदार व्यंजन जो 100% स्वादिष्ट है।
यह उपयोगकर्ता को वह विकल्प चुनने की अनुमति देता है जो उनके विशिष्ट बजट और आवश्यकताओं के अनुकूल हो।
2. "रेसिंग" तंत्र (पैसे बचाना)
सबसे बड़ा नवाचार यह है कि MO-CAPO इन प्रॉम्टों की खोज करते समय कैसे पैसे बचाता है।
कल्पना कीजिए कि आप 100 नए व्यंजनों का परीक्षण कर रहे हैं। एक पारंपरिक तरीका हर एक व्यंजन को शुरू से अंत तक पकाकर देखेगा कि कौन सा सबसे अच्छा है। इससे बहुत सारा ईंधन और सामग्री बर्बाद होती है।
MO-CAPO एक "रेसिंग" रणनीति का उपयोग करता है:
- यह सभी 100 व्यंजनों को पकाना शुरू करता है, लेकिन केवल कुछ मिनटों के लिए।
- यदि कोई व्यंजन 5 मिनट के बाद स्पष्ट रूप से खराब लग रहा है, तो यह उसे तुरंत बनाना बंद कर देता है और उसे फेंक देता है।
- यह केवल उन्हीं व्यंजनों पर पूरा समय और पैसा खर्च करता है जिनमें उम्मीद दिख रही है।
इसका मतलब है कि MO-CAPO पुराने तरीकों की तुलना में बहुत तेज़ी से और बहुत कम पैसे में अच्छे समाधान खोज लेता है।
3. हर टोकन की गिनती (वास्तविक लागत)
पुराने तरीके अक्सर केवल निर्देशों की लंबाई गिनते थे (जैसे किसी पत्र में शब्दों की संख्या गिनना)। MO-CAPO अधिक स्मार्ट है। वह जानता है कि AI की दुनिया में, रोबोट जो लिखता है उसकी लागत उसे जो आप बताते हैं उससे अधिक होती है।
- पढ़ना (इनपुट): एक पॉडकास्ट सुनने जैसा है। यह अपेक्षाकृत सस्ता है।
- लिखना (आउटपुट): यह रोबोट द्वारा एक लंबा निबंध टाइप करने जैसा है। यह महंगा है।
MO-CAPO दोनों के आधार पर लागत की गणना करता है, यह सुनिश्चित करता है कि अंतिम प्रॉम्ट वास्तव में लागत-प्रभावी हो।
परिणाम: उन्होंने क्या पाया
शोधकर्ताओं ने तीन अलग-अलग "रोबोटों" (AI मॉडल) और चार अलग-अलग कार्यों (जैसे गणित, समाचार वर्गीकरण और कोडिंग) पर MO-CAPO का परीक्षण किया।
- बेहतर दक्षता: MO-CAPO ने पुराने "किचन सिंक" तरीके की तुलना में बहुत कम पैसे का उपयोग करके उच्च-गुणवत्ता वाले समाधान खोजे। कुछ मामलों में, इसने केवल एक अंश के बजट में समान गुणवत्ता प्राप्त की।
- अधिक विकल्प: एकल-लक्ष्य वाले उपकरणों के विपरीत, जो आपको केवल एक "सर्वश्रेष्ठ" प्रॉम्ट देते हैं, MO-CAPO ने उन्हें विकल्पों का एक पूरा स्पेक्ट्रम दिया। आप देख सकते थे कि थोड़ी सी अधिक सटीकता पाने के लिए आपको कितने अतिरिक्त पैसे खर्च करने होंगे।
- उतनी ही अच्छी गुणवत्ता: भले ही MO-CAPO पैसे बचाने पर केंद्रित था, लेकिन इसके द्वारा खोजे गए "सर्वश्रेष्ठ" प्रॉम्ट उतने ही अच्छे थे जितने कि महंगे, एकल-लक्ष्य वाले उपकरणों द्वारा खोजे गए थे। इसने लागत बचाने के लिए गुणवत्ता से समझौता नहीं किया; इसने बस सही संतुलन खोज लिया।
निष्कर्ष
MO-CAPO एक ऐसा उपकरण है जो लोगों को AI का बेहतर उपयोग करने में मदद करता है। यह "सब कुछ आजमाकर देखने" वाले दृष्टिकोण को रोकता है और उसकी जगह एक रणनीतिक, बजट-सचेत खोज लाता है। यह उपयोगकर्ताओं को एक Pareto Front प्रदान करता है—जो "समझौतों के मेनू" के लिए एक फैंसी शब्द है—ताकी वे एक शानदार परिणाम प्राप्त करने और अपने बटुए को खुश रखने के बीच सही संतुलन चुन सकें।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।