Device-Cloud Collaborative LLM Inference with Multi-Modal, Multi-Task, Multi-Turn Conversations
यह शोध पत्र TMO को प्रस्तुत करता है, जो एक डिवाइस-क्लाउड सहयोगात्मक LLM इन्फरेंस सिस्टम है जो मल्टी-मोडल, मल्टी-टास्क और मल्टी-टर्न बातचीत के बीच ऑफलोडिंग निर्णयों को गतिशील रूप से अनुकूलित करने के लिए एक संसाधन-सीमित सुदृढीकरण शिक्षण (रिनफोर्समेंट लर्निंग) रणनीति का उपयोग करता है, जिससे ऑन-डिवाइस परिनियोजन की संसाधन सीमाओं और क्लाउड-ओनली समाधानों के संचार ओवरहेड को दूर करते हुए प्रतिक्रिया गुणवत्ता, विलंबता और लागत के बीच संतुलन बनाया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास दूर के क्लाउड में रहने वाला एक सुपर-स्मार्ट, विशाल दिमाग है, और आपकी जेब में बैठा एक छोटा, फुर्तीला दिमाग है। विशाल दिमाग सब कुछ देख सकता है, सब कुछ सुन सकता है और असंभव पहेलियों को हल कर सकता है, लेकिन उसे आपसे बात करने में लंबा समय लगता है और उसे उपयोग करने के लिए बहुत सारे "डिजिटल सिक्कों" की लागत आती है। पॉकेट ब्रेन (जेब वाला दिमाग) सुपर फास्ट और मुफ्त उपयोग के लिए है, लेकिन वह थोड़ा भुलक्कड़ है और केवल शब्दों को समझ सकता है, चित्रों या जटिल दृश्यों को नहीं।
यह ठीक वही समस्या है जिसे TMO (थ्री-एम ऑफलोडिंग) के पीछे के शोधकर्ता हल करने की कोशिश कर रहे हैं। उन्होंने एक स्मार्ट "ट्रैफिक कंट्रोलर" बनाया है जो यह तय करता है कि आपके द्वारा पूछे गए हर सवाल के लिए, क्या उसे आपके पॉकेट ब्रेन को संभालने देना चाहिए या उसे विशाल क्लाउड ब्रेन के पास भेजना चाहिए। लेकिन इसमें ट्विस्ट यह है कि आप केवल एक सवाल नहीं पूछ रहे हैं। आप एक लंबी, मल्टी-टर्न बातचीत कर रहे हैं (जैसे "रात के खाने में क्या है?" के बाद पूछना "प्लेटें कहाँ हैं?" और फिर "क्या आप लाइट चालू कर सकते हैं?")। साथ ही, दिमाग को समझने में मदद करने के लिए आप फोटो या वीडियो भी ले सकते हैं।
शोधकर्ताओं ने पाया कि केवल अनुमान लगाना या हमेशा बड़े दिमाग का उपयोग करना एक बुरा विचार है। इसके बजाय, उन्होंने रीइन्फोर्समेंट लर्निंग (Reinforcement Learning) का उपयोग करके एक विशेष निर्णय लेने वाला (decision-maker) प्रशिक्षित किया (इसे एक वीडियो गेम की तरह सोचें जहाँ AI तेजी से, सस्ते और सटीक होने के लिए अंक पाने के प्रयास में चीजें सीखता है)। इस AI ने "रिसोर्स मैनेजमेंट" (संसाधन प्रबंधन) के उच्च-दांव वाले खेल को खेलना सीखा।
बड़ी खोज
मुख्य निष्कर्ष यह है कि यह स्मार्ट कंट्रोलर तीन कठिन चीजों को एक साथ संभाल सकता है: मल्टी-मोडल (टेक्स्ट, फोटो, वीडियो), मल्टी-टास्क (संदेशों को संपादित करना, खोई हुई वस्तुओं को खोजना, सिफारिशें देना), और मल्टी-टर्न (बातचीत को जारी रखना)।
उनके परीक्षणों में, जिसमें 21,000 से अधिक बातचीत के दौर और M4A1 नामक एक कस्टम डेटासेट शामिल था, TMO सिस्टम ने दिखाया कि यह अन्य तरीकों को हरा सकता है। इसने प्रतिक्रिया की गुणवत्ता को उच्च बनाए रखा (उनके स्केल पर लगभग 1.06 स्कोर करते हुए) जबकि प्रतीक्षा समय को घटाकर लगभग 13.07 सेकंड और लागत को कम करके 0.01371 USD (यानी 13.71 सहस्रांश डॉलर) रखा। सबसे महत्वपूर्ण बात यह है कि इसने नियमों को तोड़े बिना यह सब किया: इसने कभी भी 30 सेकंड की समय सीमा या 0.05 USD की खर्च सीमा का उल्लंघन नहीं किया।
उन्होंने किसे "ना" कहा
पेपर बहुत स्पष्ट है कि क्या काम नहीं करता है। उन्होंने एक "रूटर" (एक अन्य AI जो बिना सीखे केवल अनुमान लगाता है) का परीक्षण किया और पाया कि वह विफल रहा। कुछ रूटर बहुत आलसी थे और उन्होंने सभी फोटो को अनदेखा कर दिया, जबकि कुछ बहुत लालची थे और हर सवाल के लिए हर फोटो भेज देते थे, जिससे पैसा और समय बर्बाद होता था। शोधकर्ताओं ने "एक्सपर्ट" डेटा (जहाँ एक इंसान AI को सही उत्तर दिखाता है) के खिलाफ भी तर्क दिया। उन्होंने पाया कि इंसान भी यह जानने में संघर्ष करते हैं कि लंबी बातचीत में फोटो कब भेजनी है या कब दिमाग बदलना है, इसलिए उन्होंने अपना सिस्टम रैंडमाइज्ड एक्शन्स (यादृच्छिक क्रियाओं) का उपयोग करके बनाया। इसने AI को खेल के नियम खुद सीखने के लिए मजबूर किया, बजाय इसके कि वह केवल एक इंसान की नकल करे जो शायद अनुमान लगा रहा हो।
वे कितने आश्वस्त हैं?
लेखक अपने परिणामों को लेकर आश्वस्त हैं, लेकिन वे सावधानी बरतते हुए कहते हैं कि ये उनके विशिष्ट डेटासेट पर आधारित सिमुलेशन और प्रयोग हैं, न कि अभी वास्तविक दुनिया की हर स्थिति के लिए एक जादुई समाधान। उन्होंने हजारों परीक्षणों को चलाकर यह साबित किया कि उनका सिस्टम AIwRG और PerLLM जैसे टेस्ट किए गए "स्टेट-ऑफ-द-आर्ट" (SOTA) तरीकों से बेहतर काम करता है।
उदाहरण के लिए, जब उन्होंने परीक्षण किया कि क्या होता है यदि क्लाउड बहुत धीमा हो जाता है (जिससे प्रतीक्षा समय 10 गुना लंबा हो जाता है), तो उनके सिस्टम ने समय सीमा को तोड़ने से बचने के लिए स्मार्ट तरीके से वापस पॉकेट ब्रेन पर स्विच कर लिया। जब उन्होंने एक छोटे Raspberry Pi से लेकर एक शक्तिशाली iPhone 15 Pro तक विभिन्न प्रकार के उपकरणों का परीक्षण किया, तो सिस्टम ने पूरी तरह से अनुकूलन किया, जिससे पता चला कि जब तक उसे नियम पता हों, उसे फर्क नहीं पड़ता कि आपके पास किस प्रकार का हार्डवेयर है।
"अनिश्चितता" वाली ट्रिक
सबसे दिलचस्प हिस्सा यह है कि उन्होंने इस तथ्य को कैसे संभाला कि AI के जवाब थोड़े अप्रत्याशित हो सकते हैं। कभी-कभी एक ही सवाल का स्कोर थोड़ा अलग हो जाता है। इसे ठीक करने के लिए, उन्होंने "नियरेस्ट नेबर" (निकटतम पड़ोसी) रणनीति का उपयोग किया। कल्पना कीजिए कि आप एक नए सवाल का स्कोर अनुमान लगाने की कोशिश कर रहे हैं; अंधाधुंध अनुमान लगाने के बजाय, सिस्टम पहले देखे गए अपने 5 सबसे करीबी सवालों (अपने पड़ोसियों) को देखता है और उनके स्कोर का औसत निकालता है। इसने सिस्टम को स्थिर रहने में मदद की, भले ही डेटा थोड़ा अव्यवस्थित हो।
निचोड़
पेपर सुझाव देता है कि इस तरह के स्मार्ट, रिसोर्स-अवेयर लर्निंग मेथड का उपयोग करके, हम दोनों दुनियाओं का सर्वश्रेष्ठ प्राप्त कर सकते है: डिवाइस की गति और कम लागत, साथ ही क्लाउड की सुपर-स्मार्ट, मल्टी-विज़न शक्ति। यह अभी तक पूरी दुनिया के लिए हल की गई समस्या नहीं है, लेकिन उनके सिमुलेशन में, TMO ने दिखाया कि वह बजट या धैर्य को नुकसान पहुँचाए बिना, फोटो, वीडियो और लंबी बातचीत को संभालते हुए AI से बात करने की वास्तविक दुनिया की जटिलता को संभाल सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।