🤖 AI

CLOUDADV: Decision-Aligned Instance Sizing with Zero-Shot Foundation Models under Drift

यह शोध पत्र CLOUDADV को प्रस्तुत करता है, जो एक इंटरैक्टिव सलाहकार प्रणाली है जो लागत प्रभावी, ड्रिफ्ट-प्रतिरोधी (drift-resilient) क्लाउड इंस्टेंस साइजिंग अनुशंसाएँ उत्पन्न करने के लिए ज़ीरो-शॉट फाउंडेशन मॉडल्स का लाभ उठाती है, जो प्रति-टेनेंट मॉडल रिट्रेनिंग की आवश्यकता के बिना उत्पादन वातावरणों में महत्वपूर्ण लागत बचत और कम अतिव्याप्ति (exceedance) दरों का प्रदर्शन करती है।

मूल लेखक: Jack Bell, Giacomo Carfi, Gerlando Gramaglia, Andrea Simioni, Daniele Fontani, Vincenzo Lomonaco

प्रकाशित 2026-07-01

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jack Bell, Giacomo Carfi, Gerlando Gramaglia, Andrea Simioni, Daniele Fontani, Vincenzo Lomonaco

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास डिलीवरी ट्रकों का एक बेड़ा (fleet) है। वर्षों से, आप सबसे बड़े, सबसे महंगे ट्रकों को किराए पर ले रहे हैं क्योंकि आपको डर है कि व्यस्त दिनों में जगह कम न पड़ जाए। लेकिन समस्या यह है: 90% समय, ये विशाल ट्रक आधे खाली घूम रहे होते हैं। आप उन गैस और किराए के खर्चों पर भारी रकम खर्च कर रहे हैं जिनकी आपको ज़रूरत नहीं है, जबकि ट्रक खाली बैठे रहते हैं।

क्लाउड में भी बिल्कुल यही होता है। कंपनियाँ अपने सॉफ़्टवेयर चलाने के लिए शक्तिशाली वर्चुअल कंप्यूटर (VMs) किराए पर लेती हैं, लेकिन वे अक्सर "ओवर-प्रोविजनिंग" करती हैं, जिसका अर्थ है कि वे अपनी वास्तविक आवश्यकता से कहीं अधिक शक्ति किराए पर ले लेती हैं। इससे पैसा और ऊर्जा दोनों बर्बाद होते हैं।

पेश है CLOUDADV, एक नया "स्मार्ट एडवाइजर" सिस्टम जिसे इंजीनियरों को यह समझने में मदद करने के लिए डिज़ाइन किया गया है कि बिना एक भी पैसा बर्बाद किए अपने क्लाउड कंप्यूटरों का सही आकार कैसे तय किया जाए। यह कैसे काम करता है, यहाँ सरल अवधारणाओं में दिया गया है:

1. समस्या: "क्रिस्टल बॉल" की दुविधा

बर्बादी को ठीक करने के लिए, आपको भविष्य को जानने की आवश्यकता है। आपको यह जानना होगा: क्या अगले सप्ताह मेरे कंप्यूटर को अधिक शक्ति की आवश्यकता होगी? या क्या मैं इसका आकार छोटा कर सकता हूँ?
पारंपरिक रूप से, इन भविष्यवाणियों को करने के लिए, आपको हर एक कंप्यूटर के लिए एक कस्टम "क्रिस्टल बॉल" (एक मशीन लर्निंग मॉडल) बनाना पड़ता था। यदि कंप्यूटर का व्यवहार बदल जाता (जैसे ट्रैफ़िक में अचानक उछाल), तो वह क्रिस्टल बॉल टूट जाती, और आपको इसे फिर से शुरू से बनाना पड़ता। यह धीमा, महंगा और बहुत मेहनत वाला काम था।

2. समाधान: "यूनिवर्सल ट्रांसलेटर"

शोधकर्ताओं ने एक नए प्रकार के AI का उपयोग किया जिसे ज़ीरो-शॉट फाउंडेशन मॉडल (विशेष रूप से, Chronos-2 नामक एक मॉडल) कहा जाता है।

उपमा: एक पारंपरिक मॉडल को एक विशेषज्ञ की तरह समझें जो केवल एक भाषा समझता है (जैसे, "मैं केवल इस विशिष्ट ट्रक के ट्रैफ़िक डेटा को समझता हूँ")। यदि आप उन्हें एक अलग ट्रक देते हैं, तो वे खो जाते हैं।
नया AI: ज़ीरो-शॉट मॉडल एक यूनिवर्सल ट्रांसलेटर की तरह है। इसने पहले ही लाखों अलग-अलग कहानियाँ (डेटा पैटर्न) पढ़ी हैं। जब आप उन्हें एक नए ट्रक का डेटा दिखाते हैं, तो उन्हें पहले से "पढ़ने" या "सीखने" की आवश्यकता नहीं होती। वह तुरंत पैटर्न को समझ लेता है और भविष्य की भविष्यवाणी कर सकता है, चाहे ट्रक का व्यवहार कैसे भी बदले। चीज़ें बदलने पर इसे बार-बार फिर से प्रशिक्षित (retrain) करने की आवश्यकता नहीं होती।

3. CLOUDADV कैसे काम करता है: "डिसीजन सैंडविच"

यह सिस्टम केवल एक नंबर नहीं देता; यह एक सावधान सलाहकार की तरह कार्य करता है।

साक्ष्य जुटाना: यह कंप्यूटर के पिछले उपयोग को देखता है (जैसे ट्रक के लॉगबुक की जाँच करना), यूनिवर्सल ट्रांसलेटर का उपयोग करके भविष्य की जरूरतों की भविष्यवाणी करता है, और विभिन्न कंप्यूटर आकारों के लिए मूल्य सूची की जाँच करता है।
"बाउंडेड" संदर्भ: यह इस सभी जानकारी को एक संरचित "डिसीजन बॉक्स" में डाल देता है। यह AI को बताता है: "यहाँ इतिहास है, यहाँ पूर्वानुमान है, यहाँ उपलब्ध विकल्प हैं, और यहाँ सुरक्षा नियम हैं (जैसे, 'कुछ पैसे बचाने के लिए क्षमता को 85% से नीचे न ले जाएँ')।"
सिफारिश: एक लार्ज लैंग्वेज मॉडल (LLM) इस बॉक्स को पढ़ता है और एक सुझाव देता है: "छोटे आकार में डाउनग्रेड करें," "जैसा है वैसा ही रहने दें," या "अपग्रेड करें।"
सुरक्षा जाँच: इंजीनियर को दिखाने से पहले, सिस्टम अपने गणित की दोबारा जाँच करता है। क्या इसने ऐसे कंप्यूटर का सुझाव दिया जो वास्तव में मौजूद है? क्या इसने कीमत सही बताई? यदि नहीं, तो यह उसे ठीक करता है।

4. "बिग ब्रेन" बनाम "फास्ट ब्रेन" टेस्ट

शोधकर्ता यह जानना चाहते थे कि क्या एक छोटा, सस्ता AI एक विशाल, महंगे AI के समान काम कर सकता है।

बिग ब्रेन (ऑफलाइन): उन्होंने "गोल्ड स्टैंडर्ड" सिफारिशें उत्पन्न करने के लिए एक अत्यंत शक्तिशाली AI (Claude Opus) का उपयोग किया।
फास्ट ब्रेन (ऑनलाइन): उन्होंने एक छोटे, तेज़ AI (Qwen3.5) का परीक्षण किया यह देखने के लिए कि क्या यह बिग ब्रेन की सलाह से मेल खा सकता है।
परिणाम: फास्ट ब्रेन लगभग हर समय बिग ब्रेन के साथ सहमत रहा (85% से अधिक सहमति)। इसका मतलब है कि कंपनियाँ गुणवत्ता खोए बिना उत्पादन में सस्ते, तेज़ AI का उपयोग कर सकती हैं।

5. परिणाम: बिना क्रैश हुए पैसे बचाना

उन्होंने इसका परीक्षण सात वास्तविक-दुनिया के कंप्यूटरों पर किया।

बचत: सिस्टम ने ऐसी सिफारिशें दीं जिससे मासिक बिल $1,503 से घटकर$ 708 हो गया। यह आकार सही चुनकर 53% की बचत ($795 प्रति माह लगभग) है।
सुरक्षा: उन्होंने यह भी जाँच की कि क्या छोटे कंप्यूटर क्रैश हो रहे हैं। परिणाम क्या रहा? "ओवरशूट" (जब कंप्यूटर बहुत अधिक भर जाता है) बहुत ही दुर्लभ मामलों में हुआ। सबसे खराब स्थिति केवल 1.5% समय ही थी।
चेतावनी: यह सिस्टम एक सलाहकार है, न कि एक रोबोट ड्राइवर। यह सिफारिश देता है, लेकिन एक मानव इंजीनियर को इसे देखना होगा और कहना होगा, "हाँ, यह समझ में आता है," इससे पहले कि बदलाव किया जाए। यह महत्वपूर्ण है क्योंकि AI यह नहीं जान सकता कि अगले सप्ताह एक गुप्त बैठक होने वाली है जहाँ कंपनी एक नया उत्पाद लॉन्च करने की योजना बना रही है।

सारांश

CLOUDADV आपके क्लाउड कंप्यूटरों के लिए एक स्मार्ट वित्तीय सलाहकार की तरह है। यह चीज़ों के बदलने पर बार-बार प्रशिक्षित होने की आवश्यकता के बिना उपयोग की भविष्यवाणी करने के लिए एक "यूनिवर्सल ट्रांसलेटर" AI का उपयोग करता है। यह डेटा, पूर्वानुमान और सुरक्षा नियमों को एक स्पष्ट सिफारिश में समेटता है, अपने काम की जाँच करता है, और लागत को लगभग आधा करने के तरीके सुझाता है। सबसे अच्छी बात यह है कि यह इतना अच्छा काम करता है कि एक छोटा, सस्ता AI भी महंगे वाले के समान ही काम कर सकता है, जिससे यह वास्तविक दुनिया के उपयोग के लिए व्यावहारिक बन जाता है।

तकनीकी सारांश: CLOUDADV

समस्या विवरण

क्लाउड वर्चुअल मशीनें (VMs) अक्सर ओवरप्रोविजन की जाती हैं, जिससे महत्वपूर्ण परिचालन लागत और संसाधन अक्षमता उत्पन्न होती है। वर्तमान प्रोविजनिंग पद्धतियां अक्सर अनुमानित पीक डिमांड के आधार पर रूढ़वादी, स्थिर साइजिंग (static sizing) पर निर्भर करती हैं, जिससे लंबे समय तक संसाधन कम उपयोग होते रहते हैं। हालांकि ऑटोमेटेड राइट-साइजिंग टूल्स मौजूद हैं, वे आमतौर पर फिक्स्ड लुकबैक विंडो और पर्सेंटाइल-आधारित ह्यूरिस्टिक्स पर निर्भर करते हैं, जिनमें भविष्योन्मुखी पूर्वानुमान (forward-looking forecasts) या इंजीनियर फीडबैक के तंत्रों का अभाव होता है। इसके अलावा, पारंपरिक सुपरवाइज्ड फोरकास्टिंग मॉडल में वर्कलोड व्यवहार में बदलाव आने पर प्रति-VM रिट्रेनिंग, रीवैलिडेशन और रिडिप्लॉयमेंट चक्रों की आवश्यकता होती है, जो परिचालन ओवरहेड और लेटेंसी पैदा करता है। मुख्य चुनौती डिसाजन-अलाइन्ड (decision-aligned) इंस्टेंस साइजिंग प्राप्त करने की है—जहाँ पूर्वानुमान एक सुरक्षित और लागत प्रभावी प्रोविजनिंग कार्रवाई का समर्थन करता है—वर्कलोड ड्रिफ्ट के तहत, बिना हर टेनेंट या होराइजन के लिए अलग, रिट्रेन करने योग्य मॉडल बनाए रखने के बोझ के।

कार्यप्रणाली (Methodology)

लेखक CLOUDADV प्रस्तुत करते हैं, जो एक इंटरैक्टिव, इंजीनियर-फेसिंग एडवाइजरी सिस्टम है जिसे डे-स्केल, वीक-स्केल और मंथ-स्केल प्लानिंग होराइजन्स में VM साइजिंग अनुशंसाएं (recommendations) उत्पन्न करने के लिए डिज़ाइन किया गया है। यह सिस्टम एक संरचित पाइपलाइन के माध्यम से कार्य करता है:

टेलीमेट्री और प्रीप्रोसेसिंग: सिस्टम 1-मिनट अंतराल के CPU यूटिलाइजेशन और उपलब्ध मेमोरी डेटा को इनजेस्ट करता है। मेमोरी उपयोग वर्तमान SKU की कुल क्षमता से उपलब्ध मेमोरी को घटाकर निकाला जाता है। डेटा को होराइजन-विशिष्ट ग्रैनुलैरिटी (30-मिनट, 6-घंटे, 12-घंटे) पर रीसैंपल किया जाता है और मिसिंग वैल्यूज के लिए इम्प्यूटेशन किया जाता है।
जीरो-शॉट फोरकास्टिंग: प्रति-VM मॉडल ट्रेन करने के बजाय, CLOUDADV जीरो-शॉट टाइम-सीरीज फाउंडेशन मॉडल्स (विशेष रूप से Chronos-2 और TimesFM 2.5) का उपयोग करके प्रोबेबिलिस्टिक फोरकास्ट जेनरेट करता है। इन मॉडल्स को टास्क-स्पेसिफिक ट्रेनिंग की आवश्यकता नहीं होती है, जिससे वे रिट्रेनिंग ट्रिगर्स के बिना वर्कलोड ड्रिफ्ट के अनुकूल हो सकते हैं।
बाउंडेड डिसाजन कॉन्टेक्स्ट कंस्ट्रक्शन: फोरकास्ट को सीधे क्लोज्ड-फॉर्म नियमों के माध्यम से एक्शन से मैप नहीं किया जाता है। इसके बजाय, सिस्टम एक स्ट्रक्चर्ड डिसाजन कॉन्टेक्स्ट ( $c_{i,t,H}$ $c_{i, t, H}$ ) बनाता है जिसमें शामिल हैं:
- वर्तमान SKU मेटाडेटा और प्राइसिंग।
- ऐतिहासिक और पूर्वानुमानित यूटिलाइजेशन समरी (50th, 95th, और प्रभावी 95th पर्सेंटाइल)।
- वर्तमान एलोकेशन के पड़ोस (neighborhood) के भीतर प्रतिबंधित कैंडिडेट SKUs की एक फिल्टर्ड लिस्ट ( $\delta=2.0$ के फैक्टर के भीतर)।
- एक्सप्लिसिट साइजिंग ह्यूरिस्टिक्स ( $\Gamma_H$ ) जो कंजर्वेटिव हेडरूम रिक्वायरमेंट्स ( $\tau_{cpu}=0.85, \tau_{mem}=0.80$ ) को लागू करते हैं।
रिकमेंडेशन जनरेशन: एक लार्ज लैंग्वेज मॉडल (LLM) रिकमेंडेशन लेयर बाउंडेड कॉन्टेक्स्ट को प्रोसेस करती है ताकि एक स्ट्रक्चर्ड रिकमेंडेशन (एक्शन: maintain/downgrade/upgrade, टारगेट SKU, रैशनले) जेनरेट की जा सके।
- रेफरेंस मॉडल: एक उच्च-क्षमता वाले मॉडल (Claude Opus 4.6) का उपयोग ऑफलाइन संदर्भ अनुशंसाएं जेनरेट करने के लिए किया जाता है।
- प्रोडक्शन मॉडल: एक छोटे मॉडल (Qwen3.5-35B) का ऑनलाइन मूल्यांकन लेटेंसी और कॉस्ट कंस्ट्रेंट्स के तहत अलाइनमेंट का आकलन करने के लिए किया जाता है।
- वेरिफिकेशन: इंजीनियर को प्रस्तुत करने से पहले यह सुनिश्चित करने के लिए कि आइडेंटिफायर और न्यूमेरिक वैल्यूज रिट्रीव किए गए कॉन्टेक्स्ट से मेल खाते हैं, आउटपुट को साक्ष्य (evidence) के विरुद्ध सत्यापित किया जाता है।

मुख्य योगदान

डिसाजन-अलाइन्ड फॉर्मूलेशन: पेपर क्लाउड इंस्टेंस साइजिंग को एक डिसाजन-अलाइन्ड फोरकास्टिंग समस्या के रूप में पुनर्गठित करता है, जो रॉ फोरकास्ट एरर मिनिमाइजेशन के बजाय डाउनस्ट्रीम प्रोविजनिंग निर्णय के संरक्षण को प्राथमिकता देता है।
CLOUDADV सिस्टम डिज़ाइन: लेखक एक इंटरैक्टिव सिस्टम डिज़ाइन करते हैं जो जीरो-शॉट फोरकास्टिंग, स्ट्रक्चर्ड एविडेंस रिट्रीवल और पॉलिसी-कंस्ट्रेंड LLM रिकमेंडेशन जनरेशन को एकीकृत करता है।
डिप्लॉयमेंट-अवेयर इवैल्यूएशन पाइपलाइन: एक समान बाउंडेड प्रॉम्प्ट्स का उपयोग करके एक मजबूत ऑफलाइन रेफरेंस मॉडल और एक छोटे, डिप्लॉयबल प्रोडक्शन मॉडल के बीच अलाइनमेंट का आकलन करने के लिए एक नया फ्रेमवर्क पेश किया गया है।
एम्पिरिकल इवैल्यूएशन: सिस्टम का मूल्यांकन सात प्रोडक्शन VMs पर सिम्युलेटेड कॉस्ट सेविंग्स, एक्स-पोस्ट एक्सीडेंस रेट्स और मल्टीपल होराइजन्स में फोरकास्ट एक्यूरेसी मेट्रिक्स के माध्यम से किया गया है।

परिणाम

कॉस्ट ऑप्टिमाइजेशन: सात प्रोडक्शन VMs के केस स्टडी में, रेफरेंस रिकमेंडेशंस ने सिम्युलेटेड मासिक लागत को लगभग $1,503 से घटाकर$ 708 कर दिया, जिससे $795/महीना की बचत (52.9%) हुई। सात में से छह VMs को डाउनग्रेड की अनुशंसा मिली, जबकि एक को बरकरार रखा गया।
सेफ्टी और एक्सीडेंस: सिस्टम ने एक कम एक्सीडेंस रेट बनाए रखा। डाउनग्रेड किए गए मामलों में देखा गया उच्चतम एक्सीडेंस VM R7 के लिए 1.5% था। गैर-शून्य एक्सीडेंस वाले पांच में से तीन डाउनग्रेड मामलों में दर 0.2% से नीचे थी। हालांकि, जब एक्सीडेंस हुआ, तो यह गंभीर हो सकता था (जैसे, R6 के लिए 95th पर्सेंटाइल पर 85.6 प्रतिशत अंक तक CPU ओवरफ्लो)।
फोरकास्ट एक्यूरेसी: Chronos-2 और TimesFM 2.5 ने सभी होराइजन्स (Day, Week, Month) में क्लासिकल (ARIMA, Prophet) और सुपरवाइज्ड (TSMixer) बेसलाइन्स की तुलना में प्रतिस्पर्धी प्रदर्शन किया, बावजूद इसके कि उनके पास कोई प्रति-VM ट्रेनिंग नहीं थी।
मॉडल अलाइनमेंट: रेफरेंस (Opus 4.6) और प्रोडक्शन (Qwen3.5-35B) मॉडल्स के बीच सहमति उच्च थी। सटीक SKU एग्रीमेंट 78.6% से 100.0% के बीच था, और एक्शन-लेवल एग्रीमेंट 85.7% से 100.0% के बीच था। अलाइनमेंट डे और वीक होराइजन्स पर सबसे मजबूत था, और मंथ होराइजन के पास, विशेष रूप से डिसाजन बाउंड्रीज़ के पास, इसमें मामूली गिरावट देखी गई।
इंजीनियर ऑडिट: 17 रिकमेंडेशंस (लगभग 10% सेट) के स्ट्रैटिफाइड ऑडिट में 100% पास रेट मिला, जिसमें 15 मामले इंजीनियर-डेरिव्ड बेसलाइन से बिल्कुल मेल खाते थे और 2 मामले मामूली SKU वेरिएशंस के बावजूद स्वीकार्य माने गए।

महत्व और दावे

पेपर दावा करता है कि जीरो-शॉट फाउंडेशन मॉडल्स नॉन-स्टेशनरी क्लाउड एनवायरनमेंट्स में डिसाजन-अलाइन्ड प्रोविजनिंग को प्रभावी ढंग से सपोर्ट कर सकते हैं। प्राथमिक महत्व यह प्रदर्शित करने में है कि:

जीरो-शॉट मॉडल्स, बार-बार रिट्रेनिंग, रीवैलिडेशन और रिडिप्लॉयमेंट के परिचालन बोझ के बिना, सुपरवाइज्ड प्रति-VM बेसलाइन्स के समान रिकमेंडेशन पैटर्न प्रेरित कर सकते हैं।
एक छोटा, कम लागत वाला प्रोडक्शन मॉडल, एक स्ट्रॉन्ग रेफरेंस मॉडल के साथ निकटता से अलाइन कर सकता है जब वह एक बाउंडेड, एविडेंस-कंस्ट्रेंड डिसाजन कॉन्टेक्स्ट के भीतर काम करता है।
CLOUDADV उन टीमों के लिए एक व्यावहारिक विकल्प प्रदान करता है जो प्रति-टेनेंट सुपरवाइज्ड फोरकास्टिंग पाइपलाइन्स बनाए रखने में असमर्थ हैं, जो रिट्रोस्पेक्टिव यूटिलाइजेशन समरी के पूरक के रूप में फॉरवर्ड-लुकिंग, फोरकास्ट-ग्राउंडेड रिकमेंडेशंस प्रदान करता है।

लेखक अपनी जनरलइजेबिलिटी (generalizability) के संबंध में विनम्र रहते हैं, यह नोट करते हुए कि अध्ययन सात VMs तक सीमित है और सिस्टम एक एडवाइजरी मैकेनिज्म के रूप में बनाया गया है जिसके लिए इंजीनियर रिव्यू की आवश्यकता होती है, विशेष रूप से मेमोरी-सेंसिटिव वर्कलोड या महत्वपूर्ण बदलावों के दौर से गुजर रहे सिस्टम के लिए। वे स्वीकार करते हैं कि सिस्टम ऐतिहासिक कॉन्टेक्स्ट विंडो (जैसे, माइग्रेशन, लॉन्ग बिजनेस साइकिल्स) के बाहर नॉन-स्टेशनैरिटी के प्रति संवेदनशील है।