🤖 machine learning

Prime Once, then Reprogram Locally: An Efficient Alternative to Black-Box Service Model Adaptation

यह शोध पत्र AReS का प्रस्ताव करता है, जो एक कुशल अनुकूलन ढांचा (adaptation framework) है जो एक एकल API इंटरैक्शन के माध्यम से एक स्थानीय एनकोडर को प्राइम करता है और फिर स्थानीय रूप से ग्लास-बॉक्स रीप्रोग्रामिंग करता है, जिससे आधुनिक क्लोज्ड-बॉक्स मॉडलों पर बेहतर प्रदर्शन प्राप्त होता है और पारंपरिक ज़ीरोथ-ऑर्डर ऑप्टिमाइज़ेशन विधियों की तुलना में लगभग सभी आगामी API लागतों को समाप्त किया जाता है।

मूल लेखक: Yunbei Zhang, Chengyi Cai, Feng Liu, Jihun Hamm

प्रकाशित 2026-04-03

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Yunbei Zhang, Chengyi Cai, Feng Liu, Jihun Hamm

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक सुपर-जीनियस शेफ (एक "सर्विस मॉडल," जैसे GPT-4o या कोई विशाल AI) है जो एक बंद रसोई में रहता है। आप उनकी रेसिपी नहीं देख सकते, आप उनकी सामग्री को छू नहीं सकते, और आप उनके खाना बनाने के तरीके को बदल नहीं सकते। बातचीत करने का एकमात्र तरीका यह है कि आप उन्हें किसी व्यंजन की फोटो भेजें और पूछें, "यह क्या है?" वे जवाब में एक उत्तर भेजते हैं।

अब, कल्पना कीजिए कि आप चाहते हैं कि यह शेफ दुर्लभ फूलों (एक विशिष्ट कार्य जिसके लिए उन्हें मूल रूप से प्रशिक्षित नहीं किया गया था) को पहचानने में विशेषज्ञ बन जाए।

पुराना तरीका: "शोर मचाने वाली चिल्लाहट" की रणनीति (ZOO)

पहले, शोधकर्ता इस बंद रसोई वाले शेफ को सिखाने के लिए रसोई के दरवाजे पर बेतरतीब शोर (random noises) चिल्लाकर कोशिश करते थे।

वे एक फूल की तस्वीर भेजते थे, फिर उसी तस्वीर को थोड़ा सा डिजिटल "स्टैटिक" या शोर (noise) जोड़कर भेजते थे, और फिर उसे अलग-अलग शोर के साथ फिर से भेजते थे।
वे शेफ के जवाबों को सुनकर यह अनुमान लगाने की कोशिश करते थे, "ओह, जब मैंने यह शोर जोड़ा, तो शेफ ने अपना विचार बदल लिया। इसलिए, यह शोर महत्वपूर्ण होना चाहिए!"
समस्या: यह अविश्वसनीय रूप से महंगा (आपको हर चिल्लाहट के लिए भुगतान करना पड़ता है) और धीमा तथा निराशाजनक है।
नई वास्तविकता: आधुनिक शेफ (जैसे GPT-4o) इतने स्मार्ट और मजबूत हो गए हैं कि वे बस शोर को अनदेखा कर देते हैं। वे फूल को देखते हैं, शोर के पार देख लेते हैं, और वही उत्तर देते हैं। "चिल्लाने" की रणनीति काम करना बंद कर देती है, लेकिन तब तक आप एक बड़ी राशि खर्च कर चुके होते हैं।

नया तरीका: AReS (एक बार प्राइम करें, फिर स्थानीय रूप से रीप्रोग्राम करें)

लेखकों ने एक चतुर, दो-चरणीय शॉर्टकट प्रस्तावित किया है जिसे AReS कहा जाता है। बंद शेफ को सिखाने की कोशिश करने के बजाय, वे आपके अपने किचन में एक स्थानीय प्रशिक्षु (local apprentice) को प्रशिक्षित करने के लिए शेफ का उपयोग करते हैं।

चरण 1: "प्राइमिंग" (एक बार का सबक)

आप फूलों के फोटो का एक बैच शेफ को केवल एक बार भेजते हैं।

आप शेफ से पूछते हैं, "आपको क्या लगता है कि यह क्या है?"
आप शेफ को बदलने की कोशिश नहीं करते हैं। इसके बजाय, आप शेफ के जवाबों का उपयोग अपने स्थानीय प्रशिक्षु को सिखाने के लिए करते हैं (एक छोटा, ओपन-सोर्स AI मॉडल जो आपका है)।
आप अपने प्रशिक्षु को शेफ की सोच की नकल करने के लिए प्रशिक्षित करते हैं। यह "प्राइमिंग" चरण है। यह ऐसा है जैसे शेफ प्रशिक्षु को फूल पहचानने का एक क्रैश कोर्स दे रहा हो।
महत्वपूर्ण बिंदु: आप केवल एक बार महंगे शेफ से बात करते हैं। इसके बाद, आपको उन्हें फिर से बुलाने की आवश्यकता नहीं है।

चरण 2: "रीप्रोग्रामिंग" (स्थानीय अभ्यास)

अब, आपके पास एक स्थानीय प्रशिक्षु है जिसने शेफ के ज्ञान को "सुना" है।

आप अपने प्रशिक्षु को अपने स्वयं के किचन (अपने स्थानीय कंप्यूटर) में ले जाते हैं।
क्योंकि आप प्रशिक्षु के मस्तिष्क को देख सकते हैं (यह "ओपन-बॉक्स" है), आप आसानी से उनके मस्तिष्क को मानक, तेज़ और मुफ्त तरीकों का उपयोग करके फूलों को पहचानने में परफेक्ट बना सकते हैं।
आप इसे जितनी बार चाहें उतनी बार कर सकते हैं, क्योंकि अब आप महंगे शेफ को कॉल नहीं कर रहे हैं।

यह गेम-चेंजर क्यों है

यह सस्ता है: पुराने तरीके में API फीस के रूप में हजारों डॉलर खर्च होते थे। AReS इस लागत को 99.99% कम कर देता है। आप केवल एक बार के सबक के लिए भुगतान करते हैं।
यह स्मार्ट शेफ पर काम करता है: क्योंकि AReS शेफ पर "शोर चिल्लाने" पर निर्भर नहीं है, इसलिए यह आधुनिक, मजबूत AI मॉडल (जैसे GPT-4o) पर भी पूरी तरह से काम करता है जो शोर को अनदेखा कर देते हैं।
यह ऑफलाइन है: एक बार प्रशिक्षु प्रशिक्षित हो जाने के बाद, आप उन्हें बिना इंटरनेट के जंगल की झोपड़ी में ले जा सकते हैं। वे अभी भी फूलों को पहचानने में सक्षम होंगे क्योंकि उन्होंने जंगल जाने से पहले शेफ से सीखा था।
यह अधिक स्मार्ट है: आश्चर्यजनक रूप से, स्थानीय प्रशिक्षु अक्सर फूलों को पहचानने के विशिष्ट कार्य में शेफ से भी बेहतर साबित होता है, क्योंकि प्रशिक्षु ने शेफ के सामान्य ज्ञान को सीखा और फिर बिना शेफ के "बोझ" के विशेष रूप से आपकी जरूरतों के लिए खुद को अनुकूलित किया।

संक्षेप में उपमा (Analogy)

पुराना तरीका: एक जीनियस को उनकी खिड़की पर पत्थर मारकर यह अनुमान लगाने की कोशिश करना कि उन्होंने क्या सीखा। (महंगा, धीमा, और जीनियस उन पत्थरों को अनदेखा कर देता है)।
AReS: जीनियस से एक बार अपने छात्र को लेक्चर देने के लिए कहना। फिर, आप अपने छात्र को घर ले जाते हैं, उनके साथ मुफ्त में अभ्यास करते हैं, और उन्हें एक विशेषज्ञ बना देते हैं।

परिणाम: आपको एक अत्यधिक सटीक फूल पहचानकर्ता मिलता है, आप बहुत सारा पैसा बचाते हैं, और आपको उपयोग करने के लिए इंटरनेट कनेक्शन की आवश्यकता नहीं होती है।

यहाँ शोध पत्र "Prime Once, then Reprogram Locally: An Efficient Alternative to Black-Box Service Model Adaptation" (AReS) का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

यह शोध पत्र Closed-Box Model-as-a-Service (MaaS) मॉडल्स (जैसे GPT-4o, CLIP APIs, प्रोप्रायटरी विजन मॉडल्स) को उनके आंतरिक पैरामीटर्स या ग्रेडिएंट्स तक पहुँच के बिना, विशिष्ट डाउनस्ट्रीम कार्यों (downstream tasks) के लिए अनुकूलित करने की चुनौती का समाधान करता है।

वर्तमान स्थिति: मानक दृष्टिकोण Zeroth-Order Optimization (ZOO) का उपयोग करके Model Reprogramming (MR) करना है। BAR और BlackVIP जैसे तरीके सीखने योग्य "विजुअल प्रॉम्प्ट्स" (visual prompts) के साथ इनपुट इमेजेस को संशोधित करते हैं और रैंडम परटर्बेशन (random perturbations) के माध्यम से ग्रेडिएंट का अनुमान लगाते हैं (जिसके लिए API को हजारों बार क्वेरी करना पड़ता है)।
मुख्य सीमाएँ:
1. उच्च लागत और विलंबता (High Cost & Latency): ZOO को प्रशिक्षण और अनुमान (inference) दोनों के दौरान भारी संख्या में API कॉल्स की आवश्यकता होती है, जिससे अत्यधिक वित्तीय लागत और विलंबता उत्पन्न होती है।
2. अस्थिरता (Instability): रैंडम परटर्बेशन के माध्यम से ग्रेडिएंट अनुमान शोर (noisy) वाला होता है और अक्सर धीमी या अस्थिर अभिसरण (convergence) की ओर ले जाता है।
3. आधुनिक मॉडल्स पर अप्रभावीता: लेखक देखते हैं कि आधुनिक, मजबूत मॉडल्स (जैसे GPT-4o) अक्सर उन इनपुट परटर्बेशन के प्रति अपरिवर्तनीय (invariant) होते हैं जिन पर ZOO निर्भर करता है। फलस्वरूप, ZOO विधियाँ इन मॉडल्स पर ज़ीरो-शॉट बेसलाइन की तुलना में प्रदर्शन में सुधार करने में विफल रहती हैं, जिससे उच्च लागत का कोई औचित्य नहीं रह जाता।

2. कार्यप्रणाली: AReS (Alternative efficient Reprogramming approach for Service models)

AReS निरंतर क्लोज्ड-बॉक्स ऑप्टिमाइज़ेशन से एक दो-चरणीय "Prime Once, then Reprogram Locally" रणनीति की ओर एक प्रतिमान परिवर्तन (paradigm shift) का प्रस्ताव करता है।

चरण 1: प्राइमिंग (Priming - सिंगल-पास इंटरैक्शन)

लक्ष्य: एक स्थानीय, प्री-ट्रेन्ड एनकोडर ( $F_L$ ) को एक सिंगल राउंड के API इंटरैक्शन का उपयोग करके क्लोज्ड-बॉक्स सर्विस मॉडल ( $F_S$ ) के आउटपुट डिस्ट्रीब्यूशन के साथ संरेखित (align) करना।
प्रक्रिया:
- प्रत्येक ट्रेनिंग इमेज $x_i$ के लिए, प्रेडिक्शन प्रोबेबिलिटीज $p_S(x_i)$ प्राप्त करने के लिए सर्विस API को एक बार क्वेरी करें।
- इन प्रोबेबिलिटीज को फ्रोजन लोकल एनकोडर $F_L$ के ऊपर एक हल्का, ट्रेन करने योग्य लीनियर लेयर (linear layer) को प्रशिक्षित करने के लिए "सॉफ्ट लेबल्स" के रूप में उपयोग करें।
- लॉस फंक्शन (Loss Function): प्रशिक्षण स्थानीय मॉडल के आउटपुट और सर्विस मॉडल के आउटपुट के बीच क्लैब-लेबलब (Kullback-Leibler) डाइवर्जेंस (या क्रॉस-एन्ट्रॉपी) को कम करता है।
- मुख्य विशेषता: यह चरण आवश्यक नहीं है कि सर्विस मॉडल और लक्षित कार्य (target task) का लेबल स्पेस समान हो (उदाहरण के लिए, यह एक लोकल मॉडल को ImageNet आउटपुट्स का उपयोग करके फ्लावर क्लासिफिकेशन कार्य के लिए तैयार कर सकता है)।
परिणाम: स्थानीय मॉडल लक्षित डेटा डिस्ट्रीब्यूशन पर सर्विस मॉडल के व्यवहार की नकल करने के लिए "प्राइम" हो जाता है।

चरण 2: कुशल स्थानीय रीप्रोग्रामिंग (Efficient Local Reprogramming - Glass-Box)

लक्ष्य: विशिष्ट डाउनस्ट्रीम कार्य के लिए इष्टतम विजुअल प्रॉम्प्ट सीखना।
प्रक्रिया:
- चूंकि स्थानीय मॉडल अब सुलभ (glass-box) है, इसलिए लेखक विशिष्ट विजुअल प्रॉम्प्ट $P$ को सीखने के लिए ग्रेडिएंट-आधारित ऑप्टिमाइज़ेशन (First-Order Optimization) करते हैं।
- यह पूरी तरह से प्राइम किए गए लोकल एनकोडर का उपयोग करके स्थानीय मशीन पर किया जाता है।
परिणाम: मॉडल बिना किसी और API कॉल के एक मजबूत विजुअल प्रॉम्प्ट सीखता है।

अनुमान (Inference)

लागत-मुक्त (Cost-Free): सभी आगामी अनुमान प्राइम किए गए एनकोडर और सीखे गए प्रॉम्प्ट का उपयोग करके स्थानीय रूप से किए जाते हैं। शून्य API कॉल की आवश्यकता होती है।

3. सैद्धांतिक आधार (Theoretical Foundation)

शोध पत्र सर्विस मॉडल के सापेक्ष स्थानीय मॉडल के प्रदर्शन को सीमित करने वाला एक सैद्धांतिक विश्लेषण प्रदान करता है।

$\epsilon$ -Faithful Priming: लेखक प्राइमिंग को तब "फिथफुल" (faithful) मानते हैं जब सर्विस मॉडल के लॉजिट्स (logits) और स्थानीय मॉडल के लॉजिट्स के बीच $L_1$ अंतर एक छोटे $\epsilon$ द्वारा सीमित हो।
प्रदर्शन सीमा (Performance Bound): वे सिद्ध करते हैं कि यदि प्राइमिंग फिथफुल है ( $\epsilon$ छोटा है), तो इष्टतम रूप से रीप्रोग्राम किए गए स्थानीय मॉडल ( $R_L$ ) का रिस्क (त्रुटि) इष्टतम रूप से रीप्रोग्राम किए गए सर्विस मॉडल ( $R_S$ ) के रिस्क प्लस $\epsilon$ द्वारा सीमित है:
$R_L(D^T, P^*) - \epsilon \leq R_S(D^T, Q^*) \leq R_L(D^T, P^*)$
निहितार्थ: यह सिद्धांततः इस बात को न्यायसंगत ठहराता है कि महंगी, अस्थिर क्लोज्ड-बॉक्स API से अनुकूलन का भार एक कुशल, स्थिर स्थानीय मॉडल की ओर स्थानांतरित किया जा सकता है, बशर्ते कि प्रारंभिक प्राइमिंग प्रभावी हो।

4. मुख्य योगदान (Key Contributions)

एक महत्वपूर्ण दोष की पहचान: लेखक प्रदर्शित करते हैं कि आधुनिक, मजबूत APIs (जैसे GPT-4o) पर ZOO-आधारित विधियाँ विफल हो जाती हैं क्योंकि ये मॉडल्स उस इनपुट नॉइज़ को अनदेखा करते हैं जिस पर ZOO निर्भर करता है।
AReS फ्रेमवर्क: एक नया, सैद्धांतिक रूप से आधारित फ्रेमवर्क जो अनुकूलन प्रक्रिया को एक बार के "प्राइमिंग" चरण और एक स्थानीय "रीप्रोग्रामिंग" चरण में विभाजित करता है।
डिस्क जॉइंट लेबल स्पेस हैंडलिंग: पारंपरिक नॉलेज डिस्टिलेशन के विपरीत, AReS का प्राइमिंग चरण तब भी काम करता है जब सर्विस मॉडल का लेबल स्पेस (जैसे ImageNet) लक्षित कार्य (जैसे Flowers) से अलग हो, जिससे यह स्टैंडर्ड विजन मॉडल्स (VMs) के साथ-साथ विजन-लैंग्वेज मॉडल्स (VLMs) के लिए भी लागू होता है।
लागत-मुक्त अनुमान: AReS प्रारंभिक प्रशिक्षण चरण के बाद API निर्भरता को पूरी तरह से समाप्त कर देता है।

5. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने विभिन्न सर्विस मॉडल्स (CLIP, ViT, ResNet, GPT-4o, LLaVA, Clarifai) का उपयोग करके 10 विविध डेटासेट्स (Flowers102, EuroSAT, आदि) पर AReS का मूल्यांकन किया।

प्रदर्शन लाभ (Performance Gains):
- GPT-4o: AReS ने ज़ीरो-शॉट बेसलाइन की तुलना में +27.8% शुद्धता (accuracy) हासिल की। इसके विपरीत, ZOO-आधारित विधियों (BAR, BlackVIP) ने नगण्य सुधार (जैसे +0.7%) दिखाया।
- सामान्य बेंचमार्क: 10 डेटासेट्स में, AReS ने VLMs के लिए +2.5% और VMs के लिए +15.6% के साथ स्टेट-ऑफ-द-आर्ट ZOO विधियों को पछाड़ दिया।
- ImageNet (16-shot): AReS ने 80.1% शुद्धता प्राप्त की, जिसने ग्लास-बॉक्स बेसलाइन को भी पीछे छोड़ दिया और ZOO विधियों को काफी पीछे छोड़ दिया जो प्रदर्शन में गिरावट लाती हैं।
दक्षता और लागत (Efficiency & Cost):
- API कॉल्स: API कॉल्स में >99.99% की कमी आई (उदाहरण के लिए, ~ $10^8$ कॉल्स से ~ $10^3$ कॉल्स तक)।
- प्रशिक्षण समय: प्रशिक्षण समय में >98% की कमी आई (उदाहरण के लिए, ~32 घंटे से <0.5 घंटे तक)।
- वित्तीय लागत: कमर्शियल Clarifai API पर, समान कार्य के लिए BlackVIP के $67.30 की तुलना में AReS की लागत केवल $0.20 थी।
मजबूती (Robustness): AReS ने आंशिक API आउटपुट्स (top-k predictions) के साथ और विभिन्न डोमेन गैप्स (जैसे मेडिकल इमेजिंग) में उच्च प्रदर्शन बनाए रखा।

6. महत्व (Significance)

प्रतिमान परिवर्तन (Paradigm Shift): AReS क्षेत्र को अक्षम "क्वेरी-हैवी" ZOO प्रतिमान से दूर ले जाता है, जो आधुनिक मजबूत मॉडल्स के लिए अप्रचलित होता जा रहा है, और एक "लोकल-फर्स्ट" अनुकूलन रणनीति की ओर ले जाता है।
व्यावहारिक व्यवहार्यता: शक्तिशाली प्रोप्रायटरी मॉडल्स को एड्ज डिवाइसेस (edge devices), रिमोट ऑपरेशंस और लागत-संवेदनशील अनुप्रयोगों के लिए अनुकूलित करना संभव बनाकर, AReS ऑफलाइन, लागत-मुक्त अनुमान को सक्षम बनाता है।
सिनर्जी (Synergy): यह विधि प्रदर्शित करती है कि एक स्थानीय मॉडल, यदि ठीक से प्राइम किया गया हो, तो सर्विस मॉडल के ज्ञान का लाभ उठाकर ऐसा प्रदर्शन प्राप्त कर सकता है जो कभी-कभी सर्विस मॉडल के स्वयं के ग्लास-बॉक्स रीप्रोग्रामिंग से भी बेहतर होता है (दोनों मॉडल्स के बीच सिनर्जिस्टिक प्रभावों के कारण)।

संक्षेप में, AReS क्लोज्ड-बॉक्स AI सेवाओं को अनुकूलित करने के लिए एक मजबूत, किफायती और सैद्धांतिक रूप से सुदृढ़ समाधान प्रदान करता है, जो उन लागत, विलंबता और प्रभावशीलता की समस्याओं को हल करता है जो वर्तमान ब्लैक-बॉक्स अनुकूलन विधियों को प्रभावित करती हैं।