🤖 machine learning

Amortized Multi-Objective Optimization Across Tasks with Generative Solution Modeling

यह शोध पत्र एक नवीन पैरामीट्रिक मल्टी-ऑब्जेक्टिव बायेसियन ऑप्टिमाइज़र प्रस्तावित करता है जो वैकल्पिक जनरेटिव सॉल्यूशन सैंपलिंग और एक्विजिशन-ड्रिवन सर्च के माध्यम से एक इनवर्स मॉडल सीखकर निरंतर टास्क पैरामीटर्स में ऑप्टिमाइज़ेशन लागतों को एमोर्टाइज़ करता है, जिससे बिना महंगे पुनर्मूल्यांकनों के अनदेखी समस्याओं के लिए पारेटो ऑप्टिमल समाधानों का सीधा पूर्वानुमान संभव हो पाता है।

मूल लेखक: Tingyang Wei, Jiao Liu, Abhishek Gupta, Chin Chun Ooi, Puay Siew Tan, Yew-Soon Ong

प्रकाशित 2026-05-11

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Tingyang Wei, Jiao Liu, Abhishek Gupta, Chin Chun Ooi, Puay Siew Tan, Yew-Soon Ong

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

बड़ी समस्या: "अनंत मेनू" की दुविधा

कल्पना कीजिए कि आप एक मास्टर शेफ हैं जो एक आदर्श व्यंजन बनाने की कोशिश कर रहे हैं। लेकिन एक पेच है: आपको हजारों अलग-अलग ग्राहकों के लिए खाना बनाना है, जिनमें से प्रत्येक की पसंद थोड़ी अलग है (किसी को तीखा पसंद है, किसी को मीठा, तो किसी को अधिक नमक वाला)।

वास्तविक दुनिया में, यह महंगी मल्टी-ऑब्जेक्टिव ऑप्टिमाइज़ेशन (EMOP) की तरह है।

शेफ: एक एल्गोरिदम जो सबसे अच्छा समाधान खोजने की कोशिश कर रहा है।
व्यंजन: किसी समस्या के समाधान (जैसे रोबोटिक आर्म या सोलर पैनल डिजाइन करना)।
स्वाद परीक्षण (Taste Test): समाधान का मूल्यांकन करना। इस पेपर में, ये "स्वाद परीक्षण" महंगे हैं। इनमें कंप्यूटर का घंटों का समय लग सकता है, बहुत पैसा खर्च हो सकता है, या भौतिक प्रयोगों की आवश्यकता हो सकती है।

आमतौर पर, यदि कोई ग्राहक अपनी पसंद में थोड़ा सा बदलाव करता है (एक नया "टास्क पैरामीटर"), तो शेफ को फिर से शुरुआत से खाना बनाना पड़ता है, नए आदर्श संतुलन को खोजने के लिए हर व्यंजन को फिर से चखना पड़ता है। यदि ग्राहकों के अनंत रूप हैं, तो यह असंभव है। इससे पहले कि आप सबको परोस सकें, आपके पास समय और पैसा खत्म हो जाएगा।

पेपर का समाधान: "स्मार्ट रेसिपी बुक"

लेखक खाना बनाने का एक नया तरीका प्रस्तावित करते हैं। हर ग्राहक के लिए हर एक व्यंजन को चखने के बजाय, वे एक स्मार्ट रेसिपी बुक (एक "इनवर्स जेनेरेटिव मॉडल") बनाते हैं।

एक बार जब वे कुछ प्रतिनिधि ग्राहकों के लिए पर्याप्त व्यंजन चख लेते हैं, तो वे एक पैटर्न सीख जाते हैं। वे समझ जाते हैं: "आह, जब ग्राहक को अधिक तीखा चाहिए, तो हमें बस थोड़ा सा मिर्च डालनी है और चीनी की मात्रा थोड़ी कम करनी है।"

इस किताब के साथ, यदि कोई नया ग्राहक एक अनूठी पसंद के साथ आता है जिसे शेफ ने पहले कभी नहीं देखा है, तो शेफ को कुछ भी नया पकाने या चखने की आवश्यकता नहीं होती है। वे बस किताब देखते हैं, रेसिपी की गणना करते हैं, और तुरंत आदर्श व्यंजन परोस देते हैं।

उन्होंने बुक कैसे बनाई: "दो-चरणीय नृत्य" (Two-Step Dance)

पेपर में PMT-MOBO नामक एक विधि का वर्णन किया गया है जो एक चतुर "दो-चरणीय नृत्य" का उपयोग करके इस किताब का निर्माण करती है जो आगे-पीछे बदलती रहती है:

चरण 1: "द स्काउट" (अधिग्रहण-संचालित खोज - Acquisition-Driven Search)

इसे एक ऐसे स्काउट के रूप में सोचें जो सबसे अच्छे पेड़ों को खोजने के लिए एक विशाल जंगल की खोज कर रहा है।

स्काउट एक मानचित्र (जिसे टास्क-अवेयर गॉसियन प्रोसेस कहा जाता है) का उपयोग करता है जो जानता है कि जंगल केवल एक बड़ा खाली स्थान नहीं है; बल्कि यह जुड़े हुए जंगलों का एक परिवार है।
क्योंकि स्काउट जानता है कि "जंगल A" और "जंगल B" आपस में संबंधित हैं, इसलिए जंगल A में एक बेहतरीन पेड़ ढूंढना स्काउट को यह अनुमान लगाने में मदद करता है कि जंगल B में अच्छे पेड़ कहाँ हो सकते हैं।
यह चरण कुशल है लेकिन कभी-कभी एक स्थानीय क्षेत्र में फंस सकता है, जिससे वह अन्य स्थानों पर छिपे वास्तव में अद्भुत पेड़ों को मिस कर सकता है।

चरण 2: "द ड्रीमर" (जेनेरेटिव सॉल्यूशन सैंपलिंग)

इसे एक ऐसे सपने देखने वाले के रूप में सोचें जिसने पर्याप्त अच्छे पेड़ देखे हैं और कल्पना कर सकता है कि एक आदर्श पेड़ कैसा दिखना चाहिए।

ड्रीमर एक जेनेरेटिव मॉडल (जैसे VAE या डिफ्यूजन मॉडल—इन्हें उन्नत AI कलाकार समझें) का उपयोग करता है।
स्काउट द्वारा खोजे गए "एलीट" (सर्वश्रेष्ठ) पेड़ों के आधार पर, ड्रीमर नए संभावित पेड़ों का एक पूरा बैच तैयार करता है जो आशाजनक दिखते हैं।
यह टीम को उन स्थानीय क्षेत्रों से बाहर निकलने में मदद करता है जहाँ स्काउट फंस सकता था, और उन हिस्सों को खोजने में मदद करता है जिन्हें स्काउट शायद छोड़ देता।

जादू: पेपर स्काउट (जो वास्तविक डेटा खोजता है) और ड्रीमर (जो नई संभावनाओं की कल्पना करता है) के बीच बारी-बारी से चलता है। स्काउट का डेटा ड्रीमर को प्रशिक्षित करता है, और ड्रीमर के विचार स्काउट को देखने के लिए नए स्थान देते हैं। यह एक फीडबैक लूप बनाता है जो बहुत तेज़ी से आदर्श समाधानों के "आकार" को सीख लेता है।

यह पुराने तरीकों से बेहतर क्यों है

यह संबंधों को सीखता है: पुराने तरीके हर ग्राहक को एक अजनबी मानते थे। यह तरीका जानता है कि ग्राहक संबंधित हैं। यह गणित (विशेष रूप से टास्क-अवेयर गॉसियन प्रोसेस) का उपयोग करके यह सिद्ध करता है कि संबंधित कार्यों के बीच जानकारी साझा करने से आप तेज़ी से सीखते हैं। यह वैसा ही है जैसे यह समझना कि यदि आप एक सेडान चलाना जानते हैं, तो एक समान SUV चलाना सीखना, शून्य से ट्रक चलाना सीखने की तुलना में बहुत आसान है।
यह "अनंत" ग्राहकों को संभालता है: क्योंकि सिस्टम एक सामान्य नियम (इनवर्स मॉडल) सीख जाता है, यह तुरंत उस ग्राहक के लिए सर्वोत्तम समाधान की भविष्यवाणी कर सकता है जिसकी पसंद उसने पहले कभी नहीं देखी है। किसी नए महंगे परीक्षण की आवश्यकता नहीं है।
यह मजबूत (Robust) है: पेपर दिखाता है कि यदि आप केवल स्काउट का उपयोग करते हैं, तो आप सबसे अच्छे स्थानों को मिस कर सकते हैं। यदि आप केवल ड्रीमर का उपयोग करते हैं, तो वे खराब समाधानों की कल्पना (hallucinate) कर सकते हैं। लेकिन दोनों को एक साथ करने से सबसे अच्छे परिणाम मिलते हैं।

परिणाम: उन्होंने क्या पाया

लेखकों ने इनका परीक्षण किया:

सिंथेटिक पहेलियाँ: गणितीय समस्याएं जिन्हें कठिन बनाने के लिए डिज़ाइन किया गया है।
वास्तविक दुनिया के परिदृश्य:
- लैंप (Lamps) का डिज़ाइन: (स्थिरता, लागत और रोशनी के बीच संतुलन बनाना)।
- सोलर रूफटॉप (Solar Rooftops) का डिज़ाइन: (सुबह बनाम शाम की ऊर्जा कैप्चर के बीच संतुलन बनाना)।
- UAV ड्रोन (UAV Drones): (नेविगेशन सटीकता बनाम बैटरी लाइफ के बीच संतुलन बनाना)।
- मैग्नेटिक सिफ्टर (Magnetic Sifters): (चिकित्सा में कोशिकाओं को अलग करना)।

परिणाम: उनका "स्मार्ट रेसिपी बुक" (PMT-MOBO) मौजूदा तरीकों की तुलना में लगातार बेहतर समाधान तेजी से खोजता है। सबसे महत्वपूर्ण बात यह है कि जब उन्होंने पूरी तरह से नए परिदृश्यों (अनदेखे ग्राहकों) पर परीक्षण किया, तो बुक ने बिना किसी नए महंगे प्रयोग के, आदर्श डिज़ाइन की सटीक भविष्यवाणी की।

संक्षेप में

यह पेपर एक ऐसी प्रणाली पेश करता है जो महंगी समस्याओं को एक-एक करके हल करना बंद करती है। इसके बजाय, यह कई विविधताओं में समस्या के "व्याकरण" (Grammar) को सीखता है। एक बार जब यह व्याकरण को समझ लेता है, तो यह किसी भी नई विविधता के लिए तुरंत आदर्श समाधान लिख सकता है, जिससे भारी मात्रा में समय और पैसा बचता है। यह सावधानीपूर्वक अन्वेषण करने और नई संभावनाओं की रचनात्मक कल्पना करने के बीच लगातार स्विच करके ऐसा करता है।

तकनीकी सारांश: जेनेरेटिव सॉल्यूशन मॉडलिंग के साथ कार्यों के बीच एमोर्टाइज्ड मल्टी-ऑब्जेक्टिव ऑप्टिमाइज़ेशन

1. समस्या का निरूपण (Problem Formulation)

वास्तविक दुनिया के अनुप्रयोगों में अक्सर विभिन्न परिचालन स्थितियों के तहत महंगी मल्टी-ऑब्जेक्टिव ऑप्टिमाइज़ेशन समस्याओं (EMOPs) के परिवारों को हल करने की आवश्यकता होती है। इन्हें पैरामीट्रिक एक्सपेंसिव मल्टी-ऑब्जेक्टिव ऑप्टिमाइज़ेशन प्रॉब्लम्स (P-EMOPs) के रूप में तैयार किया जाता है, जहाँ एक निरंतर कार्य पैरामीटर $\theta \in \Theta$ एक विशिष्ट अनुकूलन इंस्टेंस $F(x, \theta)$ को परिभाषित करता है।

मुख्य चुनौती यह है कि निरंतर कार्य पैरामीटर स्पेस में अनंत रूप से भिन्न समस्याएँ मौजूद हैं। पारंपरिक मल्टी-ऑब्जेक्टिव बेयसियन ऑप्टिमाइज़ेशन (MOBO) विधियाँ, जो प्रत्येक कार्य के लिए व्यक्तिगत रूप से पारेटो अनुकूलित समाधानों के परिमित सेट खोजने की कोशिश करती हैं, इस अनंत स्थान पर बार-बार लागू होने पर गणनात्मक रूप से अव्यवहार्य हो जाती हैं क्योंकि ऑब्जेक्ट फ़ंक्शन मूल्यांकन की लागत बहुत अधिक होती है। लक्ष्य निरंतर कार्य-वरीयता स्थान (task-preference space) में अनुकूलन प्रयास को 'एमोर्टाइज़' (amortize) करना है, जिससे बिना पुन: मूल्यांकन के अनदेखे कार्यों के लिए अनुकूलित समाधानों का सीधा पूर्वानुमान संभव हो सके।

2. कार्यप्रणाली (Methodology)

यह शोध पत्र एक पैरामीट्रिक मल्टी-टास्क मल्टी-ऑब्जेक्टिव बेयसियन ऑप्टिमाइज़र (PMT-MOBO) प्रस्तावित करता है जो कार्य मापदंडों $\theta$ और वरीयता वेक्टर $\lambda$ को सीधे अनुकूलित समाधानों में मैप करने वाला एक इनवर्स जेनेरेटिव मॉडल $M(\theta, \lambda)$ सीखता है। यह ढांचा एक अल्टरनेटिंग ऑप्टिमाइज़ेशन लूप के माध्यम से संचालित होता है जिसमें दो पूरक चरण शामिल हैं:

A. टास्क-अवेयर सरोगेट मॉडलिंग (PMT-MOBO)

यह विधि टास्क-अवेयर गॉसियन प्रोसेस (GPs) को शामिल करके मानक MOBO का विस्तार करती है। सिंगल-टास्क GPs के विपरीत, ये मॉडल निर्णय चर $x$ और कार्य पैरामीटर $\theta$ के संयुक्त इनपुट को लेते हैं।

तंत्र (Mechanism): एक दिए गए कार्य इंस्टेंस $\theta_k$ के लिए, $m$ -वाँ ऑब्जेक्ट $f_m(\cdot, \theta_k) \sim \mathcal{GP}_m(\tilde{\mu}_m, \tilde{\kappa}_m)$ के रूप में मॉडल किया जाता है।
एक्विजिशन (Acquisition): एक्विजिशन फ़ंक्शन को एक वरीयता वेक्टर $\lambda$ का उपयोग करके स्केलेराइज किया जाता है और अगले मूल्यांकन बिंदु का चयन करने के लिए अनुकूलित किया जाता है। $\theta$ पर निर्भर होकर, मॉडल खोज को निर्देशित करने के लिए इंटर-टास्क सह-संबंधों (synergies) का स्पष्ट रूप से लाभ उठाता है।

B. कंडीशनल जेनेरेटिव सॉल्यूशन सैंपलिंग

एक्विजिशन-संचालित खोज को पूरक बनाने और सैंपलर को निम्न-गुणवत्ता वाले क्षेत्रों में फंसने से रोकने के लिए, यह ढांचा एक कंडीशनल जेनेरेटिव मॉडल (जिसे वेरिऐशनल ऑटोएनकोडर (VAE) या डिनोइजिंग डिफ्यूजन प्रोबेबिलिस्टिक मॉडल (DDPM) के रूप में स्थापित किया गया है) का उपयोग करता है।

प्रशिक्षण (Training): मॉडल कार्य पैरामीटर $\theta$ और वरीयता $\lambda$ पर आधारित "एलीट" (elite) समाधानों के वितरण $p_\phi(x | \lambda, \theta)$ को सीखता है।
सैंपलिंग (Sampling): जेनेरेटिव चरण में, इस वितरण से उम्मीदवारों का एक पूल सैंपल किया जाता है। इन उम्मीदवारों को फिर टास्क-अवेयर एक्विजिशन फ़ंक्शन का उपयोग करके स्कोर किया जाता है, और सर्वोत्तम उम्मीदवार का मूल्यांकन के लिए चयन किया जाता है।

C. अल्टरनेटिंग ऑप्टिमाइज़ेशन लूप

यह ढांचा एक्विजिशन-ड्रिवन सर्च (टास्क-अवेयर एक्विजिशन फ़ंक्शन को सीधे अनुकूलित करना) और जेनेरेटिव सॉल्यूशन सैंपलिंग (सीखे गए एलीट वितरण से नमूना लेना और सर्वश्रेष्ठ का चयन करना) के बीच बारी-बारी से कार्य करता है। यह लूप प्रत्येक मूल्यांकन के बाद टास्क-अवेयर GPs को अपडेट करता है और एकत्र किए गए एलीट डेटा का उपयोग करके जेनेरेटिव मॉडल को समय-समय पर पुन: प्रशिक्षित करता है।

3. सैद्धांतिक योगदान (Theoretical Contributions)

यह शोध पत्र प्रस्तावित विधि की एकल-टास्क बेसलाइन्स की तुलना में त्वरित अभिसरण (convergence) के लिए एक सैद्धांतिक औचित्य प्रदान करता है:

रिग्रेट बाउंड्स (Regret Bounds): लोअर कॉन्फिडेंस बाउंड (LCB) एक्विजिशन फ़ंक्शन का उपयोग करते हुए, लेखक बेयस रिग्रेट बाउंड्स निकालते हैं।
मैक्सिमम इंफॉर्मेशन गेन (MIG): प्रमेय 2 यह प्रदर्शित करता है कि PMT-MOBO में टास्क-अवेयर कर्नेल, संबंधित कार्यों से प्राप्त अवलोकनों का लाभ उठाकर, लक्षित कार्य के लिए पोस्टीरियर कोवेरिएंस को कम करता है। यह कमी ST-MOBO की तुलना में एक स्पष्ट रूप से छोटे मैक्सिमम इंफॉर्मेशन गेन ( $\tilde{\gamma}_{T,k} \leq \gamma_{T,k}$ ) की ओर ले जाती है।
अभिसरण (Convergence): चूंकि रिग्रेट बाउंड MIG के साथ मोनोटोनिक रूप से बढ़ता है, इसलिए कम हुआ MIG, बेयस रिग्रेट पर एक कड़ा ऊपरी बाउंड (tighter upper bound) प्रदान करता है, जो सैद्धांतिक रूप से PMT-MOBO के लिए तेज़ अभिसरण को सिद्ध करता है।

4. प्रयोगात्मक परिणाम (Experimental Results)

विधि का मूल्यांकन सिंथेटिक बेंचमार्क (DTLZ-1, DTLZ-2, DTLZ-3) और वास्तविक दुनिया की समस्याओं (लैंप जनरेशन, सोलर रूफटॉप जनरेशन, मैग्नेटिक सिफ्टर डिज़ाइन, UAV कंट्रोलर डिज़ाइन) पर किया गया।

ऑप्टिमाइज़ेशन प्रदर्शन: प्रस्तावित वेरिएंट, PMT-MOBO-VAE और PMT-MOBO-DDPM, अधिकांश बेंचमार्क पर स्टेट-ऑफ-द-आर्ट सिंगल-टास्क MOBO (ST-MOBO, qPAREGO, qEHVI) और मल्टी-टास्क बेसलाइन्स (OC-MOBO, PPSL-MOBO) से लगातार बेहतर रहे। विशेष रूप से, PMT-MOBO-DDPM ने 7 में से 6 बेंचमार्क पर सर्वश्रेष्ठ परिणाम प्राप्त किए।
इनवर्स मॉडल सामान्यीकरण (Generalization): प्रशिक्षित इनवर्स मॉडल का परीक्षण अनदेखे (unseen) EMOP कार्यों (ऐसे कार्य जिनके पैरामीटर प्रशिक्षण के दौरान नहीं देखे गए थे) पर किया गया। प्रस्तावित मॉडलों ने PSL-MOBO और CDM-PSL जैसे बेसलाइन्स की तुलना में उच्च हाइपरवॉल्यूम इंडिकेटर्स प्राप्त करके बेहतर सामान्यीकरण प्रदर्शित किया।
एब्लेशन अध्ययन (Ablation Studies): प्रयोगों ने पुष्टि की कि न तो शुद्ध एक्विजिशन सर्च और न ही शुद्ध जेनेरेटिव सैंपलिंग अकेले पर्याप्त है। वैकल्पिक रणनीति (alternating strategy) विविधता (जेनेरेटिव सैंपलिंग के माध्यम से) और सटीकता (एक्विजिशन सर्च के माध्यम से) को प्रभावी ढंग से संतुलित करती है।
संवेदनशीलता (Sensitivity): एलीट अनुपात पैरामीटर $Q$ (प्रशिक्षण के लिए उपयोग किए गए शीर्ष समाधानों का प्रतिशत) महत्वपूर्ण पाया गया; $Q=10\%$ ने चयनात्मक दबाव (selective pressure) और डेटा उपलब्धता के बीच इष्टतम संतुलन प्रदान किया।

5. महत्व और दावे (Significance and Claims)

यह शोध पत्र P-EMOP के परिवारों को हल करने के लिए एक नया प्रतिमान (paradigm) पेश करने का दावा करता है, जो अलग-थलग टास्क ऑप्टिमाइज़ेशन से हटकर सामान्यीकृत समाधान मैपिंग सीखने की ओर स्थानांतरित होता है।

एमोर्टाइजेशन (Amortization): प्राथमिक योगदान एकल टास्क ऑप्टिमाइज़ेशन के दोहराव वाले खर्च को एक एकल इनवर्स जेनेरेटिव मॉडल पास में 'एमोर्टाइज़' करने की क्षमता है। यह बिना महंगे पुन: मूल्यांकन के नए परिचालन स्थितियों के लिए समाधानों के ज़ीरो-शॉट पूर्वानुमान की अनुमति देता है।
इंटर-टास्क सिनर्जी (Inter-Task Synergy): यह कार्य प्रदर्शित करता है कि टास्क-अवेयर GPs और कंडीशनल जेनेरेटिव मॉडल्स के माध्यम से कार्यों के बीच संबंधों को स्पष्ट रूप से मॉडल करने से, कार्यों को अलग-थも देखने या निरंतर टास्क-पसेंस मैनिफोल्ड को मॉडल न करने वाले मानक मल्टी-टास्क दृष्टिकोणों की तुलना में काफी बेहतर अभिसरण और सामान्यीकरण प्राप्त होता है।
डिस्ट्रिब्यूशनल लर्निंग (Distributional Learning): डिटर्मिनिस्टिक हाइपरनेटवर्क दृष्टिकोणों (जैसे PPSL-MOBO) के विपरीत, जो वन-टू-वन मैपिंग मानते हैं, प्रस्तावित जेनेरेटिव दृष्टिकोण समाधान स्थान को एक वितरण के रूप में मॉडल करता है। यह ढांचा जटिल, मल्टी-मोडल पारेटो फ्रंट्स को कैप्चर करने और वरीयताओं को समाधानों में मैप करने में अंतर्निहित अनिश्चितता को अधिक मजबूती से संभालने की अनुमति देता है।

लेखक निष्कर्ष निकालते हैं कि जबकि टास्क-अवेयर GP घटक के लिए सैद्धांतिक रिग्रेट बाउंड स्थापित हैं, जेनेरेटिव सैंपलिंग का एकीकरण खोज दक्षता और समाधान गुणवत्ता को और बढ़ाने के लिए एक ह्यूरिस्टिक (heuristic) के रूप में कार्य करता है, जिसका समर्थन विविध इंजीनियरिंग और सिंथेटिक डोमेन में प्रयोगात्मक साक्ष्य द्वारा किया गया है।