Learning the Pareto Frontier of Predictive Models under Distribution Shift
यह शोध पत्र "फ्रंटियर लर्निंग" (Frontier Learning) का परिचय देता है, जो एक विविध उम्मीदवार मॉडलों के आंतरिक निरूपणों (internal representations) और भविष्यवाणियों को संयोजित करके एक एकीकृत लक्ष्य-डोमेन विशेषता का निर्माण करता है ताकि एक हल्के पर्यवेक्षित शिक्षार्थी (lightweight supervised learner) को प्रशिक्षित किया जा सके, जिससे यह गारंटी मिलती है कि इसका प्रदर्शन किसी भी व्यक्तिगत पुन: उपयोग रणनीति (जैसे कि ज़ीरो-शॉट, फाइन-ट्यूनिंग, या प्रत्यक्ष प्रशिक्षण) के समान या उससे बेहतर होगा और वितरण बदलाव (distribution shift) के तहत भी उत्कृष्ट परिणाम प्राप्त करेगा।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रहस्य सुलझाने की कोशिश कर रहे हैं, लेकिन आपके सुराग अलग-अलग दुनियाओं में बिखरे हुए हैं। आधुनिक आर्टिफिशियल इंटेलिजेंस की दुनिया में, हमने विशाल "फाउंडेशन मॉडल्स" बनाए हैं—विशाल, अत्यंत बुद्धिमान कंप्यूटर जिन्हें डेटा के महासागरों पर प्रशिक्षित किया गया है। ये मॉडल उन विशेषज्ञ जासूसों की तरह हैं जिन्होंने लगभग सब कुछ देखा है। हालाँकि, जब हम उन्हें किसी नए, विशिष्ट मामले को सुलझाने के लिए उपयोग करने की कोशिश करते हैं (जैसे कि एक विशिष्ट अस्पताल में रोगी के परिणामों की भविष्यवाणी करना या कला की एक नई शैली में वस्तुओं को पहचानना), तो चीजें पेचीदा हो जाती हैं। कभी-कभी वह विशेषज्ञ जासूस एकदम सटीक होता है; अन्य समय में, वह भ्रमित हो जाता है क्योंकि नया मामला पुराने मामलों से अलग दिखता है। इसे "डिस्ट्रीब्यूशन शिफ्ट" (distribution shift) कहा जाता है।
इसे संभालने के लिए, वैज्ञानिक आमतौर पर तीन विकल्प रखते हैं। पहला, वे विशेषज्ञ जासूस से बिना कुछ बदले बस उत्तर मांग सकते हैं (जिसे "जीरो-शॉट" कहा जाता है)। दूसरा, वे जासूस को विशेष रूप से उस नए मामले के लिए फिर से प्रशिक्षित कर सकते हैं ("फाइन-ट्यूनिंग")। तीसरा, वे विशेषज्ञ को पूरी तरह अनदेखा कर सकते हैं और शून्य से सीखने के लिए एक नया, स्थानीय जासूस रख सकते हैं ("डायरेक्ट ट्रेनिंग")। समस्या यह है कि कोई भी पहले से नहीं जानता कि कौन सा जासूस काम के लिए सबसे अच्छा होगा। गलत चुनाव करना खराब भविष्यवाणियों की ओर ले जा सकता है। यह शोध पत्र एक सरल लेकिन शक्तिशाली प्रश्न पूछता है: केवल एक जासूस को चुनने के बजाय, क्या होगा यदि हम उन सभी को एक साथ सुन सकें और सबूतों को यह तय करने दें कि किसे विश्वास करना है?
इस शोध के पीछे के शोधकर्ताओं, यिमिंग डोंग, जीवेई झाओ और यांग लू ने एक चतुर नया ढांचा प्रस्तावित किया है जिसे फ्रंटियर लर्निंग (Frontier Learning) कहा जाता है। इसे एक "सुपर-स्काउट" के रूप में समझें जो जासूसों को बदलने के बजाय एक स्मार्ट मैनेजर के रूप में कार्य करता है। जीरो-शॉट विशेषज्ञ, फाइन-ट्यून्ड विशेषज्ञ और स्थानीय नौसिखिए के बीच चयन करने के बजाय, फ्रंटियर लर्निंग इन सभी से एक साथ जानकारी एकत्र करती है। यदि कोई मॉडल "व्हाइट-बॉक्स" (जिसका अर्थ है कि हम उसकी आंतरिक विचार प्रक्रिया देख सकते हैं) है, तो मैनेजर उसके आंतरिक नोट्स लेता है। यदि कोई मॉडल "ब्लैक-बॉक्स" (जहाँ हम केवल अंतिम उत्तर देखते हैं) है, तो मैनेजर अंतिम निर्णय लेता है।
मैनेजर फिर इन मिश्रित संकेतों को एक छोटे, हल्के "जज" (न्यायाधीश) को भेजता है जो नए मामले के वास्तविक परिणामों को देखता है। यह जज सीखता है कि प्रत्येक जासूस पर कितना भरोसा करना है। यदि जीरो-शॉट विशेषज्ञ कला की नई शैली से भ्रमित है, तो जज उसके विचार को अनदेखा करना सीख जाता है। यदि स्थानीय नौसिखिया इसलिए गलत अनुमान लगा रहा है क्योंकि उसने पर्याप्त डेटा नहीं देखा है, तो जज फाइन-ट्यूनड विशेषज्ञ की ओर अधिक झुक जाता है। जादू यह है कि इस प्रणाली को इस तरह डिज़ाइन किया गया है कि यह कभी भी अकेले सबसे अच्छे जासूस से खराब प्रदर्शन नहीं कर सकती। यह एक सुरक्षा जाल की तरह है जो आपको गलत रणनीति चुनने पर बचा लेता है, जबकि यह उन सभी की ताकत को मिलाने की अनुमति भी देता है यदि इससे मदद मिले।
टीम ने इस विचार का दो तरीकों से परीक्षण किया। पहले, उन्होंने कंप्यूटर सिमुलेशन चलाए जहाँ वे ठीक से नियंत्रित कर सकते थे कि "सोर्स" (स्रोत) और "टारगेट" (लक्ष्य) दुनियाएँ कितनी भिन्न हैं। उन्होंने पाया कि जब दुनिया बहुत भिन्न थी, तो कोई भी एकल रणनीति अच्छी तरह से काम नहीं कर रही थी, लेकिन फ्रंटियर लर्निंग ने प्रतिस्पर्धा को पछाड़ दिया, जिससे सबसे अच्छी एकल रणनीति की तुलना में त्रुटियों में 89% तक की कमी आई। जब दुनिया समान थी, तब भी इसने सबसे अच्छी एकल रणनीति के समान प्रदर्शन किया, और कभी पीछे नहीं रही।
इसके बाद, उन्होंने इसे वास्तविक दुनिया में आजमाया। एक प्रयोग में, उन्होंने पेंटिंग्स में वस्तुओं को पहचानने की कोशिश की, जिसके लिए स्केच और फोटो पर प्रशिक्षित मॉडल्स का उपयोग किया गया। भले ही एक मॉडल (जो स्केच पर प्रशिक्षित था) पेंटिंग्स को पहचानने में अपने आप में बहुत खराब था, फ्रंटियर लर्निंग ने इसकी जानकारी का उपयोग कुल सटीकता को बढ़ाने के लिए पर्याप्त रूप से किया, जिससे यह अकेले उपयोग किए गए प्रत्येक मॉडल को पीछे छोड़ गया। दूसरे, उच्च-जोखिम वाले प्रयोग में, उन्होंने एक विशिष्ट गहन देखभाल इकाई (ICU) में मेडिकल नोट्स का उपयोग करके रोगी की मृत्यु दर की भविष्यवाणी करने के लिए इसका उपयोग किया। फिर से, एक अलग ICU पर प्रशिक्षित मॉडल, शून्य से प्रशिक्षित मॉडल और केवल उत्तरों के लिए पूछे गए मॉडल्स को मिलाकर, फ्रंटियर लर्निंग ने उच्चतम सटीकता प्राप्त की, जिससे यह सिद्ध हुआ कि कई आवाजों के समूह को सुनना अक्सर एक आवाज को सुनने से बेहतर होता है, भले ही वे आवाजें थोड़ी डगमगाती हुई क्यों न हों।
यह शोध पत्र सुझाव देता है कि सैकड़ों शक्तिशाली AI मॉडल्स के युग में, हमें केवल एक के प्रति प्रतिबद्ध होने के लिए मजबूर नहीं होना चाहिए। इसके बजाय, हम ऐसे सिस्टम बना सकते हैं जो उन्हें संयोजित करना सीख सकें, जिससे एक अधिक मजबूत और विश्वसनीय भविष्यवक्ता बन सके जो वास्तविक दुनिया में होने वाले बदलावों के अनुकूल हो सके।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।