WinDOM: Self-Family Distillation for Small-Model GUI Grounding
WinDOM एक स्व-पर्यवेक्षित (self-supervised) ढांचे को पेश करता है जो छोटे GUI-ग्राउंडिंग एजेंटों के लिए एक DOM-हार्वेस्टेड प्रशिक्षण संग्रह को सेल्फ-फैमिली डिस्टिलेशन और सुदृढीकरण लर्निंग (Reinforcement Learning) के साथ जोड़ता है, जो यह प्रदर्शित करता है कि एक कम-संतृप्त कोल्ड-स्टार्ट इनिशियलाइज़ेशन बाहरी शिक्षकों या मानव एनोटेशन की आवश्यकता के बिना छोटे मॉडलों के प्रदर्शन को महत्वपूर्ण रूप से बढ़ाता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक नन्हे, ऊर्जावान पिल्ले (एक छोटे AI मॉडल) को एक जटिल वीडियो गेम की दुनिया (कंप्यूटर स्क्रीन) में नेविगेट करना सिखाने की कोशिश कर रहे हैं, जिसमें उसे विशिष्ट बटनों पर क्लिक करना है। समस्या यह है कि पिल्ला छोटा है और आसानी से भ्रमित हो जाता है, और उसे सिखाने के लिए आमतौर पर एक इंसान को घंटों वहां बैठना पड़ता है, हर एक बटन की ओर इशारा करते हुए कहना पड़ता है, "यहाँ क्लिक करो।" यह महंगा और धीमा है।
WinDOM: Self-Family Distillation नामक शोध पत्र एक चतुर, तीन-भागों वाला नुस्खा प्रस्तावित करता है ताकि इस पिल्ले को बिना किसी मानव शिक्षक या किसी विशाल, महंगे सुपर-कंप्यूटर के एक प्रो (pro) बनने के लिए प्रशिक्षित किया जा सके।
यहाँ सरल उपमाओं का उपयोग करके इसका विवरण दिया गया है:
1. "जादुई मानचित्र" (WinDOM डेटा)
समस्या: आमतौर पर, AI को यह सिखाने के लिए कि उसे कहाँ क्लिक करना है, आपको एक इंसान द्वारा स्क्रीनशॉट पर हर बटन के चारों ओर एक बॉक्स बनाना पड़ता है। यह एक शहर की हर सड़क का नक्शा हाथ से बनाने के लिए एक मानचित्रकार (cartographer) को काम पर रखने जैसा है।
समाधान: लेखकों ने एक "आभासी कंप्यूटर" (Windows 11 का वेब संस्करण) का उपयोग किया। क्योंकि यह एक वेबसाइट है, कंप्यूटर पहले से ही जानता है कि उसके कोड (जिसे "DOM" कहा जाता है) में प्रत्येक बटन कहाँ स्थित है।
उपमा: एक इंसान को फोटो देखकर यह अंदाजा लगाने के लिए काम पर रखने के बजाय कि दरवाजा कहाँ है, लेखकों ने उस घर से ही पूछा, "मैं एक दरवाजा हूँ, और मैं X, Y निर्देशांक (coordinates) पर स्थित हूँ!"
उन्होंने WinDOM नामक एक विशाल डेटासेट बनाया (54,000 उदाहरण), जहाँ AI कोड से इन "पुकारों" को पढ़कर क्लिक करना सीखता है। यहाँ किसी इंसान ने बॉक्स नहीं बनाए, और न ही किसी AI को यह अंदाजा लगाने के लिए धुंधले टेक्स्ट (OCR) को पढ़ने की आवश्यकता पड़ी कि बटन क्या कह रहा था। यह एक मुफ्त, सटीक मानचित्र है जो स्वचालित रूप से उत्पन्न होता है।
2. "पारिवारिक ट्यूटर" (Self-Family Distillation)
समस्या: एक बार जब AI के पास मानचित्र आ जाता है, तो उसे यह सीखना होता है कि उसका उपयोग कैसे किया जाए। आमतौर पर, आप एक छोटे AI को एक विशाल, सुपर-स्मार्ट AI के शिक्षक के रूप में उपयोग करके प्रशिक्षित करते हैं। लेकिन एक विशाल AI को चलाना महंगा होता है।
समाधान: लेखकों ने Self-Family Distillation (SFD) नामक एक विधि का आविष्कार किया।
उपमा: कल्पना कीजिए कि एक छात्र (छोटा AI) सीखने की कोशिश कर रहा है।
- विकल्प A (बड़ा शिक्षक): छात्र अपने एक प्रतिभाशाली बड़े भाई/बहन (एक बड़े 4B AI मॉडल) के नोट्स से पढ़ता है।
- विकल्प B (स्वयं-शिक्षक): छात्र अपने ही "भविष्य के स्वयं" (अपने पिछले प्रदर्शन के औसत से निर्मित अपने ही थोड़े अधिक स्मार्ट संस्करण) के नोट्स से पढ़ता है।
लेखकों ने पाया कि विकल्प B लगभग विकल्प A के समान ही प्रभावी ढंग से काम करता है। छात्र अपने स्वयं के थोड़े बेहतर अनुमानों को देखकर, गलत अनुमानों को खारिज करके और अच्छे अनुमानों को रखकर खुद को सिखा सकता है। इसका मतलब है कि आपको बैकग्राउंड में एक विशाल, महंगे कंप्यूटर चलाने की आवश्यकता नहीं है; छोटा मॉडल खुद से सीख सकता है।
3. "बहुत जल्दी रुकने" की तकनीक (Cold-Start Depth)
समस्या: AI को प्रशिक्षित करते समय, एक आम धारणा है कि आपको छात्र को तब तक अध्ययन करने देना चाहिए जब तक कि वह पूर्ण (पूरी तरह से 'कन्वर्ज्ड') न हो जाए, इससे पहले कि उसे अपने दम पर अभ्यास करने दिया जाए।
समाधान: लेखकों ने पाया कि इस विशिष्ट कार्य के लिए इसके विपरीत सत्य है।
उपमा: AI को क्लिक करना सिखाने को एक छात्र द्वारा परीक्षा देने के रूप में सोचें।
- "देरी से" शुरुआत: यदि आप छात्र को तब तक अध्ययन करने देते हैं जब तक कि उसने पाठ्यपुस्तक को पूरी तरह से रट न लिया हो (पूर्ण अभिसरण/fully converged), तो वह कठोर (rigid) हो जाता है। जब वह एक नए टेस्ट में बैठता है जिसमें थोड़े अलग प्रश्न होते हैं (Out-of-Distribution), तो वह विफल हो जाता है क्योंकि उसने केवल उत्तर रट लिए थे, तर्क नहीं सीखा था।
- "जल्दी" शुरुआत: यदि आप अध्ययन सत्र को इससे पहले रोक देते हैं कि छात्र ने सब कुछ रट लिया हो (एक "अंडर-सैचुरेटेड" शुरुआत), तो छात्र अभी भी लचीला और जिज्ञासु रहता है। जब आप फिर उन्हें अभ्यास (Reinforcement Learning) करने देते हैं, तो वे बेहतर तरीके से सामान्यीकरण (generalize) करना और नई, कठिन स्थितियों को संभालना सीखते हैं।
परिणाम: प्रशिक्षण को जल्दी रोककर और AI को तुरंत अभ्यास करने देकर, वह मॉडल आश्चर्यजनक रूप से उन स्क्रीन्स पर क्लिक करने में सक्षम हो गया जिन्हें उसने पहले कभी नहीं देखा था। उसने उन मॉडलों को भी मात दी जिन्हें लंबे समय तक प्रशिक्षित किया गया था और उन मॉडलों को भी जो उसके आकार से दोगुने थे।
जीत का सारांश
यह शोध पत्र दिखाता है कि आप एक बहुत ही सक्षम "क्लिकिंग" AI बना सकते हैं:
- मुफ्त डेटा: एक वेब-आधारित कंप्यूटर से स्वचालित रूप से उत्पन्न (कोई मानव बॉक्स नहीं खींचता)।
- स्वयं-शिक्षण: छोटा मॉडल अपने ही "परिवार" या स्वयं से सीखता है, जिससे एक विशाल शिक्षक की लागत बचती है।
- जल्दी रोकना: प्रारंभिक प्रशिक्षण को जल्दी रोकने से वास्तव में AI नई स्क्रीन्स को संभालने में अधिक स्मार्ट बनता है।
परिणामस्वरूप, एक छोटा, सस्ता AI मिलता है जो बड़े, महंगे मॉडलों के लगभग बराबर कंप्यूटर इंटरफेस को नेविगेट कर सकता है, और इसके लिए डेटा को लेबल करने के लिए किसी भी मानव की आवश्यकता नहीं होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।