← नवीनतम पेपर
🤖 machine learning

Grounding Computer Use Agents on Human Demonstrations

मूल लेखक: Aarash Feizi, Shravan Nayak, Xiangru Jian, Kevin Qinghong Lin, Kaixin Li, Rabiul Awal, Xing Han Lù, Johan Obando-Ceron, Juan A. Rodriguez, Nicolas Chapados, David Vazquez, Adriana Romero-Soriano, Reih
प्रकाशित 2026-06-11
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Aarash Feizi, Shravan Nayak, Xiangru Jian, Kevin Qinghong Lin, Kaixin Li, Rabiul Awal, Xing Han Lù, Johan Obando-Ceron, Juan A. Rodriguez, Nicolas Chapados, David Vazquez, Adriana Romero-Soriano, Reihaneh Rabbany, Perouz Taslakian, Christopher Pal, Spandana Gella, Sai Rajeswar

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, लेकिन दृष्टि संबंधी रूप से अनाड़ी (visually clumsy) रोबोट को कंप्यूटर का उपयोग करना सिखाने की कोशिश कर रहे हैं। आप रोबोट को मौखिक निर्देश दे सकते हैं जैसे, "फ़ाइल को सेव करने के लिए हरे बटन पर क्लिक करें," लेकिन रोबोट को पता ही नहीं है कि वह बटन कहाँ है। वह गलत हरे रंग की चीज़ पर क्लिक कर सकता है, या बटन को पूरी तरह से मिस कर सकता है क्योंकि वह बहुत छोटा है या किसी और चीज़ जैसा दिखता है। इस समस्या को "ग्राउंडिंग" (grounding) कहा जाता है—शब्दों को स्क्रीन के उस सटीक स्थान से जोड़ना जिसे छूने की ज़रूरत रोबोट को है।

यह शोध पत्र इस बारे में बेहतर, तेज़ और कम प्रयास के साथ रोबोट को यह सिखाने के लिए एक नया समाधान पेश करता है।

समस्या: रोबोट आइकनों के समुद्र में खो गया है

डेस्कटॉप कंप्यूटर अव्यवस्थित होते हैं। उनमें विशाल, हाई-रिज़ॉल्यूशन वाली स्क्रीन होती है जो छोटे-छोटे आइकनों, मेनू और बटनों से भरी होती है जो लगभग एक जैसे दिखते हैं। रोबोट को सिखाने के पिछले प्रयासों में भारी मात्रा में डेटा का उपयोग किया गया था, लेकिन उसका अधिकांश हिस्सा "शोर" (noisy) वाला था या कंप्यूटर द्वारा बनाया गया था न कि वास्तविक मनुष्यों द्वारा। यह किसी को लाखों धुंधली, कंप्यूटर-जनरेटेड तस्वीरों को दिखाकर कार चलाना सिखाने जैसा था; वे सिद्धांत तो सीख सकते हैं, लेकिन वास्तविक दुनिया में दुर्घटनाग्रस्त हो सकते हैं।

समाधान: GROUNDCUA (द "एक्सपर्ट ट्यूटर" डेटासेट)

लेखकों ने GROUNDCUA नामक एक नया, विशाल डेटासेट बनाया है। इसे केवल यादृच्छिक (random) तस्वीरों का ढेर न समझें, बल्कि यह विशेषज्ञ प्रदर्शनों (expert demonstrations) का एक पुस्तकालय है।

  • वास्तविक मनुष्य, वास्तविक कार्य: उन्होंने प्रशिक्षित विशेषज्ञों को 87 अलग-अलग डेस्कटॉप एप्लिकेशन (जैसे ड्राइंग टूल्स, स्प्रेडशीट्स और कोडिंग सॉफ्टवेयर) का उपयोग करके वास्तविक कार्य करने के लिए काम पर रखा।
  • "एक्स-रे" विज़न: जैसे-जैसे ये विशेषज्ञ काम कर रहे थे, सिस्टम ने स्क्रीनशॉट लिए और महत्वपूर्ण रूप से, प्रत्येक दृश्य तत्व (visible element) को लेबल किया। यदि किसी विशेषज्ञ ने एक छोटे "सेव" आइकन पर क्लिक किया, तो सिस्टम ने नोट किया कि वह ठीक कहाँ था, वह कैसा दिखता था, और विशेषज्ञ क्या करने की कोशिश कर रहा था।
  • पैमाना (Scale): उन्होंने 56,000 स्क्रीनशॉट एकत्र किए जिनमें 3.5 मिलियन से अधिक लेबल किए गए तत्व थे। यह रोबोट को एक ऐसी पाठ्यपुस्तक देने जैसा है जहाँ हर तस्वीर में मौजूद हर एक वस्तु को एक मानव शिक्षक द्वारा नाम दिया गया है और समझाया गया है।

नया मॉडल: GROUNDNEXT (द "स्टार स्टूडेंट")

इस उच्च-गुणवत्ता वाले डेटासेट का उपयोग करके, टीम ने GROUNDNEXT नामक AI मॉडलों का एक नया परिवार बनाया।

  • दो-चरणीय प्रशिक्षण (Two-Step Training):
    1. सुपरवाइज्ड फाइन-ट्यूनिंग (SFT): सबसे पहले, उन्होंने मॉडल को 700,000 बेहतरीन उदाहरणों का उपयोग करके सिखाया। कल्पना कीजिए कि एक छात्र विशेषज्ञों द्वारा लिखी गई एक आदर्श पाठ्यपुस्तक का अध्ययन कर रहा है।
    2. रीइन्फोर्समेंट लर्निंग (RL): इसके बाद, उन्होंने मॉडल को अभ्यास करने दिया। जब इसने सही अनुमान लगाया, तो इसे "अच्छा काम किया" का इनाम मिला; जब इसने गलत अनुमान लगाया, तो इसे "फिर से प्रयास करें" का संकेत मिला। इसने इसके कौशल को और अधिक परिष्कृत किया।

परिणाम: छोटा आकार, बड़ा दिमाग

यहाँ आश्चर्यजनक बात यह है: टीम ने अपने मॉडलों को अन्य शीर्ष मॉडलों द्वारा उपयोग किए गए डेटा के दसवें हिस्से से भी कम डेटा का उपयोग करके प्रशिक्षित किया।

  • दक्षता (Efficiency): उनके 3-बिलियन-पैरामीटर वाले मॉडल (एक अपेक्षाकृत छोटा "दिमाग") ने उतना ही अच्छा प्रदर्शन किया, या उससे बेहतर किया, जितना कि बहुत बड़े मॉडल जो लाखों बिखरे हुए डेटा बिंदुओं पर प्रशिक्षित थे।
  • "अंडरडॉग" की जीत: उन परीक्षणों में जहाँ AI को कंप्यूटर उपयोगकर्ता के रूप में कार्य करना था (क्लिक करना, टाइप करना, ड्रैग करना), उनके छोटे मॉडल ने बड़ी तकनीकी कंपनियों के कुछ बड़े प्रतिस्पर्धियों को भी पीछे छोड़ दिया। यह एक ऐसे छात्र की तरह है जिसने कुछ बेहतरीन किताबें पढ़ीं और एक ऐसे छात्र से बेहतर प्रदर्शन किया जिसने लाखों रैंडम पत्रिकाएं पढ़ीं।
  • सामान्यीकरण (Generalization): भले ही उन्हें केवल डेस्कटॉप कंप्यूटरों पर प्रशिक्षित किया गया था, लेकिन यह मोबाइल फोन और वेबसाइटों को समझने में भी आश्चर्यजनक रूप से अच्छा रहा, जिससे पता चलता है कि इसने कंप्यूटर उपयोग के सिद्धांतों को सीखा, न कि केवल विशिष्ट स्क्रीन को रटा।

यह क्यों मायने रखता है

यह शोध पत्र तर्क देता है कि मात्रा से अधिक गुणवत्ता महत्वपूर्ण है। समस्या में अधिक और अधिक डेटा डालने के बजाय, उन्होंने दिखाया कि यदि आपके पास उच्च-गुणवत्ता वाला, मानव-सत्यापित डेटा है, तो आप बहुत कम संसाधनों के साथ बहुत अधिक विश्वसनीय कंप्यूटर-उपयोग करने वाले एजेंट बना सकते हैं।

वे दोनों डेटासेट (GROUNDCUA) और मॉडल (GROUNDNEXT) को जनता के लिए जारी कर रहे हैं, इस उम्मीद में कि यह अन्य शोधकर्ताओं को बेहतर, अधिक विश्वसनीय रोबोट बनाने में मदद करेगा जो वास्तव में हमें अपने कंप्यूटर का उपयोग करने में मदद कर सकें बिना आइकनों में खोए।

संक्षेप में: उन्होंने एक रोबोट को हजारों आदर्श, मानव-प्रदर्शित उदाहरण दिखाकर कंप्यूटर का उपयोग करना सिखाया, यह साबित करते हुए कि उच्च-गुणवत्ता वाले थोड़े से शिक्षण से बहुत कुछ हासिल किया जा सकता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →