💻 computer science

Diversity You Can Actually Measure: A Fast, Model-Free Diversity Metric for Robotics Datasets

यह शोध पत्र FAKTUAL प्रस्तुत करता है, जो एक तेज़, मॉडल-मुक्त डेटा क्यूरेशन एल्गोरिदम है जो विविध प्रदर्शन उपसमुच्चयों (demonstration subsets) को चुनने के लिए सिग्नेचर ट्रांसफॉर्म-आधारित एंट्रॉपी का लाभ उठाता है, जिससे पॉलिसी या रोलआउट्स तक पहुँच की आवश्यकता के बिना विभिन्न बेंचमार्क पर रोबोट इमिटेशन लर्निंग प्रदर्शन में महत्वपूर्ण सुधार होता है।

मूल लेखक: Sreevardhan Sirigiri, Nathan Samuel de Lara, Christopher Agia, Florian Shkurti, Fabio Ramos

प्रकाशित 2026-03-13

📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Sreevardhan Sirigiri, Nathan Samuel de Lara, Christopher Agia, Florian Shkurti, Fabio Ramos

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक रोबोट को एक विशिष्ट व्यंजन बनाना सिखाने की कोशिश कर रहे हैं, जैसे कि एक बेहतरीन ऑमलेट बनाना। आपके पास वीडियो रिकॉर्डिंग (प्रदर्शनों) का एक विशाल पुस्तकालय है जो मनुष्यों को यह कार्य करते हुए दिखाते हैं।

समस्या:
आप सोच सकते हैं, "मेरे पास जितने अधिक वीडियो होंगे, रोबोट उतना ही बेहतर सीखेगा!" लेकिन यह हमेशा सच नहीं होता।

यदि आपके पास 1,000 वीडियो हैं, लेकिन उनमें से 900 वीडियो बिल्कुल एक ही व्यक्ति को बिल्कुल एक ही तरीके से अंडा पलटते हुए दिखाते हैं, तो रोबोट ऊब जाता है और भ्रमित हो जाता है। वह केवल एक विशिष्ट ट्रिक सीखता है लेकिन यदि अंडा थोड़ा बड़ा हो या पैन का रंग अलग हो, तो वह विफल हो जाता है।
यदि आपके पास 1,000 वीडियो हैं जहाँ हर कोई इसे अलग तरह से करता है—कोई स्पैटुला का उपयोग करता है, कोई कांटे का, कोई तेज़ी से पकाता है, कोई धीरे, कोई अलग पैन का उपयोग करता है—तो रोबोट ऑमलेट की अवधारणा (concept) सीखता है, न कि केवल एक विशिष्ट गति।

चुनौती वैज्ञानिकों के लिए यह रही: हम वीडियो के ढेर में "विविधता" को कैसे गिनें?
आमतौर पर, हम केवल अंतिम परिणाम देखते हैं (क्या अंडा पक गया?)। लेकिन रोबോटिक्स में, यात्रा (process) मायने रखती है। दो लोग सफलतापूर्वक ऑमलेट बना सकते हैं, लेकिन एक अपना हाथ घेरे (circle) में घुमा सकता है जबकि दूसरा ज़िग-ज़ैग (zig-zag) में। मानक गणितीय उपकरण अक्सर इन सूक्ष्म अंतरों को पकड़ने में विफल रहते हैं क्योंकि वे वीडियो को एक स्थिर चित्र के रूप में देखते हैं, न कि एक चलती-फिरती कहानी के रूप में।

समाधान: FAKTUAL
इस शोध पत्र के लेखकों ने FAKTUAL नामक एक नया टूल बनाया है (जिसका अर्थ है FAst trajectory Kernel enTropy cUration for imitation Learning)।

यह कैसे काम करता है, इसके लिए सरल उपमाओं (analogies) का उपयोग किया गया है:

1. "हस्ताक्षर" की उपमा: गति का DNA

कल्पना कीजिए कि हर रोबोटिक मूवमेंट एक गाना है।

पुराना तरीका: हम केवल अंतिम नोट सुनते थे। यदि दो गाने "C" पर समाप्त होते थे, तो हम सोचते थे कि वे एक ही हैं।
FAKTUAL का तरीका: यह सिग्नेचर (Signature) को देखता है। सिग्नेचर को एक पूरी धुन के "DNA" या "फिंगरप्रिंट" के रूप में सोचें। यह लय, गति, उतार-चढ़ाव और गति की ज्यामिति (geometry) को एक साथ पकड़ता है। भले ही दो लोग अलग-अलग गति से चलें, उनका "सिग्नेचर" पहचान लेता है कि वे एक ही नृत्य कर रहे हैं।

2. "एन्ट्रॉपी" की उपमा: अराजकता को मापना

यह शोध पत्र एन्ट्रॉपी (Entropy) नामक एक अवधारणा का उपयोग करता है। रोजमर्रा की भाषा में, एन्ट्रॉपी को आश्चर्य या विविधता के माप के रूप में सोचें।

कम एन्ट्रॉपी (उबाऊ): 100 एक जैसे लाल गेंदों से भरा कमरा। आप जानते हैं कि आगे क्या दिखने वाला है।
उच्च एन्ट्रॉपी (विविध): 100 अलग-अलग रंगों, आकारों और बनावट वाली गेंदों से भरा कमरा। आप कभी नहीं जान पाएंगे कि आगे क्या दिखेगा।

FAKTUAL रोबोट के प्रशिक्षण वीडियो की "एन्ट्रॉपी" की गणना करता है। यह पूछता है: "यदि रोबोट ने अगला वीडियो देखा, तो वह कितना आश्चर्यचकित होगा?"

यदि उत्तर है "बिल्कुल भी आश्चर्यचकित नहीं" (क्योंकि उसने यह सटीक चाल पहले 50 बार देखी है), तो एन्ट्रॉपी कम है।
यदि उत्तर है "वाह, मैंने ऐसा पहले कभी नहीं देखा!" (क्योंकि वह चाल अद्वितीय है), तो एन्ट्रॉपी उच्च है।

3. "क्यूरेटर" की उपमा: एक स्मार्ट लाइब्रेरियन

अब, कल्पना कीजिए कि आपके पास 10,000 किताबों का एक पुस्तकालय है, लेकिन आपके पास केवल 1,000 किताबों के लिए जगह है।

यादृच्छिक चयन (Random Selection): आप यादृच्छिक रूप से 1,000 किताबें उठाते हैं। आप गलती से एक ही उपन्यास की 500 प्रतियां चुन सकते हैं।
FAKTUAL चयन: यह एक सुपर-स्मार्ट लाइब्रेरियन है। यह पूरी किताब नहीं पढ़ता (इसमें बहुत समय लगता है)। इसके बजाय, यह किताब के "फिंगरप्रिंट" (सिग्नेचर) को देखता है और उसके "विविधता स्कोर" (एन्ट्रॉपी) की जांच करता है।
- यह पहली किताब चुनता है।
- फिर, यह वह किताब चुनता है जो पहली वाली से सबसे अलग है।
- फिर, यह वह चुनता है जो उन दोनों से अलग है।
- यह तब तक जारी रखता है जब तक कि शेल्फ भर नहीं जाती।

परिणाम? 1,000 किताबों का एक छोटा, पूरी तरह से क्यूरेटेड संग्रह जो हर शैली, प्रकार और लेखक को कवर करता है, जिससे पाठक (रोबोट) को सर्वोत्तम शिक्षा मिलती है।

यह एक बड़ी बात क्यों है?

यह तेज़ है: इसे यह समझने के लिए पहले एक जटिल AI मॉडल को प्रशिक्षित करने की आवश्यकता नहीं है कि क्या अच्छा है। यह बस वीडियो पर गणित लागू करता है।
यह "मॉडल-मुक्त" (Model-Free) है: इसे यह जानने की आवश्यकता नहीं है कि रोबोट क्या सीखने की कोशिश कर रहा है (खाना बनाना, गाड़ी चलाना, या ब्लॉक जमाना)। यह बस जानता है कि "विविधता" कैसी दिखती है।
यह काम करता है: जब शोधकर्ताओं ने यादृच्छिक वीडियो या अन्य तरीकों द्वारा चुने गए वीडियो की तुलना में, FAKTUAL का उपयोग करके सर्वश्रेष्ठ वीडियो चुने, तो रोबोट तेजी से सीखे और नई, अप्रत्याशित स्थितियों को संभालने में बेहतर प्रदर्शन किया।

संक्षेप में:
FAKTUAL एक ऐसा टूल है जो रोबोट शिक्षकों को उदाहरणों के एक विशाल ढेर से सबसे विविध पाठ चुनने में मदद करता है। रोबोट को एक ही चीज़ करने के 1,000 तरीके सिखाने के बजाय, यह उसे समस्या को हल करने के 1,000 अलग तरीके सिखाता है, जिससे रोबोट अधिक स्मार्ट, अधिक लचीला और वास्तविक दुनिया को संभालने में बेहतर बनता है।

यहाँ शोध पत्र "Diversity You Can Actually Measure: A Fast, Model-Free Diversity Metric for Robotics Datasets" का विस्तृत तकनीकी सारांश दिया गया है।

1. समस्या विवरण (Problem Statement)

इमिटेशन लर्निंग (Imitation Learning - IL) के लिए रोबोटिक्स डेटासेट आमतौर पर लंबे-क्षितिज (long-horizon) वाले प्रक्षेपवक्रों (trajectories) से बने होते हैं जिनकी लंबाई भिन्न होती है, और जिनमें कई मोडैलिटीज़ (states, actions, और RGB वीडियो जैसे उच्च-आयामी अवलोकन) शामिल होती हैं।

चुनौती: ऐसे डेटासेट की विविधता (diversity) को मापना गैर-तुच्छ (non-trivial) है। मानक पॉइंटवाइज डिस्टेंस मेट्रिक्स विफल हो जाते हैं क्योंकि वे अंतर्निहित प्रक्षेपवक्र संरचना (trajectory structure) और ज्यामिति (geometry) की अनदेखी करते हैं। इसके अलावा, मौजूदा डेटा क्यूरेशन विधियाँ अक्सर सहायक मॉडल (जैसे VAEs, क्लासिफायर) को प्रशिक्षित करने पर निर्भर करती हैं या पॉलिसी रोलआउट्स तक पहुँच की आवश्यकता रखती हैं, जिससे वे कम्प्यूटेशनल रूप से महंगी और बड़े पैमाने पर प्री-ट्रेनिंग डेटासेट्स के लिए अनुपयुक्त हो जाती हैं।
लक्ष्य: लेखक एक सिद्धांतवादी, मॉडल-मुक्त (model-free) मीट्रिक स्थापित करने का लक्ष्य रखते हैं जो प्रक्षेपवक्र संरचना का सम्मान करते हुए डेटासेट की विविधता को मापे। वे इस मीट्रिक का उपयोग प्रदर्शनों (demonstrations) के ऐसे उपसमुच्चय (subsets) को क्यूरेट करने के लिए करना चाहते हैं जो अतिरिक्त पॉलिसी ट्रेनिंग या रोलआउट डेटा की आवश्यकता के बिना, रोबोट इमिटेशन लर्निंग में सामान्यीकरण प्रदर्शन (generalization performance) को अधिकतम करते हैं।

2. कार्यप्रणाली (Methodology)

मुख्य कार्यप्रणाली में सिग्नेचर कर्नेल (Signature Kernels) का उपयोग करके सूचना-सैद्धांतिक एंट्रॉपी (information-theoretic entropy) अवधारणाओं को प्रक्षेपवक्रों के स्थान (space of trajectories) में विस्तारित करना शामिल है।

A. सिग्नेचर ट्रांसफॉर्म और कर्नेल (Signature Transform and Kernel)

सिग्नेचर ट्रांसफॉर्म: लेखक प्रत्येक प्रदर्शन को एक उच्च-आयामी स्थान (states, actions, और एम्बेडेड ऑब्जर्वेशन का संयोजन) में एक पथ $x(t)$ के रूप में देखते हैं। सिग्नेचर ट्रांसफॉर्म इस पथ को पुनरावर्ती समाकलनों (iterated integrals) के एक गणनीय अनंत अनुक्रम में मैप करता है। महत्वपूर्ण रूप से, यह प्रतिनिधित्व रीपैरामेटराइजेशन के प्रति अपरिवर्तनीय (invariant to reparameterization) है (अर्थात, गति में परिवर्तन सिग्नेचर को नहीं बदलते हैं), जो इसे विभिन्न लंबाई या गति के प्रक्षेपवक्रों की तुलना करने के लिए आदर्श बनाता है।
सिग्नेचर कर्नेल: एक कर्नेल फंक्शन $k_{sig}(x, y)$ को दो पथों के सिग्नेचर के आंतरिक उत्पाद (inner product) के रूप में परिभाषित किया गया है। यह एक ऐसा समानता माप प्रदान करता है जो प्रक्षेपवक्रों की ज्यामितीय और अनुक्रमिक संरचना का सम्मान करता है।

B. एंट्रॉपी के माध्यम से विविधता को परिभाषित करना (Defining Diversity via Entropy)

लेखक डेटासेट से निर्मित सामान्यीकृत ग्रैम मैट्रिक्स (normalized Gram matrix) $K_{sig}$ के आइजनवैल्यू (eigenvalues) का उपयोग करके विविधता मीट्रिक को परिभाषित करते हैं:

सिग्नेचर शैनन एंट्रॉपी (Signature Shannon Entropy):
$H_{sig}^{shannon} = -\sum_{\lambda_i \in \Lambda} \lambda_i \ln \lambda_i$
जहाँ $\Lambda$ , $K_{sig}/n$ के आइजनवैल्यू हैं।
सिग्नेचर वॉन न्यूमैन एंट्रॉपी (Signature von Neumann Entropy):
$H_{sig}^{von neumann} = -\text{Tr}\left(\frac{K_{sig}}{n} \ln \frac{K_{sig}}{n}\right)$
पेपर यह सिद्ध करता है कि इस विशिष्ट कर्नेल निर्माण के लिए, शैनन और वॉन न्यूमैन एंट्रॉपी समकक्ष हैं।
डिटरमिनेंट-आधारित विविधता (Determinant-based Diversity): नमूनों द्वारा घेरे गए आयतन (volume) को $\det(K_{sig})$ द्वारा मापा जाता है। एक उच्च डिटरमिनेंट यह दर्शाता है कि नमूने फीचर स्पेस में एक बड़ा आयतन घेरते हैं (कम रेडंडेंसी)।

C. FAKTUAL एल्गोरिदम

FAKTUAL (FAst trajectory Kernel enTropy cUration for imitation Learning) एक डेटा क्यूरेशन रणनीति है जिसे आकार $m$ का एक उपसमुच्चय चुनने के लिए डिज़ाइन किया गया है जो इन विविधता मीट्रिक्स को अधिकतम करता है।

दृष्टिकोण: चूंकि एंट्रॉपी या डिटरमिनेंट को अधिकतम करने वाला सटीक उपसमुच्चय खोजना एक NP-hard कॉम्बिनेटरियल समस्या (Maximum Coverage) है, FAKTUAL एक अनुमानित समाधान खोजने के लिए एक ग्रीडी एल्गोरिदम (वैकल्पिक स्थानीय खोज के साथ) का उपयोग करता है।
हाइब्रिड रणनीति: यूनिफॉर्म रैंडमनेस (एंट्रॉपी) और चरम/आउटलियर बिंदुओं (आयतन) को शामिल करने के बीच संतुलन बनाने के लिए, एल्गोरिदम दो-चरणीय चयन का उपयोग करता है:
1. आकार $mp$ का एक उपसमुच्चय चुनें जो सिग्नेचर एंट्रॉपी को अधिकतम करता है।
2. शेष डेटा में से, आकार $m(1-p)$ का एक उपसमुच्चय चुनें जो सिग्नेचर डिटरमिनेंट को अधिकतम करता है।
मॉडल-मुक्त प्रकृति: एल्गोरिदम को इमिटेशन पॉलिसी तक कोई पहुँच की आवश्यकता नहीं है, न ही कोई पॉलिसी रोलआउट या सहायक मॉडल की। यह पूरी तरह से कच्चे डेटासेट पर संचालित होता है।

3. मुख्य योगदान (Key Contributions)

सैद्धांतिक विस्तार: लेखक सिग्नेचर कर्नेल ग्रैम मैट्रिक्स के आइजनवैल्यू पर परिभाषित करके रोबोटिक्स डेटासेट्स के लिए शैनन और वॉन न्यूमैन एंट्रॉपी का विस्तार करते हैं। यह प्रक्षेपवक्र डेटा के "सूचना सामग्री" (information content) को मापने का एक गणितीय रूप से सिद्धांतवादी तरीका प्रदान करता है।
FAKTUAL एल्गोरिदम: वे एक तेज़, मॉडल-मुक्त डेटा क्यूरेशन एल्गोरिदम पेश करते हैं जो प्रदर्शनों के विविध उपसमुच्चय चुनता है। यह कम्प्यूटेशनल रूप से कुशल है, जो पॉलिसी ट्रेनिंग की तुलना में नगण्य ओवरहेड जोड़ता है।
अनुभवजन्य सत्यापन (Empirical Validation): पेपर प्रदर्शित करता है कि विविधता-जागरूक क्यूरेशन (diversity-aware curation) डाउनस्ट्रीम पॉलिसी सफलता दर के साथ मजबूती से सह-संबंधित है। FAKTUAL लगातार रैंडम सिलेक्शन से बेहतर प्रदर्शन करता है और विशिष्ट व्यवस्थाओं में अधिक जटिल, मॉडल-आधारित क्यूरेशन विधियों के बराबर या उनसे अधिक प्रदर्शन करता है।
व्यावहारिक उपकरण: यह कार्य डेटासेट संरचना को समझने के लिए एक व्यावहारिक उपकरण प्रदान करता है, यह दिखाते हुए कि उच्च एंट्रॉपी (विविधता) पॉलिसी प्रदर्शन के लिए एक मजबूत भविष्यवक्ता है, विशेष रूप से जब डेटा की गुणवत्ता पहले से ही उच्च हो।

4. प्रयोगात्मक परिणाम (Experimental Results)

लेखकों ने RoboMimic (Can, Square, Transport) और MetaWorld (Door Open, Stick Push, Shelf Place) पर सिम्युलेटेड बेंचमार्क्स के साथ, और चार मैनिपुलेशन कार्यों (Drawer Open, Mug Drag, Pick-and-Place Marker, Organize Objects) का उपयोग करते हुए एक SO-ARM101 रोबोट पर वास्तविक दुनिया के कार्यों पर FAKTUAL का मूल्यांकन किया।

मुख्य निष्कर्ष:

सफलता के साथ सह-संबंध: सिग्नेचर एंट्रॉपी और पॉलिसी सफलता दर के बीच एक मजबूत सकारात्मक सह-संबंध (Pearson $r \approx 0.74 - 1.00$ ) है।
रैंडम बनाम प्रदर्शन: FAKTUAL लगातार रैंडम चयन से बेहतर प्रदर्शन करता है। "Can" (RoboMimic) जैसे कार्यों में, यह काफी कम प्रदर्शनों (demonstrations) के साथ उच्च सफलता दर प्राप्त करता है।
स्टेट-ऑफ-द-आर्ट बनाम प्रदर्शन:
- FAKTUAL आम तौर पर रैंडम प्रूनिंग (random pruning) से बेहतर है।
- यह जटिल, गुणवत्ता-आधारित विधियों (जैसे CUPID या Demo-SCORE) के तुलनीय या उससे थोड़ा कम प्रदर्शन करता है जिन्हें सहायक मॉडल को प्रशिक्षित करने या रोलआउट तक पहुँच की आवश्यकता होती है।
- महत्वपूर्ण लाभ: FAKTUAL काफी अधिक कम्प्यूटेशनल रूप से कुशल है। इसके लिए सहायक मॉडलों को प्रशिक्षित करने की महंगी अग्रिम लागत की आवश्यकता नहीं होती है, जो इसे बड़े पैमाने के मल्टी-टास्क प्री-ट्रेनिंग डेटासेट्स के लिए उपयुक्त बनाता है जहाँ अन्य विधियाँ बहुत महंगी हो सकती हैं।
कार्य निर्भरता (Task Dependency): सरल कार्यों पर, विविधता क्यूरेशन तत्काल लाभ देता है। कठिन कार्यों पर, विविधता का लाभ तब अधिक स्पष्ट हो जाता है जब डेटासेट का आकार बढ़ता है (एक बार जब सफल व्यवहारों का "घनत्व" स्थापित हो जाता है)।

5. महत्व और सीमाएँ (Significance and Limitations)

महत्व:

स्केलेबिलिटी: FAKTUAL सहायक स्कोरिंग मॉडलों को प्रशिक्षित करने के कम्प्यूटेशनल बॉटलनेक के बिना विशाल रोबोटिक्स डेटासेट्स (जैसे, Open X-Embodiment स्केल) को क्यूरेट करने में सक्षम बनाता है।
सैद्धांतिक अंतर्दृष्टि: यह प्रदर्शन-आधारित इमिटेशन लर्निंग की सामान्यीकरण क्षमता (generalization capability) और प्रक्षेपवक्य विविधता (सिग्नेचर एंट्रॉपी द्वारा मापी गई) के बीच एक सीधा संबंध स्थापित करता है।
पूरकता: लेखक तर्क देते हैं कि विविधता-आधारित क्यूरेशन (FAKTUAL) और गुणवत्ता-आधारित क्यूरेशन (खराब डेटा को फ़िल्टर करना) एक-दूसरे के पूरक हैं। FAKTUAL का उपयोग उच्च-गुणवत्ता वाले डेटा को चुने जाने के बाद समान कवरेज सुनिश्चित करने के लिए किया जा सकता है।

सीमाएँ:

गुणवत्ता बनाम विविधता: FAKTUAL स्वाभाविक रूप से कम-गुणवत्ता वाले या विफल प्रदर्शनों को फ़िल्टर नहीं करता है। यदि डेटासेट में कई "खराब" लेकिन विविध प्रक्षेपवक्य हैं, तो FAKTUAL उन्हें चुन सकता है। यह मानता है कि इनपुट डेटासेट पहले से ही उचित गुणवत्ता का है।
मॉडल क्षमता (Model Capacity): विविधता के लाभ पॉलिसी की क्षमता पर निर्भर करते हैं। यदि मॉडल बहुत कमजोर है, तो डेटा की बहुलता (multimodality) को पकड़ने के लिए, विविधता बढ़ाना मदद नहीं करेगा या प्रदर्शन को नुकसान भी पहुँचा सकता है।
एडवर्सरियल डेटा: यह विधि मानती है कि डेटासेट में ऐसे एडवर्सरियल या पैथोलॉजिकल प्रक्षेपवक्य नहीं हैं जो मौलिक रूप से भिन्न लेकिन सीखने के लिए हानिकारक हों।

निष्कर्षतः, यह शोध पत्र FAKTUAL को विविध रोबोटिक्स डेटासेट्स को क्यूरेट करने के लिए एक व्यावहारिक, कुशल और सैद्धांतिक रूप से आधारित समाधान के रूप में प्रस्तुत करता है, और यह सिद्ध करता है कि प्रक्षेपवक्य एंट्रॉपी (trajectory entropy) को अधिकतम करना इमिटेशन लर्निंग प्रदर्शन को सुधारने के लिए एक व्यवहार्य प्रॉक्सी है।