Human-like Object Grouping in Self-supervised Vision Transformers
यह शोध पत्र यह प्रदर्शित करता है कि स्व-पर्यवेक्षित विजन ट्रांसफॉर्मर, विशेष रूप से जो DINO उद्देश्य के साथ प्रशिक्षित हैं, अपने निरूपणों (representations) में वस्तु-केंद्रित संरचना को कैप्चर करके मानव वस्तु धारणा के साथ निकटता से संरेखित होते हैं, एक ऐसा संबंध जिसे एक बड़े पैमाने के व्यवहारिक बेंचमार्क और ग्राम मैट्रिक्स विश्लेषण के माध्यम से मान्य किया गया है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। यह एक ऐसे प्रीप्रिंट की AI से तैयार की गई व्याख्या है जिसकी अभी सहकर्मी समीक्षा नहीं हुई है। यह चिकित्सकीय सलाह नहीं है। इस सामग्री के आधार पर स्वास्थ्य संबंधी फैसले न लें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक व्यस्त सड़क के दृश्य को देख रहे हैं। आपका मस्तिष्क केवल रंगों और आकृतियों का एक उलझा हुआ ढेर नहीं देखता; यह तुरंत चीजों को एक साथ समूह में बाँट देता है। आप "एक लाल कार," "एक चलता हुआ व्यक्ति," और "एक पेड़" देखते हैं, भले ही वह छवि केवल रंगों और आकृतियों का एक मिश्रण हो। दृश्य भागों को पूर्ण वस्तुओं में समूहबद्ध करने की यह क्षमता मानव मस्तिष्क की एक महाशक्ति है।
लंबे समय से, कंप्यूटर वैज्ञानिक AI को भी ऐसा ही करने के लिए सिखाने की कोशिश कर रहे हैं। लेकिन एक बड़ा सवाल बना हुआ था: क्या AI मॉडल वास्तव में वस्तुओं को वैसे ही "देखते" हैं जैसे मनुष्य देखते हैं, या वे केवल लेबल का अनुमान लगाने में माहिर हैं?
यह शोध पत्र मानव मनोविज्ञान प्रयोगों और उन्नत AI परीक्षणों के एक चतुर मिश्रण का उपयोग करके इस प्रश्न का उत्तर देने का प्रयास करता है। यहाँ उनकी खोज की कहानी है, जिसे सरल रूप में समझाया गया है।
1. "दो-बिंदु" परीक्षण: मनुष्य चीजों को कैसे समूह में बाँटते हैं
सबसे पहले, शोधकर्ताओं को यह मापने के लिए एक तरीका चाहिए था कि मनुष्य वस्तुओं को कैसे समूह में बाँटते हैं। उन्होंने "दो-बिंदु परीक्षण" (Two-Dot Test) नामक एक खेल बनाया।
- सेटअप: एक बिल्ली की फोटो की कल्पना करें। बिल्ली के शरीर के केंद्र में एक बिंदु (dot) दिखाई देता है। फिर, दूसरा बिंदु कहीं और दिखाई देता है—शायद बिल्ली की पूंछ पर, या शायद बैकग्राउंड में एक कुत्ते पर।
- कार्य: आपको जितनी जल्दी हो सके बटन दबाकर कहना है, "समान वस्तु!" या "अलग वस्तु!"
- रहस्य: शोधकर्ता केवल इस बात पर नहीं देख रहे थे कि क्या आप सही थे; वे यह माप रहे थे कि आपकी प्रतिक्रिया कितनी तेज थी।
- यदि बिंदु एक ही वस्तु पर थे (जैसे बिल्ली का सिर और पूंछ), तो आप तेज़ थे।
- यदि बिंदु अलग-अलग वस्तुओं पर थे, तो आप धीमे थे।
- यदि बिंदु एक ही वस्तु पर थे लेकिन एक-दूसरे से दूर थे, तो आप थोड़े धीमे थे (पास होने की तुलना में)।
उन्होंने सैकड़ों वास्तविक दुनिया की तस्वीरों का उपयोग करके कई लोगों के साथ इस प्रयोग को 1,000 बार चलाया। इससे यह समझने में मदद मिली कि हम वस्तुओं को कैसे देखते हैं, जिससे एक विशाल "मानव प्रतिक्रिया समय मानचित्र" तैयार हुआ।
2. AI प्रतियोगिता: कौन इंसान की तरह देखता है?
इसके बाद, उन्होंने कई अलग-अलग AI मॉडल (विज़न ट्रांसफॉर्मर और पुराने कनवल्शनल नेटवर्क) को लिया और उनसे वही खेल खेलने को कहा। बटन दबाने के बजाय, AI ने अपने "मन" में (अपने आंतरिक डेटा में) दो बिंदुओं के स्थानों को देखा और अनुमान लगाया कि क्या वे एक ही वस्तु पर हैं।
परिणाम:
- पुराने खिलाड़ी: इंसानों द्वारा लेबल दिखाए जाने पर प्रशिक्षित किए गए पुराने AI मॉडल (सुपरवाइज्ड लर्निंग) ठीक-ठाक थे, लेकिन बहुत अच्छे नहीं। वे उन छात्रों की तरह थे जिन्होंने उत्तर रट लिए हैं लेकिन वास्तव में अवधारणा को नहीं समझा है।
- नए सितारे: विजेता वे मॉडल थे जिन्हें सेल्फ-सुपरवाइज्ड लर्निंग (विशेष रूप से DINO नामक एक विधि) का उपयोग करके प्रशिक्षित किया गया था। इन्हें यह नहीं बताया गया था कि "यह एक बिल्ली है।" इसके बजाय, उन्हें लाखों छवियों में पैटर्न खोजने के लिए स्वतंत्र छोड़ दिया गया था।
- चैंपियन: DINOv3 मॉडल स्पष्ट विजेता था। इसने मानव प्रतिक्रिया समय की लगभग सटीक भविष्यवाणी की। यदि मनुष्य तेज़ थे, तो DINOv3 भी तेज़ था। यदि मनुष्यों को संघर्ष करना पड़ा, तो DINOv3 को भी संघर्ष करना पड़ा।
बड़ी सीख: AI को कैसे प्रशिक्षित किया गया था, यह उसके आर्किटेक्चर (ब्लूप्रिंट) से अधिक महत्वपूर्ण था। सेल्फ-सुपरवाइज्ड लर्निंग ने AI को अधिक मानवीय मस्तिष्क की तरह "सोचने" के काबिल बनाया।
3. "एफिनिटी मैप": AI कैसे देखता है?
तो, क्यों DINO मॉडल इतने अच्छे प्रदर्शन कर रहे थे? शोधकर्ताओं ने AI के दिमाग के अंदर झाँकने की कोशिश की।
उन्होंने "एफिनिटी मैप" (Affinity Map) नामक कुछ बनाया। कल्पना कीजिए कि आप AI हैं जो बिल्ली के कान पर एक विशिष्ट बिंदु को देख रहे हैं। AI खुद से पूछता है: "इस छवि का कौन सा अन्य हिस्सा इस कान के सबसे अधिक समान महसूस होता है?"
- एक खराब AI में, उत्तर हो सकता है: "नीला आकाश" या "घास"।
- DINO AI में, उत्तर है: "बिल्ली का बाकी शरीर!"
शोधकर्ताओं ने पाया कि इन शीर्ष प्रदर्शन करने वाले मॉडलों में, एक ही वस्तु के "बिंदु" स्वाभाविक रूप से AI के डेटा में एक साथ जुड़े रहते हैं, ठीक वैसे ही जैसे हमारे मस्तिष्क में होते हैं। वे इसे ऑब्जेक्ट-सेंट्रिक स्ट्रक्चर (वस्तु-केंद्रित संरचना) कहते हैं। यह "जुड़ाव" जितना मजबूत होगा, AI मानव व्यवहार की उतनी ही बेहतर भविष्यवाणी करेगा।
4. जादुई सामग्री: "ग्राम मैट्रिक्स"
अंत में, शोधकर्ताओं ने जानना चाहा कि क्या वे एक "खराब" AI को उसके सोचने के तरीके को बदलकर "अच्छा" बना सकते हैं।
उन्होंने सबसे अच्छे AI मॉडलों में "ग्राम मैट्रिक्स" (Gram Matrix) नामक एक गणितीय पैटर्न की खोज की। इसे एक छवि के हर एक पिक्सेल के लिए एक "सोशल नेटवर्क मैप" समझें।
- एक अच्छे मॉडल में, एक ही वस्तु के पिक्सेल "पक्के दोस्त" (अत्यधिक जुड़े हुए) होते हैं।
- अलग-अलग वस्तुओं के पिक्सेल "अजनबी" (बिल्कुल न जुड़े हुए) होते हैं।
शोधकर्ताओं ने एक मानक, सुपरवाइज्ड AI (जो "खराब" था) लिया और उसे इस DINO मॉडल के सोशल नेटवर्क मैप की नकल करने के लिए मजबूर किया। उन्होंने यह नहीं बदला कि AI क्या सीखने की कोशिश कर रहा था (वह अभी भी वस्तुओं को पहचानना सीख रहा था); उन्होंने बस यह बदला कि वह बिंदुओं को कैसे जोड़ता है।
परिणाम: "खराब" AI अचानक "अच्छा" हो गया। वस्तुओं को समूह में बाँटने की उसकी क्षमता और मानव प्रतिक्रिया समय की भविष्यवाणी करने की उसकी शक्ति तेजी से बढ़ी, जो लगभग चैंपियन मॉडल के बराबर पहुँच गई।
निष्कर्ष
यह शोध पत्र हमें तीन मुख्य बातें बताता है:
- सेल्फ-सुपरवाइज्ड लर्निंग ही कुंजी है: AI को अपने आप पैटर्न खोजने के लिए सिखाना (जैसे DINO) केवल लेबल याद करने की तुलना में वस्तुओं की अधिक मानवीय समझ पैदा करता है।
- संरचना मायने रखती है: सर्वश्रेष्ठ AI मॉडल अपने आंतरिक डेटा को इस तरह व्यवस्थित करते हैं कि एक ही वस्तु के भाग स्वाभाविक रूप से एक साथ "चिपके" रहते हैं।
- हम खराब AI को ठीक कर सकते हैं: केवल एक स्मार्ट AI के "सोशल नेटवर्क" (ग्राम मैट्रिक्स) को कम स्मार्ट AI पर कॉपी करके, हम इसे दुनिया को अधिक मानवीय तरीके से देखने में सक्षम बना सकते हैं।
संक्षेप में, ऐसे AI के निर्माण का मार्ग जो वास्तव में हमारी तरह "देख" सके, केवल उसे अधिक डेटा देने के बारे में नहीं है; यह उसे उस डेटा को इस तरह व्यवस्थित करने के लिए सिखाने के बारे में है जो हमारे आसपास की दुनिया की प्राकृतिक सीमाओं का सम्मान करता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।