← नवीनतम पेपर
💻 computer science

DeepEyes: Incentivizing "Thinking with Images" via Reinforcement Learning

DeepEyes एक लार्ज विजन-लैंग्वेज मॉडल है जो सक्रिय धारणा (active perception) के माध्यम से स्वाभाविक रूप से "छवियों के साथ सोचने" को सीखने के लिए सुदृढीकरण शिक्षण (reinforcement learning) का लाभ उठाता है, जो इसे पूर्व-संग्रहित तर्क डेटा की आवश्यकता के बिना दृश्य जानकारी में रणनीतिक रूप से तर्क को स्थापित करने में सक्षम बनाता है और धारणा, तर्क और ग्राउंडिंग कार्यों में महत्वपूर्ण सुधार प्राप्त करता है।

मूल लेखक: Ziwei Zheng, Michael Yang, Jack Hong, Chenxiao Zhao, Guohai Xu, Le Yang, Chao Shen, Xing Yu

प्रकाशित 2026-03-03
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Ziwei Zheng, Michael Yang, Jack Hong, Chenxiao Zhao, Guohai Xu, Le Yang, Chao Shen, Xing Yu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

DeepEyes: AI को "कदम उठाने से पहले देखना" सिखाना

कल्पना कीजिए कि आप एक कठिन गणित की परीक्षा दे रहे हैं, लेकिन केवल प्रश्न पढ़ने के बजाय, आपको चित्र का निरीक्षण करने, छोटे नंबरों को ज़ूम करने, या कागज को अलग कोण से देखने के लिए एक आवर्धक लेंस (magnifying glass) का उपयोग करने की अनुमति है। वर्तमान के अधिकांश AI मॉडल उन छात्रों की तरह हैं जिन्हें केवल टेक्स्ट पढ़कर उत्तर देने के लिए मजबूर किया जाता है, भले ही उत्तर चित्र के किसी सूक्ष्म विवरण में छिपा हो। वे अक्सर इस आधार पर अनुमान लगाते हैं कि टेक्स्ट को क्या होना चाहिए, बजाय इसके कि चित्र वास्तव में क्या दिखा रहा है

DeepEyes एक नया AI मॉडल है जो अनुमान लगाना छोड़ देता है और देखना सीखता है। यह सक्रिय रूप से ज़ूम करने, क्रॉप करने और एक चित्र के हिस्सों का परीक्षण करने के माध्यम से "छवियों के साथ सोचने" का कौशल सीखता है, ठीक वैसे ही जैसे एक इंसान करता है।

यहाँ बताया गया है कि यह कैसे काम करता है, जिसे सरल अवधारणाओं में विभाजित किया गया है:

1. समस्या: "अंधा" जीनियस

वर्तमान AI मॉडल (विज़न-लैंग्वेज मॉडल्स) पढ़ने और बात करने में अविश्वसनीय रूप से स्मार्ट हैं। वे एक चित्र का वर्णन पूरी तरह से कर सकते हैं। लेकिन जब बात चित्र के बारे में तर्क (reasoning) करने की आती है, तो वे अक्सर अंधेरे में मानचित्र पढ़ने वाले व्यक्ति की तरह व्यवहार करते हैं। वे मानचित्र आमतौर पर कैसे दिखते हैं, इसकी अपनी स्मृति पर भरोसा करते हैं, बजाय इसके कि वे सामने मौजूद विशिष्ट विवरणों को वास्तव में देखें।

  • उपमा: एक जासूस की कल्पना करें जो अपराध को सुलझाने की कोशिश कर रहा है। एक मानक AI उस जासूस की तरह है जो पुलिस रिपोर्ट पढ़ता है और विवरण के आधार पर अपराधी का अनुमान लगाता है। DeepEyes वह जासूस है जो आवर्धक लेंस पहनता है, खिड़की के पास जाता है, और वास्तव में उंगलियों के निशान (fingerprints) खोजने के लिए देखता है।

2. समाधान: सक्रिय धारणा (The "Magnifying Glass" Skill)

DeepEyes केवल पूरी छवि को घूरता नहीं है। इसके पास सक्रिय धारणा (Active Perception) नामक एक विशेष क्षमता है।

  • यह कैसे काम करता है: जैसे-जैसे AI किसी समस्या पर विचार करता है, वह निर्णय ले सकता है, "रुको, मैं यहाँ से घड़ी को स्पष्ट रूप से नहीं देख पा रहा हूँ। मुझे बुकशेल्फ़ पर ज़ूम करने की आवश्यकता है।"
  • जादू: यह उस विशिष्ट क्षेत्र का एक "क्रॉप" (ज़ूम-इन किया हुआ चित्र) बनाता है, उसे अपनी मेमोरी में जोड़ता है, और सोचना जारी रखता है। यह कई बार ऐसा कर सकता है, जिससे टेक्स्ट और ज़ूम-इन छवियों का मिश्रण एक 'चेन ऑफ थॉट' (विचारों की श्रृंखला) बनाता है।

3. इसने कैसे सीखा: "वीडियो गेम" पद्धति

आमतौर पर, किसी AI को कुछ जटिल सिखाने के लिए, इंसानों को हजारों उदाहरण लिखने पड़ते हैं जैसे "चरण 1: यहाँ देखो, चरण 2: यह कहो।" यह धीमा और महंगा है।

DeepEyes ने अलग तरह से सीखा। शोधकर्ताओं ने रीइन्फोर्समेंट लर्निंग (Reinforcement Learning) का उपयोग किया, जो एक कुत्ते या वीडियो गेम के पात्र को प्रशिक्षित करने जैसा है:

  • कोई चीट शीट नहीं: उन्होंने AI को कोई पूर्व-लिखित स्क्रिप्ट नहीं दी।
  • पुरस्कार प्रणाली (The Reward System): उन्होंने AI को अपने आप समस्याओं को हल करने की कोशिश करने दी।
    • यदि इसने बिना देखे अनुमान लगाया, तो इसे कम स्कोर मिला।
    • यदि इसने ज़ूम इन करने और विवरणों की जांच करने के बाद सही उत्तर दिया, तो इसे बोनस इनाम मिला।
  • परिणाम: समय के साथ, AI ने महसूस किया कि "करीब से देखना" जीतने की कुंजी है। इसने सहज रूप से अपने "आवर्धक लेंस" का उपयोग करना सीख लिया, ठीक वैसे ही जैसे एक इंसान छोटे प्रिंट को पढ़ने के लिए अपनी आँखें सिकोड़ना सीखता है।

4. विकास: अनाड़ी से मास्टर तक

पेपर में इस बात का दिलचस्प वर्णन है कि AI ने कैसे सीखा:

  1. चरण 1 (अनाड़ी खोजकर्ता): शुरू में, AI भ्रमित था। यह बेतरतीब ढंग से ज़ूम करता था, जैसे कोई बच्चा रिमोट कंट्रोल के हर बटन को दबा रहा हो। उसे नहीं पता था कि कहाँ देखना है।
  2. चरण 2 (अति-उत्साही): फिर, उसे एहसास हुआ कि ज़ूम करने से मदद मिलती है! लेकिन वह बहुत आगे निकल गया। वह हर चीज़ पर ज़ूम करने लगा, बहुत सारी तस्वीरें माँगने लगा, जिससे समय बर्बाद हुआ।
  3. चरण 3 (मास्टर डिटेक्टिव): अंततः, वह कुशल बन गया। उसने पूरे चित्र को देखना, यह समझना कि ठीक कौन सा छोटा विवरण गायब है, और उस विशिष्ट स्थान पर एक बार ज़ूम करना और समस्या को हल करना सीख लिया। उसने रणनीतिक होना सीखा।

5. यह क्यों महत्वपूर्ण है

यह केवल गणित की समस्याओं को हल करने या लिविंग रूम में घड़ियों को खोजने के बारे में नहीं है। यह इस बात को बदल देता है कि AI दुनिया के साथ कैसे बातचीत करता है:

  • कम मतिभ्रम (Fewer Hallucinations): AI अक्सर "हैलुसिनेट" (चीजें बनाना) करता है क्योंकि वह टेक्स्ट पैटर्न पर निर्भर करता है। दृश्य साक्ष्य (visual evidence) को देखकर, यह चीजें बनाना बंद कर देता है।
  • बेहतर तर्क (Better Reasoning): यह जटिल चार्ट, उच्च-रिज़ॉल्यूशन वाली तस्वीरों में छोटे टेक्स्ट और कठिन तर्क पहेलियों को संभाल सकता है जिनमें विभिन्न भागों की तुलना करने की आवश्यकता होती है।
  • मानव जैसी सोच: यह नकल करता है कि मनुष्य दृश्य समस्याओं को कैसे हल करते हैं: हम केवल घूरते नहीं हैं; हम स्कैन करते हैं, ध्यान केंद्रित करते हैं, और पुष्टि करते हैं।

संक्षेप में

DeepEyes एक ऐसा AI है जिसने अनुमान लगाना छोड़ना और जांच करना सीखना सीखा। छवियों के निष्क्रिय पाठक होने के बजाय, यह एक सक्रिय खोजकर्ता बन गया, जो विवरणों में छिपे सच को खोजने के लिए "आवर्धक लेंस" का उपयोग करता है। और सबसे अच्छी बात? इसने बिना किसी मानवीय मैनुअल के, परीक्षण और त्रुटि (trial and error) के माध्यम से खुद को यह करना सिखाया।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →