← नवीनतम पेपर
💻 computer science

Multimodal QUD: Inquisitive Questions from Scientific Figures

यह शोधपत्र MQUD को प्रस्तुत करता है, जो एक नवीन डेटासेट और ढांचा है जो वैज्ञानिक चित्रों और उनके साथ दिए गए पाठ से जिज्ञासु, संदर्भ-जागरूक प्रश्न उत्पन्न करके 'क्वेश्चन्स अंडर डिस्कशन' (QUD) के भाषाई सिद्धांत को मल्टीमॉडल डोमेन तक विस्तारित करता है, जिससे विजन-लैंग्वेज मॉडल्स को सरल दृश्य निष्कर्षण से परे उच्च-स्तरीय तर्क करने में सक्षम बनाया जा सके।

मूल लेखक: Yating Wu, William Rudman, Venkata S Govindarajan, Alexandros G. Dimakis, Junyi Jessy Li

प्रकाशित 2026-04-28
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Yating Wu, William Rudman, Venkata S Govindarajan, Alexandros G. Dimakis, Junyi Jessy Li

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "Multimodal QUD: Inquisitive Questions from Scientific Figures" पेपर का सरल भाषा और रचनात्मक उपमाओं (analogies) के साथ विवरण दिया गया है।

मुख्य विचार: एक जासूस की मानसिकता के साथ पढ़ना

कल्पना कीजिए कि आप एक रहस्यमयी उपन्यास पढ़ रहे हैं। एक अच्छा पाठक केवल शब्दों को नहीं पढ़ता; वह प्रश्न भी पूछता है। जब वे देखते हैं कि कोई पात्र एक पत्र छिपा रहा है, तो वे सोचते हैं, "वे उसे क्यों छिपा रहे हैं?" जब वे एक मानचित्र पर लाल 'X' देखते हैं, तो वे सोचते हैं, "उस स्थान पर क्या है?"

यह पेपर तर्क देता है कि जब वैज्ञानिक शोध पत्र (research papers) पढ़ते हैं, तो वे बिल्कुल यही करते हैं। वे पाठ (text) और चित्रों (figures) (चार्ट, ग्राफ, आरेख) को देखते हैं और कहानी को समझने के लिए गहरे, जिज्ञासु प्रश्न पूछते हैं।

हालाँकि, वर्तमान AI मॉडल बुरे जासूसों की तरह हैं। वे पाठ पढ़ सकते हैं और चित्र देख सकते हैं, लेकिन वे केवल उथले प्रश्न पूछते हैं जैसे, "इस रेखा का रंग क्या है?" या "वहाँ कितने बार (bars) हैं?" वे बड़ी तस्वीर (big picture) को समझने में चूक जाते हैं।

यह पेपर AI को एक बेहतर जासूस बनना सिखाने का एक नया तरीका पेश करता है। वे इसे Multimodal QUD (Questions Under Discussion) कहते हैं।

समस्या: "क्या" बनाम "क्यों"

एक वैज्ञानिक शोध पत्र को एक अदालती मुकदमे की तरह समझें।

  • पाठ (Text) वकील का भाषण है।
  • चित्र (Figure) सबूत है (एक फोटो, एक चार्ट, एक फिंगरप्रिंट)।

वर्तमान AI बेंचमार्क एक ऐसी क्विज़ की तरह हैं जो केवल यह पूछती है: "फोटो में कितनी उंगलियां हैं?" या "घड़ी पर क्या समय लिखा है?" ये आसान, सतही स्तर के प्रश्न हैं।

लेकिन वास्तविक वैज्ञानिक जिज्ञासा अलग होती है। यह पूछती है: "संदेही के फिंगरप्रिंट घड़ी पर क्यों दिखाई दिए?" या "यह फोटो वकील के सिद्धांत को कैसे सिद्ध करती है?"

लेखकों ने पाया कि मौजूदा AI मॉडल इन गहरे प्रश्न पूछने में संघर्ष करते हैं क्योंकि वे यह नहीं समझते कि पाठ और चित्र कहानी बताने के लिए एक साथ कैसे काम करते हैं।

समाधान: एक नया डेटासेट (MQUD)

इसे ठीक करने के लिए, शोधकर्ताओं ने MQUD नामक एक नया प्रशिक्षण डेटासेट बनाया।

  • इसे किसने बनाया? उन्होंने केवल कंप्यूटर का उपयोग करके अनुमान नहीं लगाया। वे स्रोत तक गए: वैज्ञानिक शोध पत्रों के मूल लेखक।
  • उन्होंने यह कैसे किया? उन्होंने इन वैज्ञानिकों से पूछा: "जब आपने यह पेपर लिखा और यह चार्ट बनाया, तो आप किन प्रश्नों का उत्तर देने की कोशिश कर रहे थे? आप किस बारे में जिज्ञासु थे?"
  • परिणाम: उन्होंने 1,250 उच्च गुणवत्ता वाले प्रश्न एकत्र किए। ये केवल "संख्या क्या है?" वाले प्रश्न नहीं हैं। ये "यह पैटर्न क्यों होता है?" या "यह परिणाम हमारी समझ को कैसे बदलता है?" जैसे प्रश्न हैं।

उन्होंने इन प्रश्नों को दो प्रकारों में वर्गीकृत भी किया:

  1. "केवल चित्र" वाले प्रश्न (The "Picture-Only" Questions): कभी-कभी चार्ट अकेले ही प्रश्न का उत्तर दे देता है (जैसे, "सबसे ऊँचा बार कौन सा है?")।
  2. "टीमवर्क" वाले प्रश्न (The "Teamwork" Questions): ये असली खजाना हैं। चार्ट एक अजीब पैटर्न दिखाता है, लेकिन आपको यह समझाने के लिए कि क्यों ऐसा हो रहा है, पाठ (text) की आवश्यकता होती है। AI को रहस्य सुलझाने के लिए दृश्य संकेत (visual clue) और लिखित कहानी दोनों को जोड़ना होगा।

प्रशिक्षण: AI को "देखना" सिखाना

शोधकर्ताओं ने एक मानक AI मॉडल (एक विजन-लैंग्वेज मॉडल) लिया और उसे अपने नए डेटासेट का उपयोग करके एक विशेष प्रशिक्षण कोर्स दिया।

इसे एक छात्र को मानचित्र पढ़ना सिखाने जैसा समझें।

  • प्रशिक्षण से पहले: यदि आप छात्र को एक मानचित्र और एक कहानी दिखाते, तो वे शायद केवल कह पाते, "मुझे एक पहाड़ दिख रहा है।"
  • प्रशिक्षण के बाद: उन्होंने कहना सीख लिया, "कहानी कहती है कि नदी यहाँ बाढ़ आती है, और मानचित्र जल स्तर को बढ़ते हुए दिखाता है, इसलिए पहाड़ वास्तव में एक बाढ़ क्षेत्र है।"

उन्होंने यह देखने के लिए कि क्या AI वास्तव में सीख रहा है, दो चतुर तरीकों के साथ AI का परीक्षण किया:

  1. "गायब मानचित्र" परीक्षण (The "Missing Map" Test): उन्होंने AI को चित्र दिखाए बिना प्रश्न उत्पन्न करने के लिए कहा। AI अपने काम में बहुत खराब प्रदर्शन करने लगा। इससे सिद्ध हुआ कि AI वास्तव में चित्र का उपयोग कर रहा था, न कि केवल पाठ के आधार पर अनुमान लगा रहा था।
  2. "गलत मानचित्र" परीक्षण (The "Wrong Map" Test): यह सबसे महत्वपूर्ण है। उन्होंने सही चित्र को उसी पेपर के किसी दूसरे चित्र से बदल दिया।
    • प्रशिक्षण से पहले: AI को फर्क नहीं पड़ता था। वह गलत चित्र के साथ भी प्रश्न उत्पन्न कर देता था, क्योंकि वह केवल किसी भी दृश्य संकेत की तलाश में था।
    • प्रशिक्षण के बाद: AI को एहसास हुआ, "रुको, यह प्रश्न इस चित्र के साथ मेल नहीं खाता!" वह इस विशिष्ट चित्र के प्रति संवेदनशील हो गया। उसने चित्र की सामग्री (content) को देखना सीख लिया, न कि केवल चित्र की उपस्थिति को।

परिणाम: एक स्मार्ट जासूस

पेपर दिखाता है कि इस प्रशिक्षण के बाद:

  • AI ने "लाल बार का मान क्या है?" जैसे उथले प्रश्न पूछना बंद कर दिया।
  • इसने गहरे, "टीमवर्क" वाले प्रश्न पूछना शुरू कर दिया जैसे "ग्राफ में दिखाए गए इस विशिष्ट परिदृश्य में मॉडल का व्यवहार अलग क्यों है?"
  • यह दृश्य डेटा और लिखित स्पष्टीकरण के बीच संबंध जोड़ने में बहुत बेहतर हो गया।

सारांश

संक्षेप में, यह पेपर AI को केवल चित्रों को "देखना" ही नहीं, बल्कि एक कहानी के संदर्भ में उनके बारे में "सोचना" सिखाता है। वास्तविक वैज्ञानिकों द्वारा उत्पन्न प्रश्नों पर प्रशिक्षण देकर, AI ने उन जिज्ञासु और अंतर्दृष्टिपूर्ण प्रश्न पूछना सीख लिया जो मनुष्य तब पूछते हैं जब वे वास्तव में वैज्ञानिक खोज में लगे होते हैं। यह एक चार्ट पर बार (bars) गिनने वाले निष्क्रिय पर्यवेक्षक से बदलकर एक सक्रिय भागीदार बन गया जो उस कहानी को समझता है जो चार्ट सुना रहा है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →