← नवीनतम पेपर
🤖 AI

When Visual Evidence is Ambiguous: Pareidolia as a Diagnostic Probe for Vision Models

यह शोध पत्र 'फेस पेरेडोलिया' (face pareidolia) का उपयोग करते हुए एक नैदानिक ढांचे (diagnostic framework) को प्रस्तुत करता है जो यह प्रकट करता है कि दृश्य अस्पष्टता के तहत विजन मॉडल्स का व्यवहार मुख्य रूप से उनके प्रतिनिधित्व संबंधी आर्किटेक्चर (representational architecture) द्वारा नियंत्रित होता है, जिसमें विजन-लैंग्वेज मॉडल्स 'सिमेंटिक ओवरएक्टिवेशन' (semantic overactivation) प्रदर्शित करते हैं, शुद्ध विजन मॉडल्स 'अनिश्चितता-आधारित परहेज' (uncertainty-based abstention) अपनाते हैं, और डिटेक्शन मॉडल्स फॉल्स पॉजिटिव को दबाने के लिए 'कंजर्वेटिव प्रायर्स' (conservative priors) पर निर्भर रहते हैं।

मूल लेखक: Qianpu Chen, Derya Soydaner, Rob Saunders

प्रकाशित 2026-03-05
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Qianpu Chen, Derya Soydaner, Rob Saunders

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक सड़क पर चल रहे हैं और आपको दीवार पर एक अजीब सी आकृति दिखाई देती है। आपके लिए, यह बिल्कुल एक गुस्से वाले चेहरे जैसा दिखता है जिसकी भौहें तनी हुई हैं। आपके मित्र के लिए, यह सिर्फ एक अजीब आकार का बिजली का सॉकेट है।

यह घटना पेरिडोलिया (pareidolia) कहलाती है—मानव मस्तिष्क की यादृच्छिक पैटर्न (जैसे बादलों, टोस्ट या कार के ग्रिल) में चेहरे देखने की प्रवृत्ति।

यह शोध पत्र एक सरल लेकिन गहरा प्रश्न पूछता है: यदि हम इन "नकली चेहरों" को AI को दिखाएं, तो वे क्या देखेंगे? क्या वे आपके मित्र की तरह व्यवहार करेंगे (अनदेखा करना), या वे आपकी तरह व्यवहार करेंगे (चेहरा देखना)? और अधिक महत्वपूर्ण बात यह है कि, वे कैसे निर्णय लेते हैं?

शोधकर्ताओं ने केवल यह नहीं पूछा कि "क्या AI ने चेहरा देखा?" बल्कि उन्होंने भ्रमित होने पर विभिन्न AI मॉडलों की व्यक्तित्व (personality) और निर्णय लेने की शैली को समझने के लिए एक नैदानिक उपकरण (diagnostic tool) बनाया।

यहाँ उनके निष्कर्षों का सरल उपमाओं (analogies) का उपयोग करके विवरण दिया गया है:

1. AI के तीन प्रकार के "व्यक्तित्व"

शोधकर्ताओं ने छह अलग-अलग AI मॉडलों का परीक्षण किया। उन्होंने पाया कि मॉडल अस्पष्टता (ambiguity) को संभालने के आधार पर तीन विशिष्ट समूहों में आते हैं:

समूह A: अति-उत्साही कहानीकार (विज़न-लैंग्वेज मॉडल्स)

  • मॉडल: CLIP और LLaVA।
  • उपमा: कल्पना कीजिए कि एक जासूस जो "गायब चेहरे के मामले" को सुलझाने के लिए इतना जुनूनी है कि वह हर जगह संदिग्धों को देखने लगता है। भले ही सबूत कमजोर हों (जैसे एक बादल जो कुछ हद तक नाक जैसा दिखता है), वह जासूस कहता है, "मुझे 99% यकीन है कि वह एक व्यक्ति है!"
  • निष्कर्ष: ये मॉडल आत्मविश्वासी लेकिन गलत होते हैं। उनमें हर चीज़ में "इंसान" देखने का गहरा पूर्वाग्रह है। मॉडल जितना उन्नत (LLaVA) होगा, उसकी मतिभ्रम (hallucinations) में उतना ही अधिक आत्मविश्वास होगा। वे हिचकिचाते नहीं हैं; वे बस अत्यधिक व्याख्या करते हैं।

समूह B: सतर्क संशयवादी (प्योर विज़न क्लासिफायर)

  • मॉडल: ViT।
  • उपमा: कल्पना कीजिए कि एक वैज्ञानिक उसी बादल को देख रहा है। वह अपनी आँखें सिकोड़ता है, अपना सिर झुकाता है, और कहता है, "हम्म, यह एक चेहरा हो सकता है, या यह एक चट्टान, या एक पक्षी हो सकता है। मैं निश्चित नहीं हूँ।"
  • निष्कर्ष: यह मॉडल अनिश्चित लेकिन निष्पक्ष है। अनुमान लगाने के बजाय, यह अपने आत्मविश्वास को फैला देता है। यह कहता है, "मुझे नहीं पता," जो वास्तव में इसे बड़ी गलती करने से रोकता है। यह भ्रमित होने की बात स्वीकार करके पूर्वाग्रह से बचता है।

समूह C: सख्त सुरक्षा गार्ड (ऑब्जेक्ट डिटेक्टर्स)

  • मॉडल: YOLOv8 और RetinaFace।
  • उपमा: कल्पना कीजिए कि एक क्लब का बाउंसर जिसके पास एक बहुत सख्त सूची है। यदि क्लब में आने वाला व्यक्ति बिल्कुल असली मानव चेहरे जैसा नहीं दिखता है, तो बाउंसर उसे जांचने के लिए अंदर तक नहीं जाने देता। वह बस कहता है, "नहीं, यह चेहरा नहीं है," और आगे बढ़ जाता है।
  • निष्कर्ष: ये मॉडल रूढ़िवादी (conservative) होते हैं। उन्हें असली चेहरे खोजने के लिए प्रशिक्षित किया गया है, इसलिए वे "नकली" चेहरों को पूरी तरह से अनदेखा कर देते हैं। वे शायद ही कभी गलतियाँ करते हैं क्योंकि वे अनुमान लगाने से इनकार कर देते हैं।

2. सबसे बड़ा आश्चर्य: आत्मविश्वास \neq सुरक्षा

इस शोध पत्र की सबसे महत्वपूर्ण खोज यह है कि आत्मविश्वासी होने का मतलब यह नहीं है कि आप सही हैं।

  • जाल: हम अक्सर सोचते हैं कि यदि कोई AI कहता है, "मुझे 99% यकीन है कि यह एक चेहरा है," तो इस पर भरोसा करना सुरक्षित होना चाहिए।
  • वास्तविकता: "अति-उत्साही कहानीकार" (LLaVA) सबसे आत्मविश्वासी मॉडल था, फिर भी वह वहां चेहरा देखने के लिए सबसे अधिक प्रवृत्त था जहां कोई चेहरा नहीं था।
  • सबक: कम अनिश्चितता (आत्मविश्वास) दो विपरीत चीजों का संकेत दे सकती है:
    1. सुरक्षित: "सख्त सुरक्षा गार्ड" आत्मविश्वासी है क्योंकि वह नियमों को जानता है और गलत अलार्म को दबा रहा है।
    2. खतरनाक: "कहानीकार" आत्मविश्वासी है क्योंकि वह एक ऐसे पैटर्न की कल्पना कर रहा है जो वहां मौजूद ही नहीं है।

3. "भावना" का मोड़ (The "Emotion" Twist)

शोधकर्ताओं ने यह भी परीक्षण किया कि AI ने नकली चेहरों के मिजाज के प्रति कैसी प्रतिक्रिया दी।

  • निष्कर्ष: जब नकली चेहरे "डरे हुए" या "गुस्सैल" दिखे, तो "कहानीकार" मॉडल (VLMs) और भी अधिक संभावना के साथ कहते थे, "वह एक इंसान है!"
  • क्यों? ऐसा लगता है कि ये मॉडल भावनात्मक संकेतों को चेहरे के असली होने के अतिरिक्त प्रमाण के रूप में देखते हैं। यदि एक बादल उदास चेहरे जैसा दिखता है, तो AI सोचता है, "आहा! यह निश्चित रूप से एक इंसान है!" यह सुरक्षा प्रणालियों (जैसे मेडिकल इमेजिंग या निगरानी) के लिए एक खतरनाक दोष है, जहाँ आप नहीं चाहेंगे कि AI डरावने दिखने वाले बादल से उत्साहित हो जाए।

4. यह क्यों मायने रखता है?

हम AI को महत्वपूर्ण काम करने के लिए बना रहे हैं: एक्स-रे में ट्यूमर का पता लगाना, सुरक्षा कैमरों की निगरानी करना, या खराब सामग्री को फ़िल्टर करना।

  • यदि हम केवल स्पष्ट, स्पष्ट तस्वीरों पर AI का परीक्षण करते हैं, तो हम इन छिपे हुए दोषों को छोड़ देते हैं।
  • पेरिडोलिया एक स्ट्रेस टेस्ट है। यह एक इमारत को हिलाकर देखने जैसा है कि क्या उसकी नींव मजबूत है।
  • शोध पत्र दिखाता है कि हम इन त्रुटियों को ठीक करने के लिए केवल "सेटिंग्स को ट्यून" नहीं कर सकते। समस्या इस बात में निहित है कि AI को कैसे डिज़ाइन किया गया है (उसका "मस्तिष्क आर्किटेक्चर")।
    • यदि आप ऐसा AI चाहते हैं जो चेहरों की कल्पना न करे, तो आप इसे केवल "कम आत्मविश्वासी" होने के लिए नहीं कह सकते। आपको यह बदलना होगा कि यह भाषा और छवियों को कैसे जोड़ता है।

सारांश

यह शोध पत्र हमें सिखाता है कि जब AI भ्रमित होता है, तो वह केवल "विफल" नहीं होता। वह अपने व्यक्तित्व के आधार पर विशिष्ट, अनुमानित तरीकों से विफल होता है:

  • कुछ बहुत उत्सुक होते हैं (हर जगह चेहरे देखना)।
  • कुछ बहुत अनिश्चित होते हैं (यह स्वीकार करना कि वे नहीं जानते)।
  • कुछ बहुत सख्त होते हैं (सब कुछ अनदेखा करना)।

मुख्य सबक यह है: AI पर केवल इसलिए भरोसा न करें क्योंकि वह आत्मविश्वासी लग रहा है। अस्पष्ट छवियों की दुनिया में, आत्मविश्वास एक बहुत ही मजबूत पूर्वाग्रह के लिए मुखौटा हो सकता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →