← नवीनतम पेपर
🤖 AI

World Models That Know When They Don't Know - Controllable Video Generation with Calibrated Uncertainty

यह शोधपत्र C3 का प्रस्ताव करता है, जो एक नवीन अनिश्चितता मात्रा निर्धारण (uncertainty quantification) विधि है जो नियंत्रित वीडियो मॉडलों को लेटेंट स्पेस में अनिश्चितता का अनुमान लगाने और कड़ाई से उचित स्कोरिंग नियमों (strictly proper scoring rules) का उपयोग करने के माध्यम से सब-पैच स्तर पर उच्च-रिज़ॉल्यूशन, कैलिब्रेटेड कॉन्फिडेंस हीटमैप उत्पन्न करने के लिए प्रशिक्षित करती है, जिससे रोबोटिक्स अनुप्रयोगों के लिए विश्वसनीय मतिभ्रम पहचान (hallucination detection) और आउट-ऑफ-डिस्ट्रीब्यूशन पहचान सक्षम होती है।

मूल लेखक: Zhiting Mei, Tenny Yin, Micah Baker, Ola Shorinwa, Anirudha Majumdar

प्रकाशित 2026-03-12
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Zhiting Mei, Tenny Yin, Micah Baker, Ola Shorinwa, Anirudha Majumdar

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक सुपर-स्मार्ट, जादुई वीडियो कैमरा है जो भविष्य की भविष्यवाणी कर सकता है। आप इसे कहते हैं, "रोबोटिक हाथ, उस लाल कप को उठाओ," और यह तुरंत ठीक वैसा ही वीडियो बना देता है जैसा आगे होने वाला है। यही वह काम है जो आधुनिक कंट्रोलेबल वीडियो मॉडल्स (Controllable Video Models) करते हैं। वे रोबोट के हिलने-डुलने, वस्तुओं के गिरने और दृश्यों के विकसित होने के बेहद वास्तविक वीडियो बनाने में अविश्वसनीय हैं।

लेकिन एक समस्या है: ये कैमरे कभी-कभी झूठ बोलते हैं।

एक ऐसे दिवास्वप्न देखने वाले की तरह जो अपनी ही कल्पना में खो जाता है, ये AI मॉडल कभी-कभी "हैलुसिनेट" (hallucinate) करते हैं। वे दिखा सकते हैं कि रोबोट एक ऐसा कप उठा रहा है जो वहां है ही नहीं, या कप बदलकर केला बन जाता है, या रोबोट का हाथ मेज के आर-पार निकल जाता है। डरावनी बात यह है कि AI को पता ही नहीं चलता कि वह झूठ बोल रहा है। वह आपको वह नकली वीडियो पूरी तरह से आत्मविश्वास के साथ दिखाता है, जिससे आपको लगता है कि यह असली है।

यह रोबोटिक्स के लिए एक बहुत बड़ी समस्या है। यदि किसी सेल्फ-ड्राइविंग कार का "भविष्य का विजन" यह कल्पना (hallucinate) कर ले कि एक पैदल यात्री एक बादल है, तो वह दुर्घटना कर सकती है। हमें AI को बताने का एक तरीका चाहिए: "हे, तुम इस हिस्से के बारे में पक्का नहीं हो। इस पर भरोसा मत करो।"

पेश है C3: AI वीडियो के लिए एक "ईमानदारी डिटेक्टर"

प्रिंसटन यूनिवर्सिटी के शोधकर्ताओं ने C3 (कैलिब्रेटेड कंट्रोलेबल कंटीन्यूअस - Calibrated Controllable Continuous) नामक एक नया सिस्टम बनाया है। C3 को एक नए कैमरे के रूप में नहीं, बल्कि वीडियो जनरेटर के ठीक बगल में बैठे एक सत्य बोलने वाले सुपरवाइजर के रूप में समझें।

C3 कैसे काम करता है, इसके लिए कुछ सरल उपमाओं का उपयोग किया गया है:

1. "कॉन्फिडेंस स्कोरकार्ड" (सिर्फ एक तस्वीर के बजाय)

आमतौर पर, जब कोई AI वीडियो बनाता है, तो वह बस आपको एक तस्वीर दे देता है। C3 एक दूसरा स्तर जोड़ता है: एक कॉन्फिडेंस स्कोरकार्ड

  • उपमा: एक मौसम विज्ञानी की कल्पना करें। एक सामान्य मौसम विज्ञानी कहता है, "कल बारिश होगी।" C3 एक ऐसे मौसम विज्ञानी की तरह है जो कहता है, "कल बारिश होगी, लेकिन मैं शहर के उत्तरी हिस्से के बारे में केवल 40% ही निश्चित हूँ।"
  • यह कैसे काम करता है: C3 वीडियो को छोटे-छोटे टुकड़ों (सबपैचेस) में तोड़ देता है। हर एक टुकड़े के लिए, यह AI से पूछता है: "तुम कितने निश्चित हो कि यह पिक्सेल असली है?" यदि AI केवल अनुमान लगा रहा है, तो C3 उस जगह को एक लाल हीट मैप (चेतावनी संकेत की तरह) के साथ चिह्नित कर देता है। यदि AI आश्वस्त है, तो वह ठंडा और नीला रहता है।

2. "गुप्त भाषा" का तरीका (लेटेंट स्पेस)

यह जांचने के लिए कि क्या AI झूठ बोल रहा है, आप वीडियो को देख सकते हैं और उसकी वास्तविकता से तुलना कर सकते हैं। लेकिन इसमें बहुत समय लगता है और एक सुपरकंप्यूटर की आवश्यकता होती है।

  • उपमा: कल्पना कीजिए कि आप एक शेफ द्वारा पकाए गए परफेक्ट स्टेक को जांचने के लिए अंतिम व्यंजन को चख रहे हैं (पिक्सेल स्पेस)। यह धीमा और अव्यवस्थित है। C3 अधिक स्मार्ट है। यह शेफ के आंतरिक विचारों को सुनता है जब वे अभी भी रसोई के अंदर होते हैं (लेटेंट स्पेस)।
  • यह कैसे काम करता है: AI वीडियो मॉडल वास्तव में पिक्सेल नहीं देखते; वे एक संकुचित, गुप्त भाषा में सोचते हैं जिसे "लेटेंट स्पेस" कहा जाता है। C3 इस गुप्त भाषा को पढ़ना सीखता है। यह वीडियो के पूरी तरह से बनने से पहले ही AI के आंतरिक आत्मविश्वास की जांच करता है। यह इसे बहुत तेज़ और सस्ता बनाता है, भले ही बड़े मॉडल्स पर चलाया जाए।

3. AI को "मुझे नहीं पता" कहना सिखाना

सबसे बड़ा नवाचार यह है कि उन्होंने AI को ईमानदार होना कैसे सिखाया।

  • उपमा: एक छात्र की कल्पना करें जो परीक्षा दे रहा है। यदि वह रैंडम अनुमान लगाता है और सही होता है, तो उसे गोल्ड स्टार मिलता है। लेकिन यदि वह अनुमान लगाता है और गलत होता है, तो उसे दंड मिलता है। C3 एक विशेष स्कोरिंग नियम (जिसे प्रॉपर स्कोरिंग रूल कहा जाता है) का उपयोग करता है जो AI को दंडित करता है यदि वह वास्तव में गलत होने पर बहुत अधिक आत्मविश्वासी होता है।
  • परिणाम: AI सीखता है कि अपनी अनिश्चितता के बारे में ईमानदार होना, एक जीनियस होने का ढोंग करने से कहीं अधिक मूल्यवान है। यह एक झूठी कहानी बनाने के बजाय यह कहना सीख जाता है, "मुझे इस बारे में यकीन नहीं है।"

यह क्यों मायने रखता है? (वास्तविक दुनिया का परीक्षण)

शोधकर्ताओं ने एक वास्तविक रोबोट लैब में C3 का परीक्षण किया। उन्होंने रोबोट को ऐसे कार्य दिए जो उसने पहले कभी नहीं देखे थे, जैसे:

  • नए बैकग्राउंड: किचन में एक कंकाल रखना।
  • अजीब लाइटिंग: लाइटों को तेजी से चालू और बंद करना।
  • अजीब उपकरण: रोबोट के हाथ में एक तौलिया लगाना।

परिणाम:
जब रोबोट ने इन अजीब कार्यों को करने की कोशिश की, तो वीडियो जनरेटर ने हैलुसिनेशन (जैसे, रोबोट का हाथ एक ढेर में बदलना) शुरू कर दिया।

  • C3 के बिना: रोबोट एक नकली वीडियो बनाता और उस पर काम करने की कोशिश करता, जिससे दुर्घटना हो सकती थी या चीजें टूट सकती थीं।
  • C3 के साथ: जैसे ही रोबलेट को अजीब लाइटिंग या कंकाल का सामना करना पड़ा, C3 ने स्क्रीन को चमकते लाल चेतावनी क्षेत्रों के साथ रोशन कर दिया। इसने सिस्टम को बताया, "रुको! मुझे नहीं पता कि यहाँ क्या हो रहा है। इस वीडियो पर भरोसा न करें!"

मुख्य निष्कर्ष

C3 AI की कल्पना के लिए एक सुरक्षा जाल की तरह है।

यह रोबोटों को भविष्य को "देखने" के लिए शक्तिशाली वीडियो मॉडल्स का उपयोग करने की अनुमति देता है, लेकिन यह उनमें आत्म-जागरूकता का एक महत्वपूर्ण स्तर जोड़ता है। यह सुनिश्चित करता है कि जब AI असंभव भौतिकी (जैसे वस्तुओं का गायब होना या रंग बदलना) के सपने देखने लगे, तो वह तुरंत रेड फ्लैग (चेतावनी) उठा दे।

एक ऐसी दुनिया में जहाँ हम चाहते हैं कि रोबोट हमारे घरों और अस्पतालों में हमारी मदद करें, हमें केवल ऐसे रोबोट नहीं चाहिए जो स्मार्ट हों; हमें ऐसे रोबोट चाहिए जिन्हें पता हो कि वे कब नहीं जानते। C3 उन्हें वह विनम्रता प्रदान करता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →