← नवीनतम पेपर
🤖 machine learning

A Causal Foundation Model for Structure and Outcome Prediction

यह शोध पत्र TabPFN-CFM को प्रस्तुत करता है, जो एक सिंथेटिक डेटा पर प्रशिक्षित कॉज़ल फाउंडेशन मॉडल है जो वास्तविक दुनिया के डेटासेट पर सामान्यीकरण करता है ताकि पर्ल के कॉज़ल पदानक्रम (Pearl's Causal Hierarchy) के सभी स्तरों पर प्रश्नों का समर्थन करते हुए, साथ ही कॉज़ल संरचनाओं और परिणामों की भविष्यवाणी कर सके।

मूल लेखक: Max Zhu, Martino Mansoldo, Ching-Hao Wang, Stefan Groha

प्रकाशित 2026-06-26
📖 7 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Max Zhu, Martino Mansoldo, Ching-Hao Wang, Stefan Groha

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक जासूस हैं जो एक रहस्य सुलझाने की कोशिश कर रहे हैं, लेकिन आपके पास केवल पुरानी, बिना क्रम वाली तस्वीरों का ढेर (अवलोकन संबंधी डेटा) है और कोई गवाह नहीं है। आपको दो चीजें पता लगानी हैं:

  1. कहानी: किसने क्या किया? (क्या बारिश के कारण घास गीली हुई, या किसी ने बाल्टी गिरा दी थी?)
  2. "क्या होता अगर" (The "What If"): यदि आपने कुछ अलग किया होता, तो क्या होता? (यदि आपने बाल्टी नहीं गिराई होती, तो क्या घास फिर भी गीली होती?)

आमतौर पर, इसे हल करने के लिए एक मानव विशेषज्ञ की आवश्यकता होती है जो दुनिया के नियमों का अनुमान लगा सके, या एक कंप्यूटर को एक-एक करके लाखों अनुमान लगाने की आवश्यकता होती है। यह पेपर TabPFN-CFM नामक एक नए प्रकार के "सुपर-डिटेक्टिव" AI को पेश करता है, जिसने पहले से ही लाखों काल्पनिक रहस्य कहानियों की एक लाइब्रेरी पढ़ ली है। क्योंकि इसने इतने सारे विभिन्न परिदृश्य देखे हैं, यह आपकी अव्यवस्थित तस्वीरों को देख सकता है और तुरंत कहानी का अनुमान लगा सकता है और आपके "क्या होता अगर" वाले सवालों के जवाब दे सकता है।

यह कैसे काम करता है, यहाँ सरल अवधारणाओं में दिया गया है:

1. "कॉज़ल फाउंडेशन मॉडल" (द सुपर-डिटेक्टिव)

इस मॉडल को एक ऐसे छात्र के रूप में सोचें जिसने अपना पूरा जीवन सिंथेटिक (नकली) दुनिया की एक विशाल लाइब्रेरी का अध्ययन करने में बिताया है। इन नकली दुनियाओं में, लेखकों ने हजारों अलग-अलग नियम बनाए: कभी गुरुत्वाकर्षण अलग तरह से काम करता है, कभी लोग बेतरतीब ढंग से व्यवहार करते हैं, और कभी छिपे हुए कारक (जैसे एक गुप्त एजेंट) चीजों को बिगाड़ देते हैं।

क्योंकि इस छात्र ने इतने सारे बदलाव देखे हैं, जब आप उसे एक वास्तविक डेटासेट (जैसे बिक्री के आंकड़े या स्कूल के ग्रेड) दिखाते हैं, तो उसे नियमों को शून्य से सीखने की आवश्यकता नहीं होती। वह बस कहता है, "आह, यह मेरे पुस्तकालय से परिदृश्य #4,592 जैसा दिखता है," और वह तुरंत संभावित कारण-और-प्रभाव संबंधों को जान जाता है।

2. रहस्य के तीन स्तरों को सुलझाना

पेपर का दावा है कि यह मॉडल तीन अलग-अलग प्रकार के प्रश्नों को संभाल सकता है, जिन्हें लेखक "कॉज़ल पदानुक्रम" (Causal Hierarchy) कहते हैं:

  • स्तर 1: ऑब्जर्वर (क्या हो रहा है?)
    • प्रश्न: "डेटा को देखते हुए, यदि कोई लाल शर्ट खरीदता है, तो क्या वे टोपी भी खरीदते हैं?"
    • मॉडल का काम: यह जो देखता है उसके आधार पर परिणाम की भविष्यवाणी करता है।
  • ** स्तर 2: इंटरवेनर (यदि मैं कुछ बदल दूँ तो क्या होगा?)**
    • प्रश्न: "यदि मैं सबको लाल शर्ट खरीदने के लिए मजबूर कर दूँ (भले ही वे नहीं खरीदना चाहते हों), तो क्या वे टोपी खरीदेंगे?"
    • मॉडल का काम: यह पेचीदा है क्योंकि वास्तविक दुनिया ने ऐसा नहीं किया था। मॉडल परिवर्तन का अनुकरण (simulate) करता है ताकि परिणाम की भविष्यवाणी की जा सके।
  • स्तर 3: टाइम ट्रैवलर (यदि चीजें अतीत में अलग होतीं तो क्या होता?)
    • प्रश्न: "जॉन ने एक टोपी और एक लाल शर्ट खरीदी। लेकिन क्या होता यदि उसने लाल शर्ट नहीं खरीदी होती? क्या वह फिर भी टोपी खरीदता?"
    • मॉडल का काम: यह सबसे कठिन है। इसके लिए अन्य तथ्यों को स्थिर रखते हुए सिमुलेशन में समय को पीछे ले जाने की आवश्यकता होती है। पेपर कहता है कि यह मॉडल उन कुछ चुनिले मॉडलों में से एक है जो यह काम अच्छी तरह से कर सकता है।

3. "छिपा हुआ विलेन" (अनऑब्जर्व्ड कॉन्फ़ाउंडर्स)

कई वास्तविक दुनिया के रहस्यों में, एक "छिपा हुआ विलेन" होता है जिसे आप देख नहीं सकते। उदाहरण के लिए, शायद एक छिपा हुआ कारक (जैसे "धन") लाल शर्ट और टोपी दोनों खरीदने का कारण बनता है। यदि आप "धन" के बारे में नहीं जानते हैं, तो आप गलत तरीके से सोच सकते हैं कि शर्ट टोपी का कारण बनती है।

पेपर एक विशेष उपकरण पेश करता है जिसे ADMG (एसाइक्लिक डायरेक्टेड मिक्स्ड ग्राफ) कहा जाता है। कल्पना कीजिए कि यह एक मानचित्र है जो दो प्रकार की रेखाएं खींचता है:

  • तीर (Arrows): प्रत्यक्ष कारण-और-प्रभाव दिखाना (A का कारण B है)।
  • दो सिरों वाली टेढ़ी-मेढ़ी रेखाएं: "छिपे हुए विलेन्स" को दिखाना (A और B दोनों किसी ऐसी चीज़ से प्रभावित हो रहे हैं जिसे आप देख नहीं पा रहे हैं)।

TabPFN-CFM अद्वितीय है क्योंकि यह इन टेढ़ी-मेढ़ी रेखाओं को स्वचालित रूप से खींच सकता है, यह अनुमान लगा सकता है कि छिपे हुए विलेन्स कहाँ हो सकते हैं, भले ही आपने उन्हें मौजूद होने के बारे में नहीं बताया हो।

4. "चीट शीट" का उपयोग करना (ज्ञात ग्राफ)

कभी-कभी, आप कहानी का कुछ हिस्सा जानते हैं। शायद एक विशेषज्ञ ने आपको बताया, "हम निश्चित रूप से जानते हैं कि A का कारण B है।"
पेपर दिखाता है कि यदि आप इस जानकारी को मॉडल को देते हैं (जैसे जासूस को चीट शीट थमाना), तो यह मॉडल अपने अनुमानों को और बेहतर बनाने के लिए इस ज्ञात संरचना का उपयोग करता है। यह रहस्य के बाकी हिस्सों के बारे में अपने अनुमानों को परिष्कृत करने के लिए इस ज्ञात संरचना का उपयोग करता है।

5. इसने कैसे सीखा (प्रशिक्षण)

इसे शुरू में वास्तविक मानवीय डेटा पर प्रशिक्षित नहीं किया गया था। इसके बजाय, शोधकर्ताओं ने एक कंप्यूटर प्रोग्राम लिखा जो यादृच्छिक नियमों, यादृच्छिक शोर (noise) और छिपे हुए चरों के साथ लाखों नकली डेटासेट उत्पन्न करता है।

  • उन्होंने मॉडल को एक नकली डेटासेट को देखना और उसकी संरचना (मैप) और परिणाम (परिणाम) का अनुमान लगाना सिखाया।
  • उन्होंने इसे तीनों स्तरों के प्रश्नों (ऑब्जर्वर, इंटरवेनर, टाइम ट्रैवलर) के लिए एक साथ यह सब करने के लिए प्रशिक्षित किया।
  • परिणाम: जब उन्होंने वास्तविक डेटा (जैसे Amazon सेल्स या लॉ स्कूल एडमिशन) पर इसका परीक्षण किया, तो इसने पुराने तरीकों की तुलना में बेहतर प्रदर्शन किया, विशेष रूप से "क्या होता अगर" वाले सवालों के लिए।

6. "स्पीड अपग्रेड"

लेखक इसके "इंजन" (आर्किटेक्चर) में भी बदलाव का उल्लेख करते हैं। उन्होंने कुछ अनावश्यक हिस्सों को हटा दिया और नए प्रशिक्षण कौशल (जैसे "Muon" नामक बेहतर ऑप्टिमाइज़र और "ReLU2" नामक नया एक्टिवेशन फंक्शन) जोड़े।

  • उपमा: कल्पना कीजिए कि आप एक कार के इंजन को अपग्रेड कर रहे हैं। उन्होंने केवल कार को तेज़ नहीं बनाया; उन्होंने इसे कम ईंधन (कंप्यूटेशनल पावर) का उपयोग करते हुए 4 गुना तेज़ी से शीर्ष गति तक पहुँचाने के योग्य बनाया। इसका मतलब है कि मॉडल बहुत अधिक कुशलता से सीखता है।

सारांश के दावे

  • यह संरचना की भविष्यवाणी करता है: यह कारण-और-प्रभाव का नक्शा बनाता है, जिसमें छिपे हुए कारक भी शामिल हैं।
  • यह परिणामों की भविष्यवाणी करता है: यह जवाब देता है कि "यदि मैं X को बदल दूँ तो क्या होगा?"
  • यह काउंटरफैक्चुअल (Counterfactuals) को संभालता है: यह जवाब देता है कि "क्या होता यदि X अलग होता?"
  • यह ज्ञात मानचित्रों का उपयोग करता है: यदि आप इसे एक आंशिक मानचित्र देते हैं, तो यह सटीकता में सुधार करने के लिए उसका उपयोग करता है।
  • यह सामान्यीकरण (Generalizes) करता है: हालांकि इसे नकली डेटा पर प्रशिक्षित किया गया था, फिर भी यह वास्तविक दुनिया के डेटा पर अच्छा काम करता है।
  • यह तेज़ है: नए प्रशिक्षण कौशल इसे प्रशिक्षित करने के लिए 3-4 गुना अधिक कुशल बनाते हैं।

यह पेपर यह दावा नहीं करता है कि यह चिकित्सा निदान या कानूनी अदालतों के लिए तैयार है। यह केवल यह दावा करता है कि जिन डेटासेट्स पर इसका परीक्षण किया गया था (सिंथेटिक गणितीय समस्याएं, Amazon सेल्स, और लॉ स्कूल एडमिशन), उन पर यह नया "सुपर-डिटेक्टिव" कारण-और-प्रभाव का पता लगाने वाले वर्तमान सर्वश्रेष्ठ उपकरणों से बेहतर प्रदर्शन करता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →