← नवीनतम पेपर
🤖 machine learning

SurvPFN: Towards Foundation Models for Survival Predictions

यह शोध पत्र SurvPFN को प्रस्तुत करता है, जो लाखों सिंथेटिक कार्यों पर प्री-ट्रेन्ड एक प्रायर-डेटा फिटेड नेटवर्क है ताकि फाउंडेशन मॉडल्स को सर्वाइवल प्रेडिक्शन के लिए सेंसर डेटा को संभालने में सक्षम बनाया जा सके, जिससे प्रति-डेटासेट फिटिंग या विशिष्ट आर्किटेक्चर की आवश्यकता के बिना वास्तविक दुनिया के डेटासेट पर प्रतिस्पर्धी प्रदर्शन प्राप्त होता है।

मूल लेखक: Samuel Böhm (Institute of Epidemiology and Prevention, Medical Center - University of Freiburg, Faculty of Medicine, University of Freiburg, Freiburg, Germany), Lennart Purucker (Department of Compute
प्रकाशित 2026-06-04
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Samuel Böhm (Institute of Epidemiology and Prevention, Medical Center - University of Freiburg, Faculty of Medicine, University of Freiburg, Freiburg, Germany), Lennart Purucker (Department of Computer Science, University of Freiburg, Freiburg, Germany, PriorLabs, Freiburg, Germany), Frank Hutter (Department of Computer Science, University of Freiburg, Freiburg, Germany, PriorLabs, Freiburg, Germany), Pascal Schlosser (Institute of Epidemiology and Prevention, Medical Center - University of Freiburg, Faculty of Medicine, University of Freiburg, Freiburg, Germany, Department of Epidemiology, Johns Hopkins Bloomberg School of Public Health, Baltimore, Maryland, US, CIBSS - Centre for Integrative Biological Signalling Studies, University of Freiburg, Freiburg, Germany)

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप सटीक रूप से भविष्यवाणी करने की कोशिश कर रहे हैं कि एक लाइटबल्ब कब बुझेगा। एक आदर्श दुनिया में, आप हर एक बल्ब के विफल होने तक प्रतीक्षा कर सकते हैं और सटीक समय रिकॉर्ड कर सकते हैं। लेकिन वास्तविक दुनिया में, आप हमेशा के लिए प्रतीक्षा नहीं कर सकते। कुछ बल्ब अभी भी काम कर रहे हैं जब आप प्रयोग रोक देते हैं, और कुछ को जलने से पहले ही फेंक दिया जाता है। सांख्यिकी (statistics) में, इसे सेंसिंग (censoring) कहा जाता है। आप जानते हैं कि बल्ब तब तक चला कम से कम जब तक आपने उसे देखना बंद नहीं किया, लेकिन आपको उस सटीक क्षण का पता नहीं है जब वह मर जाता।

लंबे समय तक, शक्तिशाली नए AI टूल जिन्हें फाउंडेशन मॉडल्स (विशेष रूप से "TabPFN") कहा जाता है, चीज़ों की भविष्यवाणी करने में बहुत अच्छे रहे हैं जैसे कि "क्या यह ईमेल स्पैम है?" या "इस घर को कितनी कीमत मिलेगी?" लेकिन वे सर्वाइवल प्रेडिक्शन (जैसे "कब मरीज फिर से बीमार होगा?") के लिए संघर्ष करते रहे क्योंकि वे उन "अभी भी काम कर रहे" लाइटबल्बों को कैसे संभालें, यह नहीं जानते थे। यदि आप उन्हें सेंसर्ड डेटा देते, तो वे भ्रमित हो जाते और पक्षपाती अनुमान लगाते।

यहाँ SurvPFN आता है। लेखकों ने इस AI का एक नया संस्करण बनाया है जो विशेष रूप से "लाइटबल्ब की समस्या" को समझने के लिए डिज़ाइन किया गया है।

उन्होंने इसे कैसे किया, यहाँ इसके कुछ रोजमर्रा के उदाहरण दिए गए हैं:

1. "ट्रेनिंग जिम" (सिंथेटिक डेटा)

आप एक फाइटर को केवल वास्तविक मैचों में लड़कर प्रशिक्षित नहीं कर सकते; उन्हें अभ्यास करने के लिए एक जिम की आवश्यकता होती है। लेखकों ने लाखों नकली सर्वाइवल परिदृश्यों का उपयोग करके एक विशाल सिंथेटिक जिम बनाया।

  • सेटअप: उन्होंने अलग-अलग जीवनकाल वाले नकली "लाइटबल्ब" बनाने के लिए एक गणितीय रेसिपी (जिसे स्ट्रक्चरल कॉज़ल मॉडल कहा जाता है) का उपयोग किया।
  • ट्विस्ट: उन्होंने जानबूझकर इन नकली बल्बों को "सेंसर" किया—कुछ के लिए टाइमर जल्दी रोक दिया—ठीक वैसे ही जैसे वास्तविक जीवन में होता है।
  • सबक: उन्होंने AI को सिखाया कि एक "रुका हुआ" बल्ब टूटा हुआ बल्ब नहीं है; यह बस एक ऐसा बल्ब है जो कम से कम उस समय तक जीवित रहा। उन्होंने एक विशेष स्कोरिंग सिस्टम (एक "सेंसर्ड लॉस") का उपयोग किया जो AI को इन निचली सीमाओं के बारे में ईमानदार रहने के लिए पुरस्कृत करता है, बजाय इसके कि वह मृत्यु के किसी विशिष्ट समय का अनुमान लगाए।

2. "दो-ट्रैक" मस्तिष्क (मॉडल आर्किटेक्चर)

उनके द्वारा बनाया गया AI मौजूदा मॉडलों के एक छोटे, कुशल संस्करण पर आधारित है जिसे NanoTabPFN कहा जाता है। सर्वाइवल के लिए इसे काम करने योग्य बनाने के लिए, उन्होंने एक विशेष विशेषता जोड़ी:

  • इवेंट इंडिकेटर (घटना संकेतक): इसे एक छोटे झंडे (flag) के रूप में सोचें जिसे AI प्रत्येक डेटा पॉइंट के लिए देखता है।
    • झंडा = 0: "यह बल्ब समय X पर बुझ गया।" (हमें सटीक समय पता है)।
    • झंडा = 1: "यह बल्ब समय X पर अभी भी काम कर रहा था।" (हम केवल यह जानते हैं कि यह X के बाद तक जीवित रहा)।
  • AI के पास इन दो प्रकार के झंडों को प्रोसेस करने के लिए अपने मस्तिष्क में दो अलग-अलग "पथ" हैं। यह इसे यह सीखने में मदद करता है कि एक "जीवित" बल्ब एक "मृत" बल्ब से अलग है, भले ही वे एक ही समय पर हुए हों।

3. "एक-आकार-सभी-के-लिए" दृष्टिकोण

आमतौर पर, सर्वाइवल की भविष्यवाणी करने के लिए, एक डॉक्टर या डेटा वैज्ञानिक को एक विशिष्ट डेटासेट के लिए एक विशिष्ट मॉडल को ट्यून करने में हफ्तों बिताने पड़ते हैं (जैसे एक विशिष्ट स्टेशन के लिए रेडियो ट्यून करना)।

  • SurvPFN की सुपरपावर: इसे उस विशाल सिंथेटिक जिम पर एक बार प्रशिक्षित किया गया था। उसके बाद, यह एक नए, वास्तविक दुनिया के डेटासेट (जैसे अस्पताल का रिकॉर्ड या मशीन की विश्वसनीयता लॉग) में जा सकता है और तुरंत भविष्यवाणियां करना शुरू कर सकता है। इसे उस विशिष्ट समूह के लिए फिर से प्रशिक्षित या "फाइन-ट्यून" करने की आवश्यकता नहीं है। यह एक सार्वभौमिक अनुवादक की तरह है जो प्रत्येक नए देश के लिए डिक्शनरी की आवश्यकता के बिना हर भाषा बोल सकता है।

4. परिणाम: यह कितना अच्छा है?

लेखकों ने 22 वास्तविक दुनिया के डेटासेट्स (कैंसर अध्ययन से लेकर बेरोजगारी डेटा तक) पर SurvPFN का परीक्षण किया और इसकी तुलना "गोल्ड स्टैंडर्ड" विधियों से की:

  • कॉक्स प्रोपोर्शनल हैजार्ड्स (Cox Proportional Hazards): क्लासिक, पुराना सांख्यिकीय तरीका।
  • रैंडम सर्वाइवल फॉरेस्ट (Random Survival Forests): एक लोकप्रिय मशीन लर्निंग विधि।
  • डीपसरव (DeepSurv): एक आधुनिक डीप लर्निंग दृष्टिकोण।
  • बिनसरव (BinSurv): एक नई विधि जो सर्वाइवल को "हाँ/ना" प्रश्नों की एक श्रृंखला में बदलने की कोशिश करती है।

फैसला:
SurvPFN ने इन सभी विशेषज्ञ मॉडलों के बराबर ही प्रदर्शन किया, जिन्हें विशेष रूप से ट्यून किया गया था।

  • इसे प्रत्येक नए डेटासेट के लिए फिर से प्रशिक्षित करने की आवश्यकता नहीं थी।
  • इसे विशेष "फीचर इंजीनियरिंग" (डेटा को मैन्युअल रूप से ट्यून करना) की आवश्यकता नहीं थी।
  • इसे किसी जटिल, कस्टम-निर्मित आर्किटेक्चर की भी आवश्यकता नहीं थी।

पकड़ (सीमाएं)

पेपर ईमानदारी से बताता है कि वर्तमान में इसकी सीमाएं कहाँ हैं:

  • आकार: यह छोटे डेटासेट्स (1,000 पंक्तियों और 10 फीचर्स तक) पर सबसे अच्छा काम करता है। यह एक स्पोर्ट्स कार की तरह है: तेज़, फुर्तीली रेस के लिए बेहतरीन है, लेकिन अभी तक एक विशाल ट्रकिंग बेड़े के लिए नहीं बनाई गई है।
  • "वेबुल" (Weibull) पूर्वाग्रह: AI को सर्वाइवल कर्व्स के एक विशिष्ट गणितीय आकार (वेबुल) पर प्रशिक्षित किया गया था। हालांकि यह कई वास्तविक दुनिया के परिदृश्यों को अच्छी तरह से संभालता है, लेकिन अगर वास्तविक दुनिया का डेटा उन आकारों से बिल्कुल अलग दिखता है जो उसने जिम में देखे थे, तो इसे संघर्ष करना पड़ सकता है।
  • स्थिर दृश्य (Static View): यह मानता है कि सर्वाइवल को प्रभावित करने वाले कारक (जैसे आयु या नौकरी का प्रकार) समय के साथ नहीं बदलते। यह "प्रतिस्पर्धी जोखिमों" (जैसे बीमारी बढ़ने से पहले कार दुर्घटना से मरीज की मृत्यु) को हैंडल नहीं करता है।

मुख्य निष्कर्ष

यह पेपर साबित करता है कि सर्वाइवल एनालिसिस केवल एक विशेष नियम वाला एक प्रकार का डिस्ट्रिब्यूशनल रिग्रेशन है। फाउंडेशन मॉडल्स को "सेंसिंग" नियम (इवेंट इंडिकेटर फ्लैग) का सम्मान करना सिखाकर, उन्होंने बिना हर बार एक नया मॉडल बनाए, टाइम-टू-इवेंट भविष्यवाणियों के लिए इन शक्तिशाली, प्री-ट्रेन्ड मॉडल्स का उपयोग करने की क्षमता को अनलॉक कर दिया।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 🤖 cs.LG →