← नवीनतम पेपर
💬 NLP

PanCanBench: A Comprehensive Benchmark for Evaluating Large Language Models in Pancreatic Oncology

PanCanBench एक व्यापक बेंचमार्क है जिसमें अग्नाशय के कैंसर के रोगियों के 282 वास्तविक प्रश्न और 3,130 विशेषज्ञ-व्युत्पन्न मानदंड शामिल हैं जो 22 लार्ज लैंग्वेज मॉडल्स की तथ्यात्मक सटीकता और पूर्णता में महत्वपूर्ण भिन्नताओं को प्रकट करता है, जो यह रेखांकित करता है कि उच्च रूब्रिक स्कोर और वेब-सर्च एकीकरण आवश्यक रूप से नैदानिक सुरक्षा या मतिभ्रम (hallucinations) में कमी की गारंटी नहीं देते हैं।

मूल लेखक: Yimin Zhao, Sheela R. Damle, Simone E. Dekker, Scott Geng, Karly Williams Silva, Jesse J Hubbard, Manuel F Fernandez, Fatima Zelada-Arenas, Alejandra Alvarez, Brianne Flores, Alexis Rodriguez, Stephen
प्रकाशित 2026-03-03
📖 5 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Yimin Zhao, Sheela R. Damle, Simone E. Dekker, Scott Geng, Karly Williams Silva, Jesse J Hubbard, Manuel F Fernandez, Fatima Zelada-Arenas, Alejandra Alvarez, Brianne Flores, Alexis Rodriguez, Stephen Salerno, Carrie Wright, Zihao Wang, Pang Wei Koh, Jeffrey T. Leek

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान, सुपर-फास्ट रोबोट लाइब्रेरियन है जिसने अब तक की हर मेडिकल किताब पढ़ ली है। आप उससे पूछते हैं, "मेरे अंकल को अग्नाशय का कैंसर (pancreatic cancer) है; हमें क्या करना चाहिए?" रोबोट एक लंबा, आत्मविश्वास से भरा जवाब देता है।

बड़ी समस्या: सिर्फ इसलिए कि रोबोट आत्मविश्वास से भरा हुआ लगता है और बड़े शब्दों का उपयोग करता है, इसका मतलब यह नहीं है कि वह सच बोल रहा है। चिकित्सा की दुनिया में, एक आत्मविश्वास से भरा झूठ खतरनाक हो सकता है।

यह पेपर, जिसे PanCanBench कहा जाता है, विशेष रूप से इन रोबोट लाइब्रेरियनों को अग्नाशय के कैंसर जैसे पेचीदा और डरावने विषय पर टेस्ट करने के लिए बनाया गया एक "फाइनल एग्जाम" है। उन्होंने इसे कैसे किया, इसे सरल भाषा में यहाँ समझाया गया है:

1. "वास्तविक दुनिया" का परीक्षण (कोई नकली सवाल नहीं)

AI के अधिकांश परीक्षण कंप्यूटर द्वारा बनाए गए नकली सवालों का उपयोग करते हैं (जैसे, "फ्रांस की राजधानी क्या है?")। लेकिन वास्तविक मरीज उलझे हुए, भावनात्मक और जटिल सवाल पूछते हैं जैसे, "मेरे डॉक्टर ने कहा कि यह स्टेज 4 है, लेकिन बायोप्सी स्पष्ट नहीं थी। अब क्या करें?"

शोधकर्ताओं ने अग्नाशय के कैंसर के मरीजों के लिए एक वास्तविक हेल्पलाइन पर जाकर 282 वास्तविक सवाल जुटाए। उन्होंने AI से केवल उत्तर देने के लिए नहीं कहा; उन्होंने पूछा: "क्या यह उत्तर सुरक्षित और सहायक है?"

2. "मानवीय ग्रेडर" बनाम "रोबोट जज"

जवाबों को ग्रेड करने के लिए, शोधकर्ताओं ने केवल एक कंप्यूटर का उपयोग नहीं किया। उन्होंने ऑन्कोलॉजी फेलोज़ (डॉक्टर जो कैंसर के विशेषज्ञ बनने की ट्रेनिंग ले रहे हैं) को एक "ग्रेडिंग रूब्रिक" (grading rubric) बनाने के लिए काम पर रखा।

  • रूब्रिक एक रेसिपी की तरह है: कल्पना कीजिए कि एक परफेक्ट केक की रेसिपी है। इसमें लिखा है: "मैदा होना चाहिए (5 अंक), चीनी होनी चाहिए (5 अंक), नमक नहीं होना चाहिए (-10 अंक)।"
  • डॉक्टरों ने हर एक सवाल के लिए ऐसी ही "रेसिपी" लिखी।
  • फिर, उन्होंने एक सुपर-स्मार्ट AI (GPT-5) का उपयोग जज के रूप के रूप में किया, जो अन्य रोबोटों के जवाबों की जांच इन मानव-लिखित रेसिपी के आधार पर करता था।

परिणाम: AI जज ग्रेडिंग करने में मानव डॉक्टरों के लगभग बराबर था। इसका मतलब है कि हम भविष्य में AI के जवाबों को ग्रेड करने के लिए AI का उपयोग कर सकते हैं, जिससे समय और पैसा बचेगा!

3. चौंकाने वाले निष्कर्ष

जब उन्होंने टेस्ट चलाया, तो यहाँ क्या हुआ:

  • आत्मविश्वास \neq शुद्धता: कुछ नवीनतम, "सबसे स्मार्ट" रीजनिंग मॉडल (जैसे o3) ने "रेसिपी" टेस्ट पर उच्चतम स्कोर प्राप्त किया। वे एकदम परफेक्ट लग रहे थे! लेकिन, वे ही सबसे अधिक खतरनाक तथ्यात्मक गलतियाँ करने वाले भी थे। यह एक ऐसे छात्र की तरह है जो एक सुंदर निबंध तो लिखता है लेकिन गणित में गलत हो जाता है।
  • "हैलुसिनेशन" (Hallucination) की दर: यह तब होता है जब AI चीजें मनगढ़ंत बनाता है।
    • सबसे अच्छे मॉडल (जैसे GPT-5 और Gemini) केवल 6% समय तथ्य मनगढ़ंत बनाते थे।
    • कुछ ओपन-सोर्स मॉडल (मुफ्त मॉडल जिन्हें कोई भी डाउनलोड कर सकता है) अपने जवाबों में 54% बार तथ्य मनगढ़ंत बनाते थे! यह दवा लेने का फैसला करने के लिए सिक्का उछालने जैसा है।
  • "गूगल सर्च" का जाल: शोधकर्ताओं ने रोबोटों के लिए "वेब सर्च" बटन चालू कर दिया, इस उम्मीद में कि वे तथ्यों को खोज लेंगे।
    • आश्चर्य: इसने हमेशा मदद नहीं की! कभी-कभी, जब रोबट इंटरनेट पर खोजने लगता, तो वह उस अच्छी जानकारी को भूल जाता जो वह पहले से जानता था। यह एक शेफ की तरह है जो रेसिपी बुक पढ़ने के लिए खाना बनाना रोकता है और ध्यान भटकने के कारण सूप जला देता है।
    • साथ ही, रोबोट कभी-कभी विश्वसनीय मेडिकल जर्नल्स के बजाय खराब लिंक (जैसे कोई रैंडम ब्लॉग) ढूंढ लेते थे।

4. "AI बनाम मानव" रूब्रिक प्रयोग

शोधकर्ताओं ने पूछा: "क्या हम डॉक्टरों को काम पर रखने के बजाय AI को ग्रेडिंग रेसिपी (रूब्रिक) लिखने दे सकते हैं?"

  • जवाब: नहीं।
  • जब AI ने ग्रेडिंग रेसिपी लिखी, तो रोबोट्स को बहुत अधिक स्कोर मिले (जो लगभग 18 अंकों से बढ़कर आया था)।
  • यह ऐसा है जैसे किसी छात्र ने खुद अपने टेस्ट के सवाल लिखे और फिर अपने ही जवाबों को ग्रेड किया। वे A+ प्राप्त करेंगे, लेकिन वे वास्तव में विषय को नहीं जानते होंगे। नियम तय करने के लिए मानव विशेषज्ञों की आवश्यकता अभी भी है।

निचोड़ (The Bottom Line)

यह पेपर स्वास्थ्य सेवा में AI के भविष्य के लिए एक चेतावनी लेबल है।

  1. सबसे "स्मार्ट" दिखने वाले AI पर भरोसा न करें: जो मॉडल सबसे अधिक आत्मविश्वास से भरा लगता है, वह हमेशा सबसे सटीक नहीं होता है।
  2. मानव विशेषज्ञ अपूरणीय हैं: हमें टेस्ट डिजाइन करने और तथ्यों की जांच करने के लिए डॉक्टरों की आवश्यकता है।
  3. ओपन-सोर्स मॉडल्स पर काम करने की जरूरत है: गंभीर मेडिकल सलाह के लिए ओपन-सोर्स मॉडल वर्तमान में बहुत जोखिम भरे हैं क्योंकि वे बहुत अधिक झूठ बोलते हैं।

संक्षेप में: PanCanBench एक वास्तविकता की जाँच है। यह दिखाता है कि हालांकि AI डॉक्टर की तरह बात करने में बेहतर हो रहा है, फिर भी यह सुनिश्चित करने के लिए कि वह एक खतरनाक धोखेबाज की तरह व्यवहार न करे, उसे एक मानव पर्यवेक्षक की आवश्यकता है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →