← नवीनतम पेपर
💻 computer science

Regulating Anatomy-Aware Rewards via Trajectory-Integral Feedback for Volumetric Computed Tomography Analysis

यह शोध पत्र ट्राजेक्टरी-इंटीग्रल फीडबैक GRPO (TIF-GRPO) फ्रेमवर्क प्रस्तुत करता है, जो मेडिकल विजन-लैंग्वेज मॉडल्स में एनाटॉमी-अवेयर रिवॉर्ड्स को नियंत्रित करने के लिए कंट्रोल-थ्योरेटिक सिद्धांतों और एक स्ट्रक्चर्ड क्लिनिकल एब्नॉर्मलिटी बेंचमार्किंग सबस्ट्रेट (CABS) का लाभ उठाता है, जिससे इवैल्यूएशन हैलुसिनेशन समाप्त होता है और 3D CT विश्लेषण में क्लिनिकल फेथफुलनेस में वृद्धि होती है।

मूल लेखक: Tianwei Lin, Zhongwei Qiu, Jie Cao, Jiang Liu, Wenjie Yan, Bo Zhang, Yu Zhong, Wenqiao Zhang, Yingda Xia, Ling Zhang

प्रकाशित 2026-05-21
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें
CC BY 4.0

मूल लेखक: Tianwei Lin, Zhongwei Qiu, Jie Cao, Jiang Liu, Wenjie Yan, Bo Zhang, Yu Zhong, Wenqiao Zhang, Yingda Xia, Ling Zhang

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान, लेकिन थोड़े नादान रोबोट को एक रेडियोलॉजिस्ट (radiologist) के रूप में कार्य करने के लिए प्रशिक्षित कर रहे हैं। इसका काम 3D CT स्कैन (जो मानव शरीर के मोटे, डिजिटल स्लाइस की तरह हैं) को देखना और जो कुछ भी यह देखता है उसका विवरण देने वाली एक रिपोर्ट लिखना है।

समस्या यह है, जैसा कि इस शोध पत्र (paper) में बताया गया है, कि रोबोट को एक "सच्चा बोलने वाले" के बजाय एक "लोगों को खुश करने वाले" (people pleaser) के रूप में प्रशिक्षित किया गया है।

यहाँ इस शोध पत्र की कहानी का विवरण दिया गया है, सरल उपमाओं (analogies) का उपयोग करते हुए:

1. समस्या: रोबोट अच्छे ग्रेड पाने के लिए "भ्रम" (Hallucinating) पैदा कर रहा है

वर्तमान में, जब हम इन AI मॉडल्स को प्रशिक्षित करते हैं, तो हम उन्हें इस आधार पर ग्रेड देते हैं कि उनकी रिपोर्ट एक मानव डॉक्टर की रिपोर्ट की तरह कितनी "सुंदर" लगती है। हम ऐसे मेट्रिक्स का उपयोग करते हैं जो शब्दों के मेल (word overlap) की जाँच करते हैं (जैसे यह देखना कि क्या रोबोट ने पाठ्यपुस्तक के समान फैंसी शब्दों का उपयोग किया है)।

  • उपमा: कल्पना कीजिए कि एक छात्र इतिहास की परीक्षा दे रहा है। शिक्षक उसे इस आधार पर ग्रेड देते हैं कि उसका निबंध कितना प्रवाहपूर्ण है और उसने कितने बड़े शब्दों का उपयोग किया है, न कि इस आधार पर कि ऐतिहासिक तथ्य वास्तव में कितने सत्य हैं।
  • परिणाम: छात्र (AI) सुंदर, प्रवाहपूर्ण निबंध लिखना सीख जाता है जो सुनने में तो एकदम सही लगते हैं, लेकिन उनमें मनगढ़ंत तथ्य होते हैं। चिकित्सा जगत में, इसे "इवैल्यूएशन हैलुसिनेशन" (Evaluation Hallucination) कहा जाता है। AI कह सकता है, "बाएं फेफड़े में ट्यूमर है," सिर्फ इसलिए क्योंकि यह वाक्यांश एक सामान्य मेडिकल रिपोर्ट में बहुत आम लगता है, भले ही स्कैन में वहां कुछ भी न दिख रहा हो। यह खतरनाक है क्योंकि AI शैली (style) को अनुकूलित कर रहा है, सुरक्षा (safety) को नहीं।

2. पहला समाधान: रिपोर्ट को "लेगो ब्रिक्स" (Lego Bricks) में तोड़ना (CABS)

लेखकों ने महसूस किया कि वे "शैली" वाले ग्रेड पर भरोसा नहीं कर सकते। उन्हें एक तरीका चाहिए था जिससे वे रोबोट को वास्तविक तथ्यों पर ग्रेड दे सकें। उन्होंने CABS (Clinical Abnormality Benchmarking Substrate) नामक एक प्रणाली बनाई।

  • उपमा: पूरी रिपोर्ट को एक साथ ग्रेड देने के बजाय, CABS मेडिकल रिपोर्ट को छोटे, परमाणु स्तर के लेगो ब्रिक्स (Lego bricks) में तोड़ देता है:
    • ब्रिक 1: "लीवर" (अंग)
    • ब्रिक 2: "सिस्ट" (समस्या)
    • ब्रिक 3: "दायां हिस्सा" (स्थान)
    • ब्रिक 4: "छोटा" (आकार)
  • यह कैसे काम करता है: सिस्टम यह जाँचता है कि क्या रोबोट ने सही लेगो ब्रिक्स को सही स्थानों पर रखा है। क्या उसने लीवर को पाया? क्या उसने सिस्ट को पाया? क्या उसने सिस्ट को दाहिनी ओर रखा? यदि रोबोट कोई ब्रिक छोड़ देता है या कोई नकली ब्रिक जोड़ देता है, तो उसे दंडित किया जाता है। यह सुनिश्चित करता है कि रोबोट का मूल्यांकन चिकित्सा सत्य पर किया जाए, न कि केवल सुंदर वाक्यों पर।

3. दूसरी समस्या: रोबोट ग्रेडिंग से "भ्रमित" हो जाता है

लेगो सिस्टम के बावजूद, लेखकों ने पाया कि एक नई समस्या उत्पन्न हुई। जब उन्होंने मानक प्रशिक्षण विधियों (Reinforcement Learning) का उपयोग किया, तो रोबोट अभी भी भ्रमित हो गया। वह एक सुरक्षित स्कोर पाने के लिए "औसत" उत्तर का अनुमान लगाने की कोशिश करने लगा, जिससे वह दुर्लभ लेकिन महत्वपूर्ण विवरणों को अनदेखा करने लगा। इसे "मैकेनिस्टिक डाइवर्जेंस" (Mechanistic Divergence) कहा जाता है। रोबोट की रणनीति सभी सत्यों को खोजने के लक्ष्य से भटक जाती है।

4. समाधान: "ट्रैजेक्टरी-इंटीग्रल फीडबैक" (TIF-GRPO)

इसे ठीक करने के लिए, लेखकों ने TIF-GRPO नामक एक नया प्रशिक्षण तरीका पेश किया। उन्होंने इंजीनियरिंग के एक सिद्धांत "कंट्रोल थ्योरी" (सोचिए जैसे कार में क्रूज कंट्रोल सिस्टम एक स्थिर गति बनाए रखता है) से एक अवधारणा उधार ली।

  • उपमा: AI की सोचने की प्रक्रिया को जंगल में छिपे हुए खजानों (असामान्यताएं) को खोजने के लिए एक पगडंडी पर चलने वाले हाइकर (हाइकर) के रूप में सोचें।
    • मानक प्रशिक्षण: हाइकर को केवल यात्रा के अंत में इनाम मिलता है यदि उसने कुछ खोज लिया हो। वह जल्दबाजी कर सकता है, चीजें छोड़ सकता है, या रास्ते से भटक सकता है।
    • TIF-GRPO (नई विधि): यह प्रणाली एक स्मार्ट गाइड की तरह काम करती है जो पूरी यात्रा के दौरान हाइकर के साथ चलता है।
      • इंटीग्रल लूप (The Integral Loop): गाइड एक चलता-फिरता हिसाब रखता है। यदि हाइकर शुरुआत में ही कोई खजाना छोड़ देता है (एक "फॉल्स नेगेटिव"), तो गाइड केवल अंत तक इंतजार नहीं करता कि कब उसे डांटना है। गाइड चलते समय ही "छूटे हुए खजाने के कर्ज" को जोड़ता रहता है। हाइकर जितनी देर किसी छूटी हुई वस्तु को अनदेखा करता है, दंड उतना ही भारी होता जाता है।
      • कंट्रोल एफर्ट (The Control Effort): यदि हाइकर अचानक कोई भी पत्थर उठाकर उसे खजाना बताने लगता है (एक "फॉल्स पॉजिटिव" या हैलुसिनेशन), तो गाइड तुरंत "ब्रेक" लगा देता है। यह तथ्य गढ़ने को "ऊर्जा की बर्बादी" के रूप में मानता है और हाइकर को अनुमान लगाने के लिए बहुत अधिक उत्सुक होने के लिए दंडित करता है।

5. परिणाम

लेखकों ने पाया कि "हाइकिंग गाइड" प्रणाली (TIF-GRPO) का उपयोग करके और "लेगो ब्रिक" ग्रेडिंग (CABS) को मिलाकर, रोबोट ने अनुमान लगाना बंद कर दिया और सटीक होना सीख लिया।

  • परिणाम: 3D CT स्कैन पर अपने परीक्षणों में, इस नई पद्धति ने AI को निम्नलिखित कार्यों में काफी बेहतर बनाया:
    1. वास्तविक असामान्यताओं (जैसे ट्यूमर या सिस्ट) को ढूंढना।
    2. उनका सटीक वर्णन करना (सही स्थान, सही आकार)।
    3. उन चीजों को बनाने से रुकना जो वहां मौजूद नहीं थीं।

सारांश

यह शोध पत्र तर्क देता है कि चिकित्सा के लिए AI को सुरक्षित बनाने के लिए, हमें इसे इस आधार पर ग्रेड देना बंद करना होगा कि यह कैसे बात करता है और इसके बजाय इस आधार पर ग्रेड देना होगा कि यह कैसे सोचता है। उन्होंने यह दो तरीकों से किया:

  1. रिपोर्ट को छोटे, सत्यापन योग्य तथ्यों में तोड़कर (CABS)।
  2. AI को एक ऐसे सिस्टम के साथ प्रशिक्षित करके जो उसे समय के साथ तथ्य छोड़ने के लिए और मौके पर तथ्य गढ़ने के लिए दंडित करता है (TIF-GRPO)।

परिणामस्वरूप, यह AI एक चिकनी-चुपड़ी बातें करने वाले कवि के बजाय एक सावधान, तथ्य-जाँच करने वाले डॉक्टर की तरह है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →

इसी तरह के और पेपर

इस विषय के सभी पेपर देखें 💻 cs →