In-Context Learning for Wound Classification with Small Multimodal Language Models
यह अध्ययन प्रदर्शित करता है कि छोटे मल्टीमॉडल भाषा मॉडल रिट्रीवल-आधारित इन-कॉन्टेक्स्ट लर्निंग के माध्यम से बिना किसी प्रशिक्षण के घाव की छवि वर्गीकरण को प्रभावी ढंग से कर सकते हैं, जो कार्य-विशिष्ट पुन: प्रशिक्षण की आवश्यकता के बिना क्वेरी-कंडीशन्ड सपोर्ट उदाहरणों और मैक्सिमल मार्जिनल रिलेवेंस रीरैंकिंग का लाभ उठाकर सार्वजनिक डेटासेट पर उच्च सटीकता प्राप्त करते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को विभिन्न प्रकार के घावों, जैसे कि खरोंच, जलन या गहरा कट, को पहचानना सिखाने की कोशिश कर रहे हैं। आमतौर पर, एक रोबोट को यह सिखाने के लिए, आपको उसे हजारों लेबल की गई तस्वीरें दिखानी पड़ती हैं और उसे उन्हें याद करने के लिए मजबूर करना पड़ता है, जिसे "ट्रेनिंग" (प्रशिक्षण) कहा जाता है। यह एक छात्र को एक एकल परीक्षा के लिए हफ्तों तक अध्ययन कराने जैसा है। लेकिन क्या होगा अगर रोबोट परीक्षा से ठीक पहले कुछ उदाहरण देख सके और तुरंत इसे समझ सके? यह "इन-कॉन्टेक्स्ट लर्निंग" (ICL) के विचार के पीछे का विचार है। इसे एक छात्र को परीक्षा से ठीक पहले "बर्न" (जलन) और "कट" (कट) के तीन सटीक उदाहरणों वाली एक 'चीट शीट' देने के रूप में सोचें। उन्हें पूरा पाठ्यपुस्तक रटने की आवश्यकता नहीं है; उन्हें बस उदाहरणों को देखने की आवश्यकता है और कहना है, "ओह, यह नया वाला उस बर्न वाले उदाहरण जैसा दिखता है।"
अब, कल्पना कीजिए कि यह रोबोट छोटा है और क्लाउड में स्थित किसी विशाल सुपरकंप्यूटर के बजाय एक लैपटॉप या फोन पर फिट हो जाता है। इन्हें "स्मॉल मल्टीमॉडल लैंग्वेज मॉडल्स" (SMLMs) कहा जाता है। ये गोपनीयता के लिए बहुत अच्छे हैं क्योंकि आपको अपनी निजी चिकित्सा तस्वीरें किसी बड़े सर्वर पर भेजने की आवश्यकता नहीं है; रोब kecil (छोटा) रोबोट आपके डिवाइस पर ही वहीं सोच सकता है। मुख्य सवाल जो वैज्ञानिक पूछ रहे हैं वह यह है: क्या ये छोटे, स्थानीय रोबोट केवल कुछ उदाहरणों के साथ वास्तव में अच्छा काम कर सकते हैं, या उन्हें सही होने के लिए विशाल सुपरकंप्यूटर और भारी प्रशिक्षण डेटा की आवश्यकता है?
यह शोध पत्र इस विचार का परीक्षण करता है। शोधकर्ता यह देखना चाहते थे कि क्या वे इन छोटे, स्थानीय AI मॉडलों का उपयोग बिना हर बार उन्हें फिर से प्रशिक्षित किए, घाव की छवियों को वर्गीकृत करने के लिए कर सकते हैं। उन्होंने घाव की तस्वीरों के दो सार्वजनिक संग्रहों का उपयोग करके एक प्रयोग स्थापित किया: एक जिसमें लगभग 1,469 चित्र थे और दूसरा जिसमें 560 चित्र थे। AI से केवल अनुमान लगाने के बजाय (जिसे "जीरो-शॉट" कहा जाता है और जिससे अक्सर गलत अनुमान लगते हैं), उन्होंने इसे उदाहरणों की एक "चीट शीट" देने की कोशिश की। लेकिन यहाँ एक चाल है: उन्होंने केवल यादृच्छिक (रैंडम) उदाहरण नहीं चुने। उन्होंने सबसे अधिक समान दिखने वाले उदाहरणों को खोजने के लिए एक स्मार्ट खोज प्रणाली का उपयोग किया जो नए घाव की छवि के सबसे करीब हो।
परिणाम इन छोटे रोबोटों के लिए काफी उत्साहजनक थे। जब AI को स्मार्ट तरीके से चुने गए उदाहरणों का एक सेट दिया गया (विशेष रूप से, 10 उदाहरण जो kNN नामक खोज प्रणाली द्वारा खोजे गए थे, और कभी-कभी विविधता सुनिश्चित करने के लिए MMR नामक विधि के साथ परिष्कृत किए गए थे), तो यह अपने काम में बहुत बेहतर हो गया। बड़े डेटासेट पर, सबसे अच्छा छोटा मॉडल, Qwen 3.5 का 27-बिलियन पैरामीटर वाला संस्करण, 0.872 की सटीकता तक पहुँचा। इसका मतलब है कि इसने 87% से अधिक समय तक निदान सही किया। अधिक कठिन, छोटे डेटासेट पर, इसने अभी भी लगभग 68% सटीकता हासिल की।
अध्ययन ने यह भी पाया कि रोबोट का आकार मायने रखता है। बड़े छोटे मॉडल (जैसे 27B और 9B संस्करण) उदाहरणों का उपयोग करके अपने अनुमानों में महत्वपूर्ण सुधार करने में सक्षम थे, और अक्सर एक मानक कंप्यूटर प्रोग्राम से भी बेहतर प्रदर्शन करते हैं जो केवल निकटतम मिलान के आधार पर वोट देता है। हालाँकि, सबसे छोटे मॉडल थोड़ा संघर्ष करते हैं, कभी-कभी वे बारीकियों को समझने के बजाय केवल उदाहरणों की नकल करते हैं। शोधकर्ताओं ने यह भी पाया कि आपको एक विशाल चीट शीट की आवश्यकता नहीं है; 8 से 10 से अधिक उदाहरण जोड़ने से बहुत अधिक मदद नहीं मिली और इसने प्रक्रिया को धीमा भी कर दिया।
महत्वपूर्ण रूप से, यह शोध पत्र दिखाता है कि यह दृष्टिकोण प्रत्येक नए कार्य के लिए मॉडल को फिर से प्रशिक्षित किए बिना काम करता है। यदि डॉक्टर लेबल बदलना चाहते हैं या उन प्रकार के घावों को बदलना चाहते हैं जिन्हें वे देख रहे हैं, तो आप बस प्रॉम्प्ट में उदाहरणों को बदल सकते हैं, और मॉडल तुरंत अनुकूलित हो जाता है। हालांकि प्रदर्शन एकदम सटीक नहीं है और यह अच्छे उदाहरणों और एक पर्याप्त आकार के मॉडल पर बहुत अधिक निर्भर करता है, अध्ययन बताता है कि छोटे, स्थानीय AI मॉडल घावों को वर्गीकृत करने में मदद करने के लिए एक व्यावहारिक, गोपनीयता-अनुकूल तरीका हो सकते हैं, जो पुराने भारी और डेटा-भूखे सिस्टम के लिए एक लचीला विकल्प प्रदान करते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।