Cross-Stack Validation of Language-Model Training: A Clinical Fine-Tuning Case Study
यह शोध पत्र प्रदर्शित करता है कि स्वतंत्र रूप से कार्यान्वित प्रशिक्षण स्टैक, विशेष रूप से PyTorch और numbat नामक एक Zig-आधारित फ्रेमवर्क, बड़े पैमाने पर क्लिनिकल लैंग्वेज मॉडल फाइन-ट्यूनिंग को मान्य करने के लिए प्रभावी विभेदक ओरेकल (differential oracles) के रूप में कार्य कर सकते हैं, जो सफलतापूर्वक 17 पहले से छूटे हुए दोषों को उजागर करते हैं—जिसमें महत्वपूर्ण डेटा रेंडरिंग विसंगतियां और भाषा-विशिष्ट मेमोरी प्रबंधन संबंधी मुद्दे शामिल हैं—जिन्हें सिंगल-स्टैक विकास ने अनदेखा कर दिया था।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने नहीं लिखा है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक आर्टिफिशियल इंटेलिजेंस की दुनिया में, मशीनें 'ट्रेनिंग' नामक एक प्रक्रिया के माध्यम से अरबों सूक्ष्म आंतरिक नॉब्स (knobs) को समायोजित करके सीखती हैं। यह प्रक्रिया गणितीय चरणों की एक लंबी, जटिल श्रृंखला है जहाँ मशीन डेटा पढ़ती है, एक अनुमान लगाती है, यह जाँचती है कि वह कितनी गलत थी, और फिर अगली बार बेहतर करने के लिए खुद को सुधारती है। वर्षों से, वैज्ञानिक इस बात से चिंतित रहे हैं कि यह श्रृंखला चुपचाप टूट सकती है। एक कंप्यूटर प्रोग्राम अपनी गणनाओं में गलती कर सकता है, फिर भी मशीन ऐसा व्यवहार करेगी जैसे वह सीख रही हो, उसकी त्रुटि दर (error rate) कम होती रहेगी, और अंतिम परिणाम एक काम करने वाले मॉडल जैसा ही दिखेगा। क्योंकि लगभग सभी लोग इन प्रोग्रामों को बनाने के लिए उपकरणों के एक ही सेट का उपयोग करते हैं, इसलिए यह जाँचने का शायद ही कभी कोई दूसरा, स्वतंत्र तरीका होता है कि क्या गणित वास्तव में सही ढंग से किया जा रहा है। यह एक लंबी गणना को सत्यापित करने की कोशिश करने जैसा है जब आपके पास उस काम को करने के लिए उपयोग किए जा रहे कैलकुलेटर के अलावा कोई दूसरा कैलकुलेटर न हो।
यह अनिश्चितता गहराई से मायने रखती है क्योंकि जिस मॉडल ने गलत चीज़ सीखी है, वह फिर भी धाराप्रवाह और आत्मविश्वासी लग सकता है। यदि मॉडल के नीचे का सॉफ़्टवेयर कुछ अलग गणना कर रहा है जो शोधकर्ताओं के इरादे से भिन्न है, तो परिणाम कोई क्रैश या स्पष्ट त्रुटि नहीं होगा, बल्कि बुद्धिमत्ता का एक थोड़ा खराब संस्करण होगा जिसके बारे में किसी को पता भी नहीं चलेगा कि वह टूटा हुआ है। इसे हल करने के लिए, शोधकर्ताओं ने एक सरल प्रश्न पूछना शुरू किया है: क्या होगा यदि हम पूरी प्रशिक्षण प्रक्रिया को दो बार बनाएँ, जिसमें पूरी तरह से अलग उपकरणों और भाषाओं का उपयोग किया गया हो, और फिर दोनों की तुलना करें? यदि दोनों संस्करण बिल्कुल समान निर्देशों का पालन करते हैं, तो उन्हें एक ही सीखने का मार्ग (learning path) बनाना चाहिए। यदि वे अलग होते हैं, तो इसका अर्थ है कि उनमें से एक अपनी गलती छिपा रहा है।
क्लाउडकाइट्स एआई लैब (CloudKites AI Lab) और मोनाश यूनिवर्सिटी के शोधकर्ताओं की एक टीम ने इस विचार का परीक्षण एक यथार्थवादी, उच्च-दांव वाले कार्य पर करने का निर्णय लिया: कंप्यूटर को चिकित्सा संबंधी प्रश्नों को समझने के लिए सिखाना। उन्होंने एक छोटे भाषा मॉडल (language model) को लिया और उसे लगभग 1,70,000 नैदानिक प्रश्नों और उत्तरों के जोड़ों पर प्रशिक्षित किया। एक निष्पक्ष परीक्षण सुनिश्चित करने के लिए, उन्होंने दो पूरी तरह से अलग प्रशिक्षण प्रणालियाँ लिखीं। एक प्रणाली ने मानक सॉफ़्टवेयर टूल का उपयोग किया जो आज अधिकांश वैज्ञानिक उपयोग करते हैं। दूसरी प्रणाली को एक अलग टीम द्वारा शून्य से बनाया गया था, जिसमें एक अलग प्रोग्रामिंग भाषा और गणितीय इंजनों का एक अलग सेट उपयोग किया गया था, और उनके बीच कोई साझा कोड नहीं था। उन्होंने दोनों प्रणालियों को बिल्कुल समान निर्देश, समान डेटा और एक ही शुरुआती बिंदु दिया, और फिर उन्हें सीखने के एक पूर्ण चक्र के लिए चलने दिया।
दोनों प्रणालियाँ उल्लेखनीय रूप से सहमत रहीं। प्रशिक्षण के दौरान, जिसमें 10,000 से अधिक चरण शामिल थे, उनके प्रदर्शन में अंतर बहुत कम था, जो औसतन शून्य दशमलव दो प्रतिशत से भी कम था। यह करीबी सहमति सिद्ध करती है कि नई, स्वतंत्र प्रणाली मानक प्रणाली पर एक विश्वसनीय जाँच के रूप में काम कर सकती है। लेकिन प्रयोग का वास्तविक मूल्य सहमति में नहीं था; यह असहमति में था। दोनों प्रणालियों की तुलना करके, शोधकर्ताओं ने सत्रह छिपी हुई खामियाँ पाईं जिन्हें दोनों टीमों में से किसी ने भी अकेले काम करते समय नहीं देखा था। ये वे त्रुटियाँ नहीं थीं जिनके कारण प्रोग्राम काम करना बंद कर देता; ये सूक्ष्म गलतियाँ थीं जो चुपचाप अंतिम मॉडल की गुणवत्ता को कम कर देतीं।
सबसे आश्चर्यजनक खोज यह थी कि सबसे बड़ी गलती गणित में नहीं थी। शोधकर्ताओं ने पाया कि एक प्रणाली चिकित्सा पाठ (medical text) को दूसरे की तुलना में थोड़ा अलग तरह से प्रारूपित (format) कर रही थी, जो उस विशिष्ट शैली के बजाय एक सामान्य लेआउट का उपयोग कर रही थी जिसे मॉडल को सीखने के लिए डिज़ाइन किया गया था। पाठ को तैयार करने के इस छोटे से अंतर के कारण मॉडल का प्रदर्शन किसी भी संख्यात्मक गणना त्रुटियों के संयुक्त प्रभाव की तुलना में काफी अधिक गिर गया। वास्तव में, इस टेक्स्ट फॉर्मेटिंग समस्या को ठीक करने से मॉडल के सीखने के पथ में वास्तविक गणितीय त्रुटियों को ठीक करने की तुलना में लगभग पाँच सौ गुना अधिक सुधार हुआ। इसने खुलासा किया कि सबसे खतरनाक बग अक्सर डेटा को तैयार करने के तरीके में छिपे होते हैं, जटिल गणनाएँ शुरू होने से बहुत पहले।
अध्ययन ने यह भी दिखाया कि प्रोग्रामिंग भाषा स्वयं मायने रखती है। चार छिपी हुई खामियाँ केवल तब पाई जा सकती थीं जब सिस्टम को ऐसी भाषा द्वारा संचालित किया गया जो अन्य भाषाओं की तुलना में कंप्यूटर मेमोरी को अलग तरह से प्रबंधित करती है। उदाहरण के लिए, एक भाषा ने कार्यों को विभिन्न प्रोसेसर थ्रेड्स के बीच इस तरह स्थानांतरित किया जिससे सिस्टम की आंतरिक स्थिति (internal state) भ्रमित हो गई, जबकि दूसरी भाषा के मेमोरी मैनेजर ने यह नहीं देखा कि कंप्यूटर का ग्राफिक्स कार्ड पर स्थान समाप्त हो रहा है। ये त्रुटियाँ मानक उपकरणों के लिए अदृश्य थीं क्योंकि वे कंप्यूटर द्वारा मेमोरी संभालने के बारे में उन धारणाओं पर निर्भर थीं जो पहले सिस्टम के लिए तो सत्य थीं लेकिन दूसरे के लिए गलत थीं।
शोधकर्ताओं ने इस दोहरी जाँच प्रक्रिया में लगने वाले समय को मापा और पाया कि यह किफायती था। दूसरे, स्वतंत्र सिस्टम को चलाने में पहले वाले की तुलना में महत्वपूर्ण रूप से अधिक समय नहीं लगा और न ही इसके लिए अधिक महंगे उपकरणों की आवश्यकता पड़ी। यह सुझाव देता है कि एक प्रशिक्षण पाइपलाइन का दूसरा, स्वतंत्र संस्करण बनाना न केवल एक सैद्धांतिक सुरक्षा जाल है, बल्कि एक व्यावहारिक कदम है जिसे टीमें आज उठा सकती हैं। यह कार्य यह दावा नहीं करता है कि इसने आर्टिफिशियल इंटेलिजेंस की सभी समस्याओं को हल कर लिया है, और न ही यह गारंटी देता है कि उनके द्वारा प्रशिक्षित चिकित्सा मॉडल वास्तविक रोगियों के लिए सुरक्षित है। इसके बजाय, यह शांत विफलताओं (silent failures) को पकड़ने के लिए एक स्पष्ट विधि प्रदान करता है। यह दिखाता है कि मशीन लर्निंग सिस्टम पर वास्तव में भरोसा करने के लिए, हमें अंतिम परिणाम से परे देखना होगा और पूरी यात्रा को सत्यापित करना होगा, न केवल गणित की, बल्कि डेटा, कोड और उस भाषा की भी जाँच करनी होगी जिसका उपयोग इसे लिखने के लिए किया गया है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।