Learning From How Humans Correct
यह शोध पत्र एक नवीन "लर्न-ऑन-करेक्शन" (सुधार-पर-सीखना) विधि प्रस्तावित करता है जो शोर वाले डेटा को पुन: लेबल करने और डीप लर्निंग मॉडलों को बेहतर बनाने के लिए मानवीय सुधार फीडबैक का लाभ उठाता है, जिससे एक उद्योग टेक्स्ट वर्गीकरण डेटासेट पर टेस्ट सटीकता 91.7% से बढ़कर 92.5% हो जाती है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को अपना मन पढ़ना सिखा रहे हैं, लेकिन मस्तिष्क के बजाय, आप उसे टेक्स्ट की एक विशाल लाइब्रेरी खिला रहे हैं। यह नेचुरल लैंग्वेज प्रोसेसिंग (NLP) की दुनिया है, जहाँ कंप्यूटर मानव भाषा को समझने की कोशिश करते हैं। लंबे समय तक, इन रोबोट्स को स्मार्ट बनाने का गुप्त नुस्खा "डीप लर्निंग" था, एक ऐसी विधि जहाँ कंप्यूटर लाखों उदाहरणों को देखकर सीखता है, ठीक वैसे ही जैसे एक बच्चा बिल्लियों की हजारों तस्वीरें देखकर बिल्ली को पहचानना सीखता है। हाल ही में, BERT नामक एक सुपरस्टार मॉडल सामने आया, जो एक सुपर-रीडर की तरह काम करता है जिसने आपके सवाल पूछने से पहले ही लगभग पूरे इंटरनेट को पढ़ लिया था। लेकिन यहाँ एक पेंच है: यहाँ तक कि सुपर-रीडर्स भी गलतियाँ करते हैं, और कभी-कभी जो किताबें वे पढ़ते हैं (डेटा जो हम उन्हें देते हैं), उनमें टाइपो या गलत लेबल होते हैं। यदि किसी रोबोट को यह सिखाया जाता है कि एक "कुत्ता" वास्तव में एक "बिल्ली" है क्योंकि किसी इंसान ने गलती की थी, तो रोबोट यही सोचता रहेगा कि कुत्ते बिल्लियाँ हैं। वैज्ञानिक अब एक बड़ा सवाल पूछ रहे हैं: क्या हम रोबोट को न केवल पढ़ना, बल्कि अपनी गलतियों से सीखना सिखा सकते हैं, ठीक वैसे ही जैसे एक इंसान तब सीखता है जब कोई उसकी गलती की ओर इशारा करता है?
"लर्निंग फ्रॉम हाउ ह्यूमन्स करेक्ट" शीर्षक वाला यह शोध पत्र, कंप्यूटर मॉडल को मानव की आत्म-सुधार (self-correction) की आदत की नकल करने के लिए सिखाने का एक चतुर तरीका प्रस्तावित करता है। लेखक, जो एक औद्योगिक अनुप्रयोग के लिए वास्तविक दुनिया की टेक्स्ट क्लासिफिकेशन समस्या पर काम कर रहे थे, ने देखा कि उनके मैन्युअल रूप से लेबल किए गए डेटा में "नॉइजी" (noisy) उदाहरण थे—ऐसे मामले जहाँ मूल मानवीय लेबल संभवतः गलत था। इन खराब उदाहरणों को बस फेंक देने या कंप्यूटर पर अंधा विश्वास करने के बजाय, उन्होंने पांच-चरणीय प्रशिक्षण लूप (five-step training loop) बनाया। सबसे पहले, उन्होंने एक विशाल डेटासेट के 20 लाख आइटमों पर एक मॉडल (मान लीजिए, "मॉडल-A") को प्रशिक्षित किया। फिर, उन्होंने पूरे डेटासेट को स्कैन करने के लिए मॉडल-A का उपयोग किया और उन 3,00,000 आइटमों को खोज निकाला जहाँ कंप्यूटर का अनुमान मानव के मूल लेबल से मेल नहीं खा रहा था। इन्हें "नॉइजी" समस्या पैदा करने वाले तत्वों के रूप में चिह्नित किया गया।
यहीं पर जादू होता है: इंसानों ने वापस जाकर इन 3,00,000 पेचीदा आइटमों को मैन्युअल रूप से फिर से लेबल किया। लेकिन उन्होंने केवल लेबल नहीं बदला; उन्होंने इस बात का रिकॉर्ड भी रखा कि मानव द्वारा सुधार करने से पहले कंप्यूटर ने क्या लेबल सोचा था। इससे एक विशेष प्रकार का प्रशिक्षण डेटा तैयार हुआ जिसमें दो जानकारियां शामिल थीं: "पहले" (कंप्यूटर का गलत अनुमान) और "बाद में" (मानव का सही लेबल)। फिर उन्होंने इस दोहरी जानकारी का उपयोग करके एक नए, अधिक स्मार्ट मॉडल (मॉडल-C) को प्रशिक्षित किया। लक्ष्य मॉडल-C को न केवल टेक्स्ट को वर्गीकृत करना सिखाना था, बल्कि "सुधारने" के विशिष्ट कौशल को भी सिखाना था, यानी कंप्यूटर की पिछली गलतियों को ठीक करना।
परिणाम बताते हैं कि यह दृष्टिकोण काम करता है। जब उन्होंने मॉडल्स का परीक्षण किया, तो मूल मॉडल (मॉडल-A) ने टेस्ट प्रश्नों के 83.3% सही उत्तर दिए। जब इंसानों ने नॉइजी डेटा को ठीक किया और एक मानक मॉडल (मॉडल-B) को फिर से प्रशिक्षित किया, तो सटीकता बढ़कर 91.7% हो गई। लेकिन असली सितारा मॉडल-C था, जिसने सुधार की प्रक्रिया से सीखा, और इसने टेस्ट सेट पर 92.5% सटीकता प्राप्त की। इससे भी अधिक प्रभावशाली यह है कि जब इंसानों ने 5,000 वास्तविक दुनिया के आइटमों के नमूने पर परिणामों का मूल्यांकन किया, तो मॉडल-C की अप्रूवल रेटिंग 97.7% रही। यह शोध पत्र तर्क देता है कि यह तरीका उद्योग के लिए व्यावहारिक है क्योंकि इसके लिए लेबलर्स की एक बड़ी नई टीम की आवश्यकता नहीं है; इसके बजाय, यह विशेष रूप से उन डेटा पॉइंट्स पर ध्यान केंद्रित करता है जहाँ कंप्यूटर और इंसान असहमत होते हैं, जिससे कंप्यूटर की गलतियों को सीखने के अवसर में बदल दिया जाता है। लेखक सुझाव देते हैं कि हालांकि यह एक ठोस सुधार है, फिर भी विकास की गुंजाइश है, शायद उन मामलों पर ध्यान केंद्रित करके जहाँ कंप्यूटर दो उत्तरों के बीच वास्तव में अनिश्चित होता है, लेकिन फिलहाल, उन्होंने यह दिखा दिया है कि मशीन को उसके अपने सुधारों से सीखना सिखाना स्मार्ट AI की ओर एक व्यवहार्य राह है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।