Turning Language Model Training from Black Box into a Sandbox
यह शोध पत्र यह प्रदर्शित करता है कि ब्राउज़र-आधारित टूल, जो छात्रों को सीधे उनके उपकरणों पर छोटे ट्रांसफॉर्मर मॉडल को प्रशिक्षित करने की अनुमति देता है, उनकी तर्क प्रक्रिया को मानवीकरण संबंधी गलत धारणाओं से डेटा-संचालित अंतर्दृष्टि की ओर स्थानांतरित करके भाषा मॉडलों की उनकी वैचारिक समझ में महत्वपूर्ण सुधार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आपके पास एक जादुई डिब्बा है जो कहानियाँ लिखता है, सवालों के जवाब देता है और कला बनाता है। अधिकांश लोग इस डिब्बे के साथ एक रहस्यमय वेंडिंग मशीन की तरह व्यवहार करते हैं: आप एक बटन दबाते हैं (एक "प्रॉम्ट"), और बाहर एक स्नैक (जवाब) आता है। यदि स्नैक अजीब है या उसका स्वाद खराब है, तो आप अनुमान लगा सकते हैं कि मशीन "भ्रमित" है, "झूठ" बोल रही है, या बस "मूर्ख" है। आपको पता ही नहीं होता कि मशीन वास्तव में अंदर कैसे काम करती है।
यह शोध पत्र एक ऐसी टीम के बारे में है जो AI को एक जादुई 'ब्लैक बॉक्स' की तरह देखने के बजाय एक रसोई की तरह देखना चाहती है जहाँ आप खाना बनते हुए देख सकें।
समस्या: "ब्लैक बॉक्स" रसोई
आमतौर पर, जब छात्र AI के बारे में सीखते हैं, तो वे केवल मेनू से ऑर्डर करना (प्रॉम्टिंग) सीखते हैं। उन्हें सामग्री (ingredients), रेसिपी या शेफ के बारे में देखने का मौका नहीं मिलता। इस कारण से, यदि AI कोई अजीब जवाब देता है, तो छात्र सोचते हैं कि यह इसलिए है क्योंकि AI "हैलुसिनेट" (मनगढ़ंत बातें बनाना) कर रहा है या क्योंकि वह "इंटरनेट खोज" रहा है और भ्रमित हो गया है। वे यह नहीं समझ पाते कि AI वास्तव में केवल एक पैटर्न-मैचिंग मशीन है जिसने एक विशिष्ट टेक्स्ट के ढेर से सीखा है।
समाधान: "लिटिल लैंग्वेज मशीन"
शोधकर्ताओं ने लिटिल लैंग्वेज मशीन नामक एक टूल बनाया है। इसे एक लघु, व्यक्तिगत रसोई के रूप में सोचें जो सीधे आपके वेब ब्राउज़र के अंदर फिट हो जाती है।
- सुपर कंप्यूटर की आवश्यकता नहीं: आमतौर पर, AI को प्रशिक्षित करने के लिए एक विशाल, महंगे कारखाने की आवश्यकता होती है। यह टूल एक नियमित छात्र लैपटॉप पर चलता है, जिसमें एक विशेष ट्रिक (WebGPU) का उपयोग किया गया है जो ब्राउज़र को भारी काम करने की अनुमति देता है।
- आप शेफ हैं: केवल ऑर्डर देने के बजाय, छात्रों को मिलता है:
- सामग्री चुनना: वे टेक्स्ट का एक छोटा ढेर अपलोड करते हैं (जैसे कुछ परियों की कहानियाँ या शेक्सपियर के कुछ पन्ने)।
- बर्तन चुनना: वे चुनते हैं कि AI का "दिमाग" कितना बड़ा होना चाहिए।
- खाना बनते हुए देखना: वे "ट्रेन" बटन दबाते हैं और देखते हैं कि AI वास्तविक समय में कैसे सीख रहा है। शुरुआत में, AI केवल रैंडम शब्द (जैसे "asdfjkl") उगलता है। जैसे-जैसे यह "पकता" (ट्रेन होता) है, यह कुछ मिनटों में समझ में आने योग्य वाक्य बनाने लगता है, और केवल उन्हीं सामग्रियों के आधार पर लिखना सीख जाता है जो उन्हें दी गई थीं।
प्रयोग: अनुमान लगाने से लेकर जानने तक
शोधकर्ताओं ने इसका परीक्षण 162 छात्रों के साथ किया जो कंप्यूटर विज्ञान के प्रथम वर्ष के छात्र थे। इन छात्रों ने अभी तक AI के बारे में नहीं सीखा था; वे पूरी तरह से नौसिखिए थे।
- कक्षा से पहले (Pre-test): छात्रों से पूछा गया, "AI कभी-कभी अजीब या गलत बातें क्यों कहता है?"
- उनके जवाब ऐसे थे: "यह पर्याप्त स्मार्ट नहीं है," "यह वेब खोज रहा है और भटक गया है," या "यह बस हैलुसिनेट कर रहा है।" उन्होंने AI को एक भ्रमित इंसान या एक टूटे हुए सर्च इंजन की तरह माना।
- गतिविधि: छात्रों ने एक घंटा लिटिल लैंग्वेज मशीन का उपयोग करने में बिताया। उन्होंने अपने स्वयं के छोटे AI मॉडल को प्रशिक्षित किया, देखा कि टेक्स्ट डेटा बदलने से आउटपुट कैसे बदलता है, और देखा कि मॉडल कैसे निरर्थक शब्दों से अर्थपूर्ण वाक्यों की ओर बढ़ता है।
- कक्षा के बाद (Post-test): उन्हें वही सवाल फिर से पूछा गया।
- उनके जवाब पूरी तरह बदल गए। "बुद्धिमत्ता" या "खोजने" को दोष देने के बजाय, वे कहने लगे जैसे: "मॉडल गलत है क्योंकि ट्रेनिंग डेटा बहुत छोटा था," या "डेटासेट पक्षपाती (biased) था," या "ट्रेनिंग का समय पर्याप्त नहीं था।"
मुख्य निष्कर्ष
अध्ययन ने पाया कि जब छात्रों ने AI का केवल उपयोग करने के बजाय उसे बनाया, तो उनकी समझ बदल गई।
- पहले: वे सोचते थे कि AI एक रहस्यमय, बुद्धिमान एजेंट है जो कभी-कभी गलतियाँ करता है।
- बाद में: वे समझ गए कि AI एक सांख्यिकीय प्रणाली (statistical system) है जो पूरी तरह से उस डेटा पर निर्भर है जिससे इसे खिलाया गया है। यदि डेटा खराब या बहुत कम है, तो AI भी खराब होगा।
उपमा (Analogy)
इसे एक बच्चे को चित्र बनाना सिखाने जैसा समझें।
- पुराना तरीका (प्रॉम्टिंग): आप बच्चे को एक तैयार पेंटिंग दिखाते हैं और उनसे पूछते हैं कि कलाकार ने गलती क्यों की। वे कह सकते हैं, "कलाकार थक गया था" या "कलाकार को चित्र बनाना नहीं आता था।"
- नया तरीका (ट्रेनिंग): आप बच्चे को एक खाली कैनवास और क्रेयॉन का एक डिब्बा देते हैं। आप उनसे कहते हैं, "एक कुत्ता बनाओ, लेकिन तुम केवल इन तीन क्रेयॉन का उपयोग कर सकते हो।" जब वे बिना पैरों वाला बैंगनी कुत्ता बनाते हैं, तो वे यह नहीं कहते, "कुत्ता भ्रमित है।" वे समझते हैं, "ओह, मैं पैर नहीं बना सकता क्योंकि मेरे पास भूरा क्रेयॉन नहीं था, और मेरे पास केवल तीन रंग थे।"
निष्कर्ष
शोध पत्र निष्कर्ष निकालता है कि हमें छात्रों को केवल AI से प्रश्न पूछना नहीं सिखाना चाहिए। हमें उन्हें AI को प्रशिक्षित करना सिखाना चाहिए। उन्हें "रसोई" और "सामग्री" देखने देकर, वे AI को जादू की तरह देखना बंद कर देते हैं और इसे एक उपकरण के रूप में समझना शुरू करते हैं जिसे मनुष्यों द्वारा बनाया गया है, डेटा द्वारा आकार दिया गया है, और हमारे द्वारा किए गए विकल्पों द्वारा सीमित किया गया है। यह उन्हें तकनीक का अधिक स्मार्ट और आलोचनात्मक उपयोगकर्ता बनाता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।