Concept Tokens: Learning Behavioral Embeddings Through Concept Definitions
यह शोधपत्र "कॉन्सेप्ट टोकन्स" (Concept Tokens) प्रस्तुत करता है, जो एक हल्का तरीका है जो प्राकृतिक भाषा अवधारणा परिभाषाओं से संक्षिप्त व्यवहार संबंधी एम्बेडिंग सीखकर फ्रोजन लार्ज लैंग्वेज मॉडल्स को निर्देशित करता है, और मतिभ्रम (hallucinations) को नियंत्रित करने, शैक्षणिक पुनर्गठन (pedagogical recasting) को प्रेरित करने और निर्देश अनुपालन को बनाए रखने में उनकी प्रभावशीलता को प्रदर्शित करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक बहुत ही बुद्धिमान रोबोट से बात कर रहे हैं जिसने इंटरनेट पर मौजूद लगभग सब कुछ पढ़ लिया है। यह रोबोट, जिसे लार्ज लैंग्वेज मॉडल (LLM) कहा जाता है, एक विशाल पुस्तकालय की तरह है जो कहानियाँ लिख सकता है, सवालों के जवाब दे सकता है और आपसे चैट कर सकता है। लेकिन इसमें एक पेच है: रोबोट वास्तव में चीजों को वैसे नहीं "जानता" जैसे हम जानते हैं। यह एक मास्टर शेफ की तरह है जिसने अब तक की हर रेसिपी का स्वाद तो चखा है, लेकिन उसने कभी वास्तव में खाना बनाया नहीं है। यह अनुमान लगाता है कि पैटर्न के आधार पर अगला शब्द क्या होना चाहिए। कभी-कभी, यह बहुत खूबसूरती से काम करता है, लेकिन अन्य समय में, रोबोट बहुत आत्मविश्वासी हो जाता है और ऐसी बातें बना देता है जो सुनने में सच लगती हैं लेकिन वास्तव में नहीं होतीं। हम इन गलतियों को "हैलुसिनेशन" (hallucinations) कहते हैं।
वैज्ञानिक इन रोबोटों को नए करतब सिखाने या उन्हें झूठ बोलने से रोकने की कोशिश कर रहे हैं, बिना पूरे रोबोट को फिर से प्रशिक्षित किए—जो कि एक वयस्क को पढ़ना सिखाने के लिए उसे वापस किंडरगार्टन भेजने जैसा है। आमतौर पर, रोबोट के व्यवहार को बदलने के लिए, आपको उसे उदाहरणों की एक विशाल सूची देनी पड़ती है (जैसे "जब आप X देखें, तो Y करें")। लेकिन क्या होगा अगर आप रोबोट को बस एक गुप्त शब्द फुसफुसा सकें, और अचानक, वह एक नए विचार को समझ जाए? यही वह बड़ा सवाल है जो यह शोध पत्र तलाश रहा है: क्या हम एक जमे हुए (frozen) रोबोट को केवल परिभाषाएँ दिखाकर एक नई अवधारणा सिखा सकते हैं, और फिर व्यवहार को नियंत्रित करने के लिए एक विशेष "जादुई टोकन" का उपयोग कर सकते हैं?
शोधकर्ता, इग्नासियो सास्त्रे और आयला रोसा, कहते हैं कि हाँ। वे कॉन्सेप्ट टोकन (Concept Tokens) नामक एक चतुर तकनीक पेश करते हैं। कॉन्सेप्ट टोकन को रोबोट के रिमोट कंट्रोल में जोड़ा जाने वाला एक नया, विशेष बटन समझें। आपको रोबोट को फिर से बनाने या उसे हजारों उदाहरणों के साथ सिखाने की आवश्यकता नहीं है। इसके बजाय, आप बस रोबोट को किसी अवधारणा की कुछ शब्दकोश जैसी परिभाषाएँ दिखाते हैं (जैसे "हैलुसिनेशन क्या है?" या "आप एक भाषा कैसे सिखाते हैं?")। रोबोट इस नए बटन को उस अवधारणा के सार के साथ जोड़ना सीख जाता है। एक बार जब बटन प्रोग्राम हो जाता है, तो आप इसे दबाकर रोबोट को एक विशिष्ट तरीके से कार्य करने के लिए प्रेरित कर सकते हैं। यदि आप बटन दबाते हैं, तो रोबोट उस व्यवहार की ओर झुकता है; यदि आप रोबोट को वह बटन न दबाने के लिए कहते हैं, तो वह उस व्यवहार से बचता है।
अपने प्रयोगों में, उन्होंने तीन अलग-अलग परिदृश्यों पर इसका परीक्षण किया। सबसे पहले, उन्होंने रोबोट को चीजें बनाने (मनगढ़ंत बातें कहने) से रोकने की कोशिश की। उन्होंने रोबोट को परिभाषाओं का उपयोग करके एक "हैलुसिनेशन टोकन" सिखाया। जब उन्होंने रोबोट को कहा, "यह टोकन उत्पन्न न करें," तो रोबोट बहुत अधिक सतर्क हो गया। उसने तथ्य बनाना बंद कर दिया, लेकिन दिलचस्प बात यह रही कि उसने उन सवालों के जवाब देना भी बंद कर दिया जिनके बारे में वह निश्चित नहीं था, और अंदाज़ा लगाने के बजाय "मुझे नहीं पता" कहना चुना। वह जादुगर की तरह पूर्णतः सटीक नहीं बना; वह बस अपनी अनिश्चितता के बारे में अधिक ईमानदार हो गया।
दूसरा, उन्होंने "रिकास्टिंग" (recasting) नामक एक शिक्षण रणनीति का परीक्षण किया, जो तब होता है जब एक शिक्षक छात्र की गलती को बातचीत के प्रवाह को तोड़े बिना, वाक्य को सही ढंग से दोहराकर धीरे से सुधारता है। उन्होंने रोबोट को एक "रिकास्टिंग टोकन" सिखाया। जब उन्होंने रोबोट को इस टोकन का उपयोग करने के लिए कहा, तो वह एक कोमल भाषा शिक्षक की तरह व्यवहार करने लगा, व्याकरण की गलतियों को सूक्ष्मता से ठीक करने लगा और अनुवर्ती प्रश्न पूछने लगा। कमाल की बात यह थी कि यह चैट में पूरी परिभाषा पेस्ट करने से बेहतर काम कर गया। टोकन एक संक्षिप्त, कुशल संकेत था जिसने रोबलेट को मुख्य निर्देश (एक शिक्षक बनें) का पालन करने में मदद की, बिना टेक्स्ट की दीवार से भ्रमित हुए।
अंत में, उन्होंने दो टावरों का खेल खेला: असली एफिल टॉवर और एक नकली टॉवर जिसे उन्होंने "ऑस्ट्रल टॉवर" नाम दिया था। उन्होंने रोबोट को एक काल्पनिक विकिपीडिया लेख का उपयोग करके नकली टॉवर के बारे में सिखाया। रोबोट ने नकली टॉवर के बारे में ऐसे बात करना सीखा जैसे कि वह वास्तविक हो, जिसमें उसने एक प्रसिद्ध लैंडमार्क के 'वाइब' (vibe) को पकड़ लिया। हालाँकि, जब सटीक विवरण जैसे कि सटीक ऊंचाई या वास्तुकार का नाम पूछा गया, तो रोबोट फिर से चीजें बनाने लगा। इसने दिखाया कि टोकन एक अवधारणा के विचार और व्यवहार को पकड़ने में तो महान है, लेकिन यह नए तथ्यों के लिए एक पूर्ण स्टोरेज ड्राइव नहीं है। यह एक हार्ड ड्राइव की तरह नहीं है जो नया डेटा संग्रहीत करती है, बल्कि यह एक 'मूड रिंग' की तरह है जो रोबोट के रवैये को बदल देती है।
यह शोध पत्र सुझाव देता है कि यह विधि जमे हुए AI मॉडलों को निर्देशित करने का एक हल्का और कुशल तरीका है। यह सिद्ध करता है कि आप केवल एक अवधारणा को परिभाषित करके और एक विशेष टोकन को अनुकूलित करके एक रोबोट में नए व्यवहार संबंधी "व्यक्तित्व" डाल सकते हैं। हालाँकि यह हर समस्या को हल नहीं करता (जैसे कि किसी नई चीज़ के बारे में रोबोट को पूरी तरह तथ्यात्मक बनाना), यह इन शक्तिशाली मॉडलों के व्यवहार को नियंत्रित करने का एक आशाजनक, संक्षिप्त तरीका प्रदान करता है, जिससे उन्हें पूरे सिस्टम को फिर से प्रशिक्षित किए बिना अधिक ईमानदार या अधिक सहायक बनाया जा सकता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।