ADVENT: LLM-Driven Automatic Predicate Invention for ILP
यह शोध पत्र ADVENT को प्रस्तुत करता है, जो एक LLM-संचालित फ्रेमवर्क है जो मानव-व्याख्या योग्य नियमों को बनाने और क्रॉस-टास्क ज्ञान पुन: उपयोग को सक्षम करने के लिए एबडक्टिव जनरेशन (abductive generation) को डिडक्टिव वेरिफिकेशन (deductive verification) के साथ जोड़कर इंडक्टिव लॉजिक प्रोग्रामिंग में प्रेडिकेट इन्वेंशन (predicate invention) को स्वचालित करता है, जिससे उन मामलों में सफलता दर में महत्वपूर्ण सुधार होता है जहाँ पारंपरिक ILP विधियाँ विफल रहती हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को पोकर खेलना सिखाने की कोशिश कर रहे हैं। आप रोबोट को ताश की एक गड्डी और नियमों की एक सूची देते हैं जैसे "हार्ट (पान) लाल है" या "7 एक संख्या है।" लेकिन आप रोबोट को यह नहीं बताते कि "फ्लश" (एक ही सूट के पांच कार्ड) या "स्ट्रेट" (क्रम में पांच कार्ड) वास्तव में क्या है।
रोबोट इन अवधारणाओं (concepts) को खुद सीखने की कोशिश करता है, लेकिन वह एक दीवार से टकरा जाता है। वह केवल व्यक्तिगत कार्डों को देख सकता है, उन छिपे हुए पैटर्न को नहीं जो उन्हें आपस में जोड़ते हैं। यह एक सिम्फनी (symphony) को केवल वाद्य यंत्रों के नाम सूचीबद्ध करके वर्णित करने जैसा है, बिना कभी उसकी धुन सुने।
यह पेपर ADVENT का परिचय देता है, जो इन छिपे हुए पैटर्न को सीखने में रोबोट की मदद करने का एक नया तरीका है। यह कैसे काम करता है, यहाँ इसके सरल चरणों में विवरण दिया गया है:
1. समस्या: पैटर्न के प्रति रोबोट "अंधा" है
AI लॉजिक (जिसे इंडक्टिव लॉजिक प्रोग्रामिंग कहा जाता है) की दुनिया में, रोबोट सख्त नियमों का पालन करने में बहुत अच्छे होते हैं। लेकिन वे नई अवधारणाओं का आविष्कार करने में बहुत खराब हैं।
- पुराना तरीका: यदि रोबोट को यह जानने की आवश्यकता है कि "स्ट्रेट" क्या है, तो एक मानव प्रोग्रामर को आमतौर पर इसके लिए मैन्युअल रूप से एक नियम लिखना पड़ता है। यदि प्रोग्रामर इसे भूल जाता है, तो रोबोट इसे कभी सीख नहीं पाएगा।
- सीमा: मौजूदा रोबोट केवल कार्डों के हाथ को देखकर यह नहीं कह सकते, "ओह, मैं यहाँ एक पैटर्न देख रहा हूँ जहाँ संख्याएँ एक से बढ़ रही हैं।" वे इसलिए अटक जाते हैं क्योंकि उनके पास इन नए विचारों को वर्णित करने के लिए शब्दावली की कमी होती है।
2. समाधान: दो की एक टीम (आविष्कारक और न्यायाधीश)
ADVENT इसे दो शक्तिशाली उपकरणों को एक साथ जोड़कर हल करता है:
- आविष्कारक (LLM): यह एक लार्ज लैंग्वेज मॉडल (जैसे कि एक बहुत ही स्मार्ट, रचनात्मक AI) है। यह डेटा को देखता है और कहता है, "हे, मुझे लगता है कि यहाँ एक पैटर्न है! चलिए इसके लिए एक नया शब्द आविष्कार करते हैं, जैसे
has_duplicate_rank।" यह नई परिभाषाएँ बनाता है और उन्हें मानव-पठनीय नाम देता है। - न्यायाधीश (Prolog): यह एक सख्त, तार्किक कंप्यूटर प्रोग्राम है। यह एक रेफरी की तरह कार्य करता है। जब आविष्कारक एक नया नियम सुझाता है, तो न्यायाधीश तुरंत वास्तविक उदाहरणों के विरुद्ध उसका परीक्षण करता है।
- क्या यह नियम एक जीतने वाले हाथ के लिए काम करता है?
- क्या इसने गलती से हारने वाले हाथ को विजेता के रूप में चिह्नित कर दिया?
3. प्रक्रिया: प्रयास और त्रुटि का एक चक्र
ADVENT केवल एक बार अनुमान नहीं लगाता; यह एक चक्र में चलता है:
- जांच: सबसे पहले, सिस्टम यह जाँचता है कि क्या रोबोट पर्याप्त जानता है। यदि नहीं, तो यह आविष्कार चक्र शुरू करता है।
- आविष्कार: LLM कार्डों को देखता है और एक नई अवधारणा का सुझाव देता है (जैसे, "इन कार्डों का सूट एक ही है")।
- परीक्षण: न्यायाधीश (Prolog) डेटा पर उस नए विचार को चलाता है।
- यदि न्यायाधीश कहता है "गलत, यह नियम इन कार्डों पर विफल रहता है," तो LLM को फीडबैक मिलता है, वह नियम को ठीक करता है, और फिर से प्रयास करता है।
- यदि न्यायाधीश कहता है "सफलता," तो नया नियम सुरक्षित कर लिया जाता है।
- सीखना: एक बार जब नए नियम पुख्ता हो जाते हैं, तो रोबोट अंततः जटिल पोकर हाथों (जैसे फुल हाउस या स्ट्रेट फ्लश) को सीखने के लिए उनका उपयोग करता है।
4. ज्ञान का "लाइब्रेरी" (ज्ञान भंडार)
ADVENT का सबसे दिलचस्प हिस्सा इसका नॉलेज पूल (Knowledge Pool) है।
- कल्पना कीजिए कि रोबोट सीख जाता है कि "पेयर" (एक ही रैंक के दो कार्ड) को कैसे पहचानना है। यह अपने द्वारा आविष्कार किए गए इस नए नियम को एक लाइब्रेरी में सहेज लेता है।
- बाद में, जब इसे "फुल हाउस" (एक रैंक के तीन और दूसरी रैंक के दो कार्ड) सीखने की आवश्यकता होती है, तो इसे शून्य से शुरू करने की आवश्यकता नहीं होती। यह लाइब्रेरी में देखता है, अपने द्वारा पहले आविष्कार किए गए "पेयर" नियम को देखता है, और इसे "थ्री ऑफ अ काइंड" के नए नियम के साथ जोड़ देता है।
- यह रोबोट को अपने दम पर खोजे गए सरल विचारों से जटिल विचार बनाने की अनुमति देता है, ठीक वैसे ही जैसे कोई इंसान ईंट-दर-ईंट घर बनाता है।
5. परिणाम: क्या यह काम करता है?
शोधकर्ताओं ने इसका परीक्षण एक पोकर डेटासेट पर किया (AI को उसके पूर्व पोकर ज्ञान का उपयोग करने से रोकने के लिए इसे ट्रेनों के बारे में एक पहेली में बदल दिया गया था)।
- ADVENT के बिना: रोबोट पूरी तरह से विफल रहा। वह किसी भी जटिल हाथ को सीखने में असमर्थ रहा।
- ADVENT के साथ: रोबोट 80% मामलों में सफल रहा।
- गुप्त मंत्र: "न्यायाधीश" (औपचारिक सत्यापन/formal verification) अत्यंत महत्वपूर्ण था। जब AI ने बिना किसी सख्त न्यायाधीश के केवल अनुमान लगाने की कोशिश की, तो उसने गलतियाँ कीं। जब न्यायाधीश ने हर कदम की जाँच की, तो सफलता दर काफी बढ़ गई।
सारांश
ADVENT एक रोबोट को एक रचनात्मक लेखक (पैटर्न के लिए नए शब्द आविष्कार करने के लिए) और एक सख्त संपादक (यह जाँचने के लिए कि क्या वे शब्द सही हैं) देने जैसा है। साथ मिलकर, वे रोबोट को नई अवधारणाएं सीखने, ज्ञान की लाइब्रेरी बनाने और उन जटिल तार्किक पहेलियों को हल करने की अनुमति देते हैं जिन्हें वह पहले नहीं छू सकता था। परिणाम एक ऐसा AI है जो न केवल नियमों का पालन करता है, बल्कि वास्तव में उन नियमों को समझता है और उन्हें बनाता है जिनकी उसे सफल होने के लिए आवश्यकता होती है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।