FrED: External Data Influence Estimation via Domain Knowledge Graph Grounding
यह शोध पत्र FrED का प्रस्ताव करता है, जो एक नवीन ब्लैक-बॉक्स संभाव्य ढांचा (probabilistic framework) है, जो कलात्मक संश्लेषण और मौसम पूर्वानुमान जैसे जटिल डोमेन में कुशल, व्याख्यात्मक और संरचनात्मक रूप से सुदृढ़ प्रभाव अनुमान प्रदान करने के लिए निरंतर विशेषता समानताओं (continuous feature similarities) को डोमेन-विशिष्ट नॉलेज ग्राफ्स के साथ जोड़ता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जादुई, अदृश्य मशीन के सामने खड़े हैं जो उत्कृष्ट कृतियाँ (masterpieces) बना सकती है या मौसम की भविष्यवाणी कर सकती है। आप उससे "पहाड़ के ऊपर सूर्यास्त" का चित्र बनाने के लिए कहते हैं, और वह बना देती है। लेकिन यहाँ एक पेंच है: वह मशीन एक "ब्लैक बॉक्स" है। आप देख सकते हैं कि क्या अंदर गया (आपका अनुरोध) और क्या बाहर आया (चित्र), लेकिन आपको इस बात का कोई अंदाज़ा नहीं है कि उसने बादलों को नारंगी रंग की उस विशिष्ट शेड में क्यों रंगा। क्या उसने यह किसी प्रसिद्ध 19वीं सदी की पेंटिंग से सीखा? क्या उसने किसी मौसम रिपोर्ट से फोटो कॉपी की? या उसने बस कुछ नया बना दिया?
यही जेनरेटिव एआई (Generative AI) की दुनिया है, और वैज्ञानिक जिस समस्या को हल करने की कोशिश कर रहे हैं उसे ट्रेनिंग डेटा एट्रिब्यूशन (Training Data Attribution) कहा जाता है। इसे एक जासूस की तरह समझें जो यह पता लगाने की कोशिश कर रहा है कि एक जासूस ने केस सुलझाने के लिए किन विशिष्ट सुरागों का उपयोग किया था। यदि एआई एक जासूस है, तो "सुराग" वे लाखों चित्र या डेटा बिंदु हैं जिन्हें प्रशिक्षण के दौरान उसे दिया गया था। यह जानना कि कौन से सुराग महत्वपूर्ण थे, अत्यंत आवश्यक है। यदि किसी कलाकार की शैली को मशीन को प्रशिक्षित करने के लिए चुराया गया था, तो हमें यह जानने की आवश्यकता है। यदि मौसम का पूर्वानुमान एक दुर्लभ, खतरनाक तूफान के पैटर्न पर आधारित है, तो हमें उस संबंध पर भरोसा करना होगा। वर्तमान में, इस जासूसी कार्य को हल करने के अधिकांश तरीकों के लिए या तो मशीन के मस्तिष्क के अंदर झांकने की आवश्यकता होती है (जो अक्सर असंभव या बहुत महंगा होता है) या केवल इस आधार पर अनुमान लगाने की आवश्यकता होती है कि दो चित्र सतह पर कितने समान दिखते हैं। लेकिन क्या होगा यदि मशीन ने एक गहरा, छिपा हुआ संबंध सीख लिया हो जिसे एक साधारण नज़र भी नहीं पकड़ सकती?
यहीं पर FrED नामक एक नई विधि आती है। FrED के पीछे के शोधकर्ताओं ने ब्लैक बॉक्स के अंदर झांकने की कोशिश करना छोड़ दिया। इसके बजाय, उन्होंने एक चतुर "अनुवादक" बनाया जो पूरी तरह से बाहर से काम करता है। उन्होंने महसूस किया कि जबकि एआई दुनिया को संख्याओं के धुंधलेपन (गणित) के रूप में देखता है, मनुष्य और विशेषज्ञ दुनिया को कनेक्शन के एक जाल के रूप में देखते हैं (जैसे कला के लिए एक वंशावली या पारिस्थितिकी तंत्र का एक मानचित्र)।
FrED का बड़ा विचार दो प्रकार की जासूसी कार्य को संयोजित करना है। सबसे पहले, यह "गणितीय" समानता को देखता है: एक उच्च-आयामी संख्यात्मक स्थान (high-dimensional number space) में एआई का आउटपुट एक प्रशिक्षण छवि से कितना करीब है। लेकिन यह पर्याप्त नहीं है; यह ऐसा ही है जैसे यह कहना कि दो लोग इसलिए एक जैसे दिखते हैं क्योंकि दोनों के बाल भूरे हैं। इसलिए, FrED एक दूसरा स्तर जोड़ता है: डोमेन नॉलेज ग्राफ्स (Domain Knowledge Graphs)। एक विशाल, डिजिटल मकड़ी के जाल की कल्पना करें जहाँ प्रत्येक नोड वास्तविक दुनिया के ज्ञान का एक हिस्सा है। कला की दुनिया में, यह वेब एक पेंटिंग को उसके कलाकार, उसके शिक्षक, उस कला आंदोलन जिससे वह संबंधित है, और उस शहर से जोड़ता है जहाँ वह रहता था। मौसम की दुनिया में, यह एक बाढ़ को उस क्षेत्र की मिट्टी के प्रकार, स्थानीय पौधों और विशिष्ट हवा के पैटर्न से जोड़ता है।
पेपर सुझाव देता है कि इन दो दुनियाओं को जोड़कर—एआई के गणित और तथ्यों के वास्तविक दुनिया के वेब को—हम एआई के कदमों को बहुत अधिक सटीकता से ट्रैक कर सकते हैं। शोधकर्ताओं ने इसका परीक्षण दो बहुत अलग क्षेत्रों में किया। पहले, उन्होंने कला को देखा। उन्होंने FrED से पूछा कि किन ऐतिहासिक पेंटिंग्स ने एक नई एआई-जनित छवि को प्रभावित किया। उन्होंने पाया कि FrED पिछले तरीकों की तुलना में, जो केवल पिक्सेल रंगों को देखते थे, शैली के वास्तविक "पूर्वजों" को पहचानने में बहुत बेहतर था। वास्तव में, इसने इतना अच्छा प्रदर्शन किया कि यह उन तरीकों के लगभग बराबर पहुँच गया जो एआई के मस्तिष्क के अंदर देख सकते थे, लेकिन बिना उस पहुंच की आवश्यकता के।
दूसकी, उन्होंने मौसम के पूर्वानुमान पर परीक्षण किया। वे देखना चाहते थे कि क्या FrED ऐतिहासिक बाढ़ को ढूंढ सकता है जो एक नई, अनुमानित बाढ़ के भौतिक रूप से समान हो। केवल नंबरों को मिलाने के बजाय, FrED ने अपने नॉलेज ग्राफ का उपयोग यह कहने के लिए किया, "यह नई बाढ़ उस पुरानी बाढ़ जैसी है क्योंकि ये दोनों ही ऐसे क्षेत्रों में हुई थीं जहाँ एक ही प्रकार की मिट्टी और एक ही प्रकार के स्थानीय पौधे थे।" परिणामों ने दिखाया कि FrED भौगोलिक स्थान को इन ऐतिहासिक मिलानों के लिए बहुत बेहतर तरीके से सटीक रूप से पहचान सकता है, जो यह सुझाव देता है कि यह भविष्यवाणी और वास्तविक दुनिया के बीच एक अधिक विश्वसनीय लिंक बनाता है।
संक्षेप में, पेपर प्रस्तावित करता है कि हमें इसे समझने के लिए ब्लैक बॉक्स को तोड़ने की आवश्यकता नहीं है। एआई के आउटपुट को वास्तविक दुनिया के तथ्यों के मानचित्र के आधार पर स्थापित करके, हम एक पारदर्शी, कुशल तरीका बना सकते हैं कि यह कहना, "यह एआई परिणाम उस विशिष्ट इतिहास से आया है," चाहे वह 17वीं सदी के कैनवास का ब्रशस्ट्रोक हो या एक दशक पहले का तूफान का पैटर्न। लेखक सुझाव देते हैं कि यह दृष्टिकोण एआई को अधिक जवाबदेह और भरोसेमंद बनाने की दिशा में एक शक्तिशाली कदम है, विशेष रूप से उन क्षेत्रों में जहाँ गलत होने के वास्तविक दुनिया में गंभीर परिणाम होते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।