← नवीनतम पेपर
🤖 machine learning

A Generalized Tikhonov Layer for Interpretable-by-design Graph Neural Networks

यह शोध पत्र टिखोनोव लेयर (Tikhonov layer) का परिचय देता है, जो एक ग्राफ न्यूरल नेटवर्क घटक है जिसे अपने सीखे गए मापदंडों को विशिष्ट फीचर और टोपोलॉजिकल योगदानों से सीधे मैप करके स्वाभाविक रूप से व्याख्या योग्य (interpretable) बनाने के लिए डिज़ाइन किया गया है, जबकि साथ ही वैश्विक रिसेप्टिव फील्ड्स प्राप्त करना और अपारदर्शी बेसलाइनों के प्रदर्शन के बराबर प्रदर्शन करना सुनिश्चित किया गया है।

मूल लेखक: Nicolas Tremblay, Benjamin Ricaud, Filippo Maria Bianchi

प्रकाशित 2026-05-28
📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

मूल लेखक: Nicolas Tremblay, Benjamin Ricaud, Filippo Maria Bianchi

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास लोगों से भरा एक विशाल, अस्त-व्यस्त कमरा है (ये नोड्स हैं) जो सूचना वाले साइन बोर्ड पकड़े हुए हैं (ये फीचर्स हैं)। ये लोग एक विशिष्ट पैटर्न में एक-दूसरे का हाथ भी पकड़े हुए हैं (यह ग्राफ टोपोलॉजी है)। आपका काम पूरे कमरे के बारे में एक गुप्त बात का अनुमान लगाना है, यह देखते हुए कि कौन क्या पकड़े हुए है और कौन किसका हाथ पकड़े हुए है।

अधिकांश आधुनिक "स्मार्ट रूम" कंप्यूटर (ग्राफ न्यूरल नेटवर्क) जादू के बक्सों की तरह होते हैं। वे कमरे को देखते हैं, कुछ जटिल गणित करते हैं, और आपको एक उत्तर देते हैं। लेकिन यदि आप उनसे पूछते हैं, "आपने यह निर्णय कैसे लिया?" तो वे आमतौर पर कहते हैं, "मैंने बस कर दिया।" वे सटीक हैं, लेकिन वे अपारदर्शी (opaque) हैं।

यह पेपर एक नए प्रकार के "स्मार्ट रूम" कंप्यूटर को पेश करता है जिसे टिखोनोव लेयर (Tikhonov Layer) कहा जाता है। इसे डिफ़ॉल्ट रूप से पारदर्शी (transparent by default) होने के लिए डिज़ाइन किया गया है। यह केवल आपको उत्तर नहीं देता; यह आपको एक ऐसा मानचित्र थमाता है जो विस्तार से समझाता है कि इसने वह निर्णय क्यों लिया।

यह कैसे काम करता है, यहाँ सरल अवधारणाओं में बताया गया है:

1. सुनने के दो तरीके

जब कंप्यूटर कमरे में किसी व्यक्ति को देखता है, तो उसके पास उन्हें सुनने के दो विकल्प होते हैं:

  • विकल्प A ("स्वयं" मोड): केवल उस व्यक्ति के साइन बोर्ड को सुनें जो उसने पकड़ा है। बाकी सभी को अनदेखा करें।
  • विकल्प B ("भीड़" मोड): साइन बोर्ड को अनदेखा करें और उन लोगों को सुनें जो उनका हाथ पकड़े हुए हैं।

इस पेपर का आविष्कार हर एक व्यक्ति के लिए एक डायल (dial) बनाता है।

  • यदि डायल ऊँचा (High) सेट है, तो कंप्यूटर उस व्यक्ति के अपने साइन बोर्ड पर भरोसा करता है।
  • यदि डायल नीचा (Low) सेट है, तो कंप्यूटर उनके साइन बोर्ड को अनदेखा करता है और उनके आस-पास की भीड़ पर भरोसा करता है।

जब कंप्यूटर अपना काम पूरा कर लेता है, तो आप इन डायलों को देख सकते हैं। यदि किसी व्यक्ति का डायल नीचा है, तो आप जानते हैं कि कंप्यूटर ने निर्णय लिया कि उस व्यक्ति का अपना साइन महत्वपूर्ण नहीं था; बल्कि कनेक्शन महत्वपूर्ण थे। यदि डायल ऊँचा है, तो कंप्यूटर ने तय किया कि उस व्यक्ति का अपना साइन ही कुंजी थी। यही व्याख्या (explanation) है। आपको अनुमान लगाने की आवश्यकता नहीं है; मॉडल स्पष्ट रूप से आपको बताता है कि उसने कमरे के किन हिस्सों पर ध्यान दिया।

2. "स्मूदी" मशीन (गणित वाला भाग)

यह पेपर एक शानदार गणितीय अवधारणा टिखोनोव रेगुलाइजेशन (Tikhonov regularization) का उपयोग करता है। इसे एक स्मूदी मशीन के रूप में सोचें।

  • आप कच्चे सामग्रियां (साइन पर मौजूद डेटा) डालते हैं।
  • आप एक ऐसी स्मूदी बनाना चाहते हैं जिसका स्वाद सामग्रियों जैसा हो लेकिन जो "स्मूथ" (हाथ पकड़े हुए लोगों के अनुरूप सुसंगत) भी हो।
  • मशीन में एक नॉब (knob) होता है जो यह तय करता है कि कितना "स्मूथिंग" करना है।

इस नए मॉडल में, मशीन एक साथ दो चीजें सीखती है:

  1. स्मूदी रेसिपी (पॉलीनोमियल): यह तय करता है कि चीजों को कैसे मिलाना है। क्या यह सब कुछ एक समान स्वाद (होमोफिली) में मिलाना चाहता है? या क्या यह अंतरों (हेटरोफिली) को उभारना चाहता है?
  2. सामग्री की सूची (Q-मैट्रिक्स): यह ऊपर बताए गए डायलों का समूह है। यह तय करता है कि किन लोगों की सामग्री शुद्ध रखी जाएगी और किन्हें भीड़ में मिला दिया जाएगा।

3. यह एक बड़ी बात क्यों है

आमतौर पर, जटिल कमरों को समझने के लिए पर्याप्त स्मार्ट बनाने के लिए, आपको इसे बहुत गहरा और जटिल (एक गगनचुंबी इमारत की तरह) बनाना पड़ता है। लेकिन गगनचुंबी इमारतों के अंदर देखना कठिन होता है।

  • समस्या: यदि आप कंप्यूटर को बहुत गहरा बनाते हैं, तो यह अक्सर "ओवरस्मूथड" (सब एक जैसे दिखने लगते हैं) या "ओवरस्क्वैशड" (यह कमरे के दूसरे छोर के लोगों को भूल जाता है) हो जाता है।
  • समाधान: यह पेपर कहता है, "आइए मुख्य मशीन को सरल और पारदर्शी रखें, लेकिन एक अलग, स्मार्ट सहायक को डायल तय करने दें।"
    • टिखोनोव लेयर सरल, पारदर्शी मशीन है।
    • Q-नेटवर्क स्मार्ट सहायक (एक गहरा, जटिल AI) है जो कमरे को देखता है और मुख्य मशीन के लिए डायल सेट करता है।

इस प्रकार, ऑपरेशन का "मस्तिष्क" जटिल है, लेकिन ऑपरेशन का "तर्क" स्पष्ट बना रहता है। आप देख सकते हैं कि कौन से डायल घुमाए गए और क्यों।

4. प्रयोगों ने क्या दिखाया

लेखकों ने इसे कई "कमरों" पर परखा:

  • "ग्रीन डॉट" कमरा: कार्य हरे बिंदुओं को गिनना था। कंप्यूटर ने महसूस किया कि उसे यह देखने की ज़रूरत नहीं है कि कौन किसका हाथ पकड़े हुए है; उसे बस साइन बोर्ड देखने की ज़रूरत है। इसने सभी डायल को "सेल्फ मोड" पर सेट कर दिया।
  • "ट्रायंगल" कमरा: कार्य एक त्रिकोण आकार खोजना था। कंप्यूटर ने महसूस किया कि साइन बोर्ड मायने नहीं रखते (वे सभी खाली थे)। इसने डायल को "क्राउड मोड" पर सेट किया और विशेष रूप से उन तीन लोगों को हाइलाइट किया जो त्रिकोण बना रहे थे।
  • "लॉन्ग हॉलवे" कमरा: कार्य एक लंबे गलियारे की लंबाई मापना था। मानक कंप्यूटर अक्सर लंबी दूरियों में भ्रमित हो जाते हैं। इस मॉडल ने डायल को समायोजित करके पूरे कमरे में जानकारी को बिना खोए एक छोर से दूसरे छोर तक सफलतापूर्वक पहुँचाया।

सारांश

इस पेपर को एक स्व-व्याख्या करने वाले GPS के रूप में सोचें।

  • पुराना GPS: "बाएँ मुड़ें।" (आपको नहीं पता कि क्यों)।
  • नया GPS: "बाएँ मुड़ें क्योंकि आगे का रास्ता अवरुद्ध है, लेकिन बगल वाली गली साफ़ है।"

यह टिखोनोव लेयर ही वह हिस्सा है जो GPS को वह व्याख्या लिखने में मदद करता है। यह कंप्यूटर को एक विकल्प चुनने के लिए मजबूर करता है: "क्या मैं यहाँ के डेटा पर भरोसा करूँ, या वहाँ के कनेक्शन पर?" और फिर यह अपने चयन को साधारण भाषा (डायल के माध्यम से) में लिख देता है ताकि इंसान इसे समझ सकें। यह साबित करता है कि आप एक शक्तिशाली, स्मार्ट कंप्यूटर बना सकते हैं जिसे "ब्लैक बॉक्स" होने की आवश्यकता नहीं है।

अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?

आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।

Digest आज़माएँ →