I-SAFE: Wasserstein Coherence Metrics for Structural Auditing of Scientific AI Models
यह शोध पत्र I-SAFE को प्रस्तुत करता है, जो एक पोस्ट-हॉक ऑडिटिंग फ्रेमवर्क है जो इनपुट पर्टर्बेशन्स (input perturbations) के माध्यम से डोमेन ज्ञान के साथ वैज्ञानिक AI मॉडलों के संरचनात्मक संरेखण का मूल्यांकन करने के लिए वासरस्टीन कोहेरेंस मेट्रिक्स (Wasserstein Coherence Metrics) का उपयोग करता है, जिससे उन वितरण संबंधी विसंगतियों का अनावरण होता है जिन्हें मानक सटीकता-आधारित बेंचमार्क पहचानने में विफल रहते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक जटिल व्यंजन पकाने के लिए एक शेफ को काम पर रख रहे हैं। आप अंतिम भोजन चखते हैं, और वह स्वादिष्ट है। आप उन्हें उच्च स्कोर देते हैं। लेकिन समस्या यह है: क्या उन्होंने वास्तव में सही सामग्री और तकनीकों का उपयोग करके व्यंजन पकाया है, या उन्होंने बस एक विशिष्ट रेसिपी को रट लिया है जो इस एक रात के लिए संयोग से अच्छी बनी है?
"वैज्ञानिक एआई" (Scientific AI) की दुनिया में (कंप्यूटर जो वास्तविक दुनिया की विज्ञान समस्याओं जैसे ड्रग डिस्कवरी को हल करने की कोशिश कर रहे हैं), हम अक्सर यही गलती करते हैं। हम एक मॉडल के टेस्ट स्कोर (वह कितनी अच्छी तरह भविष्यवाणी करता है) को देखते हैं और मान लेते हैं कि वह विज्ञान को समझता है। लेकिन यह पेपर तर्क देता है कि एक उच्च स्कोर नाजुक (fragile) होता है। एआई "चीटिंग" कर सकता है, यानी डेटा में सूक्ष्म, अप्रासंगिक पैटर्न (जैसे टेक्स्ट का फ़ॉन्ट आकार या विशिष्ट बैकग्राउंड शोर) को नोटिस कर सकता है, बजाय वास्तविक जैविक संरचना (biological structure) को समझने के।
इस पेपर के लेखक, बारबरा टारेंटिनो, जेनेरो ऑरिकियो और पाओलो गिउडिसी, इन एआई मॉडल्स के ऑडिट करने का एक नया तरीका पेश करते हैं जिसे I-SAFE कहा जाता है।
I-SAFE कैसे काम करता है, यहाँ सरल उपमाओं (analogies) के माध्यम से समझाया गया है:
1. समस्या: "मैजिक 8-बॉल" बनाम "समझदार शेफ"
वर्तमान एआई मॉडल्स मैजिक 8-बॉल्स की तरह हैं। आप उन्हें हिलाते हैं (डेटा देते हैं), और वे एक उत्तर देते हैं। यदि उत्तर 90% बार सही होता है, तो हम खुश होते हैं। लेकिन हमें नहीं पता कि वे क्यों सही हैं।
- जोखिम: एआई इसलिए सही हो सकता है क्योंकि उसने टेस्ट के सवालों को रट लिया है, न कि इसलिए कि वह केमिस्ट्री को समझता है। यदि आप सवाल को थोड़ा बदल देते हैं (जैसे किसी दवा में एक विशिष्ट घटक बदलना), तो एक "स्मार्ट" मॉडल तार्किक रूप से प्रतिक्रिया देना चाहिए। एक "चीटिंग" करने वाला मॉडल शायद बेतरतीब ढंग से या बिल्कुल भी प्रतिक्रिया नहीं देगा।
2. समाधान: "इंटरवेंशनल ऑडिट" (Interventional Audit)
केवल एआई से यह पूछने के बजाय कि, "उत्तर क्या है?", I-SAFE पूछता है, "क्या होगा अगर हम इनपुट को छेड़ें (poke करें)?"
एआई मॉडल को एक 'ब्लैक बॉक्स' के रूप में सोचें। वैज्ञानिकों के पास एक नक्शा है कि क्या महत्वपूर्ण होना चाहिए (जिसे स्ट्रक्चरल प्रायर - Structural Prior कहा जाता है)। अपने प्रयोग में, उनका यह नक्शा प्रोटीन पर विशिष्ट "बाइंडिंग पॉकेट्स" (binding pockets) की एक सूची थी जहाँ दवाएं वास्तव में जुड़ती हैं।
- टेस्ट: वे एक ड्रग और एक प्रोटीन लेते हैं। वे प्रोटीन के दो संस्करण बनाते हैं:
- "असली" छेड़छाड़ (The "Real" Poke): वे उन हिस्सों के साथ छेड़छाड़ करते हैं जिन्हें नक्शा महत्वपूर्ण बताता है (बाइंडिंग पॉकेट्स)।
- "नकली" छेड़छाड़ (The "Fake" Poke): वे उन हिस्सों के साथ छेड़छाड़ करते हैं जिन्हें नक्शा महत्वहीन बताता है (प्रोटीन के यादृच्छिक हिस्से)।
- लक्ष्य: वे देखना चाहते हैं कि क्या एआई "असली" छेड़छाड़ के प्रति "नकली" छेड़छाड़ की तुलना में अलग तरह से प्रतिक्रिया करता है। यदि एआई वास्तव में वैज्ञानिक है, तो महत्वपूर्ण हिस्सों को बदलने से उसकी भविष्यवाणी में एक तार्किक, व्यवस्थित परिवर्तन होना चाहिए। महत्वहीन हिस्सों को बदलने से एक कम व्यवस्थित, कम संगठित परिवर्तन होना चाहिए।
3. तीन "रूलर" (The Three "Rulers")
पेपर तीन विशिष्ट तरीके पेश करता है जिनसे एआई की प्रतिक्रिया की "संगठितता" को मापा जा सकता है। वे फैंसी गणितीय नामों का उपयोग करते हैं, लेकिन इन्हें तीन अलग-अलग रूलर (पैमानों) के रूप में सोचें:
रूलर 1: "स्थान" का रूलर (QBM)
- उपमा: ऊंचाई के आधार पर रैंक किए गए लोगों की एक पंक्ति की कल्पना करें। यदि आप महत्वपूर्ण लोगों को बदलते हैं, तो क्या पूरी पंक्ति सुचारू रूप से ऊपर या नीचे जाती है?
- यह क्या जांचता है: क्या औसत भविष्यवाणी एक तार्किक दिशा में बढ़ी?
रूलर 2: "क्रम" का रूलर (WCM)
- उपमा: एक दौड़ की कल्पना करें। यदि आप धावकों के जूते बदलते हैं, तो क्या उनके फिनिशिंग समय का क्रम समझदारी से बदलता है? या विजेता अचानक बिना किसी कारण के लूज़र बन जाता है?
- यह क्या जांचता है: क्या एआई ने अपनी भविष्यवाणियों की रैंकिंग को सुसंगत रखा? (उदाहरण के लिए, यदि ड्रग A, ड्रग B से बेहतर था, तो क्या बदलाव के बाद भी वह बेहतर है?)
रूलर 3: "आकार" का रूलर (TI-WCM)
- उपमा: एक गुब्बारे की कल्पना करें। यदि आप इसे दबाते हैं, तो क्या यह केवल छोटा हो जाता है (शिफ्ट होता है), या यह अपना अजीब, गांठदार आकार बदल लेता है?
- यह क्या जांचता है: क्या उत्तरों का पैटर्न बदला, या केवल नंबर बदले? यह रूलर सरल बदलावों को अनदेखा करता है ताकि यह देखा जा सके कि क्या अंतर्निहित "आकार" सुसंगत रहा।
4. प्रयोग: तीन "शेफ" का परीक्षण करना
उन्होंने इस परीक्षण को तीन अलग-अलग एआई मॉडल्स पर किया जो दवाओं के प्रोटीन के साथ होने वाली अंतःक्रिया (विशेष रूप से किनेसेस - kinases) की भविष्यवाणी करने के लिए डिज़ाइन किए गए थे।
- सेटअप: उन्होंने एक मानक डेटासेट (Davis) का उपयोग किया और गाइड के रूप में "बाइंडिंग पॉकेट" मैप (KLIFS) का उपयोग किया।
- हैरानी: तीनों मॉडल्स के "टेस्ट स्कोर" (सटीकता) समान थे। वे सभी अच्छे शेफ लग रहे थे।
- ऑडिट परिणाम:
- मॉडल A और B (DeepDTA, DeepConvDTI): जब वैज्ञानिकों ने "महत्वपूर्ण" हिस्सों के साथ छेड़छाड़ की, तो इन मॉडल्स ने लगभग वैसा ही व्यवहार किया जैसा "महत्वपूर्ण नहीं" वाले हिस्सों के साथ किया था। वे व्यवस्थित (organized) नहीं थे। वे संभवतः केवल अनुमान लगा रहे थे या शॉर्टकट पर निर्भर थे।
- मॉडल C (TAPB): यह मॉडल अलग तरह से प्रतिक्रिया करता था! जब "महत्वपूर्ण" हिस्सों को बदला गया, तो इसके उत्तर बहुत ही व्यवस्थित, तार्किक तरीके से बदले। जब "महत्वपूर्ण नहीं" वाले हिस्सों को बदला गया, तो उत्तर अव्यवस्थित थे।
- निष्कर्ष: भले ही तीनों मॉडल्स को फाइनल एग्जाम में समान ग्रेड मिले, लेकिन केवल TAPB ही वास्तव में समस्या की संरचना को समझता हुआ प्रतीत हुआ।
5. यह क्यों मायने रखता है
पेपर निष्कर्ष निकालता है कि केवल सटीकता (accuracy) पर्याप्त नहीं है। आपके पास एक ऐसा मॉडल हो सकता है जो 90% बार सही है लेकिन वैज्ञानिक रूप से बेकार है क्योंकि वह "चीटिंग" कर रहा है।
I-SAFE एआई के लिए एक झूठ पकड़ने वाले यंत्र (lie detector test) की तरह है। यह इस बात की परवाह नहीं करता कि मॉडल एक एकल अनुमान में सही है या गलत; यह इस बात की परवाह करता है कि क्या मॉडल का दिमाग सही ढंग से वायर किया गया है। यह जांचता है कि क्या मॉडल का तर्क तब भी बना रहता है जब आप उसे उन जगहों पर छेड़ते हैं जहाँ विज्ञान कहता है कि बदलाव महत्वपूर्ण है।
संक्षेप में:
- पुराना तरीका: "क्या आपको सही उत्तर मिला?" (हाँ/नहीं)
- I-SAFE तरीका: "यदि मैं समस्या के इस विशिष्ट भाग को बदल दूँ, तो क्या आपका उत्तर इस तरह बदलेगा जो वैज्ञानिक रूप से समझ में आए?" (सुसंगत/असंगत)
यह फ्रेमवर्क वैज्ञानिकों को बिना उनके आंतरिक कोड को देखे "ब्लैक बॉक्स" एआई मॉडल्स का ऑडिट करने की अनुमति देता है, यह सुनिश्चित करता है कि एआई वास्तव में विज्ञान सीख रहा है न कि केवल परीक्षा रट रहा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।