ADMITBench: A Safety-Governed Reference Framework for Evaluating the Admissibility of Industrial LLM Advisories
यह शोध पत्र ADMITBench प्रस्तुत करता है, जो एक वर्ज़नयुक्त, सुरक्षा-शासित संदर्भ ढांचा है जिसे औद्योगिक LLM परामर्शों की स्वीकार्यता का मूल्यांकन करने के लिए डिज़ाइन किया गया है, जो यह सत्यापित करता है कि प्रस्तावित कार्य साक्ष्यों द्वारा समर्थित हैं, अधिकार द्वारा अनुमत हैं, और प्लांट-विशिष्ट परिणाम जांच के अनुरूप हैं, जबकि स्पष्ट रूप से यह स्पष्ट करता है कि यह उपकरण भौतिक निष्पादन प्राधिकरण के बजाय तकनीकी अनुसंधान मूल्यांकन के लिए है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि एक ऐसी दुनिया है जहाँ कंप्यूटर हमसे बात करने, सलाह देने और यहाँ तक कि जटिल मशीनों जैसे कि कारखानों या बिजली संयंत्रों को चलाने में मदद करने में बहुत कुशल होते जा रहे हैं। यह क्षेत्र आर्टिफिशियल इंटेलिजेंस (AI) कहलाता है, और विशेष रूप से, हम "लार्ज लैंग्वेज मॉडल्स" (LLMs) की ओर देख रहे हैं—वे स्मार्ट चैटबॉट्स जो कहानियाँ लिख सकते हैं, गणित की समस्याओं को हल कर सकते हैं और यह समझा सकते हैं कि चीजें कैसे काम करती हैं। लेकिन यहाँ एक पेचीदा बात है: सिर्फ इसलिए कि एक कंप्यूटर एक बुद्धिमान-सा दिखने वाला उत्तर दे सकता है, इसका मतलब यह नहीं है कि वह जो कहता है उसे वास्तव में करना सुरक्षित है। वास्तविक दुनिया में, विशेष रूप से औद्योगिक सेटिंग्स में, एक गलत कदम विस्फोट, रिसाव या शटडाउन का कारण बन सकता है। इसलिए, वैज्ञानिक और इंजीनियर एक बड़ा सवाल पूछ रहे हैं: हम इन AI सलाहकारों का परीक्षण कैसे करें ताकि यह सुनिश्चित हो सके कि वे न केवल अच्छी बातें कहें, बल्कि नियमों का पालन भी करें, सुरक्षा सीमाओं का सम्मान करें, और यह भी जानें कि चीजें बिगड़ने से पहले कब इंसान से मदद मांगनी है?
यहाँ आता है ADMITBench, एक नया "नियम पुस्तिका" (rulebook) जिसे शोधकर्ताओं ने औद्योगिक AI का परीक्षण करने के लिए बनाया है। इसे एक बहुत ही सख्त, सुपर-स्मार्ट रेफरी की तरह समझें जो एक ऐसे वीडियो गेम में है जहाँ दांव पर असली जीवन लगा है। आमतौर पर, जब हम AI का परीक्षण करते हैं, तो हम बस पूछते हैं, "क्या आपने समस्या का सही अनुमान लगाया?" लेकिन ADMITBench कहता है, "रुको जरा! भले ही आपने समस्या का सही अनुमान लगा लिया हो, लेकिन क्या आपने इसे ठीक करने के लिए ऐसे तरीके का इस्तेमाल किया जिससे नियम टूट जाएं या आपदा आ जाए?" यह पेपर एक ऐसा ढांचा पेश करता है जो AI के हर एक कदम की जांच करता है—स्थिति को समझने से लेकर समाधान प्रस्तावित करने तक—यह सुनिश्चित करने के लिए कि वह न केवल चतुर है, बल्कि सुरक्षित और कार्य करने के लिए अधिकृत भी है।
समस्या: सही होना पर्याप्त नहीं है
कल्पना कीजिए कि आप "फैक्ट्री ठीक करो" का एक उच्च-दांव वाला खेल खेल रहे हैं। आप AI हैं, और आप एक विशाल मशीन पर लाल बत्ती जलते हुए देखते हैं। आप सही ढंग से पहचान लेते हैं कि मशीन ओवरहीट (अत्यधिक गर्म) हो रही है। बहुत बढ़िया! आप एक जीनियस डायग्नोस्टिशियन हैं। लेकिन फिर, आप इसे ठीक करने के लिए एक ऐसा वाल्व खोलने का निर्णय लेते हैं जिसे छूने की आपको अनुमति नहीं है, या आप एक ऐसा दरवाजा खोलने की कोशिश करते हैं जो सुरक्षा कारणों से लॉक है, या आप उस चेतावनी को अनदेखा कर देते हैं कि मशीन छूने के लिए बहुत गर्म है। भले ही आप जानते थे कि क्या गलत है, लेकिन उसे ठीक करने की आपकी योजना खतरनाक है।
इस पेपर के लेखक तर्क देते हैं कि वर्तमान में AI के लिए अधिकांश परीक्षण केवल इस आधार पर छात्र को ग्रेड देने जैसे हैं कि क्या वह बीमारी की पहचान कर सकता है, बिना यह जांचे कि क्या उसका पर्चा मरीज को मार देगा। वे कहते हैं, "नहीं, नहीं, नहीं! वास्तविक दुनिया में, कार्य (action) मायने रखता है, न कि केवल उत्तर।" एक सही निदान के बाद एक खतरनाक कार्य अभी भी एक विफलता है।
समाधान: "एडमिसिबिलिटी" (स्वीकार्यता) की जाँच
इसे हल करने के लिए, टीम ने ADMITBench बनाया है। इसे एक विशाल, डिजिटल "सुरक्षा द्वार" (Safety Gate) के रूप में सोचें जिससे हर AI सुझाव को इसे "उपयोग के लिए सुरक्षित" माने जाने से पहले गुजरना पड़ता है।
केवल एक चैट संदेश पढ़ने के बजाय, ADMITBench AI को एक सख्त, संरचित प्रारूप (structured format) में अपनी योजना लिखने के लिए मजबूर करता है। यह ऐसा है जैसे AI से किसी भी कंट्रोल को छूने से पहले एक बहुत ही विशिष्ट फॉर्म भरने के लिए कहना। इस फॉर्म में शामिल है:
- योजना क्या है? (कार्य/Action)
- आप इसे क्यों कर रहे हैं? (प्रमाण/Evidence)
- क्या आपके पास अनुमति है? (प्राधिकार/Authority)
- यदि आप इसे करते हैं तो क्या होगा? (परिणाम/Consequences)
एक बार जब AI इस फॉर्म को भर देता है, तो ADMITBench इसे 6 स्तरों की जाँच (टियर्स T0 से T6) के माध्यम से चलाता है।
T0 से T4 "कठोर द्वार" (Hard Gates) हैं। ये एक विशिष्ट क्लब के बाउंसरों की तरह हैं। यदि आप इनमें से किसी भी एक में विफल होते हैं, तो आपको तुरंत बाहर निकाल दिया जाता है। आपको स्कोर "None" मिलता है। आप "अच्छा" के रूप में रैंक नहीं किए जा सकते, भले ही आप बाकी सब कुछ में अद्भुत हों।
- T0 (फॉर्म चेक): क्या आपने फॉर्म सही ढंग से भरा है? क्या सभी बॉक्स चेक किए गए हैं?
- T1 (एविडेंस चेक): क्या आप वास्तविक, भरोसेमंद डेटा का उपयोग कर रहे हैं? या आप एक खराब सेंसर के आधार पर अनुमान लगा रहे हैं?
- T2 (हैज़र्ड चेक): क्या आप वास्तव में खतरे को समझते हैं? यदि आपको नहीं पता कि क्या गलत है, तो क्या आप मदद मांगना जानते हैं?
- T3 (परमिशन चेक): क्या आपको यह करने की अनुमति है? यदि AI केवल एक "सहायक" है न कि "नियंत्रक", तो वह मशीन को बदलने का आदेश नहीं दे सकता। उसे एक इंसान से पूछना होगा।
- T4 (कॉन्सीक्वेंस चेक): यदि हम यह करते हैं, तो क्या मशीन फट जाएगी? सिस्टम भविष्य का अनुकरण (simulate) करता है यह देखने के लिए कि क्या कार्य सुरक्षित है।
T5 "लोकप्रियता प्रतियोगिता" है। केवल तभी जब कोई AI सभी कठोर द्वारों (T0–T4) को पार कर लेता है, तो वह यहाँ प्रतिस्पर्धा कर सकता है। यह टियर पूछता है, "सभी सुरक्षित कार्यों के बीच, कौन सा सबसे अच्छा या सबसे कुशल है?"
T6 "पेपर ट्रेल" है। यह बस यह सुनिश्चित करता है कि हम बाद में देख सकें कि AI क्यों पास हुआ या क्यों फेल हुआ।
उन्होंने क्या पाया (और क्या नहीं पाया)
शोधकर्ताओं ने इस उपकरण का पहला संस्करण जारी किया है, जिसे Release 0.1.0 कहा जाता है। उन्होंने कंप्यूटर सिमुलेशन के भीतर दो विशिष्ट "मिनी-फैक्ट्रियों" पर इसका परीक्षण किया:
- एक CSTR (एक बड़ा टैंक जहाँ रसायन मिलते हैं और गर्म होते हैं)।
- एक डिस्टिलेशन कॉलम (एक ऊँचा टॉवर जिसका उपयोग तरल पदार्थों को अलग करने के लिए किया जाता है)।
उन्होंने पाया कि इस नए तरीके से परीक्षण करना काम करता है। इसने उन AI मॉडल्स को सफलतापूर्वक पकड़ा जो खतरनाक गलतियाँ कर रहे थे, भले ही वे मॉडल समस्या का सही निदान करने में सक्षम थे। उदाहरण के लिए, एक टेस्ट केस (जिसे D03 कहा गया) में, एक AI ने सीधे समस्या को ठीक करने की कोशिश की, लेकिन नियमों के अनुसार उसे पहले एक मानव पर्यवेक्षक से पूछना अनिवार्य था। ADMITBench ने इसे तुरंत एक विफलता के रूप में चिह्नित किया क्योंकि AI ने अपनी अधिकार सीमाओं का सम्मान नहीं किया।
हालाँकि, पेपर बहुत सावधानी से यह भी बताता है कि यह क्या नहीं है।
- यह सुरक्षा प्रमाणपत्र (safety certificate) नहीं है। ADMITBench पास करने का मतलब यह नहीं है कि AI कल वास्तविक कारखाने में उपयोग के लिए सुरक्षित है। इसका मतलब केवल यह है कि उसने इस विशिष्ट परीक्षण को पास कर लिया है।
- यह कोई जादुई समाधान नहीं है। परिणाम पूरी तरह से इस बात पर निर्भर करते हैं कि मनुष्यों द्वारा "नियम पुस्तिका" (प्रोफ़ाइल) कितनी अच्छी तरह लिखी गई है। यदि मनुष्यों ने बुरे नियम लिखे, तो परीक्षण बुरे परिणाम देगा।
- यह अभी सभी कारखानों के लिए सामान्य नियम नहीं है। उन्होंने केवल दो विशिष्ट परिदृश्यों का परीक्षण किया है। उन्होंने अभी तक किसी विशाल, वास्तविक दुनिया के पावर प्लांट पर इसका परीक्षण नहीं किया है। वे भविष्य में प्रसिद्ध "टेनेसी ईस्टमैन" प्रक्रिया पर इसका परीक्षण करने की योजना बना रहे हैं, लेकिन यह इस पेपर में नहीं हुआ है।
मुख्य निष्कर्ष
इस पेपर का मुख्य संदेश सरल लेकिन शक्तिशाली है: औद्योगिक सुरक्षा में, उत्तर सुरक्षा की इकाई नहीं है; प्रस्तावित कार्य (action) ही सुरक्षा की इकाई है।
सिर्फ इसलिए कि एक AI विशेषज्ञ की तरह बात कर सकता है, इसका मतलब यह नहीं है कि वह एक विशेषज्ञ की तरह कार्य कर सकता है। ADMITBench एक ऐसा उपकरण है जो AI को यह साबित करने के लिए मजबूर करता है कि उसके कार्य, इससे पहले कि उसे "थम्स अप" मिले, सुरक्षित, अधिकृत और वास्तविक साक्ष्यों पर आधारित हैं। यह यह सुनिश्चित करने की दिशा में एक कदम है कि जब हम AI को अपनी दुनिया चलाने में मदद करने दें, तो वह खेल के नियमों को जानता हो और उससे भी महत्वपूर्ण बात यह कि उसे कब न खेलना है, यह भी पता हो।
लेखक इस उपकरण को लेकर उत्साहित हैं, लेकिन वे बहुत विनम्र भी हैं। वे इसे एक "रेफरेंस फ्रेमवर्क" और "पब्लिक इम्प्लीमेंटेशन" कहते हैं, न कि एक तैयार उत्पाद। वे अन्य वैज्ञानिकों और इंजीनियरों को इसे उपयोग करने, इसमें सुधार करने और अधिक जटिल मशीनों पर परीक्षण करने के लिए आमंत्रित कर रहे हैं। यह सुरक्षित औद्योगिक AI की लंबी राह पर एक फिनिश लाइन नहीं, बल्कि एक शुरुआती रेखा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।