Establishing AI State of Control: An Error Taxonomy and Assurance Framework for Transformer-Based Probabilistic Systems in Regulated Life Sciences

फार्मास्युटिकल मैन्युफैक्चरिंग की उच्च-जोखिम वाली दुनिया में, जहाँ एक अकेली त्रुटि भी रोगी की सुरक्षा से समझौता कर सकती है, कंपनियाँ यह सुनिश्चित करने के लिए सख्त नियमों पर भरोसा करती हैं कि दवा के निर्माण का हर चरण सटीक हो। दशकों से, ये नियम नियतिवाद (determinism) के विचार पर आधारित रहे हैं: यदि आप किसी मशीन में विशिष्ट सामग्रियों का एक सेट डालते हैं, तो आपको हर बार बिल्कुल समान परिणाम प्राप्त होता है। यदि कुछ गलत हो जाता है, तो इंजीनियर विफलता को एक टूटे हुए गियर या एक गलत संरेखित सेंसर तक ट्रैक कर सकते हैं। लेकिन एक नई तरह की तकनीक परिदृश्य को बदल रही है। लार्ज लैंग्वेज मॉडल्स (LLMs), वही प्रकार की आर्टिफिशियल इंटेलिजेंस जो कविता लिख सकती है या जटिल रिपोर्ट का सारांश बना सकती है, इन विनियमित वातावरणों में प्रवेश करना शुरू कर रही हैं। पुराने मशीनों के विपरीत, ये सिस्टम संभाव्यता (probabilistic) पर आधारित हैं। वे एक एकल सही उत्तर की गणना नहीं करते हैं; इसके बजाय, वे सीखे गए पैटर्न के आधार पर वाक्य में अगले सबसे संभावित शब्द की भविष्यवाणी करते हैं। इसका अर्थ यह है कि समान निर्देश दिए जाने पर भी, सिस्टम थोड़ा अलग और संभावित रूप से गलत आउटपुट दे सकता है। नियामकों और गुणवत्ता विशेषज्ञों के लिए चुनौती यह है कि गलतियों को खोजने और ठीक करने के पुराने उपकरण उन मशीनों के लिए डिज़ाइन किए गए थे जो कभी अनुमान नहीं लगातीं, न कि उन सिस्टम के लिए जो लगातार अनुमान लगाते रहते हैं।

केला ब्रिट नामक एक शोधकर्ता ने इन जीवन विज्ञानों में उपयोग किए जाने वाले एआई सिस्टम के लिए इस अनिश्चितता को प्रबंधित करने का एक नया तरीका प्रस्तावित किया है। वह जिस मूल समस्या को संबोधित करती हैं, वह यह है कि वर्तमान गुणवत्ता प्रणालियों के पास उस स्थिति का वर्णन करने के लिए भाषा का अभाव है जब एक एआई गलती करता है। यदि एक पारंपरिक सॉफ्टवेयर प्रोग्राम विफल होता है, तो यह आमतौर पर एक स्पष्ट "सॉफ्टवेयर त्रुटि" होती है। लेकिन जब एक एआई एक ऐसा दस्तावेज़ बनाता है जो वास्तविक दिखता है पर है नहीं (hallucinate), या किसी महत्वपूर्ण निर्देश को अनदेखा कर देता है क्योंकि उसे विश्वास था कि वह बेहतर जानता है, तो पुराने लेबल फिट नहीं बैठते। यह भ्रम मूल कारण की ठीक से जांच करना या समस्या को ठीक करना असंभव बना देता है। इसे हल करने के लिए, ब्रिट एक नई वर्गीकरण प्रणाली पेश करती हैं, जो एक द्वि-आयामी मानचित्र (two-dimensional map) है जो एआई विफलताओं को दो विशिष्ट श्रेणियों में तोड़ती है: त्रुटि का प्रकार और सिस्टम के आर्किटेक्चर में वह सटीक बिंदु जहाँ से वह शुरू हुई।

एक ग्रिड की कल्पना करें जहाँ एक पक्ष एआई के विफल होने के छह अलग-अलग तरीकों को सूचीबद्ध करता है, जैसे तथ्य बनाना, संदर्भ की गलत व्याख्या करना, या अपने उत्तर में अत्यधिक आत्मविश्वासी होना। दूसरा पक्ष उन छह स्थानों को सूचीबद्ध करता है जहाँ विफलता उत्पन्न हो सकती थी, जैसे कि वह डेटा जिस पर मॉडल को प्रशिक्षित किया गया था, वह सिस्टम जो जानकारी प्राप्त करता है, या वह तरीका जिससे एआई मानव उपयोगकर्ताओं के साथ बातचीत करता है। इन दो सूचियों को आपस में जोड़कर, यह ढांचा छत्तीस विशिष्ट "सेल्स" (cells) बनाता है जहाँ किसी भी दी गई गलती को दर्ज किया जा सकता है। यह एक गुणवत्ता इंजीनियर को यह कहने की अनुमति देता है कि एआई केवल विफल नहीं हुआ, बल्कि सटीक रूप से कि इसने एक "फैब्रिकेशन एरर" (तथ्य गढ़ना) किया जो "मॉडल इन्फरेंस" (पाठ उत्पन्न करने के क्षण) चरण से उत्पन्न हुआ। विवरण का यह स्तर एक अस्पष्ट शिकायत को एक विशिष्ट नैदानिक उपकरण (diagnostic tool) में बदल देता है, जिससे टीमों को यह समझने में सक्षम बनाता है कि सिस्टम वास्तव में कैसे टूटा।

यह शोध पत्र इस बात को स्वीकार करते हुए आगे बढ़ता है कि सभी एआई त्रुटियों को पूरी तरह से समाप्त नहीं किया जा सकता है। क्योंकि ये सिस्टम संभाव्यता पर निर्मित हैं, कुछ गलतियाँ इनके डिज़ाइन का अभिन्न अंग हैं और इन्हें पूरी तरह से इंजीनियरिंग के माध्यम से हटाया नहीं जा सकता। यह ढांचा एक "इरेड्यूसिबिलिटी गेट" (irreducibility gate - अपरिहार्यता द्वार) की अवधारणा पेश करता है ताकि उन त्रुटियों को अलग किया जा सके जिन्हें बेहतर कोडिंग या डेटा के साथ ठीक किया जा सकता है, और उन त्रुटियों को जिन्हें सिस्टम के उपयोग के दायरे और तरीके को सीमित करके प्रबंधित किया जाना चाहिए। यदि कोई विफलता "अपरिहार्य" (irreducible) मानी जाती है, तो समाधान एआई को पूर्ण बनाने की कोशिश करना नहीं है, बल्कि इसके दायरे को प्रतिबंधित करना है ताकि यदि यह गलती भी करे, तो उसके परिणाम नियंत्रित रहें। उदाहरण के लिए, यदि एक एआई चिकित्सा उद्धरण (medical citations) बनाने के प्रति प्रवृत्त है, तो सिस्टम को इस तरह से डिज़ाइन किया जा सकता है कि वह केवल उसी टेक्स्ट का सारांश बनाए जिसे पहले ही मानव द्वारा सत्यापित किया जा चुका है, बजाय इसके कि वह अपने आप नए उद्धरण उत्पन्न करे।

इस दृष्टिकोण का परीक्षण करने के लिए, लेखिका एक व्यावहारिक परिदृश्य का विवरण देती हैं जिसमें एक फार्मास्युटिकल कंपनी एक मैन्युफैक्चरिंग रिकॉर्ड का सारांश बनाने के लिए एआई का उपयोग कर रही है। इस मामले में, एआई ने बैच रिकॉर्ड में तापमान संबंधी समस्या की सही पहचान की लेकिन फिर एक झूठा कारण गढ़ दिया, यह दावा करते हुए कि एक वाल्व खराब हो गया था जबकि रिकॉर्ड में वास्तव में यह मानवीय त्रुटि थी। नए वर्गीकरण (taxonomy) का उपयोग करते हुए, टीम यह निर्धारित कर सकती थी कि यह "मॉडल इन्फरेंस" लेयर से उत्पन्न एक "फैब्रिकेशन" त्रुटि थी, न कि कोई साधारण सॉफ्टवेयर ग्लिच। इस विशिष्ट निदान ने एक लक्षित समाधान की ओर संकेत किया: एक सत्यापन चरण जोड़ना जो यह जाँचता है कि एआई द्वारा उत्पन्न पाठ स्रोत दस्तावेज़ के तथ्यों से मेल खाता है या नहीं, इससे पहले कि वह मानव को दिखाया जाए। यह एक सामान्य "सॉफ्टवेयर चेक करें" के आदेश की तुलना में अधिक प्रभावी समाधान है।

प्रस्तावित ढांचा इन नए तरीकों को विनिर्माण प्रक्रियाओं को मान्य करने के लिए अमेरिकी खाद्य एवं औषधि प्रशासन (FDA) द्वारा उपयोग की जाने वाली मौजूदा तीन-चरणीय प्रक्रिया के साथ संरेखित भी करता है। एआई को कभी विफल न होने के लिए सिद्ध करने के बजाय, यह नया तरीका यह सिद्ध करने पर ध्यान केंद्रित करता है कि एआई की विफलताएं एक ज्ञात, सुरक्षित सीमा के भीतर रहती हैं। इसमें एक ही इनपुट के कई विविध रूपों के साथ सिस्टम का परीक्षण करना शामिल है ताकि यह देखा जा सके कि आउटपुट कितना भिन्न होता है, यह सुनिश्चित करना कि भिन्नता इतनी कम है कि सुरक्षित है। यदि सिस्टम इन सीमाओं के भीतर रहता है, तो इसे उपयोग के लिए अनुमोदित किया जा सकता है, बशर्ते कि दुर्लभ त्रुटियों को पकड़ने के लिए मनुष्य अभी भी प्रक्रिया में शामिल हों।

यह कार्य सुझाव देता है कि चिकित्सा में सुरक्षित एआई का भविष्य इन संभाव्यता-आधारित सिस्टम को नियतिवादी मशीनों की तरह व्यवहार करने के लिए मजबूर करने में नहीं है, जो कि लगभग असंभव है। इसके बजाय, यह उनकी प्रकृति को स्वीकार करने, उनकी विशिष्ट कमजोरियों को सटीकता से मैप करने और उनके सीमित दायरे के भीतर काम करने वाले नियंत्रण बनाने में निहित है। गुणवत्ता टीमों को एक स्पष्ट शब्दावली और अपनी विफलताओं को वर्गीकृत करने का एक संरचित तरीका देकर, यह ढांचा इन शक्तिशाली नए उपकरणों का उपयोग करने के लिए एक मार्ग प्रदान करता है बिना उन दवाओं की सुरक्षा से समझौता किए जिन पर हम निर्भर हैं। शोध पत्र निष्कर्ष निकालता है कि हालांकि तकनीक अभी विकसित हो रही है, इन त्रुटियों को परिभाषित करने, दर्ज करने और प्रबंधित करने का एक मानकीकृत तरीका रखना उन्हें नियंत्रण में रखने की दिशा में एक आवश्यक पहला कदम है।