LAAF: A Layered Accountability Architecture Framework for LLM Applications
यह शोध पत्र LAAF (लेयर्ड अकाउंटेबिलिटी आर्किटेक्चर फ्रेमवर्क फॉर एलएलएम एप्लीकेशन्स) प्रस्तुत करता है, जो 122 अध्ययनों और नियामक दस्तावेजों की एक व्यवस्थित समीक्षा से व्युत्पन्न है, जो तकनीकी, मानवीय, संगठनात्मक और दस्तावेजीकरण तंत्रों को एक चार-स्तरीय मॉडल में संश्लेषित करता है जो उच्च-जोखिम वाले एआई परिनियोजन के लिए जवाबदेही के महत्वपूर्ण अंतराल को संबोधित करने हेतु यूरोपीय संघ के एआई अधिनियम और NIST AI RMF जैसे वैश्विक मानकों के अनुरूप है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक दुनिया में, 'लार्ज लैंग्वेज मॉडल्स' (large language models) नामक शक्तिशाली कंप्यूटर प्रोग्राम लेखन, योजना बनाने और प्रश्नों के उत्तर देने के लिए सामान्य उपकरण बन गए हैं। ये प्रणालियाँ केवल किसी डेटाबेस में मिलान करने वाले तथ्य की खोज नहीं करती हैं; इसके बजाय, वे विशाल मात्रा में टेक्स्ट से सीखे गए पैटर्न के आधार पर वाक्य में अगले शब्द की भविष्यवाणी करती हैं। यह क्षमता उन्हें ऐसी प्रवाहपूर्ण भाषा बोलने की अनुमति देती है जो मानवीय महसूस होती है, जिससे अक्सर ऐसे पैराग्राफ बनते हैं जो आत्मविश्वासी और आधिकारिक लगते हैं। हालाँकि, यह प्रवाह एक छिपे हुए दोष के साथ आता है: प्रणाली ऐसे कथन उत्पन्न कर सकती है जो व्याकरण की दृष्टि से तो पूर्ण हैं लेकिन पूरी तरह से गलत हैं, जिसे शोधकर्ता 'हैलुसिनेशन' (hallucination) कहते हैं। अनौपचारिक बातचीत में, एक गलत उत्तर केवल परेशान करने वाला होता है, लेकिन अस्पतालों, बैंकों या अदालतों जैसे महत्वपूर्ण परिवेशों में, एक आत्मविश्वासी गलती वास्तविक नुकसान पहुँचा सकती है। जब ऐसी त्रुटि होती है, तो एक कठिन प्रश्न उठता है: कौन जिम्मेदार है? क्या वह व्यक्ति है जिसने प्रॉम्प्ट लिखा, वह कंपनी जिसने सॉफ्टवेयर बनाया, या वह संस्थान जिसने इसे तैनात किया? वर्षों तक, इसका उत्तर स्पष्ट नहीं रहा है, जिससे तकनीक की तीव्र प्रगति और इसे प्रबंधित करने के लिए आवश्यक नियमों के बीच एक अंतर बना हुआ है।
शोधकर्ताओं की एक टीम ने इन प्रणालियों को जवाबदेह बनाने के मौजूदा साहित्य की व्यापक समीक्षा करके इस पहेली को सुलझाने का प्रयास किया। उन्होंने 2022 की शुरुआत से 2026 की शुरुआत के बीच प्रकाशित हजारों दस्तावेजों की जांच की, और अपना ध्यान 122 प्रमुख अध्येशनों और 12 आधिकारिक नियामक दस्तावेजों तक सीमित किया। उनका लक्ष्य केवल समस्याओं को सूचीबद्ध करना नहीं था, बल्कि यह मानचित्रित करना था कि चीजें गलत होने पर जिम्मेदारी को ठीक से कैसे ट्रैक, समझाया और उस पर कार्रवाई की जा सकती है। उन्होंने पाया कि वर्तमान दृष्टिकोण खंडित है। तकनीकी विशेषज्ञ इस बात पर ध्यान केंद्रित करते हैं कि कोड में त्रुटियों का पता कैसे लगाया जाए, जबकि नीति विशेषज्ञ कानूनों और नैतिकता पर ध्यान केंद्रित करते हैं, लेकिन ये दोनों समूह शायद ही कभी एक ही भाषा बोलते हैं। इसके अलावा, साहित्य अक्सर यह मान लेता है कि केवल आउटपुट को किसी मानव द्वारा देखना ही पर्याप्त है, बिना यह निर्दिष्ट किए कि उस मानव को वास्तव में क्या करना चाहिए, उसे किस जानकारी की आवश्यकता है, या उसके पास गलत निर्णय को रोकने का क्या अधिकार है।
इस भ्रम को दूर करने के लिए, शोधकर्ताओं ने एक नया ढांचा प्रस्तावित किया जिसे LAAF कहा जाता है, जिसका अर्थ है 'लेयर्ड अकाउंटेबिलिटी आर्किटेक्चर फ्रेमवर्क' (Layered Accountability Architecture Framework)। उन्होंने इन एआई प्रणालियों के उपयोग की पूरी प्रक्रिया को चार अलग-अलग परतों में व्यवस्थित किया, जो नीचे से ऊपर की ओर बढ़ती हैं। पहली परत स्वयं सॉफ्टवेयर के उद्गम से संबंधित है, जिसके लिए स्पष्ट रिकॉर्ड की आवश्यकता है कि मॉडल कहाँ से आया और इसे किस डेटा पर प्रशिक्षित किया गया था। दूसरी परत इस बात पर केंद्रित है कि सॉफ्टवेयर का उपयोग किसी विशिष्ट अनुप्रयोग में कैसे किया जाता है, यह सुनिश्चित करते हुए कि सिस्टम अपने उत्तरों की जांच विश्वसनीय स्रोतों से करे और अपने प्रत्येक कदम का लॉग रखे। तीसरी परत एक मानव को 'लूप में' रखती है, न कि केवल एक निष्क्रिय पर्यवेक्षक के रूप में, बल्कि एक सक्रिय समीक्षक के रूप में जिसके पास मशीन को ओवरराइड करने की शक्ति हो यदि आउटपुट असुरक्षित या गलत प्रतीत होता है। अंतिम परत संगठनात्मक स्तर है, जहाँ कंपनियाँ नियम स्थापित करती हैं, व्यक्तियों को विशिष्ट भूमिकाएँ सौंपती हैं, और गलतियों को सुधारने तथा पीड़ित को मुआवजा देने के मार्ग बनाती हैं।
अध्ययन से पता चला कि हालांकि हमारे पास त्रुटियों की जाँच के लिए कई उपकरण हैं, लेकिन वे अक्सर अलग-थलग उपयोग किए जाते हैं। उदाहरण के लिए, एक सिस्टम में उत्कृष्ट लॉगिंग क्षमताएं हो सकती हैं लेकिन इसमें कोई स्पष्ट योजना नहीं हो सकती कि समस्या आने पर उन लॉग्स की समीक्षा कौन करेगा। शोधकर्ताओं ने चार प्रमुख अंतराल पहचाने जो हमें वास्तव में जवाबदेह बनने से रोकते हैं: हमारे पास इन प्रणालियों की निगरानी कैसे की जानी चाहिए इसके स्पष्ट नियम नहीं हैं, हमारे पास सफलता को मापने के साझा तरीके नहीं हैं, तकनीकी और कानूनी क्षेत्र आपस में कटे हुए हैं, और अधिकांश प्रस्तावित समाधान केवल सिमुलेशन में परीक्षण किए गए हैं न कि वास्तविक दुनिया में। उन्होंने पांच गहरे तनावों पर भी प्रकाश डाला जिन्हें हल करना कठिन है, जैसे कि जवाबदेही साबित करने के लिए पर्याप्त पारदर्शी होने और सुरक्षा एवं व्यावसायिक हितों की रक्षा के लिए पर्याप्त जानकारी गुप्त रखने के बीच का संघर्ष।
टीम द्वारा बनाया गया यह ढांचा मौजूदा कानूनों, जैसे कि यूरोपीय संघ के 'एआई एक्ट' और संयुक्त राज्य अमेरिका तथा अंतर्राष्ट्रीय निकायों के मानकों के साथ मिलकर काम करने के लिए डिज़ाइन किया गया है। यह साइबर सुरक्षा को जवाबदेही के एक मुख्य भाग के रूप में मानता है, यह पहचानते हुए कि यदि किसी प्रणाली को धोखा दिया या हेरफेर किया जा सकता है, तो कोई भी उसके आउटपुट के लिए वास्तव में जिम्मेदार नहीं ठहराया जा सकता। तकनीकी नियंत्रणों को मानवीय निरीक्षण और संगठनात्मक शासन के साथ संरेखित करके, यह ढांचा एक एकल गलती को परतों के माध्यम से पीछे तक ट्रैक करने का एक तरीका प्रदान करता है ताकि यह पता लगाया जा सके कि किसने निर्णय लिया और क्यों। लेखक सावधानीपूर्वक यह नोट करते हैं कि यह वर्तमान साक्ष्यों पर आधारित एक ब्लूप्रिंट है, न कि एक तैयार उत्पाद जो हर स्थिति में काम करने के लिए सिद्ध हो चुका है। हालाँकि, जिम्मेदारी की एक अस्पष्ट अवधारणा को एक संरचित, चार-स्तरीय प्रणाली में बदलकर, उन्होंने शक्तिशाली कृत्रिम बुद्धिमत्ता और उन मनुष्यों के बीच के जटिल संबंध को नेविगेट करने के लिए पहला व्यापक मानचित्र प्रदान किया है जिन्हें इसके लिए उत्तरदायी होना चाहिए।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।