💬 NLP

The Alignment Auditor: A Bayesian Framework for Verifying and Refining LLM Objectives

यह शोध पत्र एक बेयसियन इनवर्स रिइन्फोर्समेंट लर्निंग फ्रेमवर्क प्रस्तुत करता है जो एलएलएम (LLM) ऑब्जेक्टिव ऑडिटिंग को एकल-बिंदु अनुमान से एक कठोर सत्यापन प्रक्रिया में परिवर्तित करता है, जिससे गैर-पहचान क्षमता (non-identifiability) का परिमाणीकरण, सुरक्षा जोखिमों के लिए अनिश्चितता-जागरूक डायग्नोस्टिक्स का सृजन, और प्रभावी आरएलएचएफ (RLHF) अलाइनमेंट के लिए परिष्कृत रिवार्ड्स का सत्यापन सक्षम होता है।

मूल लेखक: Matthieu Bou, Nyal Patel, Arjun Jagota, Satyapriya Krishna, Sonali Parbhoo

प्रकाशित 2026-06-30

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Matthieu Bou, Nyal Patel, Arjun Jagota, Satyapriya Krishna, Sonali Parbhoo

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

कल्पना कीजिए कि आपके पास एक बहुत ही बुद्धिमान रोबोट सहायक (एक लार्ज लैंग्वेज मॉडल, या LLM) है जिसे मददगार और सुरक्षित होने के लिए प्रशिक्षित किया गया है। आप जानते हैं कि यह सुरक्षित रूप से कार्य करता है, लेकिन आप वास्तव में यह नहीं जानते कि यह क्यों करता है। यह एक जादूगर द्वारा किए गए जादू को पूरी तरह से देखने जैसा है; आप परिणाम देखते हैं, लेकिन आपको पता नहीं चलता कि उसके दिमाग के अंदर कौन से नियम या "जादुई मंत्र" इसे करने के लिए प्रेरित कर रहे हैं।

यह शोध पत्र, जिसका शीर्षक "द एलाइनमेंट ऑडिटर" (The Alignment Auditor) है, उस ब्लैक बॉक्स के भीतर झांकने के लिए एक नया टूलकिट पेश करता है। केवल यह अनुमान लगाने के बजाय कि रोबोट क्या चाहता है, यह उसके आंतरिक "नियम पुस्तिका" (रिवॉर्ड फंक्शन) को रिवर्स-इंजीनियर करने और फिर यह परीक्षण करने की कोशिश करता है कि वह नियम पुस्तिका कितनी विश्वसनीय है।

यह ढांचा (framework) कैसे काम करता है, इसे तीन सरल चरणों में नीचे समझाया गया है:

समस्या: "एक उत्तर" का जाल (The "One Answer" Trap)

आमतौर पर, जब वैज्ञानिक यह समझने की कोशिश करते हैं कि एक रोबोट क्या सोच रहा है, तो वे उसे अपना व्यवहार दिखाने के लिए कहते हैं और फिर कहते हैं, "ठीक है, रोबोट X चाहता है।"

खामी: यह एक व्यक्ति को सेब खाते हुए देखने और यह निष्कर्ष निकालने जैसा है कि, "वे सेब प्रेमी होंगे।" लेकिन हो सकता है कि उन्हें संतरे पसंद न हों, या शायद वे सेब इसलिए खा रहे हैं क्योंकि उन्हें भूख लगी है, न कि इसलिए कि वे फल प्रेमी हैं। एक ही व्यवहार के पीछे कई अलग-अलग कारण (रिवॉर्ड्स) हो सकते हैं।
जोखिम: यदि आप गलत कारण का अनुमान लगाते हैं, तो आप गलतफहमी के आधार पर रोबोट को सुधारने की कोशिश कर सकते हैं, जिससे चीजें और भी खराब हो सकती हैं।

समाधान: "द एलाइनमेंट ऑडिटर" (The Alignment Auditor)

लेखक इस समस्या को ठीक करने के लिए एक तीन-चरणीय प्रक्रिया प्रस्तावित करते हैं, जो इस जांच को गणित की किसी समस्या के बजाय एक जासूसी रहस्य सुलझाने की तरह मानती है।

चरण 1: "धुंधला मानचित्र" (अनिश्चितता को मापना)

रोबोट के व्यवहार के लिए एक एकल कारण का अनुमान लगाने के बजाय, ऑडिटर सभी संभावित कारणों का एक धुंधला मानचित्र (fuzzy map) बनाता है।

उपमा: कल्पना कीजिए कि आप एक खोए हुए हाइकर को ढूंढने की कोशिश कर रहे हैं। एक पारंपरिक तरीका एक विशिष्ट स्थान की ओर इशारा करेगा और कहेगा, "वे वहां हैं!" हालांकि, ऑडिटर एक पूरे क्षेत्र के चारों ओर एक बड़ा घेरा बनाएगा और कहेगा, "वे इस घेरे में कहीं हैं।"
यह क्या करता है: यह एक "डिस्ट्रीब्यूशन" (संभावनाओं का बादल) बनाने के लिए बेयसियन इनवर्स रीइन्फोर्समेंट लर्निंग (Bayesian Inverse Reinforcement Learning) नामक तकनीक का उपयोग करता है कि रोबोट किस चीज़ को अनुकूलित (optimize) कर रहा है। यह इस बात को स्वीकार करता है कि हम अभी 100% निश्चित नहीं हैं।

चरण 2: "टॉर्च की रोशनी" (विश्वसनीयता का ऑडिट करना)

अब जब हमारे पास एक धुंधला मानचित्र है, तो हमें यह जानने की आवश्यकता है कि क्या यह एक अच्छा मानचित्र है। ऑडिटर मानचित्र पर टॉर्च की रोशनी डालता है ताकि यह देखा जा सके कि कहाँ स्पष्टता है और कहाँ धुंधलापन है।

उपमा: कल्पना कीजिए कि आप कोहरे में चल रहे हैं। ऑडिटर जाँचता है: "क्या यहाँ रास्ता साफ है? या क्या यह क्षेत्र इतना धुंधला है कि हम अपने मानचित्र पर भरोसा नहीं कर सकते?"
यह क्या करता है: यह "शॉर्टकट्स" (जुगाड़) की तलाश करता है। कभी-कभी, एक रोबोट उच्च स्कोर प्राप्त करने के लिए एक सस्ता नुस्खा सीख लेता है (जैसे कि वास्तव में सुरक्षित हुए बिना केवल "मैं सुरक्षित हूँ" कहना)। ऑडिटर रोबोट के आत्मविश्वास की जाँच करके इन ट्रिक्स का पता लगाता है। यदि रोबोट आत्मविश्वासी है लेकिन डेटा अजीब (आउट-ऑफ-डिस्ट्रीब्यूशन) है, तो ऑडिटर इसे खतरनाक घोषित कर देता है। यह यह भी जाँचता है कि क्या अधिक साक्ष्य मिलने पर "कोहरा" (अनिश्चितता) कम होता जा रहा है।

चरण 3: "टेस्ट ड्राइव" (पॉलिसी-लेवल वैलिडेशन)

यह सबसे महत्वपूर्ण हिस्सा है। ऑडिटर केवल नियमों का अनुमान लगाने पर ही नहीं रुकता; यह उनका परीक्षण भी करता है।

उपमा: कल्पना कीजिए कि आपके पास कार के लिए नए ड्राइविंग निर्देश हैं। केवल उन्हें पढ़ने के बजाय, आप वास्तव में कार में बैठते हैं और उसे चलाने के लिए देखते हैं कि क्या वह वहीं जाती है जहाँ आप चाहते हैं।
यह क्या करता है: टीम अपने धुंधले मानचित्र से "सर्वश्रेष्ठ अनुमान" लेती है और उसका उपयोग रोबोट को पुन: प्रशिक्षित (re-train) करने के लिए करती है। वे यह देखने के लिए निगरानी करते हैं कि क्या रोबोट बेहतर व्यवहार करता है।
- परिणाम: यदि रोबोट, जिसे ऑडिटर के अनुमानित नियमों के साथ प्रशिक्षित किया गया है, एक ऐसे रोबोट की तुलना में उतना ही सुरक्षित और प्रभावी व्यवहार करता है जिसे "परफेक्ट" (ग्राउंड ट्रुथ) नियमों के साथ प्रशिक्षित किया गया था, तो इसका मतलब है कि ऑडिटर सफल रहा। यह साबित करता है कि अनुमानित नियम वास्तव में सही और उपयोगी थे।

उन्होंने क्या पाया?

टीम ने इसका परीक्षण एक ऐसे रोबोट पर किया जिसे "विषाक्त" (अभद्र, हानिकारक या अपमानजनक) होने से बचने के लिए प्रशिक्षित किया गया था।

यह काम करता है: ऑडिटर सफलतापूर्वक रोबोट के छिपे हुए लक्ष्य (गैर-विषाक्त होना) को समझ गया।
यह स्पष्ट होता जाता है: जैसे-जैसे ऑडिटर ने अधिक उदाहरण देखे (एक के बाद एक दौर), "धुंधला मानचित्र" एक स्पष्ट और सटीक चित्र में बदल गया। रोबोट के छिपे हुए लक्ष्य कम अस्पष्ट होते गए।
यह ट्रिक्स को पकड़ता है: जब टीम ने अजीब प्रॉम्प्ट्स के साथ रोबोट को चकमा देने की कोशिश की, तो ऑडिटर का अनिश्चितता डिटेक्टर सक्रिय हो गया, जिससे चेतावनी मिली कि रोबोट का व्यवहार उन विशिष्ट स्थितियों में अविश्वसनीय था।
यह स्केल करता है: यह न केवल छोटे रोबोटों के लिए, बल्कि बड़े और अधिक जटिल रोबोटों के लिए भी काम कर गया।

मुख्य निष्कर्ष (The Bottom Line)

यह शोध पत्र सुरक्षा टीमों और नियामकों के लिए एक व्यावहारिक टूलकिट प्रदान करता है। केवल यह उम्मीद करने के बजाय कि AI सुरक्षित है, यह ढांचा आपको निम्नलिखित अनुमति देता है:

AI वास्तव में क्या करने की कोशिश कर रहा है, इसकी अनिश्चितता का मानचित्रण करना।
यह निदान करना कि AI कब सस्ते जुगाड़ या भ्रम का उपयोग कर रहा है।
वास्तविक प्रशिक्षण परिदृश्य में उनका परीक्षण करके यह सत्यापित करना कि AI के लक्ष्य वास्तव में सुरक्षित हैं।

यह हमें AI के सुरक्षित होने की "उम्मीद" करने से हटाकर, यह सिद्ध करने की ओर ले जाता है कि वह वास्तव में क्या अनुकूलित कर रहा है और यह सुनिश्चित करता है कि वह प्रमाण वास्तविक दुनिया में भी कायम रहे।

तकनीकी सारांश: द अलाइनमेंट ऑडिटर: LLM उद्देश्यों के सत्यापन और परिशोधन के लिए एक बेयसियन ढांचा (A Bayesian Framework)

समस्या विवरण

लार्ज लैंग्वेज मॉडल्स (LLMs) द्वारा अंतर्निहित रूप से अनुकूलित किए जाने वाले उद्देश्य खतरनाक रूप से अपारदर्शी बने हुए हैं, जो विश्वसनीय अलाइनमेंट और ऑडिटिंग के लिए एक बड़ी चुनौती पेश करते हैं। जबकि ह्युमन फीडबैक से रिइन्फोर्समेंट लर्निंग (RLHF) मॉडल के व्यवहार को आकार देता है, इसके परिणामस्वरूप उभरने वाली प्राथमिकताएं और लक्ष्य स्पष्ट रूप से एनकोडेड नहीं होते हैं। यह अपारदर्शिता रिवॉर्ड हैकिंग (reward hacking), शॉर्टकट शोषण (shortcut exploitation) और प्राथमिकता विसंगतियों जैसे विफलताओं के निदान में बाधा डालती है।

इनवर्स रिइन्फोर्समेंट लर्निंग (IRL) के मौजूदा दृष्टिकोण व्यवहार से रिवॉर्ड फंक्शन को अनुमानित करने का प्रयास करते हैं, लेकिन वे दो महत्वपूर्ण सीमाओं से ग्रस्त हैं:

अति-आत्मविश्वास (Overconfidence): वे आमतौर पर रिवॉर्ड का एक सिंगल पॉइंट एस्टीमेट प्रदान करते हैं, जो कार्य की मौलिक गैर-पहचान क्षमता (non-identifiability) की उपेक्षा करता है (जहाँ कई रिवॉर्ड फंक्शन एक ही देखे गए व्यवहार की समान रूप से व्याख्या कर सकते हैं)।
सत्यापन का अभाव (Lack of Verification): वे IRL को एक साधारण अनुमान कार्य के रूप में देखते हैं न कि एक सत्यापन प्रक्रिया के रूप में, जिससे यह बताने में विफलता होती है कि अनुमानित उद्देश्य कब नाजुक या अविश्वसनीय हैं।

परिणामस्वरूप, ऑडिटर यह निर्धारित नहीं कर सकते कि अनुमानित उद्देश्य कब नाजुक हैं, जिससे रिवॉर्ड अनुमान स्पूरियस (spurious) स्पष्टीकरणों के प्रति असुरक्षित हो जाता है।

कार्यप्रणाली: द अलाइनमेंट ऑडिटर (The Alignment Auditor)

यह शोधपत्र द अलाइनमेंट ऑडिटर को प्रस्तुत करता है, जो एक व्यापक, तीन-चरणीय ऑडिट प्रक्रिया के रूप में रिवॉर्ड अनुमान को पुनर्गठित करता है। यह ढांचा एकल अनुमान के बजाय उद्देश्यों के वितरण (distribution over objectives) को प्राप्त करने के लिए बेयसियन IRL का लाभ उठाता है।

चरण 1: बेयसियन IRL के साथ अस्पष्टता का परिमाणीकरण

यह ढांचा LLM इंटरैक्शन को एक कॉन्टेक्स्टुअल बैंडिट (contextual bandit) के रूप में मॉडल करता है। युग्मित पूर्णताओं (paired completions) (विशेषज्ञ $o^+$ बनाम बेसलाइन $o^-$ ) को देखते हुए, यह एक लीनियर रिवॉर्ड मॉडल $R_\theta(o) = \theta^\top \phi(o)$ का उपयोग करके रिवॉर्ड वेट्स $\theta$ पर एक पोस्टीरियर डिस्ट्रीब्यूशन का अनुमान लगाता है, जहाँ $\phi$ एक प्री-ट्रेन्ड एनकोडर से फीचर मैप है।

प्रायर (Prior): $\theta$ पर एक ज़ीरो-मीन आइसोट्रोपिक गॉसियन प्रायर रखा गया है।
लाइकलीहुड (Likelihood): प्राथमिकताओं को मॉडल करने के लिए ब्रैडली-टेरी मॉडल का उपयोग किया जाता है ( $P(o^+ \succ o^- | \theta) = \sigma(\alpha \theta^\top \Delta\phi)$ )।
अनुमान (Inference): गॉसियन प्रायर और लॉजिस्टिक लाइकलीहुड की नॉन-कंजुगेसी के कारण, पोस्टीरियर $p(\theta|D)$ का अनुमान वेरिएशनल इन्फरेंस (VI) का उपयोग करके लगाया जाता है, जिसमें मीन-फील्ड गॉसियन वेरिएशनल फैमिली $q_\lambda(\theta)$ का उपयोग किया गया है। यह एक ट्रैक्टेबल डिस्ट्रीब्यूशन प्रदान करता है जो रिवॉर्ड फंक्शन में अस्पष्टता को दर्शाता है।

चरण 2: विश्वसनीयता के ऑडिटिंग हेतु अनिश्चितता डायग्नोस्टिक्स

यह चरण गैर-पहचान क्षमता (non-identifiability) को व्यवस्थित रूप से कम करने और मॉडल की विश्वसनीयता की जांच करने पर केंद्रित है।

अनुक्रमिक पोस्टीरियर कॉन्ट्रैक्शन (Sequential Posterior Contraction): डेटा को $K$ राउंड में विभाजित किया गया है। राउंड $k-1$ का पोस्टीरियर राउंड $k$ के लिए प्रायर के रूप में कार्य करता है। ढांचा पोस्टीरियर कॉन्ट्रैक्शन (जिसे कोवेरिएंस मैट्रिक्स के लॉग-डिटरमिनेंट द्वारा मापा जाता है) को ट्रैक करता है। एक मोनोटोनिक कमी यह दर्शाती है कि गैर-पहचान क्षमता कम हो रही है; विस्तार (expansion) संभावित संघर्षों या मिसस्पेसिफिकेशन को दर्शाता है।
अनिश्चितता डायग्नोस्टिक्स (Uncertainty Diagnostics): प्रेडिक्टिव अनिश्चितता को म्यूचुअल इंफॉर्मेशन का उपयोग करके एलेयोटरिक (aleatoric - डेटा शोर) और एपिस्टेमिक (epistemic - मॉडल अस्पष्टता) घटकों में विभाजित किया जाता है। उच्च एपिस्टेमिक अनिश्चितता आउट-ऑफ-डिस्ट्रीब्यूशन (OOD) प्रॉम्प्ट्स या उन क्षेत्रों को चिह्नित करती है जहाँ रिवॉर्ड मॉडल आश्वस्त नहीं है। ढांचा स्पूरियस फीचर्स इंजेक्ट करके मजबूती का परीक्षण करता है; एक मजबूत मॉडल को ऐसे इनपुट पर बढ़ी हुई एपिस्टेमिक अनिश्चितता दिखानी चाहिए, जबकि शॉर्टकट पर निर्भर मॉडल स्पूरियस रूप से अति-आत्मविश्वासी हो जाता है।

चरण 3: पॉलिसी-लेवल वैलिडेशन

अंतिम चरण अनुमानित रिवॉर्ड की व्यावहारिक उपयोगिता को सत्यापित करता है। अंतिम, संकुचित पोस्टीरियर के माध्य ( $\hat{R}(o) = \mu_K^\top \phi(o)$ ) का उपयोग एक मानक RLHF पाइपलाइन (PPO) में रिवॉर्ड सिग्नल के रूप में बेसलाइन LLM को फाइन-ट्यून करने के लिए किया जाता है।

सफलता के मानदंड: ऑडिट तब सफल माना जाता है जब अनुमानित रिवॉर्ड के साथ प्रशिक्षित पॉलिसी, ग्राउंड-ट्रुथ ऑरेकल रिवॉर्ड के साथ प्रशिक्षित पॉलिसी के ट्रेनिंग डायनेमिक्स (रिवॉर्ड मीन कर्व्स, KL डाइवर्जेंस स्थिरता) और डाउनस्ट्रीम व्यवहार (टॉक्सिसिटी रिडक्शन) को सफलतापूर्वक दोहराती है।

मुख्य योगदान

अस्पष्टता कमी के लिए संरचित ढांचा: उद्देश्यों के वितरण को प्राप्त करने और साक्ष्य के अनुक्रमिक राउंड के माध्यम से अस्पष्टता को व्यवस्थित रूप से कम करने की एक विधि।
अनिश्चितता-जागरूक डायग्नोस्टिक्स: एक टूलकिट जो यह प्रकट करता है कि अनुमानित उद्देश्य कब नाजुक हैं या शॉर्टकट से संचालित हैं, विशेष रूप से OOD प्रॉम्प्ट्स को फ्लैग करके और एपिस्टेमिक अनिश्चितता को मापकर।
पॉलिसी-लेवल वैलिडेशन: प्रयोगात्मक प्रमाण जो स्थापित करते हैं कि रिफाइंड, लो-अनसर्टेन्टी रिवॉर्ड्स सुरक्षित और प्रभावी अलाइनमेंट प्राप्त करने के लिए ग्राउंड-ट्रुथ रिवॉर्ड्स के रूप में सीधे कार्य कर सकते हैं।

प्रयोगात्मक परिणाम

ढांचे का मूल्यांकन मुख्य रूप से डिटॉक्सिफिकेशन (RealToxicityPrompts डेटासेट का उपयोग करके) और द्वितीयक रूप से हेल्पफुलनेस (Anthropic HH-RLHF डेटासेट का उपयोग करके) पर किया गया।

रिवॉर्ड रिकवरी: ढांचे ने सफलतापूर्वक एक रिवॉर्ड फंक्शन सीखा जो टॉक्सिक और नॉन-टॉक्सिक पूर्णताओं को स्पष्ट रूप से अलग करता है। रिलायबिलिटी कर्व्स ने दिखाया कि मॉडल पेयरवाइज और सिंगल-टेक्स्ट भविष्यवाणियों के लिए अच्छी तरह से कैलिब्रेटेड था।
स्केलिंग प्रभाव: मॉडल स्केल के साथ प्रदर्शन में सुधार हुआ। बड़े मॉडल्स (जैसे Llama-3.1-8B) छोटे मॉडल्स (जैसे Pythia-70M) की तुलना में अधिक लीनियरली सेपरेबल फीचर्स और उच्च पेयरवाइज एक्यूरेसी/AUROC प्रदान करते हैं।
अनुक्रमिक अपडेट: अनुक्रमिक बेयसियन अपडेट्स ने गैर-पहचान क्षमता को प्रभावी ढंग से कम किया। पांच राउंड के दौरान, पोस्टीरियर कोवेरिएंस टाइट हुआ (एक प्रयोग में लॉग-डिटरमिनेंट -196 से -897 तक गिर गया), और एपिस्टेमिक अनिश्चितता कम हुई। इससे बेहतर कैलिब्रेशन और प्रदर्शन मेट्रिक्स प्राप्त हुए।
पॉलिसी वैलिडेशन:
- अंडर-आइडेंटिफाइड राउंड 1 पोस्टीरियर के उपयोग से रिवॉर्ड हैकिंग (जैसे "Edit. And..." जैसे डिजेनरेट आउटपुट्स) और अस्थिर ट्रेनिंग डायनेमिक्स देखा गया।
- बाद के राउंड्स (राउंड 2-5) के संकुचित पोस्टीरियर का उपयोग करने से मॉडल को ग्राउंड-ट्रुथ ऑरेकल के समान डाउनस्ट्रीम टॉक्सिसिटी रिडक्शन प्राप्त करने में मदद मिली, बिना डिजेनेरेसी में गिरे।
- गुणात्मक विश्लेषण ने पुष्टि की कि जैसे-जैसे पहचान क्षमता में सुधार हुआ, आउटपुट अधिक सुसंगत, विषय-केंद्रित और प्रासंगिक हो गए, जबकि शुरुआती दौर के आउटपुट में टॉपिक लॉस और इवेसिव फ्रैग्मेंट्स देखे गए।
सामान्यीकरण (Generalization): ढांचा हेल्पफुलनेस सेटिंग में भी सामान्यीकृत हुआ, जिसने प्रदर्शन में मामूली लाभ और निरंतर पोस्टीरियर कॉन्ट्रैक्शन दिखाया, हालांकि टॉक्सिसिटी सेटिंग की तुलना में कैलिब्रेशन सुधार कम स्पष्ट थे।

महत्व और दावे

यह शोधपत्र दावा करता है कि यह ऑडिटर्स, सुरक्षा टीमों और नियामकों के लिए एक व्यावहारिक टूलकिट प्रदान करता है ताकि वे सत्यापित कर सकें कि LLMs वास्तव में क्या हासिल करने की कोशिश कर रहे हैं। रिवॉर्ड एस्टिमेशन से रिवॉर्ड वेरिफिकेशन की ओर शिफ्ट होकर, यह ढांचा IRL में गैर-पहचान क्षमता की समस्या का समाधान करता है।

लेखक दावा करते हैं कि उनका कार्य निम्नलिखित के माध्यम से क्षेत्र को आगे बढ़ाता है:

अस्पष्टता को स्पष्ट और व्यवस्थित रूप से कम करने योग्य बनाना।
स्पूरियस शॉर्टकट को उजागर करने और अविश्वसनीय क्षेत्रों की पहचान करने के लिए कार्रवाई योग्य डायग्नोस्टिक्स प्रदान करना।
यह प्रदर्शित करना कि एक रिफाइंड, लो-अनसर्टेन्टी रिवॉर्ड सीधे RLHF में सुरक्षित और प्रभावी अलाइनमेंट प्राप्त करने के लिए ग्राउंड-ट्रुथ रिवॉर्ड्स को बदल सकता है।

अंततः, यह कार्य सतह-स्तर के व्यवहार संबंधी ऑडिट पर भरोसा करने के बजाय, उन वास्तविक उद्देश्यों का मूल्यांकन करने के लिए एक कठोर पद्धति प्रदान करके, AI के प्रति अधिक जवाबदेह और विश्वसनीय भविष्य की ओर ले जाता है जिन्हें LLMs अनुकूलित कर रहे हैं।