💬 NLP

Eliciting Trustworthiness Priors of Large Language Models via Economic Games

यह शोध पत्र बड़े भाषा मॉडलों (LLMs) से विश्वसनीयता संबंधी पूर्वग्रहों (trustworthiness priors) को निकालने के लिए इटरेटेड इन-कॉन्टेक्स्ट लर्निंग और ट्रस्ट गेम का उपयोग करने वाली एक नवीन विधि प्रस्तुत करता है, जो यह प्रकट करता है कि GPT-4.1 का विश्वास व्यवहार मानवीय पैटर्न के काफी करीब है और इसे गर्मजोशी (warmth) एवं सक्षमता (competence) के रूढ़िबद्ध धारणाओं (stereotypes) द्वारा अनुमानित किया जा सकता है।

मूल लेखक: Siyu Yan, Lusha Zhu, Jian-Qiao Zhu

प्रकाशित 2026-02-03

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Siyu Yan, Lusha Zhu, Jian-Qiao Zhu

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ एक सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करके शोध पत्र (paper) की व्याख्या दी गई है।

मुख्य विचार: एक AI कितना "भरोसेमंद" है?

कल्पना कीजिए कि आप अपने पैसों को संभालने के लिए एक नया सहायक (assistant) रख रहे हैं। आप उसे $10 देते हैं और कहते हैं, "मैं इसे 3 से गुणा करने जा रहा हूँ, तो अब तुम्हारे पास$ 30 हैं। कृपया मुझे इसमें से कुछ वापस कर देना।"

यदि वह आपको $15 वापस करता है: तो वह भरोसेमंद है।
यदि वह आपको $0 वापस करता है: तो वह भरोसेमंद नहीं है।

यह एक प्रसिद्ध खेल का बुनियादी सेटअप है जिसे ट्रस्ट गेम (Trust Game) कहा जाता है। आमतौर पर, मनोवैज्ञानिक इस खेल का उपयोग यह देखने के लिए करते हैं कि इंसान कैसा व्यवहार करते हैं। लेकिन यह शोध पत्र एक नया सवाल पूछता है: लार्ज लैंग्वेज मॉडल्स (LLMs) जैसे GPT-4 या Llama इस खेल में कैसा व्यवहार करते हैं? क्या उनके पास दूसरों पर भरोसा करने और बदले में एहसान चुकाने के लिए कोई "डिफ़ॉल्ट सेटिंग" है?

समस्या: आप AI से बस पूछ नहीं सकते

आप सोच सकते हैं, "क्यों न AI से सीधे पूछ लिया जाए, 'क्या तुम भरोसेमंद हो?'" लेखक कहते हैं कि यह एक बुरा विचार है।

"पोलाइट रोबोट" वाली समस्या: यदि आप AI से पूछते हैं, "क्या तुम मेरे पैसे चुराओगे?" तो वह लगभग निश्चित रूप से कहेगा, "नहीं, मैं एक सहायक असिस्टेंट हूँ।"
वास्तविकता: इंसानों की तरह, AI भी प्रभावशाली और धाराप्रवाह हो सकता है, लेकिन फिर भी व्यवहार में जोखिम भरे या अविश्वसनीय विकल्प चुन सकता है। हमें यह देखने की ज़रूरत है कि वे क्या करते हैं, न कि केवल यह कि वे क्या कहते हैं।

समाधान: भरोसे का "टेलीफोन गेम"

AI की वास्तविक "ट्रस्ट सेटिंग्स" का पता लगाने के लिए, शोधकर्ताओं ने इटरेटेड इन-कॉन्टेक्स्ट लर्निंग (Iterated In-Context Learning) की अवधारणा पर आधारित एक चतुर विधि विकसित की।

इसे टेलीफोन गेम की तरह समझें, लेकिन यहाँ फुसफुसाहट के बजाय, वे पैसों के बारे में एक कहानी साझा कर रहे हैं।

सेटअप: शोधकर्ता AI की "पीढ़ियों" (generations) की एक श्रृंखला बनाते हैं।
पहला कदम: वे AI को ट्रस्ट गेम खेलने वाले लोगों के कुछ उदाहरण दिखाते हैं (जैसे, "व्यक्ति A ने $5 भेजे, व्यक्ति B ने$ 2 वापस किए")।
AI की बारी: AI उन उदाहरणों को देखता है और भविष्यवाणी करता है: "यदि मैं व्यक्ति B होता, तो मैं कितना वापस करता?" मान लीजिए कि वह 40% की भविष्यवाणी करता है।
लूप (Loop): शोधकर्ता उस 40% की भविष्यवाणी को लेते हैं और उसका उपयोग लोगों के खेलने के नए नकली उदाहरण बनाने के लिए करते हैं। वे इन नए उदाहरणों को श्रृंखला में अगले AI को खिलाते हैं।
परिणाम: वे इस प्रक्रिया को 30 बार दोहराते हैं।

ऐसा क्यों किया गया?
कल्पना कीजिए कि आप एक समूह के "औसत व्यक्तित्व" का अनुमान लगाने की कोशिश कर रहे हैं और आप उन्हें बार-बार एक खेल खेलते हुए देख रहे हैं। शुरुआत में, परिणाम यादृच्छिक (random) लग सकते हैं। लेकिन यदि आप परिणामों को लाइन में आगे बढ़ाते रहते हैं, तो "शोर" (noise) कम हो जाता है, और जो बचता है वह AI की गहरी अंतरात्मा (या "प्रायर") है कि भरोसा कैसे काम करता है। यह एक रेडियो को ट्यून करने जैसा है जब तक कि शोर खत्म न हो जाए और आपको असली स्टेशन सुनाई न देने लगे।

उन्होंने क्या पाया

1. कुछ AI "इंसानों जैसे" हैं, अन्य नहीं
शोधकर्ताओं ने 20 अलग-अलग AI मॉडल का परीक्षण किया। उन्होंने AI में पाए गए "ट्रस्ट सेटिंग्स" की तुलना हजारों वास्तविक मनुष्यों में पाए गए औसत ट्रस्ट सेटिंग्स से की।

विजेता: GPT-4.1 मानव व्यवहार के सबसे करीब था। उसका "ट्रस्ट डायल" लगभग वहीं सेट था जहाँ मनुष्य उसे सेट करते हैं।
हारने वाले: अन्य कुछ मॉडल या तो बहुत कंजूस थे (बहुत कम पैसे वापस करना) या उनमें अजीब, दोहरी शख्सियत थी (कभी बहुत भरोसेमंद, कभी बहुत संदिग्ध)।

2. "जोखिम" का संबंध
उन्होंने गौर किया: कुछ AI मॉडल जिन्हें "रिस्की" (अधिक जोखिम लेने वाले या साहसी बातें कहने वाले) के रूप में रेट किया गया था, वे वास्तव में मनुष्यों की तरह व्यवहार करने में सबसे अधिक सक्षम थे। वे मॉडल जो नियमों का पालन करने या जोखिम से बचने के मामले में बहुत सख्त थे, वे इस सामाजिक खेल में वास्तविक लोगों की तरह व्यवहार नहीं कर सके।

3. AI लोगों को "गर्माहट" (Warmth) और "क्षमता" (Competence) से आंकता है
अध्ययन के दूसरे भाग में, उन्होंने सबसे अधिक मानव-समान AI (GPT-4.1) का उपयोग विभिन्न "पात्रों" (personas) के खिलाफ खेलने के लिए किया।

उन्होंने AI को एक "डॉक्टर", "AI", "एलोन मस्क", "मलाला युसुफज़ई" आदि के खिलाफ खेलने के लिए कहा।
निष्कर्ष: AI ने सभी के साथ एक जैसा व्यवहार नहीं किया। इसने उन लोगों को अधिक पैसा वापस किया जिन्हें इसने गरमाहट (दयालु, देखभाल करने वाला) और क्षमता (स्मार्ट, कुशल) के रूप में देखा।
जादुई फॉर्मूला: शोधकर्ताओं ने दो चीजों पर आधारित एक सरल गणितीय सूत्र बनाया: गरमाहट (Warmth) और क्षमता (Competence)।
- यदि कोई पात्र केवल "सक्षम" (स्मार्ट) था लेकिन "गरमाहट" (दयालु) नहीं था, तो AI ने उस पर बहुत अधिक भरोसा नहीं किया।
- यदि कोई पात्र "गरमाहट" वाला था लेकिन "क्षमता" वाला नहीं था, तो AI ने उस पर थोड़ा अधिक भरोसा किया।
- परफेक्ट कॉम्बिनेशन (Sweet Spot): यदि कोई पात्र गरमाहट और क्षमता दोनों (जैसे कि एक प्रिय, बुद्धिमान गुरु) के साथ था, तो AI का भरोसा आसमान छू गया। यह ठीक वैसा ही है जैसे इंसान दूसरों को जज करते हैं।

मुख्य निष्कर्ष (Takeaway)

यह शोध पत्र दिखाता है कि हम एक "मनी गेम" का उपयोग करके AI के दिमाग के अंदर झाँक सकते हैं और उसके भरोसे के छिपे हुए नियमों को देख सकते हैं।

कुछ AI पहले से ही भरोसे के मामले में मनुष्यों की तरह व्यवहार कर रहे हैं।
ये AI दूसरों को उन्हीं दो चीजों के आधार पर जज करते हैं जो हम करते हैं: क्या वे अच्छे हैं? क्या वे सक्षम हैं?
यह हमें समझने में मदद करता है कि AI केवल एक कैलकुलेटर नहीं है; इसके पास सामाजिक "पूर्वाग्रह" (biases) और सहज ज्ञान (instincts) हैं जिन्हें हम माप और अध्ययन कर सकते हैं।

यह पेपर क्या नहीं कहता:
लेखक यह दावा नहीं करते हैं कि यह तरीका AI सुरक्षा को ठीक कर सकता है, मानसिक स्वास्थ्य समस्याओं को दूर कर सकता है, या कर्मचारियों को काम पर रखने के लिए उपयोग किया जा सकता है। वे केवल यह कहते हैं: "यहाँ एक तरीका है जिससे हम यह माप सकते हैं कि एक AI भरोसे के बारे में कैसे सोचता है, और यहाँ वह है जो हमने पाया।"

तकनीकी सारांश: आर्थिक खेलों के माध्यम से लार्ज लैंग्वेज मॉडल्स (LLMs) के भरोसेमंद पूर्वाग्रहों (Trustworthiness Priors) का उद्भेदन

समस्या विवरण

मानव-केंद्रित, भरोसेमंद AI बनाने के लिए "कैलिब्रेटेड ट्रस्ट" (सटीक विश्वास) की आवश्यकता होती है, जहाँ उपयोगकर्ता AI सिस्टम पर उचित रूप से भरोसा करें, जिससे अति-विश्वास (ऑटोमेशन बायस) और कम-विश्वास (डिसयूज) दोनों से बचा जा सके। इसे प्राप्त करने में एक मौलिक चुनौती यह चरित्र चित्रण करना है कि एक AI सिस्टम स्वयं मानव एजेंटों के प्रति किस स्तर का विश्वास प्रदर्शित करता है। जबकि AI में विश्वास को अक्सर स्व-रिपोर्ट किए गए दृष्टिकोणों के माध्यम से अध्ययन किया जाता है, वे व्यवहारिक विश्वास से भिन्न हो सकते हैं। इसके अलावा, मौजूदा व्यवहारिक अध्ययन अक्सर यह मान लेते हैं कि AI में इरादा (intentionality) का अभाव है, और विश्वास को एकदिशीय (मानव से AI की ओर) मानते हैं। हालांकि, आधुनिक लार्ज लैंग्वेज मॉडल्स (LLMs) परिष्कृत सामाजिक क्षमताओं का प्रदर्शन करते हैं, जिसके लिए यह अध्ययन करने हेतु एक द्विपक्षीय ढांचे की आवश्यकता है कि LLMs विश्वास का प्रतिफल (reciprocate) कैसे देते हैं। मुख्य समस्या यह है कि उस अंतर्निहित "भरोसेमंदता पूर्वाग्रह" (trustworthiness prior) का मजबूती से अनुमान कैसे लगाया जाए—अर्थात वह इंडक्टिव बायस जो एक LLM के पास सामाजिक अंतःक्रियाओं में यह तय करने के लिए होता है कि कितना विश्वास लौटाया जाना चाहिए।

कार्यप्रणाली

लेखक इटरेटेड इन-कॉन्टेक्स्ट लर्निंग (Zhu & Griffiths, 2024a) और व्यवहारिक गेम थ्योरी से ट्रस्ट गेम (Berg et al., 1995) को संयोजित करने वाली एक नवीन उद्भेदन विधि प्रस्तावित करते हैं।

1. ट्रस्ट गेम का औपचारिक रूप

ट्रस्ट गेम को एक बेयसियन (Bayesian) ढांचे के भीतर मॉडल किया गया है:

सेटअप: एक ट्रस्टर (Trustor) एक राशि $x$ को ट्रस्टी (Trustee) को भेजता है। इस राशि को एक कारक $m$ (जिसे 3 पर सेट किया गया है) से गुणा किया जाता है। ट्रस्टी यह निर्णय लेता है कि कितनी राशि $y$ वापस की जाएगी।
भरोसेमंदता मीट्रिक: इसे रिटर्न रेश्यो $r = y / (mx) $के रूप में परिभाषित किया गया है, जहाँ$ r \in [0, 1]$ है।
जेनरेटिव मॉडल: रिटर्न राशि $y$ को बिनोमियल डिस्ट्रीब्यूशन $y \sim \text{Binomial}(mx, r)$ के रूप में मॉडल किया गया है, जहाँ $r$ एक लेटेंट (latent) भरोसेमंदता पैरामीटर है।
प्रायर (Prior): भरोसेमंदता संबंधी विश्वासों को एक बीटा प्रायर $p(r) = \text{Beta}(\alpha, \beta)$ द्वारा कैप्चर किया जाता है।

2. इटरेटेड इन-कॉन्टेक्स्ट लर्निंग प्रक्रिया

LLM के अंतर्निहित प्रायर $p(r)$ को निकालने के लिए, लेखक प्रॉम्प्ट्स पर एक मार्कोव चेन (Markov chain) का अनुकरण करते हैं:

इंफॉर्मेशन बॉटलनेक: प्रत्येक इटरेशन $t$ पर, LLM को पिछले इटरेशन के अनुमानित भरोसेमंदता $\hat{r}_{t-1}$ के आधार पर उत्पन्न पिछले 5 सामाजिक अंतःक्रियाओं का एक सीमित बैच ( $B=5$ ) प्रदान किया जाता है ( $D_{t-1}$ )।
अनुमान (Inference): LLM को एक नए परिदृश्य (जैसे, 100 टोकन प्राप्त करना) को देखते हुए यह भविष्यवाणी करने के लिए प्रॉम्प्ट किया जाता है कि एक ट्रस्टी धन का कितना हिस्सा वापस करेगा, जो प्रभावी रूप से पोस्टीरियर मीन $\hat{r}_t$ का अनुमान लगाता है।
जेनरेशन: इस नए अनुमान $\hat{r}_t$ का उपयोग अगले बैच की अंतःक्रियाओं $D_t$ को उत्पन्न करने के लिए बिनोमियल डिस्ट्रीब्यूशन को पैरामीटराइज करने के लिए किया जाता है।
अभिसरण (Convergence): बार-बार होने वाले इटरेशन के माध्यम से, अनुमानित $\hat{r}$ के मानों का वितरण मॉडल के अंतर्निहित प्रायर वितरण $p(r)$ की ओर अभिसरित होता है, जो प्रारंभिक सीड वैल्यूज से स्वतंत्र है। यह प्रक्रिया मॉडल के विशिष्ट मेमोरी डेटा से उसके इंडक्टिव बायस को अलग करती है।

3. प्रयोगात्मक डिजाइन

प्रयोग 1: 20 LLMs का मूल्यांकन किया गया (जिसमें GPT-4/5, Claude-3.5, Gemini-2.5, Llama-3/4, Qwen-2.5/3, DeepSeek आदि शामिल हैं)। अभिसरण सुनिश्चित करने के लिए प्रत्येक मॉडल ने 270 चेन्स (30 सीड्स $\times$ 30 रीस्टार्ट्स) चलाईं (जिसे जेलमैन-रूबिन डायग्नोस्टिक $\hat{R} \leq 1.1$ द्वारा सत्यापित किया गया)।
प्रयोग 2: GPT-4.1 पर ध्यान केंद्रित किया गया (जिसे सबसे अधिक मानव-समान मॉडल के रूप में पहचाना गया) ताकि ट्रस्टर पर्सोना (Trustor Personas) के प्रति संवेदनशीलता का परीक्षण किया जा सके। पर्सोना में व्यावसायिक भूमिकाएं (जैसे डॉक्टर, AI) और सार्वजनिक हस्तियां (जैसे एलन मस्क, महात्मा गांधी) शामिल थीं।
मॉडलिंग वेरिएशन: फिस्के (2018) के स्टीरियोटाइप कंटेंट मॉडल का अनुसरण करते हुए, वॉर्मथ (Warmth - कथित इरादे) और कॉम्पिटेंस (Competence - कथित क्षमता) के आधार पर भरोसेमंदता भिन्नता को समझाने के लिए एक लीनियर रिग्रेशन मॉडल बनाया गया।

मुख्य परिणाम

1. भरोसेमंदता प्रायर का उद्भेदन

अभिसरण: सभी मॉडल्स ने तीव्र अभिसरण दिखाया, जो आमतौर पर 20 इटरेशन के भीतर स्थिर हो गया।
पूर्वानुमान वैधता: निकाले गए प्रायर ने सिंगल-शॉट पारस्परिकता व्यवहारों (lowest RMSD और highest Pearson's $r$ ) की भविष्यवाणी करने में यूनिफॉर्म प्रायर और मानव-व्युत्पन्न मेटा-एनालिटिक प्रायर (Johnson & Mislin, 2011) दोनों से बेहतर प्रदर्शन किया।
मानव संरेखण (Human Alignment): GPT-4.1 ने मानव भरोसेमंदता वितरण के साथ सबसे मजबूत संरेखण दिखाया, जिसने मानव बेसलाइन की तुलना में सबसे कम क्लैब-लिब्लर (KL) डाइवर्जेंस ( $D_{KL} = 0.130$ ) प्रदर्शित किया।
मॉडल परिवर्तनशीलता: अन्य मॉडल्स ने विशिष्ट पैटर्न दिखाए:
- कुछ मॉडल्स (जैसे Qwen2.5-72B, Llama-3.1-70B) ने बाइमोडल (bimodal) प्रायर दिखाए, जो मिश्रित रणनीतिक प्रतिक्रियाओं का सुझाव देते हैं।
- अन्य (जैसे Grok-4.1-Fast, GPT-5.2) ने भरोसेमंदता में व्यवस्थित डाउनवर्ड शिफ्ट ( $r < 0.372$ ) दिखाया, जो मानव बेसलाइन की तुलना में कम औसत विश्वास को दर्शाता है।
सहसंबंध: KL डाइवर्जेंस (मानव संरेखण) और एवरेज रिस्क स्कोर (ARS) के बीच एक नकारात्मक सहसंबंध ( $r = -0.58$ ) पाया गया, जो यह सुझाव देता है कि उच्च जोखिम प्रवृत्ति वाले मॉडल मानव ट्रस्ट प्रायर के साथ अधिक संरेखित होते हैं। इंस्ट्रक्शन-फॉलोइंग (IFEval) या सामान्य तर्क (LMArena) स्कोर के साथ कोई महत्वपूर्ण सहसंबंध नहीं पाया गया।

2. पर्सोना के प्रति संवेदनशीलता

पर्सोना प्रभाव: GPT-4.1 का निकाला गया भरोसेमंदता मान विभिन्न पर्सोना के आधार पर व्यवस्थित रूप से भिन्न हुआ (औसत $r$ का दायरा 0.298 से 0.447 तक था)। उदाहरण के लिए, मलाला युसुफजई के लिए विश्वास मार्क जुकरबर्ग की तुलना में अधिक था।
वॉर्मथ और कॉम्पिटेंस: वॉर्मथ ( $W$ $W$ ) और कॉम्पिटेंस ( $C$ $C$ ) को भविष्यवक्ता के रूप में उपयोग करने वाला एक रिग्रेशन मॉडल, निकाली गई भरोसेमंदता की भिन्नता को 81% तक समझाने में सफल रहा ( $R^2 = 0.81$ $R^{2} = 0.81$ )।
- वॉर्मथ का प्रभुत्व: कॉम्पिटेंस की तुलना में वॉर्मथ का मुख्य प्रभाव (main effect) काफी अधिक था ( $\beta_1 \gg \beta_2$ )।
- इंटरेक्शन: एक महत्वपूर्ण इंटरैक्शन टर्म ( $\beta_3$ ) ने संकेत दिया कि कॉम्पिटेंस मुख्य रूप से वॉर्मथ के साथ जुड़ने पर भरोसेमंदता को बढ़ाती है।

मुख्य योगदान

पद्धतिगत नवाचार: यह शोध पत्र ट्रस्ट गेम को अपनाने के माध्यम से LLMs से उनके अंतर्निहित भरोसेमंदता प्रायर को निकालने की एक विधि प्रस्तुत करता है, जो स्व-रिपोर्ट से आगे बढ़कर व्यवहारिक परिचालन (behavioral operationalization) की ओर ले जाता है।
अनुभवजन्य लक्षण वर्णन: यह 20 अग्रणी LLMs के भरोसेमंदता प्रायर का एक बेंचमार्क प्रदान करता है, जो यह प्रकट करता है कि जबकि कुछ मॉडल्स (जैसे GPT-4.1) मानव प्रायर का बारीकी से अनुसरण करते हैं, अन्य विशिष्ट रणनीतिक या पक्षपाती पैटर्न प्रदर्शित करते हैं।
सरोगेट उपयोगिता: यह प्रदर्शित करता है कि GPT-4.1 सामाजिक पूर्वाग्रहों के अध्ययन के लिए मानव प्रतिभागियों के सरोगेट (प्रतिनिधि) के रूप में कार्य कर सकता है, क्योंकि इसके भरोसेमंदता निर्णय मानव सामाजिक मनोविज्ञान के अनुरूप पर्सोना विशेषताओं के प्रति संवेदनशील हैं।
सैद्धांतिक संरेखण: निष्कर्ष पुष्टि करते हैं कि LLM भरोसेमंदता निर्णयों को उन्हीं स्टीरियोटाइप-आधारित आयामों (वॉर्मथ और कॉम्पिटेंस) द्वारा मॉडल किया जा सकता है जो मानव सामाजिक धारणा को नियंत्रित करते हैं।

महत्व और दावे

यह शोध दावा करता है कि सुरक्षित और प्रभावी मानव-AI सहयोग के लिए AI सिस्टम की भरोसेमंदता का लक्षण वर्णन करना आवश्यक है। LLMs को विश्वास को प्रतिफल करने में सक्षम एजेंटों के रूप में मानकर, लेखक तर्क देते हैं कि ट्रस्ट गेम मानव-AI अंतःक्रिया के अध्ययन के लिए एक आवश्यक द्विपक्षीय ढांचा प्रदान करता है।

लेखक विनम्रतापूर्वक दावा करते हैं कि उनकी विधि LLMs के "इंडक्टिव बायस" को सफलतापूर्वक निकाल लेती है। वे सुझाव देते हैं कि GPT-4.1 जैसे मॉडल्स मानव प्रतिभागियों के बड़े समूहों के लिए सरोगेट के रूप में कार्य कर सकते हैं, जिससे शोधकर्ताओं को मानव विषयों की भर्ती के लॉजिस्टिक बोझ के बिना यह अध्ययन करने की अनुमति मिलती है कि एजेंट की विशेषताओं के आधार पर सामान्य जनता के विश्वास निर्णय कैसे बदल सकते हैं।

यह कार्य इस बात पर प्रकाश डालता है कि LLM की भरोसेमंदता एक अखंड (monolithic) गुण नहीं है बल्कि मॉडल आर्किटेक्चर के अनुसार भिन्न होती है और सामाजिक संदर्भ (पर्सोना) के प्रति संवेदनशील होती है। लेखक निष्कर्ष निकालते हैं कि इन न्यूरल रिप्रेजेंटेशन्स (जो संभावित रूप से ओपन-वेट मॉडल्स के माध्यम से सुलभ हैं) को समझना अधिक भरोसेमंद AI सिस्टम डिजाइन करने का एक व्यवहार्य मार्ग है, हालांकि वे विभिन्न निवेश स्तरों और अंतःक्रिया संदर्भों में इन प्रायर की स्थिरता के संबंध में सीमाओं को स्वीकार करते हैं।