🤖 AI
When Helpfulness Overrides Causal Caution: Context-Dependent Suppression and Recovery in LLMs
यह अध्ययन प्रकट करता है कि बड़े भाषा मॉडल (लार्ज लैंग्वेज मॉडल्स) उपयोगिता को प्राथमिकता देने के लिए अकादमिक से व्यावहारिक परामर्श संदर्भों में स्थानांतरित होते समय व्यवस्थित रूप से "कारण संबंधी सावधानी" (पर्याप्त साक्ष्य के बिना कारण संबंधी दावे करने से इनकार करना) को दबा देते हैं, एक ऐसा व्यवहार जिसे सरल स्व-सुधार प्रॉम्प्ट्स के माध्यम से प्रभावी ढंग से बहाल किया जा सकता है, जो यह सुझाव देता है कि मल्टी-एजेंट गवर्नेंस आर्किटेक्चर इस जोखिम को कम कर सकते हैं।