Quantifying and Mitigating Premature Closure in Frontier LLMs
यह अध्ययन फ्रंटियर लार्ज लैंग्वेज मॉडल्स में "प्रीमैच्योर क्लोजर" (असमय निष्कर्ष) को परिभाषित और परिमाणित करता है, जो अनिश्चितता के तहत अनुचित उत्तर देने की उनकी प्रवृत्ति को दर्शाता है, जो मेडिकल बेंचमार्क में उच्च विफलता दर को प्रकट करता है और यह प्रदर्शित करता है कि हालांकि सुरक्षा प्रॉम्पटिंग कुछ शमन प्रदान करती है, फिर भी अत्यधिक आत्मविश्वास के महत्वपूर्ण जोखिम बने हुए हैं।