Don't Throw Away Your Beams: Improving Consistency-based Uncertainties in LLMs via Beam Search
यह शोध पत्र बड़े भाषा मॉडलों (large language models) में निरंतरता-आधारित अनिश्चितता परिमाणीकरण (consistency-based uncertainty quantification) के लिए उम्मीदवारों को उत्पन्न करने हेतु मल्टीनोमियल सैंपलिंग (multinomial sampling) के स्थान पर बीम सर्च (beam search) के उपयोग का प्रस्ताव करता है, जो यह प्रदर्शित करता है कि यह दृष्टिकोण विचरण (variance) को कम करता है और लघु-रूप प्रश्नोत्तर (short-form QA) कार्यों पर अत्याधुनिक प्रदर्शन प्राप्त करता है।