Sampling More, Getting Less: Calibration is the Diversity Bottleneck in LLMs
यह शोध पत्र पहचानता है कि लार्ज लैंग्वेज मॉडल्स में डाइवर्सिटी कोलैप्स (विविधता का पतन) मुख्य रूप से डिकोडिंग के दौरान उनकी प्रायिकता वितरणों (प्रोबेबिलिटी डिस्ट्रीब्यूशन्स) में ऑर्डर और शेप मिसकैलिब्रेशन के कारण होता है, न कि सैंपलिंग ह्यूरिस्टिक्स की सीमाओं के कारण, जिससे आउटपुट वैधता और विविधता के बीच एक ट्रेड-ऑफ उत्पन्न होता है।