BenchMarker: An Education-Inspired Toolkit for Highlighting Flaws in Multiple-Choice Benchmarks
यह शोध पत्र BenchMarker प्रस्तुत करता है, जो एक शिक्षा-प्रेरित टूलकिट है जो बहुविकल्पीय बेंचमार्क में संदूषण (contamination), शॉर्टकट और लेखन त्रुटियों का पता लगाने के लिए LLM जजों का उपयोग करता है, जिससे यह पता चलता है कि इस तरह के दोष 12 प्रमुख डेटासेट में बने हुए हैं, मूल्यांकन मेट्रिक्स को महत्वपूर्ण रूप से विकृत करते हैं, और अक्सर पहले से सुधारे गए बेंचमार्क्स में भी उभर आते हैं।