IndiaFinBench: An Evaluation Benchmark for Large Language Model Performance on Indian Financial Regulatory Text
IndiaFinBench पहला सार्वजनिक रूप से उपलब्ध बेंचमार्क है जिसे भारतीय वित्तीय नियामक पाठ पर लार्ज लैंग्वेज मॉडल्स का मूल्यांकन करने के लिए डिज़ाइन किया गया है, जिसमें SEBI और RBI के दस्तावेजों से 406 विशेषज्ञ-एनोटेटेड प्रश्न-उत्तर युग्म शामिल हैं जो मॉडल्स के बीच, विशेष रूप से संख्यात्मक तर्क (numerical reasoning) में, महत्वपूर्ण प्रदर्शन अंतराल को प्रकट करते हैं, जबकि गैर-विशेषज्ञ मानव बेसलाइन की तुलना में काफी बेहतर प्रदर्शन करते हैं।