The African Language Tax: Quantifying the Cost, Latency, and Context Penalty of Tokenizing African Languages in Frontier LLMs
यह शोध पत्र सीमावर्ती (फ्रंटियर) लार्ज लैंग्वेज मॉडल्स में एक महत्वपूर्ण "अफ्रीकी भाषा कर" (African Language Tax) को मापता है, जो यह प्रदर्शित करता है कि टोकनाइज़र व्यवस्थित रूप से अंग्रेजी की तुलना में अफ्रीकी भाषाओं को 1.88x से 8.92x अधिक टोकन आवंटित करते हैं, जिससे असमान अनुमान लागत (inference costs), विलंबता (latency) और कॉन्टेक्स्ट विंडो दंड लागू होता है जो इन भाषाओं के बोलने वालों के लिए डिजिटल विभाजन को और बढ़ा देता है।