Screening Is Enough
यह शोध पत्र मल्टीस्क्रीन (Multiscreen) का परिचय देता है, जो एक नवीन भाषा मॉडल आर्किटेक्चर है जो मानक सॉफ्टमैक्स अटेंशन (softmax attention) को थ्रेशोल्ड-आधारित स्क्रीनिंग तंत्र (threshold-based screening mechanism) से बदल देता है ताकि पूर्ण क्वेरी-की प्रासंगिकता (absolute query-key relevance) सक्षम की जा सके, जिसके परिणामस्वरूप एक ऐसा मॉडल प्राप्त होता है जो कम मापदंडों (parameters) के साथ तुलनीय प्रदर्शन प्राप्त करता है, उच्च लर्निंग रेट का समर्थन करता है, लंबी-संदर्भ (long-context) क्षमताओं को बनाए रखता है, और इन्फरेंस लेटेंसी (inference latency) को महत्वपूर्ण रूप से कम करता है।