Where A Small Language Model Helps in Invoice Categorisation, Understood Through Embedding Geometry
यह शोध पत्र यह प्रदर्शित करता है कि एक एकल GPU पर एक छोटे भाषा मॉडल (SBERT) को फाइन-ट्यून करने से वेंडर पहचान के साथ सहसंबंधित स्थानीय रूप से आइसोट्रोपिक एम्बेडिंग क्लस्टर्स का लाभ उठाकर इनवॉइस वर्गीकरण में उच्च सटीकता प्राप्त होती है, जो यह सिद्ध करता है कि इन-हाउस SLMs, बड़े भाषा मॉडलों के लिए एक लागत प्रभावी, सुरक्षित और सामान्यीकरण योग्य विकल्प प्रदान करते हैं, जबकि यह भी प्रकट करता है कि मनुष्यों के लिए लाभकारी संरचित इनपुट मॉडल के प्रदर्शन में सुधार नहीं कर सकते हैं।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
प्रत्येक व्यवसाय जो वस्तुओं की खरीद या बिक्री करता है, उसे प्रत्येक लेनदेन का सटीक रिकॉर्ड रखना चाहिए। जब किसी कंपनी को एक इनवॉइस (बीजक) प्राप्त होता है, तो एक मानव लेखाकार (अकाउंटेंट) को यह निर्णय लेना होता है कि वह विशिष्ट खर्च किस श्रेणी में आता है, जिसे जनरल लेजर कोड असाइन करना कहा जाता है। यह केवल छँटाई करने का सरल कार्य नहीं है; इसके लिए यह समझने के लिए पेशेवर निर्णय की आवश्यकता होती है कि क्या कोई खरीद दैनिक संचालन के लिए है, पूंजी निवेश के लिए है, या व्यवसाय के मालिक के व्यक्तिगत खर्च के लिए है। इसे सही ढंग से करना सटीक वित्तीय रिपोर्टिंग और कर अनुपालन की नींव है। यदि ये कोड गलत हैं, तो छोटे व्यवसायों को अनावश्यक जुर्माने का सामना करना पड़ता है, और सरकारें राजस्व के अरबों रुपयों का नुकसान करती हैं। वर्षों से, यह आशा रही है कि आर्टिफिशियल इंटेलिजेंस (AI) इस कठिन कार्य को स्वचालित कर सकेगा, लेकिन तकनीक अक्सर एक प्रशिक्षित मानव लेखाकार की सूक्ष्मता के साथ तालमेल बिठाने में संघर्ष करती रही है।
ब्रिस्टल विश्वविद्यालय और सिस्टम होल्डिंग्स लिमिटेड के शोधकर्ताओं ने हाल ही में एक अलग मार्ग की खोज की। विशाल, जटिल AI सिस्टमों का उपयोग करने के बजाय, जिन्हें भारी मात्रा में कंप्यूटिंग शक्ति की आवश्यकता होती है और जो डेटा गोपनीयता के बारे में चिंताएं पैदा करते हैं, उन्होंने परीक्षण किया कि क्या छोटे, विशिष्ट भाषा मॉडल इस कार्य को प्रभावी ढंग से करना सीख सकते हैं। इन छोटे मॉडलों को एक एकल कंप्यूटर पर चलाया जा सकता है, जिससे संवेदनशील वित्तीय डेटा कंपनी की अपनी दीवारों के भीतर सुरक्षित रहता है। टीम केवल यह नहीं समझना चाहती थी कि क्या ये मॉडल काम करते हैं, बल्कि यह भी कि वे कैसे सोचते हैं। उन्होंने कंप्यूटर के भीतर सूचना के गणितीय "आकार" का अध्ययन किया, और यह देखा कि मॉडल ने आंतरिक स्मृति में समान इनवॉइस को एक साथ कैसे समूहीकृत किया। उन्होंने पाया कि जिस तरह से ये छोटे मॉडल सूचना को व्यवस्थित करते हैं, वह आश्चर्यजनक रूप से कुशल है और यही संगठन उनकी सफलता की कुंजी है।
शोधकर्ताओं ने यूके की एक अकाउंटिंग फर्म के सात विभिन्न ग्राहकों के दो हजार से अधिक इनवॉइस के वास्तविक डेटासेट के साथ काम किया। प्रत्येक इनवॉइस को पेशेवर लेखाकारों द्वारा पहले से ही सही ढंग से वर्गीकृत किया गया था। टीम ने इस डेटा को दो अलग-अलग प्रकार के AI मॉडलों में डाला: SBERT नामक एक छोटा, कुशल मॉडल और DeBERTa नामक एक बड़ा, अधिक जटिल मॉडल। उन्होंने इनवॉइस टेक्स्ट के विभिन्न संस्करणों के साथ इन मॉडलों का परीक्षण किया। एक संस्करण में केवल विक्रेता का नाम, तिथि और मूल्य शामिल था। दूसरे में खरीदी गई वस्तुओं की पूरी सूची शामिल थी। तीसरे संस्करण में स्पष्ट लेबल जोड़े गए, जैसे कि "विक्रेता का नाम:" या "मूल्य:", ताकि पाठ को मानव पाठक के लिए अधिक संरचित बनाया जा सके।
परिणामों ने मशीनों के पढ़ने के तरीके के बारे में एक विपरीत तथ्य का खुलासा किया। टेक्स्ट का वह संस्करण जो मानव के पढ़ने के लिए सबसे आसान था, जिसमें स्पष्ट लेबल और संरचित प्रारूप था, वास्तव में AI के लिए विभिन्न प्रकार के इनवॉइस के बीच अंतर करना कठिन बना देता था। जब कंप्यूटर ने हर दस्तावेज़ में "विक्रेता का नाम" और "मूल्य" जैसे शब्दों को बार-बार देखा, तो उन दस्तावेजों का आंतरिक गणितीय प्रतिनिधित्व बहुत समान हो गया, जिससे उनके बीच की रेखाएं धुंधली हो गईं। मॉडल तब सबसे अच्छा प्रदर्शन करता था जब उसे इनवॉइस का कच्चा, असंरचित (unstructured) टेक्स्ट दिया जाता था, ठीक वैसे ही जैसे एक मानव लेखाकार एक अव्यवstित रसीद पर नज़र डालता है। छोटा मॉडल, SBERT, बेहतर विकल्प साबित हुआ। केवल कुछ सौ उदाहरणों पर प्रशिक्षित होने पर, इसने उच्च स्तर की सटीकता प्राप्त की, और बड़े मॉडल या एक मानक "जीरो-शॉट" AI (जिसका इस विशिष्ट कार्य के लिए प्रशिक्षण नहीं दिया गया था) की तुलना में इनवॉइस को बहुत बेहतर तरीके से वर्गीकृत किया।
कंप्यूटर की आंतरिक स्मृति के गहरे विश्लेषण ने समझाया कि छोटा मॉडल वहां क्यों सफल रहा जहां बड़ा मॉडल संघर्ष कर रहा था। शोधकर्ताओं ने पाया कि बड़े मॉडल का डेटा का आंतरिक प्रतिनिधित्व "कोलैप्स्ड" (संकुचित) हो गया था। जैसे-जैसे टेक्स्ट लंबा और विस्तृत होता गया, विभिन्न अर्थों के बीच अंतर करने की मॉडल की क्षमता कम होती गई, और यह सामग्री के बजाय मुख्य रूप से टेक्स्ट की लंबाई पर निर्भर करने लगा। इसके विपरीत, छोटे मॉडल ने एक समृद्ध, बहु-आयामी स्थान बनाए रखा जहाँ विभिन्न प्रकार के इनवॉइस अलग-अलग क्षेत्रों में स्थित थे। विशिष्ट कार्य के लिए प्रशिक्षित होने से पहले भी, मॉडल ने स्वाभाविक रूप से जारी करने वाली कंपनी के आधार पर इनवॉइस को समूहीकृत किया, जिससे पता चला कि वह दस्तावेज़ के स्रोत को समझता है। अधिक महत्वपूर्ण बात यह है कि, यदि टेक्स्ट समान भी था, तो भी यह विभिन्न वित्तीय श्रेणियों को अलग कर सकता था, बशर्ते उसने पर्याप्त उदाहरण देखे हों।
यह सामान्यीकरण (generalize) करने की क्षमता तब महत्वपूर्ण थी जब टीम ने एक पूरी तरह से नए क्लाइंट पर परीक्षण किया जिसका डेटा पहले कभी नहीं देखा गया था। बड़ा मॉडल काफी संघर्ष कर रहा था, और सही ढंग से काम करना शुरू करने के लिए उसे सैकड़ों नए उदाहरणों की आवश्यकता थी। हालाँकि, छोटे मॉडल ने बहुत तेज़ी से अनुकूलन किया, और लगभग एक सौ नए इनवॉइस के साथ उच्च स्तर की सटीकता प्राप्त कर ली। यह सुझाव देता है कि छोटे मॉडल ने टेक्स्ट के अर्थ को समझने का अधिक मजबूत तरीका सीखा था, न कि केवल पैटर्न को याद किया था। यह एक व्यवसाय से दूसरे व्यवसाय में जो सीखा था उसे स्थानांतरित कर सकता था, यह पहचानते हुए कि एक क्लाइंट के लिए "मोटर रिपेयर" दूसरे क्लाइंट के लिए भी वही श्रेणी है, चाहे विक्रेता कोई भी हो।
अध्ययन निष्कर्ष निकालता है कि इनवॉक्स वर्गीकरण जैसे कार्यों के लिए, एक विशाल, सामान्य मॉडल की तुलना में एक छोटा, इन-हाउस मॉडल अक्सर एक बेहतर उपकरण होता है। यह लागत, सुरक्षा और प्रदर्शन का एक व्यावहारिक संतुलन प्रदान करता है। एक एकल कंप्यूटर पर चलकर, यह संवेदनशील वित्तीय डेटा को निजी रखता है, और छोटा होने के कारण, यह संचालित करने में सस्ता है। शोध ने यह भी दिखाया कि टेक्स्ट में अतिरिक्त संरचना जोड़ने से मदद नहीं मिलती है; वास्तव में, कच्चा (raw) टेक्स्ट अक्सर अधिक प्रभावी होता है। यह खोज व्यवसायों के लिए प्रक्रिया को सरल बनाती है, क्योंकि उन्हें सिस्टम में फीड करने से पहले अपने इनवॉइस को पुनर्गठित करने के लिए समय और पैसा खर्च करने की आवश्यकता नहीं है। यह कार्य प्रदर्शित करता है कि सही दृष्टिकोण के साथ, आर्टिफिशियल इंटेलिजेंस लेखांकन में आवश्यक सूक्ष्म और कुशल निर्णय लेने में सक्षम है, बशर्ते सिस्टम को केवल टेक्स्ट की मात्रा के बजाय डेटा की ज्यामिति (geometry) को समझने के लिए डिज़ाइन किया गया हो।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।