Practical Principles for AI Cost and Compute Accounting
यह शोध पत्र तकनीकी खामियों को दूर करने, रणनीतिक हेरफेर को रोकने और जिम्मेदार जोखिम न्यूनीकरण को हतोत्साहित किए बिना सुसंगत नियामक कार्यान्वयन सुनिश्चित करने के लिए एआई लागत और कंप्यूट लेखांकन मानकों को डिजाइन करने हेतु सात सिद्धांतों का प्रस्ताव करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
जैसे-जैसे आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम अधिक शक्तिशाली होते जा रहे हैं, सरकारें इस बात का निर्णय लेने के लिए एक विश्वसनीय तरीका खोज रही हैं कि किन मशीनों की कड़ी निगरानी की आवश्यकता है और किनकी नहीं। चुनौती यह है कि ये सिस्टम जटिल हैं, और उनकी आंतरिक कार्यप्रणाली अक्सर प्रौद्योगिकी कंपनियों के निजी सर्वरों के भीतर छिपी होती है। इसे हल करने के लिए, नीति निर्माताओं ने दो मापने योग्य तथ्यों की ओर रुख किया है: एक मॉडल बनाने में कितना पैसा खर्च होता है और सीखने के लिए उसे कितनी कंप्यूटिंग शक्ति (कंप्यूटिंग पावर) की आवश्यकता होती है। ये संख्याएँ एक 'प्रॉक्सी' या प्रतिनिधि के रूप में कार्य करती हैं, जो सिस्टम की वास्तविक बुद्धिमत्ता और संभावित खतरे का संकेत देती हैं। तर्क सीधा है: यदि किसी परियोजना में संसाधनों का भारी निवेश आवश्यक है, तो संभवतः उसमें उन्नत क्षमताएं हैं जो समाज के लिए जोखिम पैदा कर सकती हैं। यूरोप और अमेरिका के कानून इन सीमाओं (थ्रेशोल्ड) का उपयोग नियमों को लागू करने के लिए करने लगे हैं, यह मानते हुए कि खर्च या कंप्यूटिंग शक्ति की एक निश्चित सीमा को पार करने वाली किसी भी परियोजना की बारीकी से निगरानी की जानी चाहिए। हालाँकि, शोधकर्ता स्टीफन कैस्पर, ल्यूक बेली और टिम श्रेयर का एक नया शोध पत्र तर्क देता है कि स्पष्ट नियमों के बिना कि इन संसाधनों की गणना कैसे की जाए, यह प्रणाली खामियों से भरी है जिसका चतुर डेवलपर्स फायदा उठा सकते हैं।
शोधकर्ताओं ने उन तकनीकी अस्पष्टताओं को ठीक करने का प्रयास किया है जो वर्तमान में कंपनियों को उनके काम के वास्तविक पैमाने को छिपाने की अनुमति देती हैं। उन्होंने पहचान की कि वर्तमान प्रस्ताव अक्सर मॉडल के निर्माण की पूरी यात्रा को समझने में विफल रहते हैं। उदाहरण के लिए, एक डेवलपर एक छोटे, सस्ते मॉडल को एक बहुत बड़े, अधिक महंगे "शिक्षक" (टीचर) मॉडल के उत्तरों की नकल करना सिखाकर प्रशिक्षित कर सकता है। यदि नियम केवल अंतिम चरण की गणना करते हैं, तो मूल शिक्षक को प्रशिक्षित करने की विशाल लागत को अनदेखा कर दिया जाता है, जिससे नया प्रोजेक्ट भ्रामक रूप से सस्ता दिखाई देता है। इसी तरह, कंपनियां अपनी सीमाओं से बचने के लिए अपने काम को अलग-अलग कानूनी संस्थाओं के बीच विभाजित कर सकती हैं या ओपन-सोर्स टूल्स का उपयोग कर सकती हैं। इन मुद्दों को संबोधित करने के लिए, लेखक लेखांकन मानकों (अकाउंटिंग स्टैंडर्ड्स) को डिजाइन करने के लिए सात व्यावहारिक सिद्धांतों का प्रस्ताव देते हैं जो गेमिंग (धोखाधड़ी) के प्रति कठिन और प्रवर्तन में आसान हों।
पहला और सबसे महत्वपूर्ण सिद्धांत यह है कि किसी परियोजना की शुरुआत से लेकर अंतिम सिस्टम तक खर्च किए गए हर डॉलर और कंप्यूटिंग शक्ति की प्रत्येक इकाई की गणना की जाए। इसका अर्थ है डेटा तैयार करने के कार्य, डिस्टिलेशन (डिस्टिलेशन) के लिए उपयोग किए जाने वाले शिक्षक मॉडलों के प्रशिक्षण और यहाँ तक कि उन असफल प्रयोगों को भी शामिल करना जिन्हें रास्ते में छोड़ दिया गया था। लेखक तर्क देते हैं कि गणना को केवल अंतिम प्रशिक्षण रन तक सीमित करना एक "डिस्टिलेशन लूपहोल" (डिस्टिलेशन की खामी) पैदा करता है, जहाँ एक मॉडल की बुद्धिमत्ता की वास्तविक लागत छिप जाती है। अपस्ट्रीम (पूर्ववर्ती) कार्य की पूर्ण गणना की आवश्यकता को लागू करके, नियामक किसी सिस्टम के पीछे के वास्तविक निवेश को देख सकते हैं।
साथ ही, शोध पत्र सुझाव देता है कि हर चीज़ की गणना नहीं की जानी चाहिए। डेवलपर्स को उन संसाधनों की लागत को बाहर रखने की अनुमति दी जानी चाहिए जो पहले से ही सभी के लिए स्वतंत्र रूप से उपलब्ध हैं, जैसे कि ओपन-सोर्स डेटासेट या प्री-ट्रेंड मॉडल जो वर्तमान परियोजना शुरू होने से बहुत पहले सार्वजनिक रूप से जारी किए गए थे। यह सुनिश्चित करता है कि नियम कंपनी के मालिकाना प्रयासों पर ध्यान केंद्रित करें, न कि उन्हें क्षेत्र के साझा आधार का उपयोग करने के लिए दंडित करें। हालाँकि, लेखक एक महत्वपूर्ण चेतावनी भी जोड़ते हैं: यदि कोई कंपनी एक आंशिक रूप से तैयार मॉडल को जनता के लिए जारी करती है और फिर उसे पूरा करने के लिए जल्दी से उसे वापस ले लेती है, तो उस प्रारंभिक कार्य को अभी भी गणना में शामिल किया जाना चाहिए। यह एक ऐसी रणनीति को रोकता है जहाँ एक कंपनी अपने विकास को गुप्त रूप से जारी रखने से पहले मॉडल को संक्षिप्त रूप से जारी करके अपनी अकाउंटिंग को "रीसेट" करने की कोशिश करती है।
यह ढांचा यह भी पहचानता है कि कुछ कार्य विशेष रूप से AI को स्मार्ट बनाने के लिए नहीं, बल्कि सुरक्षित बनाने के लिए किए जाते हैं। प्रशिक्षण डेटा से हानिकारक सामग्री को फ़िल्टर करने या मॉडल का परीक्षण करने जैसी गतिविधियाँ, ताकि यह सुनिश्चित हो सके कि वह आपराधिक योजनाओं में मदद करने से इनकार करे, लागत गणना से मुक्त होनी चाहिए। लक्ष्य यह सुनिश्चित करना है कि कंपनियाँ सही काम करने और समाज के जोखिमों को कम करने के लिए वित्तीय रूप से दंडित न हों। इन छूटों को वैध बनाने के लिए, लेखक इस बात पर जोर देते हैं कि कंपनियों को विस्तृत, मदवार (आइटमाइज्ड) रिपोर्ट प्रदान करनी चाहिए। ये रिपोर्ट एक वित्तीय ऑडिट की तरह काम करेंगी, जो डेवलपर्स को यह समझाने के लिए मजबूर करेगी कि उन्होंने वास्तव में क्या किया, क्यों किया, और उन्होंने अपने नंबरों की गणना कैसे की, जिसमें सटीक डेटा उपलब्ध न होने पर उपयोग किए गए अनुमान भी शामिल हैं।
अंत में, शोध पत्र सलाह देता है कि नियमों को दो अलग-अलग ट्रिगर्स का उपयोग करना चाहिए: एक कुल लागत के लिए और दूसरा कुल कंप्यूटिंग शक्ति के लिए। क्योंकि इन दोनों मेट्रिक्स को स्वतंत्र रूप से हेरफेर किया जा सकता है—जैसे कि सस्ते लेकिन कंप्यूटेशनल रूप से भारी डेटा बनाम महंगे लेकिन कुशल मानव डेटा का उपयोग करना—दोनों सुरक्षा जाल के रूप में होने से सिस्टम को दरकिनार करना बहुत कठिन हो जाता है। लेखक यह भी जोर देते हैं कि ये मानक स्थिर नहीं हो सकते। जैसे-जैसे तकनीक विकसित होती है और अधिक कुशल होती जाती है, थ्रेशोल्ड और नियमों को प्रभावी रहने के लिए नियमित रूप से, शायद हर कुछ महीनों में, अपडेट किया जाना चाहिए। इस अनुकूलन क्षमता के बिना, एक नियम जो आज काम करता है वह कल अप्रचलित हो सकता है, जिससे खतरनाक सिस्टम केवल इसलिए खामियों से निकल सकते हैं क्योंकि लेखांकन नियम नवाचार के साथ तालमेल नहीं बिठा पाए।
शोधकर्ता निष्कर्ष निकालते हैं कि हालांकि कोई भी लेखांकन प्रणाली पूर्ण नहीं हो सकती, ये सिद्धांत पारदर्शी, सुसंगत और सार्वजनिक हित के अनुरूप नियम बनाने के लिए एक ठोस आधार प्रदान करते हैं। रणनीतिक गेमिंग के लिए खामियों को बंद करके और जिम्मेदार जोखिम प्रबंधन को प्रोत्साहित करके, ये दिशानिर्देश सरकारों को उन उन्नत AI परियोजनाओं की निगरानी करने में मदद कर सकते हैं जो समान स्तर का जोखिम नहीं उठाते हैं। अंतिम लक्ष्य एक ऐसा नियामक वातावरण बनाना है जहाँ एक AI परियोजना का वास्तविक पैमाना दृश्यमान हो, जिससे यह सुनिश्चित हो सके कि सबसे शक्तिशाली प्रणालियों को आवश्यक ध्यान मिले।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।