Definitional alignment before capability alignment: a Design-Science framework for adjudicating claims about AGI
यह शोध पत्र DAF-AGI का प्रस्ताव करता है, जो एक डिज़ाइन-साइंस ढांचा है जो एजीआई (AGI) आगमन के बारे में परस्पर विरोधी दावों का न्याय करने के लिए क्षमता संरेखण (capability alignment) के बजाय परिभाषात्मक संरेखण (definitional alignment) को प्राथमिकता देता है, जिससे प्रतिस्पर्धी परिचालनकरणों (operationalizations) के मूल्यांकन के लिए क्रमिक मानदंड और शासन ऑडिट स्थापित किए जा सकें।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
यहाँ जे. ई. अगिला ब्राओन्स (J. E. Aguilera Briones) के शोध पत्र "डेफिनिशनल अलाइनमेंट बिफोर कैपेबिलिटी अलाइनमेंट" (क्षमता संरेखण से पहले परिभाषा संरेखण) का सरल भाषा और रचनात्मक उपमाओं के साथ विवरण दिया गया है।
मुख्य समस्या: "आगमन" (Arrival) का तर्क
कल्पना कीजिए कि लोगों का एक समूह इस बात पर बहस कर रहा है कि क्या एक नई कार एक "सुपरकार" है।
- व्यक्ति A कहता है, "हाँ, यह एक सुपरकार है क्योंकि इसकी गति 200 मील प्रति घंटा है।"
- व्यक्ति B कहता है, "नहीं, यह नहीं है। यह ड्रिफ्ट (drift) नहीं कर सकती, और इसका इंजन V12 नहीं है।"
- व्यक्ति C कहता है, "इससे कोई फर्क नहीं पड़ता कि यह क्या है; यदि यह खुद चलकर स्टोर तक जा सकती है, तो यह एक सुपरकार है।"
वे सभी एक ही कार को देख रहे हैं। वे सभी तथ्यों (गति, इंजन, विशेषताएं) पर सहमत हैं। लेकिन वे इस पर सहमत नहीं हो पा रहे हैं क्योंकि वे इस बात को परिभाषित करने के लिए अलग-अलग नियमों की किताबों (rulebooks) का उपयोग कर रहे हैं कि वास्तव में एक "सुपरकार" क्या होती है।
यह शोध पत्र तर्क देता है कि आर्टिफिशियल जनरल इंटेलिजेंस (AGI) का क्षेत्र ठीक इसी बहस में फंसा हुआ है। कुछ कंपनियाँ कहती हैं, "हम पहुँच गए हैं!" क्योंकि उनका AI अच्छा कोड लिखता है। अन्य कहते हैं, "हम दशकों दूर हैं!" क्योंकि उनका AI लंबे समय तक याद रखने या नए पहेलियों को सुलझाने में सक्षम नहीं है। असहमति तकनीक के बारे में नहीं है; यह इस बारे में है कि नियमों की किताब कौन लिखता है और वास्तविक नियम क्या हैं।
समाधान: एक "नियम पुस्तिका ऑडिटर" (DAF-AGI)
एक एकमात्र "सत्य परिभाषा" लिखने की कोशिश करने के बजाय (जिसे लेखक असंभव मानते हैं क्योंकि हर किसी के लक्ष्य अलग होते हैं), लेखक ने DAF-AGI नामक एक उपकरण बनाया है।
DAF-AGI को एक ऐसे न्यायाधीश के रूप में न देखें जो यह तय करता है कि कौन जीतता है, बल्कि एक पारदर्शिता ऑडिटर (transparency auditor) के रूप में देखें। यह "पोषण लेबल" (nutrition label) की तरह है। जब कोई दावा करता है, "यह AI, AGI है," तो ऑडिटर केवल "हाँ" या "नहीं" नहीं कहता। वह पूछता है:
- आप क्या माप रहे हैं? (क्या यह गति है? क्या यह स्मृति है? क्या यह वह पैसा है जो यह बचाता है?)
- नियम किसने लिखे? (क्या उस कंपनी ने नियम खुद लिखे जिसने AI बनाया है?)
- क्या नियमों को बदला जा सकता है? (यदि AI विफल हो जाता है, तो क्या वे पास होने के लिए नियमों को बदल सकते हैं?)
पाँच "नियम पुस्तिकाएँ" (मापन परिवार)
यह शोध पत्र AGI को परिभाषित करने के पाँच सबसे सामान्य तरीकों को देखता है और उनका ऑडिट करता है:
"स्पीडोमीटर" (प्रदर्शन श्रेष्ठता - Performance Superiority):
- नियम: "यदि AI कार्यों में मानव से बेहतर/तेज़ है, तो वह AGI है।"
- दोष: इसमें धोखाधड़ी करना आसान है। आप केवल उन कार्यों को चुन सकते हैं जिनमें AI अच्छा है (जैसे ईमेल लिखना) और उन कार्यों को अनदेखा कर सकते हैं जिनमें वह खराब है (जैसे दीर्घकालिक योजना बनाना)। यह ऐसा है जैसे कहना कि एक धावक ओलंपिक विजेता है क्योंकि उसने उस ट्रैक पर दौड़ जीती है जिसका उसने अभ्यास किया था, लेकिन वह रेत पर नहीं दौड़ सकता।
- निर्णय: कम विश्वसनीयता।
"वॉलेट" (आर्थिक प्रतिस्थापन - Economic Substitution):
- नियम: "यदि AI किसी इंसान के काम को सस्ता करके कर सकता है, तो वह AGI है।"
- दोष: यह "बुद्धिमत्ता" को "अर्थशास्त्र" के साथ मिला देता है। एक रोबोटिक हाथ एक फैक्ट्री वर्कर की जगह इसलिए ले सकता है क्योंकि वह सस्ता है, न कि इसलिए कि वह अधिक "बुद्धिमान" है।
- निर्णय: मिश्रित। अर्थशास्त्र के लिए अच्छा, बुद्धिमत्ता मापने के लिए बुरा।
"मैप" (क्षमता ऑन्टोलॉजी - Capability Ontology):
- नियम: "हमारे पास विभिन्न कौशलों (स्मृति, तर्क, रचनात्मकता) का एक मानचित्र है। AI उस मानचित्र पर कहाँ स्थित है?"
- दोष: यह एक बेहतरीन मानचित्र है, लेकिन मानचित्र बनाने वाला (लैब) यह तय करता है कि "फिनिश लाइन" कहाँ है।
- निर्णय: अच्छी संरचना, लेकिन मानचित्र निर्माता फिनिश लाइन को नियंत्रित करता है।
"रिपोर्ट कार्ड" (साइकोमेट्रिक पैरिटी - Psychometric Parity):
- नियम: "AI को एक सुशिक्षित वयस्क मानव के पूर्ण संज्ञानात्मक प्रोफाइल (cognitive profile) से मेल खाना चाहिए।"
- दोष: यह सबसे कठिन परीक्षण है। वर्तमान AI गणित में जीनियस हैं लेकिन उनकी याददाश्त एक गोल्डफिश जैसी है। वे इस परीक्षण में विफल हो जाते हैं क्योंकि वे "ऊबड़-खाबड़" (jagged) हैं (कुछ चीजों में महान, कुछ में बहुत खराब)।
- निर्णय: उच्च विश्वसनीयता, लेकिन वर्तमान AI इसमें विफल रहते हैं।
"सीखने की गति" (कौशल अधिग्रहण - Skill-Acquisition):
- नियम: "बुद्धिमत्ता यह है कि आप एक नई पहेली को कितनी तेज़ी से सीखते हैं जिसे आपने पहले कभी नहीं देखा है।"
- दoch: वर्तमान AI पुरानी पहेलियों को याद रखने में माहिर हैं लेकिन नई पहेलियों को सुलझाने में बहुत खराब हैं।
- निर्णय: उच्च विश्वसनीयता, लेकिन वर्तमान AI इसमें विफल रहते हैं।
बड़ा खुलासा: "स्टाइललाइज्ड क्लेम" (Stylized Claim)
यह शोध पत्र एक लोकप्रिय दावे का परीक्षण करता है: "वर्तमान AI, AGI है क्योंकि यह कई कार्यों में एक सुशिक्षित वयस्क को हरा देता है।"
जब ऑडिटर (DAF-AGI) इसकी जाँच करता है, तो उसे एक जादुई ट्रिक मिलती है।
- यह दावा स्पीडोमीटर नियम का उपयोग करता है (वयस्क को कुछ कार्यों में हराना)।
- लेकिन यह रिपोर्ट कार्ड लेबल ("सुशिक्षित वयस्क") को उधार लेता है।
- यदि आप वास्तव में रिपोर्ट कार्ड के नियमों को लागू करते हैं, तो AI विफल हो जाता है क्योंकि उसमें स्मृति की कमियाँ हैं।
- यदि आप स्पीडोमीटर नियमों को लागू करते हैं, तो यह पास हो जाता है, लेकिन केवल इसलिए क्योंकि कंपनी ने आसान कार्यों को चुना।
निष्कर्ष: यह दावा "अस्पष्ट" (underspecified) है। यह एक ढीले नियम को एक सख्त लेबल के साथ मिला देता है ताकि AI को अपनी वास्तविकता से अधिक बुद्धिमान दिखाया जा सके। शोध पत्र कहता है कि हम तब तक "AGI आ गया है" घोषित नहीं कर सकते जब तक कि हम इस पर सहमत न हो जाएं कि हम किस नियम पुस्तिका का उपयोग कर रहे हैं और किसे नियमों को बदलने की अनुमति है।
"डेफिनिशनल सॉवरेन्टी" (परिभाषा संप्रभुता) की अवधारणा
यह इस शोध पत्र का सबसे महत्वपूर्ण राजनीतिक विचार है।
कल्पना कीजिए कि एक देश सारा भोजन आयात करता है।
- परिदृश्य A: वे पड़ोसी से भोजन खरीदते हैं। पड़ोसी तय करता है कि "ताज़ा" का क्या अर्थ है। यदि पड़ोसी कल "ताज़ा" की परिभाषा बदल देता है, तो देश को इसे स्वीकार करना होगा या भूखा रहना होगा।
- परिदृश्य B: देश भोजन खरीदता है, लेकिन उनके पास अपने स्वयं के निरीक्षक (inspectors) हैं। वे कह सकते हैं, "हम आज आपकी 'ताज़ा' की परिभाषा स्वीकार करते हैं, लेकिन यदि आप इसे बदलते हैं, तो हम इसकी ऑडिट करेंगे और शायद इसे अस्वीकार कर देंगे।"
लेखक इसे डेफिनिशनल सॉवरेन्टी (परिभाषा संप्रभुता) कहते हैं।
कई देश (और जनता) वर्तमान में परिदृश्य A में हैं। वे "डेफिनेशन टेकर्स" (परिभाषा लेने वाले) हैं। वे अमेरिका या चीन की कुछ शक्तिशाली टेक लैब्स द्वारा लिखी गई AGI, "उच्च जोखिम वाले AI" या "परिपक्वता" की परिभाषाओं को स्वीकार करते हैं।
- यदि कोई लैब कहती है, "यह AGI है," और इससे कोई कानून या शेयर बाजार में गिरावट आती है, तो दुनिया को इसे स्वीकार करना होगा।
- शोध पत्र का तर्क है कि देशों के पास इन परिभाषाओं का ऑडिट करने, उन्हें चुनौती देने और संशोधित करने की क्षमता होनी चाहिए। उन्हें शून्य से अपनी परिभाषाएँ लिखने की आवश्यकता नहीं है; उन्हें बस यह कहने की शक्ति चाहिए कि, "नहीं, वह परिभाषा हमारे लिए काम नहीं करती," या "हमें उस दावे को सत्यापित करने की आवश्यकता है।"
सारांश: यह शोध पत्र वास्तव में क्या कहता है
- हम इस पर सहमत नहीं हो सकते कि AGI क्या है क्योंकि विभिन्न समूहों के अलग-अलग लक्ष्य होते हैं (मार्केटिंग, सुरक्षा, निवेश)।
- अधिक डेटा इसे ठीक नहीं करेगा। भले ही AI और भी स्मार्ट हो जाए, हम अभी भी इस पर बहस करते रहेंगे कि क्या यह "सामान्य" (General) बुद्धिमत्ता है, जब तक कि हम परिभाषा को पहले ठीक नहीं कर देते।
- वर्तमान "आगमन" के दावे संदिग्ध हैं। वे अक्सर एक ढीले नियम को कठिन लेबल के साथ मिलाते हैं ताकि एक सिस्टम को ऐसा दिखाया जा सके जैसे वह पहुँच गया है जबकि वह नहीं पहुँचा है।
- गवर्नेंस (शासन) ही कुंजी है। हमें यह पूछना बंद करना चाहिए कि "क्या यह AGI है?" और यह पूछना शुरू करना चाहिए कि "किसने वह नियम लिखा कि यह AGI है, और क्या हम उनका ऑडिट कर सकते हैं?"
- संप्रभुता मायने रखती है। देशों और जनता के पास तकनीक की आयातित परिभाषाओं को चुनौती देने की शक्ति होनी चाहिए, अन्यथा वे उन नियमों द्वारा शासित हो रहे हैं जिन्हें उन्होंने न तो लिखा है और न ही बदल सकते हैं।
संक्षेप में: इससे पहले कि हम इस पर बहस करें कि रोबोट "जीवित" है या "बुद्धिमान", हमें यह तय करने की आवश्यकता है कि शब्दकोश किसके पास है और यह सुनिश्चित करना है कि वे अपने फायदे के लिए परिभाषाओं को बदल नहीं रहे हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।