Philosophy-informed Machine Learning
यह शोध पत्र फिलॉसफी-इन्फॉर्म्ड मशीन लर्निंग (PhIML) को एक ऐसे ढांचे के रूप में प्रस्तुत करता है जो संरेखण और नैतिक उत्तरदायित्व को बढ़ाने के लिए मॉडल डिजाइन और मूल्यांकन में विश्लेषणात्मक दर्शन को एकीकृत करता है, साथ ही केस स्टडीज प्रस्तुत करता है, चुनौतियों की पहचान करता है और भविष्य के अनुसंधान के लिए एक रोडमैप की रूपरेखा तैयार करता है।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
आधुनिक मशीनें पैटर्न पहचानने में आश्चर्यजनक रूप से कुशल हो गई हैं। वे एक तस्वीर में बिल्ली की पहचान कर सकती हैं, एक भाषा से दूसरी भाषा में वाक्य का अनुवाद कर सकती हैं, या आपको वह फिल्म सुझा सकती हैं जो आपको पसंद आ सकती है। फिर भी, ये प्रणालियाँ तब लड़खड़ा जाती हैं जब दुनिया सूक्ष्म तरीकों से बदलती है या जब उनसे कुछ ऐसा करने के लिए कहा जाता है जिसमें केवल पैटर्न मिलान के बजाय वास्तविक समझ की आवश्यकता होती है। एक मशीन आत्मविश्वास के साथ आपको बता सकती है कि स्टॉप साइन (stop sign) एक गति सीमा संकेत है यदि किसी ने उस पर कुछ छोटे स्टिकर लगा दिए हों, या यह एक चिकित्सा उपचार का सुझाव दे सकती है जो डेटा में तो अच्छा काम करता है लेकिन वास्तविकता में विफल हो जाता है क्योंकि इसने सहसंबंध (correlation) को कारण (cause) समझ लिया। ये विफलताएं इसलिए होती हैं क्योंकि वर्तमान आर्टिफिशियल इंटेलिजेंस केवल सांख्यिकी पर आधारित है; यह सीखता है कि आमतौर पर क्या होता है, लेकिन यह नहीं समझता कि यह क्यों होता है, और न ही यह वास्तव में उन मूल्यों को समझ पाता है जो मानवीय निर्णयों का मार्गदर्शन करते हैं। सांख्यिकीय कौशल और वास्तविक दुनिया की विश्वसनीयता के बीच इस अंतर ने शोधकर्ताओं को एक अलग प्रश्न पूछने के लिए प्रेरित किया है: क्या होगा यदि हम इन मशीनों को केवल डेटा पर नहीं, बल्कि उन गहरे, सदियों पुराने विचारों पर बनाएँ जो दार्शनिकों ने ज्ञान, तर्क और सही क्रिया के बारे में विकसित किए हैं?
यही 'फिलॉसफी-इन्फॉर्म्ड मशीन लर्निंग' (दर्शन-सूचित मशीन लर्निंग) नामक एक नए दृष्टिकोण के पीछे का मूल विचार है। इसके बजाय कि दर्शन को तकनीक बनने के बाद होने वाली एक अमूर्त चर्चा माना जाए, यह पद्धति दार्शनिक अवधारणाओं को कंप्यूटर मॉडल के डिजाइन में सीधे बुन देती है। इसका लक्ष्य ऐसी प्रणालियाँ बनाना है जो न केवल स्मार्ट हों, बल्कि डिज़ाइन के माध्यम से मजबूत, तार्किक और मानवीय मूल्यों के अनुरूप भी हों। क्लेमसन यूनिवर्सिटी के एक शोधकर्ता ने हाल ही में एक अध्ययन में यह पता लगाया कि कैसे विश्लेषणात्मक दर्शन (analytic philosophy) के विचारों को—विशेष रूप से हम चीजों को कैसे जानते हैं, हम कारण और प्रभाव के बारे में कैसे तर्क करते हैं, और हम नैतिक विकल्प कैसे चुनते हैं—को एकीकृत करके आज की आर्टिफिशियल इंटेलिजेंस की सबसे बड़ी खामियों को ठीक किया जा सकता है। यह कार्य सुझाव देता है कि मशीनों को एक "दार्शनिक रीढ़" (philosophical backbone) देकर, हम उन्हें सुरक्षित और अधिक विश्वसनीय बना सकते हैं, भले ही वे पूर्ण न हों।
अध्ययन 'ब्लैकबॉक्स ब्रिटलनेस' (blackbox brittleness) नामक एक समस्या से शुरू होता है। यह तब होता है जब एक मशीन लर्निंग मॉडल उस डेटा पर तो पूरी तरह से काम करता है जिस पर उसे प्रशिक्षित किया गया था, लेकिन थोड़ी सी भिन्नता, जैसे कि अलग प्रकाश व्यवस्था या भाषा के नए लहजे का सामना करने पर पूरी तरह विफल हो जाता है। इसे ठीक करने के लिए, शोधकर्ता ने 'एपिस्टेमोलॉजी' (epistemology) की ओर देखा, जो दर्शन की वह शाखा है जो ज्ञान की प्रकृति का अध्ययन करती है। पारंपरिक कंप्यूटर मॉडल सभी अनिश्चितताओं को एक समान मानते हैं, और यह दर्शाने के लिए एक एकल संख्या निर्धारित करते हैं कि वे कितने आश्वस्त हैं। हालाँकि, दार्शनिकों ने लंबे समय से तर्क दिया है कि इस बात में अंतर है कि आप इसलिए आश्वस्त हैं क्योंकि आपके पास मजबूत साक्ष्य हैं, या इसलिए आश्वस्त हैं क्योंकि आपने एक ऐसा पैटर्न देखा है जो एक संयोग हो सकता है। अध्ययन ने एक ऐसी विधि का परीक्षण किया जहाँ कंप्यूटर को इन दो अवस्थाओं के बीच अंतर करना सिखाया गया। एक ऐसे सिस्टम का उपयोग करके जो केवल एक निश्चित अनुमान के बजाय संभावित विश्वासों की एक श्रृंखला का प्रतिनिधित्व कर सकता है, मॉडल यह जानने में बहुत बेहतर हो गए कि वे कब अनिश्चित थे। परीक्षणों की एक श्रृंखला में, इस दृष्टिकोण ने कंप्यूटर को यह पहचानने में सक्षम बनाया कि एक दस्तावेज़ को एक ही समय में अनुबंध (contract) और पेटेंट (patent) दोनों के रूप में गलत वर्गीकृत किया जा रहा था, जो कि एक तार्किक असंभवता है, और बिना अपनी सही भविष्यवाणी करने की क्षमता खोए त्रुटि को सुधारा।
पेपर दूसरा बड़ा अवरोध 'कॉज़ल ब्लाइंडनेस' (causal blindness - कारण संबंधी अंधापन) को संबोधित करता है। आज का अधिकांश आर्टिफिशियल इंटेलिजेंस सहसंबंध खोजने में उत्कृष्ट है लेकिन कारण और प्रभाव को समझने में बहुत खराब है। यदि कोई मॉडल देखता है कि छाता लेकर चलने वाले लोग अक्सर गीले हो जाते हैं, तो यह निष्कर्ष निकाल सकता है कि छाते बारिश का कारण बनते हैं, बजाय इसके कि यह समझे कि बारिश के कारण लोग छाता लेकर चलते हैं। यह चिकित्सा या नीति जैसे क्षेत्रों में खतरनाक है, जहाँ हमें यह जानने की आवश्यकता होती है कि यदि हम एक विशिष्ट कार्रवाई करते हैं तो क्या होगा। इसे हल करने के लिए, शोधकर्ता ने 'कारणता' (causation) के सिद्धांतों को लागू किया जो "क्या होगा यदि" (what if) परिदृश्यों पर ध्यान केंद्रित करते हैं। अध्ययन ने एक तरीका पेश किया जिससे कंप्यूटर हस्तक्षेपों (interventions) का अनुकरण कर सके, यह पूछ सके कि क्या होगा यदि एक विशिष्ट कारक को बदल दिया जाए, बजाय इसके कि केवल यह देखा जाए कि अतीत में क्या हुआ। चिकित्सा उपचारों से संबंधित प्रयोगों में, शोधकर्ताओं ने पाया कि जब उन्होंने मॉडल को इस सिद्धांत का सम्मान करने के लिए मजबूर किया कि कारण को बदलने से परिणाम असंभव तरीकों से बहुत अधिक नहीं बदलना चाहिए, तो मॉडल की भविष्यवाणियाँ बहुत अधिक स्थिर हो गईं। सिस्टम ने इस बारे में जंगली अनुमान लगाना बंद कर दिया कि यदि किसी रोगी को अलग उपचार दिया जाए तो क्या होगा, जिससे उसकी भविष्यवाणियाँ वास्तविकता में टिकी रहीं।
शायद सबसे जटिल चुनौती मशीनों को मानवीय मूल्यों के साथ संरेखित करना है। एक कंप्यूटर स्कोर को अधिकतम करने में बहुत अच्छा हो सकता है, लेकिन यदि वह स्कोर पूरी तरह से यह नहीं पकड़ पाता कि मनुष्य वास्तव में क्या चाहते हैं, तो मशीन जीतने के लिए एक ऐसा रास्ता निकाल सकती है जो हानिकारक हो। उदाहरण के लिए, एक समाचार अनुशंसा प्रणाली (news recommendation system) यह सीख सकती है कि चौंकाने वाली सुर्खियाँ लोगों को क्लिक करने के लिए प्रेरित करती हैं, जिससे वह विभाजनकारी सामग्री को बढ़ावा दे सकती है। अध्ययन ने इस बात की खोज की कि मशीन के प्रशिक्षण की प्रक्रिया में नैतिक तर्क को सीधे कैसे बनाया जाए। जॉन रॉल्स (John Rawls) के दर्शन पर आधारित, जिन्होंने तर्क दिया था कि एक न्यायपूर्ण समाज वह है जिसे हम तब डिजाइन करेंगे यदि हमें अपना स्थान ज्ञात न हो, शोधकर्ता ने एक ऐसी विधि का परीक्षण किया जहाँ कंप्यूटर को वंचित समूहों को प्राथमिकता देने के लिए प्रशिक्षित किया गया था। एक सिम्युलेटेड भर्ती परिदृश्य में, मानक कंप्यूटर मॉडल हाशिए पर रहने वाले समूहों के उम्मीदवारों को अस्वीकार करने लगे क्योंकि प्रशिक्षण डेटा में छिपे हुए पूर्वाग्रह थे। हालाँकि, जब मॉडल को विशेष रूप से निष्पक्षता देखने और यह सुनिश्चित करने के लिए समायोजित किया गया कि कम सुविधा प्राप्त उम्मीदवार पीछे न छूट जाएं, तो इसने इन पूर्वाग्रहों को सफलतापूर्वक ठीक कर दिया। परिणामों ने दिखाया कि इन दार्शनिक नियमों को लागू करके, सिस्टम ने उच्च समग्र सटीकता बनाए रखते हुए भी वंचित समूहों के लिए भर्ती दरों में लगभग 50 प्रतिशत का सुधार किया।
अध्यध्ययन ने यह नहीं पाया कि ये दार्शनिक सुधार एक जादुई छड़ी थे जो हर समस्या को तुरंत हल कर देते। शोधकर्ता ने नोट किया कि इन जटिल तार्किक नियमों को भारी मात्रा में डेटा के साथ जोड़ना कठिन है और कभी-कभी यह कंप्यूटर को धीमा कर सकता है या इसे प्रशिक्षित करना कठिन बना सकता है। यह भी बड़ी चुनौतियाँ हैं कि किन दार्शनिक नियमों का उपयोग किया जाए, विशेष रूप से जब विभिन्न संस्कृतियाँ या नैतिक सिद्धांत असहमत हों। फिर भी, प्रयोगों ने प्रदर्शित किया कि इन विचारों के सरल अनुप्रयोगों ने भी त्रुटियों को नाटकीय रूप से कम कर दिया। एक परीक्षण में, एक मानक मॉडल ने अपनी 13 प्रतिशत भविष्यवाणियों में तार्किक विरोधाभास किए, लेकिन दर्शन-सूचित संस्करण ने इसे घटाकर शून्य कर दिया। दूसरे में, विभिन्न समूहों के बीच परिणामों की भविष्यवाणी करने की सिस्टम की क्षमता में काफी सुधार हुआ, जिससे सिद्ध हुआ कि ये विचार केवल सैद्धांतिक नहीं बल्कि बेहतर तकनीक बनाने के व्यावहारिक उपकरण हैं।
अंततः, यह कार्य सुझाव देता है कि आर्टिफिशियल इंटेलिजेंस का भविष्य मशीनों को अधिक डेटा खिलाने पर कम और उन्हें सोचना सिखाने पर अधिक निर्भर हो सकता है। ज्ञान, कारण और नैतिकता के बारे में मानव जांच की लंबी परंपरा से उधार लेकर, हम ऐसी प्रणालियाँ बना सकते हैं जो न केवल शक्तिशाली हों, बल्कि भरोसेमंद भी हों। शोधकर्ता निष्कर्ष निकालते हैं कि जबकि अभी भी कई तकनीकी और व्यावहारिक बाधाएँ पार करनी बाकी हैं, आगे का रास्ता स्पष्ट है: हमें दर्शन को एक विचार के रूप में देखना बंद करना होगा और इसे उन मशीनों के लिए एक ब्लूप्रिंट के रूप में उपयोग करना शुरू करना होगा जिन पर हम भरोसा करते हैं। जैसे-जैसे ये प्रणालियाँ हमारे जीवन में अधिक जिम्मेदारी संभाल रही हैं, प्रश्न अब यह नहीं है कि क्या हम उन्हें स्मार्ट बना सकते हैं, बल्कि यह है कि हम उन्हें कितनी जल्दी बुद्धिमान (wise) बना सकते हैं।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।