Adversarial robustness and confidence miscalibration in emotion-based HRI systems
यह शोध पत्र प्रदर्शित करता है कि रोबोटिक्स के लिए चेहरे के भावों को पहचानने वाली प्रणालियाँ, क्लीन-सेट सटीकता (clean-set accuracy) प्राप्त करने के बावजूद, प्रतिकूल हमलों (adversarial attacks) के तहत विनाशकारी और संरचनात्मक रूप से अनकैलिब्रेट होने योग्य आत्मविश्वास संबंधी गलत अंशांकन (confidence miscalibration) से ग्रस्त होती हैं, जो उन्हें अत्यधिक आत्मविश्वासी दिखने के बावजूद भौतिक नियंत्रण के लिए मौलिक रूप से असुरक्षित बना देता है।
मूल पेपर CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
एक ऐसे रोबोट की कल्पना करें जिसे लोगों की मदद करने के लिए डिज़ाइन किया गया है, शायद किसी अस्पताल या स्कूल में, जिसे चेहरे देखकर मानवीय भावनाओं को समझने के लिए बनाया गया है। यदि वह रोबोट एक मुस्कान देखता है, तो वह एक उत्साहजनक अभिवादन दे सकता है; यदि वह एक शिकन (frown) देखता है, तो वह सांत्वना दे सकता है। भावनाओं को पढ़ने की यह क्षमता आधुनिक सोशल रोबोटिक्स का एक आधार स्तंभ है, जो चेहरे के भावों को पहचानने के लिए प्रशिक्षित कंप्यूटर प्रोग्रामों पर निर्भर करती है। इन मशीनों के सुरक्षित और उपयोगी होने के लिए, उनके रचनाकारों को इस बात पर भरोसा होना चाहिए कि रोबोट द्वारा चेहरे की व्याख्या सही है। यदि रोबोट एक तटस्थ (neutral) चेहरे को क्रोधित समझ लेता है, तो वह अनावश्यक सावधानी या आक्रामकता बरत सकता है, जिससे संभावित रूप से नुकसान या संकट पैदा हो सकता है। इंजीनियरों के लिए मुख्य प्रश्न केवल यह नहीं है कि क्या रोबोट एक आदर्श, नियंत्रित सेटिंग में भावनाओं को सटीक रूप से पहचान सकता है, बल्कि यह है कि क्या वह तब सही निर्णय लेने के लिए भरोसेमंद हो सकता है जब दुनिया अव्यवस्थित हो या जब कोई उसे धोखा देने की कोशिश करे।
शोधकर्ताओं की एक टीम ने ठीक इसी विश्वसनीयता का परीक्षण करने के लिए कदम उठाया। उन्होंने पांच अलग-अलग कंप्यूटर प्रणालियों का परीक्षण किया जिन्हें पांच बुनियादी भावनाओं को पहचानने के लिए डिज़ाइन किया गया था: क्रोध, खुशी, उदासी, आश्चर्य और एक तटस्थ अवस्था। इन प्रणालियों को परीक्षणों की एक श्रृंखला से गुजारा गया ताकि यह देखा जा सके कि वे कैसा प्रदर्शन करती हैं जब उन्हें प्राप्त चित्र थोड़े धुंधले, कम रोशनी वाले, या डिजिटल शोर (noise) से ढके हुए हों। इससे भी महत्वपूर्ण बात यह है कि शोधकर्ताओं ने इन प्रणालियों को 'एडवर्सरियल अटैक' (adversarial attack) नामक डिजिटल छल के एक विशिष्ट प्रकार के अधीन किया। इस परिदृश्य में, एक कंप्यूटर प्रोग्राम चेहरे की तस्वीर में सूक्ष्म, लगभग अदृश्य बदलाव करता है—ऐसे बदलाव जो एक मानवीय आंख कभी नहीं देख पाएगी—लेकिन ये बदलाव रोबोट को पूरी तरह से भ्रमित करने के लिए गणना किए गए होते हैं। लक्ष्य यह देखना था कि क्या रोबोट अभी भी भावना को सही ढंग से पहचान पाएगा, और महत्वपूर्ण रूप से, क्या रोबोट को पता चलेगा कि वह भ्रमित है।
परिणाम स्पष्ट थे और उन्होंने इस बात का खुलासा किया कि वर्तमान में इन प्रणालियों को कैसे बनाया जाता है, इसमें एक गंभीर दोष है। जब शोधकर्ताओं ने थोड़ी सी भी डिजिटल चालाकी पेश की, तो रोबोट की भावनाओं को पहचानने की क्षमता ढह गई। वे सिस्टम जो साफ परिस्थितियों में 76 प्रतिशत बार सही होते थे, वे शून्य के करीब सटीकता पर गिर गए। वे बेतरतीब ढंग से अनुमान लगाने लगे, अक्सर एक खुश चेहरे को क्रोधित या एक उदास चेहरे को आश्चर्यचकित के रूप में पहचानने लगे। सबसे चिंताजनक खोज यह नहीं थी कि रोबोट गलतियाँ कर रहे थे, बल्कि यह थी कि वे अपनी गलतियों के प्रति पूरी तरह से अनभिज्ञ थे। यहाँ तक कि जब उन्हें गलत भावना देखने के लिए छला जा रहा था, तब भी वे अपने गलत उत्तरों के प्रति अविश्वसनीय रूप से आश्वस्त थे। वास्तव में, कंप्यूटर प्रोग्रामों ने अपने गलत अनुमानों के बारे में लगभग 96 प्रतिशत निश्चितता दर्ज की।
यह निष्कर्ष रोबोटिक्स में उपयोग की जाने वाली एक सामान्य सुरक्षा रणनीति को चुनौती देता है। इंजीनियर अक्सर रोबोट को एक भविष्यवाणी को अनदेखा करने के लिए प्रोग्राम करते हैं यदि कंप्यूटर का 'कॉन्फिडेंस स्कोर' (विश्वास स्कोर) बहुत कम हो, यह मानते हुए कि कम स्कोर का अर्थ है कि रोबोट अनिश्चित है और उसे बेहतर रीडिंग की प्रतीक्षा करनी चाहिए। शोधकर्ताओं ने पाया कि डिजिटल ट्रिक्स के खिलाफ यह सुरक्षा जाल बेकार है। क्योंकि रोबोट गलत होने के बावजूद इतने आश्वस्त बने रहे, इसलिए सुरक्षा द्वार कभी बंद ही नहीं हुआ। रोबोट अपने झूठे विश्वासों पर पूर्ण निश्चितता के साथ कार्य करने के लिए आगे बढ़ गए। टीम ने गणितीय रूप से सिद्ध किया कि केवल कंप्यूटर की आंतरिक सेटिंग्स को अधिक सतर्क बनाने के लिए समायोजित करना इस समस्या को हल नहीं करेगा। जिस तरह से ये प्रणालियाँ आत्मविश्वास की गणना करती हैं, वह एक वास्तविक चेहरे और एक छले गए चेहरे के बीच अंतर करने में संरचनात्मक रूप से अक्षम है, जब छल पर्याप्त मजबूत हो।
शोधकर्ताओं ने निष्कर्ष निकाला कि चेहरे के एक एकल स्नैपशॉट और कंप्यूटर के कॉन्फिडेंस स्कोर पर भरोसा करना रोबोट को सुरक्षित रखने के लिए पर्याप्त नहीं है। उन्होंने प्रदर्शित किया कि एक रोबोट की भावना को पहचानने की क्षमता और उस भावना पर सुरक्षित रूप से कार्य करने की क्षमता दो अलग चीजें हैं। एक प्रणाली लैब में चेहरों को पहचानने में बहुत अच्छी हो सकती है लेकिन वास्तविक दुनिया में खतरनाक रूप से नाजुक हो सकती है। शोधकर्ताओं का तर्क है कि वास्तव में सुरक्षित रोबोट बनाने के लिए, हमें सत्यापन की एक नई परत की आवश्यकता है। रोबोट को चेहरा देखते ही तुरंत कार्य करने देने के बजाय, सिस्टम को अन्य साक्ष्यों के विरुद्ध भविष्यवाणी की जांच करनी चाहिए, जैसे कि अभिव्यक्ति कितने समय तक रही या क्या रोबोट के अन्य सेंसर दृश्य इनपुट के साथ सहमत हैं। जब तक ऐसे सुरक्षा उपाय लागू नहीं किए जाते, तब तक जो रोबोट हमारे चेहरे पढ़ने पर निर्भर करते हैं, वे हमें समझने के बजाय हमें गलत समझने की अधिक संभावना रखते हैं, विशेष रूप से जब उन्हें धोखा देने के थोड़े से भी प्रयास का सामना करना पड़ता है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।