From Fake to Real: Pretraining on Balanced Synthetic Images to Prevent Spurious Correlations in Image Recognition
यह शोध पत्र "फ्रॉम फेक टू रियल" (FFR) का प्रस्ताव करता है, जो एक दो-चरणीय प्रशिक्षण पाइपलाइन है जो वास्तविक डेटा पर फाइन-ट्यून करने से पहले मजबूत उपसमूह निरूपण (subgroup representations) सीखने के लिए संतुलित सिंथेटिक डेटा पर मॉडलों को प्री-ट्रेन करता है, जिससे वास्तविक और सिंथेटिक वितरणों के मिश्रण के कारण होने वाले स्प्यूरियस सहसंबंधों (spurious correlations) को रोका जा सके और वर्स्ट-ग्रुप सटीकता (worst-group accuracy) में महत्वपूर्ण सुधार किया जा सके।
मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें
कल्पना कीजिए कि आप एक रोबोट को जानवरों को पहचानना सिखा रहे हैं। आप उसे हजारों तस्वीरें दिखाते हैं, लेकिन इसमें एक चालाकी भरी समस्या है: लगभग हर "बड़े कुत्ते" (Big Dog) की तस्वीर किसी आरामदायक लिविंग रूम के अंदर ली गई है, जबकि लगभग हर "छोटे कुत्ते" (Small Dog) की तस्वीर बाहर किसी पार्क में ली गई है। रोबोट स्मार्ट है, लेकिन वह थोड़ा कुशल भी है। वह वास्तव में एक कुत्ते के दिखने के तरीके को सीखने के बजाय, एक शॉर्टकट सीख लेता है: "अगर मुझे सोफा दिखता है, तो यह बड़ा कुत्ता है। अगर मुझे घास दिखती है, तो यह छोटा कुत्ता है।" कंप्यूटर विज्ञान की दुनिया में, इसे "स्पुरियस कोरिलेशन" (spurious correlation) कहा जाता है। रोबोट ने विषय के बजाय बैकग्राउंड पर निर्भर रहना सीख लिया है। यह एक बड़ी बात है क्योंकि जब रोबोट बाहर किसी बड़े कुत्ते से मिलता है, तो वह भ्रमित हो जाता है और विफल हो जाता है। वैज्ञानिक इसे ठीक करने की कोशिश कर रहे हैं ताकि AI दुनिया को स्पष्ट रूप से देख सके, न कि केवल उन पैटर्न को जिसे देखने के लिए उसे छला गया है।
इसे ठीक करने के लिए, शोधकर्ताओं ने एक चतुर तरकीब आजमाई है: वे "जेनरेटिव एआई" (एक डिजिटल कलाकार की तरह) का उपयोग करके नई, नकली तस्वीरें बनाते हैं ताकि हिसाब बराबर किया जा सके। यदि बाहर बड़े कुत्तों की पर्याप्त तस्वीरें नहीं हैं, तो कंप्यूटर कुछ तस्वीरें बना देता है। विचार यह था कि इन नई नकली तस्वीरों को असली तस्वीरों के साथ मिलाकर, रोब melalui अंततः बैकग्राउंड को अनदेखा करना सीख जाएगा। लेकिन, जैसा कि पता चला, इस मिक्स-एंड-मैच दृष्टिकोण में एक छिपा हुआ दोष था। नया पेपर, "फ्रॉम फेक टू रियल" (From Fake to Real), सुझाव देता है कि केवल वास्तविक और नकली तस्वीरों को एक साथ मिलाने से वास्तव में एक नया प्रकार का निर्भरता पैदा होती है। रोबोट यह नोटिस करने लगता है कि नकली तस्वीरें असली तस्वीरों से थोड़ी अलग दिखती हैं—शायद नकली कुत्तों की बनावट अजीब है या लाइटिंग बस थोड़ी सी अलग है। इसलिए, रोबोट एक नया, और भी अधिक चालाक शॉर्टकट सीख जाता है: "अगर फोटो असली फोटो जैसी दिखती है, तो यह छोटा कुत्ता है। अगर फोटो एक नकली ड्राइंग जैसी दिखती है, तो यह बड़ा कुत्ता है।" वह कुत्ते को नहीं देख रहा है; वह इस पर ध्यान दे रहा है कि छवि वास्तविक है या सिंथेटिक।
इस पेपर के लेखक, मान क्रैटिम, केट सेनको और ब्रायन ए. प्लमर ने महसूस किया कि रोबोट को वास्तविक और नकली दोनों तरह की तस्वीरों के साथ एक साथ सिखाने की कोशिश ही समस्या थी। उन्होंने एक नया दो-चरणीय प्रशिक्षण तरीका प्रस्तावित किया जिसे "फ्रॉम फेक टू रियल" (FFR) कहा जाता है। इसे एक छात्र को गणित की परीक्षा के लिए पढ़ाने की तरह समझें। पहले, आप उन्हें अभ्यास के सवालों का एक ढेर देते हैं जो पूरी तरह से संतुलित और समझने में आसान होते हैं, ताकि वे बिना किसी भ्रम के मूल अवधारणाओं को सीख सकें। यह "फेक" (नकली) चरण है: रोबोट केवल पूरी तरह से संतुलित, कंप्यूटर द्वारा निर्मित छवियों पर प्रशिक्षित होता है। वह बिना किसी अस्त-व्यस्त बैकग्राउंड के व्याकुलता के सीखता है कि एक कुत्ता कैसा दिखता है। एक बार जब रोबोट की नींव मजबूत हो जाती है, तो आप दूसरे चरण पर जाते हैं: "रियल" (वास्तविक) चरण। अब, आप उसे वास्तविक दुनिया की अस्त-व्यस्त तस्वीरें दिखाते हैं। क्योंकि रोबोट पहले चरण से पहले ही जान चुका है कि उसे क्या देखना है, वह बैकग्राउंड या तस्वीरों के "असली या नकली" होने के धोखे में नहीं आता। वह बस वही लागू करता है जो उसने सीखा है।
शोधकर्ताओं ने चेहरों और जानवरों की तस्वीरों सहित तीन अलग-अलग डेटासेट पर इस विचार का परीक्षण किया, जिसमें मध्यम से लेकर अत्यंत गंभीर (99.9% तक एक विशिष्ट सेटिंग में एक समूह होना) स्तर का बायस (bias) शामिल था। उन्होंने पाया कि उनका दो-चरणीय तरीका एक गेम-चेंजर था। जबकि वास्तविक और नकली डेटा को मिलाने वाले पिछले तरीके बायस बढ़ने पर संघर्ष करते थे, "फ्रॉम फेक टू रियल" दृष्टिकोण मजबूत बना रहा। वास्तव में, इसने सबसे कठिन मामलों (सबसे खराब समूह) पर रोबोट की सटीकता में मौजूदा सर्वोत्तम तरीकों की तुलना में 20% तक सुधार किया। जब उन्होंने बारीकी से देखा कि रोबोट वास्तव में किस चीज़ पर ध्यान दे रहा था, तो उन्होंने देखा कि पुराने तरीके अभी भी बैकग्राउंड या छवियों के "नकलीपन" से विचलित थे, लेकिन नया तरीका ठीक उसी कुत्ते या व्यक्ति के चेहरे पर केंद्रित था।
पेपर ने यह साबित करने के लिए भी सिमुलेशन चलाए कि पुराना तरीका काम क्यों नहीं करता था। उन्होंने दिखाया कि जब तक वास्तविक और सिंथेटिक डेटा को मिलाया जाता है, रोबोट लगभग हमेशा उनके बीच के अंतर को एक अलग पहचान करने वाले कारक के रूप में उपयोग करने का रास्ता खोज ही लेता है। प्रशिक्षण को दो अलग-अलग चरणों में विभाजित करके, उन्होंने प्रभावी रूप से रोबोट को वास्तविक और नकली के बीच के "अंतर" को सुराग के रूप में देखने से रोक दिया। लेखक नोट करते हैं कि यह तरीका अन्य तकनीकों के साथ जुड़कर भी अच्छा काम करता है, लेकिन वे एक सीमा की ओर भी इशारा करते हैं: यह एक कंप्यूटर कलाकार की इस क्षमता पर निर्भर करता है कि वह छवियों का एक पूरी तरह से संतुलित सेट बना सके। यदि कलाकार पहले चरण में संतुलन गलत करता है, तो पूरा सिस्टम प्रभावित होता है। हालांकि, फिलहाल के लिए, यह "फेक देन रियल" रणनीति गलत सबक सीखने से रोकने का एक आश्चर्यजनक रूप से सरल और प्रभावी तरीका प्रदान करती है, जिससे यह सुनिश्चित होता है कि जब वह एक कुत्ते को देखता है, तो वह कुत्ते को देखता है, न कि उस कमरे को जिसमें वह बैठा है।
अपने क्षेत्र के पेपरों की भीड़ में उलझे हुए हैं?
आपके रिसर्च कीवर्ड से मेल खाने वाले सबसे नए और अलग सोच वाले पेपरों का रोज़ाना Digest पाएँ—तकनीकी सारांश के साथ, आपकी भाषा में।