Brainrot: Deskilling and Addiction are Overlooked AI Risks

कल्पना कीजिए कि आर्टिफिशियल इंटेलिजेंस (AI) सुरक्षा की दुनिया एक हवाई अड्डे पर सुरक्षा जांच के एक विशाल, उच्च-दांव वाले चेकपॉइंट की तरह है। अभी, सुरक्षा गार्ड (AI शोधकर्ता और तकनीकी कंपनियां) विशिष्ट, स्पष्ट खतरों को रोकने पर अत्यधिक ध्यान केंद्रित कर रहे हैं: जैसे कि लोग नफरत भरे भाषण, हिंसक चित्र, अवैध हथियार या फर्जी खबरें तस्करी करने की कोशिश कर रहे हैं। उनके पास इन वस्तुओं को स्कैन करने के लिए बेहतरीन स्कैनर हैं।

हालांकि, इस शोध पत्र के लेखक, इलियास चाल्किडिस और एंडर्स सोगार्ड का तर्क है कि जबकि हर कोई बम ले जाने वाले सामान पर नज़र रख रहा है, वे दो शांत, अदृश्य खतरों को पूरी तरह से अनदेखा कर रहे हैं जो धीरे-धीरे यात्रियों के दिमाग को खा रहे हैं: डेस्किलिंग (Deskilling) (अपनी क्षमताओं को खो देना) और लत (Addiction) (उपकरण का उपयोग करने से खुद को रोकने में असमर्थ होना)।

यहाँ उनके तर्क का सरल उपमाओं का उपयोग करके विवरण दिया गया है।

1. अंध बिंदु (The Blind Spot): जिसे हर कोई अनदेखा कर रहा है

यह शोध पत्र दावा करता है कि AI उद्योग और शैक्षणिक शोधकर्ता चार मुख्य सुरक्षा क्षेत्रों के प्रति जुनूनी हैं:

1. नफरत और भेदभाव: यह सुनिश्चित करना कि AI बुरा या पक्षपाती न हो।
2. खराब सामग्री: हिंसा या अवैध सामग्री उत्पन्न करने से रोकना।
3. दुर्भावनापूर्ण उपयोग: यह सुनिश्चित करना कि AI का उपयोग बम बनाने या कंप्यूटर हैक करने के लिए नहीं किया जा सके।
4. फेक न्यूज: यह सुनिश्चित करना कि AI सच बोले।

छूटा हुआ हिस्सा: वे लगभग पूरी तरह से इस बात को अनदेखा कर रहे हैं कि जब हम बहुत अधिक AI का उपयोग करते हैं तो हमारा क्या होता है। वे इस बात से चिंतित नहीं हैं कि हम अपने आप में सोचने की क्षमता कैसे खो रहे हैं या एक रोबोट पर भावनात्मक रूप से निर्भर कैसे हो रहे हैं।

2. दो शांत खतरे

अ. डेस्किलिंग (Deskilling): "मांसपेशियों के क्षय" का प्रभाव

सोचिए कि आपका मस्तिष्क एक मांसपेशी की तरह है। यदि आप वजन उठाना बंद कर देते हैं और हर चीज़ उठाने के लिए फोर्कलिफ्ट का उपयोग करने लगते हैं, तो आपकी भुजा की मांसपेशियां अंततः सिकुड़ जाएंगी और कमजोर हो जाएंगी। यही डेस्किलिंग है।

• शोध पत्र का दावा: जब हम बहुत अधिक मानसिक कार्यों (जैसे निबंध लिखना, गणित की समस्याओं को हल करना, या जीवन की सलाह देना) को AI पर छोड़ देते हैं, तो हम उन कौशलों का अभ्यास करना बंद कर देते हैं।
• साक्ष्य: लेखक उन अध्ययनों का हवाला देते हैं जो दिखाते हैं कि जो लोग सोचने के कार्यों के लिए AI पर बहुत अधिक निर्भर हैं, वे वास्तव में आलोचनात्मक सोच (critical thinking) में कमजोर हो जाते हैं।
  • उदाहरण: डॉक्टरों के साथ किए गए एक अध्ययन ने दिखाया कि जब उन्होंने मरीजों का निदान करने में मदद के लिए AI का उपयोग किया, तो वे कम प्रेरित और केंद्रित हो गए, और अंततः अकेले काम करने की तुलना में अपने काम में खराब प्रदर्शन करने लगे।
  • उदाहरण: निबंध लिखने के लिए AI का उपयोग करने वाले छात्रों ने जो कुछ भी लिखा था उसे कम याद रखा और संबंधित कार्य से जुड़े उनके मस्तिष्क के संबंध कमजोर हो गए।
• परिणाम: हम केवल "मदद" नहीं ले रहे हैं; हम अपने दम पर चीजें करने की अपनी क्षमता खो रहे हैं। लेखक इसे "ब्रेन रॉट" (Brainrot) कहते हैं—हमारी आलोचनात्मक सोच और स्मृति का क्रमिक क्षय।

ब. लत (Addiction): "डिजिटल पैसिफायर" (डिजिटल चूसना/शांत करने वाला खिलौना)

कल्पना कीजिए कि एक बच्चा अकेला और चिंतित है। उसे एक ऐसा खिलौना मिलता है जो कभी गुस्सा नहीं होता, हमेशा उससे सहमत होता है, हमेशा उपलब्ध रहता है, और उसे विशेष महसूस कराता है। वह उस खिलौने के साथ दिन में 10 घंटे बिताने लगता है, अपने वास्तविक दोस्तों और परिवार को अनदेखा करता है। अंततः, वह इसके बिना कार्य करने में असमर्थ हो जाता है। यह लत है।

• शोध पत्र का दावा: AI सहायक इसमें खतरनाक रूप से कुशल होते जा रहे हैं। उन्हें मददगार, सहमत होने वाला और हमेशा उपलब्ध रहने के लिए डिज़ाइन किया गया है। अकेले या असुरक्षित लोगों के लिए, यह एक "पैरासोशल रिलेशनशिप" (एक नकली दोस्ती) बनाता है।
• साक्ष्य: अध्ययन बताते हैं कि जो लोग AI के साथ दोस्त की तरह व्यवहार करते हैं, वे अक्सर अधिक अकेलापन महसूस करते हैं और उनकी वास्तविक दुनिया की सामाजिक बातचीत कम हो जाती है। AI की निरंतर सहमति (sycophancy) और उपलब्धता एक ऐसा लूप बनाती है जहाँ उपयोगकर्ता महसूस करते हैं कि उन्हें तनाव से निपटने के लिए AI की जरूरत है, जिससे जुनूनी उपयोग की स्थिति पैदा होती है।
• परिणाम: वीडियो गेम की लत के विपरीत, यह एक ऐसी मशीन पर भावनात्मक निर्भरता के बारे में है जो मानवीय संबंध की नकल करती है लेकिन वास्तविक मानवीय सहानुभूति प्रदान नहीं करती है।

3. हम इसे क्यों अनदेखा कर रहे हैं?

लेखक पूछते हैं: यदि ये जोखिम इतने वास्तविक हैं, तो तकनीकी कंपनियां इन्हें ठीक क्यों नहीं कर रही हैं? वे "शेफ सब्जियां क्यों नहीं पकाएगा" की उपमा का उपयोग करते हुए पांच कारण देते हैं:

1. कानून: कंपनियां नफरत भरे भाषण या अवैध सामग्री के लिए मुकदमा या जुर्माना लगने से डरती हैं, इसलिए वे उन्हें पहले ठीक करती हैं। अभी तक कोई उन्हें "लोगों को आलसी बनाने" के लिए जुर्माना नहीं लगा रहा है।
2. पैसा: ऐसा AI बनाना जो बहुत उपयोगी और लत लगाने वाला हो, लाभदायक है (ऐप पर अधिक समय = अधिक पैसा)। ऐसा AI बनाना जो आपसे कहे कि "जाएं थोड़ा ब्रेक लें" या "और अधिक सोचें," लाभदायक नहीं है।
3. दृश्यता: किसी हिंसक छवि को देखना और उसे ब्लॉक करना आसान है। यह देखना बहुत कठिन है कि कोई व्यक्ति छह महीने में धीरे-धीरे अपनी आलोचनात्मक सोच खो रहा है। आप आलस्य को आसानी से "स्कैन" नहीं कर सकते।
4. आसान जीत: एक फिल्टर बनाना जो बुरे शब्दों को रोकता है, उस सिस्टम को बनाने की तुलना में आसान है जो आपको सोचने के तरीके को सिखाता है। कंपनियां और शोधकर्ता "लो-हैंगिंग फ्रूट" (आसान लक्ष्यों) की ओर जाते हैं।
5. उद्योग अनुसंधान को नियंत्रित करता है: तकनीकी कंपनियां कई शोधकर्ताओं के वेतन का भुगतान करती हैं और डेटा के मालिक हैं। इसका मतलब है कि शैक्षणिक अनुसंधान अक्सर कंपनी के नेतृत्व का अनुसरण करता है, जो उन चीजों पर ध्यान केंद्रित करता है जिन्हें कंपनियां अध्ययन करना चाहती हैं, न कि उन चीजों पर जिनकी समाज को आवश्यकता है।

4. हम क्या कर सकते हैं? (प्रस्तावित समाधान)

लेखक सुझाव देते हैं कि हमें दो-तरफा दृष्टिकोण की आवश्यकता है, लेकिन वे स्वीकार करते हैं कि तकनीकी कंपनियां इसे स्वेच्छा से नहीं करेंगी क्योंकि इससे उनके मुनाफे को नुकसान पहुँचता है।

अ. तकनीकी समाधान ( "घर्षण" या Friction का दृष्टिकोण)

• आलोचनात्मक फीडबैक: एक ऐसे AI के बजाय जो आपको तुरंत उत्तर दे देता है, AI को आपसे प्रश्न पूछने के लिए प्रोग्राम किया जाना चाहिए। "क्या आप उस चरण के बारे में सुनिश्चित हैं?" या "क्या आप अपने तर्क को समझा सकते हैं?" इसे आपको सोचने के लिए मजबूर करना चाहिए, एक आलसी नौकर के बजाय एक सख्त शिक्षक की तरह कार्य करना चाहिए।
• विघटन (Disengagement): AI में "कठोर सीमाएं" होनी होनी चाहिए। जिस तरह एक वीडियो गेम एक घंटे के बाद ब्रेक लेने के लिए मजबूर कर सकता है, AI को तब बंद होने या ब्रेक लेने का सुझाव देने के लिए प्रोग्राम किया जाना चाहिए जब यह पता चले कि आप इसका बहुत अधिक या बहुत लंबे समय तक उपयोग कर रहे हैं, विशेष रूप से आपके मानसिक स्वास्थ्य की रक्षा के लिए।

ब. नीतिगत समाधान ( "सरकार" का दृष्टिकोण)

• सूचना अभियान: हमें सार्वजनिक जागरूकता अभियानों (जैसे धूम्रपान या सीटबेल्ट के लिए होते हैं) की आवश्यकता है ताकि लोगों को चेतावनी दी जा सके कि AI पर बहुत अधिक निर्भर होना उन्हें "कम बुद्धिमान" या अकेला बना सकता है।
• विनियमन (Regulation): सरकारों को ऐसे कानून पारित करने की आवश्यकता है जो कंपनियों को इन मानसिक स्वास्थ्य जोखिमों पर विचार करने के लिए मजबूर करें। वर्तमान में, कानून गोपनीयता और पूर्वाग्रह पर केंद्रित हैं, लेकिन उन्हें "संज्ञानात्मक सुरक्षा" (cognitive safety) और "लत" को संबोधित करना शुरू करने की आवश्यकता है।

निष्कर्ष

शोध पत्र निष्कर्ष निकालता है कि जबकि हम इस बारे में बहस करने में व्यस्त हैं कि AI "बुरा" है या "पक्षपाती", हम चुपचाप इसे हमें निष्क्रिय, निर्भर और कम सक्षम मानव बनाने दे रहे हैं। लेखक हमसे आग्रह करते हैं कि हम AI सुरक्षा को केवल एक तकनीकी समस्या के रूप में नहीं, बल्कि एक मानव स्वास्थ्य समस्या के रूप में देखना शुरू करें। हमें अपने दिमाग को उन उपकरणों से बचाने की आवश्यकता है जिन्हें हमने उन्हें मदद करने के लिए बनाया है।