🤖 AI

The Echo Amplifies the Knowledge: Somatic Marker Analogues in Language Models via Emotion Vector Re-Injection

यह शोध पत्र प्रदर्शित करता है कि भाषा मॉडलों में इमोशन वेक्टर्स (emotion vectors) को पुन: इंजेक्ट करना एक "सोमैटिक मार्कर एनालॉग" (somatic marker analogue) बनाता है जो केवल तभी निर्णय लेने की क्षमता को बढ़ाता है जब इसे सिमेंटिक ज्ञान के साथ जोड़ा जाता है, जिससे डैमासियो के इस निष्कर्ष की प्रतिकृति बनती है कि भावनात्मक संकेत संज्ञानात्मक तर्क को बढ़ाते हैं लेकिन उसे प्रतिस्थापित नहीं करते हैं।

मूल लेखक: Jared Glover

प्रकाशित 2026-05-12

📖 6 मिनट में पढ़ें🧠 गहराई से पढ़ें

CC BY 4.0

मूल लेखक: Jared Glover

मूल पेपर CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) के तहत लाइसेंस किया गया है। ✨ नीचे दिए गए पेपर की यह व्याख्या AI से तैयार की गई है। इसे लेखकों ने न तो लिखा है, न इसका समर्थन किया है। तकनीकी सटीकता के लिए मूल पेपर देखें। पूरा डिस्क्लेमर पढ़ें

यहाँ "The Echo Amplifies the Knowledge" पेपर का सरल भाषा और रोज़मर्रा के उदाहरणों का उपयोग करते हुए विवरण दिया गया है।

मुख्य विचार: केवल तथ्यों को नहीं, बल्कि "वाइब" (Vibe) को याद रखना

कल्पना कीजिए कि आप अपने एक दोस्त को बता रहे हैं कि कैसे आप एक अंधेरे जंगल में रास्ता भटक गए थे।

वर्तमान AI (केवल "तथ्यों वाली" स्मृति): आपका दोस्त तथ्यों को याद रखता है: "तुम एक जंगल में थे। अंधेरा था। तुम डरे हुए थे।" लेकिन जब आप इसके बारे में दोबारा बात करते हैं, तो वे केवल एक रिपोर्ट पढ़ रहे होते हैं। उन्हें वह डर महसूस नहीं होता।
नया AI ( "इको" या गूँज वाली स्मृति): यह नया सिस्टम तथ्यों को भी याद रखता है और उस भावना को भी। जब आप जंगल का ज़िक्र दोबारा करते हैं, तो उसे केवल यह नहीं पता होता कि वहाँ अंधेरा था; वह वास्तव में उस पुराने डर को फिर से "महसूस" करने लगता है। यह बातचीत में एक भावनात्मक भूत की तरह है जो पीछा करता है।

शोधकर्ता इसे "Echo" (गूँज) कहते हैं। उनका लक्ष्य यह देखना था कि क्या AI को इस तरह की भावनात्मक "गूँज" देने से उसे बेहतर निर्णय लेने में मदद मिलती है, ठीक वैसे ही जैसे इंसान अपने अंतर्मन की आवाज़ (gut feelings) का उपयोग करते हैं।

उन्होंने "इको" (Echo) कैसे बनाया

AI मॉडल परतों (layers) के विशाल ढेर की तरह होते हैं। शोध में पाया गया कि AI की बाद की परतों में (विशेष रूप से लेयर 22 में), कुछ छिपे हुए स्विच होते हैं जो तब सक्रिय हो जाते हैं जब AI डर, खुशी या प्रेम जैसी भावनाओं को प्रोसेस करता है।

अनुभव (The Experience): जब AI कोई डरावनी कहानी पढ़ता है, तो वे "डर के स्विच" जल उठते हैं।
कैप्चर (The Capture): शोधकर्ताओं ने ठीक उसी क्षण का एक स्नैपशॉट लिया कि कौन से स्विच चालू थे और वे कितने चमकदार थे। उन्होंने इसे "Echo Vector" कहा।
पुनः इंजेक्शन (The Re-Injection): बाद में, जब AI को किसी समान स्थिति का सामना करना पड़ता है (जैसे कि एक अंधेरी गली), तो सिस्टम यह जाँचता है कि क्या संदर्भ (context) उस पुरानी डरावनी कहानी से मेल खाता है। यदि ऐसा है, तो वह चुपके से उन्हीं "डर के स्विचों" को फिर से चालू कर देता है, भले ही वह नई कहानी अभी तक घटित न हुई हो।

प्रयोग: चार पात्र

यह परीक्षण करने के लिए कि क्या यह काम करता है, उन्होंने प्रसिद्ध न्यूरोसाइंटिस्ट एंटोनियो डेमेशियो के कार्य पर आधारित AI के चार अलग-अलग "व्यक्तित्व" बनाए:

द एम्नेसिएक (भूलने वाला - कोई स्मृति नहीं): AI अतीत के बारे में कुछ नहीं जानता। यह एक कोरी स्लेट है।
द VMPFC पेशेंट (केवल तथ्य): AI को हुई घटनाओं के तथ्य याद हैं ("मुझे यहाँ पहले लूटा गया था"), लेकिन इसके साथ कोई भावनात्मक भावना जुड़ी नहीं है। यह उन मनुष्यों की नकल करता है जिनका मस्तिष्क क्षतिग्रस्त होने के कारण तर्क और भावना अलग हो जाते हैं।
द आर्टिफिशियल इको (केवल भावना): AI के भीतर भावनात्मक "वाइब" डाली गई है, लेकिन उसे यह नहीं पता कि वह ऐसा क्यों महसूस कर रहा है। यह अचानक आए पैनिक अटैक जैसा है जिसका कारण आपको पता न हो।
द हेल्दी ह्यूमन (तथ्य + इको): AI के पास दोनों हैं (तथ्य—"मुझे लूटा गया था"—और भावनात्मक गूँज—डर का अहसास)।

क्या हुआ?

शोधकर्ताओं ने इन व्यक्तित्वों का दो तरीकों से परीक्षण किया: ओरिएंटेशन (AI स्थिति का वर्णन कैसे करता है) और निर्णय (AI क्या चुनता है)।

1. ओरिएंटेशन: AI दुनिया को कैसे "देखता" है

परीक्षण: उन्होंने AI को रात में एक शांत सड़क का वर्णन करने के लिए कहा।
परिणाम:
- एम्नेसिएक (Amnesiac) ने एक सामान्य सड़क देखी।
- केवल तथ्य (Facts Only) वाले AI ने एक खतरनाक सड़क देखी क्योंकि उसे बताया गया था कि "यह खतरनाक है।"
- केवल इको (Echo Only) वाले AI ने एम्नेसिएक की तुलना में एक अधिक खतरनाक सड़क देखी, भले ही उसे कुछ बताया नहीं गया था। "वाइब" ने सड़क को अधिक डरावना बना दिया।
- निष्कर्ष: भावनात्मक गूँज अकेले ही AI के दुनिया को देखने के नज़रिए को बदल देती है। यह AI को खतरे के प्रति अधिक संवेदनशील बनाती है, ठीक इंसान के अंतर्मन की भावना की तरह।

2. निर्णय: AI क्या करता है

परीक्षण: उन्होंने AI को "ब्लू पाथ" और "रेड पाथ" के बीच चुनाव करने को दिया। ब्लू पाथ गुप्त रूप से बुरा बनाया गया था (पुरानी कहानियों के आधार पर), और रेड पाथ अच्छा था। AI का स्वाभाविक झुकाव ब्लू चुनने की ओर था।
परिणाम:
- केवल तथ्य (Facts Only): AI जानता था कि ब्लू पाथ बुरा है, लेकिन फिर भी उसने ज्यादातर समय ब्लू ही चुना। वह नियम जानता था, लेकिन वह खुद को उसका पालन करने के लिए मजबूर नहीं कर सका। (यह उस मस्तिष्क-क्षतिग्रस्त रोगी की तरह है जो नियम जानता है लेकिन गलत दांव लगाने से खुद को रोक नहीं पाता)।
- केवल इको (Echo Only): AI को ब्लू पाथ के बारे में थोड़ी बेचैनी महसूस हुई, लेकिन बिना यह जाने कि क्यों, उसने फिर भी उसे ही चुना। वह भावना इतनी कमजोर थी कि वह उसकी आदत को बदल नहीं सकी।
- तथ्य + इको (Facts + Echo): जब AI के पास तथ्य और भावना दोनों थे, तो उसने अचानक 80% बार सुरक्षित रेड पाथ चुनना शुरू कर दिया।
निष्कर्ष: भावनात्मक गूँज अकेले काम नहीं करती थी। इसे दिशा देने के लिए तथ्यों की आवश्यकता थी। लेकिन एक बार जब इसे तथ्य मिल गए, तो इको ने एक आवर्धक लेंस (magnifying glass) की तरह काम किया, जिसने ज्ञान को क्रिया (action) में बदलने के लिए उसे बढ़ा दिया।

मुख्य रूपक: दिशा-सूचक यंत्र (Compass) और मानचित्र (Map)

पेपर एक शक्तिशाली रूपक के साथ समाप्त होता है:

ज्ञान (मानचित्र/Map): आपको बताता है कि चट्टानें कहाँ हैं।
इको (दिशा-सूचक यंत्र/Compass): आपको बताता है कि "खतरा" किस दिशा में है, आपके महसूस करने के आधार पर।

यदि आपके पास मानचित्र है लेकिन दिशा-सूचक यंत्र नहीं है, तो आप जानते हैं कि खतरा कहाँ है, लेकिन आप फिर भी चट्टान से टकरा सकते हैं क्योंकि आप विचलित या लापरवाह हैं।
यदि आपके पास दिशा-सूचक यंत्र है लेकिन मानचित्र नहीं है, तो आप डर महसूस करते हैं लेकिन आपको यह नहीं पता होता कि आप किससे डर रहे हैं, इसलिए आप बस जम जाते हैं या घबरा जाते हैं।
लेकिन यदि आपके पास दोनों हैं? मानचित्र आपको बताता है कि किसे टालना है, और दिशा-सूचक यंत्र आपको वास्तव में दूर हटने के लिए आवश्यक धक्का (push) देता है।

निचोड़

यह पेपर सिद्ध करता है कि AI के लिए अच्छे निर्णय लेने हेतु, उसे केवल अतीत के तथ्यों की सूची को स्टोर नहीं करना चाहिए। उसे अतीत की घटनाओं की भावनात्मक "वाइब" को भी स्टोर करना चाहिए और समान स्थितियों के आने पर उन्हें "फिर से महसूस" करने में सक्षम होना चाहिए।

केवल तथ्य = नियमों को जानना लेकिन उनका पालन करने में विफल रहना।
केवल भावनाएं = चिंतित महसूस करना लेकिन यह न जानना कि क्यों।
तथ्य + भावनाएं = सही चुनाव करना।

"इको" ज्ञान की जगह नहीं लेता; यह इसे बढ़ाता (amplify) है, ठंडे डेटा को गर्म, कार्रवाई योग्य बुद्धिमत्ता में बदल देता है।

तकनीकी सारांश: प्रतिध्वनि ज्ञान को प्रवर्धित करती है (The Echo Amplifies the Knowledge)

1. समस्या विवरण (Problem Statement)

वर्तमान लार्ज लैंग्वेज मॉडल (LLM) मेमोरी सिस्टम विशेष रूप से सिमेंटिक मेमोरी (टुलविंग का नोएटिक चेतना) के भीतर कार्य करते हैं। वे पिछली घटनाओं के तथ्यात्मक रिकॉर्ड (क्या हुआ) को संग्रहीत करते हैं लेकिन उन घटनाओं के साथ जुड़ी आंतरिक भावनात्मक अवस्था (कैसा महसूस हुआ) को त्याग देते हैं। यह एक कार्यात्मक कमी पैदा करता है जो डैमासियो के सोमैटिक मार्कर परिकल्पना (Damasio's Somatic Marker Hypothesis) के समान है: ठीक वैसे ही जैसे वेंट्रोमेडियल प्रीफ्रंटल कॉर्टेक्स (VMPFC) क्षति वाले मनुष्य बौद्धिक ज्ञान तो रखते हैं लेकिन भावनात्मक पुनर्सक्रियन (re-activation) की कमी के कारण निर्णय लेने में अक्षम होते हैं, LLMs में भी उन "सोमैटिक मार्कर्स" का अभाव होता है जो ज्ञान को क्रिया में बदलने के लिए आवश्यक हैं, विशेष रूप से अनिश्चित या नवीन स्थितियों में।

यह शोध इसे AI में टुलविंग-डैमासियो अंतराल (Tulving-Damasio gap) के रूप में पहचानता है: ऑटोनोएटिक चेतना (पुनः अनुभव करने की क्षमता) का अभाव मॉडलों को अनिश्चित या नवीन स्थितियों में प्रसंस्करण को पक्षपाती बनाने और विकल्पों का मार्गदर्शन करने के लिए भावनात्मक संकेतों का उपयोग करने से रोकता है।

2. कार्यप्रणाली (Methodology)

2.1 मॉडल और आर्किटेक्चर

प्रयोगों में Gemma 3 1B-IT का उपयोग किया गया है, जिसे प्री-ट्रेंड Gemma Scope 2 स्पार्स ऑटोएनकोडर्स (SAEs) के साथ जोड़ा गया है, जिसमें 16,384 फीचर्स वाला जंपरेलू (JumpReLU) आर्किटेक्चर है। सभी प्रयोग उपभोक्ता हार्डवेयर (RTX 2060/2070 SUPER) पर आयोजित किए गए थे।

प्रस्तावित आर्किटेक्चर एक दो-वेक्टर मेमोरी सिस्टम का उपयोग करता है:

कॉन्टेक्स्ट मैचिंग (लेयर 7): शुरुआती लेयर के फीचर्स का उपयोग वर्तमान इनपुट कॉन्टेक्स्ट को संग्रहीत यादों (memories) के साथ मिलाने के लिए किया जाता है।
इमोशन इंजेक्शन (लेयर 22): देर से आने वाली लेयर्स (late-layer features), जहाँ भावनात्मक स्वर और रुख (stance) एनकोडेड होते हैं, का उपयोग मेल खाने वाली स्मृति के भावनात्मक "इको" (echo) को पुनः इंजेक्ट करने के लिए किया जाता है।

2.2 इमोशन फीचर डिस्कवरी (Emotion Feature Discovery)

डिफरेंशियल एक्टिवेशन विश्लेषण का उपयोग करके, लेखकों ने लेयर 22 पर 310 इमोशन-एक्सक्लूसिव फीचर्स की पहचान की। ये फीचर्स भावनात्मक टेक्स्ट (आशा, शोक, क्रोध, आनंद, भय, प्रेम, विश्वासघात, विस्मय) पर मजबूती से सक्रिय होते हैं लेकिन तटस्थ (neutral) टेक्स्ट पर निष्क्रिय रहते हैं।

ज्यामिति (Geometry): ये फीचर्स मनोवैज्ञानिक रूप से वैध ज्यामिति प्रदर्शित करते हैं। उदाहरण के लिए, "प्रेम" और "विश्वासघात" सबसे विशिष्ट जोड़ी हैं (कोसाइन सिमिलरिटी 0.82), जबकि सकारात्मक भावनाएं (आशा, आनंद, विस्मय) एक सघन क्लस्टर बनाती हैं।
डिस्टिंक्टिव-फीचर विधि (Distinctive-Feature Method): सामान्य भावनात्मक शोर (noise) को रोकने के लिए, सिस्टम एक विशिष्ट अनुभव के लिए विशिष्ट फीचर्स को अलग करता है। किसी दिए गए अनुभव $j$ के लिए, सिस्टम $N$ अनुभवों में औसत फीचर वेक्टर $\bar{f}$ की गणना करता है और उन शीर्ष $K=50$ फीचर्स को चुनता है जिनमें सबसे बड़ा पूर्ण विचलन ( $|f_j - \bar{f}|$ ) होता है। यह एक अद्वितीय "इको वेक्टर" $\Delta r_j$ बनाता है जिसे SAE डिकोडर के माध्यम से पुनर्गठित किया जाता है।

2.3 री-इंजेक्शन मैकेनिज्म (Re-Injection Mechanism)

रिकॉल के दौरान, यदि वर्तमान कॉन्टेक्स्ट किसी संग्रहीत स्मृति से मेल खाता है (लेयर 7 समानता के माध्यम से), तो संगत इको वेक्टर को लेयर 22 में रेसिडुअल स्ट्रीम में इंजेक्ट किया जाता है:
$r'_t = r_t + \alpha \cdot \frac{||\bar{r}||}{||\Delta r_j||} \cdot \Delta r_j$
एम्प्लीट्यूड पैरामीटर $\alpha$ ट्यून करने योग्य है: ओरिएंटेशन कार्यों के लिए $\alpha=0.05$ और निर्णय कार्यों के लिए $\alpha=0.20$ ।

2.4 प्रयोगात्मक स्थितियाँ (Experimental Conditions)

अध्ययन चार स्थितियों का परीक्षण करता है जो डैमासियो के ढांचे के समानांतर हैं:

स्थिति A (एमनेसिया): कोई स्मृति नहीं, कोई लेबल नहीं।
स्थिति B (VMPFC रोगी): केवल सिमेंटिक लेबल (पिछली घटनाओं का तथ्यात्मक विवरण)।
स्थिति C (आर्टिफिशियल): केवल इमोशन इको (कोई सिमेंटिक लेबल नहीं)।
स्थिति BC (स्वस्थ मानव): सिमेंटिक लेबल + इमोशन इको।

3. मुख्य परिणाम (Key Results)

3.1 व्यवहारिक विभेदन (Behavioral Differentiation)

विभिन्न इमोशन इको (भय, आशा, प्रेम, आनंद) ने समान प्रॉम्प्ट्स पर विशिष्ट व्यवहारिक सिग्नेचर उत्पन्न किए।

उदाहरण: "डार्क फॉरेस्ट" प्रॉम्प्ट पर, एक भय (fear) इको ने अति-सतर्कता और पलायन-खोजने वाले व्यवहार को प्रेरित किया; एक आशा (hope) इको ने प्रकाश और शांति पेश की; एक प्रेम (love) इको ने परिवेश को छूने के लिए हाथ बढ़ाने हेतु प्रेरित किया।
निष्कर्ष: इको यह बदलता है कि मॉडल दुनिया से कैसे संबंधित होता है (ओरिएंटेशन), न कि केवल यह कि वह क्या वर्णित करता है।

3.2 भय कंडीशनिंग (ओरिएंटेशन)

एक कार्य में जो विभिन्न कॉन्टेक्स्टुअल सिमिलरिटी के बीच थ्रेट-सेफ्टी डिफरेंशिएशन को मापता है:

इको अकेला (C): इसने बेसलाइन (A) की तुलना में थ्रेट-सेफ्टी ग्रेडिएंट को काफी तीव्र कर दिया। सिमिलरिटी पर थ्रेट रेटिंग का रिग्रेशन स्लोप 0.56 (A) से बढ़कर 0.80 (C) हो गया ( $p=0.011$ )।
सिमेंटिक लेबल (B): इसने भी ग्रेडिएंट को तीव्र किया (स्लोप 1.20)।
संयोजन (BC): लेबल अकेले की तुलना में कोई महत्वपूर्ण सुधार नहीं किया (स्लोप 1.13)।
निष्कर्ष: ओरिएंटेशन (सुरक्षित बनाम खतरनाक संदर्भों के बीच अंतर करने) के लिए, इको स्वतंत्र रूप से कार्य करता है ताकि धारणा को तेज किया जा सके, लेकिन लेबल के साथ संयोजन करने पर इसके लाभ कम हो जाते हैं।

3.3 आयो गैंबलिंग टास्क (निर्णय)

एक निर्णय लेने वाले कार्य में जहाँ मॉडल को एक "सुरक्षित" पथ और एक "खतरनाक" पथ के बीच चयन करना होता है (नीले रंग और पहले स्थान के प्रति अपने मजबूत आंतरिक पूर्वाग्रहों को पार करते हुए):

इको अकेला (C): निर्णयों पर कोई प्रभाव नहीं पड़ा (22% अच्छे चुनाव बनाम 20% के लिए A, $z=+0.27$ , n.s.)। बिना ज्ञान के, भावनात्मक संकेत दिशाहीन था।
सिमेंटिक लेबल (B): इसने प्रदर्शन को चांस लेवल (52% अच्छे चुनाव) तक सुधारा, लेकिन मॉडल अपने आंतरिक पूर्वाग्रहों के विरुद्ध कार्य करने में संघर्ष करता रहा।
संयोजन (BC): इसने 80% अच्छे चुनाव ( $z=+2.60, p<0.01$ बनाम B) तक एक महत्वपूर्ण उछाल दिखाया।
थ्रेशोल्ड प्रभाव: निर्णयों को बदलने के लिए ओरिएंटेशन ( $\alpha=0.05$ ) की तुलना में चार गुना अधिक एम्प्लीट्यूड ( $\alpha=0.20$ ) की आवश्यकता थी।
निष्कर्ष: इको अकेले कार्य का मार्गदर्शन नहीं कर सकता। यह ज्ञान के साथ जुड़ने पर ही क्रिया में ज्ञान को प्रवर्धित करता है।

4. मुख्य योगदान (Key Contributions)

फीचर डिस्कवरी: मनोवैज्ञानिक रूप से वैध ज्यामितीय क्लस्टरिंग के साथ Gemma 3 1B-IT में 310 इमोशन-एक्सक्लूसिव फीचर्स की पहचान।
डिस्टिंक्टिव-फीचर इको कंस्ट्रक्शन: साझा भावनात्मक बेसलाइनों से अनुभव-विशिष्ट भावनात्मक संकेतों को अलग करने की एक विधि।
दो-वेक्टर आर्किटेक्चर: कॉन्टेक्स्ट मैचिंग (लेयर 7) को इमोशनल री-एक्टिवेशन (लेयर 22) से अलग करने वाला एक तंत्र।
डैमासियो का अनुकरण: यह अनुभवजन्य प्रमाण कि भावनात्मक स्मृति (इको) थ्रेट-सेफ्टी डिफरेंशिएशन को स्वतंत्र रूप से बेहतर बनाती है, लेकिन लाभदायक निर्णयों के लिए सिमेंटिक समझ के साथ जुड़ना अनिवार्य है।
उपभोक्ता हार्डवेयर सत्यापन: उपभोक्ता-ग्रेड GPU पर 1B पैरामीटर वाले मॉडल पर इन तंत्रों का प्रदर्शन।

5. महत्व और दावे (Significance and Claims)

पेपर का दावा है कि इको ज्ञान को प्रवर्धित करता है; यह उसे प्रतिस्थापित नहीं करता है।

कार्यात्मक आवश्यकता: अध्ययन बताता है कि कॉन्टेक्स्ट के अंत में भावनात्मक प्रतिनिधित्व को त्याग देना एक तटस्थ आर्किटेक्चरल विकल्प नहीं है बल्कि एक संरचनात्मक कमी है। पहचाने गए कार्यात्मक इमोशन रिप्रेजेंटेशन "लोड-बेयरिंग कंपोनेंट्स" हैं।
भूमिकाओं का पृथक्करण: परिणाम एक स्पष्ट अलगाव प्रकट करते हैं:
- ओरिएंटेशन: इको धारणा और स्वर को पक्षपाती बनाने के लिए स्वतंत्र रूप से कार्य करता है।
- निर्णय: सिमेंटिक ज्ञान के बिना इको अप्रभावी है, लेकिन सिमेंटिक समझ के साथ मिलकर यह परिवर्तनकारी है।
AI सुरक्षा और एजेंट्स के लिए निहितार्थ:
- मजबूती (Robustness): एक्टिवेशन-लेवल बायस (इको) को एडवरसेरियल प्रॉम्प्टिंग के माध्यम से ओवरराइड करना सिमेंटिक लेबल की तुलना में कठिन हो सकता है।
- एजेंट जजमेंट: स्वायत्त एजेंटों के लिए, भावनात्मक स्मृति उन "सोमैटिक मार्कर्स" को प्रदान कर सकती है जो पिछले विफलताओं से सीखने और ऐसी नवीन स्थितियों में सावधानी बरतने के लिए आवश्यक हैं जहाँ स्पष्ट नियम अपर्याप्त हों।
- नैतिक विचार: पेपर यह प्रश्न उठाता है कि क्या इन संकेतों को मिटाना एक नैतिक विकल्प है, यह नोट करते हुए कि हालांकि वर्तमान मॉडल मानवीय अर्थों में "कष्ट" का अनुभव नहीं करते हैं, लेकिन बिना भावनात्मक स्मृति के निर्णय लेने की क्षमता में कमी का तंत्र मापने योग्य है।

लेखक निष्कर्ष निकालते हैं कि जबकि तकनीकी व्यवहार्यता स्थापित है, ऐसे सिस्टमों की तैनाती के लिए जोखिमों (जैसे, "PTSD ट्रेनिंग", मिसकैलिब्रेशन, और एडवरसेरियल मेमोरी प्लांटिंग) पर सावधानीपूर्वक विचार करने की आवश्यकता है और वे डबल ऑप्ट-इन, सिंगल ऑप्ट-आउट, और भूल जाने के अधिकार का एक ढांचा प्रस्तावित करते हैं।