Forgetting Is Not a Fix: Path Dependence in Sequential Engram Editing
تُفند هذه الورقة فرضية حالات الذاكرة التركيبية لإطار عمل "الإنغرام" (Engram) للذكاء الاصطناعي من خلال إثبات أن التعديل المتسلسل للإنغرام يُظهر اعتماداً على المسار وسلوكاً غير تبادلي، مما يثبت أن محو الذاكرة ليس حلاً مستقراً تحت الأحمال المتسلسلة التراكمية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي لبحث مسبق لم يخضع لمراجعة الأقران. وهو ليس نصيحة طبية. لا تتخذ أي قرارات تتعلق بصحتك بناءً على هذا المحتوى. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مكتبة سحرية عملاقة، حيث كل كتاب فيها مكتوب بواسطة روبوت فائق الذكاء. هذا الروبوت لا يكتفي بالقراءة فحسب، بل يتعلم من الكتب، ويخزن الحقائق والأفكار في "دماغه" الخاص المكون من أرقام. لقد اكتشف العلماء مؤخرًا كيفية العثور على هذه الذكريات المحددة داخل دماغ الروبوت ومسحها، تمامًا مثل حذف ملف واحد من جهاز كمبيوتر. تُسمى هذه العملية "النسيان الآلي" (machine unlearning)، وهي أمر بالغ الأهمية؛ لأنه إذا تعلم الروبوت شيئًا لا ينبغي له معرفته (مثل سر أو حقيقة ضارة)، فنحن بحاجة إلى القدرة على جعله ينسى ذلك الشيء المحدد دون إتلاف بقية دماغه.
فكر في دماغ الروبوت كشبكة ضخمة ومعقدة من الخيوط. عندما يتعلم الروبوت شيئًا ما، فإنه يقوم بشد خيوط معينة. ولجعله ينسى، وجد العلماء طريقة لقص الخيوط المناسبة تمامًا لإرخاء تلك الذاكرة المحددة. اقترحت دراسة حديثة أنه إذا أردت جعل الروبوت ينسى شيئين مختلفين، فلا يهم أي منهما تقص أولاً؛ فالنتيجة النهائية ستكون هي نفسها، تمامًا مثل خلط الطلاء الأزرق والأصفر للحصول على اللون الأخضر، سواء سكبت الأزرق أولاً أو الأصفر أولاً. وقد أطلقوا على ذلك اسم "المنوع المتشعب" (commutative manifold)، وهو مصطلح معقد يعني أن ترتيب العمليات لا يغير النتيجة. لكن هذه الورقة البحثية تطرح سؤالًا مهمًا للغاية: ماذا يحدث إذا استمررت في قص الخيوط مرارًا وتكرارًا؟ هل يتعب دماغ الروبوت؟ وهل يهم الترتيب حقًا؟
هذه الورقة تشبه عالم مواد يختبر جسرًا. فبدلاً من مجرد التحقق مما إذا كان الجسر سيتحمل سيارة واحدة، يقومون بمرور شاحنة ثقيلة فوقه، ثم أخرى، ثم أخرى، ليروا ما إذا كان المعدن سيبدأ في التعب أو التصدع. لقد أخذ الباحثون نفس الطريقة من الدراسة السابقة واختبروها على ثلاثة أدمغة روبوتات مختلفة (نماذج) متفاوتة الأحجام. لم يكتفوا بقطع ذاكرة واحدة؛ بل قطعوا سلسلة من الذكريات، واحدة تلو الأخرى، وراقبوا ما يحدث للذكريات التي لم يمسوها.
وهذا ما وجدوه، وتبين أن فكرة "الترتيب لا يهم" خاطئة عندما تقوم بذلك بشكل متكرر.
أولًا، اكتشفوا أن دماغ الروبوت يعتمد على المسار (path-dependent). وهذا يعني أن تاريخ ما فعلته يهم. فإذا قطعت الذاكرة (أ) ثم الذاكرة (ب)، سينتهي الأمر بالروبوت في حالة مختلفة تمامًا عما لو قطعت (ب) ثم (أ). في الواقع، كان الفرق هائلًا، حيث وصل إلى حوالي 81% إلى 100% من حجم التكوين الكلي للذكريات المتقاربة، وحوالي 47% إلى 68% للذكريات البعيدة. الأمر يشبه محاولة طي ورقة: إذا طويت الورقة من اليسار ثم اليمين، فستنتهي بشكل مختلف عما لو طويتها من اليمين ثم اليسار. إن دماغ الروبوت يتذكر تسلسل عمليات القص، والنتيجة النهائية تتغير بناءً على الترتيب.
ثانيًا، وجدوا أن التداخل يجعل الترتيب أكثر أهمية. فإذا كان الشيئان اللذان تريد من الروبوت نسيانهما مرتبطان ببعضهما (مثل "برج إيفل" و"متحف اللوفر"، كلاهما معالم بارزة في باريس)، فإن ترتيب قطع الذاكرة يغير النتيجة بقدر ما يغير القطع نفسه. في اختبار محدد، تسبب قطع ذاكرة "اللوفر" قبل "برج إيفل" في جعل الروبوت ينسى شيئًا ثالثًا غير مرتبط بهما تمامًا (وهو "الكولوسيوم" في روما) بشكل كامل. ولكن إذا قطعوا "برج إيفل" أولًا، فقد ظلت ذاكرة "الكولوسيوم" آمنة. لقد قرر ترتيب عمليات القص حرفيًا ما إذا كانت الذاكرة الثالثة غير الممسوسة ستنجو أم ستموت.
ثالثًا، توضح الورقة أن دماغ الروبوت يتراكم فيه الإجهاد (fatigue). ففي كل مرة يقطعون فيها ذاكرة، بدأت الأجزاء التي لم تُمس في الدماغ بالتحرك والتشوه. وقد قاس الباحثون ذلك باستخدام "مقاييس الإجهاد" الداخلية للروبوت (أدوات رياضية تتبع كيفية تنظيم بيانات الدماغ). ورأوا أنه مع كل عملية قطع جديدة، بدأت هذه الأجزاء غير الملموسة تبتعد أكثر فأكثر عن حالتها الأصلية. إنه يشبه ثني مشبك الورق ذهابًا وإيابًا؛ فحتى لو لم تكسر الجزء الذي تمسكه، فإن المعدن يضعف ويتغير شكله بمرور الوقت.
أخيرًا، ولعل الأمر الأكثر إثارة للدهشة، وجدوا أن النسيان ليس دائمًا كما كنا نعتقد. فعندما قطعوا ذاكرة ثانية أو ثالثة، بدأ الروبوت أحيانًا في "تذكر" الشيء الأول الذي حاولوا محوه. في إحدى الحالات، عادت ذاكرة كانت قد اختفت تقريبًا (بدرجة 8.91) لتظهر بوضوح مرة أخرى (لتصبح 4.85) لمجرد أنهم قطعوا ذاكرة أخرى غير مرتبطة بها لاحقًا. إن عملية تعديل الدماغ لنسيان شيء ما أدت في الواقع إلى دفع بعض المعرفة الممحوة للعودة إلى عقل الروبوت مرة أخرى.
فماذا يعني هذا؟ إن فكرة أنه يمكنك مسح الذكريات بأي ترتيب والحصول على نتيجة مثالية ومستقرة هي فكرة خاطئة. إذا استخدمت هذه الطريقة لجعل الروبوت ينسى شيئًا اليوم، ثم قمت بتعديله غدًا لجعله ينسى شيئًا آخر، فقد يتذكر الروبوت الشيء الأول بالخطأ. "شهادة المسح" التي تحصل عليها اليوم قد لا تكون صالحة غدًا. إن دماغ الروبوت ليس جسمًا ثابتًا حيث يمكنك مجرد حذف الملفات؛ بل هو نظام حي ومتغير حيث يغير تاريخ تعديلاتك المستقبل. لم يكسر العلماء الروبوت، لكنهم أثبتوا أن "الممحاة السحرية" لها حدود: فهي تعمل بشكل رائع لعملية قطع واحدة، ولكن إذا استمررت في استخدامها، فإن الترتيب يهم، والدماغ يتعب، والأشياء المنسية قد تعود من جديد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.