Representational change under post-hoc edits mostly reflects relocation rather than destruction of information
تُثبت هذه الورقة أن التغييرات التمثيلية الناتجة عن التعديلات اللاحقة (post-hoc) تعكس في المقام الأول إعادة توطين المعلومات في إحداثيات جديدة بدلاً من تدميرها بشكل دائم، حيث يمكن للمجسات الجديدة غالباً استعادة العوامل التي تبدو مفقودة بالنسبة للمخركات الأصلية، مع حدوث الفقدان الكلي للمعلومات فقط في ظل ظروف قصوى مثل الانهيار التمثيلي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلف ولم يصادق عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي، تتعلم الحواسيب من خلال بناء خرائط داخلية للعالم. فعندما يتم تدريب نظام ما للتعرف على قطة أو رقم، فإنه ينشئ تمثيلاً معقداً ومتعدد الأبعاد لهذا الكائن، ويخزن التفاصيل في ترتيب محدد من الأرقام. لطالما قلق العلماء من أنه عندما تُطلب من هذه الأنظمة تعلم شيء جديد، أو عندما يحاول الباحثون تعديل ذاكرتها لإزالة حقيقة معينة أو تحيز ما، فإن المعلومات القديمة قد تتحطم. وكان الخوف السائد هو أنه إذا تغيرت الخريطة الداخلية بشكل كبير، فإن البيانات الأصلية ستتدمر وتضيع للأبد في فوضى التحديث. هذا القلق هو ما يدفع الكثير من الأبحاث في مجالات "إلغاء التعلم الآلي" (machine unlearning) و"التعلم المستمر" (continual learning)، وهي مجالات مكرسة لمساعدة الذكاء الاصطناعي على التكيف دون نسيان ماضيه أو لتطهيره من الارتباطات الضارة. كان السؤال الجوهري دائماً هو: عندما تتحرك الخريطة، هل لا يزال الكنز موجوداً، أم أنه قد دُفن؟
تتحدى دراسة حديثة أجراها ساجيب هوسين من جامعة نورث ساوث هذا الافتراض من خلال تحقيق دقيق ومنضبط. فقد سعى الباحث لاختبار ما إذا كان التغيير الكبير في خريطة الكمبيوتر الداخلية يعني حقاً أن المعلومات قد دُمرت، أم أنها انتقلت ببساال إلى موقع جديد. ولإيجاد الإجابة، استخدم الفريق مجموعة من منصات الاختبار الرقمية حيث كانت الحقيقة الأرضية معروفة. بدأوا بنموذج مدرب على مجموعة بيانات من الأشكال البسيطة المولدة، حيث تم تحديد كل متغير مثل الحجم والموقع والشكل بدقة تامة. ثم طبقوا نوعين مختلفين من التعديلات: أحدهما أجبر النموذج على مراجعة اعتقاد خاطل كان يحمله، والآخر حاول محو مفهوم معين تماماً. وفي كلتا الحالتين، راقب الباحثون ما يحدث للمعلومات باستخدام أداة تشخيصية ذكية. لقد قارنوا أداء "القراءة المجمّدة" (frozen readout) — وهو اختبار تم تدريبه على الخريطة القديمة وتُرك دون تغيير — مقابل "القراءة الجديدة" (fresh readout)، التي أُعيد تدريبها من الصفر على الخريطة الجديدة والمتغيرة.
كشفت النتائج عن نمط يناقض الحدس الشائع بأن التغييرات الكبيرة تعني خسائر كبيرة. ففي الغالبية العظمى من الحالات، فشلت القراءة المجمّدة، مما يشير إلى أن المعلومات قد ضاعت. ومع ذلك، فإن القراءة الجديدة، التي تم تدريبها على الإحداثيات الجديدة، استعادت المعلومات بشكل شبه مثالي. لم تكن البيانات قد دُمرت، بل تم نقلها. لقد تحركت الخريطة الداخلية، ونقلت المعلومات إلى مجموعة مختلفة من الأرقام، لكن المعلومات نفسها ظلت سليمة ويمكن الوصول إليها بالكامل. وقد ظل هذه الظاهرة قائمة حتى عندما اختبر الباحثون المفهوم على صور أكثر تعقيداً من العالم الحقيقي، مثل الأرقام المكتوبة بخط اليد وصور الأشياء. في هذه الاختبارات الأصعب، تحركت الخريطة الداخلية لمسافة أبعد، وتعطلت القراءة القديمة بشكل أكبر، ومع ذلك نجحت القراءة الجديدة في استعادة الدقة الأصلية. لقد نجت المعلومات من الرحلة، حتى لو تغير المسار الذي يجب اتباعه للعثور عليها.
ومع ذلك، حددت الدراسة أيضاً الظروف الدقيقة التي تُفقد فيها المعلومات فعلياً. فقد وجد الباحثون أن التدمير الكلي لا يحدث لمجرد تحرك الخريطة أو لأن النظام طُلب منه تعلم العديد من التناقضات. بدلاً من ذلك، لا تُفقد المعلومات إلا عندما تنهار الخريطة الداخلية نفسها. يحدث هذا الانهيار عندما يُدفع النظام بمعدل تعلم مفرط، مما يؤدي إلى تقلص تنوع وانتشار أرقامه الداخلية حتى تتلاشى. في هذه السيناريوهات المحددة وعالية الضغط، تختفي المعلومات حقاً. ولكن طالما ظل الهيكل الداخلي سليماً ومتنوعاً، تظل المعلومات آمنة، تنتظر فقط من يجدها في موقعها الجديد.
كما كشفت الدراسة عن تفصيل دقيق فيما يتعلق بكيفية محو المعلومات. فعندما استخدم الباحثون تقنية رياضية لإزالة مفهوم معين، وجدوا أنه بينما أصبح من المستحيل اكتشاف المفهوم باستخدام اختبار خطي بسيط، فإنه غالباً ما يظل قابلاً للاسترداد بواسطة اختبار غير خطي أكثر تعقيداً. يشير هذا إلى أن المعلومة لم تُمحَ، بل تم إخفاؤها في ترتيب أكثر تعقيداً. ومن المثير للاهتمام أن هذا الفقد الجزئي لم يكن موحداً؛ فقد اعتمد ذلك بشدة على النوع المحدد للمعلومات المستهدفة. على سبيل المثال، في تجاربهم، كانت المعلومات المتعلقة بحجم الكائن أكثر عرضة لهذا الفقد الجزئي من المعلومات المتعلقة بشكل الكائن أو موقعه. كما اكتشف الباحثون أن حجم التغيير في الخريطة هو مؤشر ضعيف على مقدار المعلومات المفقودة. فقد يمكن لتغيير هائل أن يترك المعلومات سليمة تماماً، بينما قد يصاحب تغيير ضئيل أحياناً انهياراً تاماً، اعتماداً على صحة الهيكل الداخلي للنظام.
تقدم هذه النتياج طريقة جديدة لفهم كيفية تطور أنظمة الذكاء الاصطناعي وكيفية تعديلها. تشير الدراسة إلى أنه عندما يتغير التمثيل الداخلي للنظام، فلا ينبغي افتراض أن المعرفة القديمة قد ذهبت. بدلاً من ذلك، يجب أن يتحول التركيز إلى فحص صحة الهيكل الداخلي للنظام واختبار ما إذا كان يمكن استرداد المعلومات بمنظور جديد. وتوحي الأبحاث بأن الكثير من المخاوف بشأن "النسيان الكارثي" أو صعوبة إلغاء التعلم قد تكون مبالغاً فيها، طالما لم يُدفع النظام إلى نقطة الانهيار. كما أنها تعمل كتحذير لأولئك الذين يحاولون إزالة البيانات الحساسة من نماذج الذكاء الاصطناعي: مجرد أن اختباراً بسيطاً لم يعد قادراً على إيجاد مفهوم ما، لا يعني أنه قد تمت إزالته. فقد تظل المعلومات موجودة، منقولة وتنتظر إعادة اكتشافها بواسطة مسبار أكثر تطوراً. في نهاية المطاف، توضح هذه الدراسة أن الحركة ليست هي نفسها الفقدان، وأن استقرار ذاكرة الذكاء الاصطناعي يعتمد أقل على مقدار تغيرها وأكثر على ما إذا كان أساسها الداخلي لا يزال متيناً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.