Memory Undone: Between Knowing and Not Knowing in Data Systems
تجادل هذه الورقة بأن "النسيان" في أنظمة البيانات يجب إعادة صياغته كممارسة اجتماعية تقنية متعددة الأوجه — مع التمييز بين المحو، وعدم التعلم، والاستبعاد — بدلاً من كونه مجرد عملية حذف بسيطة، داعيةً إلى دمجه كقدرة أساسية في البنى التحتية للمعرفة لتحقيق التوازن بين الامتثال التنظيمي والعدالة المعرفية والمساءلة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مكتبة عملاقة وذكية للغاية. هذه المكتبة لا تكتفي بتخزين الكتب فحسب؛ بل تقرأ كل كتاب فيها، وتحفظ القصص، وتتعلم الحقائق، ثم تستخدم تلك المعرفة للإجابة على أسئلتك أو كتابة قصص جديدة لك. هكذا تعمل تقنية الذكاء الاصطناعي (AI) الحديثة. إنها آلة مبنية بالكامل على الذاكرة.
ولكن هنا تكمن المشكلة: ماذا يحدث عندما تريد من المكتبة أن تنسى؟
تجادل هذه الورقة البحثية، التي تحمل عنوان "Memory Undone" (تفكيك الذاكرة)، بأنه بينما تبدو تقنيتنا الحالية مذهلة في التذكر، إلا أنها سيئة للغاية في النسيان. يدعو المؤلفون إلى طريقة جديدة للتفكير في الذكاء الاصطناعي، حيث لا يكون "النسيان" مجرد خلل تقني أو متطلباً قانونياً، بل مهارة أساسية نصممها داخل هذه الأنظمة.
إليك تفصيل لأفكارهم باستخدام تشبيهات بسيطة:
١. "الممحاة" التي لا تعمل
تخيل أنك كتبت ملاحظة سرية على ورقة، ثم وضعت تلك الورقة في آلة تصوير ضوئية صنعت منها مليون نسخة، ثم لصقتها جميعاً معاً لتصبح جدارية ضخمة، ثم دهنت فوقها طبقة جديدة من الطلاء.
- القانون (GDPR): يقول القانون: "لديك الحق في أن تُنسى. احذف تلك الملاحظة".
- الواقع: يمكنك تمزيق الملاحظة الأصلية (حذف الملف)، لكن الجدارية لا تزال تحتفظ بشكل تلك الملاحظة مخفياً تحت طبقة الطلاء. لقد "تعلم" الذكاء الاصطناعي السر بالفعل من الجدارية.
من الناحية التقنية، فإن حذف سجل من قاعدة بيانات لا يمحو التأثير الذي تركه ذلك السجل على دماغ الذكاء الاصطناعي (الشبكة العصبية). "ذاكرة" تلك البيانات متشابكة في مليارات الروابط. مجرد الضغط على زر "حذف" لا يمحو النمط الذي تعلمه النظام.
٢. الفرق بين "الحذف" و"إلغاء التعلم"
يضع المؤلفون تمييزاً مفيداً بين ثلاثة أنواع من "النسيان":
- المحو (إلقاء الشيء في سلة المهملات): هذا مجرد إزالة للملف. الأمر يشبه إلقاء رسالة في القمامة. الرسالة اختفت، لكن الشخص الذي قرأها قد يظل يتذكر ما ورد فيها.
- إلغاء التعلم (جراحة الدماغ): هذه عملية تقنية معقدة نحاول من خلالها إزالة تأثير تلك الرسالة من دماغ الذكاء الاصطناعي جراحياً، بحيث لا يعود يعمل بناءً على تلك المعلومات. الأمر يشبه محاولة جعل الشخص ينسى الرسالة تماماً، وليس مجرد إخفاء الورقة.
- الاستبعاد (الصفحة البيضاء): هو القرار مسبقاً بعدم كتابة الرسالة من الأساس. إنه اختيار عدم تضمين أشخاص أو قصص معينة في المكتبة منذ البداية.
٣. لماذا يعتبر "النسيان" أمراً جيداً (ومطلوباً)
غالباً ما نعتقد أن الذاكرة هي الخير الأسمى. لكن المؤلفين يجادلون بأن النسيان هو في الواقع قوة خارقة.
- تشبيه "التركيز": تخيل أنك تحاول الدراسة لامتحان رياضيات بينما يصرخ شخص ما في أذنك بألف قصة مختلفة. لن تستطيع التركيز. نسيان الضجيج يسمح لك بالتركيز على الرياضيات. يحتاج الذكاء الاصطناعي لنسيان البيانات غير ذات الصلة أو الضارة ليعمل بشكل جيد.
- تشبيه "الأمان": إذا تعلم الذكاء الاصطناعي أفكاراً عنصرية أو خطيرة من الإنترنت، فنحن نحتاج لأن ينسى تلك الأفكار ليتوقف عن كونه ضاراً.
- تشبيه "الخصوصية": إذا تذكر الذكاء الاصطناه تاريخك الطبي بدقة شديدة، فقد ينتهك خصوصيتك. يجب أن يكون قادراً على ترك ذلك يرحل.
٤. خطر "الإسكات"
ومع ذلك، هناك جانب مظلم. إذا نسينا الأشياء الخاطئة، فإننا نخلق صمتاً.
تخيل كتاب تاريخ قرر فيه شخص ما محو جميع قصص مجموعة معينة من الناس. الكتاب ليس فقط أصبح "أنظف"؛ بل أصبح الآن كذبة. إنه يخلق واقعاً زائفاً حيث لم يكن لهؤلاء الناس وجود قط.
يحذر المؤلفون من أنه إذا لم نكن حذرين، فقد يُستخدم "إلغاء التعلم" لإسكات أصوات الأقليات أو إخفاء الحقائق المهمة تحت غطاء "تنظيف" البيانات. النسيان ليس فعلاً محايداً؛ إنه فعل سياسي. فمن الذي يقرر ما الذي يجب نسيانه؟
٥. الهدف: "آلات النسيان"
الهدف النهائي لهذا البحث هو التوقف عن معاملة الذكاء الاصطناعي كخزنة لا تنسى أبداً. بدلاً من ذلك، نحتاج إلى بناء "آلات نسيان".
فكر في الأمر كما في الدماغ البشري. البشر بارعون في النسيان. نحن ننسى اسم شخص قابلناه مرة واحدة، لكننا نتذكر كيف نركب الدراجة. نحن ننسى تفاصيل حدث صادم لحماية صحتنا النفسية.
يريد المؤلفون تصميم ذكاء اصطناعي يمكنه القيام بالشيء نفسه:
- متعمد: يجب أن يكون النسيان خياراً نتخذه، وليس حادثاً عرضياً.
- خاضع للمساءلة: نحتاج أن نعرف لماذا نسي الذكاء الاصطناعي شيئاً ما.
- مسؤول: يجب أن ينسى البيانات الضارة ولكنه يحتفظ بالحقائق المهمة.
ملخص
هذه الورقة هي دعوة للعمل. تقول: "توقفوا عن محاولة جعل الذكاء الاصطناعي يتذكر كل شيء. ابدأوا بتعليمه كيف ينسى بمسؤولية."
تماماً كما تتطلب الحياة البشرية الصحية توازناً بين تذكر الماضي والتخلي عن الألم، يحتاج نظام الذكاء الاصطناعي الصحي إلى توازن بين المعرفة وعدم المعرفة. إذا استطعنا إتقان فن "إلغاء التعلم"، يمكننا بناء ذكاء اصطناعي أكثر أماناً، وعدلاً، واحتراماً لحقوق الإنسان.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.