Trustworthy AI Suffers from Invariance Conflicts and Causality is The Solution
تجادل ورقة الموقف هذه بأن السببية تقدم إطاراً موحداً لحل الصراعات المتأصلة بين أهداف الذكاء الاصطناعي الموثوق المتنافسة — مثل العدالة، والمتانة، والخصوصية، والقابلية للتفسير — من خلال إعادة تفسير هذه المقايضات بوصفها متطلبات ثبات غير متوافقة يمكن موازنتها عبر الثبات الانتقائي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تحاول تعليم روبوت كيف يكون طبيباً مثالياً، وقاضياً عادلاً، وخزنة آمنة في آن واحد. تجادل الورقة البحثية بأننا الآن نفشل في ذلك لأننا نعلم الروبوت أن ينظر إلى العالم كالمحقق الذي يبحث عن أدلة (ارتباطات)، بينما ينبغي له أن ينظر إليه كعالم يبحث عن أسباب (علاقات سببية).
إليك التفكيك البسيط لحجة الورقة البحثية، باستخدام تشبيهات من الحياة اليومية.
١. المشكلة: فخ "الدليل"
نماذج الذكاء الاصطناعي الحالية بارعة في إيجال الأنماط. إذا رأت أن "الأشخاص الذين يرتدون قبعات حمراء غالباً ما يصابون بالمرض"، فإنها تتعلم التنبؤ بالمرض بناءً على القبعة.
- المشكلة: هذا يعمل بشكل رائع للتنبؤ بما سيحدث لاحقاً في بيئة مستقرة. لكنه يفشل عندما نطلب من الذكاء الاصطناعي أن يكون عادلاً، أو متيناً، أو خصوصياً، أو قابلاً للتفسير.
- الصراع: تقول الورقة إن هذه الأهداف تتصارع فيما بينها لأنها تتطلب من الذكاء الاصطناعي أن يكون "غير قابل للتغيير" (ثابتاً) بطرق مختلفة ومتعارضة:
- العدالة تقول: "لا تغير إجابتك إذا تغير عرق الشخص أو جنسه".
- الخصوصية تقول: "لا تغير إجابتك إذا حذفنا بيانات شخص معين".
- المتانة تقول: "لا تغير إجابتك إذا تغيرت معدات المستشفى أو ساءت الأحوال الجوية".
- الدقة تقول: "استخدم كل دليل يمكنك العثور عليه للوص tear الإجابة الصحيحة".
إذا استخدم الذكاء الاصطناعي دليل "القبعة الحمراء" ليكون دقيقاً، فقد ينتهك العدالة (إذا كانت القبعة مرتبطة بمجموعة معينة) أو الخصوصية (إذا كانت القبعة فريدة لشخص واحد). تطلق الورقة على هذا اسم "صراع الثبات" (Invariance Conflict). يحاول الذكاء الاصطناعي أن يكون ثابتاً في اتجاهات كثيرة ومتعارضة في آن واحد، مما يؤدي إلى تعطل النظام.
٢. الحل: "الخريطة السببية"
تقترح الورقة أن السببية (Causality) هي المفتاح السحري لإصلاح ذلك.
تخيل أن الذكاء الاصطناعي هو طاهٍ (شيف).
- الذكاء الاصطناعي الحالي (الارتباط): يرى الطاهي أن "مبيعات الآيس كريم" و"حالات الغرق" يرتفعان معاً في شهر يوليو. يستنتج الطاهي: "الآيس كريم يسبب الغرق!" ويحاول منع الغرق عن طريق حظر الآيس كريم. هذا خطأ لأنه مجرد مصادفة (كلاهما ناتج عن الطقس الحار).
- الذكاء الاصطناعي السببي: يرسم الطاهي خريطة. توضح الخريطة أن الطقس الحار يسبب مبيعات الآيس كريم وَ الغرق.
- إذا أراد الطاهي منع الغرق، فهو لا يحظر الآيس كريم؛ بل يحذر الناس من الماء.
- إذا أراد أن يكون عادلاً، فإنه يدرك أن "القبعة" ليست هي سبب المرض؛ بل البيولوجيا الكامنة هي السبب.
كيف يحل هذا الصراعات:
من خلال فهم الخريطة، يمكن للذكاء الاصطناعي أن يكون "ثابتاً بشكل انتقائي".
- يمكنه أن يقول: "سأتجاهل 'القبعة' (التي هي دليل سيء) لأنها لا تسبب المرض". -> تحقيق العدالة.
- يمكنه أن يقول: "سأركز على 'البيولوجيا' (السبب الحقيقي) لأنها تظل ثابتة حتى لو تغير المستشفى". -> تحقيق المتانة.
- يمكنه أن يقول: "لا أحتاج لحفظ اسم المريض المحدد لمعرفة البيولوجيا". -> تحقيق الخصوصية.
٣. الطريقتان لبناء هذه الخريطة
تشرح الورقة أنه يمكننا بناء هذه "الخريطة السببية" بطريقتين، اعتماداً على حجم الذكاء الاصطناعي:
- الصريح (المخطط الهندسي): بالنسبة للذكاء الاصطناعي الأصغر والمتخصص، يمكننا حرفياً رسم الخريطة (رسماً بيانياً) وإجبار الذكاء الاصطناعي على اتباعها. إنه يشبه إعطاء الروبوت كتاب قواعد صارم. وهذا أمر رائع للوظائف عالية المخاطر (مثل القانون أو الطب) حيث نحتاج لمعرفة لماذا اتُخذ قرار معين بدقة.
- الضمني (الحدس أو الشعور الداخلي): بالنسبة للذكاء الاصطناعي الضخم (مثل برامج الدردشة الآلية الكبيرة التي نستخدمها اليوم)، لا يمكننا رسم خريطة لكل شيء. بدلاً من ذلك، نقوم بتدريبهم على بيانات متنوعة ونستخدم تقنيات خاصة لجعلهم "يشعرون" بالفرق بين السبب الحقيقي والدليل الزائف. إنه يشبه تدريب كلب على تجاهل المشتتات دون إخباره بالضبط ما هو شكل كل مشتت.
٤. ماذا يعني هذا للمستقبل
تخلص الورقة إلى أننا لا يمكننا مجرد "تعديل" الذكاء الاصطناعي ليكون أفضل. يجب أن نغير طريقة تفكيرنا فيه.
- توقف عن معاملة العدالة والخصوصية والدقة كمشاكل منفصلة يجب موازنتها مثل الأرجوحة.
- ابدأ في معاملتها كوجهات نظر مختلفة لنفس الخريطة السببية.
إذا بنينا ذكاءً اصطناعياً يفهم لماذا تحدث الأشياء (السببية) بدلاً من مجرد معرفة ما يحدث معاً (الارتباط)، فيمكننا الحصول على ذكاء اصطناعي دقيق، وعادل، وخاص، ومتين في آن واحد. تجادل الورقة بأن هذه ليست مجرد فكرة لطيفة؛ بل هي الطريقة الوحيدة لحل الصراعات الجوهرية التي تعيق تقدم الذكاء الاصطناعي اليوم.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.