Position: Evaluations of AI Moral Reasoning Still Miss Half of the Picture
تجادل هذه الورقة بأن التقييمات الحالية للاستدلال الأخلاقي للذكاء الاصطناعي تركز بشكل مفرط على مواءمة القيم بينما تهمل تطبيق المعايير الحساس للسياق، وتقترح أجندة بحثية لمعالجة هذه الفجوة من خلال تمثيلات رسمية معيارية، ومجموعات بيانات مشروحة من قبل خبراء، وبروتوكولات تقييم متميزة للكفاءة المعيارية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
عندما يطلب الناس من الكمبيوتر نصيحة بشأن خيار صعب، فإنهم غالباً ما يطرحون سؤالاً يتكون من جزأين مختلفين تماماً. الجزء الأول يتعلق بما نهتم به: هل نُقدر اللطف فوق القواعد الصارمة، أم العدالة فوق الولاء؟ أما الجزء الثاني فيتعلق بكيفية استخدام تلك الاهتمامات لاتخاذ قرار في موقف محدد. تخيل أنك تحاول أن تقرر ما إذا كنت ستخبر صديقاً بحقيقة مؤلمة. معرفة أنك تُقدر الصدق شيء، ومعرفة كيفية تطبيق هذه القيمة بدقة عندما تكون الحقيقة قد تؤذي شخصاً تحبه أمر آخر. يتطلب هذا الجزء الثاني اتباع مجموعة من المبادئ التي تخبرك بكيفية موازنة الاهتمامات المختلفة مقابل بعضها البعض. لسنوات، ركز العلماء الذين يدرسون الذكاء الاصطناعي بشكل شبه كامل على الجزء الأول، بالتحقق مما إذا كانت إجابات الآلة تتوافق مع ما يفضله البشر عموماً. لكن تحليلاً جديداً يشير إلى أن التوقف عند هذا الحد جعل الباحثين يغفلون عن الاختبار الأهم لما إذا كانت الآلة قادرة بالفعل على التفكير كوكيل أخلاقي.
قام فريق من الباحثين من جامعة كونيتيكت، وجامعة كارنيجي ميلون، وهجينج فيس (Hugging Face)، بفحص كيفية اختبارنا الحالية للاستدلال الأخلاقي في النماذج اللغوية الكبيرة. وهذه هي البرامج الحاسوبية القوية التي يمكنها كتابة المقالات، والإجابة على الأسئلة، وتقديم النصائح. يرى المؤلفون أن المجال أصبح شديد التركيز على "مشكلة القيمة الأخلاقية"، والتي تسأل ببساطة ما إذا كانت إجابات الكمبيوتر تتماشى مع الآراء البشرية. ويؤكدون أن هذا النهج يترك "مشكلة المعيار الأخلاقي" غير مستكشفة إلى حد كبير. مشكلة المعيار الأخلاقي هي التحدي الأصعب المتمثل في معرفة ما إذا كان بإمكان الآلة تحديد المبادئ الصحيحة للموقف وتطبيقها بشكل صحيح للوصول إلى استنتاج. وجد الباحثون أن الاختبارات الحالية تشبه التحقق مما إذا كان الطالب قد حفظ قائمة من القيم، دون سؤاله أبداً عما إذا كان بإمكانه استخدام تلك القيم لحل مشكلة معقدة.
لفهم سبب أهمية هذا التمييز، تأمل كيف قاس العلماء تقليدياً الأخلاق في كل من البشر والآلات. لقد اعتمدوا بشكل كبير على أطر عمل مثل "نظرية الأسس الأخلاقية"، التي تقسم الأخلاق البشرية إلى فئات واسعة مثل الرعاية، والعدالة، والولاء. هذه الأدوات ممتازة في وصف ما يميل الناس للاهتمام به. إذا طلبت من كمبيوتر الاختيار بين إنقاذ شخص واحد أو خمسة أشخاص، واختار الخمسة، يمكن للباحثين القول إن الكمبيوتر يتوافق مع القيمة البشرية المتمثلة في الرعاية لعدد أكبر. ومع ذلك، يشير الباحثون إلى أن الاهتمام بقيمة ما ليس هو نفسه معرفة كيفية تطبيقها. قد توافق الآلة على أن "الضرر سيء"، لكنها قد تفشل في فهم أنه في بعض الأنظمة الأخلاقية، يكون التسبب في ضرر لشخص واحد لإنقاذ خمسة انتهاكاً لقاعدة مختلفة. غالباً ما تخلط الاختبارات الحالية بين قدرة الآلة على قول الكلمات الصحيحة وقدرتها على القيام بالاستدلال الصحيح.
راجع المؤلفون عشرات الدراسات والمعايوهات الموجودة المستخدمة لتقييم أخلاقيات الذفماء الاصطناعي. واكتشفوا أن جميع هذه الاختبارات تقريباً تتجمع حول مشكلة القيمة الأخلاقية. تسأل هذه الاختبارات الكمبيوتر أن يختار إجابة من قائمة أو أن يصف تفضيلاً، ثم تقارن ذلك بالاختيار الذي قد يتخذه مجموعة من البشر. وبينما يخبرنا هذا بما يعطيه الجهاز الأولوية، إلا أنه لا يخبرنا ما إذا كان بإمكان الآلة بناء حجة صالحة بناءً على نظرية أخلاقية محددة. وجد الباحثون أن القليل جداً من الاختبارات تتحقق فعلياً مما إذا كان بإمكان الآلة أخذ مجموعة من المبادئ، وتطبيقها على موقف جديد وصعب، وشرح استدلالها خطوة بخطوة. وعندما تحاول الاختبارات النظر في الاستدلال، فإنها غالباً ما تستخدم نفس الفئات القيمية الواسعة كاختصار، بافتراض أنه إذا كانت الآلة تهتم بـ "العدالة"، فلا بد أنها تعرف كيفية تطبيق قواعد العدالة. ويرى المؤلفون أن هذا خطأ، لأن نظريات أخلاقية مختلفة يمكن أن تدعي جميعها الاهتمام بالعدالة بينما تتطلب نتائج مختلفة تماماً.
يخلق هذا الارتباك فجوة في فهمنا لما يمكن لهذه الآلات القيام به حقاً. حدد الباحثون ثلاثة أجزاء مفقودة محددة في المشهد الحالي للتقييم. أولاً، لا توجد مجموعة مشتركة وعالية الجودة من الإجابات الصحيحة لكيفية تطبيق القواعد الأخلاقية في مواقف مختلفة. فبدون مرجع معياري، يبني كل فريق بحثي اختباره الخاص، مما يجعل من المستحيل مقارنة النتائج أو رؤية تقدم حقيقي. ثانياً، لا تنظر الاختبارات بدقة كافية في الخطوات التي تتخذها الآلة للوصول إلى استنتاج. قد تحصل الآلة على الإجابة الصحيحة عن طريق الحظ أو التخمين، لكن الطرق الحالية غالباً ما تفشل في رصد ما إذا كان الاستدلال وراء تلك الإجابة معيباً. ثالثاً، لا تتحقق الاختبارات مما إذا كانت الآلة تستطيع رصد التفاصيل الأكثر أهمية في قصة ما. فقبل أن تتمكن الآلة من تطبيق قاعدة ما، يجب عليها أولاً تحديد الأجزاء التي تهم أخلاقياً، والأدوات الحالية لا تقيس هذه المهارة بشكل جيد.
لإصلاح هذه المشكلات، يقترح المؤلفون مساراً جديداً للمجال. يقترحون أن العلماء بحاجة إلى إنشاء لغة مشتركة لوصف النظريات الأخلاقية، حتى يتمكن الباحثون المختلفون من بناء اختبارات تتحدث إلى نفس المبادئ. كما يدعون إلى إنشاء مجموعات بيانات جديدة حيث يقوم الخبراء في الأخلاق بتوضيح كيفية تطبيق قواعد محددة على سيناريوهات من الواقع. وأخيراً، يحثون المجتمع على التوقف عن الخلط بين اختبار ما تقدره الآلة واختبار كيفية استدلالها. يجب الحكم على الآلة بناءً على قدرتها على اتباع مسار منطقي من مبدأ إلى قرار، وليس فقط على ما إذا كان خيارها النهائي يطابق الرأي البشري. ويخلص الباحثون إلى أنه بينما حققنا تقدماً جيداً في فهم ما تهتم به الآلات، إلا أننا بدأنا للتو في فهم ما إذا كانت قادرة حقاً على التفكير في مشكلة أخلاقية. وحتى نبني الأدوات لاختبار تطبيق القواعد، لن نعرف ما إذا كانت هذه الأنظمة قادرة على نوع الاستدلال الأخلاقي الذي يعتمد عليه البشر في لحظاتهم الأكثر صعوبة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.