Where Not to Learn: Prior-Aligned Training with Subset-based Attribution Constraints
تقترح هذه الورقة طريقة تدريب انتقائية مقيدة بالمعلومات المسبقة تستخدم عزو اختيار المجموعات الفرعية لمعاقبة النماذج عندما تحيد أدلة قرارها عن المعلومات المسبقة المقدمة من البشر، مما يؤدي إلى تحسين كل من دقة المهام ومواءمة استدلال النموذج مع الأدلة المقصودة في مهام تصنيف الصور ووكلاء واجهة المستخدم الرسومية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي، لا يعني النموذج الذي يحصل على الإجابة الصحيحة دائمًا نموذجًا يفهم الشيء الصحيح. تخيل طالبًا يؤدي اختبارًا ويحصل باستمرار على درجات كاملة، لكنه يفعل ذلك من خلال حفظ شكل نموذج الإجابة بدلاً من قراءة الأسئلة. في تعلم الآلة، تُعرف هذه الظاهرة باسم "الاختصارات" (shortcuts). فعندما يتم تدريب نظام حاسوبي للتعرف على قارب في صورة فوتوغرافية، قد يحقق دقة عالية من خلال ملاحظة أن القوارب تظهر عادةً بالقرب من الماء، بدلاً من تحديد القارب نفسه بالفعل. وبينما تبدو النتيجة النهائية صحيحة، إلا أن المنطق وراءها معيب. ويصبح هذا مشكلة خطيرة عندما تُستخدم هذه الأنظمة في سيناريوهات من العالم الحقيقي، مثل توجيه روبوت عبر واجهة رقمية أو اتخاذ قرارات حرجة تتعلق بالسلامة، لأن النظام قد يفشل بشكل غير متوقع عندما يتغير الخلفية أو عندما لا يعود الاختصار متاحًا. ولبناء ذكاء اصطناعي موثوق حقًا، يحتاج الباحثون إلى التأكد من أن قرار النظام يستند إلى الأدلة المقصودة، وليس مجرد مصادفات إحصائية.
لقد وضع فريق من الباحثين هدفًا لحل هذه المشكلة من خلال تعليم نماذج الذكاء الاصطناعي التركيز على أجزاء محددة من صورة أو شاشة يعتبرها البشر مهمة. لقد قدموا طريقة تدريب جديدة تعمل كمرشد لطيف ولكن حازم، توجه النموذج للنظر إلى الأماكن الصحيحة. وبدلاً من مجرد إخبار النموذج ما إذا كانت إجابته النهائية صحيحة أم خاطئة، أضاف الباحثون طبقة من الإشراف القائم على التوقعات البشرية. فقد زودوا النموذج بتلميحات حول أين يجب أن تكون المعلومات المهمة، مثل صندوق مرسوم حول زر معين على الشاشة أو قناع يحدد معالم قارب في صورة. كان الهدف هو إجبار النموذج على مواءمة "انتباهه" الداخلي مع هذه التلميحات المقدمة من البشر، مما يضمن أن الأدلة التي يستخدمها لاتخاذ القرار تتطابق مع ما يتوقعه الشخص.
اختبر الباحثون هذا النهج على نوعين مختلفين تمامًا من المهام. أولاً، استخدموه في تصنيف الصور القياسي، حيث يجب على الكمبيوتر تحديد أشياء مثل الحيوانات أو المركبات في صورة. ثانًا، طبقوه على مهمة أكثر تعقيدًا تتضمن مساعدًا رقميًا يتنقل في واجهات المستخدم الرسومية، مثل شاشة هاتف ذكي. في هذا السيناريو الثاني، يعمل الذكاء الاصطناعي كوكيل يقرأ أمرًا مثل "انقر على زر علامة الاختيار" ويجب عليه تحريك المؤشر فعليًا إلى المكان الصحيح. وفي كلتا الحالتين، زود الباحثون النماذج بـ "بديهيات بشرية" (human priors)—وهي أدلة بصرية بسيطة تشير إلى المنطقة المستهدفة الصحيحة. ثم قاموا بتدريب النماذج على الانتباه لهذه المناطق. وإذا حاول النموذج اتخاذ قرار بناءً على جزء آخر من الصورة، مثل الخلفية أو جسم قريب، فإن عملية التدريب ستعاقب هذا السلوك.
يتضمن جوهر طريقتهم قيدًا انتقائيًا. فبدلاً من قمع كل شيء خارج المنطقة المستهدفة بشكل أعمى، يتحقق النظام من الدليل الأكثر تأثيرًا للنموذج أولاً. إذا كان الجزء الأول من الأدلة الذي يعتمد عليه النموذج خارج الهدف المقدم من البشر، فإن النظام يطبق عقوبة لثني النموذج عن هذا الاعتماد. وإذا كان الدليل الأول صحيحًا، ينتقل النظام للتحقق من القطع الأخرى الأكثر أهمية من الأدلة. وإذا كانت قطع الأدلة الثانوية أيضًا خارج المنطقة المستهدفة، فسيتم معاقبتها أيضًا، ولكن فقط إذا كانت تضيف دعمًا غير ضروري أو مكررًا للقرار. يسمما هذا النهج النموذج لتعلم طريقة تفكير مركزة دون إجباره على حالة جامدة وغير طبيعية حيث يتجاهل كل السياق. إنها طريقة لتعليم النموذج ترتيب الأولويات للقرائن الصحيحة مع السماح له في الوقت نفسه برؤية بقية الصورة.
عندما قيم الباحثون طريقتهم، أظهرت النتائج تحسنًا واضحًا في مدى مواءمة النماذج مع التوقعات البشرية. في مهام تصنيف الصور، لم تحافظ النماذج على دقة عالية فحسب، بل أظهرت أيضًا تداخلًا أقوى بكثير بين المناطق التي ركزت عليها والأشياء الفعلية التي كان من المفترض تحديدها. على سبيل المثال، عند تحديد قارب، تركز خريطة انتباه النموذج بشكل ضيق على القارب نفسه بدلاً من الانجراف نحو الماء أو السماء. وقد ظل هذا التحسن قائمًا حتى عندما اختبر الباحثون نماذجهم باستخدام طرق مختلفة لقياس الانتباه، مما يشير إلى أن التغيير كان جوهريًا في كيفية معالجة النموذج للمعلومات، وليس مجرد نتاج لأداة محددة مستخدمة للقياس.
كانت النتائج واعدة بنفس القدر بالنسبة للمساعد الرقمي الذي يتنقل في شاشات الكمبيوتر. في سلسلة من 936 مهمة تتضمن النقر على أزرار أو أيقونات محددة، حققت النماذج التي تم تدريبها بهذه الطريقة الجديدة معدل نجاح أعلى من تلك التي تم تدريبها بالتقنيات القياسية. لقد كانوا أفضل في النقر على الهدف الصحيح وأرتكبوا أخطاء أقل في تحديد مواقعهم. والأهم من ذلك، أظهرت النماذج مواءمة أفضل بين منطقها الداخلي والهدف البصري. فعندما يولد النظام عملية تفكير تشرح سبب نقره على مكان معين، كان من المرجح أن يتوافق ذلك التفكير مع الموقع الفعلي للزر، بدلاً من أن يكون مجرد تبرير لاحق لتخمين محظوظ. وأشار الباحثون إلى أنه بينما كانت هذه التحسينات كبيرة، فقد لوحظت في تجارب محكومة ويجب النظر إليها كخطوة نحو أنظمة أكثر موثوقية وليس كحل نهائي لجميع مخاوف السلامة.
يسلط هذا العمل الضوء على تحول في كيفية بناء ذكاء اصطناعي جدير بالثقة. فبدلاً من الاعتماد فقط على المخرجات النهائية للحكم على أداء النموذج، أظهر الباحثون أن توجيه انتباه النموذج أثناء عملية التعلم يمكن أن يؤدي إلى نتائج أفضل. ومن خلال استخدام التلميحات المقدمة من البشر لتشكيل تركيز النموذج، نجحوا في إنشاء نظام ليس فقط أكثر دقة، بل وأكثر شفافية في اتخاذ قراراته. وتشير الدراسة إلى أنه عندما نعلم الآلات النظر إلى الأشياء الصحيحة، فإنها تكون أكثر قدرة على اتخاذ القرارات الصحيحة، حتى في البيئات المعقدة والتفاعلية. ويقدم هذا النهج مسارًا عمليًا لتطوير ذكاء اصطناعي يتصرف بطرق تتوافق مع النوايا البشرية، مما يقلل من خطر الاختصارات الخفية والإخفاقات غير المتوقعة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.