DeGLIF for Label Noise Robust Node Classification using GNNs

في عالم الذكاء الاصطناعي، تتعلم الآلات من خلال دراسة الأمثلة، تماماً كما يتعلم الطالب من الكتاب المدرسي. ولكن ماذا يحدث عندما يكون الكتاب مليئاً بالأخطاء المطبعية، أو والأسوأ من ذلك، عندما تكون الإجابات في نهايته خاطئة؟ هذه هي مشكلة "العلامات المشوشة" (noisy labels). في العديد من السيناريوهات الواقعية، من رسم الخرائط للشبكات الاجتماعية إلى تشخيص الأمراض من الصور الطبية، يتم جمع البيانات بشكل رخيص وسريع، وغالباً ما يكون ذلك عن طريق حشود بشرية أو أنظمة آلية ترتكب الأخطاء. هذه الأخطاء ليست مجرد خلل بسيط؛ ففي الأنظمة التي تعتمد على الروابط بين قطع المعلومات، يمكن لعلامة واحدة خاطئة أن تنتشر مثل الإشاعة، مما يؤدي إلى إفساد فهم جيرانها ويتسبب في فشل النظام بأكمله. لسنوات، كافح الباحثون لبناء آلات يمكنها التعلم بفعالية رغم هذه الأخطاء، وغالباً ما حاولوا تجاهل البيانات السيئة أو الأمل في أن تكون البيانات الجيدة كافية للتغلب على الضجيج.

اقترح فريق من الباحثين في المعهد الهندي للتكنولوجيا بمومباي طريقة جديدة للتعامل مع هذه المشكلة، وتحديداً للبيانات التي توجد كشبكة من النقاط المتصلة، مثل مستخدمي وسائل التواصل الاجتماعي أو الجزيئات الكيميائية. أطلقوا على طريقتهم اسم "DeGLIF". وبدلاً من محاولة تخمين أي العلامات خاطئة بناءً على أنماط معقدة أو بافتراض نوع معين من الأخطاء، تطرح طريقتهم سؤالاً بسيطاً ومنافياً للبداهة: "ماذا سيحدث لأداء نموذجنا إذا قمنا ببساطة بإزالة هذه القطعة المحددة من بيانات التدريب؟". ومن خلال محاكاة إزالة نقطة بيانات واحدة وقياس مدى تحسن دقة النموذج على مجموعة صغيرة وموثوقة من الأمثلة النظيفة، يمكنهم تحديد العلامات التي يُحتمل أن تكون فاسدة. فإذا جعلت إزالة عقدة ما النموذج أكثر ذكاءً، فهذا يعني أن تلك العقدة كانت تعلمه الدرس الخاطئ على الأرجب.

لقد طور الباحثون اختصاراً رياضياً للإجابة على هذا السؤال دون القيام بالمهمة المستحيلة المتمثلة في إعادة تدريب نموذجهم آلاف المرات، مرة واحدة لكل نقطة بيانات. استخدموا مفهوماً يُعرف باسم "دالة التأثير لترك واحد" (leave-one-out influence function)، والتي تُقدر تأثير نقطة البيانات من خلال النظر في الحالة الراهنة للنموذج. وفي سياق الشبكات المتصلة، يعد هذا أمراً صعباً للغاية لأن إزالة نقطة واحدة تؤدي أيضاً إلى قطع الاتصالات بجيرانها، مما يغير تدفق المعلومات للجميع. وقد قام الفريق بتوسيع الأساليب الحالية لمراعاة هذه التغييرات الهيكلية، مما سمح لهم بحساب مدى تأثير عقدة معينة على تنبؤات النموذج للبيانات النظيفة الموثوقة. فإذا تسببت وجود عقدة ما في جعل أداء النموذج أسوأ على البيانات النظيفة، فإن النظام يصنفها كعقدة مشوشة.

بمجرد تحديد عقدة مشوشة، لا يقوم النظام ببساطة برميها، لأن ذلك من شأنه إضاعة معلومات قيمة؛ بل يحاول تصحيح الخطأ. بالنسبة لعقدة ذات علامة خاطئة، يبحث النظام فيما يتنبأ به النموذج حالياً لتلك العقدة ويقوم بقلب العلامة إلى الفئة الأكثر احتمالاً للصحة. وقد أثبت الباحثون نظرياً أن عملية تصحيح العلامة هذه تتفوق رياضياً على حذف العقدة بالكامل، لأنها تحتفظ بالقيمة الهيكلية للعقدة في الشبكة بينما تصلح هويتها. وقد اختبروا هذا النهج على عدة مجموعات بيانات قياسية، بما في ذلك مجموعات كبيرة من الأوراق العلمية ومراجعات المنتجات، مع إدخال مستويات مختلفة من الأخطاء العشوائية في العلامات. وفي هذه الاختبارات، تفوقت طريقتهم باستمرار على التقنيات الحالية المتطورة، حيث حسنت الدقة بنسبة تصل إلى ما يقرب من 18 في المائة في بعض الحالات.

كما استكشفت الدراسة كيفية سلوك الطريقة تحت ظروف مختلفة. ووجدوا أن النظام يعمل جيداً حتى عندما تكون المجموعة الموثوقة من البيانات النظيفة صغيرة جداً، حيث تمثل أقل من اثنين في المائة من إجمالي مجموعة البيانات. ولاحظوا أن الطريقة قوية عبر أنواع مختلفة من هياكل الشبكات، سواء كانت الروابط شحيحة أو كثيفة، وهي لا تتطلب معرفة مسبقة بعدد الأخطاء الموجودة أو نوعها. وفي الواقع، أظهر الباحثون أنه يمكنهم تطبيق الطريقة بشكل متكرر؛ فبعد الجولة الأولى من التنظيف، تصبح البيانات أكثر نقاءً، ويمكن للجولة الثانية أن تحدد وتصلح المزيد من الأخطاء. وبينما تطلبت الحسابات الأولية قدرة حوسبية كبيرة لتحليل هيكل الشبكة، أظهر الباحثون أن الطريقة يمكنها أيضاً العمل على مجموعات بيانات واسعة النطاق حيث فشلت الخوارزميات المنافسة الأخرى بسبب قيود الذاكرة.

تشير النتائج إلى أن هذا النهج يقدم أداة متعددة الاستخدامات لتنظيف البيانات الفوضوية دون الحاجة لمعرفة مصدر الفوضى. فمن خلال التركيز على التأثير الفعلي لكل نقطة بيانات على نجاح النموذج، بدلاً من محاولة نمذجة الضجيج نفسه، يمكن للنظام فصل الإشارة عن التشويش بفعالية. وأشار الباحثون إلى أنه بينما تعد الطريقة مكثفة حوسبياً، إلا أنها تعمل كخطوة معالجة مسبقة قوية يمكن دمجها مع تقنيات تعلم أخرى لتعزيز الأداء بشكل أكبر. وفي مشهد تعتبر فيه البيانات عالية الجودة باهظة الثمن ونادرة، فإن هذه القدرة على تحويل مجموعة بيانات مشوشة وغير موثوقة إلى مجموعة بيانات نظيفة وموثوقة تمثل خطوة كبيرة للأمام في تعلم الآلة على البيانات المتصلة. ويعد هذا العمل تجسيداً عملياً لأن فهم تأثير نقاط البيانات الفردية يمكن أن يؤدي إلى أنظمة ذكاء اصطناعي أكثر مرونة ودقة.