Ontology-Driven Structural Regularization for Document-Level Relation Extraction
تقدم هذه الورقة إطار عمل للتنظيم الهيكلي القائم على الأنطولوجيا، والذي يحدد ويخفف من التناقضات المنطقية في مجموعات بيانات الإشراف البعيد، مما يحسن بشكل كبير من أداء التعميم لنماذج استخراج العلاقات على مستوى المستند.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في المحيط الشاسع وغير المنظم للغة البشرية، تكافح الحواسيب لإيجاد الروابط الخفية التي تحول مجموعة من الكلمات إلى خريطة للمعرفة. لبناء موسوعة قابلة للقراءة آلياً، أو ما يُعرف بالرسم البياني للمعرفة (knowledge graph)، يجب على الباحثين تعليم الحواسيب كيفية قراءة وثيقة كاملة وتحديد كل علاقة بين الأشخاص والأماكن والأشياء المذكورة فيها. هذه المهمة، المعروفة باسم استخراج العلاقات على مستوى الوثيقة (document-level relation extraction)، هي حجر الأساس للأنظمة التي تجيب على الأسئلة المعقدة أو توصي بالمنتجات. ومع ذلك، فإن تعليم هذه الأنظمة مكلف لأنها تتطلب من البشر تصنيف كل صلة يدوياً وبدقة متناهية. ولحل هذه المشكلة، لجأ العلماء إلى "الإشراف البعيد" (distant supervision)، وهي طريقة تنشئ تلقائياً مجموعات بيانات تدريبية ضخمة عن طريق مطابقة النصوص مع قواعد البيانات الموجودة. وبينما تولد هذه الطريقة ملايين الأمثلة، إلا أنها تشتهر بكونها مليئة بالضجيج، وغالباً ما تُعلم الكمبيوتر حقائق غير صحيحة لأن عملية المطابقة الآلية تكون غير مثالية.
اكتشف فريق من الباحثين في جامعة بادوفا أن المشكلة في مجموعات البيانات الصاخبة هذه تذهب إلى أبعد من مجرد الحقائق الخاطئة؛ إذ إن البيانات نفسها غالباً ما تكون مكسورة هيكلياً. فقد وجدوا أن الثلاثيات (triples) المولدة آلياً —وهي عبارات تربط بين موضوع وعلاقة وموضوع آخر— كثيراً ما تنتهك القواعد المنطقية الأساسية. فعلى سبيل المثال، قد يتم تعليم الكمبيوتر أن شخصاً وُلد في "سنة"، أو أن مدينة هي عاصمة لمدينة أخرى، مما يخلق تناقضات تتحدى المنطق ذاته الذي يحاول النظام تعلمه. ويجادل الباحثون بأن هذه التناقضات الهيكلية هي مصدر خطأ حرج ومغفل، مما يؤدي إلى تسميم عملية التدريب، ويتسبب في جعل النماذج تكتسب عادات سيئة تستمر حتى عند اختبارها على بيانات نظيفة.
ولمعالجة ذلك، طور الفريق إطار عمل يعمل مثل "محرر منطقي" لهذه المجموعات. لقد استخدموا نظاماً رسمياً من القواعد، يشبه قواعد اللغة ولكن مطبقاً على بنية الحقائق، لمسح ملايين الأمثلة المولدة آلياً. بحثوا عن أنواع محددة من الأخطاء: الثلاثيات التي لا تتناسب فيها الكيانات مع العلاقة، والروابط العكسية المفقودة التي ينبغي منطقياً أن توجد، والتناقضات المستحيلة حيث تظهر العلاقة في كلا الاتجاهين بينما يجب أن تسير في اتجاه واحد فقط. وعندما طبقوا هذا المسح على مجموعة بيانات الإشراف البعيد الضخمة المعروفة باسم DocRED، وجدوا كمية مذهلة من الضجيج الهيكلي. احتوت مجموعة البيانات المؤتمتة على ثلاثة أضعاف عدد الحقائق غير الصالحة مقارنة بالنسخ التي تم تصنيفها بشرياً بعناية، ونحو خمسة أضعاف عدد الروابط العكسية المفققة، وضِعف عدد التناقضات المنطقية.
ثم اتخذ الباحثون خطوة حاسمة لمعرفة ما إذا كان إصلاح هذه العيوب الهيكلية سيساعد الحواسيب بالفعل على التعلم بشكل أفضل. فبدلاً من محاولة تصحيح كل خطأ يدوياً، وهو أمر مستحيل بهذا الحجم، قاموا ببناء مسار تنظيف يقوم ببساطة بإزالة أي نقاط بيانات تنتهك القواعد المنطقية. لقد استبعدوا الأمثلة الإشكالية وأضافوا الروابط العكسية المفقودة حيث كانت مطلوبة بوضوح بموجب المنطق. ثم قاموا بتدريب نموذجين من أكثر النماذج حوسبة تقدماً على هذه البيانات المنقحة وقارنوا النتائج بالنماذج المدربة على البيانات الأصلية الفوضوية. وكانت النتائج واضحة: النماذج المدربة على البيانات المتسقة هيكلياً ارتكبت أخطاءً منطقية أقل بكثير. انخفض عدد التنبؤات المستحيلة بشكل كبير، وأصبح النماذج أفضل بكثير في فهم اتجاه العلاقات.
ولعل الأمر الأكثر أهمية هو أن هذا التنظيف الهيكلي لم يجعل النماذج أكثر منطقية فحسب، بل جعلها أكثر دقة أيضاً. فعند اختبارها على معايير قياسية، أظهرت النماذج المدربة على البيانات المنقحة تحسينات ثابتة في قدرتها على إيجاد العلاقات الصحيحة. وتشير الدراسة إلى أنه من خلال فرض معيار أساسي من السلامة الهيكلية قبل بدء التدريب، يمكن للباحثين إطلاق العنان للإمكانات الكاملة لمجموعات البيانات الضخمة والمؤتمتة. يقدم هذا النهج طريقة جديدة للاستفادة من حجم الإشراف البعيد دون أن تعيقها الضوضاء المتأصلة فيه، مما يثبت أن أفضل طريقة لتعليم الآلة أحياناً هي التأكد من أن الدروس التي تتعلمها منطقية المعنى.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.