Enhancing Scientific Named Entity Recognition via Large Language Models: A Type-driven Multi-task Learning Approach
تقدم هذه الورقة البحثية TdSciNER، وهو إطار عمل للتعلم متعدد المهام قائم على النوع يعزز التعرف على الكيانات المسماة العلمية من خلال تصفية أنواع الكيانات المرشحة، ودمج مهمة تصنيف مساعدة للحصول على تمثيلات أكثر ثراءً، واستخدام استراتيجية مبتكرة لاختيار النماذج التوضيحية لتحسين أداء النماذج اللغوية الكبيرة عبر مختلف المجالات العلمية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل عالم العلوم كمكتبة ضخمة ولا متناهية حيث كل كتاب فيها هو ورقة بحثية. داخل هذه الكتب، يخفي العلماء أدلة صغيرة وحاسمة تسمى "الكيانات المسماة" (named entities)—وهي كلمات محددة مثل أسماء الأدوية، أو المركبات الكيميائية، أو خوارزميات الكمبيوتر. إن العثور على هذه الأدلة وتصنيفها يشبه محاولة أمين مكتبة فرز كومة فوضوية من الكتب ووضعها في الرفوف الصحيحة. إذا أخطأ أمين المكتبة، سينهار النظام بأكمله، مما يجعل من الصعب العثور على إجابات لأسئلة كبيرة مثل "ما الذي يعالج هذا المرض؟" أو "كيف يعمل هذا الذكاء الاصطناعي الجديد؟".
لفترة طويلة، عانت أجهزة الكمبيوتر في مهمة التصنيف هذه لأن الكلمات العلمية معقدة. فكلمة مثل "Method" (منهج/طريقة) قد تعني وصفة محددة في مختبر بيولوجي، ولكنها تعني نوعًا مختلفًا تمامًا من برامج الكمبيوتر في ورقة تقنية. مؤخرًا، وصلت "نماذج اللغات الكبيرة" (LLMs) وهي عقول حاسوبية فائقة الذكاء. هذه النماذج تشبه الطلاب العباقرة الذين قرأوا كل شيء تقريبًا على الإنترنت ويمكنهم تخمين ما سيأتي بعد ذلك في الجملة. إنهم بارعون في المهام العامة، ولكن عندما تطلب منهم تصنيف الكتب العلمية، فقد يصابون بالارتباك. لماذا؟ لأنه إذا أعطيتهم قائمة بـ 50 رفًا محتملاً للاختيار من بينها، فقد يختارون الرف الخاطئ لمجرد أنه بدا مألوفًا، حتى لو لم يكن مناسبًا للكتاب المحدد الذي أمامهم. إنهم يحتاجون إلى القليل من المساعدة للتركيز على الرفوف الصحيحة.
هنا يأتي دور الورقة البحثية بعنوان "تعزيز التعرف على الكيانات العلمية المسماة عبر نماذج اللغات الكبيرة". قام الباحثون، بقيادة تونغ باو وزملائه، ببناء نظام جديد يسمى TdSciNER لمساعدة هؤلاء الأمناء العباقرة على الذكاء الاصطعي ليصبحوا أمناء مكتبة علميين أفضل. بدلاً من ترك الذكاء الاصطناعي يخمن من قائمة ضخمة ومربكة من الاحتمالات، قدموا له استراتيجية مكونة من ثلاث خطوات لتضييق الخيارات والتعلم بشكل أسرع.
أولاً، أضافوا "مرشح النوع" (Type Filter). تخيل أنك تبحث عن نوع معين من الفاكهة في متجر بقالة ضخم. بدلاً من أن تطلب من بائع المتجر التحقق من كل فاكهة من التفاح إلى الكوسا، تسأل أولاً مساعدًا ذكيًا للنظر في قائمة التسوق الخاصة بك والقول: "مهلًا، أنت تحتاج فقط للتحقق من قسم الخضروات بحثًا عن التوت والحمضيات". يقوم نظام TdSciNER بهذا بالضبط: قبل أن يحاول الذكاء الاصطناعي الرئيسي تصنيف جملة ما، يقوم نموذج مساعد أصغر بمسح الجملة وتصفية أنواع الكيانات التي ليست موجودة فيها. إذا كانت الجملة تتحدث عن علوم الكمبيوتر، فإن المرشح يحجب المصطلحات الطبية مثل "مرض" أو "دواء"، حتى لا يتشتت انتباه الذكاء الاصطناعي الرئيسي.
ثانيًا، استخدموا حيلة "التعلم متعدد المهام" (Multi-Task Learning). فكر في هذا الأمر كطالب يدرس لامتحان التاريخ؛ فبدلاً من مجرد حفظ التواريخ، فإنه يتدرب أيضًا على كتابة ملخصات قصيرة للأحداث. هذا يساعده على فهم "السياق" بشكل أفضل. لقد علم الباحثون الذكاء الاصطناعي القيام بشيئين في وقت واحد: العثور على الكلمات العلمية (المهمة الأساسية) وأيضًا تخمين نوع الكلمة التي وجدها للتو (المهمة الإضافية). من خلال التدرب على كليهما معًا، تعلم الذكاء الاصطناعي فهم "جو" أو "روح" الجملة بشكل أفضل بكثير، مما يجعله أقل عرضة للخلط بين المصطلحات المتشابهة في النطق.
ثالثًا، قاموا بتحسين كيفية تعلم الذكاء الاصطناعي من الأمثلة، وهي عملية تسمى "التعلم في السياق" (In-Context Learning). عندما تطلب من ذكاء اصطناعي ذكي القيام بمهمة جديدة، فعادة ما تعطيه بضعة أمثلة أولاً، مثل إظهار عينة لكتاب تم تصنيفه بشكل صحيح. أدرك الباحثون أن مجرد اختيار أمثلة عشوائية لم يكن كافيًا. لقد ابتكروا استراتيجية خاصة لاختيار أفضل الأمثلة. بحثوا عن أمثلة مشابهة للجملة الحالية (حتى يتمكن الذكاء الاصطناعي من رؤية نمط مألوف) ولكنها متنوعة بما يكفي لإظهار طرق كتابة مختلفة وأنواع مختلفة من الكيانات. الأمر يشبه إعطاء طالب دليل دراسي يحتوي على أمثلة من فصول مختلفة، وليس من فصل واحد فقط، لكي يتمكن من التعامل مع أي سؤال يطرأ.
اختبر الفريق هذا النظام الجديد على ثلاث مجموعات بيانات علمية مختلفة: واحدة لعلوم الكمبيوتر، وواحدة لعلم الأحياء، وواحدة للبحوث الطبية. كانت النتائج مبهرة. وجدوا أن TdSciNER كان يعمل بنفس كفاءة، وأحيانًا أفضل من، نماذج الكمبيوتر القديمة والمتخصصة للغاية التي تم تدريبها لسنوات على مواضيع محددة. في الواقع، في مجموعة بيانات علوم الكمبيوتر، سجل نظامهم درجة F1 بلغت 70.58%، وفي المجموعة الطبية، وصل إلى 89.83%. تشير هذه الأرقام إلى أنه من خلال استخدام هذه الحيل الذكية الثلاث—تصفية الخيارات، والتعلم بمهمتين في وقت واحد، واختيار أفضل الأمثلة—يمكن لنماذج اللغات الكبيرة أن تصبح فعالة للغاية في فهم النصوص العلمية دون الحاجة إلى كميات هائلة من المساعدة البشرية الإضافية.
كما تحقق الباحثون من مقدار "قوة الدماغ" التي يتطلبها ذلك. وجدوا أنه بينما يتطلب النظام جهدًا أكثر قليلاً من مجرد طرح سؤال بسيط، إلا أنه لا يبطئ العمل كثيرًا. كان الوقت الإضافي المطلوب لتصفية الأنواع أو اختيار الأمثلة صغيرًا، لكن الزيادة في الدقة كانت هائلة. على سبيل المثال، في مجموعة بيانات علوم الكمبيوتر، حسنت طريقتهم الدقة بنسبة تقارب 30 نقطة مئوية مقارنة باستخدام ذكاء اصطناعي قياسي بدون هذه الحيل.
ومع ذلك، يلاحظ المؤلفون بحذر أن هذا ليس عصا سحرية تحل كل شيء فورًا. فقد اعترفوا بأن نظامهم لا يزال لا يتفوق تمامًا على أفضل النماذج المتخصصة في كل مجموعة بيانات، خاصة تلك التي تحتوي على مصطلحات طبية معقدة للغاية. كما أشاروا إلى أن طريقتهم تعتمد على كيفية صياغة الأوامر (prompts)، وإذا لم تكن الأوامر مصممة جيدًا، فقد تتأثر النتائج. ولكن بشكل عام، تشير الدراسة إلى أن منح الذكاء الاصطناعي القليل من الهيكلية—عن طريق تصفية الضجيج وتعليمه التركيز على أنواع المعلومات الصحيحة—هو وسيلة قوية لجعله أكثر ذكاءً بشأن العلوم. إنها خطوة للأمام في تحويل هذه العقول الاصطناعية العملامة ذات الأغراض العامة إلى أدوات متخصصة يمكنها مساعدتنا في فك الأسرار المخفية في ملايين الأوراق العلمية.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.