Named Entity Recognition of Historical Texts via Large Language Model
تُظهر هذه الدراسة أن النماذج اللغوية الكبيرة، من خلال استخدام استراتيجيات التلقين بـ "الصفر محاولة" (zero-shot) و"القليل من الأمثلة" (few-shot)، توفر بديلاً فعالاً ومجدياً لتعرّف الكيانات المسماة في النصوص التاريخية حيث تندر بيانات التدريب المُصنفة، محققةً أداءً قوياً إلى حد معقول رغم عدم وصولها إلى مستوى النماذج الخاضعة للإشراف الكامل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك مكتبة ضخمة من الصحف القديمة والمغبرة والرسائل المكتوبة بخط اليد من القرنين الثامن عشر والتاسün عشر. تريد العثور بسرعة على كل ذكر لشخص أو مدينة أو منظمة معينة داخل هذه الوثائق. هذا هو عمل "التعرف على الكيانات المسماة" (NER): تعليم الكمبيوتر كيفية رصد وتصنيف الأسماء مثل "نابليون" أو "باريس" أو "ذا تايمز" ضمن كتلة من النص.
المشكلة هي أن هذه الوثائق القديمة تمثل كابوساً للحواسيب. فهي مكتوبة بلغات غريبة وعتيقة، وتتميز بهجاء غير متسق (مثل "shew" بدلاً من "show")، ومليئة بالأخطاء المطبعية الناتجة عن عملية المسح الضوئي. لتعليم الكمبيوتر كيفية التعامل مع هذا، يتعين عليك عادةً الاستعانة بخبير بشري يقرأ آلاف الصفحات ويقوم بتسمية (labeling) كل اسم يدوياً. وهذا أمر مكلف، وبطيء، وغالباً ما يكون مستحيلاً بسبب عدم وجود عدد كافٍ من الخبراء أو المال الكافي.
النهج الجديد: استراتيجية "أرِني، لا تخبرني"
تختبر هذه الورقة البحثية طريقة جديدة لحل هذه المشكلة باستخدام نماذج اللغات الكبيرة (LLMs). فكر في نموذج اللغة الكبير كإنسان آلي فائق الذكاء ومطلع، قد قرأ كل شيء تقرياً على الإنترنت. بدلاً من إجبار الروبوت على خوض دورة تدريبية شاقة (والتي تتطلب تلك الأمثلة المسمّاة والمكلفة)، جرب الباحثون نهجاً مختلفاً وهو: التلقين (Prompting).
لقد عاملوا الروبوت كموظف جديد لم يتلقَّ تدريباً على الوظيفة المحددة بعد. قدموا للروبوت "ورقة غش" (مُلقّن/Prompt) وطلبوا منه القيام بالعمل. واختبروا استراتيجيتين رئيسيتين:
- التعلم من الصفر (اختبار "الأعمى"): أخبروا الروبوت ببساطة: "إليك نص. ابحث عن الأشخاص والأماكن". لم يتم تقديم أي أمثلة.
- التعلم من أمثلة قليلة (اختبار "أرِني"): قدموا للروبوت عينة صغيرة من العمل أولاً. قالوا له: "إليك جملة: 'ذهب نابليون إلى باريس'. في هذه الجملة، 'نابليون' هو شخص و'باريس' هو مكان. الآن، انظر إلى هذه الجملة الجديدة وافعل الشيء نفسه".
التجربة: مفاجأة "المثال الواحد"
اختبر الباحثون هذا على مجموعة من النصوص التاريخية بخمس لغات مختلفة (الألمانية، الفرنسية، الإنجليزية، السويدية، والفنلندية). وجربوا إعطاء الروبوت أعداداً مختلفة من الأمثلة: 1، أو 3، أو 5. كما جربوا طرقاً مختلفة لاختيار هذه الأمثلة، مثل اختيارها عشوائياً أو اختيار أمثلة تشبه جداً النص الذي سيقرأه الروبوت لاحقاً.
إليكم ما وجدوه، باستخدام بعض التشبيهات البسيطة:
- المثال الواحد هو النقطة المثالية: من المثير للدهشة أن إعطاء الروبوت مثالاً واحداً فقط كان يعمل بشكل أفضل من إعطائه ثلاثة أو خمسة أمثلة. الأمر يشبه محاولة شرح لعبة لطفل: مثال واحد واضح غالباً ما يكون كافياً. إذا أعطيتهم خمسة أمثلة، فقد يصابون بالارتباك بسبب الضجيج الإضافي أو طول التعليمات. لقد كان أداء الروبوت في أفضل حالاته مع عرض توضيحي واحد وواضح.
- طريقة اختيار المثال لا تهم كثيراً: تساءل الباحثون عما إذا كان اختيار مثال يشبه تماماً النص المستهدف (مثل البحث عن توأم له) سيساعد أكثر من اختيار مثال عشوائي. وجدوا أن الأمر لا يهم حقاً. سواء كان المثال تطابقاً مثالياً أو مجرد عينة عشوائية، فقد تعلم الروبوت بنفس القدر من مثال واحد. الأمر كما لو أن الروبوت ذكي جداً لدرجة أنه يستطيع فهم قواعد اللعبة من أي مثال واحد، بغض النظر عن مدى تشابهه مع المهمة.
- خدعة "تصويت المجموعة": بما أن الذكاء الاصطنا็ม يمكن أن يكون غير متوقع أحياناً (مثل رمي العملة المعدنية)، فقد طلب الباحثون من الروبوت القيام بالمهمة ثلاث مرات ثم أخذوا الإجابة التي ظهرت أكثر من غيرها (تصويت الأغلبية). ساعد هذا قليلاً، مثل لجنة تتفق على قرار، لكن التحسن كان طفيفاً.
النتائج: جيدة، ولكن ليست مثالية
قام الروبوت بعمل جيد. لقد كان أفضل بكثير في العثور على الأسماء عندما يُعطى ولو مثالاً واحداً مقارنة بوضعه بدون أي أمثلة على الإطلاق. ومع ذلك، لم يستطع التفوق على الأنظمة التي تُعد "المعيار الذهبي"، وهي الأنظمة التي تم تدريبها لشهور من قبل بشر على كميات هائلة من البيانات المسمّاة.
- الاستثناء: كانت هناك مجموعة بيانات واحدة (مجموعة نصوص ألمانية تسمى "Sonar") حيث تفوق الروبوت فعلياً على أفضل الطرق السابقة.
- الفجوة: بالنسبة لمعظم النصوص الأخرى، كان الروبوت لا يزال متأخراً عن الخبراء الذين قاموا بالعمل الشاق المتمثل في التدريب اليدوي.
الخلاصة
تثبت هذه الورقة البحثية أنك لست بحاجة دائماً إلى فريق ضخم من المسمّين البشر لجعل الكمبيوتر يقرأ الكتب التاريخية. يمكنك استخدام ذكاء اصطناعي ذكي وإظهار مثال واحد له فقط للحصول على نتائج جيدة بشكل مدهش.
وعلى الرغم من أن طريقة "المثال الواحد" هذه ليست مثالية بعد ولا يمكنها استبدال الأنظمة الأكثر دقة التي تم تدريبها بشرياً، إلا أنها أداة قوية، ومجانية، وسريعة. فهي تسمح للباحثين بالبدء في استكشاف الأرشيفات التاريخية فوراً، حتى لو لم يكن لديهم الميزانية أو الوقت لإنشاء مجموعة بيانات تدريب ضخمة. إنها تشبه امتلاك مساعد مفيد يمكنه قراءة الكتب القديمة معك، حتى لو كان يحتاج إلى تذكير سريع بما يجب أن يبحث عنه قبل أن يبدأ.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.