Transformer-based Named Entity Recognition in Construction Supply Chain Risk Management in Australia

تخيل أنك محقق يحاول حل لغز ما، ولكن بدلاً من البحث عن بصمات الأصابع، أنت تطارد كلمات محددة مخبأة داخل ملايين المقالات الإخبارية. هذا هو عالم معالجة اللغات الطبيعية (NLP)، وهو فرع من علوم الحاسوب حيث نعلم الآلات كيفية القراءة، والفهم، واستيعب المعنى من اللغة البشرية. فكر في معالجة اللغات الطبيعية كأنها مترجم خارق لا يكتفي فقط بتبادل الكلمات بين اللغات، بل يستوعب بالفعل المعنى الكامن وراءها. أحد أكثر الأدوات فائدة في حقيبة هذا المحقق يسمى التعرف على الكيانات المسماة (NER). إذا تخيلت الجملة ككومة فوضوية من قطع "ليغو" (LEGO)، فإن التعرف على الكيانات المسماة هو الذراع الروبوتية التي تقوم فوراً بفرزها إلى مجموعات مرتبة: "أشخاص"، "أماكن"، "منظمات"، و"تواريخ".

لماذا يهتم أي شخص بتعليم الروبوتات كيفية فرز الكلمات؟ لأن العالم يغرق في المعلومات. في كل يوم، تُكتب آلاف القصص الإخبارية حول كل شيء، من أسواق الأسهم إلى مواقع البناء. بالنسبة للبشر، فإن قراءة كل هذا للعثัง على خطر محدد — مثل نقص في الفولاذ أو نزاع سياسي — يشبه محاولة العثور على إبرة واحدة في كومة قش وأنت ترتدي عصبة عين. وهنا يأتي دور المحولات (Transformers). فكر في "المحول" ليس كروبوت، بل كطالب شديد الانتباه يمكنه قراءة كتاب كامل بنظرة واحدة وفهم كيفية ارتباط كل كلمة بكل كلمة أخرى فوراً، بغض النظر عن مدى تباعدهما. تغوص هذه الورقة البحثية في كيفية استخدام هؤلاء الطلاب شديدي الانتباه لمساعدة قطاع البناء في أستراليا على البقاء آمناً وتجنب الكوارث.

---

مهمة الورقة البحثية: تعليم الروبوتات قراءة أخبار البناء

إن صناعة البناء في أستراليا تشبه إلى حد ما لغزاً ضخماً ومعقداً؛ فهي تتضمن مئات الموردين، وقواعد صارمة، ومواد تأتي من جميع أنحاء العالم. وأحياناً، قد تضيع قطع اللغز أو تنكسر، مما يؤدي إلى "مخاطر سلاسل التوريد" — وهي أمور قد تؤدي إلى تأخير مشروع بناء أو تجعل تكلفته باهظة جداً. عادةً، يتعين على الخبراء قراءة المقالات الإخبارية يدوياً لرصد هذه المخاطر. ولكن مع تدفق الكثير من الأخبار، تصبح هذه العملية بطيئة وعرضة للأخطاء.

تطرح هذه الورقة سؤالاً بسيطاً: هل يمكننا تعليم الكمبيوتر قراءة هذه المقالات الإخبارية بشكل أسرع وأفضل من الإنسان، وتحديداً لإيجاد مخاطر البناء في أستراليا؟

للإجابة على ذلك، جمع الباحثون حوالي 2,000 مقال إخباري من مصادر مثل The Australian وSky News وBloomberg. ثم علموا الكمبيوتر كيف يعمل كأمين مكتبة، يقوم بتصنيف كل كلمة مهمة في النص. استخدموا نظاماً يسمى "وسم BIO"، وهو يشبه وضع ملاحظات لاصقة على الكلمات:

• B- (البداية) و I- (الداخل) لبداية الاسم ومنتصفه (مثل "B-Company" و "I-Name").
• O (الخارج) للكلمات التي لا تهم.

وقد ركزوا على ستة أنواع محددة من "الملاحظات اللاصقة" (الكيانات):

1. الأشخاص (PER)
2. أحداث المخاطر (RRE) – مثل الإضرابات أو التأخيرات.
3. المجموعات السياسية/الوطنية (PNR)
4. المنظمات/الموردون (OSC)
5. الوحدات الجيوسياسية (GPU) – مثل الدول أو الولايات.
6. مواد البناء (CMS) – مثل الخرسانة أو الفولاذ.

بعد وسم 39,500 من هذه الكيانات، قاموا بتغذية البيانات في سبعة نماذج مختلفة من "المحولات" (الطلاب شديدي الانتباه). شمل ذلك نماذج شهيرة مثل BERT وRoBERTa وDistilBERT وALBERT وELECTRA وT5 وGPT-3.

النتائج: من فاز في مسابقة القراءة؟

وضع الباحثون هذه النماذج تحت الاختبار لمعرفة أي منها يمكنه تحديد المخاطر بشكل صحيح. وقاسوا النجاح باستخدام ثلاثة مقاييس: الدقة (Precision) (كم عدد المخاطر المحددة التي كانت حقيقية بالفعل؟)، والاستدعاء (Recall) (كم عدد المخاطر الحقيقية التي وجدها النموذج؟)، ودرجة F1 (F1-score) (وهي توازن بين الاثنين).

إليكم ما وجدوه:

• البطل: برز نموذج RoBERTa كأفضل أداء. فقد حقق متوسط درجة F1 بلغ 0.8580، مما يعني أنه كان الأفضل في الموازنة بين إيجاد جميع المخاطر دون ارتكاب الكثير من الأخطاء. وجاء في المركز الثاني بفارق ضئيل نموذج BERT، الذي سجل 0.8356.
• النموذج "المتطلب جداً": كان نموذج T5 مثيراً للاهتمام. فقد حقق أعلى دقة (0.9924)، مما يعني أنه عندما يقول إنه وجد خطراً، فغالباً ما يكون محقاً. ومع ذلك، فقد فاته عدد كبير من المخاطر الفعلية (استدعاء منخفض قدره 0.3645). كان يشبه محققاً لا يحل إلا القضايا السهلة ويتجاهل الباقي.
• النماذج التوليدية: لم يحقق GPT-3، المشهور بكتابة القصص، أداءً جيداً في هذه المهمة المحددة المتمثلة في "الإيجاد". بلغت درجة F1 الخاصة به 0.7518. وتشير الورقة إلى أن السبب هو أن GPT-3 مُصمم لـ توليد النصوص، وليس لـ وسم أجزاء محددة من النص، مما يجعله يشبه استخدام مطرقة لدفع برغي — يمكن أن يعمل، لكنه ليس الأداة الأفضل للمهمة.
• الأبطال الخفيفون: كان نموذجا DistilBERT وALBERT أقل دقة بقليل من RoBERTa، ولكنهما كانا أسرع بكثير ويتطلبان طاقة حاسوبية أقل. وهذا يجعلهما خيارين رائعين إذا لم يكن لديك حاسوب خارق لتشغيلهما.

السر الخفي: ضبط الأزرار

لم يكتفِ الباحثون باختيار نموذج وتمني الأفضل فحسب، بل قضوا وقتاً في "ضبط الدقة" (Fine-tuning) للنماذج، وهو ما يشبه ضبط أزرار الراديو للحصول على أوضح إشارة. لقد اختبروا إعدادات مختلفة لـ:

• معدل التعلم (Learning Rate): سرعة تعلم النموذج.
• حجم الدفعة (Batch Size): عدد المقالات الإخبارية التي يقرأها في المرة الواحدة.
• المحسنات (Optimizers): الأدوات الرياضية المستخدمة لتحسين النموذج (تحديداً Adam و AdamW).

ووجدوا أن معدلات التعلم المنخفضة (التعلم ببطء وحذر) أدت عموماً إلى نتائج أفضل. كما اكتشفوا أن محسن AdamW ساعد النماذج غالباً على الأداء بشكل أفضل من محسن Adam القياسي، خاصة بالنسبة لنماذج مثل BERT وALBERT. ومن المثير للاهتمام، وجدوا أن استخدام أحجام دفعات أصغر (قراءة عدد أقل من المقالات في المرة الواحدة) كان يعمل بشكل أفضل من قراءة كتل ضخمة، وهو أمر كان مفاجئاً بعض الشيء.

ماذا يعني هذا للمستقبل؟

تخلص الورقة إلى أن استخدام أدوات الذكاء الاصطناعي هذه يعد تغييراً جذرياً في إدارة مخاطر البناء. فبدلاً من أن يقضي الإنسان ساعات في قراءة الأخبار، يمكن لنموذج مثل RoBERTa مسح آلاف المقالات في ثوانٍ، وتحديد المخاطر مثل "نقص في الفولاذ في فيكتوريا" أو "اضطرابات سياسية تؤثر على الموردين في الصين".

ويقترح المؤلفون أنه في المستقبل، يمكن دمج هذه التكنولوجيا مباشرة في برامج إدارة المشاريع. تخيل لوحة تحكم تعطي مديري المشاريع "تنبيهات في الوقت الفعلي" كلما ذكر خبر ما خطراً يمس مشروعهم المحدد. سيتيح ذلك لهم معالجة المشكلات قبل أن تتسبب في تأخيرات أو تجاوزات في التكاليف.

ومع ذلك، تشير الورقة أيضاً إلى أن هذه مجرد البداية. فهم لم يختبروا كل النماذج الممكنة (مثل XLNet أو DeBERTa) ويعترفون بأن هناك حاجة لمزيد من العمل لجعل هذه الأنظمة أكثر ذكاءً. لكن الرسالة الجوهرية واضحة: من خلال تعليم الكمبيوترات قراءة الأخبار، يمكننا بناء مشاريع بناء أكثر أماناً ومرونة في أستراليا.