ReFRAME or Remain: Unsupervised Lexical Semantic Change Detection with Frame Semantics
تقدم هذه الورقة البحثية ReFRAME، وهو أسلوب غير مُشرف للكشف عن التغير الدلالي المعجمي يعتمد على دلالات الإطار (frame semantics)، ويقدم بديلاً عالي التفسير لنماذج التضمين العصبي مع إظهار أداء تنافسي أو متفوق.
الكلمات ليست أشياءً ثابتة؛ بل هي كائنات حية تنمو وتتحول وتتكيف مع تغير البشر الذين يستخدمونها. وفي دراسة اللغة، تُعرف هذه العملية بالتغير الدلالي. لعقود من الزمن، حاول العلماء تتبع هذه التحولات باستخدام الحواسيب، معتمدين غالباً على قواعد بيانات ضخمة من النصوص لرصد كيف تتغير رفقة الكلمات التي تظهر معها بمرور الوقت. والفكرة السائدة هي أنه إذا ظهرت كلمة ما بجانب أنواع مختلفة من الكلمات في عصور مختلفة، فمن المرجح أن معناها قد تطور. وتجيد البرامج الحاسوبية الحديثة رصد هذه الأنماط ببراعة، لكنها غالباً ما تعمل كـ "صندوق أسود": يمكنها إخبارك بأن تغيراً قد حدث، لكن لا يمكنها بسهولة شرح السبب أو إظهار الأسباب المحددة وراء ذلك. والنتيجة هي إجابة صحيحة لكنها تبدو مبهمة، مما يترك الباحثين دون نافذة واضحة على الآليات الفعلية لكيفية تحول المعنى.
قرر فريق من اللغويين وعلماء الحاسوب في جامعة كي لوفن ومؤسسات أخرى تجربة مسار مختلف. فبدلاً من مطالبة الحاسوب بتخمين معنى كلمة بناءً على أنماط إحصائية، طلبوا منه النظر في المواقف المحددة، أو "الأطر" (frames)، التي تُستخدم فيها الكلمة. يعتمد هذا النهج على نظرية تُسمى "دلالات الإطار" (Frame Semantics)، والتي تقترح أننا نفهم الكلمات ليس بمعزل عن غيرها، بل من خلال المشاهد الذهنية التي تستحضرها. فعندما تسمع كلمة "شراء"، يستحضر عقلك تلقائياً مشهداً يتضمن مشترياً، وبائعاً، وسلعاً، ونقوداً. وعندما تسمع كلمة "بيع"، يكون المشهد هو نفسه، لكن المنظور يتحول إلى البائع. وقد افترض الباحثون أنه إذا تغير معنى كلمة ما بمرور الوقت، فإن أنواع المشاهد التي تشارك فيها يجب أن تتغير أيضاً. وبدلاً من الاعتماد على الأنماط الرياضية الخفية، أرادوا استخدام هذه المشاهد الهيكلية الصريحة كإشارة شفافة للكشف عن متى تحولت الكلمة.
لاختبار هذه الفكرة، ركز الفريق على اللغة الإنجليزية، مستخدماً مجموعة كبيرة من النصوص مقسمة إلى فترتين زمنيتين متميزتين: منتصف القرن التاسع عشر وأواخر القرن العشرين. واختاروا قائمة من الكلمات المعروفة بتغير معانيها واستخدموا برنامجاً حاسوبياً لتحليل كل جملة تحتوي على تلك الكلمات. لم يكتفِ البرنامج بعدّ عدد مرات ظهور الكلمات معاً فحسب؛ بل حدد الأطر المفاهيمية المحددة التي تنتمي إليها كل جملة. فعلى سبيل المثال، حدد ما إذا كانت الجملة المتعلقة بكلمة "طائرة" (plane) تناقش طائرة تقلع أم سطحاً مستوياً في الهندسة. ومن خلال مقارنة تكرار هذه الأطر المختلفة بين الفترتين الزمنيتين، استطاع الباحثون قياس مدى تحول استخدام الكلمة. كما قاموا بحساب درجة بناءً على مدى اختلاف توزيع هذه المشاهد من عصر إلى آخر.
كانت النتائج قوية بشكل مفاجئ. فالطريقة، التي اعتمدت كلياً على هذه الأطر الصريحة، تفوقت على العديد من النماذج الحاسوبية الأكثر تقدماً التي تستخدم تمثيلات رياضية معقدة وخفية. وفي الواقع، صُنف نظامهم ضمن أفضل المؤدين في مسابقة دولية كبرى صُممت لاختبار هذا النوع من المهام تحديداً. والأهم من ذلك، ولأن الطريقة بُنيت على فئات واضحة ومفهومة بشرياً، استطاع الباحثون النظر داخل النتائج ورؤية ما الذي تغير بالضبط. كان بإمكانهم الإشارة إلى كلمة محددة والقول: "تغيرت هذه الكلمة لأنها بدأت تظهر في مشاهد تتعلق بالسفر والتجارة، بينما توقفت عن الظهور في مشاهد القياس". وهذا المستوى من التفصيل هو أمر لا تستطيع النماذج الأكثر قوة، ولكن الأكثر غموضاً، توفيره غالباً.
فحص الفريق أمثلة محددة لفهم آليات نجاحهم. نظروا في كلمة "دعامة" (prop)، والتي كانت تُستخدم في القرن التاسع عشر غالباً في سياقات تتعلق بالدعم المادي أو الاستقرار الأسري. وبحلول أواخر القرن العشرين، تحولت الكلمة لتظهر بكثرة في مشاهد تتعلق بالمسرح والأداء، حيث تشير إلى الأشياء التي يستخدمها الممثلون. اكتشف الحاسوب هذا التحول من خلال ملاحظة أن الأطر القديمة قد تلاشت وحلت محلها أطر جديدة. كما نظروا في كلمة "شجرة" (tree)، التي أظهرت تغيراً ضئيلاً جداً في استخدام أطرها، مما أكد دقة تحديدها ككلمة مستقرة. ومع ذلك، كشفت الطة أيضاً عن حدودها الخاصة؛ فبالنسبة لكلمة "لحاف" (quilt)، رصد الحاسوب تحولاً كبيراً لأن الكلمة ظهرت في العديد من السياقات المادية الجديدة، مثل كونها مطوية أو موضوعة، رغم أن المعنى الجوهري للشيء لم يتغير حقاً. وقد أظهر هذا أنه بينما تعد الطريقة ممتازة في رصد التغيرات في الاستخدام، إلا أنها قد تخطئ أحياناً وتعتبر التغير في السياق تغيراً في المعنى.
رغم هذه القيود الطفيفة، تثبت الدراسة أن المعرفة اللغوية الصريحة يمكن أن تكون أداة قوية لفهم كيفية تطور اللغة. لم يهدف الباحثون إلى بناء النظام الأسرع أو الأكثر تعقيداً، بل سعوا لخلق نظام واضح وقابل للتفسير. وقد وجدوا أنه من خلال التركيز على المشاهد المهيكلة التي تستحضرها الكلمات، لم يتمكنوا فقط من رصد التغير الدلالي بدقة عالية، بل تمكنوا أيضاً من شرح طبيعة ذلك التغيير بمصطلحات بسيطة. يقدم هذا النهج طريقة لسد الفجوة بين القوة الخام للذكاء الاصطناعي الحديث والفهم الدقيق للغة البشرية، مما يثبت أن النظر أحياناً في التفاصيل المحددة لكيفية استخدام الكلمة يكون أكثر كشفاً من الاعتماد على تخمين رياضي خفي.
ملخص تقني: ReFRAME أو Remain: الكشف غير الخاضع للإشراف عن التغير الدلالي المعجمي باستخدام دلالات الإطار (Frame Semantics)
بيان المشكلة يعد الكشف عن التغير الدلالي المعجمي (LSC) مهمة راسخة في معالجة اللغات الطبيعية (NLP)، وعادة ما يتم التعامل معها باستخدام التمثيلات التوزيعية العصبية (مثل word2vec وBERT). وبينما تحقق هذه النماذج أداءً فائقًا (SOTA) في معايضات مثل SemEval 2020 Task 1، إلا أن نتائجها غالبًا ما تكون غامضة ويصعب تفسيرها. ويرى المؤلفون أن الاعتماد فقط على الفرضيات التوزيعية الضمنية يحد من القدرة على فهم كيفية وسبب تحول معنى الكلمة. علاوة على ذلك، فإن الأطر النظرية القائمة (مثل دلالات الإطار - Frame Semantics) لم تُستغل تاريخيًا بشكل كافٍ في الكشف الحسابي غير الخاضع للإشراف عن التغير الدلالي المعجمي بسبب نقص أدوات التحليل (parsing) الآلية والقابلة للتوسع، والطبيعة التي تتطلب جهدًا يدويًا كبيرًا في التوسيم (annotation).
المنهجية يقترح البحث نهجًا غير خاضع للإشراف يعتمد حصريًا على دلالات الإطار (Fillmore, 1982) بدلاً من تضمينات المتجهات الكثيفة. والفرضية الأساسية هي أن التغير الدلالي ينعكس في التحولات في توزيع الأطر التي تشارك فيها الكلمة، سواء كعنصر مُحفز للإطار (trigger) أو كعنصر داخل الإطار (frame element).
تتضمن سلسلة العمل التجريبية الخطوات التالية:
إعداد البيانات: استخدام مجموعة البيانات الإنجليزية من SemEval 2020 Task 1، والتي تتكون من فترتين زمنيتين (C1: 1810–1860؛ C2: 1960–2010). ويشير المؤلفون إلى أن الطريقة تقتصر على اللغة الإنجليزية بسبب عدم وجود أدوات تحليل دلالات إطارية موثوقة وواسعة النطاق للغات الألمانية والسويدية واللاتينية.
تحليل الإطار (Frame Parsing): تتم معالجة الجمل التي تحتوي على الكلمات المستهدفة (target lemmas) باستخدام نموذج Frame Semantic Transformer المدرب مسبقًا (Chanin, 2023). استخدم المؤلفون مجموعات نصوص مجردة (lemmatized corpora) للتخفيف من مشكلات عدم قدرة المحلل على إرجاع إزاحات الرموز (token offsets) لعناصر الإطار.
بناء التوزيع: يتم بناء نوعين من توزيعات الإطارات لكل كلمة مستهدفة في كل فترة زمنية:
FE (عناصر الإطار فقط): تعداد الأطر التي تظهر فيها الكلمة المستهدفة كعنصر إطار.
FTFE (محفزات الإطار + عناصر الإطار): تعداد الأطر التي تعمل فيها الكلمة المستهدفة إما كمحفز أو كعنصر.
ملاحظة: تم تطبيق عملية إزالة التكرار (deduplication) لكل جملة لضمان عدم احتساب مثيل واحد للإطار أكثر من مرة إذا ظهرت الكلمة المستهدفة عدة مرات ضمنه.
قياس التغير: يتم حساب درجة التغير الدلالي باستخدام تباعد جينسن-شانون (JSD) بين توزيعات الإطارات للفترتين الزمنيتين. تم اختيار JSD لكونه متماثلًا، وله نطاق محدود (0–1)، وقابلية التفكيك إلى مساهمات لكل إطار.
التقييم:
المهمة الفرعية 1 (التصنيف الثنائي): تُصنف الكلمات على أنها "متغيرة" إذا كان JSD ≥ 0.5 (عتبة مختارة تجريبيًا) و"غير متغيرة" بخلاف ذلك.
المهمة الفرعية 2 (الترتيب المتدرج): يتم تقييم الأنظمة بناءً على ارتباط سبيرمان (Spearman rank correlation) بين درجات JSD المحسوبة ودرجات التغيير في النموذج المرجعي (gold-standard).
النتائج الرئيسية تم تقييم الطريقة مقابل معايضات SemEval 2020 Task 1:
المهمة الفرعية 2 (الترتيب): حقق نموذج FTFE ارتباط سبيرمان قدره 0.306، مما وضعه ضمن أفضل 10 أنظمة للغة الإنجليزية. وهو يتفوق على العديد من الأنظمة الثابتة (القائمة على العد والتنبؤ) وأنظمة التضمين السياقية، وكذلك نموذج العد المرجعي (Count Baseline) الذي سجل (0.022). أما نموذج FE-only فقد حقق ارتباطًا قدره 0.249.
المهمة الفرعية 1 (التصنيف الثنائي): حقق كلا النموذجين دقة قدرها 0.622، وهو ما يضاهي مختلف أنظمة تضمين الكلمات ويتفوق على نموذج العد المرجعي (0.595).
التحليل النوعي والقابلية للتفسير تتمثل المساهمة الرئيسية لهذا العمل في قابلية النتائج للتفسير. فمن خلال تفكيك JSD، يمكن للمؤلفين تحديد الأطر التي أدت تحديدًا إلى درجة التغيير.
الإيجابيات الحقيقية (True Positives): نجحت الطريقة في رصد التحولات، مثل انتقال الاسم prop من معنى "الدعم" (مرتبط بأطر مثل Possibility أو Building) إلى معنى "غرض مسرحي" (مرتبط بـ Self_motion و Quantified_mass).
السلبيات الحقيقية (True Negatives): حددت درجات JSD المنخفضة بشكل صحيح كلمات مثل tree حيث كانت التغيرات سياقية فقط (مثل تكرار "old tree") وليست دلالية.
الإيجابيات الكاذبة/السلبيات الكاذبة (False Positives/Negatives): يكشف التحليل عن القيود. بالنسبة لكلمة quilt، نتجت قيمة JSD الكبيرة عن تحولات سياقية (مثل الأفعال مثل lean، wring) بدلاً من التغير الدلالي، مما أدى إلى إيجابية كاذبة. وعلى العكس من ذلك، بالنسبة لكلمة ball، رصدت الطريقة التحول من "حدث اجتماعي" إلى "جسم كروي" ولكنها قللت من تقدير حجم التغيير، مما أدى إلى سلبية كاذبة مقارنة بالترتيب المرجعي.
الأهمية والادعاءات يصرح المؤلفون صراحةً أن هدفهم ليس إرساء معيار جديد للأداء الفائق (SOTA) من حيث درجات المعايضات الخام، بل إثبات جدوى الطرق القائمة على النظرية والقابلة للتفسير في الكشف عن التغير الدلالي المعجمي.
الفعالية: تظهر الدراسة أن المعلومات الصريحة لدلالات الإطار كافية لبناء أنظمة فعالة للكشف عن التغير الدلالي المعجمي يمكنها التفوق على العديد من النماذج التوزيعية المرجعية.
القابلية للتفسير: على عكس نماذج التضمين الكثيفة، تسمح هذه الطريقة للباحثين بفحص تحولات إطارية محددة وسياقات داعمة، مما يسهل التحليل النوعي المستهدف.
الربط بين معالجة اللغات الطبيعية واللسانيات: يعد هذا العمل محاولة للربح بين طرق معالجة اللغات الطبيعية والنظريات اللسانية للدلالات المعجمية، مما يقدم بديلًا شفافًا للنهج العصبي "الصندوق الأسود".
القيود يقر البحث بعدة قيود:
الاعتماد على اللغة: تقتصر الطريقة حاليًا على اللغة الإنجليزية بسبب غياب أدوات تحليل إطاري آلية عالية الجودة للغات الأخرى في المعايضات.
عيوب المحلل (Parser): لا يستطيع المحلل إخراج إزاحات الرموز، مما يستلزم استخدام مجموعات نصوص مجردة (lemmatized)، وهو ما قد يؤثر قليلًا على الأداء.
السياق مقابل الدلالة: يمكن للطريقة المبالغة في تقدير التغير عندما تحدث تحولات سياقية (متلازمات لفظية) دون تغير دلالي حقيقي، كما يمكنها التقليل من قدر التغير عندما لا تؤدي الابتكارات الدلالية إلى تحولات توزيعية كبيرة في مخزون الأطر المتاح.