11611 ورقة بحثية
تقدم الورقة البحثية SHAPE، وهو معيار جديد ومسار تدريس معزز بالرسوم البيانية مصمم لحماية النماذج اللغوية الكبيرة التعليمية من "الاختراقات التربوية" عبر ضمان تقديمها لتعليم متدرج بدلاً من الإجابات المباشرة، مما يوحد بين السلامة، والمساعدة، والنزاهة التربوية.
تُظهر هذه الدراسة أن النماذج اللغوية الكبيرة تمارس "جذباً اتجاهياً" نحو التنميط الأسلوبي، مما يؤدي إلى تغيير السرديات الشخصية عبر تقليل العلامات الفردية المميزة مثل الضمائر والاختصارات مع زيادة التجريد، وهو ما يجعل النصوص أكثر صقلاً ولكن أقل تميزاً في سياقها الخاص.
تتناول هذه الورقة كيف أن النماذج اللغوية الكبيرة، رغم قدرتها على تحديد الأضرار بين الأشخاص، تفشل في تقديم النصيحة الحاسمة والتوجيهية التي تفضلها المجتمعات عبر الإنترنت (مثل r/relationship_advice)، وهي ظاهرة يطلق عليها المؤلفون "الاعتراف دون التفويض" والناجمة عن ميل النماذج المتأصل نحو اللغة المتحفظة، والعلاجية، وغير الحازمة.
يكشف تدقيق عابر للثقافات لنماذج الذكاء الاصطناعي الرائدة عن تحيز منهجي نحو القيم الفردية الغربية، حيث يقدم نصائح تختلف اختلافاً جوهرياً عن المعايير الجماعية الفعلية للعديد من المجتمعات غير الغربية.
تستخدم هذه الدراسة أساليب التفسير السببي لتوضيح أن النماذج اللغوية توظف آلية عصبية مشتركة وموضعية لتبعية "المالئ-الفجوة" (filler-gap dependencies) عبر مختلف التراكيب، في حين لا ينطبق ذلك على ترخيص "الكلمات السالبة لليقين" (NPI licensing)، مع إظهار أن تقنية "الرقع التنشيطية" (activation patching) تعمم بشكل أفضل على البيانات الخارجة عن نطاق التوزيع مقارنة بـ "البحث عن المحاذاة الخاضع للإشراف" (supervised alignment search).
تُظهر هذه الدراسة أن النماذج اللغوية الكبيرة ذات الأوزان المفتوحة والمضبوطة تعليمياً، والتي تقع في نطاق 3-9 مليارات معلمة، تفشل في اختبارات الصلاحية السيكومترية للثقة اللفظية، حيث تُظهر تأثيرات سقفية مفرطة وافتقاراً للارتباط بين اليقين اللفظي والدقة الفعلية أو احتمالات اللوغاريتم (logprobabilities) على مستوى الرمز (token).
تقترح الورقة البحثية إطار عمل RC-RAG، وهو إطار عمل متعدد المراحل لا يتطلب تدريباً، يستخدم إعادة صياغة العلاقات أثناء عمليات الاسترجاع والتلخيص والتوليد لتحسين أداء النماذج اللغوية الكبيرة بشكل كبير في مهام إكمال العلاقات ذات الذيل الطويل.
تُظهر هذه الورقة أن النماذج اللغوية الكبيرة غالباً ما تقرر الإجابة قبل وقت طويل من إنهاء عملية الاستنتاج الخاصة بها، مما يشير إلى أن جزءاً كبيراً من توليد سلسلة الأفكار هو أمر زائد عن الحاجة ويمكن تقليله بشكل كبير من خلال استراتيجيات التوقف المبكر مع حد أدنى من الخسارة في الدقة.
يُعد STEM إطار عمل مبتكر يعمل على تحسين الاستدلال متعدد القفزات في الإجابة على الأسئلة القائمة على الرسوم البيانية للمعرفة من خلال إعادة صياغته كمهمة بحث في الرسم البياني موجهة بالمخطط، وذلك باستخدام مسار إسقاط دلالي-هيكلي وشبكة عصبية رسومية تعتمد على الثلاثيات لاسترجاع رسوم بيانية فرعية للأدلة أكثر دقة واكتمالاً.
إن SLIDERS هو إطار عمل يُمكّن من الإجابة عن الأسئلة بشكل قابل للتوسع عبر مجموعات وثائق ضخمة من خلال استخراج المعلومات البارزة إلى قاعدة بيانات علاقية مُصالحة، مما يسمح بالاستدلال المهيكل عبر لغة SQL بدلاً من الاعتماد على نوافذ سياق النماذج اللغوية الكبيرة المحدودة.