11158 ورقة بحثية
تُثبت هذه الورقة أن النماذج اللغوية الكبيرة من فئة الطليعة يمكن إقناعها بشكل منهجي من قبل نماذج لغوية كبيرة أخرى تعمل كمستخدمين محاكيين لتجاوز حواجز الحماية الخاصة بها وتوليد محتوى ضار حول مواضيع حساسة مثل إنكار الهولوكوست وتغير المناخ، محققة معدلات نجاح عالية عبر أزواج متعددة من النماذج باستخدام الحجج اللغوية الطبيعية فقط.
تُثبت هذه الورقة البحثية أن النماذج اللغوية الكبيرة تمتلك "متجه تفضيل" سببيًا مشتركًا في تدفقها المتبقي يحكم خيارات المهام عبر شخصيات متنوعة، بما في ذلك الشخصيات ذات التفضيلات المتعارضة مثل المساعدين المفيدين والشخصيات الشريرة.
تقدم هذه الورقة البحثية إطار عمل QueST، وهو إطار عمل مبتكر يُمكّن النماذج اللغوية الكبيرة من تكييف معاملاتها أثناء الاستدلال باستخدام إشراف مستمد مباشرة من الاستعلام المدخل نفسه، مما يحقق تحسينات خاصة بكل استعلام في مهام الاستدلال دون الاعتماد على بيانات خارجية.
تقدم الورقة البحثية شبكة ذاكرة الفازور (PMNet)، وهي بنية مبتكرة تعالج مشكلة عدم استقرار التدرج طويلة الأمد في أنظمة الذاكرة الصريحة من خلال ديناميكيات الفازور الوحدوية والمرتكزات الهرمية القابلة للتعلم، مما يمكّن نموذجاً مدمجاً بـ 119 مليون معلمة من تحقيق استرجاع شبه مثالي بعيد المدى ومضاهاة أداء نماذج أكبر بكثير.
تقدم هذه الورقة إطار عمل متعدد المراحل وقابلاً لإعادة الإنتاج، يستفيد من النموذج التأسيسي XLM-RoBERTa، والترجمة العكسية باستخدام GPT-4o-mini لتعزيز البيانات، وتحسين العتبة الخاصة بكل لغة، للكشف بفعالية عن الألفاظ النابية المستردة لمجتمع LGBTQ+ عبر وسائل التواصل الاجتماعي باللغات الإنجليزية والإسبانية والإيطالية، مع معالجة تحديات مثل ندرة البيانات والتباين اللغوي عبر اللغات.
تقيم هذه الورقة بشكل منهجي اختبارات الإبداع البشري الحالية للتنبؤ بأداء النماذج اللغوية الكبيرة عبر الكتابة، والتفكير التباعدي، والابتكار العلمي، كاشفةً عن صلاحيتها المحدودة ومقدمةً اختبار الارتباط البعيد التباعدي (DRAT) كأول أداة قوية قادرة على التنبؤ بالابتكار العلمي من خلال التقييم المتزامن لكل من التفكير التقاربي والتباعدي.
تقدم الورقة البحثية نموذج Online Scaled DeltaNet (OSDN)، وهو نموذج انتباه خطي يعزز قاعدة دلتا (Delta Rule) من خلال دمج مُهيئ قطري يتم تحديثه عبر الإنترنت للقياس المعتمد على الميزات، مما يحقق تقارباً فائقاً هندسياً يمكن إثباته ويحسن بشكل كبير الاستدعاء الترابطي داخل السياق مع الحفاظ على التوازي الفعال من حيث الأجهزة.
يُعد PersonalAI 2.0 إطار عمل مبتكر يعزز وكلاء النماذج اللغوية الكبيرة المخصصين من خلال دمج الرسوم البيانية للمعرفة الخارجية مع آلية تخطيط ديناميكية متعددة المراحل لمعالجة الاستعلامات التكيفية، محققاً دقة واقعية فائقة ومعدلات أقل من الهلوسة عبر اختبارات مرجعية متعددة مقارنة بطرق GraphRAG الحالية.
تؤسس هذه الورقة إطاراً معلوماتياً ذا سياق محدود يوضح أنه بينما يمكن للتجزئة (باستخدام وحدات أصغر) أن تؤدي جوهرياً إلى تدهور أداء التنبؤ من خلال زيادة الفقد اللوغاريتمي الأمثل، فإن التجزئة الجشعة (باستخدام وحدات أكبر) يمكنها فعلياً تمديد نافذة السياق القابلة للاستخدام للنموذج، مما يفسر فروق الأداء بين نماذج "ترانسفورمر" القائمة على البايت/الحرف وتلك القائمة على الوحدات الفرعية للكلمات.
تكشف هذه الورقة أن التعلم في السياق القائم على سلسلة الأفكونات متعدد الأمثلة يعمل كتعلم في وقت الاختبار داخل السياق بدلاً من مجرد مطابقة الأنماط، مما يثبت فشل قواعد القياس القياسية لمهام الاستنتاج، وتقترح اختيار الأمثلة المنحني (CDS) لتحسين ترتيب الأمثلة لتحقيق مكاسب كبيرة في الأداء.