11611 ورقة بحثية
تُظهر هذه الورقة أن تطبيق تقنية تقطير المعرفة القائمة على الاستجابة من نموذج معلم مملوك ومرتكز على اللغة الإنجليزية إلى نماذج طلابية مفتوحة المصدر ومتعددة اللغات يمكن أن يؤدي دون قصد إلى تقويض السلامة من خلال زيادة معدلات نجاح عمليات الاختراق (jailbreak)، لا سيال في السياقات غير الإنجليزية، وذلك بسبب فقدان الرفض الدقيق للحدود.
تقدم الورقة البحثية AdaptEvolve، وهو إطار عمل يعمل على تحسين كفاءة وكلاء الذكاء الاصطناعي التطوري من خلال الاختيار الديناميكي لأنسب نموذج لغوي كبير لكل خطوة صقل بناءً على ثقة التوليد الجوهرية، مما يقلل تكاليف الاستدلال بنسبة تقارب 38% مع الحفاظ على دقة عالية.
تقدم هذه الورقة LATMiX، وهي طريقة توظف تحويلات تآلفية عكسية قابلة للتعلم لتحسين توزيعات التنشيط من أجل التكميم المجهري (MX)، مما يحسن بشكل كبير من دقة النماذج اللغوية الكبيرة ذات البتات المنخفضة مقارنة بالأساليب القائمة على الدوران أو هادامارد.
تُظهر الورقة البحثية أن حساسية التلقين في النماذج اللغوية الكبيرة يمكن تفسيرها من خلال مستويات تنشيط "رؤوس المهام المعجمية" —وهي آليات داخلية مشتركة تمثل المهمة بغض النظر عما إذا كان التلقين يستخدم تعليمات أو أمثلة— وأن تباين الأداء ينبع من مدى قوة تحفيز هذه الرؤوس أو تخفيفها بواسطة التمثيلات المتنافسة.
تتقصى هذه الورقة البحثية "مراقبة نمط المصدر" —وهي قدرة النماذج اللغوية البصرية على تحديد ما إذا كانت المعلومات نابعة من النصوص أم الصور— لتجد أن النماذج تعتمد على كل من الإشارات النحوية والدلالية لحل مشكلة الربط هذه، مع بروز الهيمنة للإشارات الدلالية عندما تكون الأنماط متباينة للغاية.
تقترح هذه الورقة إطار عمل خفيف الوزن لمطابقة المرضى بالتجارب السريرية بشكل قابل للتوسع، يجمع بين التوليد المعزز بالاسترجاع لاستخراج المقاطع السريرية ذات الصلة من السجلات الصحية الإلكترونية الطويلة مع النمذجة القائمة على النماذج اللغوية الكبيرة والمتنبئات خفيفة الوزن، محققاً أداءً يضاهي النهج الشامل والمكلف حاسوبياً للنماذج اللغوية الكبيرة بتكلفة أقل بكثير.
توضح هذه الورقة أنه بينما يعمل التعلم المعزز من خلال المكافآت القابلة للتحقق (RLVR) على تحسين دقة المهام، فإنه لا يضمن أن استدلال النموذج هو في الواقع مهم سببيًا أو كافيًا للوصول إلى الإجابة، رغم إمكانية التخفيف من هذه المشكلة من خلال الضبط الدقيق الموجه (SFT) أو المكافآت المساعدة.
تقدم الورقة البحثية PrivUn، وهو إطار تقييم يكشف أن أساليب نسيان النماذج اللغوية الكبيرة الحالية تعاني من "النسيان الضحل" و"تأثيرات التموج المدفوعة بالتدرج"، وتقترح استراتيجيات جديدة تتضمن الاختيار المدرك للارتباط والتدخل متعدد الطبقات لتحقيق نسيان خصوصية أكثر عمقاً ومتانة.
تقدم هذه الورقة مفهوم "الإقناع العفوي" لتدقيق كيفية استخدام النماذج اللغوية الكبيرة لاستراتيجيات إقناع غير مقصودة —تتمثل أساساً في المنطق والأدلة— خلال التفاعلات اليومية، لتجد أنه بينما تقنع النماذج اللغوية الكبيرة بشكل أكثر تكراراً وموضوعية من البشر، فإنها تعتمد على تكتيكات نفسية مختلفة عن الأساليب القائمة على التأثير الاجتماعي التي يستخدمها البشر.
تقدم الورقة البحثية "PermaFrost-Attack"، وهي طريقة مبتكرة لبذر التمهيد الخفي (SPS) تقوم بدمج "ألغام منطقية" كامنة في النماذج اللغوية الكبيرة عبر توزيع حمولات مسمومة صغيرة تبدو حميدة عبر الويب ليتم امتصاصها أثناء التدريب، وتقترح مجموعة من التشخيصات الهندسية للكشف عن هذه الثغرات الكامنة.