11611 ورقة بحثية
تُظهر هذه الدراسة أن خمسة نماذج لغوية توليدية ضخمة، عند نشرها في بيئات "الاسترخاء" الطبيعية دون مطالبات هوية صريحة، تكرس بشكل منهجي عمليات الحذف والإخضاع والنمطية الضارة تجاه الأشخاص من الأقليات، وتولد مخرجات تمييزية تزيد احتمالية كونها سلبية بمئات إلى آلاف المرات عن كونها تمكينية، وتشكل مخاطر نفسية جسيمة.
تقدم هذه الورقة مراجعة شاملة للتحيز في النماذج اللغوية الكبيرة، حيث تحلل أصوله بشكل منهجي، وتقيم طرق الكشف عبر مستويات البيانات والنموذج والمخرجات، وتصنف استراتيجيات التخفيف مع مناقشة الآثار الأخلاقية والقانونية للذكاء الاصطناعي المتحيز في التطبيقات الواقعية.
تجادل هذه الورقة بأن النماذج اللغوية الكبيرة مدفوعة جزئياً بمعالجة المعلومات القائمة على التمثيل بدلاً من مجرد الحفظ، وتقترح تقنيات عملية لاستقصاء هذه التمثيلات لحل المآزق النظرية وفهم القدرات المعرفية لهذه الأنظمة بشكل أفضل.
تقارن هذه الدراسة بين استراتيجيات الاستكشاف والاستغلال لنماذج اللغات الكبيرة، والبشر، والخوارزميات في مهام "المتعدد الأذرع" (multi-armed bandit)، وتجد أنه بينما يجعل تمكين "التفكير" نماذج اللغات الكبيرة أكثر شبهاً بالبشر في البيئات المستقرة، إلا أنها لا تزال تعاني لتحقيق القدرة البشرية على التكيف والاستكشاف الموجه في البيئات المعقدة وغير المستقرة.
تقدم هذه الورقة Legal Assist AI، وهو إطار عمل خفيف الوزن يستفيد من نموذج Llama 3.1 المكمّم ذي 8 مليارات معلمة، مدمجاً مع تقنية التوليد المعزز بالاسترجاع (RAG) ومتن قانوني هندي متخصص، ليتفوق على النماذج الأكبر مثل GPT-3.5 Turbo في امتحان المحاماة لعموم الهند، مع الحد من الهلوسة بفعالية وتحقيق كفاءة في عدد المعلمات تزيد بمقدار 22 مرة.
تقدم هذه الورقة ExCyTIn-Bench، وهو أول معيار مصمم لتقييم وكلاء النماذج اللغوية الكبيرة (LLM agents) في التحقيق في التهديدات السيبرانية من خلال توليد 7,542 سؤالاً من سجلات Microsoft Sentinel ورسوم التحقيق البيانية، مما كشف أن النماذج الرائدة الحالية تحقق فقط درجة مكافأة قدرها 0.606 ويسلط الضوء على وجود مجال كبير للتحسين في المستقبل.
تقدم الورقة البحثية InterChart، وهو معيار تشخيصي مصمم لتقييم قدرة نماذج الرؤية واللغة على الاستنتاج عبر مخططات متعددة ذات صلة، كاشفاً أن النماذج الحالية المتطورة تعاني بشكل كبير من التكامل عبر المخططات والاستدلال المعقد متعدد الخطوات رغم تحسن أدائها في المهام البصرية المفككة.
تقدم هذه الورقة إطاراً للتنبؤ الانتقائي الجوهري لنماذج تتبع المعرفة يستفيد من تقنية "مونت كارلو دروب أوت" (Monte Carlo Dropout) لقياس عدم اليقين المعرفي، مما يثبت أن تأجيل التنبؤات الأكثر عدم يقيناً يعزز الدقة والعدالة بشكل كبير، ويكشف في الوقت ذاته أن العوامل السيكومترية القياسية تفسر أقل من ربع إشارة عدم اليقين الخاصة بالنموذج.
تقترح هذه الورقة إطار عمل معززاً بالذاكرة يستفيد من الانتقادات التي تولدها النماذج اللغوية الكبيرة والمخزنة في الذاكرة العرضية والدلالية لتحسين قدرة الوكيل على التكيف وتقليل تكاليف الاستدلال دون تحديث المعلمات، مع تقديم مقياس "القابلية للتأثر" لتفسير تباينات الأداء عبر مختلف النماذج والمجالات.
تقدم الورقة البحثية PORTool، وهو خوارزمية لتحسين السياسات القائمة على الأهمية تستفيد من أشجار التدحرج (rollout trees) ذات المكافآت لتعيين مكافآت على مستوى الخطوة بناءً على الصحة وصحة التنفيذ، مما يؤدي إلى حل غموض تحديد المسؤولية (credit-assignment ambiguity) وتحسين كل من دقة وكفاءة وكلاء الاستدلال المتكاملين مع أدوات متعددة.