← أحدث الأبحاث
🤖 AI

Preference Reasoning under Indeterminacy in Large Language Models

تجادل هذه الورقة بأن عدم التحديد —الناجم عن نقص المعلومات وعدم وجود حلول— يمثل تحدياً مركزياً في استدلال التفضيلات للذكاء الاصطناعي، حيث تُظهر أن النماذج اللغوية الكبيرة الحديثة تفشل بشكل منهجي في التمييز بين الحالات المحددة وغير المحددة، مما يؤدي إلى استدلال غير معاير.

المؤلفون الأصليون: Hadi Hosseini, Samarth Khanna, Xiyuan Wang

نُشر 2026-08-20
📖 5 دقيقة قراءة🧠 قراءة متعمّقة
CC BY 4.0

المؤلفون الأصليون: Hadi Hosseini, Samarth Khanna, Xiyuan Wang

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل عالماً يعمل فيه الذكاء الاصطناعي كمساعد شخصي، أو كوسيط لاتخاذ القرارات الجماعية، أو كخبير في التوفيق بين الأنظمة المعقدة. في هذه الأدوار، يجب على الآلة أن تفهم ما يريده البشر، وغالباً ما تكون تلك الرغبات غامضة، أو ناقصة، أو حتى متناقضة. يجب عليها أن تقرر ليس فقط ما هو الخيار الأفضل، بل وأيضاً متى يكون العثور على الخيار الأفضل أمراً مستحيلاً. هذا هو مجال "الاستدلال التفضيلي"، وهو مجال تتعلم فيه الحواسيب كيفية التنقل عبر الرغبات البشرية. لسنوات طويلة، اختبر الباحثون هذه الأنظمة باستخدام ألغاز ذات إجابات واضحة ووحيدة، تماماً مثل اختبار رياضي حيث لكل مسألة حلاً ينتظر من يكتشفه. لكن الحياة الواقعية نادراً ما تكون منظمة بهذا الشكل؛ ففي العالم الحقيقي، غالباً ما تكون المعلومات مفقودة، أو تجعل قواعد الموقف بناء حل أمراً مستحيلاً. والسؤال الذي يواجه العلماء اليوم هو ما إذا كان بإمكان ذكائنا الاصطناعي الأكثر تقدماً التمييز بين مشكلة تحتاج إلى حل ومشكلة ليس لها إجابة على الإطلاق.

لقد وضع فريق من الباحثين في جامعة ولاية بنسلفانيا نصب أعينهم اختبار هذه القدرة تحديداً. قاموا ببناء سلسلة من التحديات القائمة على مشكلات اقتصادية كلاسيكية، مثل تخصيص المنازل للأشخاص أو التوفيق بين الشركاء في سوق ما. في هذه السيناريوهات، يكون لكل شخص قائمة بما يفضله. أنشأ الباحثون آلاف هذه السيناريوهات، تتراوح من قوائم بسيطة تضم عشرة عناصر إلى شبكات معقدة تشمل مئات الوكلاء. صمموا الاختبارات لتشمل نوعين من عدم اليقين: النوع الأول يحدث عندما تكون المعلومات المقدمة ناقصة ببساطة، مثل شخص يدرج نصف أطعمتكم المفضلة فقط. والنوع الثاني يحدث عندما تجعل بنية المشكلة نفسها الحل مستحيلاً، مثل مجموعة من التفضيلات حيث لا يمكن وجود ترتيب عادل أبداً دون أن يكون هناك شخص غير راضٍ. ثم طلب الباحثون من أربعة من أقوى النماذج اللغوية المتاحة حالياً حل هذه الألغاز، أرادوا معرفة ما إذا كانت الآلات ستتمكن من تحديد متى تكون المسألة غير قابلة للإجابة بشكل صحيح، وإذا كان الأمر كذلك، هل ستعترف بأنها لا تعرف، بدلاً من التخمين.

كشفت النتائج عن نقطة عمياء كبيرة في طريقة تفكير هذه الأنظمة. فعند مواجهة مشكلة ذات إجابة واضحة، كان أداء النماذج جيداً، وغالباً ما كانت تضبط التفاصيل بدقة. ومع ذلك، عندما كانت المعلومات ناقصة أو كان الحل مستحيلاً، فشلت النماذج باستمرار في التعرف على الطريق المسدود. فبدلاً من قول "لا يمكنني تحديد هذا"، كانت النماذج تخترع إجابات بثقة؛ حيث فعلت ذلك عبر وضع افتراضات صامتة لملء الفجوات المفقودة. على سبيل المثال، إذا كانت قائمة تفضيلات شخص ما قصيرة، فإن النماذج تفترض أن العناصر المفقودة مرتبة أبجدياً أو وفق قاعدة أخرى عشوائية، ثم تمضي قدماً لإعطاء إجابة نهائية بناءً على ذلك التخمين. وفي الحالات التي لا يوجد فيها حل، كانت النماذج غالباً ما تولد حلاً وهمياً على أي حال، أو تدعي وجود حل بينما هو غير موجود. لم يكن هذا السلوك خطأً عشوائياً، بل كان نمطاً منهجياً؛ فقد بدت النماذج غير قادرة على التمييز بين موقف يتطلب منها التفكير بعمق أكبر، وموقف لن يساعد فيه التفكير بعمق أكبر لأن الإجابة ببساطة غير موجودة.

اختبر الباحثون أيضاً ما إذا كان منح النماذج وسيلة لقول "لا أعرف" سيحل المشكلة. أضافوا خياراً محدداً للنماذج لتختاره عندما تشعر أن المعلومات غير كافية. وبينما ساعد هذا النماذج على الاعتراف بعدم اليقين في بعض الحالات، إلا أنه خلق مشكلة جديدة؛ فقد بدأت النماذج في الإفراط في استخدام هذا الخيار، معلنة عدم وجود حل حتى عندما كان الحل ممكناً تماماً. بدا الأمر كما لو أن النماذج قد تأرجحت من طرف الثقة العمياء إلى طرف الحذر المفرط، غير قادرة على إيجاد المنطقة الوسطى. وحتى عندما سمح الباحثون للنماذج بكتابة كود برمجي لحل المشكلات — وهي طريقة تحسن الدقة عادةً — عانت النماذج. استطاعت حل نسخ صغيرة وبسيطة من المشكلات عبر فحص كل الاحتمالات، ولكن مع كبر حجم المشكلات، عادت إلى التخمين أو الاستسلام، عاجزة عن توسيع نطاق استدلالها ليتناسب مع حجم التطبيقات الواقعية.

ولعل النتيجة الأكثر دلالة جاءت من اختبار لم يُطلب فيه من النماذج إنشاء حل، بل مجرد اختيار الحل الصحيح من قائمة خيارات. حتى في هذه المهمة الأبسط، حيث كان على النماذج التحقق من إجابة بدلاً من بنائها، اختارت النماذج الخيار الخاطئ بشكل متكرر. غالباً ما كانت تختار حلاً يبدو منطقياً ولكنه يفشل في تلبية القواعد الصارمة للمشكلة. أظهرت الدراسة أن هذه النماذج لديها ميل عميق لتقديم المساعدة والحسم على حساب الدقة فيما يتعلق بما هو ممكن. لقد تم تدريبها على إكمال الأنماط وتوليد نصوص تبدو صحيحة، مما يجعلها ممتازة في ملء الفراغات في قصة، ولكن ضعيفة في إدراك متى تنتهي القصة.

يشير هذا البحث إلى أنه بينما ندمج هذه الأنظمة في أدوار اتخاذ القرار الحاسمة، يجب أن نكون حذرين بشأن ما نتوقعه منها. إن القدرة على إدراك متى لا يمكن الإجابة على سؤال هي مهمة بقدر أهمية القدرة على الإجابة عليه. حالياً، ليست النماذج الأكثر تقدماً مجهزة بعد للتمييز بشكل موثوق بين هذين الأمرين. ومن المرجح أنها ستستمر في تقديم إجابات واثقة وتبدو منطقية حتى عندما تكون البيانات مفقودة أو عندما تجعل القواعد الحل مستحيلاً. وحتى يتغير هذا، فإن الاعتماد على هذه الأنظمة في القرارات عالية المخاطر التي تتضمن التفضيلات البشرية يتطلب وجود عنصر بشري في الحلقة للتحقق ليس فقط من الإجابة، بل من إمكانية وجود الإجابة نفسها. لا تدعي الدراسة أن هذه النماذج معطلة، بل تقول إنها تعمل بمنطق مختلف عن البشر، منطق يعاني في قبول حدود ما يمكن معرفته.

غارق في أبحاث مجالك؟

تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.

جرّب Digest →

أبحاث مشابهة

عرض الكل في هذا التصنيف 🤖 cs.AI →