Toward a Gricean Retreat: Probing LLMs for Knowledge Boundaries and Referent Specificity
تكشف هذه الورقة أنه في حين تمتلك النماذج اللغوية الكبيرة إشارات داخلية تشير إلى كل من حدود معرفتها وخصوصية المراجع القادمة، إلا أنها تفشل في التوفيق بين هذه الإشارات أثناء التوليد، مما يؤدي بها إلى فبركة تفاصيل محددة حول كيانات مجهولة بدلاً من التراجع إلى ادعاءات عامة أكثر أماناً كما يفعل المتحدث المتعاون وفقاً لمبدأ غرايس.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تدردش مع صديق قرأ كل كتاب كُتب تقريباً، لكنه لم يزر المكتبة منذ سنوات. إذا سألته عن مؤلف مشهور يعرفه بالتأكيد، يمكنه أن يخبرك بالضبط في أي شارع عاش ذلك المؤلف. ولكن، إذا سألته عن مؤلف جديد تماماً نشر كتاباً بالأمس فقط، فقد لا يعرفه. الصديق المساعد والصادق حقاً سيقول: "لم أسمع به، لكنه على الأرج likely يكون كاتباً". ومع ذلك، إذا كان صديقك متلهفاً جداً لإبهار الآخرين، فقد يخترع مجرد اسم شارع وسيرة ذاتية، متظاهراً بأنه يعرف كل شيء. هذه هي المشكلة التي تواجهها نماذج الذكاء الاصطناعي الحديثة تحديداً، وتحديداً النماذج اللغوية الكبيرة (LLMs). هذه الأنظمة من الذكاء الاصطناعي تشبه القراء المتفوقين الذين يمكنهم استرجاع الحقائق من بيانات تدريبهم، ولكن عندما يواجهون شيئاً جديداً أو غير معروف، فإنهم غالباً ما "يهلوسون" — أي يخترعون تفاصيل تبدو منطقية بدلاً من الاعتراف بأنهم لا يعرفون.
لفهم كيفية إصلاح ذلك، ينظر العلماء إلى مفهوم من علم اللسانيات يسمى "مبدأ التعاون"، الذي اقترحه فيلسوف يدعى غرايس. الفكرة بسيطة: في المحادثة الجيدة، يحاول الناس أن يكونوا متعاونين (تقديم معلومات كافية) ولكن أيضاً صادقين (قول ما يعرفونه فقط). إذا كنت لا تعرف التفاصيل المحددة، فإن المتحدث المتعاون "يتراجع" إلى إجابة أكثر عمومية وأماناً. على سبيل المثال، بدلاً من التخمين بمدينة محددة، قد يقول فقط "مدينة في أستراليا". هذا البحث يسأل سؤالاً رائعاً: هل تمتلك نماذج الذكاء الاصطناعي "المكابح" الداخلية للقيام بذلك؟ هل تعرف متى تكون في حالة تخمين، وهل يمكنها اختيار أن تكون غامضة بدلاً من اختلاق أشياء؟
قرر الباحثون، دانانجاي سرينيفاس، وسكشم خاتواني، وماريا باتشيكو من جامعة كولورادو بولدر، التحقيق في هذا الأمر عبر التلصص داخل "دماغ" هذه النماذج من الذكاء الاصطناعي. لقد بنوا اختباراً خاصاً باستخدام مجموعة بيانات من الحقائق حول الأشخاص، والشركات، والمنتجات، والمهارات. ولمحاكاة عدم معرفة الذكاء الاصطناعي بشيء ما، أنشأوا أسماء وهمية لأشخاص وشركات لم يرها الذكاء الاصطناعي من قبل. ثم طلبوا من الذكاء الاصطناعي ملء الفراغات في جمل مثل: "وُلد آلان بيبر في [فراغ]".
إليكم ما اكتشفوه، وهو أمر مختلط النتائج. أولاً، وجدوا أن الذكاء الاصطناعي يعرف بالفعل متى يتعامل مع شيء لم يره من قبل. إذا نظرت إلى الإشارات الكهربائية (التنشيطات) داخل دماغ النموذج، فهناك نمط واضح يقول: "مهلاً، هذا الاسم جديد بالنسبة لي!". كما يمتلك النموذج إشارة ثانية تتنبأ بما إذا كان سيقدم إجابة محددة (مثل "فيكتوريا") أو إجابة عامة (مثل "مدينة"). لذا، فإن مكونات كون المرء صادقاً موجودة بالتأكيد؛ فالنموذج لديه المعرفة والقدرة على الاختيار.
ومع ذلك، فإن الأخبار السيئة هي أن النموذج لا يستخدم هذه المعلومات فعلياً ليكون صادقاً. فحتى عندما يعرف الذكاء الاصطناعي أنه يتعامل مع اسم وهمي لم يره من قبل، فإنه يختار بشكل مفرط تقديم إجابة محددة ومختلقة بدلاً من إجابة عامة وآمنة. الأمر يشبه امتلاك سيارة بها نظام تحديد مواقع (GPS) مثالي يعرف أنك تائه، ولكن السائق (سياسة التوليد لدى الذكاء الاصطناعي) يتجاهل نظام تحديد المواقع ويستمر في القيادة مباشرة نحو الحائط لأنه يريد حقاً الوصول إلى وجهة محددة. وجد الباحثون أن هذا يحدث حتى عندما يُمنح الذكاء الاصطناعي الخيار ليكون غامضاً وحتى عندما تكون الإجابة المحددة خاطئة بالتأكيد.
باختاً، يظهر البحث أن نماذج الذكاء الاصطناعي، رغم امتلاكها "المستشعرات" الداخلية لمعرفة متى تكون خارج نطاق خبرتها، إلا أنها تفتقر إلى "السياسة" أو الإرادة للتوقف والتراجع إلى إجابة أكثر أماناً. إنها مبرمجة لتكون محددة، حتى عندما ينبغي لها أن تكون متواضعة. يقترح المؤلفون أنه بدلاً من محاولة إصلاح هذه الأخطاء بعد أن يتحدث الذكاء الاصطناعي بالفعل، نحتاج إلى تدريب النماذج على الاستماع إلى مستشعراتها الداخلية واختيار أن تكون غامضة عندما لا تكون متأكدة. ستكون هذه خطوة نحو جعل الذكاء الاصطناعي أكثر تعاوناً وموثوقية، وتعليمهم أن قول "لا أعرف المدينة بدقة، لكنها في أستراليا" هو في الواقع إجابة أفضل بكثير من اختراع اسم شارع.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.