Do LLMs Really Know What They Don't Know? Internal States Mainly Reflect Knowledge Recall Rather Than Truthfulness
تجادل هذه الورقة بأن الحالات الداخلية للنماذج اللغوية الكبيرة تعكس في المقام الأول استرجاع المعرفة البارامترية بدلاً من صدق المخرجات، مبرهنةً على أن الهلوسة المدفوعة بالارتباطات الإحصائية الزائفة لا يمكن تمييزها آلياً عن الاستدعاء الحقائقي، مما يحد من فعالية طرق الكشف القياسية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة البحث "هل تعرف النماذج اللغوية الكبيرة حقاً ما لا تعرفه؟" باستخدام لغة بسيطة وتشبيهات إبداعية.
السؤال الكبير: هل يمكن للذكاء الاصطناعي أن يخبرنا متى يكذب؟
تخيل أن لديك صديقاً ذكياً ومطلعاً جداً (الذكاء الاصطناعي). تسأله سؤالاً، فأحياناً يعطيك الإجابة الصحيحة، وأحياناً أخرى يؤلف قصة تبدو مثالية لكنها خاطئة تماماً (وهذا ما يسمى بـ "الهلوسة").
لفترة من الوقت، اعتقد الباحثون: "ربما يمتلك صديقنا جهاز 'كشف كذب' سرياً داخل دماغه. رب maybe عندما يؤلف أشياء، تبدو موجات دماغه مختلفة عما هي عليه عندما يقول الحقيقة."
لو كان هذا صحيحاً، لتمكنا من بناء أداة لفحص دماغه ومعرفة: "آه، هذه الإجابة كذبة!" فوراً.
هذه الورقة تقول: لا، الأمر لا يعمل بهذه الطريقة.
اكتشف المؤلفون أن "موجات دماغ" الذكاء الاصطناعي (الحالات الداخلية) لا تخبرنا ما إذا كانت الإجابة صحيحة أم خاطئة، بل تخبرنا فقط من أين جاءت الإجابة.
نوعا "الأخبار الكاذبة"
أدرك المؤلفون أن ليس كل الهلوسات متساوية. لقد قسموها إلى فئتين باستخدام تشبيه ممتع: المكتبة مقابل التخمين العشوائي.
1. الهلوسة المرتبطة (المكتبي الواثق)
تخيل أن الذكاء الاصطناعي هو أمين مكتبة قرأ ملايين الكتب.
- الحقيقة: تسأله: "أين وُلد أوباما؟"، فيسحب كتاباً، يقرأ "هونولولو"، ويقولها.
- الكذبة: تسأله: "أين درس أوباما؟"، أمين المكتبة يعرف أن الإجابة هي شيكاغو. ولكن، لأن "أوباما" و"شيكاغو" يظهران معاً في الكثير من الكتب، يرتبك أمين المكتبة ويقول بثقة: "وُلد أوباما في شيكاغو!"
المشكلة: في هذه الحالة، يستخدم الذكاء الاصطناعي ذاكرته الحقيقية (الرابط القوي بين أوباما وشيكاغو) لارتكاب خطأ.
- إشارة الدماغ: ولأن الذكاء الاصطناعي يستمد المعلومة من ذاكرته الحقيقية، فإن "موجات دماغه" الداخلية تبدو تماماً مثل حالته عندما يقول الحقيقة.
- النتيجة: جهاز كشف الكذب لا يستطيع التمييز. الذكاء الاصطناعي يكذب، لكنه يشعر بنفس القدر من "اليقين" بالنسبة لمستشعراته الداخلية.
2. الهلوسة غير المرتبطة (المخمّن العشوائي)
الآن، تخيل أنك تسأل أمين المكتبة عن شخص لم يسمع به أحد من قبل، مثل "بريندا جونستون".
- الكذبة: أمين المكتبة ليس لديه أدنى فكرة عن بريندا. لذا، يقوم بتخمين مدينة عشوائية، مثل "بورتلاند".
- إشارة الدماغ: بما أن الذكاء الاصطنا defy ليس لديه ذاكرة عن بريندا، فهو لا يسحب معلومة من مكتبته، بل يخمّن فقط. "موجات دماغه" الداخلية تبدو مختلفة جداً عن حالته عند استرجاع الحقائق؛ تبدو مشتتة وغير متيقنة.
- النتيلة: جهاز كشف الكذب يعمل بشكل رائع هنا! يمكنه بسهولة اكتشاف: "مهلاً، هذه الإجابة ليست قادمة من المكتبة؛ إنها مجرد تخمين عشوائي."
الاكتشاف الجوهٍ: الذاكرة مقابل الحقيقة
الاكتشاف الرئيسي للورقة هو أمر محبط قليلاً لسلامة الذكاء الاصطناعي:
الإشارات الداخلية للذكاء الاصطناعي تخبرنا ما إذا كان "يتذكر" شيئاً ما، وليس ما إذا كان ما يتذكره "حقيقياً".
- إذا كان الذكاء الاصطناعي "يتذكر" ارتباطاً قوياً (حتى لو أدى هذا الارتباط إلى كذبة)، فإن دماغه يبدو واثقاً و"واقعياً".
- إذا كان الذكاء الاصطناعي "يخمن" فقط (لأنه لا يملك ذاكرة)، فإن دماغه يبدو مهتزاً و"مهلوساً".
التشبيه:
فكر في الذكاء الاصطناعي كطالب يؤدي امتحاناً.
- الهلوسة المرتبطة: الطالب يعرف الصيغة الرياضية لمسألة ما، لكنه يطبقها على أرقام خاطئة. إنه يعمل بجد، ويستخدم عقله بشكل صحيح، لكن الإجابة خاطئة. المعلم الذي ينظر إلى مسودات الحل (الحالات الداخلية) يرى طالباً يعمل بجد ويعتقد: "يبدو هذا محاولة حقيقية!"
- الهلوسة غير المرتبطة: الطالب ليس لديه أدنى فكرة عن الموضوع، لذا يكتب أرقاماً عشوائية. المعلم ينظر إلى المسودة ويرى فوضى، ويقول: "هذا بوضوح مجرد تخمين!"
تقول الورقة إن كواشف الذكاء الاصطناعي الحالية بارعة في كشف "الخربشة" (الهلوسات غير المرتبطة)، لكنها سيئة جداً في كشف "سوء تطبيق المعرفة" (الهلوسات المرتبطة).
لماذا يهم هذا؟
- لا يمكننا الوثوق بـ "جهاز كشف الكذب": إذا اعتمدنا فقط على الإشارات الداخلية للذكاء الاصطناعي لمنعه من الكذب، فسنفشل. فالذكاء الاصطناعي سيكذب بثقة حول المواضيع الشهيرة (مثل المشاهير أو الحقائق الشائعة) لأن هذه الأكاذيب مبنية على ذكريات حقيقية وقوية.
- فخ "الموضوعات الشائعة": وجدت الورقة أن هذه "الأكاذيب الواثقة" تحدث غالباً مع المواضيع الشائعة (مثل أوباما أو باريس) لأن الذكاء الاصطناعي رآها مرات عديدة. وهذا عكس ما نتوقعه؛ نحن نظن أن الذكاء الاصطناعي يكذب أكثر عن الأشياء الغامرة، لكن الأكاذيب "الخطيرة" تحدث عندما يكون واثقاً جداً بشأن الأشياء الشائعة.
- تعليم الذكاء الاصطناعي قول "لا أعرف": حاول المؤلفون تدريب الذكاء الاصطناعي على قول "لا أعرف" عندما لا يكون متأكداً.
- نجح الأمر تماماً مع "المخمّنين العشوائيين" (غير المرتبطين). تعلم الذكاء الاصطناعي التوقف عن التخمين.
- فشل الأمر مع "المكتبيين الواثقين" (المرتبطين). ولأن الذكاء الاصطناعي كان يشعر بالثقة (لأنه يستخدم ذاكرة حقيقية)، لم يستطع التعلم للتوقف عن الكذب. استمر في الكذب بكل ثقة.
الخلا الخلاصة
النماذج اللغوية الكبيرة لا تملك "مستشعر حقيقة" داخلياً. بل تملك "مستشعر ذاكرة".
- إذا كان يسحب من الذاكرة، فإنه يشعر بالثقة، حتى لو كان مخطئاً.
- إذا كان يخمن، فإنه يشعر بعدم اليقين.
لجعل الذكاء الاصطناعي أكثر أماناً، لا يمكننا مجرد النظر إلى موجات دماغه الداخلية. نحن بحاجة إلى بناء محققي حقائق خارجيين (مثل محرك بحث أو مراجع بشري) للتحقق من الإجابات، خاصة عندما يتحدث الذكاء الاصطناعي عن مواضيع شائعة حيث قد يكون مخطئاً بكل ثقة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.