PICTURE: Enhancing Theory-of-Mind in Large Language Models by Revealing, Not Hiding, Characters' Lack of Knowledge
تقدم الورقة البحثية طريقة PICTURE، وهي طريقة تحفيز تعزز قدرات "نظرية العقل" لدى النماذج اللغوية الكبيرة من خلال الكشف الصريح عن نقص معرفة الشخصيات أثناء الاستدلال الحر، مما يتغلب على قيود الأداء لأساليب إخفاء الأحداث التقليدية ويحقق تحسناً بنسبة 7.3% في مهام الاعتقاد الخاطئ.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تجلس في غرفة مزدحمة، تستمع إلى قصة عن صديقين، أليكس وجيمي. أنت تعرف الحقيقة الكاملة: لقد رأيت جيمي وهو يخفي قطعة كعك في جرة، ثم شاهدت أليكس يتسلل ويقوم بنقل قطعة الكعك تلك إلى صندوق. ولكن الجزء الماكر هنا هو أن السؤال لا يسأل عما تعرفه أنت. بل يسأل: "أين سيبحث أليكس عن قطعة الكعك؟" للإجابة بشكل صحيح، عليك أن تفعل شيئًا يفعله البشر بشكل طبيعي ولكنه صعب بشكل مدهش على الحواسيب: عليك أن تتظاهر بأنك لا تعرف ما تعرفه. عليك أن تضع نفسك مكان أليكس، وتنسى الصندوق، وتتذكر فقط الجرة. هذه القدرة الذهنية الخارقة تسمى "نظرية العقل" (Theory of Mind). وهي القدرة على فهم أن للآخرين أفكارهم ومعتقداتهم وأسرارهم الخاصة التي قد تختلف عن أفكارك.
لفترة طويلة، حاول العلماء تعليم الذكاء الاصطناعي (وتحديداً النماذج اللغوية الكبيرة أو LLMs) كيفية القيام بذلك. نماذج الذكاء الاصطناعي هذه تشبه الطلاب الأذكياء جداً الذين قرأوا كل شيء تقريباً على الإنترنت، ولكن عندما يتعلق الأمر بتخمين ما يفكر فيه شخص آخر، فإنهم غالباً ما يخطئون. إنهم يميلون إلى الإجابة بناءً على الحقيقة "الواقعية" (الكعكة في الصندوق) بدلاً من المعتقد "الخاطئ" للشخصية (الكکكة في الجرة). يتناول البحث الذي ستطالعه الآن هذه المشكلة عبر اكتشاف طريقة جديدة لمساعدة نماذج الذكاء الاصطناعي على تجنب استخدام الحقيقة الواقعية والبدء في التفكير كشخصية في قصة.
المشكلة: فخ "الغميضة"
في الماضي، حاول الباحثون إصلاح هذه المشكلة في الذكاء الاصطناعي من خلال لعب لعبة "الغميضة" مع القصة. كانوا يخبرون الذكاء الاصطناعي: "حسناً، قبل أن تجيب على السؤال، احذف كل جملة في القصة لم تشاهدها الشخصية". إذا غادرت الشخصية الغرفة، كان من المفترض أن يقوم الذكاء الاصطابي بمسح كل ما حدث أثناء غيابها. يُطلق على هذا اسم "إخفاء الأحداث" (event hiding).
فكر في الأمر كمعلم يسحب ورقة الاختبار من طالب ويقول له: "لا تنظر إلى هذه الصفحة، فهي تحتوي على الإجابة التي تحتاج لتجاهلها". كانت الفكرة هي أنه إذا لم "يرَ" الذكاء الاصطناعي الحقيقة، فلن ينجذب لاستخدامها. لكن هذا النهج كان به عيب جوهري. فقد أجبر الذكاء الاصطناعي على اتباع قواعد صارمة للغاية، مثل كتابة أفكاره في كود محدد أو قائمة جامدة. كان الأمر يشبه إخبار كاتب مبدع: "يمكنك فقط كتابة قصتك باستخدام النقاط ولا يمكنك استخدام الصفات". هذه الصرامة غالباً ما أربكت الذكاء الاصطناعي، مما جعله يرتكب الأخطاء لمجرد أنه كان يحاول جاهداً اتباع قواعد التنسيق. أحياناً، كان الذكاء الاصطناعي يحذف الجملة الخطأ بالخطأ أو يعلق في محاولة وضع أفكاره داخل صندوق أصغر من اللازم.
الفكرة الجديدة: "اكشف، ولا تخفِ"
قرر مؤلفا هذا البحث، إوجين جيون وسانغ كون لي، تجربة نهج مختلف تماماً. بدلاً من إخفاء الحقيقة عن الذكاء الاصطناعي، قرروا السماح للذكاء الاصطناعي برؤية كل شيء—ولكن بعد ذلك، طلبوا منه أن يذكر صراحةً ما لا تعرفه الشخصية.
تخيل أنك تلعب لعبة حيث يتعين عليك تخمين ما يفكر فيه صديقك. بدلاً من تغطية عيني صديقك حتى لا يرى الأدلة، تقول لصديقك: "أنا أعرف أن الكعكة في الصندوق، لكن أنت لا تعرف ذلك. أنت تعرف فقط أنها في الجرة". من خلال قول ذلك بصوت عالٍ، أنت تذكر صديقك بتجاهل الصندوق.
يطلق الباحثون على طريقتهم الجديدة اسم PICTURE. وهي اختصار لـ "المنظور المعتمد على توليد نقص المعرفة في استدلال سلسلة الأفكار" (Perspective-taking with Generated Lack of Knowledge in Chain-of-Thought Reasoning). هذا الاسم طويل وصعب، لذا دعونا نفككه:
- لا إخفاء: يحصل الذكاء الاصطناعي على القصة كاملة، مع جميع الأسرار والتحركات المتضمنة.
- خطوة "نقص المعرفة": قبل الإجابة، يُطلب من الذكاء الاصطناعي كتابة شرح حر (مثل محادثة عادية) حيث يسرد بالضبط ما تعرفه الشخصية، والأهم من ذلك، ما لا تعرفه.
- علامة "التوقف": من خلال كتابة "ليام لا يعرف أن أوين قد نقل الفجل"، ينشئ الذكاء الاصطناعي علامة "توقف" ذهنية. إنه يخبر نفسه: "حسناً، أنا أرى هذا الحدث، لكن ليام لم يره، لذا لا يمكنني استخدامه للإجابة".
ماذا وجدوا؟
اختبر الفريق هذه الفكرة على العديد من ألغاز القصص المختلفة، بما في ذلك القصص التي تنقل فيها الشخصيات الأشياء، أو يغادرون الغرف، أو يجرون محادثات. وقارنوا طريقة "PICTURE" الجديدة بطرق "الغميضة" القديمة وبعض حيل الذكاء الاصطناعي القياسية.
كانت النتائج واعدة للغاية. في المتوسط، أجاب الذكاء الاصطناعي باستخدام طريقة PICTURE على عدد أكبر من الأسئلة الصحيحة بنسبة 7.3% في ألغاز "المعتقد الخاطئ" (الألغاز التي تكون فيها الشخصية مخطئة بشأن الحقيقة) مقارنة بالطرق القديمة. وهذا أمر كبير في عالم أبحاث الذكاء الاصطناعي.
والأهم من ذلك، يشير البحث إلى أن هذا يعمل لأن طريقة PICTURE تعلم الذكاء الاصطناعي مهارة تسمى "التحكم التثبيطي" (inhibitory control). في علم النفس، هذا هو القدر القدرة على منع نفسك من التفاعل مع شيء موجود أمامك مباشرة ولكن لا ينبغي استخدامه. على سبيل المثال، في اختبار شهير، إذا رأيت كلمة "أحمر" مكتوبة بحبر أزرق، وطُلب منك ذكر لون الحبر، فعليك أن تمنع نفسك من قراءة كلمة "أحمر". يظهر البحث أن الذكاء الاصطناعي، من خلال التصريح بوضوح بما لا تعرفه الشخصية، يتعلم كبح رغبته في استخدام الإجابة "الحقيقية" والتمسك بدلاً من ذلك بمنظور الشخصية.
لماذا يهم هذا؟
يشير هذا البحث إلى أننا لسنا بحاجة إلى تعمية الذكاء الاصطناعي عن الحقيقة لجعله أكثر ذكاءً في فهم البشر. في الواقع، إخفاء الحقيقة قد يجعل الأمور أسوأ من خلال إجباره على اتباع تنسيقات جامدة ومربكة. بدلاً من ذلك، من خلال السماح للذكاء الاصطناعي برؤية كل شيء ثم مطالبته بتوضيح الفجوات في معرفة الشخصية، فإننا نساعده على تعلم تصفية المعلومات من تلقاء نفسه.
وجد المؤلفون أن هذه الطريقة تعمل بشكل جيد عبر أنواع مختلفة من نماذج الذكاء الاصطناğı، بدءاً من النماذج الصغيرة مفتوحة المصدر وصولاً إلى النماذج الضخمة والقوية. وبينما لا يزال الذكاء الاصطناعي يرتكب الأخطاء (خاصة في القصص المعقدة جداً التي تضم شخصيات عديدة)، يبدو أن طريقة PICTURE تمثل خطوة كبيرة للأمام. إنها تظهر أن أفضل طريقة لتعليم الآلة فهم العقول البشرية هي تركها ترى الصورة الكاملة، ثم تذكيرها بلطف بما ينقص كل شخص في تلك الصورة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.