Learned but Not Expressed: Capability-Expression Dissociation in Large Language Models
تُظهر هذه الدراسة التجريبية انفصالاً منهجياً في النماذج اللغوية الكبيرة، حيث يتم استرداد الحلول غير المسببة بنجاح تحت ظروف استخراج محددة، ومع ذلك تظل غائبة تماماً في سياقات التوليد القياسية، مما يتحدى الافتراض بأن وجود بيانات التدريب يتنبأ مباشرة باحتمالية المخرجات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك صديقاً قرأ كل كتاب في العالم. هو يعرف قصة تنين، ووصفة لجرعة سحرية، وحبكة لقصة خيالية حيث تتوقف الجاذبية عن العمل. ستتوقع أنه إذا طلبت منه أن يروي قصة، فقد يستخدم أحياناً أحد تلك العناصر السحرية، أليس كذلك؟
هذه الورقة البحثية تدور حول اكتشاف مفاجئ: على الرغم من أن نماذج الذكاء الاصطناعي (مثل تلك التي تدردش معها) قد "قرأت" كل هذه الأشياء السحرية والمستحيلة، إلا أنها نادراً ما تستخدمها عندما تدردش أو تحل المشكلات بشكل طبيعي.
إليك تفصيل الدراسة باستخدام تشبيهات بسيية:
1. تشبيه "المكتبة مقابل قائمة الطعام"
فكر في نموذج الذكاء الاصطناعي كأنه مكتبة ضخمة تم تدريبها على الإنترنت بأكمله.
- المكتبة (بيانات التدريب): تحتوي هذه المكتبة على كل شيء: نصائح واقعية، حقائق علمية، ولكن أيضاً قصصاً خيالية، وأساطير، وتعاويذ سحرية، وقصصاً تحدث فيها أشياء دون سبب (مثل "تم حل المشكلة لأن شبحاً لوح بعصاه السحرية").
- قائمة الطعام (التوليد القياسي): عندما تسأل الذكاء الاصطناعي سؤالاً، فإنه يعمل مثل النادل الذي يقدم لك طبقاً من قائمة طعام محددة.
المفاجأة الكبرى: وجد الباحثون أنه حتى عندما طلبوا من الذكاء الاصطناعي كتابة قصة خيالية (حيث يُسمح بالسحر)، فإن النادل رفض تقديم أي أطباق سحرية. لقد قدم فقط "طعاماً واقعياً"، رغم أن المكتبة كانت مليئة بوصفات السحر.
2. الاختباران: "قائمة الطعام" مقابل "الطلب الخاص"
لإثبات ذلك، قام الباحثون بشيئين مختلفين مع ثلاثة نماذج ذكاء اصطناعي مختلفة (مثل GPT وClaude وGemini):
- الاختبار (أ): الطلب القياسي (قائمة الطعام)
لقد طلبوا من الذكاء الاصطناعي 300 مرة إما:
- كتابة قصة إبداعية عن مشكلة ما.
- تقديم نصيحة عملية لمشكلة في الحياة الواقعية.
النتيجة: في صفر من أصل 300 حالة، قال الذكاء الاصطناعي: "حُلت المشكلة بالسحر" أو "اختفت العقبة بسبب المصادفة". كان متسقاً بنسبة 100%. لقد تجنب الذكاء الاصطناعي بصرامة الحلول "غير السببية" (غير المفسرة).
الاختبار (ب): الطلب الخاص (الباب الخلفي)
بعد ذلك، قام الباحثون بتغيير السؤال. لقد طلبوا صراحة: "مهلاً، هل يمكنك ذكر بعض الأمثلة لمشكلات حُلت بالسحر أو الأشباح؟"النتيجة: قال الذكاء الاصطناعي: "أوه، بالتأكيد!" وسردها على الفور. لقد أثبت ذلك أن الذكاء الاصطنا يعرف المعلومة. لم يكن الأمر أن الذكاء الاصطناعي "نسي" السحر؛ بل كان الأمر أن الذكاء الاصطناعي اختار عدم استخدامه أثناء المحادثة العادية.
3. تشبيه "أمين المكتبة الصارم"
لماذا يحدث هذا؟ تقترح الورقة أنه خلال تدريب الذكاء الاصطناعي، أعطاه البشر مجموعة من "قواعد السلوك" (تسمى المواءمة - Alignment).
تخيل أن الذكاء الاصطناعي طالب حفظ الموسوعة بأكملها. ولكن، هناك أمين مكتبة صارم (فلاتر السلامة والمواءمة الخاصة بالذكاء الاصطناعي) يقف بجانبه.
- إذا حاول الطالب سرد قصة عن تنين يطير لحل مشكلة ازدحام مروري، يهمس له أمين المكتبة: "لا، هذا ليس كيف يعمل العالم الحقيقي. أعطِ إجابة عملية".
- حتى لو طُلب من الطالب كتابة قصة خيالية، فإن أمين المكتبة صارم جداً لدرجة أنه لن يسمح للطالب باستخدام "السحر" كحل، رغم أن الخيال يسمح بذلك.
لقد تعلم الذكاء الاصطناعي قاعدة خفية: "ما لم أُطلب مني صراحة أن أكون مضحكاً أو سحرياً، يجب أن أتصرف دائماً كبشر جاد ومنطقي".
4. لماذا هذا مهم؟
يسمي الباحثون هذا خطأً في "افتراض شمول البيانات" (Data-Exhaustive Assumption).
- الفكرة القديمة: "إذا كان الذكاء الاصطناعي يعرف الشيء، فسوف يقوله".
- الواقع الجديد: "الذكاء الاصطناعي يعرفه، لكنه يقرر عدم قوله بناءً على الموقف".
هذا أمر بالغ الأهمية لأنه يعني أننا لا نستطيع مجرد النظر إلى ما "يعرفه" الذكاء الاصطناعي للتنبؤ بما سيقوله. يجب علينا فهم مرشحات سلوكه. الأمر يشبه معرفة أن شخصاً لديه مذكرات سرية مليئة بالأفكار الجامحة، لكنك تدرك أنه لن يكتب تلك الأفكار أبداً في مدونة عامة لأنه قرر أن يكون مهنياً للغاية.
الخلاصة
تظهر الدراسة أن نماذج الذكاء الاصطناعي الحديثة تشبه الممثلين الذين حفظوا نصاً مليئاً بالأشياء الجامحة والسحرية والمستحيلة، ولكن يتم توجيههم لأداء المشاهد "الواقعية" فقط.
حتى عندما يقول المخرج: "لنقم بمشهد خيالي"، فإن الممثل (الذكاء الاصطناعي) لا يزال يلتزم بالنص الواقعي ما لم تجبره صراحة على الخروج عن الشخصية. وهذا يثبت أن سلوك الذكاء الاصطناعي يتم التحكم فيه بواسطة القواعد والعادات (المواءمة)، وليس فقط من خلال البيانات الخام التي تعلمها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.