Levels of Analysis for Large Language Models
تقترح هذه الورقة إطارًا لفهم النماذج اللغوية الكبيرة عبر تطويع مستويات تحليل ديفيد مار وتقنيات العلوم المعرفية الراسخة لفك شفرة سلوكها وتنظيمها الداخلي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك بنيت روبوتاً يمكنه كتابة الشعر، وحل المسائل الرياضية، والدردشة كالبشر. إنه أمر مذهل، لكنه أيضاً "صندوق أسود". أنت تعرف ما يدخل إليه (أسئلتك) وما يخرج منه (الإجابات)، لكن ليس لديك أدنى فكرة عما يحدث داخل عقله. الأمر يشبه مشاهدة ساحر يؤدي خدعة ما: ترى الأرنب يظهر، لكنك لا تعرف كيف وصل الأرنب إلى هناك.
تجادل هذه الورقة بأن علماء الكمبيوتر يواجهون مشكلة كان علماء النفس يحلونها منذ عقود: كيف تفهم عقلاً لا يمكنك رؤية ما بداخله؟
يقترح المؤلفون أن نستعير مجموعة أدوات من العلوم المعرفية، باستخدام إطار عمل شهير لعالم يدعى ديفيد مار. فكر في إطار عمل "مار" كوسيلة لدراسة طيران طائر من خلال النظر إليه من ثلاثة مستويات مختلفة من التكبير.
إليك شرح الورقة بكلمات بسيطة، باستخدام هذه المستويات الثلاثة:
المستوى 1: الـ "لماذا" (المستوى الحسابي - The Computational Level)
القياس التشبيهي: تخيل أنك تدرس طائراً. في هذا المستوى، لا تنظر إلى الريش أو العضلات بعد. أنت تسأل: "ما هو هدف هذا الطائر؟ هل يحاول الهجرة؟ أم يحاول اصطياد سمكة؟" أنت تفهم الطائر من خلال فهم المشكلة التي يحاول حلها.
بالنسبة للذكاء الاصطناعي:
نماذج اللغات الكبيرة (LLMs) مثل ChatGPT مدربة على هدف محدد للغاية: توقع الكلمة التالية. إنها تشبه خاصية "الإكمال التلقائي" فائقة القوة.
- الرؤية: لأن وظيفتها الوحيدة هي تخمين الكلمة التالية بناءً على ما يأتي بعدها عادةً، فإنها تتصرف أحياناً بغرابة.
- المثال: إذا طلبت من الذكاء الاصطناعي عدّ الحروف في كلمة ما، فسيكون بارعاً في ذلك إذا كان الجواب رقماً شائعاً مثل "30" (لأنه يرى الرقم "30" كثيراً في بيانات تدريبه). لكن إذا كان الجواب "29"، فقد يفشل. هو ليس سيئاً في الرياضيات؛ هو فقط "مدمن" على تخمين الكلمة الأكثر احتمالاً.
- الخلاصة: لفهم الذكاء الاصطناعي، انظر إلى هدف تدريبه. إذا عرفت ما يحاول توقعه، يمكنك توقع أخطائه.
المستوى 2: الـ "كيف" (المستوى الخوارزمي - The Algorithmic Level)
القياس التشبيهي: الآن تسأل: "كيف يطير الطائر فعلياً؟" هل يرفرف بأجنحته بسرعة؟ هل ينزلق؟ هل يرتبك إذا كان هناك الكثير من الطيور تطير في وقت واحد؟ هذا المستوى ينظر إلى العمليات والحيل التي يستخدمها العقل.
بالنسبة للذكاء الاصطناعي:
بما أننا لا نستطيع رؤية الكود داخل الذكاء الاصطناعي، علينا خداعه ليظهر لنا "عملية التفكير" الخاصة به عبر مراقبة كيفية سلوكه، تماماً كما يفعل علماء النفس مع البشر.
- اختبار "الغرفة المزدحمة": البشر يصابون بالارتباك عندما يحاولون تذكر أشياء كثيرة في وقت واحد (مثل مربع أحمر ودائرة زرقاء). إذا خلطنا بينهما، قد نتذكر "دائرة حمراء". وجدت الورقة أن نماذج الذكاء الاصطناعي تفعل الشيء نفسه تماماً! فهي تصاب بـ "الارتباك" عند معالجة تفاصيل بصرية كثيرة في وقت واحد، مما يثبت أنها تستخدم طريقة "المعالجة المتوازية" مشابهة للبشر.
- اختبار "الارتباط السري": إذا سألت الذكاء الاصطناعي مباشرة: "هل النساء سيئات في الإدارة؟"، سيقول: "لا، هذه صورة نمطية". ولكن إذا لعبت معه لعبة "ارتباط الكلمات" (مثل: أي كلمة ترتبط بكلمة "زفاف"؟)، فقد يربط سراً بين "امرأة" و"زفاف" وبين "رجل" و"مكتب".
- الخلاصة: من خلال مراقبة كيف يرتكب الذكاء الاصطناعي الأخطاء أو كيف يربط الكلمات، يمكننا رسم "الخريطة الذهنية" الداخلية له دون رؤية الكود الخاص به أبداً.
المستوى 3: الـ "ماذا" (مستوى التنفيذ - The Implementation Level)
القياس التشببي: أخيراً، تنظر إلى الأجهزة (Hardware). مما تتكون العضلات والعظام؟ كيف تنبض الأعصاب لجعل الجناح يتحرك؟
بالنسبة للذكاء الاصطناعي:
يتعلق هذا بالخلايا العصبية والأسلاك الفعلية داخل شريحة الكمبيوتر.
- الرؤية: بدأ العلماء الآن في إجراء "عمليات جراحية" على الذكاء الاصطناعي. يمكنهم صعق أجزاء معينة من دماغ الذكاء الاصطنا artificial (تشغيل أو إيقاف خلية عصبية معينة) ليروا ما سيحدث.
- الاكتشاف: وجدوا "دوائر" محددة داخل الذكاء الاصطناعي تعمل مثل مدقق إملائي أو مخزن للذاكرة. إذا كسروا دائرة معينة، ينسى الذكاء الاصطناعي كيف يقول الحقيقة أو يتوقف عن القدرة على التعلم من المحادثة.
- الخلاصة: بدأنا نرى التروس المادية وهي تدور داخل الآلة، مما يثبت أن هذه السلوكيات المعقدة مبنية من أجزاء محددة ومفهومة.
الصورة الكبيرة: لماذا يهم هذا؟
تخلص الورقة إلى أنه لا ينبغي لنا مجرد اختبار الذكاء الاصطناعي لمعرفة ما إذا كان بإمكانه اجتياز اختبار رياضيات صعب (والذي قد ينجح فيه بمحض الصدفة). بدلاً من ذلك، يجب أن نستخدم علم النفس لفهم لماذا يفكر بالطريقة التي يفكر بها.
- خدعة "علم النفس العكسي": تماماً كما نعرف أن البشر يصبحون سيئين في التعرف على الوجوه إذا طلبنا منهم وصف الوجه بصوت عالٍ، وجدت الورقة أن طلب "التفكير بصوت عالٍ" من الذكاء الاصطناعي (سلسلة الأفكار - Chain of Thought) يجعله في الواقع أسوأ في مهام معينة مثل التعرف على الأنماط.
- المستقبل: من خلال معاملة الذكاء الاصطناعي كنوع جديد من العقول وليس مجرد آلة حاسبة، يمكننا اكتشاف نقاط ضعفه، وفهم تحيزاته، وبناء أنظمة أفضل وأكثر أماناً.
باختدصار: نحن لم نعد نبني الذكاء الاصطناعي فحسب؛ بل نتعلم كيف نكون معالجيه النفسيين، باستخدام نفس الأدوات التي نستخدمها لفهم أنفسنا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.