Where Cognition Lives: Dissecting Emergent from Computed Function in a Minimal Complete Cognitive Architecture
تُثبت هذه الورقة أنه بينما يمكن للكفاءة المعرفية الجوهرية أن تنبثق من التدرج المنحدر في بنية دنيا، فإن الوظائف الميتا-معرفية الحرجة مثل التوقف التكيفي وتخصيص الموارد القائم على القيمة لا تنبثق تلقائياً ويجب حسابها صراحةً لتحقيق مكاسب كبيرة في الأداء، حيث تُظهر النتائج التجريبية أن التخصيص الصريح للقيمة يحقق فائدة تصل إلى سبعة أضعاف التقديرات السلسة في السيناريوهات عالية المخاطر.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في السعي لبناء آلات تفكر، ظل العلماء يتجادلون طويلاً حول مصدر شرارة الذكاء. يرى أحد المدارس الفكرية أنه إذا قمت ببناء نظام ضخم وتركته يتعلم من كميات هائلة من البيانات، فإن القدرات المعقدة مثل الاستنتاج واتخاذ القرار ستظهر تلقائياً، تماماً كما يتعلم الطفل المشي دون أن يُعلّم ميكانيكا التوازن. أما الرأي المعارض فيشير إلى أن التفكير عملية هندسية دقيقة، تتطلب أجزاءً مخصصة ومتميزة للإدراك والذاكرة وإصدار الأحكام، تماماً مثل مصنع ذي خطوط تجميع متخصصة. لسنوات، كان هذا صراعاً فلسفياً، لكن دراسة جديدة تنقل المحادثة من النظرية إلى أرض المختبر. فقد سعى الباحثون لبناء آلة تفكير صغيرة ومتكاملة، ثم اختبروا كل جزء منها بصرامة لمعرفة ما إذا كانت قد تعلمت وظيفتها من خلال الخبرة أم أنه كان لزاماً برمجتها صراحةً للقيام بها. لم يكن هدفهم مجرد رؤية ما إذا كانت الآلة تستطيع حل المشكلات، بل فهم كيف قررت بدقة متى تتوقف عن التفكير، وكيف قدرت أهمية المهمة، وما إذا كان بإمكانها تعلم إدارة طاقتها الذهنية.
قام الفريق ببناء نظام معرفي أدنى ولكنه كامل، وهو عبارة عن دماغ رقمي يتكون من بضعة مكونات رئيسية تعمل معاً. وفي قلبه كان هناك "مستنتج"، وهو وحدة يمكنها العمل على حل المشكلة خطوة بخثوة. وأحاطت به أدوات لمساعدته في تحديد مدة التفكير، ونظام تحكم لإدارة طاقته، ووحدة قيمة لتقدير مدى أهمية المهمة. قاموا بتدريب هذا النظام على سلسلة من الألغاز المنطقية، وتحديداً المهام التي تتضمن إعادة ترتيب الرموز، وهي مهام يصعب على النماذج الحاسوبية القياسية حلها دون التعثر. ثم أخضع الباحثون كل جزء من هذه الآلة لمجموعة من الاختبارات، سائلين سؤالاً بسيطاً لكل منها: هل ظهرت هذه القدرة بشكل طبيعي من عملية التدريب، أم كان لزاماً حسابها بواسطة آلية محددة ومصممة مسبقاً؟ كانت الإجابات التي وجدوها حادة ومفاجئة في كثير من الأحيان، حيث كشفت أنه بينما يمكن أن تظهر القدرة على حل المشكلات، فإن القدرة على تقرير متى تتوقف وكيفية تخصيص الجهد لا يمكن أن تظهر تلقائياً.
تعلق الاكتشاف الأكثر أهمية بكيفية قرار الآلة متى تتوقف عن التفكير. في العديد من أنظمة الذكاء الاصطناعي الحديثة، يُسمح للنموذج بالعمل لأطول فترة يحتاجها، ولا يتوقف إلا عندما يشعر بالثقة. وجد الباحثون أن نظامهم تعلم التوقف بالفعل، لكن هذه القدرة كانت وهماً ناتجاً عن طريقة القياس وليس مهارة حقيقية. فعندما أجبروا الآلة على التوقف عند النقطة ذاتها التي اختارها النسخة "الذكية"، كانت النتائج متطابقة. جاءت الميزة الظاهرية لآلة التوقف الذاتي بالكامل من خلل في كيفية قراءة نتيجتها النهائية، وليس من أي فهم أعمق للمهمة. وبمجرد أن صحح الباحثون طريقة القراءة هذه، تلاشت قيمة مراقبة الآلة لنفسها وهي تفكر لتصل إلى لا شيء تقريباً. وتبين أن معرفة أي لغز محدد يحتاج إلى وقت أكثر من غيره لم تكن تساوي سوى جزء ضئيل جداً من المائة في الأداء. لم يكن المراقب الداخلي للآلة يتخذ قرارات أفضل حقاً؛ بل كان مجرد نتاج ثانوي لكيفية بناء النظام.
أدى هذا إلى صورة أوضح لمكان وجود اتخاذ القرار الحقيقي. اختبر الباحثون ما إذا كان بإمكان الآلة تعلم إعطاء الأولوية للمهام الهامة على المهام الأقل أهمية بمجرد تدريبها على الاهتمام بالنتيجة. ووجدوا أن عملية التدريب جعلت الآلة أسوأ في ذلك في الواقع. فعندما عُلّم النظام تقدير عواقب إجاباته، أصبح مرتبكاً وأقل دقة. إن القدرة على تحديد مقدار الجهد الذي يجب بذله في مهمة ما لم تنبثق من عملية التعلم على الإطلاق. بدلاً من ذلك، كان لزاماً حسابها بواسطة حاسبة منفصلة وصريحة تنظر إلى المشكلة وتقرر مستوى الجهد قبل أن تبدأ الآلة في العمل. كان هذا "القرار المحسوب" أكثر فعالية بكثير من أي محاولة لجعل الآلة تتعلم قيمة المهمة من تلقها. فالحالة الداخلية للآلة، التي شكلها التدريب، فقدت بشكل طبيعي المعلومات اللازمة لاتخاذ هذه القرارات القائمة على القيمة، مما ترك الحاسبة الصريحة كوسيلة وحيدة لإنجاز المهمة.
كما بحثت الدراسة في مدى صمود هذه النتائج عند تطبيقها على النماذج اللغوية الضخمة المنتشرة اليوم. اختبر الباحثون نموذجاً لغوياً ضخماً ومجمداً — وهو نموذج لا يمكن إعادة تدريبه — باستخدام طرق مماثلة لمعرفة ما إذا كان بإمكانه التحكم في وقت تفكيره. ووجدوا أن الاستراتيجية الشائعة المتمثلة في توليد العديد من الإجابات المختلفة والتصويت على الأفضل لم تترك مجالاً كبيراً للتحسين. كان النموذج يميل إلى الاتفاق مع نفسه حتى عندما يكون مخطئاً، مما يعني أن مطالبته بالتفكير لفترة أطول أو التصويت بشكل أكثر تكراراً نادراً ما يساعد. تماماً مثل الآلة الصغيرة، كانت القدرة على مراقبة نفسها وهي تفكر وتقرر متى تتوقف عديمة الفائدة تقريباً. وخلص الباحثون إلى أنه قبل أن نحاول التحكم في كيفية تفكير هذه النماذج الضخمة، يجب أولاً قياس ما إذا كانت الأدوات التي نستخدمها للتحكم فيها تعمل بالفعل. وفي كثير من الحالات، فإن الرافعة التي نحاول سحبها لا تحرك الآلة بشكل ملموس.
استكشف الفصل الأخير من البحث نوعاً معيناً من المشكلات الصعبة حيث تكون تكلفة التفكير مخفية حتى النهاية، مثل المشي في طريق لا تعرف مسافته إلا عند الوصول. في سيناريوهات "المنحدر" هذه، توقع الباحثون أن قيمة القرار المسبق سترتفع بشكل هائل. وقد صدق توقعهم: في هذه المواقف، كانت معرفة قيمة المهمة قبل البدء أمراً بالغ الأهمية، مما وفر دفعة هائلة في الأداء مقارنة بمعرفة الصعوبة فقط. ومع ذلك، لم تأتِ هذه الدفعة لأن الآلة فهمت المشكلة فجأة بشكل أفضل، بل لأن المكافأة المحتملة للحصول على الإجابة الصحيحة كانت أكبر بكثير. أظهرت الدراسة أن حجم المشكلة وهيكل المعلومات شيئان منفصلان. لم تكن الآلة بحاجة لتعلم طريقة جديدة في التفكير؛ بل كانت تحتاج فقط إلى خطة واضحة ومحسوبة مسبقاً للتعامل مع المخاطر العالية.
في النهاية، ترسم خريطة هذا البحث أين لا يوجد الإدراك. إنه لا يوجد في قدرة الآلة على مراقبة نفسها وهي تفكر، ولا في عملية التدريب التي تعلمها قيمة المهمة. بدلاً من ذلك، فإن القدرة على إدارة الجهد واتخاذ قرارات من الدرجة الثانية بشأن ما يهم يجب أن تُبنى كحساب منفصل وصريح. الآلة تتعلم حل اللغز، ولكن يجب إخبارها، عبر آلية منفصلة، بمدى الجهد الذي يجب بذله. وجد الباحثون أن الجزء الأكثر قابلية لإعادة الاستخدام من عملهم لم يكن نوعاً جديداً من الذكاء، بل منهجية صارمة لقياس ما هو حقيقي وما هو وهم. ومن خلال إثبات أن العديد من القدرات المفترضة هي في الواقع نتاج لطريقة قياسنا لها، فقد قدموا أساساً أكثر وضوحاً وأمانة لبناء آلات تفكر حقاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.