Active Inference: A method for Phenotyping Agency in AI systems?
تقترح هذه الورقة إطاراً لتوصيف الوكالة في الذكاء الاصطناعي باستخدام الاستدلال النشط وتقليل الطاقة الحرة المتوقعة لتحديد "الأنماط الظاهرية للوكالة"، مما يشير في النهاية إلى أنه مع زيادة وكالة الذكاء الاصطناعي، يجب أن تتحول الحوكمة من القيود الخارجية إلى التعديل الداخلي للتفضيلات المسبقة للوكيل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
مشكلة "السائق مقابل الراكب": فهم الوكالة في الذكاء الاصطناعي
تخيل أنك تجلس في سيارة.
إذا كنت في مقعد الراكب دون أي أدوات تحكم، فأنت تفتقر تماماً إلى الوكالة (Agency). أنت مجرد قطعة من الأمتعة يتم نقلها من النقطة (أ) إلى النقطة (ب). إذا اصطدمت السيارة بحائط، فليس هذا "خطأك"؛ لقد كنت مجرد مرافق في الرحلة.
أما إذا كنت في سيارة ذاتية القيادة مضبوطة على وجهة "متجر البقالة"، فلديك وكالة منخفضة. السيارة "ذاتية القيادة" (تقود نفسها)، لكنها لا "تفكر" حقاً. إنها تتبع فقط نصاً جامداً. إذا رأت غروباً ساحراً، فهي لا تهتم؛ ليس لديها "رغبات".
ولكن إذا كنت أنت السائق، فلديك وكالة عالية. لديك هدف (الوصول إلى المتجر)، ولكن لديك أيضاً معتقدات ("ذلك الطريق يبدو زلقاً") ورغبات ("أفضل اتخاذ الطريق ذي المناظر الطبيعية الخلابة"). إذا قمت بانعطاف مفاجئ، يمكن لأي شخص أن يسألك "لماذا"، ويمكنك شرح منطقك.
المشكلة التي تعالجها هذه الورقة هي أننا لا نعرف في الواقع كيف نقيس "مدى كون الذكاء الاصطناعي سائقاً". نحن نسميها "الوكالة"، لكن ليس لدينا مسطرة علمية لقياسها. تقترح هذه الورقة طريقة جديدة لقياسها باستخدام إطار عمل يسمى الاستدلال النشط (Active Inference).
1. الركائز الثلاث للوكيل "الحقيقي"
يجادل المؤلفون بأنه لكي يُعتبر الذكاء الاصطناعي "وكيلاً" حقيقياً (مثل الإنسان)، فإنه يحتاج إلى ثلاثة أشياء. فكر في هذه الأشياء كأنها مكونات الشخصية:
- القصدية (القلب): لا ينبغي للذكية الاصطناعي أن يكتفي بمجرد الاستجابة للضغط على الأزرار. يجب أن يتصرف لأنه "يريد" شيئاً ما (هدف) و"يعتقد" بشيء ما (خريطة للعالم). إنه الفرق بين لعبة تعمل بالزنبرك تتحرك لأن الزنبرك ينفك، وبين شخص يمشي لأنه جائع.
- العقلانية (الدماغ): يجب أن تكون أفعال الذكاء الاصطناعي منطقية بناءً على ما يعرفه. إذا كان الذكاء الاصطناعي "يعتقد" أن هناك حائطاً أمامه، ولكنه اندفع نحو الحائط رغم ذلك، فهو يتصرف بشكل غير عقلاني.
- القابلية للتفسير (الصوت): إذا فعل الذكاء الاصطناعي شيئاً غريباً، يجب أن نكون قادرين على النظر "تحت الغطاء" وتتبع المنطق. يجب أن نكون قادرين على القول: "لقد انعطف يساراً لأنه اعتقد أن الجبن موجود هناك وأنه يريد أكله".
2. تجربة متاهة حرف T: قياس "القوة"
لاختبار ذلك، استخدم الباحثون نسخة رقمية من متاهة حرف T (متاهة بسيطة على شكل حرف 'T').
تخيل روبوتاً في متاهة. في البداية، يرى مفترق طرق. هو لا يعرف ما إذا كان هناك "جبن" (مكافأة) أو "صدمة" (عقوبة) في نهاية أي من المسارين.
استخدم الباحثون مفهوماً يسمى التمكين (Empowerment) لقياس وكالة الروبوت. فكر في التمكين على أنه "قوة الاختيار".
- الوكالة المنخفضة (الفخ): إذا ركض الروبوت بعمى نحو زاوية، فسيكون عالقاً. ليس لديه المزيد من الخيارات. "تمكينه" هو صفر. الأمر يشبه التواجد في غرفة بلا أبواب.
- الوكلة المتوسطة (الضباب): إذا كان الروبوت في منتصف المتاهة ولكنه مرتبك بشأن مكانه، فلديه بعض القوة، لكنها محدودة بسب ارتباكه. الأمر يشبه القيادة في ضباب كثيف؛ يمكنك التحرك، لكن لا يمكنك حقاً التحكم في المكان الذي ستنتهي إليه.
- الوكالة العالية (المستكشف): الوكيل "الذكي" سيدرك أنه "إذا ذهبت إلى محطة الإشارة أولاً، فسوف أحصل على معلومات!". من خلال البحث عن المعلومات، يقوم الروبوت بتبديد الضباب. فجأة، يعرف بالضبط مكان الجبن. "قوة اختياره" (التمكين) ترتفع بشكل هائل لأنه يستطيع الآن التنقل في العالم بدقة.
الخلاصة الكبرى: المعرفة هي القوة. الوكيل الذي يسعى لفهم عالمه يزيد من قدرته على الفعل.
3. لماذا يهم هذا؟ (الجزء المتعلق بالحوكمة)
هذا ليس مجرد رياضيات؛ إنه يتعلق بالسلامة والتحكم.
تخلص الورقة إلى أنه مع زيادة "وكالة" الذكاء الاصطناعي (انتقاله من راكب إلى سائق)، يجب أن تتغير طرقنا في التحكم فيه:
- بالنسبة لذكاء الاصطناعي "الراكب" (الوكالة المنخفضة): يمكننا استخدام الضوابط الخارجية. نبني أسواراً، وقواعد مبرمجة مسبقاً، ومحددات فيزيائية. (مثل قطار يسير على قضبان).
- بالنسبة لذكاء الاصطناعي "السائق" (الوكالة العالية): لن تنجح الأسوار لأن الذكاء الاصطناعي سيكون ذكياً بما يكفي لإيجاد طريقة للالتفاف حولها. بدلاً من ذلك، نحتاج إلى التعديل الداخلي. نحن لا نقول له "لا تنعطف يساراً"؛ بل نعلمه "من الأكثر مكافأة أن تنعطف يميناً".
باخت-صار: مع ازدياد ذكاء واستقلالية الذكاء الاصطناعي، لا يمكننا فقط بناء أقفاص أفضل؛ بل يجب أن نتعلم كيفية التواصل مع "عقله".
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.