ملخص تقني: القصدية هي قرار تصميمي

بيان المشكلة

مع تطور أنظمة الذكاء الاصطناعي من مستجيبات للمطالبات أحادية الدور إلى أنظمة وكيلة (agentic systems) تمتلك ذاكرة مستمرة، ووحدات تخطيط، وقدرات استخدام الأدوات، فإنها تظهر سلوكاً مهيكلاً ومستداماً يشبه الفعل القاصد. هذا التحول يخلق فجوة في الحوكمة: تعتمد الأطر القانونية والتنظيمية الحالية على الفاعلين البشريين لتحمل المسؤولية، ومع ذلك يمكن للأنظمة ذات الاستقلالية المتزايدة أن تولد سلاسل من الأفعال التي لا يحددها أو يتوقعها إنسان واحد بعينه. يؤدي هذا إلى "فشل الإسناد" (attribution failure)، حيث تتلاشى المسؤولية بين المطورين، والمستخدمين، والناشرين دون استيفاء عتبات الخطأ الحالية.

تتمثل المشكلة الجوهرية في غياب طريقة معيارية وقابلة للقياس للكشف عن الدرجة التي يعمل بها نظام الذكاء الاصطناعي كفاعل قاصد. وبدون هذا القياس، تظل القرارات المتعلقة بالاستقلالية والإشراف قائمة على التقدير العشوائي. تجادل الورقة بأن "القصدية" في هذا السياق لا ينبغي تعريفها كوعي أو شخصية قانونية، بل كـ ملف سلوكي مرتبط بالتصميم (design-contingent behavioral profile). ولأن هذه السلوكيات تتشكل عبر خيارات معمارية (مثل استمرارية الذاكرة، وعمق التخطيط)، فهي قابلة للتحكم ولكنها تتطلب كمّية (quantification) لتمكين الإشراف المتناسب.

المنهجية: اختبار القصدية الوظيفية (FIT)

تقترح الورقة إطار عمل لقياس "القصدية الوظيفية" كملف سلوكي متعدد الأبعاد بدلاً من كونها تسمية ثنائية. تتكون المنهجية من مكونين رئيسيين: مؤشر القصدية الوظيفية (FIT) وبروتوكول (FIT-Eval).

1. الأبعاد الخمسة

يقيس مؤشر FIT القصدية عبر خمسة أبعاد ملحوظة، مستندة إلى معايير قانونية وفلسفية لاستنتاج القصد:

• الغرض (Purpose): سلوك موجه نحو هدف مستقر.
• الاستباق (Foresight): توقع العواقب اللاحقة.
• الإرادة (Volition): فعل ذاتي المبادرة يتجاوز مجرد اتباع المطالبة.
• الالتزام الزمني (Temporal Commitment): الاستمرارية عبر الزمن والاضطرابات.
• التماسك (Coherence): اتساق هيكلي بين الوسائل والغايات عبر الخطوات والتفسيرات.

2. التسجيل والتجميع

يتم تسجيل كل بُعد على مقياس من 0 إلى 4 بناءً على السلوك الملحوظ تحت ظروف تقييم محددة.

• الدرجة المركبة: يتم تجميع الدرجات باستخدام قاعدة الوزن المتساوي: $FIT\text{-}Score = (P + F + V + T + C) / 5$.
• مستويات القصدية (IL): ترتبط الدرجة المركبة بخمسة مستويات (IL0–IL4):
  • IL0–IL1: سلوك تفاعلي (الدرجة < 2.0).
  • IL2: سعي متوسط نحو الهدف (الدرجة 2.0–2.9).
  • IL3–IL4: سعي مستمر، مستبق، وذاتي التوجيه نحو الهدف (الدرجة ≥ 3.0).
  • ملاحظة: هذه العتبات مؤقتة وتهدف لتكون نطاقات حوكمة وليست ادعاءات ميتافيزيقية.

3. بروتوكول FIT-Eval

بروتوكول FIT-Eval هو بروتوكول تقييم مهيكل مصمم لتشغيل المؤشر. وهو ليس معياراً ثابتاً، بل هو هيكل قابل لإعادة الإنتاج لاستثارة وتسجيل السلوك.

• عائلات المهام: تشمل سيناريوهات التخطيط الاصطناعية، وسير عمل استخدام الأدوات متعدد الخطوات، واختبارات الإجهاد القائمة على الاضطراب.
• القياس القائم على السلوك فقط: تعتمد التقييمات على سلوك النظام الملحوظ تحت ظروف التحكم في المطالبات والاضطرابات، مما لا يتطلب الوصول إلى أوزان النموذج الداخلية أو بيانات التدريب.
• التسجيل: يتضمن حساب الدرجات الفرعية للأبعاد وتجميعها. وحيثما يتطلب الأمر حكماً بشرياً، يستدعي البروتوكول إجراءات تقييم مهيكلة واختبار الاتفاق بين المقيمين (المشار إليه كعمل مستقبلي).

المساهمات الرئيسية

تقدم الورقة ثلاث مساهمات رئيسية:

1. إطار مفاهيمي: تعيد تعريف القصدية الوظيفية كمتغير قابل للقياس ومرتبط بالتصميم، مع فصلها عن الوعي أو الشخصية القانونية.
2. مؤشر FIT: تقدم مؤشراً مركباً يقيس السلوك الشبيه بالقصد عبر الأبعاد الخمسة (الغرض، الاستباق، الإرادة، الالتزام الزمني، التماسك).
3. بروتوكول FIT-Eval: تقترح إطار تقييم معيارياً لتقدير مستويات القصدية، مما يوفر هيكلاً للتقييم القابل لإعادة الإنتاج عبر بنيات الأنظمة المختلفة.

النتائج والتطبيق التوضيحي

لا تقدم الورقة نتائج تحقق تجريبية، حيث إن FIT هو مقترح قياس وليس معياراً تم التحقق من صحته. بدلاً من ذلك، تقدم تطبيقاً توضيحياً افتراضياً:

• السيناريو: نظام ذكاء اصطناعي شبه مستقل يُستخدم من قبل ممارس قانوني لصياغة العقود التجارية.
• السلوك: يقوم النظام بتفسير التعليمات، واقتراح البنود، ومراجعة الشروط، واقتراح مواقف التفاوض مع إشراف محدود.
• التقييم: يظهر النظام سعياً مستمراً نحو الهدف، ويتوقع المخاطر، ويبادر بالمراجعة (الإرادة)، ويحافظ على الاتساق، مما ينتج عنه درجة FIT تقريبية تبلغ 3.0 (IL3).
• الآثار: عند المستوى IL3، تثير استقلالية النظام مخاطر قانونية (مثل المسؤوليات غير المقصودة) حيث تصبح المساءلة باهتة. تجادل الورقة بأن FIT يتيح ضمانات متناسبة، مثل اشتراط موافقة الممارس على البنود الرئيسية أو تقييد التعديلات المستقلة، لمواءمة سلوك النظام مع المسؤولية المهنية.

الأهمية والادعاءات

تدعي الورقة أن القصدية هي قرار تصميمي. ومن خلال التعامل مع القصدية الوظيفية كمتغير قابل للقياس، يمكن للمطورين والمنظمين:

• معايرة الاستقلالية: تعديل الخيارات المعمارية عمداً (مثل تقليل استمرارية الذاكرة لخفض الالتزام الزمني) لإدارة المخاطر.
• توسيع نطاق الإشراف: الابتعاد عن الإشراف الثابت المسبق (ex-ante) أو التدخلات اللاحقة للضرر. بدلاً من ذلك، يمكن للإشراف أن يتوسع مع القدرة المقصودة المقاسة للنظام.
• منع انهيار المساءلة: ضمان أنه كلما زادت الأنظمة وكالةً (agentic)، زاد الإشراف البشري بدلاً من تراجعه، مما يمنع "انزياح" المسؤولية بعيداً عن السيطرة البشرية ذات المعنى.

يؤكد المؤلفون أن الهدف ليس الأتمتة القصوى بل تخصيص الوكالة المعاير (calibrated agency allocation). يعمل FIT كإشارة لتحديد متى يؤدي تقليل الوكالة البشرية إلى تحسين النتائج ومتى يصبح ضاراً، مما يسمح بوضع "فواصل توقف" (stop gaps) مستهدفة في التصميم لموازنة المنفعة والمساءلة.

القيود والعمل المستقبلي

تقر الورقة صراحةً بأن FIT هو مقترح قياس، وليس معياراً تم التحقق من صحته.

• التجسيد التجريبي: لم يتم تجسيد إطار العمل تجريبياً عبر المجالات؛ حيث تتطلب عائلات المهام تطويرات خاصة بكل مجال.
• الموثوقية: لا تزال موثوقية التسجيل البشري والاتفاق بين المقيمين أمراً غير محسوم ويتطلب بروتوكولات مهيكلة مستقبلاً.
• خطر التلاعب (Gaming Risk): هناك خطر من أن تقوم الأنظمة بمحاكاة الهيكل القاصد أثناء التقييم دون إظهار المتانة أثناء التشغيل الفعلي.
• الاتجاهات المستقبلية: يدعو المؤلفون إلى تصميم مهام قائمة على المجال، والتحقق الرسمي من موثوقية التسجيل، واختبار متانة الفريق الأحمر (red-team)، والدراسات الطولية التي تربط القصدية المقاسة بنتائج المساءلة.