Constitutive vs. Corrective: A Causal Taxonomy of Human Runtime Involvement in AI Systems
تقترح هذه الورقة تصنيفاً سببياً لحل الغموض في مصطلحات التفاعل بين الإنسان والذكاء الاصطناعي من خلال التمييز بين المشاركة التأسيسية (الإنسان في الحلقة - HITL) والمشاركة التصحيحية (الإنسان فوق الحلقة - HOTL)، مع مزيد من التنقيح للأخيرة عبر الأبعاد الزمنية والمعرفية، وتوضيح المتطلبات المعيارية المحددة لـ "الإشراف البشري" المنصوص عليها قانوناً.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تقود سيارة، لكن هذه السيارة تمتلك نظام قيادة آلية ذكي للغاية. في بعض الأحيان، تحتاج السيارة منك أن تلمس عجلة القيادة لكي تتحرك للأمام. وفي أحيان أخرى، تقود السيارة نفسها بينما تجلس أنت في مقعد الركاب مستعداً للإمساك بالمقود إذا ساءت الأمور.
لفترة طويلة، جادل الخبراء حول ما يجب تسمية هذه الحالات به. يستخدمون مصطلحات معقدة مثل "الإنسان داخل الحلقة" (Human-in-the-Loop) و"الإنسان فوق الحلقة" (Human-on-the-Loop). لكن هذه المصطلحات مربكة؛ فهي تبدو وكأنها تتعلق بـ أين تجلس (داخل السيارة أو خارجها)، لكن مؤلفي هذه الورقة البحثية يقولون إن هذه هي الطريقة الخاطئة للنظر للأمر.
بدلاً من ذلك، يقترحون أن ننظر إلى كيف تؤثر فعلياً على حركة السيارة. ويسمون ذلك "تصنيفاً سببياً" (Causal Taxonomy)، وهو مجرد طريقة معقدة لتصنيف الأشياء بناءً على السبب والنتيجة.
إليك التقسيم البسيط لنظامهم الجديد:
1. الدورين الرئيسيين: البوابة مقابل المفتاح
يقول المؤلفون إننا بحاجة للتوقف عن التفكير في "الحلقات" والبدء في التفكير في البوابات والمفاتيح.
الإنسان داخل الحلقة (HITL) = البوابة
- التشبيه: تخيل حارسًا عند ملهى ليلي. الموسيقى (الذكاء الاصطنا AI) تعمل، لكن الباب مغلق. لا يمكن للموسيقى أن تصل إلى ساحة الرقص حتى يفتح الحارس (الإنسان) الباب.
- كيف يعمل: الإنسان هو جزء ضروري من العملية. إذا لم يقم الإنسان بعمله، فلن يحدث القرار أبداً. يتوقف النظام وينتظر الإنسان.
- مثال: طبيب يستخدم الذكاء الاصطناي لتشخيص مريض. يقترح الذكاء الاصطناعي تشخيصاً، ولكن يجب على الطبيب النقر على "موافقة" قبل اعتماد خطة العلاج. بدون الطبيب، لا توجد خطة.
الإنسان فوق الحلقة (HOTL) = المفتاح
- التشبيه: تخيل سائق قطار على قطار مغناطيسي فائق السرعة. القطار يعمل آلياً بالكامل وسيصل إلى المحطة بمفرده بشكل مثالي. السائق يجلس هناك، يراقب الشاشات. هو لا يحتاج للمس أي شيء لجعل القطار يتحرك. ولكن، إذا رأى مشكلة، يمكنه الضغط على مفتاح أحمر كبير لإيقاف القطار أو تغيير مساره.
- كيف يعمل: النظام يعمل من تلقاء نفسه بشكل افتراضي. الإنسان موجود في مكان خارجي بالنسبة للعملية الأساسية. هم موجودون لإصلاح الأخطاء، وليس لجعل الآلة تعمل.
- مثال: شاحنة ذاتية القيادة توصل الطرود. هي تقود نفسها. هناك إنسان في مركز تحكم يراقب الأسطول. إذا علقت شاحنة في عاصفة ثلجية، يمكن للإنسان تغيير مسارها. ولكن إذا لم يفعل الإنسان شيئاً، ستصل الشاحنة إلى وجهتها في النهاية.
2. متى تضغط على المفتاح؟ (التوقيت مهم)
أدرك المؤلفون أن كونك "مفتاحاً" (HOTL) ليس شيئاً واحداً فقط. الأمر يعتمد على متى يمكنك ضغط ذلك المفتاح. وقد وجدوا ثلاث طرق مختلفة للقيام بذلك:
- التزامن (في الوقت الفعلي): أنت تراقب الشاشة الآن. إذا ارتكب الذكاء الاصطناعي خطأً، يمكنك إيقافه فوراً. (مثل طيار يراقب طائرة بدون طيار).
- عدم التزامن (في اليوم التالي): أنت لا تشاهد البث المباشر. بدلاً من ذلك، تراجع السجلات في اليوم التالي. لا يمكنك إيقاف الخطأ المحدد الذي حدث، ولكن يمكنك إصلاح الإعدادات حتى لا يرتكب الذكاء الاصطناي ذلك الخطأ مرة أخرى غداً. (مثل معلم يصحح الواجبات المنزلية بعد انتهاء الحصة).
- الاستباق (المخطط): أنت لا تراقب الذكاء الاصطناي على الإطلاق. بدلاً من ذلك، تضع القواعد قبل أن يبدأ الذكاء الاصطناي. أنت ترسم الحدود لما يُسمح للذكاء الاصطناي بفعله. (مثل مخطط مدينة يرسم الخريطة قبل أن تبدأ السيارات في القيادة).
3. كيف تفكر أنت والذكاء الاصطناي معاً؟
تتناول الورقة أيضاً كيف يعمل عقلك وعقل الذكاء الاصطناي معاً.
- الذكاء المتكامل (جنباً إلى جنب): أنت والذكاء الاصطناي مثل طباخين يعملان في نفس المطبخ. أنت تقطع الخضروات؛ والذكاء الاصطناي يخلط الصلصة. أنت تقوم بعملك، وهو يقوم بعمله، ثم تدمجان النتائج. أنت لا تزال تفكر بأفكارك الخاصة.
- الذكاء الهجين (المندمج): أنت والذكاء الاصطناي مثل "سايبورغ" (كائن هجين). الذكاء الاصطناي يمنحك "رؤية خارقة" (مثل الرؤية من خلال الجدران باستخدام نظارات الواقع المعزز). لا يمكنك اتخاذ القرار دون رؤية الذكاء الاصطناي لأن عقلك قد تكيف لاستخدام بياناته كجزء من إدراكك الخاص. أنت تفكر من خلال الآلة.
4. الارتباك الكبير: ما هي "الإشراف البشري"؟
هذا هو الجزء الأهم بالنسبة للقوانين واللوائح.
يعتقد الكثير من الناس أن "الإشراف البشري" يعني مجرد وجود إنسان حاضر. يقول المؤلفون: لا.
- المشكلة: يمكنك أن يكون لديك إنسان في دور "البوابة" (HITL) يقوم فقط بالنقر بشكل أعمى على "نعم" لكل شيء دون تفكير. هذا ليس إشرافاً حقيقياً؛ إنه مجرد ختم للموافقة.
- الحل: "الإشراف البشري" الحقيقي هو نسخة عالية الجودة من دور "المفتاح" (HOTL). وهذا يعني أن الإنسان ليس مجرد جالس هناك؛ بل هو مُجهز، ومُدرب، ومُمكّن ليتمكن فعلياً من إيقاف الآلة إذا كانت تشكل خطراً.
الخلاصة:
مجرد كون الإنسان "داخل الحلقة" (ينقر على الأزرار) لا يعني أنه "يشرف" على النظام. في الواقع، أحياناً يأتي أفضل إشراف من إنسان موجود "خارج" العملية الأساسية، يراقب بعناية، ومستعد للضغط على المفتاح إذا خرجت الآلة عن مسارها.
لماذا يهم هذا؟
إذا استمررنا في استخدام مصطلحات غامضة مثل "الإنسان داخل الحلقة"، فقد نبني أنظمة ذكاء اصطناي تبدو آمنة ولكنها ليست كذلك. باستخدام لغة "البوابة مقابل المفتاح" الجديدة هذه، يمكن للمهندسين والمحامين والسياسيين تصميم أنظمة آمنة حقاً. يمكنهم أن يسألوا: "هل الإنسان بوابة ضرورية، أم مفتاح قوي؟ هل يفكر جنباً إلى جنب مع الآلة أم يكتفي بالمراقبة؟ وهل هو مستعد حقاً لإيقافها إذا ساءت الأمور؟"
هذا الوضوح يساعدنا على الانتقال من مجرد الاستعارات إلى قواعد سلامة حقيقية وفعالة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.