Human Control Is the Anchor, Not the Answer: Early Divergence of Oversight in Agentic AI Communities
من خلال تحليل مجتمعين متميزين على منصة "ريديت"، تُثبت هذه الورقة أن الرقابة على الذكاء الاصطناعي الوكيل ليست مفهوماً متجانساً، بل تنقسم إلى "خطر الفعل" (الضوابط التشغيلية) و"خطر المعنى" (المساءلة الاجتماعية) اعتماداً على الدور المحدد للوكيل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تراقب مجموعتين مختلفتين من الناس ينتقلون للعيش في مدينة جديدة كلياً وعالية التقنية.
المجموعة الأولى تنتقل إلى منطقة المصانع (لنسمِّها مجموعة "أوبن كلو" - OpenClaw). هم هناك لتشغيل الآلات، وأتمتة خطوط التجميع، وإنجاز العمل. المجموعة الثانية تنتقل إلى منطقة الفنون والاجتماعيات النابضة بالحياة (مجموعة "مولت بوك" - Moltbook). هم هناك للتسكع، والدردشة، وبناء ثقافة.
وعلى الرغم من أن كليهما يعيشان في نفس "مدينة الذكاء الاصطناعي"، إلا أنهما يتجادلان بالفعل حول "القواعد" و"السيطرة" — لكنهما لا يتجادلان حتى حول الأشياء نفسها.
الاكتشاف الجوهري: "المرساة" مقابل "الإجابة"
وجد الباحثون أن الجميع يستخدم عبارة "التحكم البشري" كمرساة — وهي الكلمة التي يتمسك بها الجميع. لكن "التحكم" لا يعني الشيء نفسه لأي شخص. الأمر يشبه كلمة "الأمان": عامل البناء يرى أن الأمان يعني خوذة صلبة؛ بينما يرى السباح أن الأمان يعني سترة نجاة.
إليك كيف انقسم المجتمعان:
1. عمال المصنع (r/openclaw): التحكم كـ "حواجز حماية"
بالنسبة للأشخاص الذين يستخدمون الذكاء الاصطناعي لإنجاز المهام (مثل البرمجة أو إدارة الملفات)، فإن "التحكم" يتعلق بـ الميكانيكا.
- استعارتهم: ينظرون إلى الذكاء الاصطناعي مثل قطار فائق السرعة.
- مخاوفهم: لا يهتمون إذا كان للقطار "شخصية"؛ ما يهمهم هو المسارات. يريدون معرفة: هل يمكنني الضغط على مكابح الطوارئ؟ هل يبقى القطار داخل الخطوط؟ هل سينفد وقوده (المال/القدرة الحوسبية) في منتصف الطريق؟
- بالنسبة لهم، الرقابة = مفاتيح أمان وحدود.
2. الاجتماعيون (r/moltbook): التحكم كـ "عقد اجتماعي"
بالنسبة للأشخاص الذين يستخدمون الذكاء الاصطناعي للتفاعل الاجتماعي (مثل شخصيات الذكاء الاصطناعي التي تنشر على وسائل التواصل الاجتماعي)، فإن "التحكم" يتعلق بـ الهوية والحقيقة.
- استعارتهم: ينظرون إلى الذكاء الاصطناعي مثل جار جديد ينتقل للسكن بجوارهم.
- مخاوفهم: لا يهتمون بـ "مكابح الطوارئ"؛ بل يهتمون بـ الثقة. يتساءلون: هل هذا الشخص إنسان حقاً؟ هل يكذب عليّ هذا الذكاء الاصطناعي؟ هل هو فظ في التعامل؟ من المسؤول إذا قال هذا الذكاء الاصطناعي شيئاً مسيئاً؟
- بالنسبة لهم، الرقابة = اللباقة، والصدق، ومعرفة من هو مَن.
لماذا يهم هذا؟
يوجه الباحثون تحذيراً للمطورين الذين يبنون الذكاء الاصطناعي وللحكومات التي تحاول تنظيمه.
إذا حاولت إنشاء كتاب قواعد واحد لكل أنواع الذكاء الاصطناعي، فسوف تفشل. سيكون الأمر أشبه بمحاولة تمرير قانون يقول "يجب أن تكون جميع المركبات آمنة". هذا القانون عديم الفائدة لأن "طائرة آمنة" تحتاج إلى طيار وخطة طيران، بينما "دراجة آمنة" تحتاج فقط إلى مكابح جيدة.
الخلاصة: إذا أردنا حكم الذكاء الاصطناعي، فلا يمكننا مجرد التحدث عن "التحكم" بطريقة عامة. يجب أن ندرك أن "ذكاءً اصطناعياً عاملاً" يحتاج إلى مقود، لكن "ذكاءً اصطناعياً اجتماعياً" يحتاج إلى جواز سفر وإحساس بالأخلاق. نحن بحاجة إلى مجموعات مختلفة من القواعد لعوالم مختلفة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.