Mind The Gap: How The Technical Mechanism Of Agentic AI Outpace Global Legal Frameworks
تجادل هذه الورقة بأن الأطر القانونية العالمية الحالية تخفق في حوكمة الذكاء الاصطناعي الوكيل لأنها تسيء فهم بنيته التقنية بشكل جوهري عبر الخلط بين قدرة النموذج وحلقات التنفيذ التكرارية، مما يؤدي إلى تشريعات عاجزة بنيوياً عن معالجة الآليات الفعلية للاستقلالية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح لورقة "MIND THE GAP" (انتبه للفجوة)، مترجمة إلى لغة بسيطة مع تشبيهات إبداعية.
الصورة الكبيرة: مشكلة "انتبه للفجوة"
تخيل أنك تقوم ببناء نوع جديد من السيارات. إنها ليست مجرد سيارة تقود نفسها؛ بل هي سيارة يمكنها أن تقرر الذهاب إلى المتجر، والتوقف عند محطة الوقود، ودفع ثمن الوقود، ثم إعادتك إلى المنزل، كل ذلك دون أن تلمس أنت عجلة القيادة.
الآن، تخيل أن الحكومة تحاول كتابة قوانين المرور لهذه السيارة. لكن المشرعين ينظرون إلى السيارة ويفكرون: "هذه مجرد دراجة هوائية فاخرة للغاية". فيكتبون قوانًين حول كيفية الإمساك بالمقابض وكيفية قرع الجرس.
هذا بالضبط ما يقول هذا البحث إنه يحدث مع الذكاء الاصطناعي.
يرى المؤلفان، مارسيل أوزموند وتوماس جيجو، أن كبار الخبراء القانونيين والحكومات في العالم يحاولون تنظيم "الذكاء الاصطناعي الوكيل" (Agentic AI) (الذكاء الاصطناعي الذي يتصرف من تلقاء نفسه)، لكنهم لا يفهمون حقيقته فعلياً. إنهم يستخدمون تعريفات قديمة واستعارات بشرية لا تناسب هذه التكنولوجيا. وبسبب ذلك، تغفل القوانين عن المخاطر الحقيقية.
ما هو "الذكاء الاصطناعي الوكيل"؟ (الشيء الحقيقي)
لفهم المشكلة، نحتاج أولاً إلى معرفة ماهية هذه التكنولوجيا فعلياً.
- الطريقة القديمة (الذكاء الاصطناعي القياسي): فكر في جني داخل زجاجة. تفرك الزجاجة (تعطي أمراً/Prompt)، فيعطيك الجني أمنية (إجابة). يقوم بشيء واحد ثم يتوقف. هو لا يذهب ليشتري لك شطيرة.
- الطريقة الجديدة (الذكاء الاصطناعي الوكيل): فكر في مساعد شخصي يحمل حلقة مفاتيح. تقول له: "خطط لحفلة عشاء". هو لا يكتفي بالحديث عن الأمر فحسب، بل يقوم بـ:
- التحقق من تقويمك.
- البحث عبر الإنترنت لإيجاد وصفات طعام.
- طلب المكونات من متجر ما.
- إرسال دعوات لأصدقائك.
- حجز طاولة في مطعم.
إنه يفعل ذلك في حلقة مستمرة، مستخدماً أدوات (واجهات برمجة التطبيقات API، قواعد البيانات، الويب) لإنجاز المهام. ولا يحتاج منك قول "نعم" بعد كل خطوة.
الأخطاء الأربعة الكبرى في القانون
تراجع الورقة 11 قانوناً وتوجيهاً مختلفاً من أماكن مثل الاتحاد الأوروبي، والولايات المتحدة، والمملكة المتحدة، وسنغافورة. وتجد أنها جميعاً ترتكب نفس الأخطاء الأربعة.
1. خطأ "الدماغ البشري" (التجسيد/Anthropomorphism)
الخطأ: تقول القوانين إن الذكاء الاصطناعي "يفكر"، "يستنتج"، "يقرر"، و"يتعلم".
الواقع: الذكاء الاصطناعي هو "إكمال تلقائي ضخم". هو لا يفكر؛ بل يتنبأ بالكلمة التالية في الجملة بناءً على الرياضيات. ليس لديه دماغ أو ضمير.
- التشبيه: تخيل ببغاءً قرأ كل كتب القانون في العالم. إذا سألته: "هل هذا قانوني؟"، قد يقول: "نعم، لأن هذا ما يقوله النص". هو لا "يقرر" أنه قانوني؛ هو فقط يكرر الأنماط التي رآها من قبل.
- لماذا يهم هذا: إذا اعتقد القانون أن الذكاء الاصطناعي "يقرر"، فسيحاول معاقبة الذكاء الاصطناعي على القرارات السيئة. لكن لا يمكن معاقبة الذكاء الاصطناعي. الإنسان الذي أعطى الببغاء الكتب وأمره بالتحدث هو من يجب أن يتحمل المسؤولية.
2. خطأ "حجم الفريق" (الخلط الهيكلي/Architectural Conflation)
الخطأ: تقول بعض القوانين (مثل قانون الاتحاد الأوروبي) إن الذكاء الاصطناعي يكون "وكيلاً" فقط إذا كان عبارة عن فريق من عدة أنظمة ذكاء اصطناعي تتحدث مع بعضها البعض.
الواقع: لا تحتاج إلى فريق. ذكاء اصطناعي واحد يمكنه استخدام الأدوات هو بالفعل خطر.
- التشبيه: تخيل لص بنك. القانون يقول: "نحن لا نقلق بشأن السرقات إلا إذا اقتحم عصابة من 10 أشخاص". لكن شخصاً واحداً يمتلك بطاقة دخول ومثقاباً يمكنه سرقة البنك. الخطر ليس في عدد الأشخاص؛ بل في الأدوات التي يمتلكونها.
- لماذا يهم هذا: إذا كان القانون يراقب "الفرق" فقط، فإنه يتجاهل الذكاء الاصطناعي المنفرد الذي يُستخدم حالياً لسرقة البيانات أو تعطيل الأنظمة.
3. خطأ "مقبض الصوت" (مغالطة مستويات الاستقلالية/Levels of Autonomy Fallacy)
الخطأ: تعامل القوانما الاستقلالية كأنها مقبض صوت (Volume Knob). يعتقدون أن الذكاء الاصطناعي إما "مستقل قليلاً" أو "مستقل جداً"، مثل رفع صوت الراديو.
الواقع: الاستقلالية هي مفتاح تشغيل (Light Switch). إما أن يكون "الإنسان هو المسيطر" أو "الآلة في حلقة تنفيذ أكواد".
- التشبيه: فكر في سيارة ذاتية القيادة.
- المستوى 1: أنت تقود، والسيارة تساعد في التوجيه قليلاً.
- المستوى 5: أنت نائم، والسيارة تقود.
- القانون يعتقد أن هذا انتقال سلس. لكن من الناحية التقنية، في اللحظة التي تبدأ فيها السيارة بالقيادة بنفسها دون أن تتحقق أنت من كل منعطف، يتغير هيكل السيارة تماماً. إنها ليست مجرد "مزيد" من القيادة؛ بل هي آلة مختلفة تماماً.
- لماذا يهم هذا: من خلال معاملتها كـ "مستوى"، يغفل المنظمون عن حقيقة أنه بمجرد أن يبدأ الذكاء الاصطناعي في استخدام الأدوات، تتغير قواعد اللعبة تماماً.
4. خطأ "الذاكرة" (أسطورة التعلم/The Learning Myth)
الخطأ: تقول القوانين إن الذكاء الاصطناعي "يتعلم" و"يتذكر" الأشياء ليصبح أفضل بمرور الوقت.
الواقع: عقل الذكاء الاصطناعي مجمد. هو لا يتعلم أثناء عمله.
- التشبيه: تخيل طالباً يؤدي اختباراً. الطالب لديه كومة من البطاقات التعليمية (قاعدة البيانات). في كل مرة يحصل فيها على سؤال، ينظر إلى البطاقات، يقرأ الإجابة، ثم يكتبها. هو لا "يتعلم" الإجابة؛ هو فقط "يقرأ" البطاقة.
- لماذا يهم هذا: إذا اعتقد القانون أن الذكاء الاصطناعي "يتعلم"، فقد يطالب بإعادة اختبار الذكاء الاصطناعي في كل مرة "يتعلم" فيها شيئاً جديداً. لكن بما أنه مجرد قارئ للبطاقات، فهو لا يتغير فعلياً. الخطر الحقيقي هو: من كتب البطاقات؟ يجب على القانون فحص البطاقات (البيانات والأذونات)، وليس الطالب (الذكاء الاصطناعي).
لماذا يحدث هذا؟
يقول المؤلفان إن هذا ليس لأن المحامين أغبياء. بل لأن:
- هم ليسوا مهندسين: الأشخاص الذين يكتبون القوانين هم خبراء قانونيون، وليسوا مبرمجين. هم لا يعرفون كيف تعمل الآلة من الداخل.
- يستخدمون كلمات بشرية: من الصعب شرح حلقة برمجية معقدة، لذا يستخدمون كلمات مثل "التفكير" و"التخطيط" لأنها الكلمات الوحيدة المتاحة لدينا.
- يستخدمون خرائط قديمة: إنهم يحاولون التنقل في عالم جديد (الذكاء الاصطناعي الوكيل) باستخدام خريطة من العالم القديم (الذكاء الاصطناعي القياسي).
الخلاصة: ما الذي يجب أن يتغير؟
تجادل الورقة بأننا بحاجة إلى التوقف عن النظر إلى الذكاء الاصطناعي كـ "شخص آلي" والبدء في النظر إليه كـ آلة تحمل حلقة مفاتيح.
بدلاً من السؤال: "هل يفكر الذكاء الاصطناعي؟"، يجب أن نسأل:
- "ما هي الأدوات التي يُسمح للذكاء الاصطناعي بلمسها؟"
- "من كتب التعليمات (الأمر/Prompt)؟"
- "ما هي حواجز السلامة (البيئة المعزولة/Sandboxing) المحيطة بالآلة؟"
الخلاصة:
إذا استمررنا في تنظيم "شخصية" الذكاء الاصطناعي، فسنغفل عن المخاطر الحقيقية. نحن بحاجة إلى تنظيم الآليات: الكود، والأذونات، والأدوات. وإلى أن تلحق القوانين بالتكنولوجيا الفعلية، ستظل هناك فجوة خطيرة حيث يمكن أن تحدث أشياء سيئة، ولن يعرف أحد من المسؤول.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.