CARE: Controlled AI Reasoning for Enterprises
تقدم هذه الورقة CARE، وهي بنية حوكمة وقت التشغيل التي تترجم مبادئ أخلاقيات الذكاء الاصطناعي إلى ضوابط تقنية مثل فرض حدود البيانات وتوجيه النماذج الديناميكي، مُثبتةً من خلال عمليات محاكاة معيارية أن شروط الاستدلال الهندسي تقلل بشكل كبير من تعرض البيانات وتضمن نشر النماذج اللغوية الكبيرة المسؤول في المؤسسات.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في بيئة العمل الحديثة، أصبحت نماذج اللغات الكبيرة أدوات قوية، قادرة على صياغة رسائل البريد الإلكتروني، وتلخيص المستندات، وحتى كتابة الأكواد البرمجية. تعمل هذه الأنظمة من خلال التنبؤ بالكلمة التالية في الجملة، مما يسمح لها بتوليد نصوص تشبه النصوص البشرية. ومع ذلك، مع بدء الشركات في استخدام هذه الأدوات لمهام حرجة مثل تحليل السجلات المالية، أو إدارة بيانات العملاء، أو اتخاذ قرارات التوظيف، ظهرت فجوة كبيرة. فبينما تمتلك المؤسسات مبادئ رفيعة المستوى للسلوك الأخلاقي — مثل العدالة والخصوصية والمساءلة — إلا أن هذه الأفكية غالبًا ما تكون مجردة للغاية بحيث يصعب فرضها بواسطة البرمجيات. لا يمكن لبرنامج كمبيوتر ببساطة أن يُطلب منه أن "يكون عادلاً" أو "يحترم الخصوصية" بالطريقة التي يفهم بها الموظف البشري قاعدة أخلاقية. وبدلاً من ذلك، لكي تكون هذه الأنظمة آمنة، يجب بناء القواعد مباشرة في المسار الذي يتخذه الكمبيوتر لحل مشكلة ما. وهذا هو التحدي الجوهري الذي تعالجه الأبحاث الجديدة: كيف يمكن تحويل الأهداف الأخلاقية الغامضة إلى ضوابط تقنية ملموسة تمنع الآلة من ارتكاب أخطاء خطيرة قبل وقوعها.
يقترح هارشيل لودهيا، وهو باحث في شركة SlicedHealth, Inc.، حلاً يسمى CARE، وهو اختصار لـ "التفكير الذكاء الاصطناعي الخاضع للتحكم للمؤسسات" (Controlled AI Reasoning for Enterprises). هذا ليس نوعاً جديداً من نماذج الذكاء الاصطناعي، بل هو بنية حوكمة مصممة لتجلس بين المستخدم والذكاء الاصطناعي. الحجة المركزية لهذا العمل هي أن الذكاء الاصطناعي الأخلاقي لا يتحقق من خلال مطالبة النموذج بالتصرف بمسؤولية، بل من خلال هندسة الظروف المحددة التي يُسمح للنموذج بموجبها بالتفكير والعمل. يتعامل النظام مع الحوكمة الأخلاقية كمسألة تحكم في وقت التشغيل (runtime control)، مما يعني أنه يتخذ القرارات في الوقت الفعلي أثناء معالجة الطلب. فهو يطرح سلسلة من الأسئلة العملية قبل السماح بأي إجراء: ما نوع هذا الطلب؟ ما هي البيانات التي يُسمح للمستخدم برؤيتها؟ أي نموذج محدد يجب أن يتولى هذه المهمة؟ وهل يجب مراجعة الإجابة النهائية من قبل إنسان؟ ومن خلال الإجابة على هذه الأسئلة بقواعد صارمة، يهدف نظام CARE إلى منع الذكاء الاصطناعي من الوصول إلى المعلومات الحساسة، أو إجراء تغييرات غير مصرح بها، أو إزاحة العمال دون إشراف مناسب.
لاختبار مدى فعالية هذا النهج، لم يقم الباحث بنشر النظام في بيئة شركة حقيقية، لأن ذلك سيكون محفوفاً بالمخاطر ومعقداً. بدلاً من ذلك، استخدمت الدراسة مجموعة معروفة من أسئلة قواعد البيانات تسمى معيار BIRD Mini-Dev. تحتوي هذه المجموعة على 500 مهمة محددة حيث يطرح المستخدم سؤالاً بلغة بسيطة، ويجب على النظام ترجمته إلى استعلام لقاعدة البيانات لإيجاد الإجابة. قام الباحث بمحاكاة بنية CARE عبر هذه المهام الـ 500، والتي تضمنت 11 قاعدة بيانات مختلفة. ركزت المحاكاة على نتيجتين رئيسيتين: مقدار البيانات التي تعرض لها الذكاء الاصطناعي، وكيف سيقوم النظام بتوجيه أنواع مختلفة من الطلبات بناءً على مستوى خطورتها.
أظهرت النتائج أن بنية CARE يمكنها تقليل كمية البيانات التي يحتاج الذكاء الاصطناعي لرؤيتها لأداء مهمته بشكل كبير. في الإعداد القياسي بدون هذه الضوابط، فإن نظام الذكاء الاصطناعي الذي يحاول الإجابة على سؤال ما سيُعرض عادةً متوسط 7.26 جدولاً و76.86 عموداً من البيانات من قاعدة البيانات. هذا يشبه تسليم أمين مكتبة المكتبة بأكملها ليجد كتاباً واحداً فقط. وباستخدام نظام تصفية ذكي يعرض للذكاء الاصطناعي فقط الجداول والأعمدة ذات الصلة بالسؤال، قلل CARE متوسط التعرض إلى 2.06 جدولاً فقط و31.74 عموداً. ويمثل هذا انخفاضاً بنسبة تقارب 66 بالمائة في عدد الجداول التي تم الاطلاع عليها وحوالي 56 بالمائة في عدد الأعمدة. إن تقليل البيانات هذا أمر بالغ الأهمية للخصوصية، لأنه يضمن عدم قدرة الذكاء الاصطناعي على الوصول عرضياً إلى معلومات حساسة أو تسريب معلومات لا يحتاجها.
وبعيداً عن مجرد تحديد البيانات، حاكت الدراسة كيف سيتعامل CARE مع مستوى خطر الطلبات المختلفة. صنف النظام المهام الـ 500 إلى فئات مثل أعمال الإنتاجية منخفضة المخاطر، والاستفسارات الحساسة للأعمال، والمسائل القانونية المنظمة، والمهام التي يمكن أن تؤثر مباشرة على الموظفين البشر. أظهرت المحاكاة أن نهج "المقاس الواحد الذي يناسب الجميع" تجاه سلامة الذكاء الاصطناعي هو نهج غير فعال. بدلاً من ذلك، قام CARE بتوجيه المهام منخفضة المخاطر إلى نماذج أصغر وأرخص، بينما أرسل الطلبات الحساسة أو المنظمة إلى نماذج خاصة وآمنة أو تطلبت مراجعة بشرية أولاً. في هذه المحاكاة المحددة، تم تصنيف 356 من أصل 500 مهمة على أنها ذات تأثير بشري عالٍ، مما يعني أنها تتضمن بيانات عن أشخاص مثل الموظفين أو العملاء. وقد تم توجيه هذه المهام إلى مسار مراجعة "الإنسان أولاً"، مما يضمن أن يقوم شخص ما بالتحقق من النتيجة قبل اتخاذ أي إجراء. وهذا يثيبر أن النظام يمكنه تطبيق الضوابط بشكل متناسب، باستخدام ضمانات ثقيلة فقط حيثما يبرر الخطر ذلك.
كما يسلط البحث الضوء على جانب حرج وغالباً ما يتم تجاهله في أخلاقيات الذكاء الاصطناعي: التأثير على القوى العاملة. تتضمن العديد من أنظمة الحوكمة خطوة "الإنسان في الحلقة" (human-in-the-loop)، لكنها غالباً ما تفشل في تحديد ماهية هذه الحلقة فعلياً. يعامل CARE المساءلة البشرية كطبقة قابلة للقياس في النظام. فهو يتساءل عما إذا كان الأتمتة تخلق عملاً خفياً للموظفين الذين يتعين عليهم التحقق من مخرجات الذكاء الاصطناعي دون وقت أو سلطة مناسبة، أو ما إذا كانت تؤدي إلى انهيار المسار الوظيفي من خلال إزالة المهام المبتدئة دون خلق أدوار جديدة. تم تصميم البنية لجعل هذه الإخفاقات مرئية. فإذا كان نظام الذكاء الاصطناعي يسرع العمل ولكنه يترك الموظفين بلا مسار واضح للتقدم أو يجبرهم على أدوار تحقق غير مدفوعة الأجر، فإن النظام يصنف هذا كفشل تنظيمي، وليس مجرد فشل تقني.
خلصت الدراسة إلى أن الذكاء الاصطناعي الأخلاقي في المؤسسات يتطلب ما هو أكثر من مجرد سلوك النموذج المسؤول؛ إنه يتطلب بيئات تفكير محكومة. تشير نتائج المحاكاة إلى أنه من خلال بناء هذه الضوابط في مسار التنفيذ، يمكن للمؤسسات فرض حدود البيانات، واختيار النماذج المناسبة، وضمان الإشراف البشري دون إبطاء كل مهمة بمفردها. لا يدعي هذا العمل حل جميع مشكلات سلامة الذكاء الاصطناعي، ولا يقدم منتجاً نهائياً جاهزاً للاستخدام التجاري الفوري. بدلاً من ذلك، فإنه يقدم نقطة انطلاق قابلة للتكرار، توضح كيف يمكن استخدام المعايير المفتوحة لقياس مدى فعالية الضوابط الأخلاقية. وتجادل الورقة بأن السؤال للمستقبل ليس فقط ما إذا كان بإمكان الذكاء الاصطناعي الإجابة على سؤال، بل ما إذا كان مسموحاً له برؤية البيانات، وما إذا كان النموذج الصحيح هو من يتفكر فيها، ومن يظل مسؤولاً عندما يتم تقديم الإجابة.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.