Separating AI-assisted authoring from governed execution through specification-driven composition A design framework and industrial experience report for explainable automation in regulated data transformation
تقترح هذه الورقة إطار عمل للتكوين القائم على المواصفات يتيح الاستخدام الآمن للذكاء الاصطناعي في تدفقات العمل ذات البيانات المنظمة من خلال الفصل بين التأليف بمساعدة الذكاء الاصطناعي والتنفيذ الخاضع للحوكمة، مما يضمن أن تكون جميع العناصر المكونة والمنفذة هي فقط تلك التي تم التحقق من صحتها وإصدار نسخها وتتبعها بالكامل.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الصناعات المنظمة، مثل الطب والتمويل، لا تتدفق البيانات ببساطة من مكان إلى آخر؛ بل يجب تحويلها بدقة مطلقة. فعندما تقوم شركة أدوية بإعداد البيانات لمراجعة حكومية، يجب أن يتبع كل رقم وتاريخ وفئة قواعد صارمة. وإذا ارتكب برنامج حاسوبي خطأً في هذه العملية، فقد تكون العواقب وخيمة، وتتراوح بين رفض الطلبات ومخاطر السلامة. لعقود من الزمن، قام المهندسون ببناء هذه البرامج عبر كتابة الكود سطراً بسطر، مما يضمن فحص كل خطوة واختبارها واعتمادها قبل تشغيلها. هذه العملية بطيئة لكنها موثوقة لأن البشر يظلون مسيطرين على كل قرار.
اليال، يوفر الذكاء الاصطناعي طريقة جديدة لكتابة هذه البرامج. يمكن لهذه الأنظمة قراءة وصف للمهمة وتوليد الكود اللازم في ثوانٍ. هذه السرعة مفيدة للغاية لاستكشاف الأفكية أو صياغة النسخ الأولية من البرنامج. ومع ذلك، في البيئات عالية المخاطر، لا يمكن أن تأتي السرعة على حساب السلامة. لا يمكن السماح للحاسوب بمجرد تخمين الإجابة الصحيحة وتشغيلها فوراً. التحدي الجوهري للمهندسين المعاصرين هو كيفية استخدام سرعة الذكاء الاصطناعي دون فقدان القدرة على شرح النتائج والتحقق منها والتحكم فيها. إنهم بحاجة إلى وسيلة للسماح للآلة بصياغة العمل مع إبقاء الإنسان في الحلقة للتحقق من أن العمل آمن وصحيح ويتبع القواعد قبل السماح بتنفيذه.
هذه هي المشكلة التي يعالجها روستيسلاف ماركوف، الباحث في أمازون ويب سيرفيسز (AWS)، في عمله الأخير حول تحويل البيانات المنظمة. هو يقترح طريقة جديدة للعمل تفصل بين فعل كتابة أو صياغة الكود وبين فعل تشغيله. فبدلاً من ترك نموذج ذكاء اصطناعي يولد برنامجاً ثم الأمل في أن يعمل، يجبر هذا الإطار الجديد الذكاء الاصطناعي على إنتاج خطة مفصلة أولاً. هذه الخطة، التي تسمى "المواصفات" (specification)، تصف بالضبط ما يجب القيام به، وما هي البيانات التي ستستخدمها، وما هي القواعد التي يجب اتباعها. الخطة نفسها ليست هي البرنامج؛ بل هي مجموعة من التعليمات لنظام منفصل ومنضبط بصرامة يسمى "المؤلف" (composer).
يعمل "المؤلف" كحارس بوابة. فهو ينظر إلى الخطة التي أنشأها الذكاء الاصطناعي ويتحقق منها مقابل مكتبة من اللبنات الأساسية المعتمدة والمختبرة والموثقة مسبقاً. هذه اللبنات هي وظائف محددة قام المهندسون بالفعل بالتحقق من صحة عملها. لا يبتكر "المؤلف" منطقاً جديداً أو يخمن كيفية حل مشكلة ما، بل يقوم ببساطة بمطابقة الخطوات الموجودة في الخطة مع اللبنات المعتمدة في المكتبة. إذا طلبت الخطة خطوة ليس لها لبنة معتمدة مطابقة، أو إذا لم تتطابق أنواع البيانات مع القواعد، فإن "المؤلف" يتوقف ويرفض الخطة. لن يقوم بتشغيل الكود حتى يتم التحقق من كل قطعة مقابل المكتبة والقواعد. وهذا يضمن أنه حتى لو ارتكب الذكاء الاصطناعي خطأً في مسودته، فإن هذا الخطأ سيُكتشف قبل المساس بأي بيانات حقيقية.
اختبر ماركوف هذه الفكرة باستخدام سيناريو من العالم الحقيقي يتضمن البيانات السريرية، حيث يجب تنظيم معلومات المرضى في تنسيق قياسي لتقديمها للحكومة. في تجاربه، طلب من ذكاء اصطناعي كتابة الكود لهذه التحويلات تحت ظروف مختلفة. عندما أُعطي الذكاء الاصطناعي وصفاً نصياً بسيطاً فقط، غالباً ما أنتج كوداً يبدو صحيحاً ولكنه فشل في التوافق مع النظام الأكبر أو انتهك قواعد خفية. وعندما أُعطي الذكاء الاصطناعي خطة مهيكلة مع قواعد واضحة وإشارات إلى اللبنات المعتمدة، كانت النتائج أفضل بكثير. لم يكن الاكتشاف الرئيسي هو أن الذكاء الاصطناعي أصبح أكثر ذكاءً، بل أن النظام المحيط به أصبح أكثر متانة. فالأدوات المادية (artifacts) —الخطط والاختبارات واللبنات المعتمدة— هي التي قامت بالعمل الشاق لضمان السلامة، وليس نموذج الذكاء الاصطناعي نفسه.
يقدم الإطار مفهوماً يسمى "القابلية للتفسير عن طريق البناء" (explainable by construction). في العديد من النقاشات حول الذكاء الاصطناعي، يقلق الناس من عدم فهم سبب اتخاذ النموذج لقرار معين، وغالباً ما يحاولون النظر داخل "الصندوق الأسود" للخوارزمية. يتخذ هذا النهج مساراً مختلفاً؛ إذ يرى أنه بالنسبة للعمل المنظم، لا تحتاج إلى فهم الأفكار الداخلية للذكاء الاصطناعي، بل تحتاج إلى فهم القرارات الهندسية التي أدت إلى النتيجة النهائية. ولأن النظام لا يسمح إلا باستخدام اللبنات المعتمدة ويحتفظ بسجل كامل لكل خطوة تم اتخاذها لبناء البرنامج النهائي، يمكن لأي شخص النظر إلى النتيجة النهائية وتتبعها وصولاً إلى الخطة المحددة، واللبنات المعتمدة المحددة، والقواعد المحددة التي تم اتباعها. التفسير هنا ليس تخميناً لما كان يفكر فيه الذكاء الاصطناعي، بل هو سجل واقعي لما تمت الموافقة عليه وكيفية تجميعه.
ولإثبات أن هذا النظام يعمل، بنى الباحث نسخة مصغرة وعاملة من الإطار. وأظهر أنه إذا أعطيت النظام نفس الخطة ونفس مكتبة اللبنات مرتين، فإنه ينتج النتيجة ذاتها في كل مرة. هذا الاتساق أمر حيوي في البيئات المنظمة حيث تكون قابلية التكرار مطلوبة. كما أظهر أيضاً أنه إذا تمت إضافة نسخة جديدة من لبنة بناء إلى المكتبة، فإن النظام لا يستخدمها بالخطأ لخطة قديمة؛ بل يلتزم بالنسخة المحددة التي تمت الموافقة عليها وقت وضع الخطة. وهذا يمنع التغييرات في الخلفية من تغيير نتيجة العملية بشكل غير متوقع. يقوم النظام بإنشاء سجل تفصيلي، أو "تتبع" (trace)، لكل برنامج يبنيه. ويربط هذا السجل البرنامج النهائي بالخطة الأصلية، وبالنسخة المحددة من كل لبنة بناء مستخدمة، وبعمليات التحقق التي تم اجتيازها.
تشير الأبحاث إلى أن الفصل بين المهام هذا ضروري لمستقبل الذكاء الاصطناعي في المجالات المنظمة. فهو يسمح للمؤسسات باستخدام سرعة الذكاء الاصطناعي لصياغة المواصفات وكتابة الكود، ولكنه يبقي سلطة التنفيذ في يد نظام منضبط وحتمي. يصبح الذكاء الاصطناعي مساعداً قوياً يساعد البشر على كتابة خطط أفضل، لكنه ليس السلطة التي تقرر ما الذي يعمل. القرار النهائي لتشغيل برنامج ما يعتمد على وجود خطة صالحة، ووجود مكونات معتمدة، والانتهاء الناجح من عملية التحقق. هذا النهج لا يلغي الحاجة إلى الإشراف البشري، بل يمنح البشر أدوات أفضل لإدارة ذلك الإشراف. ومن خلال التركيز على الأدوات المادية —الخطط والقواعد واللبنات المعتمدة— يخلق الإطار حداً يمكن فيه للذكاء الاصطناعي أن يكون مفيداً دون أن يصبح خطراً.
في النهاية، يوضح العمل أن طريق الأتمتة الآمنة لا يكمن في جعل الذكاء الاصطناعي أكثر قابلية للتفسير، بل في جعل عملية بناء الأتمتة أكثر شفافية. فعندما تكون الخطوات واضحة، والقواعد صارمة، والمكونات موثقة، تكون النتيجة نظاماً يمكن الوثوق به. وتظهر تجربة الباحث أنه بينما يمكن للذكاء الاصطناعي توليد كود يبدو معقولاً، فإن الهيكل المحيط به من المواصفات والاختبارات واللبنات المعتمدة هو الذي يضمن أن الكود صحيح وآمن للاستخدام بالفعل. هذا التحول في التركيز، من ذكاء النموذج إلى حوكمة العملية، يقدم مساراً عملياً للصناعات التي لا تملك ترف الخطأ.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.