Studying, Identifying, and Fixing Hidden Technical Debt in AI-Intensive Cyber-Physical Systems
تهدف هذه الأطروحة إلى توصيف الدين التقني الفريد الموجود في الأنظمة السيبرانية الفيزيائية كثيفة الاعتماد على الذكاء الاصطناعي من خلال تحليل النظم البيئية ومقابلة المطورين، بهدف نهائي يتمثل في تحديد استراتيجيات التحديد وتطوير أداة مؤتمتة لمراقبة هذا الدين وتسديده.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
الفوضى الخفية في الآلات الذكية
تخيل أنك تقوم ببناء روبوت. تمنحه عقلاً (برمجيات)، وجسداً (أجهزة)، ومجموعة من التعليمات للمشي، أو التحدث، أو القيادة. الآن، تخيل أن هذا العقل مدعوم بالذكاء الاصطناائي (AI)، وهو متعلم فائق الذكاء ولكنه غير متوقع أحياناً. يسمى هذا المزيج بنظام سيبراني-فيزيائي (CPS). وهو التقنية الكامنة وراء السيارات ذاتية القيادة، وروبوتات المصانع، ومساعدي المنازل الأذكياء.
لكن هنا تكمن المشكلة: تماماً مثل منزل بُني بسرعة باستخدام مواد رخيصة، غالباً ما تراكم هذه الآلات الذكية "ديوناً تقنية". فكر في هذا الدين ليس كمالٍ تدين به للبنك، بل كمجموعة من الاختصارات الفوضوية، والملاحظات المنسية، والإصلاحات المؤقتة التي يتركها المطورون خلفهم لإنجاز العمل الآن. في برنامج كمبيوتر عادي، قد يعني هذا كوداً برمجياً فوضوياً. ولكن في روبوت يتفاعل مع العالم الحقيقي، يكون هذا الدين أكثر تعقيداً. الأمر يشبه ترك سلم مهتز في ممر؛ قد يعمل لدقيقة، لكنه لاحقاً قد يتسبب في حادث أو خطر على السلامة. السؤال الكبير الذي يطرحه العلماء هو: كيف نجد هذه الفوضى الخفية في الروبوتات المدعومة بالذكاء الاصطناعي قبل أن تسبب المشاكل، وكيف يمكننا إصلاحها تلقائياً؟
مهمة الورقة البحثية: صيد الفوضى الخفية
هذه الورقة هي خارطة طريق لمشروع دكتوراه يهدف إلى حل هذه المشكلة تحديداً. يبحث الباحثون، بقيادة "بينا" من جامعة "سانيو" في إيطاليا، في نوع محدد من الفوضى: الدين التقني في الأنظمة السيبرانية-الفيزيائية كثيفة الذكاء الاصطناعي. وهم يشتبهون في أنه عندما يلتقي الذكاء الاصطناعي بالأجهزة الفيزيائية، فإن "الدين" يبدو مختلفاً ويصعب العثور عليه مقارنة بالبرمجيات العادية.
المشروع حالياً في سنته الثانية وهو جزء من شبكة بحثية أوروبية أكبر تسمى "InnoGuard". الفريق لا يخمن فحسب؛ بل يتبع خطة من ثلاث خطوات لفهم هذه المشكلات، وإيجادها، وإصلاحها.
الخطوة 1: العمل الاستقصائي
أولاً، يعمل الفريق كعلماء آثار رقميين. إنهم ينقبون في مكتبات ضخمة عبر الإنترنت من الأكواد ونماذج الذكاء الاصطناعي، وتحديداً في Hugging Face (مركز لنماذج الذكاء الاصطناعي) و GitHub (مركز للأكواد). كما يجرون مقابلات مع مطورين من العالم الحقيقي ليسألوا: "ما هي الاختصارات التي اتخذتموها؟" و "ما هي المشكلات التي تواجهونها؟".
- ما وجدوه حتى الآن: في دراسة أولية لأكثر نماذج الذكاء الاصطناعي شعبية على Hugging Face، اكتشفوا حقيقة مفاجئة: أقل من 15% من النماذج الأكثر تحميلاً لديها بالفعل مستودع تطوير مرتبط بها على GitHub. وهذا يعني أن معظم الناس يستخدمون هذه "الأدمغة" دون رؤية كيف تم بناؤها أو صيانتها. كما لاحظوا أن "بطاقات النماذج" (التي تشبه كتيبات التعليمات للذكاء الاصطناعي) نادراً ما يتم تحديثها، مما يجعلها أدلة ضعيفة للمستقبل.
- الهدف: إنهم يبنون "تصنيفاً" جديداً (كلمة منمقة لنظام تصنيف مفصل) لتصنيف أنواع الفوضى المحددة التي تحدث عندما يتحدث الذكاء الاصطناعي إلى الأجهزة. ويشمل ذلك أشياء مثل المستشعرات التي لا تتم معايرتها، أو عمليات المحاكاة التي لا تطابق الواقع، أو قواعد السلامة التي تم تجاهلها.
الخطوة 2: بناء أداة كشف ذكية
بمجرد معرفة شكل الفوضى، يخططون لبناء أدوات للعثور عليها تلقائياً. إنهم يطورون طرقاً لرصد الدين "الخفي" – المشكلات التي لم يعترف بها المطورون أو يكتبوها حتى.
- كيف يعمل الأمر: بدلاً من مجرد قراءة تعليقات الكود، سيبحث نظامهم في مزيج من الأدلة: الكود نفسه، أوصاف الأجهزة، بيانات تدريب نموذج الذكاء الاصطناعي، وحتى ملفات المحاكاة. يريدون إنشاء نظام يمكنه القول: "مهلاً، كود الملاحة الخاص بهذا الروبوت جيد، ولكن الطريقة التي يتواصل بها مع مستشعراته هي اختصار سيتعطل عند هطول المطر".
الخطوة 3: الحارس "الوكيل"
الجزء الأخير والأكثر إثارة في الخطة هو إنشاء نظام ذكاء اصطناعي وكيل (Agentic AI). فكر في هذا كأنه مساعد روبوت فائق الذكاء ومستقل يعيش داخل عملية تطوير البرمجيات.
- ماذا يفعل: هذا "الوكيل" لن يكتفي بإيجاد المشكلات فحسب؛ بل سيراقب النظام باستمرار. سيكون له أجزاء مختلفة: جزء للعثور على الدين، وجزء لاقتراح الإصلاح، وجزء للتحقق مما إذا كان الإصلاح يجعل الروبوت أكثر أماناً أو موثوقية.
- اللمسة البشرية: تم تصميم النظام ليكون شبه مؤتمت. سيعمل جنباً إلى جنب مع المطورين البشر، حيث يقترح الإصلاحات ويطلب الموافقة. إذا قال المطور: "لا، هذا ليس صحيحاً"، فإن النظام يتعلم من تلك الملاحظة ليصبح أكثر ذكاءً.
- الاختبار: يخطط الفريق لاختبار ذلك على مشاريع من العالم الحقيقي، بما في ذلك روبوت بشري ومركبة Leo Rover (نوع من المركبات الروبوتية). هذه حالات اختبار مثالية لأنها تتضمن استشعار العالم، والتحرك حوله، واتباع قواعد سلامة صارمة.
ماذا يتوقع لاحقاً
الباحثون حذرون جداً في ادعاءاتهم. هم لا يقولون إنهم أصلحوا بالفعل روبوتات العالم. بدلاً من ذلك، هم يقترحون أن هذا النهج الجديد ضروري لأن الأساليب الحالية تغفل المشكلات الفريدة للآلات المدعومة بالذكاء الاصطناعي. وهم يخططون للتحقق من صحة أدواتهم من خلال مشاريع الطلاب وعروض توضيحية لروبوتات حقيقية.
الهدف النهائي هو "دمقرطة" العملية، مما يعني أنهم يريدون جعل بناء روبوتات ذكاء اصطناعي آمنة وموثوقة أمراً سهلاً لأي شخص دون الحاجة لأن يكون عبقرياً في رصد كل اختصار خفي. وبحلول نهاية المشروع، يأملون في امتلاك إطار عمل يعمل يساعد المطورين على تحديد وتصنيف وسداد ديونهم التقنية، لضمان أن الآلات الذكية في المستقبل ليست ذكية فحسب، بل آمنة ومتينة أيضاً.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.