Operationalising Artificial Intelligence Bills of Materials (AIBOMs) for Verifiable AI Provenance and Lifecycle Assurance
تقدم هذه الورقة إطار عمل موسع لبيان مواد الذكاء الاصطناعي (AIBOM) قائم على معيار CycloneDX، والذي يستفيد من التحقق التشفيري وخطوط أنابيب الذكاء الاصطناعي المستقلة لتحقيق إثبات المصدر وضمان دورة الحياة، مما يبرهن على دقة عالية في إعادة الإنتاج وتقليص كبير في الإشراف اليدوي لأنظمة الذكاء الاصطنا-عي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
إليك شرح للورقة البحثية باستخدام لغة بسيطة وتشبيهات من الحياة اليومية.
المشكلة: المطبخ "الصندوق الأسود"
تخيل أنك طاهٍ في مطبخ عالي التأمين (يُسمى بيئة بحث موثوقة أو TRE). أنت تقوم بطهي طبق معقد (وهو نموذج ذكاء اصطناعي) باستخدام مكونات من جميع أنحاء العالم.
المشكلة هي أنه في الطهي الحديث، لا تكتفي فقط بسرد المكونات؛ بل تحتاج أيضاً إلى معرفة:
- أي دفعة من الدقيق استُخدمت بالضبط.
- من الذي صنع الفرن الذي تستخدمه.
- درجة الحرارة والرطوبة المحددة وقت ارتفاع الكعكة.
- ما إذا كانت أي من المكونات فاسدة أو خطيرة (ثغرات أمنية).
حالياً، تمتلك معظم المطابخ مجرد قائمة أساسية للمكونات (وهي ما يُعرف بـ قائمة مواد البرمجيات القياسية أو SBOM). ولكن بالنسبة للذكاء الاصطناعي، هذا ليس كافياً. فإذا تغيرت الوصفة قليلاً، أو إذا كان الفرن مختلفاً، ستختلف نكهة الكعكة. وفي عالم البيانات الحساسة (مثل الصحة أو التمويل)، إذا لم تتمكن من إثبات كيفية إعداد الطبق بالضبط، فلن تتمكن من الوثوق بالنتيجة.
الحل: "بطاقة وصفة الذكاء الاصطناعي" (AIBOM)
ابتكر الدكتور بيتر رادانليف وفريقه "بطاقة وصفة" جديدة وفائقة التفصيل تسمى قائمة مواد الذكاء الاصطناعي (AIBOM).
لا تنظر إلى هذا ليس كمجرد قائمة تسوق، بل كـ كبسولة زمنية رقمية تلتقط القصة الكاملة لحياة الذكاء الاصطناعي. وهي مبنية على معيار موجود بالفعل (CycloneDX) ولكنها تضيف أقساماً خاصة بالذكية الاصطناعي.
ماذا يوجد داخل هذه الوصفة الخاصة؟
- الحمض النووي للنموذج: بصمة فريدة (hash) لنموذج الذكاء الاصطناعي نفسه، لتعرف أنه لم يتم العبث به.
- رحلة المكونات: من أين جاءت بيانات التدريب وكيف تم تنظيفها.
- ظروف الطهي: ما هي قوة الكمبيوتر المستخدمة بالضبط (مثل وحدة معالجة رسوميات GPU محددة)، والإعدادات، والمكتبات البرمجية.
- الفحص الأمني: فحص فوري لمعرفة ما إذا كانت أي من "المكونات" تحتوي على سموم معروفة (ثغرات أمنية).
- ختم الموافقة: توقيع رقمي يثبت أن البطاقة أصلية ولم يتم تعديلها.
كيف يعمل: "مساعد الطاهي الآلي"
تصف الورقة نظاماً حيث تقوم وكلاء ذكاء اصطناعي مستقلة (تخيلهم كمساعدي طهاة آليين) بالقيام بالعمل الشاق.
- قبل الطهي: يقوم الروبوت بفحص المخزن وإدراج كل أداة ومكون بدقة.
- أثناء الطهي: يراقب الروبوت الفرن، ويسجل درجة الحرارة وكيفية خلط العجين في الوقت الفعلي.
- بعد الطهي: يلتقط الروبوت صورة للطبق النهائي، ويحسب وزنه، ويختم بطاقة الوصفة بقفل رقمي.
يحدث هذا تلقائياً داخل حاوية آمنة، بحيث لا يضطر أي إنسان لكتابة التفاصيل يدوياً، مما يوفر الوقت ويمنع الخطأ البشري.
النتائج: وجبة قابلة للتكرار بدقة مثالية
اختبر الفريق هذا النظام في بيئة آمنة محاكية. وإليكم ما وجدوه:
- دقة 98.7%: إذا أخذوا بطاقة الوصفة وحاولوا طهي نفس الطبق تماماً مرة أخرى في مطبخ مختلف، فقد خرجت النتيجة متطابقة تقريباً في كل مرة.
- سلامة بنسبة 96.2%: كان النظام جيداً جداً في اكتشاف "المكونات الفاسدة" (الثغرات الأمنية) في البرمجيات.
- جهد أقل بنسبة 63%: لأن الروبوت قام بعملية الفحص، قضى البشر وقتاً أقل بنسبة 63% في التحقق اليدوي من العمل.
لماذا هذا مهم؟
لا تدعي هذه الورقة أنها تعالج الأمراض أو تتنبأ بسوق الأسهم بشكل مباشر. بدلاً من ذلك، هي تحل مشكلة الثقة.
إنها توفر وسيلة لقول: "نحن نعرف بالضبط كيف بُني هذا الذكاء الاصطناعي، ونعرف أنه آمن، ويمكننا إثبات ذلك". وهذا أمر بالغ الأهمية في الأماكن التي تكون فيها الأخطاء خطيرة، مثل المستشات أو البنوك. إنها تحول "الصندوق الأسود" للذكاء الاصطناعي إلى عملية شفافة وقابلة للتدقيق حيث يتم تسجيل كل خطوة والتحقق منها وإغلاقها بإحكام.
باختًا: لقد صنعوا "شهادة ميلاد" و"سجل أمني" رقمي لأنظمة الذكاء الاصطناعي، وهو مفصل ومؤتمت لدرجة أن أي شخص يمكنه التحقق من أن الذكاء الاصطناعي آمن وقابل للتكرار دون الحاجة لأن يكون خبيراً في الكمبيوتر.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.