The Acknowledgment Point Is the System: Durable Policy-Decision Receipts for AI Audit Evidence
تقدم هذه الورقة البحثية RuntimeGuard-AI، وهو نموذج بحثي أولي يضمن أدلة تدقيق ذكاء اصطناعي متينة وقابلة للتحقق من خلال ربط قرارات السياسة بإيصالات موقعة عند حدود تزامن صريحة، مما يقدم مقايضة مدروسة بين الأداء المخزن مؤقتًا ومنخفض التأخير وبين التسجيل المتزامن عالي النزاهة بدلاً من تقديم حل غير متزامن "مجاني".
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في عالم الذكاء الاصطناعي، يتخذ النظام قراراً في لمح البصر، غالباً في الوقت الذي تستغرقه رمشة عين. ولكن لكي يكون ذلك القرار جديراً بالثقة، يجب أن يكون هناك سجل دائم له، سجلاً لا يمكن محوه إذا انقطعت الطاقة أو تعطل الكمبيوتر. هذا هو جوهر تحدي المساءلة: معرفة متى يصبح الوعد الرقمي حقيقة بالضبط. إذا أخبر الكمبيوتر مستخدماً: "لقد حفظتُ دليل ما فعلته للتو"، بينما عملية الحفظ لا تزال تحدث في الخلفية، فإن هذا الوعد يكون هشاً؛ إذ قد يؤدي انهيار مفاجئ إلى مسح الذاكرة قبل أن يصبح السجل آمناً حقاً. وعلى العكس من ذلك، إذا انتظر الكمبيوتر حتى يصبح السجل آمناً تماماً قبل التحدث، فقد يواجه المستخدم تأخراً ملحوظاً. السؤال الذي يواجهه الباحثون ليس مجرد كيفية كتابة سجل، بل كيفية معرفة، بيقين، متى أصبح ذلك السجل غير قابل للتغيير وجاهزاً ليكون موضع ثقة.
قام فريق من الباحثين المستقلين ببناء نظام جديد لحل هذه المشكلة الزمنية المحددة، حيث أنشأوا نموذجاً أولياً يعامل لحظة الإقرار بأنها لحظة الحقيقة. يركز عملهم، المسمى RuntimeGuard-AI، على قاعدة بسيطة ولكنها صعبة: لا ينبغي للكمبيوتر أبداً أن يخبر المستخدم بوجود دليل حتى يكون ذلك الدليل قد نجا بالفعل من انهيار محتمل. ولتحقيق ذلك، قاموا بتجريد النظام من طبقات معقدة من الإثبات التي اعتمدت عليها النسخ السابقة، وأعادوا بناء المحرك من الصفر ليكون أصغر، وأسرع، وأسهل في الاختبار. والنتيجة هي نظام يربط كل قرار بسياسة محددة، ويكتب سجلاً صغيراً وآمناً في وحدة التخزين، ويقدم للمستخدم إيصالاً موقعاً ينص صراحةً على ما إذا كان ذلك السجل آمناً أم لا يزال عرضة للخطر.
صمم الباحثون النظام ليوفر ثلاث طرق متميزة للتعامل مع هذه المقايضة، مما يتيح للمستخدم الاختيار بين السرعة والأمان. في الوضع الأسرع، يكتب النظام السجل في ذاكرة مؤقتة (buffer) ويعيد فوراً إيصالاً يعترف بأن البيانات ليست آمنة بعد. وهذا مفيد للعمليات عالية السرعة حيث يكون خطر فقدان طفيف للبيانات مقبولاً. وفي الوضعين الآخرين، ينتظر النظام؛ حيث يجبر الكمبيوتر على مزامنة البيانات فيزيائياً مع محرك الأقراص قبل إعادة إيصال يضمن ديمومة السجل، بشرط أن تحترم أنظمة التشغيل وأجهزة التخزين المعايير الموثقة الخاصة بها. يضمن أحد هذين الوضعين أن البيانات آمنة على القرص، بينما يضمن الآخر أن البيانات قد تم دفعها (flushed) إلى وحدة التحكم في التخزين، رغم أن النظام لا يدعي صراحةً الحصانة ضد النسخ الاحتياطي عن بُعد أو التراجع (rollback). ووجد الباحثون أن هذا الخيار ليس مجانياً؛ فعندما اختبروا النظام على معالج كمبيوتر حديث يحتوي على أربعة خيوط معالجة (threads) ومطالبات (prompts) ذات حجم قياسي، استطاع الوضع السريع والمخزن مؤقتاً معالجة حوالي 27,193 طلباً في الثانية بتأخير قدره 141.9 ميكروثانية فقط. ومع ذلك، عندما انتقلوا إلى الوضع الذي يضمن سلامة البيانات على القرص، انخفضت السرعة بشكل كبير إلى حوالي 242 طلباً في الثانية، وارتفع التأخير إلى 16.0 ميلي ثانية. هذه الفجوة ليست خطأً برمجياً، بل هي واقع ملموس لكيفية عمل التخزين؛ فالنظام يثبت أنه لا يمكنك الحصول على إقرار فوري وديمومة مضمونة في آن واحد.
بعيداً عن اختبارات السرعة، بنى الباحثون طريقة للتحقق من أن هذه السجلات لم يتم التلاعب بها بمرور الوقت. يقومون بتجميع الآلاف من هذه الإيصالات الموقعة في حزم أكبر تسمى "حقبات" (epochs). يتم ختم كل حقبة بتوقيع تشفيري، مما يخلق سلسلة من الأدلة يمكن لمُدقق مستقل فحصها. إذا حاول شخص ما تعديل قرار سابق أو حذف سجل، تنكسر السلسلة ولا يعود التوقيع مطابقاً، رغم أن النظام يشير إلى أن مشغلاً ذا صلاحيات، يمتلك القدرة على إعادة كتابة السجلات الكاملة، يمكنه تجاوز عمليات التحقق من المجموع (checksums) هذه. يتضمن النظام أيضاً عملية استرداد صارمة؛ فإذا تعطل الكمبيوتر وأعيد تشغيله، يفحص المحرك تلقائياً السجلات التي يجدها، لضمان اكتمالها وترتيبها الصحيح. إنه يرفض أي بيانات جزئية أو تالفة، ويرفض البدء حتى يتأكد من أن التاريخ سليم. وفي الاختبارات، استغرقت عملية استرداد والتحقق من سجل يحتوي على 100,000 سجل أقل من ثانية واحدة، مما يظهر أن النظام يمكنه إعادة التشغيل بسرعة دون أن يفقد إدراكه لما حدث قبل الانهيار.
لقما الباحثون بعناية في تحديد ما لا يفعله نظامهم. فهو لا يثبت أن نموذج الذكاء الاصطناعي نفسه يفكر بشكل صحيح، أو أن الكود الذي يشغل القرار خالٍ من الفيروسات الخفية. كما أنه لا يمنع مخترقاً سيطر بالفعل على الكمبيوتر بالكامل من إعادة كتابة التاريخ. بدلاً من ذلك، فإنه يخلق رابطاً وثيقاً بين قرار محدد وسياسة محددة، مما يضمن أنه إذا تم تسجيل القرار، فقد تم تسجيله تماماً كما نصت السياسة، رغم أنه لا يستطيع الحماية من استبدال التنفيذ (implementation) نفسه. يعمل النظام كمحاسب دقيق لأفعال الذكاء الاصطناعي، يقيس التكلفة الدقيقة للأمان بالميلي ثانية وبالطلبات في الثانية. إنه يقدم واجهة واضحة وصادقة حيث يقول الكمبيوتر: "لقد حفظت هذا"، فقط عندما يكون قد فعل ذلك حقاً، أو "لم أفعل"، عندما لا يزال في حالة انتظار. ومن خلال جعل ديمومة السجل جزءاً مرئياً من المحادثة، يحول النظام الوعد الغامض بالأمان إلى حقيقة قابلة للقياس والتحقق آلياً.
الصورة النهائية هي صورة وضوح لا سحر. النظام لا يقدم وجبة مجانية حيث تكون السجلات فورية ودائمة في آن واحد؛ بل يفرض خياراً، ويقيس ثمن ذلك الخيار بدقة. وجد الباحثون أن ختم دفعة كبيرة مكونة من 100,000 سجل في حقبة واحدة موقعة يستغرق حوالي 97 ميلي ثانية، وهي تكلفة ضئيلة مقابل إنشاء تاريخ طويل الأمد وقابل للتحقق. يشير هذا العمل إلى أن المساءلة الحقيقية في الذكاء الاصطناه تتطلب قبول هذه التأخيرات والتكاليف، بدلاً من الأمل في تجاوزها عبر حيل ذكية. يقف النظام كأداة عملية لأي شخص يحتاج إلى معرفة، بيقين مطلق، أن قراراً رقمياً قد تم حفظه تماماً كما حدث، ليكون جاهزاً للفحص من قبل مدقق أو محكمة في أي وقت في المستقبل.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.