AI Accountability Infrastructure: Cryptographically Verifiable Decision Provenance for High-Stakes AI Systems
تقترح هذه الورقة بنية تحتية للمساءلة في مجال الذكاء الاصطناعي (AAI)، وهي إطار عمل تشفيري يستخدم سجلات متسلسلة عبر دالات التجزئة وموقعة رقمياً، بالإضافة إلى التشفير العتبي، لتمكين التحقق من طرف ثالث يحافظ على الخصوصية فيما يتعلق بمصدر قرارات ذكاء اصطناعي محددة في المجالات عالية المخاطر، مع توفير نماذج رسمية، وتحليلات للتهديدات، ومواءمات تنظيمية دون تقديم نتائج تجريبية مستحدثة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك تسير في مدينة صاخبة حيث تتخذ روبوتات عملاقة غير مرئية قرارات مصيرية للجميع. أحياناً، يرفض روبوت طلب قرض قدمته، أو يحذف مقطع فيديو، أو يقترح علاجاً طبياً. في الماضي، إذا أردت معرفة لماذا اتخذ بشرٌ قراراً سيئاً، كان بإمكانك سؤاله، أو مراجعة مذكراته. لكن هذه الروبوتات الذكية لا تملك مذكرات، وغالباً لا تستطيع شرح أفكارها بطريقة مفهومة لنا. وهذا يخلق مشكلة ضخمة: إذا ارتكب الروبوت خطأً، فكيف نثبت ما حدث؟
لحل هذه المشكلة، حاول العلماء بناء "صناديق سوداء" للذكاء الاصطناعي، تشبه مسجلات الطيران في الطائرات التي تنجو من الحوادث لتخبر المحققين بما حدث خطأً. كما يستخدمون "الذكاء الاصطناعي القابل للتفسير"، وهو يشبه معلماً يحاول شرح مسألة رياضية بعد فوات الأوان، لكنه غالباً ما يفشل في التقاط اللحظة الدقيقة التي اتُخذ فيها القرار. التحدي الكبير يكمن في الموازنة بين أمرين: نحن بحاجة لرؤية الأدلة لمحاسبة الذكاء الاصطناعي، لكن لا يمكننا ببساطة إظهار البيانات الخام للجميع لأن ذلك قد يكشف أسراراً خاصة أو طريقة عمل الذكاء الاصطناعي (والتي قد يستغلها المخترقون). تدخل هذه الورقة البحثية في هذا المنطقة الوسطى المعقدة لتسأل: هل يمكننا بناء نظام يسجل قرارات الذكاء الاصطناعي بطريقة غير قابلة للتغيير، وتحفظ الخصوصية، ولا يمكن فتحها إلا بموافقة مجموعة من الأشخاص الموثوقين؟
الفكرة الكبرى للورقة: "المذكرات غير القابلة للتلاعب" للذكاء الاصطناعي
يقترح مؤلفو هذه الورقة، مزباح الدين رافي، نظاماً جديداً يسمى بنية محاسبة الذكاء الاصطناعي (AAI). فكر في الأمر كأنه مذكرات سحرية غير قابلة للكسر، يُجبر كل نظام ذكاء اصطناعي عالي المخاطر على الاحتفاظ بها. لكن هذه ليست مجرد مذكرات عادية؛ إنها مذكرات مكتوبة بشفرة خاصة تجعل من المستحيل مسح صفحة أو تغييرها دون أن يلاحظ الجميع ذلك.
إليك كيف يعمل النظام، باستخدام بعض الاستعارات التوضيحية:
1. "إيصال" الصندوق الأسود
في كل مرة يتخذ فيها الذكاء الاصطناعي قراراً (مثل الموافقة على قرض)، لا يقوم النظام بحفظ الإجابة فحسب، بل يحفظ "إيصالاً" يسمى سجل محاسبة الذكاء الاصطناعي (AAR). يسرد هذا الإيصال بالضبط ما رآه الذكاء الاصطناعي (المدخلات)، والأدوات التي استخدمها (مثل آلة حاسبة أو قاعدة بيانات)، والقواعد التي اتبعها. والأهم من ذلك، أنه لا يحاول تسجيل "أفكار" الذكاء الاصطناعي الداخلية أو استنتاجاته الخفية، لأن تلك الأمور معقدة للغاية ومتغيرة باستمرار. إنه يسجل فقط الحقائق الملحوظة، مثل كاميرا مراقبة تسجل من دخل من الباب، وليس ما كان يفكر فيه.
2. سلسلة من الروابط غير القابلة للكسر
للتأكد من عدم قدرة أحد على التسلل لتعديل المذكرات لاحقاً، يربط النظام كل إيصال جديد بالإيصال الذي سبقه باستخدام "سلسلة" رقمية. تخيل سلسلة حيث كل حلقة مصنوعة من معدن خاص يتغير لونه إذا حاولت صهره. إذا حاول شخص ما العودة وتغيير إيصال من الأسبوع الماضي، ستنكسر الحلقة، وتتحول السلسلة بأكملها إلى اللون الأحمر، وهي تصرخ: "مهلاً! شخص ما تلاعب بهذا!". يسمى هذا التسلسل بالهاش (hash-chaining)، وهو يضمن أنه بمجرد كتابة القرار، يظل كما هو تماماً.
3. "المفتاح السحري" الذي يحتاج لثلاثة أشخاص
هذا هو الجزء الأكثر ذكاءً. عادةً، الشركة التي تملك الذكاء الاصطناعي هي من تمسك بمفاتيد المذكرات. وإذا أرادت إخفاء خطأ ما، يمكنها ببساطة قفل المذكرات ورمي المفتاح. يعالج نظام (AAI) هذه المشكلة باستخدام تشفير العتبة (threshold cryptography). تخيل أن مفتاح المذكرات قد قُطع إلى خمس قطع. لفتح المذكرات وقراءة الأسرار، تحتاج إلى حضور ثلاثة أشخاص مختلفين على الأقل لجمع قطعهم معاً. هؤلاء الأشخاص قد يكونون شركة الذكاء الاصطناعي، ومدققاً مستقلاً، وجهة تنظيمية حكومية. لا يمكن لشخص واحد — حتى المدير التنفيذي لشركة الذكاء الاصطناعي — فتح المذكرات بمفرده. هذا يضمن عدم إمكانية إخفاء الأدلة أو تزييفها من قبل طرف واحد سيء النية.
4. "الكشاف المتدرج"
أحياناً لا تحتاج لرؤية المذكرات بأكملها؛ بل تحتاج فقط للتحقق من حقيقة واحدة محددة. يستخدم النظام نموذج "الإفصاح المتدرج". الأمر يشبه امتلاك كشاف ضوئي يمكنه تسليط الضوء على جملة واحدة فقط، أو فقرة كاملة، أو الصفحة بأكملها، اعتماداً على من يطلب ولماذا. إذا احتاج قاضٍ لرؤية الأدلة، يقوم "أصحاب المفتاح السحري" بفتح الجزء المحدد الذي يحتاج إليه، بينما تظل بقية المذكرات مظلمة وخاصة. هذا يحمي خصوصية المستخدم مع السماح بتحقيق العدالة في الوقت نفسه.
ما وجدته الورقة فعلياً (وما لم تجده)
المؤلفون صادقون جداً بشأن ما قاموا به وما لا يزال قيد التطوير. هم لم يبنوا نظام ذكاء اصطناعي ضخم وحقيقي يدير بنكاً أو مستشفى، بل بنوا نموذجاً أولياً — نسخة مصغرة ومحاكية لنظامهم تعمل على جهاز كمبيوتر واحد.
في محاكاتهم، أنشأوا 5,000 قرار ذكاء اصطناعي وهمي. اختبروا نظامهم ووجدوا أن:
- إنه يعمل بسرعة: إضافة "إيصال" جديد إلى السلسلة استغرق أقل من ميلي ثانية (بمتوسط 0.24 ميلي ثانية).
- إنه يكشف الكاذبين: عندما حاولوا التلاعب بالبيانات، أشار النظام فوراً إلى وجود خلل.
- إنه يحفظ الأسرار: أظهروا أنه يمكنك إثبات حقيقة معينة موجودة في السجل دون الكشف عن بقية السجل.
ومع ذلك، تنص الورقة صراحة على أن هذا ليس منتجاً نهائياً جاهزاً للعالم الحقيقي بعد. المحاكاة جرت على جهاز كمبيوتر واحد، لذا لم تختبر مدى بطء النظام عندما يكون "حملة المفاتيح" في دول مختلفة ويضطرون للتواصل عبر الإنترنت. كما اعترف المؤلفون بأنه بينما يثبت نظامهم أن السجل لم يتغير، فإنه لا يستطيع إثبات أن البيانات الأصلية التي رآها الذكاء الاصطناعي كانت صحيحة (على سبيل المثال، إذا غذّى مخترقٌ الذكاء الاصطناعي ببيانات مزيفة، فإن السجل سيسجل تلك البيانات المزيفة بأمانة، وهذا يظل مشكلة قائمة).
لماذا يهم هذا الأمر؟
هذه الورقة تشبه مخططاً لشبكة أمان جديدة. هي لا تحل كل مشاكل الذكاء الاصطناعي، ولا تدعي أنها عصا سحرية تجعل الذكاء الاصطناعي مثالياً. بدلاً من ذلك، تقدم طريقة لضمان أنه عندما يرتكب الذكاء الاصطناعي خطأً كبيراً، سيكون لدينا سجل موثوق وغير قابل للتغيير لما حدث، وأنه لا يمكن لشخص واحد إخفاء ذلك السجل. إنها تسد الفجوة بين "نحن نثق في الذكاء الاصطناعي" وبين "يمكننا إثبات ما فعله الذكاء الاصطناعي"، مما يمنح المحاكم والجهات التنظيمية والناس العاديين وسيلة لمحاسبة هذه الأنظمة القوية دون التضحية بالخصوصية أو الأمن.
يختتم المؤلفون بأن الرياضيات والمنطق صمدوا في اختباراتهم، لكن الاختبار الحقيقي في العالم الواقعي لا يزال أمامهم. إنهم يدعون باحثين آخرين لأخذ هذا المخطط، وبناء النظام الموزع الحقيقي، ومعرفة ما إذا كان بإمكانهم التعامل مع فوضى الإنترنت الحقيقية. إنه أساس متين، لكن البناء لم يكتمل بعد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.