Hardware-rooted attestation for AI-agent evidence: composing IETF RATS with action evidence packages
تقترح هذه الورقة وتبرهن على إطار عمل تصديق مركب يربط حزم أدلة إجراءات الذكاء الاصطناستند إلى البرمجيات بالثقة المتجذرة في الأجهزة عبر بنية (IETF RATS)، مما يضمن التحقق من أن مخرجات الوكيل ناتجة عن إصدارات نماذج محددة وغير معدلة على منصات موثوقة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
لغز الصندوق الأسود الرقمي
تخيل أنك تحاول حل لغز، لكن الشاهد الوحيد هو المشتبه به نفسه. في عالم الذكاء الاصطناي، نحن نبني "وكلاء" (Agents)—وهي برامج كمبيوتر ذكية يمكنها اتخاذ القرارات، أو كتابة الأكواد، أو حتى التحكم في الروبوتات. وللحفاظ على نزاهة هؤلاء الوكلاء، نحتاج إلى وسيلة للتحقق من عملهم. حاليًا، نحن نعتمد على "سجل أحداث" رقمي يكتبه الوكيل لنفسه. يقول السجل: "لقد فعلت كذا، وكان مسموحًا لي بفعل ذلك، وإليك النتيجة". هذا مفيد، ولكن به عيب قاتل: إذا كان الوكيل يكذب، أو إذا قام مخترق ماكر باستبدال عقل الوكيل بعقل آخر، فسيظل سجل الأحداث يبدو مثاليًا. الأمر يشبه مجرمًا يكتب في مذكراته: "أنا لم أسرق الكعكة"، بينما هو يمسك بالكعكة في يده. المذكرات موقعة ومختومة، لكنها لا تثبت من الذي كتبها بالفعل أو أي كمبيوتر كان يعمل.
لحل هذه المشكلة، نحتاج إلى مسجل "صندوق أسود"، مشابه لتلك الموجودة في الطائرات. هذه الأجهزة يتم تصنيعها من قبل طرف ثالث، وتكون مغلقة بإحكام، وتسجل البيانات بحيث لا يمكن للطيار (أو مشغل الكمبيوتر) التلاعب بها. في عالم الكمبيوتر، يُسمى هذا "التوثيق بالأجهزة" (Hardware Attestation). وهي طريقة تجعل شريحة خاصة موثوقة داخل الكمبيوتر تهمس بسر لمفتش خارجي، قائلة: "أعدك بأن البرمجيات التي تعمل الآن هي بالضبط ما يقول المالك عنه". السؤال الكبير الذي يطرحه العلماء هو: كيف نجمع بين قصة الوكيل الخاصة (سجل الأحداث) وبين هذا الإثبات الصلب غير القابل للكسر (الصندوق الأسود) لخلق حقيقة واحدة لا تقبل الجدل؟
سجل الأحداث والمسجل المختوم
تقترح هذه الورقة طريقة ذكية لربط هذين الأمرين معًا. يقترح المؤلف، أنطون سوكولوف، أنه لا ينبغي لنا الوثوق بسجل أحداث الذكاء الاصطناعي فحسب، ولا ينبغي لنا الوثوق بالأجهزة فحسب. بدلاً من ذلك، يجب علينا "حياكة" الاثنين معًا بحيث لا يمكن فصلهما.
فكر في الأمر كطاقم طيران يحاول تفسير هبوط خشن.
- سجل الأحداث (AEP): هو "حزمة أدلة الإجراءات". إنه التقرير المكتوب من قبل الطاقم: "لقد تم السماح لنا بالهبوط من قبل البرج، واستخدمنا المدرج الأيسر، وهبطنا بسلام". إنه مفصل وموقع، لكنه يظل مجرد كلمات كتبها الطاقم.
- الصندوق الأسود (أدلة RATS): هو الإثبات المادي. إنه مسجل مختوم يقول: "في هذه اللحظة تحديدًا، كان كمبيوتر الطائرة يعمل بالإصدار 1.0 من برنامج الهبوط، وكانت المحركات تعمل بكامل طاقتها". لا يمكن للطيار تغيير هذا؛ إنه حقيقة مادية سجلتها مستشعرات الطائرة نفسها.
تجادل الورقة بأن سجل الأحداث وحده ليس كافيًا لأن الطاقم قد يكون كاذبًا. والصندوق الأسود وحده ليس كافيًا لأنه لا يخبرنا لماذا هبطت الطائرة أو ما إذا كان الطيار يتبع القواعد. الحل هو ربطهما. عندما يكتب الطاقم في سجل الأحداث، يجب عليهم أيضًا إرفاق ختم حديث ومختوم من الصندوق الأسود يثبت أن كمبيوتر الطائرة كان في الحالة الصحيحة في تلك اللحظة تمامًا.
كيف سارت التجربة
لم يكتفِ المؤلف بهذا التصور الخيالي؛ بل بنى نموذجًا مصغرًا يعمل فعليًا ليرى مدى إمكانية تحقيق ذلك. استخدم "TPM برمجيًا" (نسخة محاكات لشرائح الأمان الخاصة الموجودة في أجهزة الكمبيوتر الحقيقية) ليعمل بمثابة الصندوق الأسود. كما أنشأ سجل أحداث ذكاء اصطناعي وهمي وحاول دمجه مع الإثبات المادي.
إليك ما وجده في محاكاته:
- سيناريو "الحالة الجيدة": عندما فعل الذكاء الاصطناعي ما كان من المفترض أن يفعله، وكان الكمبيوتر يعمل بالبرمجيات الصحيحة، أعطى النظام ضوءًا أخضر. كانت النتيجة هي "موثق" (Attested). سجل الأحداث والصندوق الأسود اتفقا معًا.
- سيناريو "استبدال العقل": حاول الباحثون خداع النظام. تظاهروا بأن الذكاء الاصطناعي قد استبدل عقله بنموذج آخر غير مصرح به. لاحظ الصندوق الأسود التغيير فورًا. ورغم أن سجل الأحداث بدا مثاليًا وقال: "أنا النموذج الجيد"، إلا أن الإثبات المادي قال: "لا، أنت لست كذلك". كانت هذه هي الفوز الكبير للورقة: سجل الأحداث يظل صالحًا تمامًا، لكن النتيجة المركبة تكشف عن التباين بين القصة والواقع المادي. كانت النتيجة "مُنازع عليه" (Contested).
- سيناريو "الأخبار القديمة": حاولوا استخدام ختم صندوق أسود صالح من يوم أمس لتوقيع سجل أحداث اليوم. قال النظام: "قديم جدًا!" وأعطى نتيجة "منتهي الصلاحية" (Expired).
- سيناريو "سجل الأحداث المزيف": حاولوا أخذ ختم صندوق أسود صالح وإرفاقه بسجل أحداث ملفق تمامًا. رفض النظام الأمر فورًا. الختم والقصة لم يتطابقا، لذا تم استبعاد الأمر بالكامل.
ماذا يعني هذا (وما لا يعنيه)
توضح الورقة بحذر شديد ما لم تفعله بعد. لقد كانت هذه محاكاة باستخدام شريحة وهمية على كمبيوتر عادي. وهي تثبت أن الفكرة ناجحة، لكنها لا تثبت بعد أن شريحة مادية حقيقية في خادم حقيقي ستقوم بنفس الشيء. يعترف المؤلف بأنه في العالم الحقيقي، سنحتاج إلى قياس ملف نموذج الذكاء الاصطناعي الفعلي (العقل) والتأكد من أن الأجهزة غير معدلة حقًا، وهو تحدٍ هندسي أكبر.
ومع ذلك، فإن الفكرة الأساسية متينة: من خلال الجمع بين قصة الذكاء الاصطناعي وختم الأجهزة، يمكننا خلق نوع جديد من الحقيقة. يمكننا الانتقال من سؤال "ماذا يقول الذكاء الاصطناعي عما فعله؟" إلى "هل الكمبيوتر المحدد الذي يدعيه المشغل، قد فعل هذا بالفعل؟"
تقترح الورقة أن هذا النهج "المركب" يخلق مفردات من ست كلمات للثقة: مصرح به (كان لديه إذن)، غير مصرح به (لم يكن لديه إذن)، غير محدد (لا نعرف)، موثق (الأجهزة جيدة)، مُنازع عليه (الأجهزة تكذب أو تغيرت)، ومنتهي الصلاحية (الإثبات قديم جدًا).
باختصار، تُظهر الورقة أنه يمكننا بناء نظام حيث يتم قفل سجل أحداث الذكاء الاصطناعي داخل ختم مادي. إذا حاول الذكاء الاصطناعي الكذب بشأن أفعاله، أو إذا حاول شخص ما استبدال عقل الذكاء الاصطناعي بعقل آخر، فإن الختم لن ينكسر، لكن النتيجة المركبة ستصبح "مُنازعًا عليه"، مما يكشف أن القصة والآلة غير متطابقتين. إنها وسيلة للتأكد من أنه عندما يقول الذكاء الاصطناعي "لقد فعلت هذا"، يمكننا التأكد من أنها ليست مجرد قصة، بل حقيقة مدعومة بالآلة نفسها.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.