Right to History: A Sovereignty Kernel for Verifiable AI Agent Execution
تقدم هذه الورقة مبدأ "الحق في التاريخ" وتعمل على تنفيذه في PunkGo، وهو نواة سيادة قائمة على لغة Rust تضمن تسجيلًا غير قابل للتلاعب وقابلًا للتحقق بشكل مستقل لأفعال وكلاء الذكاء الاصطناعي على الأجهزة الشخصية من خلال أشجار ميركل (Merkle trees)، وعزل القدرات، وحوكمة ميزانية الطاقة، مما يعالج الفجوات التنظيمية وفجوات الثقة الحرجة في تنفيذ الذكاء الاصطناعي اللامركزي.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك وظفت مساعداً شخصياً ذكياً جداً، ولكنه غير متوقع التصرفات قليلاً، ليقوم بمهامك. قلت له: "اذهب لشراء البقالة، وادفع الفوات、 وربما أصلح صنبوراً يسرب الماء".
الآن، تخيل أن هذا المساعد عاد وقال لك: "لقد فعلت كل ذلك!" ولكن ليس لديك أي وسيلة لمعرفة:
- هل اشترى البقالة فعلاً، أم أنه اشترى لعبة فيديو فقط؟
- هل دفع المبلغ الصحيح، أم أنه حول مدخراتك بالخطأ إلى شخص غريب؟
- هل أصلح الصنبور، أم أنه اكتفى بركل الأنبوب حتى توقف عن التسريب؟
في عالم الذكاء الاصطناعي، بدأنا نسمح لهذه "الوكلاء" (Agents) بالقيام بمثل هذه المهام بالضبط. ولكن حالياً، لا يوجد "صندوق أسود" أو "إيصال" يثبت ما فعلوه حقاً. إذا حدث خطأ ما، فليس لديك أي دليل.
تقدم هذه الورقة البحثية حلاً يسمى PunkGo ومفهومًا جديدًا يسمى "الحق في التاريخ" (Right to History).
إليك شرح بسيط لكيفية عمل ذلك، باستخدام تشبيهات من الحياة اليومية.
1. الفكرة الجوهرية: "الحق في التاريخ"
فكر في بياناتك الشخصية (صورك، رسائل بريدك الإلكتروني) كأنها ملكيتك الخاصة. لديك بالفعل قوانين تنص على أنك تملك بياناتك.
تجادل هذه الورقة بأنه يجب عليك أيضاً امتلاك تاريخك الحوسبي. إذا قام وكيل ذكاء اصطناعي بفعل شيء ما على جهاز الكمبيوتر الخاص بك، فمن حقك الحصول على سجل كامل، غير قابل للتغيير، ومثبت رياضياً لكل شيء قام به هذا الوكيل.
2. المشكلة: "الصندوق الأسود"
في الوقت الحالي، إذا كان وكيل ذكاء اصطناعي يعمل على جهاز الكمبيوتر المحمول الخاص بك، فالأمر يشبه ساحراً يخرج أرانب من قبعة. أنت ترى الأرنب يظهر، لكنك لا تعرف ما إذا كان أرنباً حقيقياً، أم لعبة بلاستيكية، أم أن الساحر استبدله بشيء آخر.
- الأنظمة الحالية: قد تحتوي على زر "إيقاف مؤقت" أو مفتاح "للسماح"، لكنها لا تحتفظ بمذكرات دائمة وغير قابية للتلاعب بالحيل السحرية.
- المخاطر: إذا خرج الذكاء الاصطناعي عن السيطرة أو ارتكب خطأً، فلن تتمكن من إثبات ذلك لبنك، أو محكمة، أو حتى لنفسك.
3. الحل: PunkGo (نواة السيادة)
قام المؤلفون ببناء قطعة برمجية جديدة تسمى PunkGo. فكر فيها كأنها حارس أمن صارم للغاية ولا يرمش له جفن، يجلس بينك (الإنسان) وبين وكيل الذكاء الاصطناعي.
إليك كيف يعمل PunkGo، باستخدام ثلاثة تشبيهات رئيسية:
أ. "شجرة ميركل" (المذكرات التي لا تُكسر)
تخيل مذكرات حيث كل صفحة ملتصقة بالتي تليها بغراء سحري شديد القوة.
- إذا حاولت تمزيق صفحة أو تغيير كلمة في الصفحة رقم 5، فإن الغراء في الصفحات 6 و7 و8 سيتحول فوراً إلى اللون الأحمر وينكسر.
- في لغة الكمبيوتر، يسمى هذا "شجرة ميركل" (Merkle Tree). إنها تنشئ بصمة رقمية لكل إجراء. إذا حاول أي شخص التلاعب بالتاريخ، فإن الرياضيات تثبت ذلك فوراً.
- النتيجة: ستحصل على إيصال مستحيل تزويره رياضياً.
ب. "ميزانية الطاقة" (وعاء الرموز/Tokens)
تخيل أنك أعطيت مساعدك وعاءً يحتوي على 100 رمز (Token). في كل مرة يفعل فيها شيئاً، فإنه يستهلك رموزاً.
- شراء البقالة: 5 رموز.
- إصلاح الصنبور: 10 رموز.
- محاولة اقتحام خزنتك: 100 رمز (وسيتم إيقافه).
- الخدعة: إذا حاول المساعد طلب الإذن للقيام بشيء خطر (مثل "تحويل 1,000 دولار")، فعليه أولاً حجز 20 رمزاً في الوعاء.
- إذا قلت "نعم"، يتم تنفيذ الإجراء، وتُصرف الرموز.
- إذا قلت "لا" أو تأخر هو في الانتظار، فستخسر أنت مبلغاً صغيراً (20% من الرموز المحجوزة) لمجرد عناء التحقق.
- لماذا هذا مهم: هذا يمنع الذكاء الاصطناعي من إغراقك بطلبات "هل أنت متأكد؟" لاستنزاف مواردك أو خداعك. إنه يجبر الذكاء الاصطناعي على أن يكون جاداً في طلباته.
ج. "شارة القدرة" (بطاقة الهوية)
تخيل أن وكيل الذكاء الاصطناعي لديه بطاقة هوية توضح بالضبط ما يُسمح له بلمسه.
- الوكيل (أ): "يمكنه لمس المطبخ وغرفة المعيشة فقط".
- الوكيل (ب): "يمكنه لمس المرآب فقط".
- إذا حاول الوكيل (أ) الدخول إلى المرآب، فإن حارس الأمن (PunkGo) سيغلق الباب في وجهه. لن يحصل الوكيل حتى على فرصة للمحاولة؛ إذ يتم حظر الإجراء قبل وقوعه.
4. آلية "التعليق" (الإنسان في الحلقة)
أحياناً، يحتاج الذكاء الاصطناعي للقيام بشيء كبير، مثل "بيع منزلي".
- الطريقة القديمة: يقوم الذكاء الاصطناعي بذلك ببساطة، أو يتعين عليك إيقافه يدوياً.
- طريقة PunkGo: يتوقف الذكاء الاصطناعي ويقول: "أحتاج لبيع المنزل. هل توافق؟"
- تصلك رسالة إشعار. تضغط على "موافقة".
- الأهم من ذلك: يسجل النظام بدقة متى ضغطت، وماذا وافقت عليه، ومن الذي طلب ذلك. هذا يخلق دليلاً تقنياً وقانونياً على أنك أنت من أعطى الأمر، وليس الذكاء الاصطناعي.
5. لماذا يهمك هذا؟
- التشريعات: هناك قوانين جديدة قادمة (مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي) تنص على أن الذكاء الاصطنا वाले عالي المخاطر يجب أن يحتفظ بسجلات. يجعل PunkGo هذا الأمر سهلاً للأفراد العاديين، وليس فقط للشركات الكبرى.
- الثقة: يمكنك أخيراً النظر إلى سجل وتقول: "نعم، لقد فعل الذكاء الاصطناعي ما أمرته به تماماً، ولا شيء غير ذلك".
- السيادة: إنه يعيد إليك زمام المبادرة. أنت لست مجرد مستخدم؛ أنت مالك تاريخ جهاز الكمبيوتر الخاص بك.
الملخص
تقترح الورقة نظاماً جديداً يعمل فيه وكيل الذكاء الاصطناعي الخاص بك كأنه عامل مأجور مقيد بزمام.
- الزمام: يمكنه الذهاب فقط إلى حيث تسمح له (الحدود).
- المحفظة: عليه أن يدفع مقابل كل خطوة يخطوها (الطاقة).
- المذكرات: كل خطوة مكتوبة في كتاب لا يمكن مسحه أو تغييره (شجرة ميركل).
- المدير: لديك الحق في التوقيع على القرارات الكبيرة (موافقة الإنسان).
هذا يحول الذكاء الاصطناعي من "صندوق أسود" غامض إلى شريك شفاف ومسؤول يمكنك الوثوق به.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.