🤖 AI

AudAgent: Automated Auditing of Privacy Policy Compliance in AI Agents

تقدم هذه الورقة AudAgent، وهي أداة تدقيق مؤتمتة في الوقت الفعلي تسد الفجوة بين سياسات الخصوصية المعلنة لوكلاء الذكاء الاصطناعي وسلوكهم الفعلي أثناء التشغيل من خلال صياغة السياسات بشكل رسمي، وتوصيف ممارسات البيانات، والتحقق من الامتثال للكشف عن انتهاكات الخصوصية وحظرها بشكل استباقي.

المؤلفون الأصليون: Ye Zheng, Yimin Chen, Yidan Hu

نُشر 2026-03-05

📖 4 دقيقة قراءة☕ قراءة في استراحة قهوة

CC BY 4.0

المؤلفون الأصليون: Ye Zheng, Yimin Chen, Yidan Hu

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

تخيل أنك وظفت مساعداً شخصياً ذكياً للغاية وسريعاً للغاية يُدعى "الوكيل الذكي" (AI Agent) لمساعدتك في إدارة حياتك. قلت له: "ابحث عن معلومات الاتصال بصديقي بوب واحفظها". ينطلق الوكيل الذكي، ويبحث في الويب، ويجد بريد بوب الإلكتروني، ثم يرسل رسالة إلى خدمة طرف ثالث لحفظه.

هنا تكمن المشكلة: أنت تثق في الوكيل الذكي لأنك قرأت سياسة الخصوصية الخاصة به (وهي وثيقة قانونية طويلة ومملة) والتي تقول: "نحن نجمع فقط ما نحتاجه ولا نشاركه مع غرباء عشوائيين". لكن ليس لديك أي طريقة لمعرفة ما إذا كان الوكيل الذكي يتبع هذه القواعد فعلياً أثناء عمله. هل يقوم سراً بإرسال بيانات بوب إلى شركة إعلانات مشبوهة؟ هل يحتفظ برقم الضمان الاجتماعي الخاص بك للأبد؟

AudAgent هو بمثابة حارس شخصي يقظ للغاية ويعمل في الوقت الفعلي، يقف بجانب مساعدك الذكي مباشرة، ويراقب كل حركة يقوم بها لضمان عدم كسر القواعد.

إليك كيف يعمل AudAgent، مقسماً إلى أربع خطوات بسيطة باستخدام تشبيهات من الحياة اليومية:

1. "المترجم" (صياغة السياسة - Policy Formalization)

المشكلة: تُكتب سياسات الخصوصية بلغة قانونية معقدة (مثل وصفة مكتوبة بلغة أجنبية). لا تستطيع الحواسيب فهمها بسهولة.
حل AudAgent: تخيل أن لديك لجنة من أربعة مترجمين خبراء (نماذج ذكاء اصطناعي مختلفة). تعطيها سياسة الخصوصية، ويحاولون جميعاً ترجمتها إلى قائمة مراجعة بسيطة وصارمة.

الخدعة السحرية: هم لا يثقون بمترجم واحد فقط؛ بل يعتمدون على التصويت. إذا اتفق ثلاثة من أصل أربعة على أن "نحن نجمع رسائل البريد الإلكتروني فقط لأغراض الاتصال"، يقوم AudAgent بتثبيت هذه القاعدة. هذا يضمن أن قائمة المراجعة دقيقة وليست مجرد تخمين من روبوت واحد مرتبك.

2. "الرؤية بالأشعة السينية" (الوسم أثناء التشغيل - Runtime Annotation)

المشكلة: بينما يعمل الوكيل الذكي، فإنه ينقل البيانات من مكان لآخر. ومن الصعب التمييز بين أي قطعة من البيانات هي "حساسة" (مثل رقم بطاقتك الائتمانية) وأيها "آمنة" (مثل حالة الطقب).
حل AudAgent: يستخدم AudAgent ماسحاً ضوئياً خفيف الوزن (يُسمى Presidio) يعمل مثل جهاز الأشعة السينية.

بينما يتحدث أو يكتب الوكيل الذكي، يرصد الماسح فوراً العناصر الحساسة (مثل "عنوان البريد الإلكتروني" أو "رقم الضمان الاجتماعي").
ثم يقوم بوضع علامة عليها بملصق يقول: "مهلاً، هذا عنوان بريد إلكتروني. تنص السياسة على أنه يمكننا فقط جمعه مباشرة من المستخدم، وليس من أداة طرف ثالث".

3. "شرطي المرور" (تدقيق الامتثال - Compliance Auditing)

المشكلة: حتى لو عرفنا أن الوكيل الذكي قد جمع بريداً إلكترونياً، فكيف نعرف ما إذا كان يجب عليه إرساله إلى طرف ثالث؟
حل AudAgent: يحول AudAgent قائمة مراجعة سياسة الخصوصية إلى نظام إشارات مرور (باستخدام ما يسمى "الأوتوماتا" - automata).

الضوء الأخضر: الوكيل الذكي يجمع بريداً إلكترونياً منك مباشرة لإرسال رسالة؟ ✅ تفضل بالمرور.
الضوء الأحمر: الوكيل الذكي يحاول إرسال هذا البريد الإلكتروني إلى أداة طرف ثالث لم يتم الموافقة عليها؟ 🛑 توقف!
خريطة "الأنطولوجيا" (Ontology): أحياناً تقول السياسة "معلومات الاتصال" بينما يرى الوكيل الذكي "عنوان بريد إلكتروني". يستخدم AudAgent خريطة شجرة عائلة (أنطولوجيا) ليعرف أن "البريد الإلكتروني" هو فرع من "معلومات الاتصال"، وبالتالي يفهم أنهما الشيء نفسه.

4. "لوحة التحكم المباشرة" (التصور - Visualization)

المشكلة: حتى لو اكتشف AudAgent خطأً، فكيف يمكن لشخص عادي أن يفهم ما حدث؟
حل AudAgent: بدلاً من إعطائك ملف سجل (log file) مكون من 50 صفحة، يعرض لك AudAgent خريطة تفاعلية حية على متصفح الويب الخاص بك.

ترى رحلة الوكيل الذكي كخريطة تدفق (flowchart).
إذا حاول الوكيل الذكي القيام بشيء مريب، يتحول الخط في الخريطة إلى اللون الأحمر الساطع وتظهر لك رسالة تحذير: "انتظر! أنت على وشك إرسال بريد بوب الإلكتروني إلى أداة غير مسموح بها!".
يمكنك أيضاً الض p على زر "الحظر" (Block) لإيقاف الوكيل الذكي قبل أن يرسل البيانات.

لماذا يعد هذا أمراً هاماً؟

اختبر الباحثون AudAgent على وكلاء ذكاء اصطناعي مشهورين (مثل تلك التي تعمل بواسطة Claude وGemini وDeepSeek). ووجدوا بعض الأمور المخيفة:

"المنتهك الصامت": العديد من الوكلاء الذكيين يعتقدون أنهم آمنون، لكنهم في الواقع يعالجون بيانات حساسة للغاية (مثل أرقام الضمان الاجتماعي) عبر أدوات طرف ثالث دون إخبارك.
"فجوة السياسة": العديد من سياسات الشركات غامضة؛ فهي لا تقول صراحةً: "لن نلمس رقم الضمان الاجتماعي الخاص بك أبداً".
الحل: لا يكتفي AudAgent بالمراقبة فحسب، بل يتدخل. إذا كانت السياسة غامضة، يمكن ضبط AudAgent على "الوضع الصارم" الذي يحظر البيانات الحساسة (مثل أرقام الضمان الاجتماعي) تماماً، ليعمل كشبكة أمان حتى عندما تكون قواعد الوكيل الذكي نفسه ضعيفة.

باخت مختصراً

AudAgent هو قائل الحقيقة لوكيلك الذكي. إنه يترجم النصوص الدقيقة إلى كتاب قواعد واضح، ويراقب عمل الوكيل في الوقت الفعلي، ويضغط على المكابح إذا حاول الوكيل تسريب بياناتك الخاصة إلى مكان لا ينبغي أن تذهب إليه. إنه يحول "الثقة العمياء" إلى "ثقة موثقة".

إليك ملخص تقني مفصل لورقة البحث بعنوان "AudAgent: التدقيق الآلي لامتثال سياسات الخصوصية في وكلاء الذكاء الاصطناعي."

1. بيان المشكلة

يقوم وكلاء الذكاء الاصطناعي، المدعومون بنماذج اللغات الكبيرة (LLMs)، بتنفيذ مهام ذاتية تتضمن غالباً جمع ومعالجة والكشف عن بيانات مستخدم حساسة (مثل معلومات الهوية الشخصية PII، وأرقام الضمان الاجتماعي SSNs) دون موافقة صريحة وفورية من المستخدم. وبينما يعمل هؤلاء الوكلاء بموجب سياسات خصوصية معلنة، إلا أن هناك نقصاً حاداً في الشفافية والمساءلة فيما يتعلق بمدى التزام سلوكهم أثناء التشغيل (runtime behavior) بهذه السياسات فعلياً.

تواجه الحلول الحالية أربعة تحديات رئيسية:

صياغة السياسات: تُكتب سياسات الخصوصية بلغة طبيعية غير منظمة، مما يجعل من الصرّف ترجمتها إلى تنسيقات قابلة للفحص آلياً.
محدودية الرؤية: يتفاعل الوكلاء مع ملفات محلية، وواجهات برمجة تطبيقات (APIs)، وأدوات خارجية، مما يجعل من الصعب تتبع تدفقات البيانات من نقطة مراقبة واحدة.
الكفاءة: يجب أن يكون التدقيق مؤتمتاً وفي الوقت الفعلي لتجنب الأعباء الإضافية الكبيرة أو الحاجة إلى تدخل الخبراء.
التصور (Visualization): يحتاج المستخدمون إلى طريقة بديهية وغير مرتبطة ببنية تحتية معينة لتصور تدفقات البيانات والانتهاكات.

2. المنهجية: إطار عمل AudAgent

AudAgent هو أداة تدقيق آلية في الوقت الفعلي مصممة لسد الفجوة بين سياسات الخصوصية المكتوبة باللغة الطبيعية وسلوك الوكيل أثناء التشغيل. ويتكون من أربعة مكونات أساسية:

أ. صياغة السياسات القائمة على التصويت

لتحويل سياسات اللغة الطبيعية إلى نموذج رسمي قابل للتدقيق آلياً، يستخدم AudAgent آلية تصويت عبر نماذج لغات كبيرة متعددة (cross-LLM voting).

العملية: تقوم نماذج لغات كبيرة متعددة بتحليل وثيقة سياسة الخصوصية بشكل مستقل لاستخراج نموذج هيكلي محدد بخماسية العناصر (tuples): $(d_{col}, c_{col}, c_{pro}, c_{dis}, c_{ret})$ ، والتي تمثل (نوع البيانات، شرط الجمع، غرض المعالجة، شرط الإفصاح، وفترة الاحتفاظ).
الإجماع: يقوم النظام بالتحقق من التكافؤ الدلالي وإجراء تصويت بالأغلبية عبر مخرجات النماذج. يتم الاحتفاظ بالعناصر التي اتفقت عليها مجموعة من النماذج تتجاوز عتبة معينة.
الفائدة: تزيد هذه الطريقة من مستوى الثقة والدقة في نموذج السياسة المصاغ مقارنة بالاعتماد على نموذج واحد، مما يقلل من التحيزات الخاصة بكل نموذج.

ب. وسم البيانات الموجه بالنموذج

يراقب AudAgent تنفيذ الوكيل في الوقت الفعلي لوسم ممارسات البيانات.

الكشف: يستخدم Microsoft Presidio، وهو محلل محلي مفتوح المصدر وخفيف الوزن، للكشف عن أنواع البيانات الحساسة (PII) في تدفقات النصوص (المطالبات، استدعاءات الأدوات، والاستجابات).
الوسم السياقي: على عكس كواشف PII القياسية، يقوم AudAgent بإثراء البيانات المكتشفة ببيانات وصفية (metadata) مستمدة من نموذج السياسة المصاغ:
- شرط الجمع: يُصنف كـ مباشر (قدمه المستخدم) أو غير مباشر (عبر التفاعل مع الأدوات).
- صلة المعالجة: يُصنف كـ ذات صلة (تُستخدم للمهمة) أو غير ذات صلة (احتمالية الجمع الزائد).
- شرط الإفصاح: يحدد الأداة أو الخدمة الخارجية المحددة التي تستقبل البيانات.
- الاحتفاظ: يتتبع المدة الزمنية التي تُحتفظ فيها البيانات بناءً على عملية الجمع والتفاعلات اللاحقة.

ج. تدقيق الخصوصية عبر الرسوم البيانية الأنطولوجية والآلات ذات الحالة المحدودة

للتحقق من الامتثال، يربط AudAgent نموذج السياسة الرسمي مع الوسوم أثناء التشغيل باستخدام تقنيتين:

الرسوم البيانية الأنطولوجية (Ontology Graphs): تعمل على حل عدم التطابق في مستويات التفصيل. على سبيل المثال، إذا ذكرت السياسة "معلومات الاتصال" بينما رصد النظام أثناء التشغيل "عنوان بريد إلكتروني"، فإن الرسم البياني الأنطولوجي يربط هذه الحالة المحددة بالمصطلح الأوسع في السياسة، مما يضمن المطابقة الدقيقة.
الآلات ذات الحالة المحدودة (Finite State Automata): يتم تجميع نموذج السياسة إلى آلات حالة خفيفة لكل نوع من أنواع البيانات.
- الحالات: تمثل حالة الامتثال (مثل: مجموع (collected)، معالج (processed)، مفصح عنه (disclosed)).
- الانتقالات: يتم تحفيزها بواسطة الوسوم الواردة.
- القبول: إذا وصلت الآلة إلى حالة قبول، فإن الإجراء يعتبر ممتثلاً. أما إذا توقفت في حالة غير مقبولة (مثل: الإفصاح عن البيانات لجهة غير مصرح لها أو الاحتفاظ بها لفترة طويلة جداً)، فيتم وضع علامة على وجود انتهاك.
- الكفاءة: يسمح هذا بالتعقيد الزمني $O(1)$ لكل وسم، مما يتيح التدقيق في الوقت الفعلي بأقل قدر من الأعباء.

د. التصور والواجهة

يوفر AudAgent واجهة تعتمد على المتصفح وغير مرتبطة بنظام تشغيل معين.

البنية: يقوم بالتقاط حركة مرور HTTP بين منسق الوكيل (agent orchestrator)، ونموذج اللغة الكبير، والأدوات، ثم يعيد بناء تدفق التحكم، ويرسل النتائج عبر WebSocket.
المخرجات: يرى المستخدم رسماً بيانياً موجهاً في الوقت الفعلي لتنفيذ الوكيل. تظهر تدفقات البيانات الآمنة باللون الأخضر؛ بينما تظهر الانتهاكات المحتملة باللون الأحمر مع تلميحات تفصيلية تشرح خرق السياسة المحدد.

3. المساهمات الرئيسية

أول أداة تدقيق مؤتمتة: يعد AudAgent أول أداة تمكن المستخدمين النهائيين من تدقيق ممارسات بيانات وكلاء الذكاء الاصطناعي باستمرار ضد سياسات الخصوصية في الوقت الفعلي.
تقنية صياغة مبتكرة: يوفر تقديم التصويت عبر نماذج لغات كبيرة متعددة لاستخراج السياسات دفعة ملموسة من الثقة ودقة أعلى مقارنة بالنهج القائم على نموذج واحد.
محرك امتثال أثناء التشغيل: يخلق الجمع بين الرسوم البيانية الأنطولوجية (للمواءمة الدلالية) والآلات ذات الحالة المحددة (للتحقق الفعال من الحالة) نظام تحقق من الامتثال قوياً ومنخفض الأعباء.
الحظر الاستباقي: بعيداً عن الكشف، يمكن لـ AudAgent حظر العمليات التي تنتهك السياسات فعلياً (مثل منع إرسال أرقام الضمان الاجتماعي)، مما يعوض السلوكيات غير الآمنة للوكيل.

4. النتائج التجريبية

قام المؤلفون بتقييم AudAgent على وكلاء مبنيين باستخدام AutoGen و LangChain و MCP، باستخدام خلفيات برمجية من Claude و GPT-4o و Gemini و DeepSeek.

الفعالية في الكشف: نجح AudAgent في تصور تدفقات البيانات وكشف انتهاكات السياسة في الوقت الفعلي.
فجوات السياسة والبيانات الحساسة:
- وجدت الدراسة أن العديد من وكلاء الذكاء الاصطناعي الرئيسيين (بما في ذلك Claude و Gemini و DeepSeek) يفشلون في رفض معالجة البيانات شديدة الحساسية مثل أرقام الضمان الاجتماعي (SSNs) عند الوصول إليها عبر أدوات خارجية، رغم المتطلبات القانونية.
- كان وكيل GPT-4o هو الوحيد الذي رفض هذه الطلبات باستمرار.
- تدخل AudAgent: عند دمجه، قام AudAgent بحظر إرسال أرقام الضمان الاجتماعي استباقياً لجميع الوكلاء المختبرين، مما عوض النقص في الضمانات المدمجة في سياساتهم الافتراضية.
الأداء:
- الدقة: حققت آلية الوسم أثناء التشغيل درجة F1 بلغت 0.80 على مجموعة بيانات Promptfoo و 0.57 على مجموعة بيانات Presidio-research الأكثر صعوبة.
- الأعباء: أدت الأداة إلى عبء زمني ضئيل يتراوح بين 0.29 إلى 0.51 ثانية لكل مهمة، مما يجعلها مناسبة للنشر في الوقت الفعلي.
- الصياغة: أدت آلية التصويت إلى تحسين اتساق استخراج السياسة بشكل كبير مقارنة بالنماذج المرجعية القائمة على نموذج واحد.

5. الأهمية

تمكين المستخدم: ينقل AudAgent النموذج من الثقة السلبية إلى التحقق النشط، حيث يمنح المستخدمين الأدوات لفرض تفضيلات الخصوصية الخاصة بهم والتحقق من سلوك الوكيل مقابل السياسات المعلنة.
الامتثال التنظيمي: من خلال الكشف التلقائي والحظر للانتهاكات (مثل تسريب أرقام الضمان الاجتماعي)، يساعد AudAgent المؤسسات والمستخدمين على الالتزام باللوائح الصارمة مثل GDPR و CCPA.
مساءلة المنصات: يعمل كأداة تشخيصية لمنصات الذكاء الاصطناعي، حيث يكشف التناقضات بين السياسات المعلنة والسلوك الفعلي أثناء التشغيل، مما يدفع نحو تحسين تصميم الوكلاء ولغة السياسات.
الذكاء الاصطناعي الجدير بالثقة: من خلال توفير الشفافية وآلية للتدخل في الوقت الفعلي، يعالج AudAgent عائقاً حرجاً أمام الاعتماد الواسع والموثوق لوكلاء الذكاء الاصطناعي المستقلين.