PrivAct: Internalizing Contextual Privacy Preservation via Multi-Agent Preference Training

في العصر الرقمي، تطور الذكاء الاصطناعي من مجرد أداة بسيطة للإجابة على الأسئلة إلى مساعد متطور قادر على إدارة مهام معقدة، مثل صياغة رسائل البريد الإلكتروني، أو تنظيم الجداول الزمنية، أو التنقل عبر البيانات الشخصية. هذه الأنظمة، التي تُسمى غالباً "الوكلاء" (agents)، مصممة للتصرف نيابة عن المستخدمين، واتخاذ القرارات بناءً على المعلومات المتوفرة لديها. ومع ذلك، تبرز مشكلة دقيقة وخطيرة عندما تعمل هذه الوكلاء في مواقف تعتمد فيها الخصوصية على السياق. فخلافاً لكلمة المرور أو رقم الضمان الاجتماعي، اللذين يتسمان بخصوصية واضحة، فإن الكثير من معلوماتنا الحساسة تكون خاصة فقط بسبب الموقف. فمعرفة الطبيب بالتاريخ الطبي للمريض أمر ملائم؛ لكن مشاركة ذلك الطبيب نفسه لتلك التفاصيل مع جار له يعد انتهاكاً. هذا المفهوم، المعروف باسم "النزاهة السياقية" (contextual integrity)، يعني أن المعلومات ليست سرية أو عامة بطبيعتها؛ بل يعتمد وضعها تماماً على من هو معنيّ بالأمر، وما الذي يحدث، والأعراف الاجتماعية التي تحكم تلك اللحظة المحددة. ومع زيادة اندماج وكلاء الذكاء الاصطناعي في حياتنا اليومية، تكمن المخاطرة في أنهم قد يكشفون عن هذه التفاصيل الحساسة المرتبطة بالسياق عن غير قصد، ليس لأنهم تعرضوا للاختراق، بل لأنهم ببساطة لا يفهمون القواعد غير المكتوبة للموقف.

لقد طور باحثون في جامعة ديوك وجامعة فلوريدا نهجاً جديداً لحل هذه المشكلة، مبتعدين عن فكرة إضافة حواجز خارجية لأنظمة الذكاء الاصطناعي، وبدلاً من ذلك، قاموا بتعليم الأنظمة فهم الخصوصية من الداخل إلى الخارج. وفي عملهم، لاحظ الباحثون أن الأساليب الحالية لحماية الخصوصية غالباً ما تعتمد على ضوابط خارجية، مثل إضافة تعليمات خاصة إلى "الأمر" (prompt) أو استخدام ذكاء اصطناعي منفصل لمراجعة المخرجات قبل إرسالها. وبينما يمكن لهذه الأساليب أن تنجح، إلا أنها تتسم بالهشاشة وغالباً ما تتطلب من الذكاء الاصطناعي التفكير في الخصوصية بشكل صريح، وهو ما قد يؤدي في الواقع إلى كشف معلومات حساسة أثناء عملية الاستنتاج. وقد اقترح الباحثون مساراً مختلفاً: تدريب وكلاء الذكاء الاصطناعي على استيعاب معايير الخصوصية هذه بحيث يصبح حماية الخصوصية جزءاً طبيعياً من كيفية توليدهم للاستجابات، بدلاً من كونها خطوة منفصلة يجب تذكيرهم بها.

ولتحقيق ذلك، أنشأ الفريق إطار عمل تدريبي يسمى "PrivAct"، والذي يستخدم نظاماً متعدد الوكلاء لتعليم الذكاء الاصطناعي كيفية الموازنة بين كونه مفيداً وأن يكون كتومًا. فبدلاً من الاعتماد على نموذج واحد ليدرك كل شيء، قاموا بإعداد فريق صغير من وكلاء الذكاء الاصطناعي يعملون معاً. حيث يقوم وكيل واحد بتوليد الاستجابة، ووكيل ثانٍ بنقدها بحثاً عن انتهاكات الخصوصية، ووكيل ثالث بتنقيح المخرجات بناءً على ذلك النقد. ومن الأهمية بمكان أن الباحثين صمموا نظام مكافآت يشجع الوكلاء على التعلم من هذا التعاون؛ فعندما تكون المخرجات النهائية مفيدة وخالية من تسريبات الخصوصية، يحصل الفريق بأكمله على الفضل. وإذا حدث تسريب، حتى لو كان طفيفاً، يطبق النظام عقوبة صارمة تمنع الذكاء الاصطناعي من الاعتقاد بأنه يمكنه مقايضة القليل من الخصوصية بالكثير من الفائدة. هذه العملية التدريبية تجبر الذكاء الاصطناعي على تعلم أن الطريقة الوحيدة لتكون مفيداً حقاً هي أن تكون محترماً تماماً للسياق.

وقد تم اختبار نتائج هذا التدريب عبر مجموعة متنوعة من نماذج الذكاء الاصطناعي والسيناريوهات المختلفة، بما في ذلك المهام المتعلقة بالمعلومات الصحية، والبيانات المالية، والحقوق المدنية. ووجد الباحثون أن منهجهم قلل بشكل كبير من معدل تسريب المعلومات الحساسة عن غير قصد. وفي تجاربهم، قلل النهج الجديد من تسريبات الخصوصية بنسبة تصل إلى 12.32 بالمئة مقارنة بالأساليب الحالية، مع الحفاظ على نفس المستوى من الفائدة. ويعد هذا تحسناً ملحوظاً لأن العديد من التقنيات السابقة فرضت خياراً بين أن تكون آمناً أو مفيداً؛ بينما أظهرت الطريقة الجديدة أن الذكاء الاصطناعي يمكن أن يكون كلاهما معاً. علاوة على ذلك، أثبت التدريب أنه قوي؛ إذ استطاعت وكلاء الذكاء الاصطناعي الذين تدربوا على مجموعة من المهام تطبيق ما تعلموه على سيناريوهات مختلفة تماماً دون أي تعليمات إضافية، مما يشير إلى أنهم تعلموا حقاً المبادئ الأساسية للخصوصية السياقية بدلاً من مجرد حفظ قواعد محددة.

كما سلطت الدراسة الضوء على أوجه القصور في الأساليب القديمة. فقد أظهر الباحثون أن الأساليب التي تعتمد على الضوابç الخارجية غالباً ما تفشل عندما يصبح الموقف معقداً أو عندما يُطلب من الذكاء الاصطناعي التفكير في مشكلة ما خطوة بخطوة، حيث يمكن أن تصبح عملية الاستنتاج نفسها مصدراً للتسريب. وعلى النقيض من ذلك، فإن النهج الداخلي علم النماذج توليد استجابات آمنة مباشرة. وفي حالة اختبار محددة تتعلق برجل دين وأحد أفراد الرعية، كشف نموذج ذكاء اصطناعي قياسي عن غير قصد موقفاً سرياً لطرف ثالث أثناء محاولته الإجابة على سؤال عام. ومع ذلك، نجح النموذج المدرب بالمنهج الجديد في فهم حدود المحادثة وقدم استجابة مفيدة استبعدت التفاصيل الحساسة تماماً. وهذا يشحي بأن الذكاء الاصطناعي قد تعلم التعرف على الأعراف الاجتماعية للموقف والتصرف وفقاً لذلك.

وبينما تظهر هذه التكنولوجيا واعداً، يشير الباحثون إلى أنها ليست حلاً مثالياً لكل حالة. فالمنهج يتطلب ضبطاً دقيقاً (fine-tuning) للنماذج، وهو أمر قد يكون صعباً بالنسبة للأنظمة مغلقة المصدر التي لا يمكن تعديلها. بالإضافة إلى ذلك، ركزت الدراسة على أنواع محددة من مخاطر الخصوصية، ومن المرجح أن يتطلب النشر في العالم الحقيقي دمج هذا التدريب الداخلي مع تدابير سلامة أخرى. ومع ذلك، يمثل هذا العمل تحولاً كبيراً في كيفية تفكيرنا في سلامة الذكاء الاصطناعي. فبدلاً من بناء جدران حول الذكاء الاصطناعي لمنعه من ارتكاب الأخطاء، أظهر الباحثون أنه من الممكن تعليم الذكاء الاصطناعي فهم المشهد الذي يتنقل فيه، وضمان احترامه للحدود غير المرئية للخصوصية بنفس الطبيعية التي يفهم بها المهمة المنوطة به.