ToolMinimize: Auditing and Rewriting LLM Agent Tool Calls to Minimize Privacy Exposure
تُعد ToolMinimize نظام وسيط يقوم بمراجعة وإعادة كتابة استدعاءات الأدوات الخاصة بالوكلاء البرمجيين للنماذج اللغوية الكبيرة (LLM) لتجريدها من البيانات غير الضرية والحساسة للخصوصية من خلال تحليل مدرك للمخطط وتحويلات الوسائط، محققاً بذلك خفضاً كبيراً في مخاطر الخصوصية مع الحفاظ على صحة المهام بنسبة 100%.
البحث الأصلي مُهدى إلى الملك العام بموجب CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
في المشهد الرقمي الحديث، تطورت المساعدات القائمة على الذكاء الاصطناعي من مجرد برامج دردشة بسيطة إلى وكلاء نشطين قادرين على أداء مهام معقدة. فعندما يطلب مستخدم من مثل هذا الوكيل التحقق من حالة الطقس، أو حجز رحلة طيران، أو جدولة اجتماع، لا يكتفي النظام بمجرد الرد بنص؛ بل يتواصل مع خدمات خارجية، تُعرف بالأدوات، لجمع المعلومات اللازمة وتنفيذ الطلب. تتضمن هذه العملية إرسال مجموعة محددة من التعليمات والبيانات إلى خادم تابع لجهة خارجية. وبينما تتيح هذه البنية وظائف قوية، إلا أنها تخلق ثغرة أمنية خفية: فغالباً ما يرسل الوكيل معلومات أكثر بكثير مما تحتاجه الأداة بالفعل للقيء بوظيفتها. تماماً كما قد يروي شخص ما لسايق سيارة أجرة قصة حياته الكاملة بينما لا يحتاج سوى لتزويده بعنوان الوجهة، فإن وكلاء الذكاء الاصطناعي هؤلاء غالباً ما يدرجون تفاصيل شخصية حساسة — مثل الحالات الطبية، أو الوضع المالي، أو عناوين المنازل — في طلباتهم، متجاوزين بذلك حدود الثقة بين المستخدم ومزود الخدمة.
وقد حدد باحثون في جامعة كيس ويسترن ريزرف التغير في هذا الظاهرة باعتبارها خللاً نظامياً في كيفية عمل وكلاء الذكاء الاصطناعي الحاليين. ووجدوا أنه في الظروف القياسية، يقوم هؤلاء الوكلاء بشكل روتيني بالإفراط في مشاركة البيانات الخاصة، بما في ذلك التفاصيل التي تكشف عن الحالة الصحية للمستخدم، أو موقعه، أو عاداته الشخصية، حتى عندما تتطلب الأداة المستخدمة اسم مدينة أو تاريخاً فقط. يحدث هذا الإفراط في المشاركة لأن الوكلاء مُحسَّنون ليكونوا "مفيدين"، مما يدفعهم لتضمين كل قطعة متاحة من السياق في طلباتهم، بغض النظر عما إذا كان هذا السياق آمناً للنقل أم لا. ولا تُحل المشكلة بمجرد توجيه الذكاء الاصطناعي ليكون أكثر حذراً؛ فحتى عندما يوجه المستخدمون تعليمات صريحة للنظام لتقليل مشاركة البيانات، لا يزال الوكلاء يسربون كمية كبيرة من المعلومات الحساسة. إن تدابير الأمن الحالية، التي تعمل عادةً كحارس بوابة بسيط يسمح بالطلب بالكامل أو يمنعه بالكامل، غير كافية لأنها لا تستطيع تعديل محتوى الرسالة. فإذا احتوى الطلب على مزيج من البيانات الضرورية وغير الضرورية، فإن حظر الطلب يمنع إكمال المهمة، بينما السماح به يعرض خصوصية المستخدم للخطر.
ولمعالجة ذلك، طور الفريق البحثي نظاماً جديداً يسمى ToolMinimize، والذي يعمل كمرشح متطور يقع بين وكيل الذكاء الاصطناعي والأدوات الخارجية التي يستدعيها. وبدلاً من حظر الطلبات أو الاعتماد على الذكاء الاصطناعي لفرض رقابة ذاتية، يقوم هذا النظام باعتراض كل رسالة، وتحليل البيانات المطلوبة بدقة لكي تعمل الأداة المحددة، ثم يعيد كتابة الرسالة لتجريدها من كل شيء آخر. يعمل النظام من خلال تحديد المعلومات الحساسة أولاً، مثل اسم مستشفى معين يوحي بتشخيص طبي أو عنوان شارع كامل، ثم تطبيق واحدة من أربع استراتيجيات لحماية المستخدم. يمكنه إزالة الحقول غير الضرورية بالكامل، أو تعميم تفاصيل محددة إلى فئة أوسع (مثل تغيير عنوان دقيق إلى مجرد اسم مدينة)، أو استبدال القيم الحساسة ببدائل عامة، أو تقليص البيانات إلى طول أكثر أماناً. والأهم من ذلك أن إعادة الكتابة هذه تتم دون كسر المهمة؛ حيث لا تزال الأداسة تتلقى المعلومات الدقيقة التي تحتاجها للنجاح، ولكن تظل تفاصيل المستخدم الخاصة مخفية.
اختبر الباحثون هذا النهج عبر ثلاثة نماذج رئيسية للذكاء الاصطناعي ومجموعة واسعة من السيناريوهات الواقعية، بدءاً من جدولة المواعيد الطبية وصولاً إلى البحث عن مجموعات الدعم. وكشفت قياساتهم أنه بدون تدخل، احتوت ما بين 81 و88 في المئة من استدعاءات الأدوات على بيانات خاصة غير ضرورية. وحتى عندما أضاف المستخدمون تعليمات خصوصية محددة إلى مطالباتهم، ظل الوكلاء يفرطون في المشاركة في 36 إلى 76 في المئة من الحالات. ومع ذلك، عندما كان نظام ToolMinimize نشطاً، نجح في تقليل التكلفة الخصوصية لهذه التفاعلات بنسبة تتراوح بين 81 و92 في المئة، مع الحفاظ على معدل نجاح مثالي للمهام التي يتم تنفيذها. وقد أثبت النظام فعاليته حتى عند التعامل مع بيانات معقدة قد تغفل عنها أدوات الخصوصية التقليدية، مثل اسم مركز علاج السرطان، والذي رغم أنه ليس معرفاً مباشراً، إلا أنه يشير بوضوح إلى حالة صحية خطيرة. ومن خلال الجمع بين الفهم العميق لما تتطلبه كل أداة والتحليل الدقيق للبيانات المرسلة، يضمن النظام مرور الحد الأدنى الضروري فقط من المعلومات عبر حدود الثقة.
إن أداء هذا النظام يتسم بالمتانة والكفاءة. ففي الاختبارات الحية التي شملت مئات استدعاءات الأدوات، عالج الوسيط البرمجي الطلبات في جزء من الثانية، مما أضاف تأخيراً طفيفاً لا يُذكر لتجربة المستخدم. ووجد الباحثون أيضاً أن النظام يعمل بفعالية عبر أنواع مختلفة من أطر البرمجيات ويمكنه التعامل مع الأدوات التي لا تملك تعليمات مفصلة حول ما هو ضروري تماماً للبيانات. وفي الحالات التي اضطر فيها النظام للتخمين بشأن المتطلبات، تمكن مع ذلك من تقليل التعرض للخصوصية بنسبة تقارب 80 في المئة. وعندما أضيفت طبقة اختيارية لتحليل المحتوى المحدد للحقول النصية الحرة، ارتفع انخفاض مخاطر الخصوصية إلى مستويات أعلى، ليصل إلى أكثر من 95 في المئة في بعض الحالات. وهذا يثبت أن مشكلة الإفراط في المشاركة ليست نتيجة لنقص حذر المستخدم أو ضعف تدريب الذكاء الاصطناعي، بل هي مسألة هيكلية في كيفية تواصل الوكلاء مع الخدمات الخارجية.
وتستبعد الدراسة صراحةً فكرة أن تدريبات السلامة الحالية أو مطالبات الخصوصية البسيطة كافية لحل هذه المشكلة. وتظهر البيانات أن أكثر النماذج تقدماً تستمر في تسريب المعلومات الحساسة عندما تُترك لشأنها، مدفوعة بهدفها الجوهري المتمثل في أن تكون مفيدة قدر الإمكان. علاوة على ذلك، تجادل الدراسة بأن حظر الطلبات بأكملها ليس حلاً قابلاً للتطبيق، لأن ذلك سيجعل الوكلاء عديمي الفائدة للعديد من المهام الشائعة. بدلاً من ذلك، تشير النتائج إلى ضرورة وجود حل وسط: نظام يفهم دقة تقليل البيانات، ويميز بين ما هو أساسي للمهمة وما هو مجرد سياق. ومن خلال إعادة كتابة وسائط استدعاء الأدوات بدلاً من رفضها، يحافظ هذا النهج على فائدة الوكيل مع تقليل خطر التعرض للخصوصية بشكل جذري.
في نهاية المطاف، يقدم العمل المعروض في هذه الورقة مساراً عملياً لتأمين الجيل القادم من مساعدات الذكاء الاصطناعي. فهو ينقل التركيز من محاولة تدريب الذكاء الاصطناعي ليكون أقل فائدة إلى بناء طبقة واقية تضمن ألا تأتي فائدة الذكاء الاصطناعي على حساب خصوصية المستخدم. وتشير النتائج إلى أنه من الممكن امتلاك وكلاء يتمتعون بقدرات عالية وفي الوقت نفسه يحترمون الحدود الشخصية، بشرط أن يتم تنسيق البيانات التي يرسلونها بعناية قبل مغادرتها لجهاز المستخدم. ومع زيادة دمج هذه الأنظمة في الحياة اليومية، ستكون القدرة على تجريد التفاصيل غير الضرورية تلقائياً أمراً ضرورياً للحفاظ على الثقة والسلامة في عالم مترابط بشكل متزايد.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.