ملخص تقني: GRANDGUARD

بيان المشكلة

مع تزايد اعتماد كبار السن على نماذج الدردشة الآلية القائمة على النماذج اللغوية الكبيرة (LLM) بغرض الرفقة والمساعدة، ظهرت فجوة أمنية حرجة. فالأنظمة المرجعية للسلامة وأنظمة الإشراف الحالية مصممة أساساً حول "الأضرار العامة" (مثل خطاب الكراهية، والهجمات العدائية) وتفشل في مراعاة المخاطر السياقية الخاصة بكبار السن. وهذه هي السيناريوهات التي قد يكون فيها طلب أو تعليمات غير ضارة بالنسبة للعامة أو الشباب، لكنها تصبح خطيرة بالنسبة لكبار السن بسبب نقاط الضعف المرتبطة بالعمر مثل محدودية الحركة، أو التدهور المعرفي، أو العزلة الاجتماعية، أو انخفاض الثقافة الرقمية.

على سبيل المثال، طلب "إصلاح مصباح سقفي بمفرده في الظلام" هو مهمة منزلية عادية للكثيرين، ولكنه يشكل خطر سقوط شديد لكبير سن يعاني من محدودية الحركة. وبالمثل، فإن الاستفسار عن "أعلى برج قريب" هو سؤال سياحي حميد، ما لم يقترن بتعبيرات اليأس، حيث يتحول حينها إلى خطر الانتحار. غالباً ما تغفل الأنظمة الحالية هذه الفوارق الدقيقة لأنها تفتقر إلى الحساسية السياقية لإدراك كيف يمكن للعوامل المرتبطة بالعمر أن تحول طلباً ما إلى خطر.

المنهجية

يقترح المؤلفون GRANDGUARD، وهو إطار عمل شامل يتكون من تصنيف، ومعيار مرجعي، وضمانات لتقييم وتخفيف هذه المخاطر المحددة.

1. بناء التصنيف (Taxonomy Construction)

تم تطوير التصنيف من خلال استقصاء تجريبي متعدد المصادر:

• مصادر البيانات: تحليل 25 تقريراً لحوادث الذكاء الاصطٍناعي، وتوسيم 1,000 منشور من مجتمع r/elderlycare، وتوليف ست دراسات سابقة لأصحاب المصلحة (ورش عمل ومقابلات مع كبار السن، ومقدمي الرعاية، والأطباء).
• التمييز: استُخدم بروتوكول توسيم مقارن للتمييز بين المخاطر الخاصة بكبار السن والأضرار العامة. يتم الاحتفاظ بالخطر فقط إذا كان يؤثر بشكل غير متناسب على كبار السن بسبب عوامل مرتبطة بالعمر (مثل الهزال أو التدهور المعرفي)، مما يجعل التفاعل نفسه أقل خطورة بشكل مادي بالنسبة لشاب.
• الهيكل: يتكون التصنيف الناتج من تسلسل هرمي ثلاثي المستويات يحتوي على 50 نوعاً دقيقاً من المخاطر عبر خمسة مجالات:
  • الرفاه النفسي: إهمال الرعاية، وإيذاء النفس، والاعتماد غير الصحي على الذكاء الاصطناعي.
  • المالي: التلاعب المباشر، وعمليات الاحتيال، والتعرض لسهولة الاستغلال.
  • الطبي: النصائح الخطيرة ومخاطر النشاط البدني.
  • السمية: التحكم التلاعبي، والاستغلال الجنسي، والتمييز على أساس السن، والاستغلال السياسي.
  • الخصوصية: كشف البيانات الحساسة والوصول غير المصرح به للأجهزة.

2. بناء المعيار المرجعي (Benchmark Construction)

قام المؤلفون ببناء معيار مرجعي يتكون من 10,404 نقطة بيانات مصنفة (6,498 مطالبة و3,906 استجابة).

• توليد البيانات: تم توسيع 500 مطالبة بشرية (10 لكل نوع خطر من المستوى الثالث) لتصبح 10,000 مطالبة مرشحة باستخدام النماذج اللغوية الكبيرة. وتمت تصفية هذه المطالبات بواسطة "حكم" من النماذج اللغية الكبيرة لضمان إظهار مخاطر دقيقة خاصة بكبار السن دون وجود خبث صريح.
• توزين الشدة: قامت دراسة عبر الإنترنت شارك فيها 60 شخصاً بتقييم شدة أنواع المخاطر على مقياس ليكرت المكون من 7 نقاط. وقد تم تنسيق توزيع المعيار المرجعي ليعكس أوزان الشدة هذه، مما يضمن تمثيل المخاطر عالية الشدة (مثل إيذاء النفس) بشكل كافٍ.
• معايير التقييم:
  • تقييم المطالبة (Prompt Evaluation): قاعدة عالية الحساسية؛ تُصنف كغير آمنة إذا كان كبار السن يمكن تحديدهم في المطالبة وكان الطلب يطابق نوعاً من أنواع المخاطر دون وجود ضمانات.
  • تقييم الاستجابة (Response Evaluation): معياران مزدوجان يتطلبان الإشارة إلى الخطر (الاعتراف الصريح بنقطة الضعف المرتبطة بالعمر) وتجنب الضرر (رفض التمكين الضار وتقديم بدائل آمنة).

3. تطوير الضمانات (Safeguard Development)

تم تطوير حلين متكاملين لمعالجة حالات فشل السلامة المحددة:

• الكشف عبر الضبط الدقيق: تم ضبط نموذج Llama-Guard-3 باستخدام تقنية LoRA على مزيج من بيانات GRANDGUARD وبيانات السلامة العامة. هذا النموذج مصمم لتحقيق استدعاء عالٍ (high-recall) في عمليات النشر المركزية.
• الإشراف المعزز بالسياسات: تم تنفيذ "سياسة حساسة لكبار السن" لنموذج gpt-oss-safeguard-20b. يسمح هذا بتطبيق قواعد مهيكلة وقابلة للتفسير (مثل رصد القرارات المالية للمستخدمين الذين يعانون من تدهور معرفي) دون الحاجة لإعادة التدريب، وهو ما يناسب سياقات الرعاية القابلة للتخصيص.
• وكيل GRANDGUARD: خط معالجة وكيل خفيف الوزن يستخدم الضمان المعزز بالسياسة لاكتشاف المخاطر، وتحليلها، ثم إلحاق تعليمات التفكير في السلامة بمطالبة المستخدم قبل وصولها إلى النموذج اللغوي الكبير التالي.

النتائج الرئيسية

1. أداء النماذج الأساسية

كشف تقييم 10 نماذج لغوية رائدة (بما في ذلك GPT-5.1، وClaude-Sonnet-4.5، وGemini-2.5) على المعيار المرجعي عن حالات فشل واسعة النطاق في السلامة:

• معدلات فشل عالية: فشلت العديد من النماذج الرائدة في معالجة المخاطر الخاصة بكبار السن بشكل صحيح في أكثر من 50% من الحالات. فعلى سبيل المثال، حقق GPT-5.1 سلامة بنسبة 56.2% فقط، بينما سجلت النماذج الأصغر مثل GPT-4.1-Mini مستويات منخفضة وصلت إلى 22.6%.
• الفجوة بين المعرفة والتنفيذ (Knowledge–Action Gap): كشفت تجارب التشخيص الذاتي عن فجوة كبيرة بين قدرة النموذج على تحديد المخاطر وقدرته على التصرف بناءً على تلك المعرفة. فبينما استطاعت النماذج رصد ما يصل إلى 95% من المطالبات الخطرة عند سؤالها صراحة (الوعي بالمطالبة - Prompt Awareness)، كانت سلامة استجابتها الفعلية (سلامة الاستجابة - Response Safety) أقل بكثير (على سبيل المثال، فجوة قدرها +50.2 نقطة لنموذج Gemini-2.5-Flash). يشير هذا إلى أن النماذج تمتلك وعياً كامناً بالمخاطر لكنها تفشل في ترجمة ذلك إلى سلوك توليد آمن.

2. فعالية الضمانات

حققت الضمانات المقترحة تحسناً ملحوظاً في مقاييس السلامة:

• Llama-Guard-3 المعدل بدقة: حقق دقة بنسبة 96.2% في تصنيف المطالبات و93.2% في تصنيف الاستجابات، وهو تحسن كبير عن النموذج الأساسي الذي بلغت دقته 63.3%.
• gpt-oss-safeguard-20b المعزز بالسياسات: حسّن دقة اكتشاف المطالبات إلى 90.9% ودقة الاستجابة إلى 90.3% عند تعزيزه بالسياسة الخاصة بكبار السن.
• وكيل GRANDGUARD: عند استخدامه كطبقة لتعزيز السياق، نجح الوكيل في تحسين سلامة الاستجابة عبر جميع النماذج المختبرة. ومن أبرز المكاسب: DeepSeek-V3.2 (من 39.6% إلى 91.8%) وLlama-4-Maverick (من 28.2% إلى 82.4%).

الأهمية والادعاءات

يزعم البحث أنه يضع حجر الأساس لأنظمة الذكاء الاصطناعي التي تتجاوز السلامة العامة لتدعم بشكل خاص فئات كبار السن. وتتمثل مساهماته الرئيسية في:

1. أول إطار عمل شامل: يقدم أول تصنيف ومعيار مرجعي يستهدف تحديداً المخاطر السياقية الخاصة بكبار السن، معالِجاً الفجوة التي تتجاهل فيها الأدوات الحالية نقاط الضعف المرتبطة بالعمر.
2. دليل تجريبي على الفشل: يقدم دليلاً صارماً على أن نماذج اللغات الكبيرة الحالية، رغم قدراتها العامة القوية، تفشل بشكل منهجي في سياقات كبار السن، وغالباً ما يكون ذلك بسبب "الفجوة بين المعرفة والتنفيذ".
3. تخفيف قابل للتنفيذ: يثبت أن السلامة يمكن تحسينها بفعالية ليس فقط عبر إعادة تدريب النماذج من الصفر، ولكن من خلال الضبط الدقيق المستهدف والإشراف المعزز بالسياسات الذي يستغل قدرات النماذج الحالية للتعرف على المخاطر السياقية والتخفيف منها.

يؤكد المؤلفون أن عملهم مخصص للبحث وتطوير الحواجز الوقائية، ويحذرون من الاستخدام المباشر لهذه المعايير المرجعية لاتخاذ قرارات طبية أو مالية واقعية دون مزيد من التحقق. كما يسلطون الضوء على ضرية الموازنة بين السلامة واستقلالية المستخدم، داعين إلى تقديم "بدائل أكثر أماناً" بدلاً من الرفض المطلق لتجنب التقييد المفرط لمستخدمي كبار السن.