Personal Information Parroting in Language Models
تقدم هذه الورقة مجموعة كاشفات محسنة تعتمد على التعبيرات النمطية (regex) لتكشف أن النماذج اللغوية، لا سيما مع زيادة حجمها ومدة تدريبها، تقوم في كثير من الأحيان بحفظ وإعادة إنتاج المعلومات الشخصية حرفياً من بيانات التدريب المسبق الخاصة بها، مما يستلزم تصفية صارمة وإخفاءً للهوية في مجموعات البيانات للتخفيف من مخاطر الخصوصية.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن لديك طباخاً آلياً عملاقاً وذكياً للغاية يُدعى "النموذج". لكي يتعلم الطبخ، تم إطعام هذا الشيف مكتبة ضخمة من الإنترنت بأكمله — مليارات الوصفات، ورسائل البريد الإلكتروني، ودفاتر الهاتف، والملاحظات العشوائية.
المشكلة هي أن الناس تركوا، عن طريق الخطأ، أسرارهم الشخصية (مثل بريدهم الإلكتروني المنزلي، أو رقم هاتفهم، أو عنوان IP الخاص بهم) في منتصف تلك البيانات.
هذه الورقة البحثية تتحدث عن كيف اكتشفنا أن هذا الطباخ الآلي لا "يتعلم" من المكتبة فحسب؛ بل هو يحفظ الأسرار وهو مستعد لقولها مجدداً إذا سألته السؤال الصحيح.
إليك تفاصيل هذا الاكتشاف، باستخدام تشبيهات من الحياة اليومية:
1. "المحقق الأفضل" (مجموعة أدوات R&R)
قبل هذه الدراسة، حاول الناس البحث عن هذه الأسرار في بيانات التدريب باستخدام "أدوات بحث" بسيطة (مثل جهاز كشف المعادن الأساسي). كانت هذه الأدوات جيدة، لكنها أغفلت الكثير من الأسرار أو صنفت أرقاماً غير ضارة على أنها أسرار (مثل الرقم التسلسلي لجهاز تحميص الخبز).
قام المؤلفون ببناء مجموعة أدوات للمحقق الخبير تسمى R&R (التعبيرات النمطية والقواعد).
- التشبيه: فكر في الأدوات القديمة كطفل يبحث عن "أشياء لامعة". أما مجموعة أدوات R&R الجديدة فهي مثل محقق شرطة متمرس. هو لا يبحث فقط عن الأرقام؛ بل يتحقق من السياق. هو يعرف الفرق بين رقم الهاتف وبين سلسلة عشوائية من الأرقام في معادلة رياضية. كما أنه يعرف كيف يرصد رموز الهواتف الدولية (مثل +1) التي تجاهلتها الأدوات القديمة.
- النتيجة: وجد المحقق الجديد أسراراً أكثر بكty بكثير من الأدوات السابقة، وارتكب أخطاءً أقل.
2. مشكلة "الببغاء" (الحفظ)
أراد الباحثون معرفة ما إذا كان الطباخ الآلي قد حفظ هذه الأسرار بالفعل. استخدموا تقنية تسمى "التحفيز" (Prompting).
- التشبيه: تخيل أنك تظهر للشيف النصف الأول من جملة من كتاب وصفات، مثل "المكون السري هو..." وتسأله: "ماذا يأتي بعد ذلك؟"
- الاختبار: إذا كان الشيف "يتعلم" فقط مفهوم الطبخ، فقد يخمن مكوناً عاماً مثل "الملح". ولكن إذا كان الشيف يحفظ كتاباً معيناً، فقد ينطق فجأة بالمكون السري المكتوب في ذلك الكتاب تحديداً، حتى لو كان عنوان بريد إلكتروني خاص بشخص ما.
لقد وجدوا أن الروبوت هو ببغاء.
- الإحصائية الصادمة: حتى النسخة الأصغر من الروبوت (والتي لا تزال ضخمة) كررت معلومات خاصة حرفياً بنسبة 2.7% من الوقت.
- الروبوت الكبير: الروبوت الأكبر والأكثر تقدماً كرر هذه الأسرار بنسبة 13.6% من الوقت.
3. عوامل "الحجم والوقت"
بحثت الدراسة في كيفية تأثير حجم الروبوت ومدة دراسته على ذاكرته.
- الأكبر هو الأسوأ: تماماً كما أن الطالب الذي يدرس لفترة أطول ويمتلك دماغاً أكبر قد يتذكر تفاصيل أكثر دقة، فإن النموذج الأكبر هو الأكثر حفظاً.
- الوقت مهم: حتى لو أوقفت الروبوت في منتصف عملية التدريب (مثل إيقاف طالب في منتصف العام الدراسي)، فإنه قد حفظ بالفعل الأسرار. هو لا يحتاج لإنهاء الدورة التدريبية كاملة ليبدأ في تسريب المعلومات الخاصة.
4. "الببغاء الجزئي" (الأجزاء المكونة)
هناك تحول مخيف هنا. أحياناً لا يكرر الروبوت رقم الهاتف بالكامل، لكنه يكرر رمز المنطقة.
- التشبيه: إذا سألت الروبوت عن رقم هاتف، فقد لا يعطيك الـ 10 أرقام كاملة. لكنه قد يقول بثقة: "أوه، هذا رقم يبدأ بـ 212!" (وهو رمز منطقة مدينة نيويورك).
- الخطر: حتى معرفة رمز المنطقة فقط يمكن أن تخبرك أين يعيش الشخص. وجدت الدراسة أن الروبوت كان أكثر عرضة بخمس مرات لتكرار رمز المنطقة فقط مقارنة بالرقم الكامل. الأمر يشبه تذكر الروبوت للرمز البريدي مع نسيانه لاسم الشارع، وهو لا يزال تسريباً للخصوصية.
5. الحل: "تنظيف المكتبة"
خلص المؤلفون إلى أننا لا يمكننا الاعتماد فقط على كون الروبوت "مهذباً" ولا يشارك الأسرار. الروبوت يفعل بالضبط ما تم تدريبه عليه: التنبؤ بالكلمة التالية بناءً على ما رآه.
الإصلاح:
نحن بحاجة إلى تنظيف المكتبة قبل أن يراها الروبوت على الإطلاق.
- التشبيه: إذا كنت لا تريد من طفل أن يحفظ عنوان منزلك، فلا يجب أن تكتبه على صفحات كتب القصص التي يقرؤها من الأساس.
- التوصية: يجب على الأشخاص الذين يبنون هذه النماذج الذكية أن يقوموا بفحص بيانات التدريب بشكل صارم ومسح جميع رسائل البريد الإلكتروني، وأرقام الهواتف، وعناوين IP قبل بدء التدريب. يجب عليهم استخدام أدوات مثل مجموعة أدوات R&R التي صنعوها للتأكد من أن "المكتبة" آمنة.
الملخص
هذه الورقة البحثية هي بمثابة جرس إنذار. إنها تثبت أن نماذج الذكاء الاصطنا bile تشبه ببغاوات فائقة الحفظ يمكنها عن طريق الخطأ تسريب معلوماتك الخاصة بمجرد طرح سؤال بسيط عليها. كلما كان النموذج أكبر، كان التسريب أسوأ. الحل الوحيد هو أن نكون حذرين جداً بشأن ما نغذيها به في المقام الأول.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.