Tracking Conversations: Measuring Content and Identity Exposure on AI Chatbots
تقيس هذه الورقة البحثية بشكل منهجي تتبع الويب في 20 من روبوتات الدردشة الآلية الشهيرة للذكاء الاصطناعي، وتكشف أن غالبية هذه الروبوتات تشارك محتوى المستخدم الحساس ومعلومات الهوية مع خدمات التحليلات والإعلانات وإعادة تشغيل الجلسات التابعة لجهات خارجية، حتى في أوضاع الدردشة الخاصة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي هي بمثابة أمين مكتبة متطور وودود. تذهب إليه، تهمس بسؤالك، فيخرج لك كتاباً ليساعدك. في الماضي، ربما كنت تعتقد: "هذه مجرد محادثة بيني وبين أمين المكتبة".
ومع ذلك، تكشف هذه الورقة البحثية أنه بينما تتحدث إلى أمين المكتبة، هناك حشد من الغرباء يقفون خلف جدار زجاجي من طرف واحد، يدونون الملاحظات، ويلتقطون الصور، بل وحتى يسجلون الصوت.
إليك تفصيل ما وجده الباحثون، باستخدام تشبيهات بسيطة:
1. الإعداد: أمناء المكتبة في "البيت الزجاجي"
دخل الباحثون إلى 20 موقعاً من أكثر مواقع روبوتات الدردشة شعبية (مثل ChatGPT، وGemini، وClaude، إلخ). لم يطرحوا أسئلة عشوائية؛ بل طرحوا سؤالاً محدداً وحساساً للغاية: "أين يمكنني الحصول على اختبار حمل بالقرب مني؟"
هذا يشبه دخولك إلى مكتبة وطلب نصيحة طبية بنبرة خافتة جداً. أراد الباحثون معرفة ما يحدث لتلك المعلومة المحددة بمجرد خروجها من فمك.
2. الكشف الكبير: "المتطفلون من الطرف الثالث"
وجدت الدراسة أن 17 من أصل 20 روبوت دردشة تشارك تفاصيل محادثتك مع شركات خارجية (أطراف ثالثة).
فكر في الأمر بهذه الطريقة: أنت تجري محادثة خاصة في غرفة، لكن الجدران مصنوعة من الزجاج، وقد دعا مالك روبوت الدردشة 17 جاراً مختلفاً للحضور والاستماع إليك.
- كاميرات "إعادة تشغيل الجلسة" (Session Replay): استخدمت ثلاثة من روبوتات الدردشة أداة تسمى "Microsoft Clarity". تخيل هذا ككاميرا مراقبة لا تسجل الغرفة فحسب؛ بل تسجل بالضبط ما قلته وما قاله أمين المكتبة رداً عليك، كنص صريح. وجد الباحثون أن هذه الكاميرات كانت ترسل النص الكامل لمحادثة "اختبار الحمل" إلى Microsoft، مما سمح لهم بقراءة استفسارك الطبي الخاص.
- بطاقات "معرف الدردشة" البريدية (Chat ID): حتى لو لم يرسل روبوت الدردشة النص الكامل، فقد أرسل 15 منها "بطاقة بريدية" إلى شركات الإعلانات والتحليلات. لم تذكر هذه البطاقة ماذا سألت، ولكنها احتوت على معرف دردشة (Chat ID) فريد أو رابط لمحادثتك المحددة. إنه يشبه إرسال ملاحظة تقول: "أنا في الغرفة 404"، إلى شركة تسويق. قد لا يعرفون ما إذا كنت قد سألت عن اختبارات الحمل بعد، لكنهم يعرفون أنك في تلك الغرفة تحديداً، ويمكنهم ربط تلك الغرفة بهويتك لاحقاً.
3. مشكلة "بطاقة الاسم"
وجد الباحثون أيضاً أن العديد من روبوتات الدردشة تسلم هويتك (اسمك، بريدك الإلكتروني، أو معرف حسابك) جنباً إلى جنب مع المحادثة.
- تسريب "أداة الدعم" (Support Widget): تحتوي بعض روبوتات الدردشة على أزرار صغيرة لـ "المساعدة" على الشاشة. عند تحميل الصفحة، تصرخ هذه الأزرطة تلقائياً باسمك وبريدك الإلكتروني لشركة بناء الزر (مثل Intercom)، حتى لو لم تنقر عليه أبداً.
- السر "المشفر" (Hashed): أرسلت بعض الروبوتات عنوان بريدك الإلكتروني، ولكن بشكل "مشفر" (Hashed). فكر في هذا كإرسال رمز سري لا يمكن إلا للمستلم فكه. إذا استخدمت نفس الرمز المشفر في موقع تسوق وموقع روبوت دردشة، فيمكن لشركات الإعلانات ربط الاثنين معاً وإدراك أن: "أوه، الشخص الذي اشترى حفاضات هو نفسه الشخص الذي يسأل عن اختبار الحمل".
4. وضع "التصفح الخفي": هل ينجح؟
تقدم العديد من روبوتات الدردشة وضع دردشة "خاص" أو "مؤقت"، واعدةً بأنه لن يتم حفظ أي شيء. اختبر الباحثون هذا.
- النتيجة: لقد نجح الأمر! في الوضع الخاص، اختفى "حشد الجيران" إلى حد كبير. انخفض عدد الشركات الخارجية التي تستمع بشكل كبير، وفي الدردشات الخاصة التي اختبروها، لم يرَ أحد نص المحادثة أو هويتك.
- العقبة: لم تذكر سياسة الخصوصية الخاصة بروبوت الدردشة صراحةً أن "الوضع الخاص يوقف تتبع المعلنين". قالت فقط إنها لا تحفظ سجل تاريخك. وجد الباحثون أن تصميم الوضع الخاص هو ما أوقف التتبع، حتى لو لم توضح القواعد ذلك بوضوح.
5. "سياسة الخصوصية" مقابل الواقع
قارن الباحثون بين ما تقوله روبوتات الدردشة (في سياسات الخصوصية الطويلة والمملة) وما تفعله فعلياً.
- عدم التطابق: كانت بعض السياسات غامضة، حيث تقول "نحن نشارك البيانات مع شركائنا". وكانت بعضها محددة ولكنها أغفلت أكبر المسربين. على سبيل المثال، ذكرت ثلاثة من روبوتات الدردلة شركاء محددين في سياساتها، لكنها نسيت ذكر Microsoft Clarity، رغم أن Clarity هي التي كانت تسجل محادثاتك الخاصة بنص صريح.
- الاستثناء: كان روبوت الدردشة Duck.ai هو "أمين المكتبة الصادق". لم يشارك البيانات مع أي شخص، بل وقام بإزالة موقعك الجغرافي قبل إرسال السؤال إلى الذكاء الاصطناعي.
الملخص
تخلص الورقة البحثية إلى أنه بينما تعد روبوتات الدردشة أدوات رائعة، إلا أنها مبنية حالياً مثل البيوت الزجاجية.
- 17 من أصل 20 روبوت دردشة يسمحون للشركات الخارجية بالتلصص.
- 3 روبوتات دردشة تسمح لهذه الشركات بقراءة أسئلتك الطبية أو الشخصية الخاصة بصوت عالٍ.
- 15 روبوت دردشة ترسل معرفاً فريداً إلى المعلنين يربط محادثتك بهويتك.
- الوضع الخاص هو "الستارة" الوحيدة التي تحجب الجيران بفعالية، لكن روبوتات الدردشة لا تخبرك دائماً بما يفعله ذلك.
يقترح الباحثون أن مالكي روبوتات الدردشة بحاجة إلى بناء جدران أفضل (تغييرات في التصميم) وأن يكونوا أكثر صدقاً بشأن من يستمع (سياسات أكثر وضوحاً).
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.