Chat First, Worry Later: Understanding Individuals' Privacy Perceptions Using ChatGPT in a Work Context
تكشف دراسة استقصائية أجريت على ٢٢٤ من المهنيين أنه في حين ترتبط السياسات التنظيمية إيجابياً بالكفاءة في استخدام ChatGPT، إلا أن الكفاءة الإجمالية تظل منخفضة، كما أن المخاوف المتزايدة بشأن الخصوصية تقلل بشكل كبير من وتيرة وتنوع استخدام ChatGPT، لا سيما في المؤسسات التي تفتقر إلى إرشادات محددة بشأن الذكاء الاصطو التوليدي.
المؤلفون الأصليون:Christoph Nirschl, Magdalena Glas, Gerhard Messmann, Günther Pernul
في مكان العمل الحديث، وصل نوع جديد من المساعدين، وهو نوع يمكنه كتابة رسائل البريد الإلكتروني، وتلخيص التقارير، وصياغة الأكواد البرمجية بسرعة تبدو بشرية تقريبًا. هذا المساعد هو أداة ذكاء اصطناعي توليدي، وهي نوع من برامج الكمبيوتر المدربة على كميات هائلة من النصوص من الإنترنت. تعمل هذه البرامج، التي تُسمى غالبًا نماذج لغوية كبيرة، من خلال التنبؤ بالكلمة التي يجب أن تأتي بعد ذلك في الجملة، مما يسمح لها بتوليد استجابات متماسكة ومفيدة لأي سؤال تقريبًا. وبينما تعد هذه الأدوات بجعل العمل أسهل وأسرع، إلا أنها تأتي بتكلفة خفية: فالمعلومات التي تكتبها فيها قد لا تظل خاصة. ولأن هذه الأنظمة مدربة على بيانات تتضمن تفاصيل شخصية، فإن هناك خطرًا حقيقيًا من أن يتم الكشف عن معلومات حساسة حول المرضى أو العملاء أو الزملاء عن غير قصد أو تخزينها بطرق قد تخل بالأمن. وهذا يخلق موقفًا صعبًا للعاملين الذين يرغبون في استخدام هذه الأدوات من أجل الكفاءة ولكنهم يخشون العواقب المترتبة على مشاركة الكثير من المعلومات.
لفهم كيفية تعامل الناس مع هذا التوتر، أجرى باحثون في جامعة ريغنسبورغ في ألمانيا دراسة شملت 224 مهنيًا من مختلف الصناعات، بما في ذلك تكنولوجيا المعلومات والرعاية الصحية والتعليم. أراد الباحثون معرفة كيف أثرت ثلاثة أشياء محددة على ما إذا كان الناس سيستخدمون هذه الأدوات وكيفية استخدامهم لها: القواعد التي يضعها أصحاب العمل، ومخاوف الخصوصية الشخصية لديهم، ومدى فهمهم الفعلي لكيفية تعامل الأداة مع بياناتهم. ووجد الباحثون أنه عندما كانت المؤسسات تمتلك إرشادات واضحة بشأن استخدام هذه الأدوات، كان موظفوها يعرفون أكثر عن كيفية عمل هذه التكنولوجيا. وتحديدًا، كان العمال في الشركات التي لديها سياسات أفضل في الإجابة على الأسئلة المتعلقة بكيفية تخزين الأداة للمعلومات ومعالجتها. ومع ذلك، حتى مع وجود هذه القواعد، كان المستوى العام للفهم بين جميع المشاركين منخفضًا للغاية، حيث أصاب معظم الناس حوالي ثلث الحقائق فقط.
كشفت الدراسة عن نمط واضح في سلوك الناس. فأولئك الذين كانوا قلقين بشدة بشأن الخصوصية استخدموا الأدوات بشكل أقل وتمسكوا بنطاق أضيق من المهام. وكان هذا التردد أكثر وضوحًا بين العمال الذين ليس لدى شركاتهم قواعد على الإطلاق؛ ففي غياب التوجيه الرسمي، اعتمد هؤلاء الأفراد كليًا على مخاوفهم ومعرفتهم لاتخاذ قرار بشأن ما هو آمن. وفي المقابل، بالنسبة للعمال في المؤسسات ذات السياسات القائمة، لم يبدُ أن مستوى قلقهم الشخصي يغير مدى تكرار استخدامهم للأداة أو ما يستخدمونه من أجلها. بدا أن القواعد نفسها توفر شعورًا بالهيكلية يسمح لهم باستخدام التكنولوجيا بشكل أوسع، بغض النظر عن قلقهم الشخصي. ومن المثير للاهتمام، وجد الباحثون أن النوع المحدد للقاعدة — سواء كانت تقيد من يمكنه استخدام الأداة أو كيفية استخدامها — لم يشكل فرقًا كبيرًا في السلوك. فقد بدا أن مجرد وجود سياسة هو العامل الأهم في تشكيل كيفية تفاعل الموظفين مع التكنولوجيا.
كانت واحدة من أكثر النتائج إثارة للدهشة هي سوء الفهم الواسع النطاق حول كيفية حماية هذه الأدوات للبيانات. فقد اعتقد جميع المشاركين تقريبًا في الدراسة أن المعلومات التي يكتبونها في الدردشة يتم إخفاؤها أو إخفاء هويتهم تلقائيًا لحمايتهم. وفي الواقع، لا تضمن الإعدادات القياسية للأداة ذلك، ويمكن استخدام البيانات لتدريب الإصدارات المستقبلية من النظام. وتوحي هذه الفجوة بين ما يعتقده الناس وما يحدث بالفعل بوجود العديد من العمال الذين يستخدمون هذه الأدوات القوية وهم يعملون تحت افتراضات خاطئة حول سلامتها. وخلص الباحثون إلى أنه بينما تساعد السياسات التنظيمية الناس على فهم التكنولوجيا بشكل أفضل، إلا أنها لا تعالج تلقائيًا النقص الأساسي في المعرفة. فبدون معلومات واضحة ودقيقة، قد يستمر حتى العمال ذوو النوايا الحسنة في كشف البيانات الحساسة، ليس لأنهم مهملون، بل لأنهم ببساطة لا يعرفون أن المخاطر حقيقية.
ملخص تقني: الدردشة أولاً، والقلق لاحقاً: فهم تصورات الأفراد للخصوصية باستخدام ChatGPT في سياق العمل
بيان المشكلة تعمل أدوات الذكاء الاصطناٍعي التوليدي (GenAI)، ولا سيما النماذج اللغوية الكبيرة (LLMs) مثل ChatGPT، على تحويل روتين العمل بسرعة عبر قطاعات مثل التعليم والرعاية الصحية وتكنولوجيا المعلومات. وبينما توفر هذه الأدوات مكاسب في الكفاءة، فإن دمجها يثير مخاوف كبيرة بشأن الخصوصية. تعتمد النماذج الأساسية للذكاء الاصطناعي التوليدي على مجموعات ضخمة من النصوص، والتي غالباً ما تتضمن محتوى من إنشاء المستخدمين، وتمتلك القدرة على حفظ واستعادة البيانات الحساسة المستخدمة في التدريب عن غير قصد. علاوة على ذلك، قد يتم تخزين مدخلات المستخدم واستخدامها لمزيد من تدريب النماذج، أو التعرض للثغرات التقنية والهجمات المستهدفة.
رغم هذه المخاطر، هناك فجوة في فهم كيفية إدراك الأفراد لمخاطر الخصوصية هذه في الإطار المهني، وكيف تؤثر هذه التصورات على سلوك الاستخدام الفعلي. لقد ركزت الأبحاث السابقة إلى حد كبير على التبني الأولي للتكنولوجيا (على سبيل المثال، استخدام نموذج قبول التكنولوجيا) أو مخاوف الخصوصية العامة، وغالباً ما فشلت في التمييز بين مواقف الخصوصية العامة والكفاءة التقنية المحددة المتعلقة بكيفية معالجة ChatGPT للبيانات وتخزينها. بالإضافة إلى ذلك، لا يزال دور السياسات التنظيمية في تشكيل هذه السلوكيات والكفاءات غير مستكشف بشكل كافٍ.
المنهجية أجرى المؤلفون دراسة كمية للمستخدمين شملت N=224 مشاركاً من مختلف قطاعات التوظيف في أوروبا الذين يدمجون ChatGPT في روتين عملهم. استخدمت الدراسة استطلاعاً عبر الإنترنت مستضافاً على Google Forms، تم توزيعه عبر Prolific Academic والتواصل عبر البريد الإلكتروني المستهدف.
المفاهيم والمقاييس:
السياسات التنظيمية: تم تقييمها عبر تنسيق متعدد الاستجابات لتحديد وجود ونوع إرشادات الذكاء الاصطناٍعي التوليدي (صُنفت إلى "قيود المستخدم" فيما يتعلق بمن يمكنه استخدام الأداة، و"قيود الاستخدام" فيما يتعلق بكيفية استخدامها).
مخاوف الخصوصية المتكاملة: مفهوم جديد تم تطويره عبر تكييف مقاييس راسخة (مثل Smith et al., 1996; Dinev and Hart, 2006a) لالتقاط التصورات الذاتية للمخاطر المتعلقة بالكشف عن المعلومات الشخصية لأطراف ثالثة. تم القياس باستخدام مقياس ليكرت خماسي النقاط.
كفاءة ChatGPT: مفهوم جديد صُمم خصيصاً لتقييم المعرفة الصريحة بآليات تخزين ومعالجة البيانات في ChatGPT. تم قياس ذلك باستخدام 11 سؤالاً معرفياً بصيغة "صواب/خطأ" مستمدة مباشرة من سياسات الخصوصية والوثائق التقنية الرسمية لشركة OpenAI.
سلوك الاستخدام: تم قياسه من خلال مقياسين: تكرار الاستخدام (مقياس ليكرت رباعي النقاط) وحالات الاستخدام (عدد أنواع التطبيقات المختلفة المختارة من قائمة تضم ثمانية أنواع).
تحليل البيانات: استخدمت الدراسة الإحصاء الوصفي، واختبارات t، وتحليلات الارتباط، ونمذجة المسار باستخدام Mplus 8 لفحص التأثيرات المباشرة وغير المباشرة. كما ضبط التحليل المتغيرات الديموغرافية ذات الصلة (الجنس، العمر، التعليم).
المساهمات الرئيسية
تطوير مفهوم جديد: تقدم الورقة "كفاءة ChatGPT" كمقياس متميز، متجاوزة الكفاءة التكنولوجية العامة لتقيس تحديداً فهم المستخدمين لسياسات خصوصية البيانات والوظائف التقنية للأداة.
تكامل مفاهيم الخصوصية: يقترح المؤلفون "مخاوف الخصوصية المتكاملة"، وهو إطار موحد يجمع عناصر مخاطر الخصوصية المتصورة والمخاوف لالتقاط الموقف الذاتي تجاه الكشف عن البيانات في سياق الذكاء الاصطناٍعي التوليدي بشكل أفضل.
التركيز السياقي: على عكس الدراسات السابقة التي تركز على التبني الأولي أو الاستخدام العام، تستهدف هذه الدراسة المستخدمين المستقرين في سياق العمل، وتفحص التفاعل بين الحوكمة التنظيمية، والمعرفة الفردية، وأنماط الاستخدام الفعلية.
الرؤية الكمية: توفر الدراسة أدلة كمية على العلاقة بين السياسات التنظيمية، وتصورات الخصوصية، وسلوك الاستخدام، مما يعالج فجوة حيث اعتمدت الأعمال السابقة بشكل كبير على المقابلات النوعية أو الملاحظات القائمة على التجربة.
النتائج
السياسات التنظيمية والكفاءة: ترتبط السياسات التنظيمية ارتباطاً إيجابياً معنوياً بكفاءة ChatGPT. أظهر الموظفون في المؤسسات ذات السياسات القائمة فهماً أفضل لكيفية تخزين ومعالجة ChatGPT للبيانات مقارنة بمن ليس لديهم سياسات.
انخفاض الكفاءة الإجمالية: رغم الارتباط الإيجابي، وُجد أن كفاءة ChatGPT الإجمالية منخفضة، حيث تم التحقق من صحة 36% فقط من العبارات القائمة على المعرفة. لوحظ تصور خاطئ بارز: اعتقد 90% من المشاركين خطأً أن معلوماتهم الشخصية يتم إخفاء هويتها تلقائياً.
تأثير مخاوف الخصوصية: أثرت مستويات مخاوف الخصوصية المتكاملة الأعلى سلباً على كل من تكرار استخدام ChatGPT وتنوع تطبيقاته. كان هذا التأثير السلبي أكثر وضوحاً بين المستخدمين في المؤسسات التي تفتقر إلى سياسات الذكاء الاصطناٍعي التوليدي، مما يشير إلى أن هؤلاء الأفراد يعتمدون فقط على مخاوفهم ومعارفهم الشخصية لتوجيه سلوكهم.
الدور المعدل للسياسات: في المؤسسات ذات السياسات القائمة، لم يكن تأثير مخاوف الخصوصية الفردية والكفاءة على سلوك الاستخدام معنوياً. يشير هذا إلى أن الإرشادات التنظيمية قد تطغى على أو توحد عمليات صنع القرار الفردية فيما يتعلق بالاستخدام.
أنواع السياسات: لم تجد الدراسة فرقاً معنوياً في تأثير "قيود المستخدم" مقابل "قيود الاستخدام" على سلوك الأفراد في الاستخدام.
تنوع الاستخدام: استخدم المشاركون في المؤسسات التي لديها سياسات ChatGPT لمجموعة أوسع من التطبيقات مقارنة بمن ليس لديهم سياسات.
الأهمية والادعاءات تدعي الورقة أنها الأولى التي تقدم رؤى كمية حول السلوك المدفوع بالخصوصية لمستخدمي ChatGPT تحديداً داخل سياق العمل. وتبرز أنه بينما تنجح السياسات التنظيمية في تعزيز الفهم التقني للمستخدمين (الكفاءة) فيما يتعلق بمعالجة البيانات، إلا أنها لا تقضي بالضره على مخاوف الخصوصية. بدلاً من ذلك، يبدو أن السياسات تعزز الاستخدام الأكثر تنوعاً من خلال توفير توجيه مهيكل، بينما يترك غياب السياسات المستخدمين عرضة للاعتماد على الافتراضات الشخصية التي قد تكون غير دقيقة (مثل الاعتقاد في إخفاء الهوية التلقائي) أو مخاوف الخصوصية المقيدة التي تحد من فائدة الأداة.
يخلص المؤلفون بتواضع إلى أن التوجيه التنظيمي المهيكل هو عامل حاسم في تحسين كفاءة المستخدم وتمكين الاستخدام الفعال والمتنوع للذكول الاصطناٍعي التوليدي، مع الإقرار بأن فجوات كبيرة في معرفة المستخدمين فيما يتعلق بخصوصية البيانات لا تزال قائمة حتى في البيئات المنظمة. لا تقترح الدراسة حلولاً تقنية جديدة أو تطبيقات مستقبلية، بل تقدم أدلة تجريبية لتوجيه عملية صنع السياسات التنظيمية واستراتيجيات تعليم المستخدمين.