Ethics in Online Software Experimentation: A Body of Knowledge and the Cactus Model

في العالم الرقمي، تعمل الشركات باستمرار على تعديل برمجياتها لجعلها أفضل أو أسرع أو أكثر جاذبية. قد يغيرون لون زر ما، أو يعيدون ترتيب قائمة، أو يختبرون طريقة جديدة لعرض الأسعار. ولرؤية ما إذا كانت هذه التغييرات ناجحة، غالبًا ما يجرون ما يسمى بالتجارب عبر الإنترنت. في هذه الاختبارات، يستخدم أشخاص حقيقيون البرمجيات دون أن يعرفوا دائمًا أنهم جزء من دراسة. ومن الطرق الشائعة عرض النسخة (أ) من ميزة ما لمجموعة من المستخدمين، والنسخة (ب) لمجموعة أخرى، ثم مقارنة سلوكهم. يساعد هذا النهج الشركات على معرفة ما يريده الناس، ولكنه يضع المستخدمين العاديين أيضًا في موقف يتم فيه التلاعب بخياراتهم وبياناتهم لاختبار فرضية ما. وبينما يدفع هذا الممارسة الابتكار، فإنها تثير سؤالاً هادئاً ولكن خطيراً: لمجرد أن الشركة تستطيع إجراء هذه الاختبارات، هل ينبغي لها ذلك؟ وإذا فعلت، كيف يمكنها ضمان عدم إيذاء الأشخاص الذين يجعلون البرمجيات ممكنة؟

وضع باحثان من البرازيل هدفاً للإجابة على هذه الأسئلة من خلال النظر إلى الجانب الأخلاقي لهذا الاختبار الرقمي. لاحظ الباحثان أنه بينما تجري العديد من الشركات هذه التجارب، فإن القواعد المتعلقة بمعاملة الناس بإنصاف غالباً ما تكون غامضة أو مشتتة أو يتم تجاهلها تماماً. أراد الباحثان بناء دليل واضح يمكن لفرق البرمجيات استخدامه فعلياً. لم يكتفوا بسرد أفكار مجردة حول الصواب والخطأ؛ بل جمعوا مشكلات محددة تحدث أثناء هذه الاختبارات وربطوها بطرق عملية لإصلاحها. كان هدفهم هو إنشاء نموذج (نموذج كاكتوس) يساعد الخبراء على التفكير في العواقب الأخلاقية لتجاربهم قبل إطلاق أي اختبار واحد.

لبناء هذا الدليل، بحث الباحثون في مجموعة واسعة من المعلومات الموجودة. بدأوا بالبحث عن دراسات تتعلق تحديداً بالأخلاقيات في التجارب المستمرة وعبر الإنترنت، لكنهم وجدوا القليل جداً مما كُتب حول هذا الموضوع. وإدراكاً منهم بأن المشكلة أكبر من أن تُحل بمجرد تلك الأوراق القليلة، وسعوا نطاق بحثهم. بحثوا عن القواعد الأخلاقية من مجالات ذات صلة مثل الذكاء الاصطناعي، وعلوم الحاسوب العامة، وحتى الأبحاث الطبية. قرأوا مدونات قواعد السلوك، والإرشادات التقنية، والأوراق الأكاديمية لإيجاد سمات مشتركة. ومن هذه المجموعة الضخمة من المصادر، حددوا ستة عشر مبدأً أخلاقياً رئيسياً، مثل الصدق، والعدالة، واحترام قدرة الشخص على الاختيار لنفسه. ثم تعمقوا أكثر ليجدوا ثمانية وأربعين طريقة محددة تُنتهك بها هذه المبادئ في العالم الحقيقي. على سبيل المثال، قد يكون الانتهاك هو إخفاء الغرض الحقيقي من الاختبار عن المستخدم، أو تصميم نظام يخدع الناس لاتخاذ قرارات سيئة لأنفسهم.

بمجرد انتهائهم من سرد المشكلات، وجد الباحثون ثلاثة وخمسين طريقة لحلها. لم يتركوا هذه الطرق كقائمة عشوائية؛ بل ربطوها جميعاً ببعضها البعض. فقد أظهروا أي حل محدد يعالج أي مشكلة محددة، وكيف يدعم ذلك الحل المبدأ الأخلاقي الأساسي. خلق هذا خريطة معرفية مهيكلة؛ وهي أداة تقول: "إذا رأيت هذه المشكلة، فإليك الإجراء المحدد الذي يجب عليك اتخاذه، وإليك القيمة التي يحميها هذا الإجراء". هذه الخريطة هي أساس مساهمتهم الرئيسية، وهي طريقة تفكير جديدة في هذه الاختبارات تسمى "نموذج كاكتوس" (Cactus Model).

صُمم نموذج "كاكتوس" لمساعدة المسؤولين عن هذه التجارب على اتخاذ قرارات أفضل. يأتي الاسم من فكرة نبات الصبار (الكاكتوس)، وهو نبات قوي ينجو في الظروف القاسية بامتلاكه طبقة خارجية واقية. وبالمثل، يوفر النموذج هيكلاً واقياً لاتخاذ القرارات الأخلاقية في عالم تطوير البرمجيات السريع وعالي الضغط. هو لا يخبر الفريق بما يجب فعله بالضبط، بل يعطيهم طريقة منظمة للتفكير في عواقب خياراتهم. يتكون النموذج من أربع طبقات تعمل معاً.

الطبقة الأولى تتعلق بالنظر بدقة في التجربة للعثور على المشكلات المحتملة. يسأل الفريق: "ما الذي يمكن أن يسوء؟" يستخدمون خريطة المشكلات الأخلاقية للتحقق من تصميمهم. قد يتساءلون عما إذا كان الاختبار شفافاً، أو ما إذا كان يعامل جميع المستخدمين بإنصاف، أو ما إذا كان يحترم حرية المستخدم في قول "لا". هذه الخطوة تحول المخاوف الغامضة إلى قضايا محددة يمكن تحديدها.

الطبقة الثانية تتعلق بوزن العواقب. هنا، ينظر الفريق إلى المشكلات التي وجدوها ويسألون: "لماذا قد نرغب في تجاهلها؟" غالباً ما يكون هناك سبب تجاري، مثل توفير الوقت أو جني المزيد من المال، يغري الفريق بتجاوز الضمانات الأخلاقية. يجبرهم النموذج على تدوين هذا الإغراء ثم مقارنته مباشرة بالضرر الذي قد يسببه. إنهم ينظرون إلى التأثير على ثقة المستخدمين، وخصوصيتهم، وسلامتهم. تضمن هذه الخطوة أن يكون القرار بالمضي قدماً ليس مجرد شعور داخلي، بل خياراً مبرراً حيث تكون المقايضات واضحة.

الطبقة الثالثة تتعلق باتخاذ الإجراءات. بمجرد أن يزن الفريق المخاطر والفوائد، يقررون ما سيفعلونه. يمكنهم اختيار إجراء التجربة كما هو مخطط لها، أو تغيير التصميم لإصلاح المشكلات، أو إلغاؤها تماماً. إذا قرروا المضي قدماً، يوجههم النموذج لاختيار حلول محددة من خريطتهم لحماية المستخدمين. على سبيل المثال، إذا وجدوا خطراً يتمثل في المعاملة غير العادلة، فقد يضيفون قاعدة لضمان معاملة جميع مجموعات المستخدمين بالتساوي. تحول هذه الخطوة تفكيرهم الأخلاقي إلى تغييرات ملموسة في البرمجيات أو عملية الاختبار.

الطبقة النهائية تتعلق بالتعلم من التجربة. بعد انتهاء التجربة، ينظر الفريق إلى ما حدث. يراجعون الخيارات التي اتخذوها ويرون ما إذا كانت توقعاتهم صحيحة. يدونون ما تعلموه حتى يتمكنوا في المرة القادمة التي يجرون فيها اختباراً من القيام به بشكل أفضل. هذه الخطوة حاسمة لأنها تحول تجربة واحدة إلى درس للمؤسسة بأكملها، مما يساعدهم على تجنب نفس الأخطاء في المستقبل.

اختبر الباحثون هذا النموذج باستخدام مثال من الواقع يتعلق بتطبيق توصيل أراد اختبار استراتيجيات تسعير مختلفة. أظهروا كيف يمكن لفريق استخدام النموذج لإدراك أن تغيير الأسعار لمستخدمين مختلفين قد يبدو غير عادل أو مربكاً. ومن خلال اتباع الطبقات، أدرك الفريق أنهم بحاجة إلى أن يكونوا أكثر صدقاً بشأن كيفية تحديد الأسعار وضمان عدم استهداف المستخدمين الضعفاء بشكل غير عادل. ثم استخدموا الحلول المحددة من خريطتهم لتعديل خطتهم، بإضافة تفسيرات واضحة للمستخدمين ووضع حدود لمن يمكن أن يكون جزءاً من الاختبار. أظهر هذا المثال أن النموذج لا يعمل فقط للاختبارات الفردية، بل لمجموعات من الاختبارات التي تحدث في نفس الوقت، مما يسمح للفرق بتطبيق نفس المعايير الأخلاقية عبر مشاريع مختلفة دون البدء من الصفر في كل مرة.

تخلص الدراسة إلى أنه بينما كانت الأدوات اللازمة لإجراء هذه التجارب قوية، فإن الأدوات اللازمة لتوجيهها أخلاقياً كانت مفقودة. لقد قدم الباحثون مجموعة من المعرفة ونموذج تفكير لسد هذه الفجوة. ويؤكدون أن هذا ليس حلاً نهائياً يحل كل المعضلات الأخلاقية إلى الأبد، بل هو نقطة انطلاق تجعل غير المرئي مرئياً. إنه يعطي فرق البرمجيات طريقة للتحدث عن الأخلاق بنفس اللغة التي يستخدمونها للكود والبيانات. ومن خلال جعل عملية التفكير الأخلاقي واضحة ومنظمة، يساعد النموذج في ضمان أن الدافع للابتكار لا يأتي على حساب الأشخاص الذين يستخدمون التكنولوجيا. يشير العمل إلى أنه مع وجود الإطار الصحيح، يمكن للشركات الاستمرار في التعلم من مستخدميها مع الاستمرار في معاملتهم بالكرامة والاحترام الذي يستحقونه.