Algorithmic manipulation and mental self-determination: Operationalizing freedom of thought as a neuroright
تجادل هذه المقالة بأن الأطر القانونية الحالية تفشل في حماية عملية تكوين الفكر المعرفي من التلاعب الخوارزمي غير الجراحي، وتقترح إضفاء الصبغة التشغيلية على "تقرير المصير الذهني" كحق عصبي محدد يتضمن عتبة مكونة من أربعة عوامل للتمييز قانونياً بين التلاعب غير المشروع والتأثير المشروع.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
لطالما اعتُبر العقل البشري ملاذاً خاصاً، مكاناً تتشكل فيه الأفكار في صمت، بعيداً عن أي تدخل خارجي. ولعقود من الزمن، حمت القوانين الدولية هذا الفضاء الداخلي، المعروف باسم "المجال الداخلي" (forum internum)، باعتباره حقاً مطلقاً لا يمكن لأي حكومة أو تكنولوجيا انتهاكه. صُممت هذه الحماية في الأصل لمنع إجبار الناس على تغيير معتقداتهم أو معاقبتهم على ما يفكرون فيه. ومع ذلك، ظهر نوع جديد من التهديدات لا يتطلب أسلاكاً أو غرسات أو وصولاً مباشراً إلى الدماغ؛ بل يأتي من الخواروات اليومية التي تشغل وسائل التواصل الاجتماعي، وخلاصات الأخبار، والتسوق عبر الإنترنت. هذه الأنظمة لا تقرأ عقولنا مباشرة، بل تراقب سلوكنا، وتتعلم عاداتنا، وتنسق العالم من حولنا ببراعة لتوجيه خياراتنا. والخطر يكمن في أننا غالباً ما نشعر بأننا نتخذ قراراتنا بأنفسنا، حتى عندما تكون تلك القرارات قد تمت هندستها بعناية بواسطة برنامج كمبيوتر لاستغلال نقاط ضعفنا.
لقد فحص باحثان من جامعة هانوي للقانون، هما "ثي لونغ نغوين" و"نجوك هيب تران"، ما إذا كانت قوانيننا الحالية قوية بما يكفي لوقف هذا التأثير غير المرئي. ويجادلان بأن القواعد الحالية، التي تركز على حماية البيانات الشخصية أو تنظيم أنواع محددة من الذكاء الاصطائي، تغفل المشكلة الحقيقية. فالمشكلة لا تتعلق فقط بمن يرى معلوماتنا، بل بكيفية إعادة تشكيل قدرتنا على التفكير في أنفسنا بهدوء. يقترح المؤلفان أننا بحاجة إلى فهم "تقرير المصير الذهني" ليس كحق جديد تماماً، بل كتطبيق حديث للحق القديم في حرية الفكر. كما يقترحان مجموعة واضحة من الشروط للتمييز بين الإقناع الطبيعي والتلاعب غير القانوني، مما يوفر وسيلة لحماية سلامة تفكيرنا في عصر رقمي لا تلمس فيه أقوى الأدوات أدمغتنا على الإطلاق.
بدأ الباحثان بالنظر في الفجوة في الحماية القانونية الحالية. ووجدا أن القوانين مثل قانون الذكاء الاصطناعي التابع للاتحاد الأوروبي ولوائح خصوصية البيانات ليست مصممة للإمساك بالضرر الناجم عن التلاعب الخوارزمي. فعلى سبيل المثال، يحظر قانون الذكاء الاصطناعي الأنظمة التي تستخدم تقنيات خفية لتشويه السلوك، لكنه يتطلب إثبات أن الشركة "قصدت" التلاعب وأن النتيجة تسببت في ضرر ملموس وكبير. وهذا معيار مرتفع يمكن للعديد من الخوارزميات اليومية تجاوزه بسهولة. فهذه الأنظمة غالباً ما تُصمم لزيادة التفاعل أو المبيعات، وليس لخداع الناس صراحة، وعادة ما تكون آثارها عبارة عن تحول بطيء وتدريجي في كيفية رؤيتنا للعالم بدلاً من كونها خطأ واحداً دراماتيكياً. وبالمثل، تركز قوانين حماية البيانات على جمع المعلومات وتخزينها؛ فهي تسأل ما إذا كنا قد وافقنا على استخدام بياناتنا، لكنها لا تسأل ما إذا كانت طريقة استخدام تلك البيانات توجه أفكارنا سراً. ويرى المؤلفان أن هذا يترك ثغرة هيكلية في القانون: إذ يمكن لنظام ما أن يتبع جميع قواعد خصوصية البيانات وسلامة الذكاء الاصطناعي، ومع ذلك يظل قادراً بفعالية على اختطاف العملية التي يصيغ بها الشخص حكمه.
لفهم كيفية حدوث ذلك، يصف المؤلفان عملية تبدأ قبل وقت طويل من رؤية المستخدم لمنشور أو إعلان معين. يقوم النظام أولاً ببناء نموذج مفصل للمستخدم، ويتعلم محفزاته العاطفية، ولحظات ضعفه، وما يجذب انتباهه. وهذا يخلق خللاً هائلاً في المعرفة: فالكمبيوتر يعرف نقاط ضعف المستخدم بشكل أفضل مما يعرفها المستخدم نفسه. ثم يستخدم النظام هذه المعرفة لتشكيل البيئة التي تُتخذ فيها القرارات. فقد يعرض قصصاً إخبارية معينة في وقت يكون فيه المستخدم متعباً، أو يقدم خيارات بترتيب معين يجعل أحد الخيارات يبدو أكثر طبيعية مما هو عليه في الواقع. والنتيجة هي شكل من أشكال التأثير الذي يبدو كأنه تفضيل شخصي. لا يزال المستخدم يشعر بأنه هو صاحب قراراته، لكن المسار الذي اتخذه تم تمهيده سراً بواسطة خوارزمية. وهذا يختلف عن الإكراه، الذي يفرض خياراً، أو الإقناع، الذي يقدم أسباباً للموازنة بينها. إنه توجيه خفي للعقل يتجاوز التأمل الواعي.
تجادل الورقة البحثية بأنه لإصلاح هذا الأمر، يجب أن ننظر إلى الحق في حرية الفقل ليس فقط كدرع ضد غرسات الدماغ، بل كدرع ضد أي تكنولوجيا تعطل تكوين الفكر. يقترح المؤلفان اختباراً محدداً لتحديد متى تتخطى الخوارزمية الخط الفاصل بين التأثير المقبول والتلاعب غير القانوني. ويقترحان أن الممارسة لا تكون غير قانونية إلا إذا استوفت أربعة شروط في آن واحد: أولاً، يجب أن تكون طريقة التأثير مخفية عن المستخدم؛ فإذا كان المستخدم يعلم أنه مستهدف، فلا يعد ذلك تلاعباً. ثانداً، يجب أن يكون هناك خلل عميق في المعرفة، حيث يعرف النظام نقاط ضعف المستخدم بطريقة لا يستطيع المستخدم رؤيتها. ثالثاً، يجب أن يستغل النظام نقطة ضعف محددة، مثل حالة عاطفية أو فجوة معرفية، بدلاً من مخاطبة قدرة المستخدم على التفكير المنطقي. وأخيراً، يجب أن يغير التأثير العملية ذاتها التي يصل بها المستخدم إلى قراره، وليس فقط الخيارات المتاحة له.
يستند هذا الإطار إلى قضية قانونية حديثة في تشيلي، حيث أصبحت البلاد الأولى التي تمنح حقوقاً دستورية لنشاط الدماغ. في تلك القضوة، حكمت محكمة بأن شركة انتهكت حقوق سيناتور من خلال جمع بيانات دماغه دون موافقة مناسبة. يشير المؤلفان إلى أنه رغم كون هذه انتصاراً للحقوق العصبية (neurorights)، إلا أنها اقتصرت على الحالات التي يتم فيها أخذ البيانات مباشرة من الدماغ. ويعمل عملهما على توسيع هذا المنطق ليشمل العالم الرقمي، مجادلين بأن الحماية نفسها يجب أن تنطبق حتى عندما لا يتم أخذ بيانات مادية من العقل. فإذا كان الهدف من القانون هو حماية سلامة تفكيرنا، فلا يهم ما إذا كان التدخل يأتي من سلك في الجمجمة أو من تطبيق مصمم بذكاء على الشاشة. فالضرر هو نفسه: تآكل القدرة على تكوين المعتقدات الخاصة.
يقر الباحثون بأن تطبيق هذه الأفكار لن يكون سهلاً. فإثبات أن خوارزمية معينة تسببت في تغيير محدد في عقل شخص ما أمر صعب، لأن هذه الآثار غالباً ما تكون دقيقة وتراكمية. كما يحذرون من ضرماً بضرورة تطبيق الاختبار الجديد بعناً من قبل المحاكم لضمان عدم حظر جميع أشكال الإعلانات أو التوصيات عن طريق الخطأ. ومع ذلك، يخلصون إلى أنه بدون معيار واضح لما يشكل تقرير المصير الذهني، سيظل القانون أعمى عن التهديدات الأكثر انتشاراً لاستقلاليتنا. ومن خلال تعريف التلاعب عبر هذه العوامل الأربعة، يقدم المؤلفان وسيلة لحماية الحرم الداخلي للعقل البشري، وضمان أن تظل أفكارنا ملكاً لنا، حتى في عالم يتم فيه تحسين البيئة من حولنا باستمرار لتغييرنا.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.