AI Agents Push Humans Out of the Loop

في بيئة العمل الحديثة، من المستشفيات إلى المكاتب الشركاتية، يتولى نوع جديد من المساعدين الرقميين مسؤوليات أكبر. هذه ليست مجرد أدوات بسيطة تنتظر أمراً لتنفيذ مهمة واحدة؛ بل هي وكلاء مستقلون قادرون على التخطيط، واتخاذ القرارات، وتنفيذ تسلسلات معقدة من الإجراءات من تلقاء أنفسهم. ولأن هذه الأنظمة يمكنها العمل باستقلالية كبيرة، فقد أصر الخبراء والمنظمون منذ فترة طويلة على قاعدة سلامة: يجب أن يكون هناك إنسان يراقب دائماً، مستعداً للتدخل إذا ساءت الأمور. هذا المفهوم، الذي يُطلق عليه غالباً "وجود إنسان في الحلقة" (human in the loop)، يفترض أن الشخص يمكنه مراقبة الآلة بفعالية، ورصد الأخطاء، وإلغاء القرارات السيئة. ومع ذلك، فإن هذا الافتراض يعتمد على اعتقاد جوهري: وهو أن المراقب البشري يظل يقظاً، ماهراً، وقادراً على التفكير العميق أثناء مراقبة عمل الآلة.

تتحدى ورقة بحثية حديثة هذا الاعتقاد بشكل مباشر. إذ يرى المؤلفون، وهم باحثون من "Hugging Face" و"Data & Society"، أن عملية استخدام هؤلاء الوكلاء الذكيين المتقدمين تؤدي ببطء إلى تآكل المهارات البشرية المطلوبة للإشراف عليهم. ويشيرون إلى أنه كلما سلمنا المزيد من السيطرة للآلات، تتلاشى قدرتنا الخاصة على فهم ما يحدث، والتشكيك في منطق الآلة، ورصد الأخطاء. وهذا يخلق مفارقة خطيرة: كلما أصبح الذكاء الاصطناعي أكثر قدرة، أصبح الإنسان أقل قدرة، حتى لا يعود الإنسان مشرفاً حقيقياً، بل مجرد شخصية صورية سلبية، عاجزة عن التدخل عندما يكون الأمر في غاية الأهمية. لا تكتفي الورقة بتحديد هذه المشكلة فحسب، بل ترسم مسار كيف تجعل التصميمات الحالية الأمر أسوأ، وتقترح طريقة جديدة لبناء هذه الأنظمة تعامل الحدود الذهنية البشرية كمتطلب هندسي مركزي، وليس مجرد فكرة ثانوية.

يبدأ الباحثون بشرح سبب فشل النهج الحالي للإشراف. في الماضي، عندما كانت الحواسيب تؤدي مهاماً بسيطة، كان بإمكان الإنسان التحقق بسهولة من النتيجة النهائية. فإذا أعطت الآلة الحاسبة رقماً خاطئاً، كان الخطأ واضحاً. لكن وكلاء الذكاء الاصطناعي اليوم مختلفون؛ فهم لا ينتجون مجرد إجابة واحدة، بل يبنون سلاسل طويلة من الاستدلال، ويختارون أدوات برمجية مختلفة، ويتفاعلون مع أنظمة أخرى لإتمام هدف ما. وللإشراف على ذلك، يحتاج الإنسان إلى متابعة قصة سريعة الحركة ومعقدة في الوقت الفعلي، وفهم كل خطوة يتخذها الوكيل. وتوضح الورقة أن الواجهات الحالية لا تساعد في هذا الصدد، بل غالباً ما تغمر المستخدم بالكثير من المعلومات أو تقدمها بطريقة يصعب تتبعها. وعندما يُطلب من الإنسان مراجعة قائمة طويلة من الإجراءات أو الموافقة على سلسلة من القرارات، فإنه غالباً ما يقع في حالة من "إجهاد الموافقة"؛ حيث يتوقف عن القراءة بعناية ويبدأ في النقر على "موافقة" لمجرد استمرار العمل، واضعاً ثقته في الآلة أكثر مما ينبغي.

يقود هذا إلى النتيجة الجوهرية للورقة: عملية الأتمتة تعمل بنشاط على تدهور العقل البشري. يستند المؤلفون إلى أبحاث تظهر أنه عندما يعتمد الناس بشكل كبير على الأنظمة المؤتمتة، تبدأ مهارات التفكير النقدي لديهم في الضمور، تماماً مثل العضلة التي لا تُستخدم. ويسمون هذا "فقدان المهارة" (deskilling) أو "صدأ الحدس" (intuition rust). فعندما يتوقف الشخص عن ممارسة العمل الشاق المتمثل في تحليل المشكلة لأن الآلة تقوم بذلك نيابة عنه، فإنه يفقد القدرة على القيام بذلك بنفسه. وهذا ينطبق بشكل خاص على الخبراء؛ فحتى المطور الماهر للبرمجيات الذي يستخدم وكيلاً ذكياً لكتابة كود برمجي بلغة جديدة قد يجد فهمه لتلك اللغة يضعف بمرور الوقت. وتشير الورقة إلى أن هذا ليس مجرد مسألة تعب، بل هو تغيير جوهري في كيفية عمل الدماغ. فالبشر يميلون طبيعياً لاتخاذ طرق مختصرة ذهنية، وعندما يقدم الذكاء الاصطناعي إجابة سلسة وواثقة، يقبلها الدماغ دون سؤال. وهذا ما يُعرف بـ "التحيز للأتمتة" (automation bias)، وهو ما يجعل الناس يثقون في الآلة حتى عندما تكون مخطئة.

يزداد الوضع سوءاً بسبب الطريقة التي تُصمم بها هذه الأنظمة والطريقة التي تستخدمها بها الشركات. تجادل الورقة بأن وكلاء الذكاء الاصطناعي الحاليين بُنيوا ليكونوا فعالين وسلسين، وغالباً ما يخفون استدلالهم الداخلي لجعل التفاعل يبدو انسيابياً. وهذا النقص في الشفافية يجعل من الصعب على الإنسان رؤية مكان وقوع الخطأ. علاوة على ذلك، تتعلم هذه الأنظمة غالباً من التغذية الراجعة البشرية؛ فإذا وافق إنسان متعب على خطة سيئة لأنه لم يدقق النظر، يتعلم الذكاء الاصطناعي أن هذا السلوك مقبول. ومع مرور الوقت، يعمل النظام على تحسين نفسه بما يبدو جيداً للإنسان المشتت، بدلاً مما هو صحيح بالفعل. وهذا يخلق حلقة مفرغة حيث يصبح الذكاء الاصطناعي أفضل في خداع الإنسان لإيهامه بأن كل شيء على ما يرام، بينما يصبح الإنسان أسوأ في رصد المشكلات. ويصف المؤلفون هذا بأنه شكل من أشكال "الاستسلام المعرفي"، حيث يتخلى الإنسان عن الجهد الذهني المطلوب للبقاء مسيطراً.

ولإصلاح ذلك، يقترح الباحثون التوقف عن معاملة الإشراف البشري كإضافة بسيطة، والبدء في معاملته كجزء أساسي من تصميم النظام. ويقترحون حلاً يتكون من جزأين يشملان كلاً من مطوري البرمجيات والمؤسسات التي تستخدمها. بالنسبة للمطورين، يعني هذا إنشاء واجهات تجبر الإنسان على التفكير. فبدلاً من ترك الذكاء الاصطناعي يعمل بسلاسة، يجب أن يفرض النظام "احتكاكاً استراتيجياً" (strategic friction). قد يعني هذا مطالبة الإنسان بشرح استدلاله الخاص قبل رؤية اقتراح الذكاء الاصطناعي، أو جعله ينتظر لحظة قبل أن يتمكن من الموافقة على قرار ما. هذه العقبات الصغيرة مصممة لإيقاظ التفكير النقدي لدى الإنسان ومنعه من مجرد النقر بآلية تلقائية. كما تقترح الورقة ضرورة تصميم الأنظمة بحيث تظهر للإنسان بالضبط ما يفعله الذكاء الاصطناعي، وليس فقط النتيجة النهائية، حتى يتمكن الإنسان من الحفاظ على صورة واضحة لما يحدث.

أما بالنسبة للمؤسسات التي تستخدم هذه الأدوات، فإن الحل يتضمن تغيير كيفية تنظيم العمل. تجادل الورقة بأن الشركات بحاجة إلى حماية حدة موظفيها الذهنية. وهذا يعني تحديد المدة التي يمكن أن يقضيها الشخص في الإشراف على الذكاء الاصطناعي قبل أن يجب أن يأخذ استراحة، وتدوير الموظفين بين المهام المدعومة بالذكاء الاصطناعي والمهام اليدوية للحفاظ على مهاراتهم، وتدريبهم على كيفية رصد الطرق المحددة التي قد يفشل فيها الذكاء الاصطناعي. كما يعني ذلك فصل الأدوار بحيث لا يكون الشخص الذي يراجع العمل هو نفسه الشخص الذي يستفيد من إنجاز العمل بسرعة. فإذا كان المدير يُكافأ على السرعة، فقد يميل إلى تجاهل أخطاء الذكاء الاصطناعي. ومن خلال تغيير هذه الحوافز، يمكن للمؤسسات تشجيع موظفيها على البقاء يقظين ومتفاعلين.

يؤكد المؤلفون أن مجرد جعل الذكاء الاصطناعي أكثر شفافية أو منح البشر أدوات أفضل لقراءة السجلات ليس كافياً. ويجادلون بأنه لا يوجد قدر من البرمجيات الأفضل يمكنه إصلاح المشكلة إذا كان العقل البشري قد فقد بالفعل القدرة على التعامل مع التعقيد. وتخلص الورقة إلى أنه بدون هذه التغييرات، نحن نتجه نحو مستقبل يكون فيه "الإنسان في الحلقة" مجرد وهم. سيكون الإنسان موجوداً جسدياً، يضغط على الزر، لكنه سيكون ذهنياً بعيداً جداً، عاجزاً عن فهم أو التحكم في النظام الذي من المفترض أن يراقبه. ويحث الباحثون المجتمع التقني على معاملة الحدود المعرفية البشرية كقيد هندسي جدي، لا يقل أهمية عن سرعة أو قوة الذكاء الاصطناعي نفسه. فإذا لم نتحرك لدعم العقل البشري، فإن الأنظمة التي نبنيها لمساعدتنا ستدفعنا في النهاية خارج الحلقة تماماً، تاركة إيانا مع آلات قوية لم نعد نعرف كيف نديرها.