Responsible Adoption of Generative AI in Health Care Work Systems: A Sociotechnical Document Analysis

المساعد الرقمي الملازم: نوع جديد من المساعدين في عيادة الطبيب

تخيل أنك تحاول بناء قلعة ضخمة ومعقدة من قطع "ليغو" بينما يواصل شخص ما طرح الأسئلة عليك، ويسلمك قطعاً جديدة، ويحكي لك قصصاً عن الأشخاص الذين سيعيشون هناك. هذا هو بالضبط شعور كون المرء طبيباً أو ممرضاً في كثير من الأحيان: يتعين عليهم تقديم رعاية مذهلة مع بناء سجل رقمي معقد لكل شيء يحدث في الوقت ذاتوا. لسنوات، حاولت أجهزة الكمبيوتر المساعدة في عملية البناء، لكن أحياناً كانت التعليمات مربكة للغاية أو القطع صعبة التركيب لدرجة أن البنائين انتهى بهم الأمر وهم أكثر تعباً مما كانوا عليه من قبل.

الآن، وصل نوع جديد من المساعدين: الذكاء الاصطناعي التوليدي (Generative AI). لا تفكر في هذا كإنسان آلي يستولي على الوظيفة، بل ككاتب سريع جداً وموهوب للغاية يمكنه الاستماع إلى محادثة وكتابة مسودة مثالية للقصة فوراً. إنه يستخدم "نماذج اللغات الكبيرة"، وهي ببساض عقول رقمية عملاقة قرأت كل شيء كُتب تقريباً ويمكنها تخمين الكلمات التي يجب أن تأتي تالياً لجعل الجملة تبدو صحيحة. ولكن هنا يكم- السؤال الكبير الذي يسأله العلماء والأطباء: إذا كتب هذا الكاتب القصة، فهل سيحصل الطبيب فعلاً على الراحة؟ أم أن الطبيب سيقضي كل وقته في لعب لعبة "أوجد الفروق" بين مسودة الكاتب والواقع؟ تغوص هذه الورقة في هذا الغموض تحديداً، وتنظر في كيفية تشكيل القواعد والإرشادات لهذه الأدوات الجديدة لمستقبل العمل في مجال الرعاية الصحية.

---

الاكتشاف الكبير للورقة: نموذج "التعزيز المحكوم"

هذه الورقة البحثية، التي تحمل عنوان الاعتماد المسؤول للذكاء الاصطناعي التوليدي في أنظمة العمل في الرعاية الصحية، ليست تجربة مخبرية اختبروا فيها روبوتاً معيناً. بدلاً من ذلك، عملت المؤلفة، ووندوزن شومي بيكيلي، كأنها محققة تفحص "كتب القواعد" و"كتيبات التعليمات" التي كتبتها أكبر الهيئات الصحية في العالم (مثل منظمة الصحة العالمية والخدمات الصحية الوطنية). لقد نظرت في 10 وثائق مختلفة صدرت بين عامي 2024 و2026 لتفهم كيف تفكر هذه المنظمات في كيفية عمل الذكاء الاصطناعي فعلياً في الحياة الواقعية.

تقترح الورقة أن الطريقة التي نفكر بها في الذكاء الاصطناعي في المستشفيات تحتاج إلى ترقية كبرى. فهي تجادل بأننا لا يمكننا مجرد شراء أداة ذكاء اصطناعي فاخرة وتوقع أن تقوم بإصلاح عبء العمل لدينا بشكل سحري. بدلاً من ذلك، تقترح الورقة مفهوماً يسمى "التعزيز المحكوم" (Governed Augmentation). دعونا نفكك ذلك باستخدام بعض التشبيهات المرحة لنرى ما وجدته المؤلفة.

1. "الترقية المشروطة" (ليست عصا سحرية)

تخيل أنك اشتريت سيارة سباق عالية الأداء. قد تعتقد: "رائع، سأكون أسرع!". لكن إذا حاولت قيادة تلك السيارة على طريق ترابي موحل، أو إذا لم يكن لديك رخصة، أو إذا كان الطريق مليئاً بالحفر، فلن تساعدك السيارة؛ بل قد تتعطل حتى.

تجد الورقة أن فوائد الذكاء الاصطناعي مشروطة. تشير الوثائق التي تمت مراجعتها إلى أن الذكاء الاصطناعي يساعد فقط إذا كان ملائماً تماماً للوظيفة المحددة، وللمريض المحدد، وللطبيب المحدد. إنه ليس عصا سحرية تجعل العمل يختفي تلقائياً. القيمة تأتي من مدى جودة "تهيئة" (إعداد) الذكاء الاصطناعي للموقف المحلي. إذا استخدم طبيب أداة ذكاء اصطناعي مصممة لغرفة طوارئ مزدحمة لكتابة ملاحظات لجلسة علاج نفسي هادئة وطويلة الأمد، فقد يجعل الأمر أسوأ في الواقع. تقترح الورقة أن "الفائدة" ليست في الذكاء الاصطناعي نفسه، بل في الإعداد الدقيق للنظام بأكمله.

2. "مفارقة عمل التحقق" (فخ المحرر)

هنا يصبح الأمر معقداً. تخيل طالباً يطلب من صديق ذكي جداً كتابة مقال له. يسلمه الصديق مسودة تبدو مثالية. لكن على الطالب أن يقرأ كل كلمة للتأكد من أن صديقه لم يخترع حقيقة ما أو يخطئ في تاريخ ما بالخطأ.

تحدد الورقة مفارقة: من المفترض أن يوفر الذكال الاصطناعي الوقت عبر كتابة الملاحظات، لكن على الطبيب أن يقضي وقتاً أيضاً في فحص الملاحظات للتأكد من أنها آمنة. إذا كتب الذكاء الاصطناعي ملاحظة تبدو مثالية بنسبة 95%، فقد يقضي الطبيب 10 دقائق في إصلاح ذلك الخطأ بنسبة 5%. ولكن إذا كان الطبيب متعباً أو مستعجلاً، فقد يفوته ذلك الخطأ الضئيل. تقترح الورقة أن "العمل" لم يختفِ؛ بل تغير شكله فقط. فبدلاً من الكتابة من الصفر، أصبح الطبيب الآن يقوم بـ "عمل التحقق" — أي التدقيق والتصحيح وشرح مخرجات الذكاء الاصطناعي. إذا لم يتم تصميم النظام لدعم عملية التحقق هذه، فقد يتسبب الذكاء الاصطناعي في الواقع في مزيد من التوتر، وليس أقل.

3. "ضغط المساءلة" (من يتحمل اللوم؟)

فكر في آلة معقدة، مثل محمصة خبز ضخمة تم تصنيعها في مصنع، وشحنها شركة شحن، ثم قام صاحب المنزل بتوصيلها بالكهرباء. إذا اشتعلت المحمصة، فمن الملام؟ المصنع؟ أم شركة الشحن؟ أم صاحب المنزل الذي وصلها بالكهرباء؟

تجد الورقة مشكلة تسمى "انضغاط المساءلة" (Accountability Compression). في الرعاية الصحية، يتم بناء الذكاء الاصطناعي بواسطة شركات التكنولوجيا، ويتم شراؤه من قبل المستشفيات، ويستخدمه الأطباء. شركات التكنولوجيا تتحكم في "عقل" الذكاء الاصطناعي، والمستشفيات تتحكم في القواعد. ولكن عندما يرتكب الذكاء الاصطناعي خطأً في سجل المريض، غالباً ما تقول الإرشادات إن الطبيب هو المسؤول عن الملاحظة النهائية. تقترح الورقة أن هذا عدم تطابق. الطبيب "يُضغط" ليتحمل مسؤولية الأخطاء التي لا يمكنه رؤيتها أو إصلاحها لأن ليس لديه سيطرة على كود البرمجة أو البيانات الخاصة بالذكاء الاصطناعي. تجادل الورقة بأنه لكي يعمل هذا بشكل عادل، يجب على الأشخاص الذين يتحكمون في الذكاء الاصطناعي (الشركات والمستشفيات) تحمل المزيد من المسؤولية، وليس فقط الشخص الذي يستخدمه.

4. "دورة الحياة" (إنها ماراثون وليست سباق سرعة)

يعتقد الكثير من الناس أن شراء الذكاء الاصطناعي يشبه شراء محمصة خبز: توصله بالكهرباء ويعمل للأبد. تجادل الورقة بأن الذكاء الاصطناعي يشبه الحديقة الحية. يجب عليك زراعتها، وسقيها، وإزالة الأعشاب الضارة، ومراقبتها وهي تنمو.

تشير الوثائق التي تمت مراجعتها إلى أن الاعتماد المسؤول يتطلب قدرة تنظيمية على دورة الحياة. وهذا يعني أن المستشفيات لا يمكنها مجرد شراء الأداة والمضي قدماً. إنهم بحاجة إلى فريق يراقب الذكł الاصطناعي باستمرار، ويتأكد مما إذا كان لا يزال يعمل بشكل صحيح، ويدرب الموظفين، ويعرف متى يجب إيقافه إذا بدأ يتصرف بغرابة. تقترح الورقة أن السلامة ليست شيئاً "تشتريه" مرة واحدة؛ بل هي شيء يجب عليك الاستمرار في بنائه وصيانته كل يوم.

5. "خيار المريض" (زر "الانسحاب")

أخيراً، تؤكد الورقة أن المرضى ليسوا مجرد مراقبين سلبيين. تخيل الذهاب إلى مطعم يستخدم فيه الطاهي روبوتاً لطهي طعامك. يجب أن يكون لك الحق في معرفة ذلك، ويجب أن يكون لك الحق في قول: "لا شكراً، أريد بشراً ليطهو وجبتي".

تجد الورقة أن "وكالة المريض" (Patient Agency) (قدرة المريض على الاختيار) هي متطلب عملي، وليس مجرد فكرة لطيفة. تشير الإرشادات إلى أنه يجب إبلاغ المرضى عند استخدام الذكاء الاصطناعي، ويجب أن يكون لديهم بديل حقيقي وعملي إذا لم يرغبوا في استخدامه. إذا كانت الطريقة الوحيدة للحصول على موعد سريع هي استخدام الذكاء الاصطنا، فإن المريض لا يملك خياراً حقيقياً. تقترح الورقة أنه لكي يكون الذكاء الاصطناعي عادلاً، يجب تصميم النظام بحيث يمكن للمرضى قول "لا" دون فقدان الوصول إلى الرعاية الجيدة.

ماذا يعني هذا للمستقبل

لا تدعي الورقة أن الذكاء الاصطناعي كارثة أو معجزة. بدلاً من ذلك، تقترح مساراً وسطاً: التعزيز المحكوم. وهذا يعني استخدام الذكاء الاصطناعي لمساعدة الأطباء والممرضين على أداء وظائفهم بشكل أفضل، ولكن فقط إذا تم إعداد النظام بأكلما يجعله قادراً على التعامل مع نوع العمل الجديد الذي يخلقه.

تقترح المؤلفة أنه إذا أردنا للذكاء الاصطناعي أن يساعد حقاً، فعلينا التوقف عن النظر إليه كـ "منتج" نشتريه والبدء في النظر إليه كـ "خدمة" نديرها. نحن بحاجة للتأكد من أن الأطباء لديهم الوقت والأدوات للتحقق من عمل الذكاء الاصطناعي، وأن الشركات تتحمل مسؤولية أخطائها، وأن المرضى لديهم رأي حقيقي في كيفية تسجيل رعايتهم.

باختصار، تخلص الورقة إلى أن الذكاء الاصطناعي يمكن أن يكون مساعداً رائعاً، ولكن فقط إذا بنينا القواعد، والتدريب، وشبكات الأمان حوله أولاً. بدون ذلك، قد يتحول "سحر" الذكاء الاصطناعي إلى مجرد صداع جديد لكل المعنيين بالأمر.