Whose Voice? Algorithmic Smoothing and the Hybrid Authorship of BCI-Mediated End-of-Life Requests: a normative conceptual analysis

تخيل عالماً يكون فيه عقلك مدينة براقة ومزدحمة، لكن الطرق المؤدية للخارج مسدودة تماماً. يمكنك التفكير، والشعور، والتخطيط، لكنك لا تستطيع التلويح بيدك، أو التحدث، أو الكتابة. هذا هو الواقع الذي يعيشه الأشخاص في حالة "الانحباس الكامل"، والتي غالباً ما تنتج عن أمراض مثل التصلب الجانبي الضموري (ALS). هم مستيقظون وواعون، لكن أجسادهم توقفت عن الاستماع إليهم. وهنا يأتي دور واجهة الدماغ والحاسوب (BCI)، وهي جسر عالي التقنية يحاول قراءة الإشارات الكهربائية لدماغك وتحويلها إلى كلمات على الشاشة. إنها تشبه وجود مترجم يستمع إلى أفكارك ويتحدث نيابة عنك.

ولكن إليك المفاجأة: هذا المترجم ليس مجرد ميكروفون سلبي. إنه محرر مدعوم بالذكاء الاصطناعي. لكي يفهم الإشارات الفوضوية والمليئة بالتشويش القادمة من دماغ لا يستطيع الحركة، يستخدم الحاسوب عملية "التنعيم" (تنظيف الضجيج) و"النص التنبئي" (تخمين الكلمة التالية، تماماً كما يفعل هاتفك عند الكتابة). وهذا يثير سؤالاً هائلاً يذهل العقول: إذا ساعد الحاسوب في إكمال جملتك، فهل تظل الفكرة ملكاً لك؟ هذا الأمر بالغ الأهمية خاصة عندما تكون الجملة متعلقة بشيء مصيري، مثل طلب المساعدة الطبية لإنهاء المعاناة. إذا ساعدت الآلة في كتابة الطلب، فمن الذي يطلب حقاً؟

يغوص هذا البحث في ذلك المأزق تحديداً. ويتساءل: عندما يستخدم مريض في حالة انحباس كامل واجهة دماغ وحاسوب (BCI) معززة بالذكاء الاصطناعي لطلب المساعدة الطبية في الموت، هل يمكننا الوثوق بأن الطلب هو صوته الحقيقي، أم أن الخوارزمية قد غيرت الرسالة؟ يجادل المؤلفان، لي ونجان، بأنه لا ينبغي لنا الاكتفاء بالقول "نعم" أو "لا". بدلاً من ذلك، يقترحان أن الطلب هو منتج "هجين" – وهو نتاج تعاون بين نية المريض ومساعدة الآلة. ويقترحان طريقة جديدة للتحقق من هذه الطلبات، ليس من خلال النظر إلى الجملة الواحدة التي كتبها الحاسوب، بل عبر مقارنتها بقصة حياة المريض بأكملها، وقيمه السابقة، وتوجيهاته المسبقة. ويخلصان إلى أنه طالما أن "تخمين" الآلة يتوافق مع ما كان يؤمن به المريض دائماً، فإن الطلب يكون صالحاً. ومع ذلك، إذا تعارض تخمين الآلة مع تاريخ المريض، فيجب تجاهل الطلب. إنه إطار عمل مصمم لحماية الذات الحقيقية للمريض من أن يتم استبدالها بواسطة خوارزمية مليئة بالأخطاء.

قصة إيلينا والآلة المتكلمة

لفهم هذا، دعونا نتعرف على إيلينا. هي أستاذة فلسفة تبلغ من العمر 54 عاماً، وقبل أن يستولي التصلب الجانبي الضموري على جسدها، كتبت رسالة واضحة تقول: "إذا علقت يوماً في عقلي بلا وسيلة للتحدث، فأنا أريد أن أكون قادرة على اختيار إيقاف معاناتي". لقد كانت محددة جداً بشأن ذلك.

الآن، إيلينا في حالة انحباس كامل. يمكنها التفكير، لكنها لا تستطيع تحريك عضلة واحدة. لديها واجهة (BCi) مزروعة في دماغها. وفي أحد الأيام، يسألها أطباؤها عما إذا كانت لديها أي مخاوف. تقرأ الآلة إشارات دماغها وتكتب: "أتمنى التوقف عن هذا الألم".

الأطباء في حيرة من أمرهم. هم يعلمون أن إيلينا أرادت إنهاء معاناتها، لكنهم يعلمون أيضاً أن الآلة ليست مثالية. يشير دليل الآلة إلى أنها تستخدم "تنعيم الإشارة" (لتنظيف التشويش) و"التنبؤ السياقي" (لتخمين الكلمات). وعندما فحص الأطباء البيانات الخام، وجدوا أن إشارة دماغ إيلينا كانت في الواقع مجرد جزء: "أتمنى التوقف". فقام الحاسوب، وبناءً على رؤيته أنها في غرفة رعاية تلطيفية وأنها تعاني من التوتر، بـ تخمين الكلمات "عن هذا الألم" وأضافها إلى الج kalimat.

لذا، السؤال الكبير هو: هل قالت إيلينا "أتمنى التوقف عن هذا الألم"، أم أن الآلة قالت ذلك نيابة عنها؟

الآلة ليست أنبوباً محايداً

يوضح البحث أن واجهات (BCI) هذه ليست مثل خط الهاتف حيث تسمع فقط ما يقوله الشخص الآخر. إنها أشبه بمحرر ذكي. يجب على الحاسوب القيام بالكثير من العمل الشاق:

1. يلتقط الإشارات الكهربائية الفوضوية من الدماغ.
2. يقوم بتصفية "الضجيج" (التشويش).
3. يحاول معرفة أي من نبضات الدماغ تعني أي الحروف.
4. يستخدم قاعدة بيانات ضخمة من المحادثات البشرية لتخمين بقية الجملة.

يشير المؤلفون إلى أن هذا "التخمين" ضروري. فبدونه، ستكون المخرجات مجرد كلام غير مفهوم. ولكن هذا يعني أن الجملة النهائية هي جهد جماعي. الآلة ليست مجرد أداة؛ إنها "مؤلف مشارك".

مشكلة الأخطاء

يذكرنا البحث أيضاً بأن هذه الآلات ترتكب أخطاء.

• معدلات الخطأ في الكلمات: في الاختبارات الحقيقية، تخطئ هذه الآلات في الكلمات بنسبة تتراوح بين 8% إلى 24%، اعتماداً على حجم المفردات.
• الإيجابيات الكاذبة: أحياناً قد تقول الآلة عبارة لم يقصدها المريض أبداً. بالنسبة للعبارات البسيطة، يحدث هذا بنسبة 2% إلى 5%. أما بالنسبة للطلبات الكبيرة والعاطفية مثل طلب الموت، فقد تكون المخاطرة أعلى.

بسبب هذا، يقول المؤلفون إننا لا نستطيع مجرد أخذ جملة واحدة من الآلة والقول: "حسناً، هذا هو القرار النهائي". سيكون ذلك خطيراً.

الحل "الهجين"

إذاً، كيف نحل لغز "صوت مَن؟" يقترح المؤلفون التوقف عن محاولة إيجاد صوت بشري "نقي" وقبول حقيقة أن الصوت هو صوت هجين. وهم يستخدمون ثلاثة أفكار لشرح ذلك:

1. العقل الممتد: تخيل أن دماغك هو حاسوب، وأن واجهة (BCI) هي لوحة مفاتيح استخدمتها لسنوات. في النهاية، تصبح لوحة المفاتيح جزءاً من عقلك. عندما تكتب، أنت لا تستخدم أداة فحسب، بل أنت تفكر من خلال تلك الأداة. لذا، فإن مساعدة الآلة هي جزء من عملية تفكير إيلينا.
2. الوكالة المشتركة: فكر في الأمر كرقصة. إيلينا تقود، لكن الآلة تتبع خطواتها وتساعدها على التوازن. إنهما ترقصان معاً. الطلب ينتمي لكليهما.
3. الفسيفساء: تخيل لوحة مكونة من بلاطات. حياة إيلينا وقيمها هي اللوحة. مخرجات واجهة (BC-I) هي مجرد بلاطة واحدة جديدة. لا يمكننا أن نقرر ما إذا كانت اللوحة صحيحة بناءً على بلاطة واحدة فقط؛ يجب أن ننظر إلى الفسيفساء بأكملها.

نوعا "المساعدة"

يفرق البحث بين طريقتين يمكن للآلة من خلالهما تقديم المساعدة:

• التوسع التأكيدي (النوع الجيد): هذا يحدث عندما تخمن الآلة كلمة تتوافق تماماً مع ما نعرفه بالفعل عن المريض. في حالة إيلينا، قالت "أتمنى التوقف"، وأضافت الآلة "عن هذا الألم". وبما أن إيلينا كانت دائماً تكره الألم، وكانت في عيادة علاج الألم، فإن هذا التخمين منطقي. لقد أكد ما كانت تعنيه على الأرجح. وهذا النوع آمن.
• الاستبدال التوليدي (النوع السيئ): هذا يحدث عندما تخمن الآلة شيئاً يتعارض مع ما نعرفه عن المريض. تخيل لو أن إيلينا كانت متدينة جداً وتكره فكرة الموت، لكن الآلة خمنت "أتمنى الموت". سيكون ذلك بمثابة استبدال الآلة لإرادتها بتخمينها الخاص. وهذا أمر خطير.

كتاب القواعد الجديد: بروتوكول التحقق القائم على المسار

يقترح المؤلفون طريقة جديدة للأطباء للتعامل مع هذه الطلبات. يسمونها بروتوكول التحقق القائم على المسار (Trajectory-Based Validation Protocol). بدلاً من النظر إلى الجملة الواحدة التي كتبتها الآلة، يجب على الأطباء النظر إلى "مسار" المريض (مسار حياته).

إليك كيف يعمل:

1. فحص التاريخ: هل لدى المريض خطة مكتوبة واضحة (مثل التوجيهات المسبقة) من قبل إصابته بالانحباس؟ هل تحدث عن هذا مع الأطباء قبل ذلك؟
2. فحص الفسيفساء: هل تتوافق رسالة الآلة مع بقية قصة حياة المريض؟ إذا قالت الآلة "أريد الموت"، بينما قضت إيلينا سنوات في الكتابة عن مدى حبها للحياة، فإن الآلة على الأرجح مخطئة.
3. التكرار والتحقق: لا تثق في رسالة واحدة. اطرح نفس السؤال مراراً وتكراراً. إذا قالت الآلة الشيء نفسه في كل مرة، وكان يتوافق مع تاريخ المريض، فمن المرجح أن يكون حقيقياً.
4. بند التناقض: إذا تعارضت رسالة الآلة مع ماضي المريض، توقف. لا تنفذ الطلب. قد تكون الآلة تعاني من خلل، أو قد يكون المريض مشوشاً. أنت بحاجة إلى دليل أكثر.

الخلاصة

يخلص البحث إلى أننا لسنا مضطرين للاختيار بين "الآلة تكذب" و"الآلة مثالية". الحقيقة تكمن في المنتصف. الطلب هو منتج مشترك الصنع. إنه ينتمي للمريض وللخوارزمية معاً.

إذا كان تخمين الخوارزمية يتماشى مع قيم المريض وتاريخه الراسخ، فإن الطلب يكون صالحاً، حتى لو ساعدت الآلة في كتابته. ولكن إذا خمنت الخوارماج شيئاً جديداً أو متناقضاً، فيجب أن نتعامل مع الأمر بشك شديد.

يؤكد المؤلفون بحذر أن هذا إطار مفاهيمي، وليس دليلاً طبياً نهائياً بعد. لم يختبروا ذلك بأرقام حقيقية أو قوان مدنية في هذا البحث؛ هم فقط يضعون الخريطة. ويقترحون أن العمل المستقبلي يحتاج لتحديد الأرقام الدقيقة (مثل عدد المرات التي يجب تكرار الرسالة فيها) وكيفية ملاءمتها للقانون. لكن الفكرة الجوهرية واضحة: لسماع صوت المريض الحقيقي، يجب أن نستمع إلى الآلة وإلى قصة حياة المريض بأكملها معاً.