Protecting patient privacy in clinical foundation models: Technical and legal perspectives
تقترح هذه الورقة إطار عمل عملياً وسياقياً لتقييم وتخفيف مخاطر الخصوصية في النماذج التأسيسية السريرية من خلال معالجة تسرب البيانات بوساطة النماذج عبر استراتيجيات تقنية وقانونية متكاملة، نظراً لأن اللوائح الحالية مثل HIPAA وGDPR تقدم توجيهات محدودة لهذه التهديدات غير المباشرة.
البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل
تخيل أنك بنيت روبوت طباخ فائق الذكاء. لقد غذيتَه بملايين الوصفات ومقاطع الفيديو الخاصة بالطهي من جميع أنحاء العالم لكي يتعلم كيفية صنع أي شيء، من الحساء إلى السوفليه. الآن، تريد أن تسمح للناس باستخدام هذا الروبوت لمساعدتهم في الطبخ. لكن هناك عقبة؛ نظرًا لأن الروبوت تعلم بعمق، فقد يتذكر بالخطأ أو يقدم وصفة عائلية سرية خاصة بشخص غريب تم تدريبه عليه، أو حتى يكشف أن الطبق المفضل لشخص معين كان موجودًا في كتاب التدريب الخاص به. لا يتعلق الأمر هنا بقيام الروبوت بسرقة ملف، بل يتعلق بجعل الروبوت "يتصرف" بطريقة تسرب تفاصيل سرية لم يكن من المفترض أن يعرفها. هذا هو عالم "النماذج التأسيسية" في الرعاية الصحية. هذه نماذج ذكاء اصطنا-ي عملاقة تم تدريبها على كميات هائلة من بيانات المرضى — مثل الملاحظات الطبية، والأشعة السينية، ونتائج المختبر — لمساعدة الأطباء في تشخيص الأمراض، والتنبؤ بالمخاطر الصحية، وتخطيط العلاجات. وبينما تعد هذه الأدوات بإحداث ثورة في الطب، إلا أنها تأتي مع نوع جديد وخفي من مخاطر الخصوصية. الأمر لا يقتل بكسر مخترق لقاعدة بيانات؛ بل يتعلق بكيفية قيام الذكاء الاصطناعي نفسه بـ "تسريب" تفاصيل حساسة من خلال إجاباته، حتى لو كانت البيانات الأصلية قد جُردت من الأسماء والعناوين. السؤال الكبير هو: كيف نحافظ على سلامة هذه الأدوات القوية دون حبسها بعيدًا؟
هذه الورقة البحثية، التي كتبها فريق من الباحثين من أماكن مثل MIT وستانفورد وهارفارد، تتناول هذه المشكلة تحديدًا. إنهم يجادلون بأن قواعد الخصوصية الحالية، مثل تلك الموجودة في الولايات المتحدة (HIPAA) وأوروبا (GDPR)، تشبه قوانين المرور القدية المكتوبة للسيارات، بينما نحن الآن نقود صواريخ ذاتية القيادة. تركز هذه القوانين على حماية البيانات قبل دخولها إلى نظام الذكاء الاصطناعي، لكنها لا تعرف حقًا كيفية التعامل مع الطرق الغريبة التي قد يسرب بها الذكاء الاصطناعي المعلومات عن طريق الخطأ بعد تدريبه.
ولإصلاح ذلك، يقترح المؤلفون طريقة جديدة للتفكير في مخاطر الخصوصية باستخدام خريطة بسيطة مكونة من جزأين. تخيل رسمًا بيانيًا حيث يسأل أحد جوانبه: "كم يعرف الشخص الذي يطرح السؤال بالفعل؟" والجانب الآخر يسأل: "كم من المعلومات الحساسة يكشف عنها الذكاء الاصطناعي؟"
- محور "المعرفة المسبقة": في بعض الأحيان، لا تحتاج إلى معرفة أي شيء لخداع الذكال الاصطناعي لجعله يبوح بسر (مثل أن تطلب منه "تأليف قصة" فيقوم بالخطأ بسرد قصة مريض حقيقي). وفي أحيان أخرى، تحتاج إلى إعطاء الذكاء الاصطناعي تلميحًا صغيرًا، مثل اسم دواء معين أو عرض نادر، للحصول منه على تفاصيل أكثر حول شخص محدد.
- محور "المعلومات المسربة": على الجانب الآخر، قد يعطيك الذكاء الاصطناعي معلومة يمكن ربطها بشخص ما (مثل نمط مرض نادر)، أو قد يعطيك معلومة تحدد هويته بشكل مباشر (مثل اسم أو رقم هاتف محدد).
يستخدم المؤلفون هذه الخريطة للنظر في ستة "سيناريوهات تسريب" مختلفة لإظهار كيف يمكن أن تسوء الأمور. على سبيل المثال:
- سيناريو "المقلد": يُطلب من ذكاء اصطناعي تدرب على صور الأشعة للدماغ إنشاء صورة عامة، لكنه يخرج بالخطأ نسخة شبه مثالية من أشعة مريض حقيقي، بما في ذلك سمات فريدة يمكن أن تحدد هويته.
- سيناريو "طريق الذكريات": يطلب مستخدم من الذكاء الاصطناعي كتابة ملاحظة طبية لنوع معين من المرضى، فيقوم الذكاء الاصطناعي، نظرًا لحفظه لملاحظة حقيقية، بكتابة نفس القصة تقريبًا، مما يكشف تفاصيل خاصة لم يشاركها المريض علنًا أبدًا.
- "فخ الإكمال التلقائي": يقوم طبيب بكتابة ملاحظة للمريض (أ)، فيقترح الذكاء الاصطناعي خطة متابعة تتضمن اسم ورقم هاتف المريض (ب) لأنه ارتبك وسحب معلومات من الذاكرة الخاطئة.
- "تسريب العضوية": يطرح باحث سؤالًا على الذكاء الاصطناتی ويلاحظ أن سلوكه متسق بشكل غريب مع مجموعة معينة من المرضى، مما يثبت أن بيانات هؤلاء الأشخاص بالتحديد قد استُخدمت لتدريب النموذج، حتى لو لم يتم الكشف عن أسماء.
تشير الورقة إلى أن هذه المخاطر حقيقية وتحدث في كل من البيئات "المحلية" (حيث يحتفظ المستشفى بالذكاء الاصطناعي على خوادمه الآمنة الخاصة) والبيئات "العامة" (حيث يمكن لأي شخص استخدام الذكاء الاصطنا عبر الإنترنت). ويجدون أن القوانين الحالية غامضة بعض الشيء. فعلى سبيل المثال، في الولايات المتحدة، إذا قام مستشفى بإزالة الأسماء من البيانات قبل تدريب الذكاء الاصطناعي، فقد يعتقدون أنهم في أمان بموجب قانون HIPAA. لكن المؤلفين يشيرون إلى أنه إذا كان لا يزال من الممكن خداع الذكاء الاصطناعي للكشف عن بيانات هذا الشخص المحدد، فقد يكون لدى المستشفى بالفعل "معرفة فعلية" بأن البيانات ليست مجهولة الهوية حقًا، مما قد يمثل مشكلة قانونية لم يتوقعوها. وبالمثل، في أوروبا، تنص القواعد على أن البيانات يجب أن تكون "قابلة لتحديد الهوية" لتكون محمية، لكن المؤلفين يجادلون بأنه حتى لو لم تتمكن من تسمية الشخص فورًا، فإذا كشف الذكاء الاصطناعي عن مزيج نادر من الأعراض الذي يمكن أن يؤدي إلى تحديد الهوية، فإن ذلك لا يزال يعتبر خرقًا للخصوصية.
إذًا، ما هو الحل؟ لا يدعي المؤلفون امتلاك عصا سحرية تصلح كل شيء فورًا. بدلاً من ذلك، يقترحون مزيجًا من الإصلاحات التقنية والقانونية. من الجانب التقني، يوصون باختبار أفضل (مثل "الفريق الأحمر"، حيث يحاول المخترقون كسر الذكاء الاصطناعي للعثور على التسريبات)، واستخدام الرياضيات للحد من قدرة الذكاء الاصطناعي على الحفظ (ما يسمى "الخصوصية التفاضلية")، والتحقق المستمر من الذكاء الاصطناعي بعد إصداره للتأكد من أنه لم يبدأ في تسريب الأسرار. ومن الجانب القانوني، يجادلون بأننا بحاجة إلى تحديث قواعدنا لتنظر إلى "سياق" كيفية استخدام الذكاء الاصطناعي، وليس فقط البيانات نفسها. ويقترحون أن الشركات والمستشفيات بحاجة إلى أن تكون أكثر حذرًا بشأن من تشارك البيانات معهم وكيفية تدريب هذه النماذج، وربما يتطلب ذلك أنواعًا جديدة من العقود أو الرقابة.
في نهاية المطاف، تقترح الورقة أننا لا يمكننا الاعتماد فقط على الفكرة القديمة المتمثلة في "إخفاء الأسماء" للحفاظ على سلامة المرضى. ومع ازدياد ذكاء الذكاء الاصطناعي وتكامله في حياتنا، نحتاج إلى طريقة أكثر ذكاءً ومرونة لقياس المخاطر. الأمر يشبه إدراك أن قفل باب منزلك أمر جيد، ولكنك تحتاج أيضًا إلى فحص النوافذ، والقبو، والتأكد من أن جيرانك لا يصرخون بأسرارك عن طريق الخطأ. يأمل المؤلفون أنه من خلال استخدام "خريطة المخاطر" الجديدة الخاصة بهم، يمكننا الحفاظ على الفوائد المذهلة للذكاء الاصطناعي الطبي مع ضمان بقاء الحياة الخاصة للمرضى خاصة. وهم يعترفون بأن المشهد القانوني لا يزال متغيرًا، مع وجود قوانين جديدة مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي الذي يحاول اللحاق بالركب، لكن الرسالة الجوهرية واضحة: نحن بحاجة إلى أن نكون استباقيين، وليس مجرد رد فعل، عندما يتعلق الأمر بخصوصية الذكاء الاصطناعي.
غارق في أبحاث مجالك؟
تصلك نشرة يومية بأحدث الأبحاث المطابقة لكلماتك البحثية المفتاحية — مع ملخصات تقنية، بلغتك.