How Researchers Navigate Accountability, Transparency, and Trust When Using AI Tools in Early-Stage Research: A Think-Aloud Study

تخيل أنك طاهٍ محترف تحاول ابتكار وصفة جديدة تماماً وعالمية المستوى. تقليدياً، تقوم بكل شيء بنفسك: تتذوق التوابل، وتتحقق من نضارة المنتجات، وتقرر بالضبط كمية الملح التي ستضيفها. أنت سيد مطبخك، وإذا كان الطبق مذهلاً (أو سيئاً)، فالمسؤولية تقع على عاتقك وحدك.

الآن، تخيل دخول "مساعد طاهٍ سحري" (أداة ذكاء اصطناعي) إلى مطبخك. هذا المساعد سريع للغاية؛ إذ يمكنه مسح آلاف كتب الطهي في ثوانٍ واقتراح قائمة بالمكونات. ولكن هناك عقبة: المساعد السحري يتحدث بثقة مفرطة، حتى عندما يكون في حالة تخمين، ولا يخبرك دائماً بدقة من أي كتاب طهي استقى أفكاره.

هذه الورقة البحثية هي في الأساس دراسة حول كيفية تعامل "الطهاة" المحترفين (الباحثين) مع هذا "المساعد الطاهي السحري" عندما يحاولون ابتكار "وصفات" علمية جديدة.

المشكلات الثلاث الكبرى ("كوابيس المطبخ")

درس الباحثون 15 عالماً لمعرفة كيفية تعاملهم مع هذا المساعد السحري، ووجدوا أنهم يتعاملون مع ثلاث مشكلات رئيسية:

1. مشكلة "الكاذب الواثق" (المسؤولية)
لدى الذكاء الاصطناعي عادة في الظهور بمظهر الخبير حتى عندما يختلق أشياء من عنده. في الورقة البحثية، يُسمى هذا "عدم التطابق بين المخرجات الجازمة والتقدير غير اليقيني".

• التشبيه: تخيل أن مساعدك السحري يقول لك: "هذا التابل مثالي!" بكل ثقة، ولكن عندما تتذوقه، تجده مراً. ولأن الذكاء الاصطناعي يبدو واثقاً جداً من نفسه، يصعب على الباحث معرفة متى يحتاج إلى مراجعة العمل. وفي نهاية المطاف، إذا كان "الطبق" (البحث) خاطئاً، فإن العالم هو من يُلام، وليس الذكاء الاصطناعي.

2. مشكلة "الصندوق الأسود" (الشفافية)
عندما يقترح الذكاء الاصطناعي فكرة معينة، فإنه غالباً لا يوضح طريقة عمله. هو لا يقول: "وجدت هذا في الصفحة 42 من هذا الكتاب المحدد"، بل يعطيك الإجابة فحسب.

• التشبيه: الأمر يشبه تقديم المساعد السحري لصلصة ما وقوله: "هذه رائعة"، ولكن عندما تسأله: "من أين حصلت على هذه الوصفة؟" يكتفي بهز كتفيه. هذا يجعل من المستحيل عليك كطاهٍ التحقق مما إذا كانت المعلومة حقيقية أم أنها مجرد "هلوسة" (وهي كلمة منمقة تعني الخطأ الواثق).

3. مشكلة "الرتابة" (الثقة)
وجد الباحثون أنه بينما يتميز الذكاء الاصطناعي بالسرعة، إلا أن اقتراحاته قد تبدو "عامة" أو "سطحية".

• التشبيه: المساعد السحري بارع في صنع حساء الطماطم العادي، لكنه يكافح لمساعدتك في ابتكار تحفة فنية معقدة تلمس الروح. ولأن أفكار الذكاء الاصطناعي غالباً ما تبدو "متوسطة"، يجد الباحثون صعوبة في الوثوق به تماماً في الأجزية الأكثر إبداعاً وعمقاً في عملهم.

كيف "يقاوم" الباحثون (استراتيجيات البقاء)

لم يكتفِ العلماء في الدراسة بطرد الذكاء الاصطناعي من المطبخ، بل تعلموا كيفية إدارته. لقد استخدموا عدة حركات "للطبخ الدفاعي":

• استراتيجية "المساعد الجانبي": هم لا يتركون الذكاء الاصطناعي يكتب الوصفة الأساسية، بل يستخدمونه للمهام "المملة" — مثل تنظيم رف التوابل أو تلخيص قائمة طويلة من المكونات — بينما يحتفظون هم بالسيطرة على عملية الطهي الفعلية.
• عادة "التحقق المزدوج": إنهم يعاملون الذككاء الاصطناعي كمتدرب مثير للريبة. في كل مرة يقول فيها الذكاء الاصطناعي شيئاً ما، يعود الباحث إلى "كتاب الطهي" الأصلي (الورقة العلمية الفعلية) للتأكد من أنه لا يكذب.
• "البناء البطيء" للثقة: هم لا يثقون بالذكاء الاصطناعي فوراً، بل يعطونه مهاماً صغيرة وسهلة أولاً. وفقط بعد أن يثبت الذكاء الاصطناعي قدرته على التعامل مع "الملح"، يسمحون له بالمساعدة في "الخضروات".

الخلاية

تخلص الورقة إلى أن الذكاء الاصطناعي في العلم هو سلاح ذو حدين. يمكنه تسريع الأمور، ولكنه يضيف أيضاً "ضريبة ذهنية" لأن الباحثين يضطرون لبذل الكثير من الطاقة الإضافية لمراجعة كل شيء. ويرى المؤلفون أنه لا ينبغي لنا فقط بناء ذكاء اصطناعي أسرع، بل نحتاج إلى بناء ذكاء اصطناعي "أمين" — أدوات توضح طريقة عملها، وتعترف عندما تكون غير متأكدة، وتساعد البشر على البقاء في مقعد القيادة.