📈 economics

Agentic AI and Hallucinations

يُنمذج هذا البحث سوقاً تنافسية للذكاء الاصطناعي الوكيل لإثبات كيف أن التهديد بفقدان العوائد المستقبلية الناجمة عن الهلوسة يحفز الوكلاء على التحقق من المخرجات بشكل خاص، مما يؤدي إلى زيادة جهود التحقق والأسعار في القطاعات التي يضع فيها المستخدمون قيمة عالية على الدقة.

المؤلفون الأصليون: Engin Iyidogan, Ali I. Ozkes

نُشر 2026-04-14

📖 5 دقيقة قراءة🧠 قراءة متعمّقة

CC BY 4.0

المؤلفون الأصليون: Engin Iyidogan, Ali I. Ozkes

البحث الأصلي مرخَّص بموجب CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ هذا شرح مولَّده بالذكاء الاصطناعي للبحث أدناه. لم يكتبه المؤلفون ولم يصادقوا عليه. وللتحقق من الدقة التقنية، يرجى الرجوع إلى البحث الأصلي. اقرأ إخلاء المسؤولية الكامل

إليك شرح لورقة بحثية بعنوان "الذكاء الاصطناجي الوكيل والهلوسة" باستخدام لغة بسيطة وتشبيهات إبداعية.

الصورة الكبيرة: مشكلة "خبير النبيذ" للذكاء الاصطناعي

تخيل عالماً لا تتحدث فيه مباشرة مع "عقل" الذكاء الاصطناعي (النماذج الضخمة مثل LLMs)، بل توظف وسيطاً، وهو "الوكيل الذكي" (AI Agent).

فكر في هؤلاء الوكلاء كأنهم خبراء نبيذ (Sommeliers) أو وكلاء سفر.

النماذج الصاعدة (Upstream Models): هي المصانع أو شركات الطيران. هي التي تنتج المنتج الخام (النبيذ أو الرحلات الجوية). بعض المصانع تنتج نبيذاً رخيصاً ومخاطراً قد يكون فاسداً (هلوسة)؛ والبعض الآخر ينتج نبيذاً فاخراً وعالي الجودة.
الوكيل (The Agent): هو خبير النبيذ الذي يشتري النبيذ، يفحصه، ثم يقدمه لك.
أنت (المستخدم): أنت الزبون. بعضكم يريد فقط كأساً رخيصاً من النبيذ لحفلة (مخاطر منخفضة). والبعض الآخر هو خبير نبيذ يحكم في مسابقة أو طبيب يحتاج إلى تشخيص مثالي (مخاطر عالية).

المشكلة: الوكيل يريد توفير المال. قد يشتري النبيذ الرخيص والمخاطر ويقدمه لك دون فحصه أولاً. إذا كان النبيذ سيئاً (أي "هلوسة")، فقد تمرض أو تتخذ قراراً كارثياً. الوكيل يعلم ذلك، لكنه يعلم أيضاً أنه إذا كُشف أمره، فسيخسر عملك للأبد.

تسأل الورقة البحثية: هل يمكن لتهديد خسارة عملك أن يجبر الوكيل على فحص النبيذ بعناية، حتى لو كلفه ذلك وقتاً ومالاً؟

قائمة الشخصيات

"الهلوسة" (النبيذ الفاسد):
أحياناً، يخترع الذكاء الاصطناعي أشياءً. قد يقول بثقة: "عاصمة فرنسا هي لندن". في الورقة، يُسمى هذا "هلوسة".

بالنسبة لـ مستخدم ذي مخاطر منخفضة (ترفيه)، هذا أمر مزعج فقط. كأنك حصلت على نبيذ سيء؛ ستتوقف عن الشرب فحسب.
بالنسبة لـ مستخدم ذي مخاطر عالية (محامٍ، طبيب)، هذا أمر كارثي. الأمر يشبه تقديم سمّ. الضرر هنا هائل.

معضلة الوكيل:
يمكن للوكيل أن يختار بين:

عدم فعل شيء: شراء ذكاء اصطناعي رخيص، تقديمه بسرعة، وتوفير المال.
التحقق: قضاء وقت ومال لفحص الإجابة (مثل خبير النبيذ الذي يتذوق النبيذ قبل تقديمه). هذا يقلل من احتمالية وجود زجاجة "فاسدة".

"الإيجار المستقبلي" (السمعة):
هذا هو السر في الورقة. إذا قدم لك الوكيل نبيذاً سيئاً اليوم، فستطرده غداً. وبما أن الوكيل يريد جني المال لسنوات قادلة، فهو يخشى فقدان ذلك الدخل المستقبلي. هذا الخوف يعمل كأداة ضبط.

كيف يعمل السوق (القصة)

1. "السوق الفوري" (لا يوجد مستقبل)

تخيل عالماً تقابل فيه الوكيل مرة واحدة، تشرب النبيذ، ولا تراه أبداً بعد ذلك.

النتيجة: ليس لدى الوكيل أي سبب لفحص النبيذ. سيشتري أرخص وأكثر أنواع النبيذ خطورة ويقدمها.
لماذا؟ لأن الفحص يكلف مالاً، وبما أنك لن تعود، فهو لا يهتم إذا مرضت أم لا. ينهار السوق إلى جودة منخفضة.

2. "السوق القائم على العلاقات" (اللعبة الطويلة)

الآن، تخيل أنك وقعت عقداً لتناول النبيذ مع هذا الوكيل للسنوات العشر القادمة.

النتيجة: يجب على الوكيل فحص النبيذ. إذا قدم لك نبيذاً سيئاً، ستلغي العقد، وسيفقد هو كل أرباحه المستقبلية.
العقبة: الفحص يكلف مالاً. لذا، يجب على الوكيل أن يفرض عليك سعراً أعلى لتغطية تكلفة الفحص بالإضافة إلى "رسوم سلامة" إضافية (إيجار) لجعل البقاء صادقاً أمراً مجدياً له.

3. "خليط العملاء" (الاكتشاف الرئيسي)

هذا هو الجزء الأهم في الورقة. السوق ليس نوعاً واحداً من الناس، بل هو مزيج:

المجموعة (أ): أشخاص يريدون فقط إجابات رخيصة وسريعة (مخاطر منخفضة).
المجموعة (ب): أشخاص يحتاجون إلى دقة مثالية (مخاطر عالية).

اكتشاف الورقة:
إذا كان السوق يتكون في الغالب من المجموعة (أ) (مستخدمي الترفيه)، فإن الوكيل سيختصر الطرق. سيشتري نبيذاً رخيصاً ويفحصه بشكل سطحي لأن المجموعة (أ) لا تمانع وجود بعض المخاطر.

ولكن، إذا كان السوق يحتوي على جزء كبير من المجموعة (ب) (الأطباء، المحامين)، فإن الوكيل يُجبر على تغيير سلوكه.

حتى لو كانت المجموعة (ب) تمثل 25% فقط من العملاء، يدرك الوكيل: "إذا قدمت نبيذاً سيئاً لطبيب، سأخسر العقد بأكمله. لا يمكنني تحمل المخاطرة."
النتيجة: يبدأ الوكيل في شراء نبيذ أفضل وفحص كل شيء بدقة.
الثمن: ولأن الوكيل يعمل بجهد أكبر ويشتري نبيذاً أفضل، فإن السعر يرتفع للجميع، حتى لمستخدمي المخاطر المنخفضة.

لحظة الإدراك (Aha!)

تخلص الورقة إلى أن تكوين السوق هو ما يحدد الجودة.

في الصناعات ذات المخاطر المنخفضة (مثل توليد النكات أو كتابة رسائل البريد الإلكتروني العادية)، سيكون وكلاء الذكاء الاصطناعي كسولين بطبيعتهم ومعرضين للهلوسة لأن عدم الخطأ لا يترتب عليه عقوبة مالية.
في الصناعات ذات المخاطر العالية (الطب، القانون، التمويل)، فإن مجرد وجود هؤلاء المستخدمين الحاسمين يجبر منظومة الذكاء الاصطناعي بأكملها على أن تصبح أكثر حذراً، وأكثر تكلفة، وأكثر دقة في التحقق.

المثال الرقمي (اختبار "تذوق النبيذ")

أجرى المؤلفون محاكاة بنوعين من "النبيذ":

النموذج (أ): رخيص (0.05$)، لكن هناك احتمال 20% أن يكون سيئاً.
النموذج (ب): غالي (0.30$)، لكن احتمال كونه سيئاً هو 13% فقط.

السيناريو 1: السوق يتكون من 80% "رواد حفلات" و20% "أطباء".

يشتري الوكيل النموذج (أ) (الرخيص).
يبذل جهداً قليلاً في فحصه.
هذا كافٍ للحفلة، والمخاطرة منخفضة بما يكفي بحيث لا يغادر الأطباء فوراً.

السيناريو 2: تحول السوق ليصبح 30% "أطباء".

فجأة، تتغير الحسابات. خطر خسارة الأطباء أصبح مرتفعاً جداً.
ينتقل الوكيل إلى النموذج (ب) (الغالي) ويبذل مزيداً من الجهد في الفحص.
ترتفع الجودة، ولكن سعر "رواد الحفلات" يرتفع أيضاً لأن الوكيل أصبح يعمل بمعايير أعلى.

ملخص في جملة واحدة

لن يعمل وكلاء الذكاء الاصطناعي بجد لمنع الأخطاء إلا إذا كانوا يخشون خسارة عملائهم، ووجود حتى عدد قليل من العملاء "المتطلبين" (مثل الأطباء) يجبر السوق بأكمله على أن يصبح أكثر أماناً وأعلى تكلفة للجميع.

إليك ملخص تقني مفصل للورقة البحثية بعنوان "الذكاء الاصطناعي الوكيل والهلوسة" (Agentic AI and Hallucinations) من إعداد إنجين إييدوغان وعلي إي. أوزكيش.

1. بيان المشكلة

تتناول الورقة تحدياً اقتصادياً حرجاً في السوق الناشئة لـ الذكاء الاصطناعي الوكيل (Agentic AI): كيفية ضمان مخرجات عالية الجودة وخالية من الهلوسة في بيئة تنافسية حيث تعمل وكلاء الذكاء الاصطناعي كوسيط بين مزودي النماذج اللغوية الكبيرة (LLM) في الأعلى والمستخدمين النهائيين في الأسفل.

الصراع الجوهري: تمتلك النماذج في الأعلى معدلات متفاوتة من الهلوسة الأساسية ( $h_0$ ) وتكاليف مختلفة. يمكن للوكلاء في الأسفل تقليل هذه المخاطر من خلال جهود التحقق (verification efforts) المكلفة وغير القابلة للتعاقد (مثل: تعزيز الاسترجاع، أو التدخل البشري).
المخاطر الأخلاقية (Moral Hazard): بما أن جهد التحقق غير قابل للملاحظة من قبل المستخدمين، فإن لدى الوكلاء حافزاً للتقاعس (بذل جهد صفري) لتوفير التكاليف، خاصة إذا لم يتمكن المستخدمون من التمييز بين الإجابة "الجيدة" والإجابة "المهلوسة" إلا بعد وقوع الأمر.
تباين المستخدمين: يختلف المستخدمون بشكل كبير في مدى تحملهم للأخطاء. فالمستخدمون في المجالات عالية الخطورة (مثل القانون أو الطب) يعانون من خسارة فادحة في المنفعة بسبب الهلوسة، بينما يعتبرها مستخدمو المجالات منخفضة الخطورة (مثل الترفيه) مجرد إزعاج بسيط.
سؤال البحث: هل يمكن للأسواق التنافسية والعقود العلاقاتية وحدها أن تدفع الوكلاء لبذل قدر كافٍ من جهد التحقق لإرضاء المستخدمين ذوي الأهمية العالية، وكيف يؤثر تكوين السوق على أسعار الجودة؟

2. المنهجية

وضع المؤلفون نموذج لعبة متكررة إلى مالا نهاية، ذات زمن منفصل، وسهلة المعالجة (tractable) لتحليل التفاعل بين الوكلاء التنافسيين والمستخدمين المتباينين.

المكونات الرئيسية للنموذج:

الوكلاء: مجموعة مستمرة من الشركات طويلة الأمد والتنافسية. يختار كل منها:
1. نموذجاً علوياً $m$ (بمع تكلفة جملة $k_m$ ومعدل هلوسة أساسي $h_0(m)$ ).
2. سعر بيع بالتجزية $p$ .
3. مستوى جهد التحقق $e$ (غير قابل للملاحظة، ومكلف).
المستخدمون: كتلة وحدة من المستخدمين ذوي الأنواع الخاصة $\theta \in \{H, L\}$ $θ \in {H, L}$ (عالي مقابل منخفض الأهمية).
- المنفعة: $v(\theta)$ للإجابة الصحيحة؛ وعدم المنفعة $\alpha(\theta)$ للهلوسة.
- الافتراض: $v(H) > v(L)$ والأهم من ذلك أن $\alpha(H) \gg \alpha(L)$ .
- السكان: تمثل الفئة ذات الأهمية العالية حصة $\mu$ من السكان.
الديناميكيات:
- آلية الهلوسة: احتمال حدية الهلوسة هو $h(m,e) = h_0(m) \exp(-\beta e)$ ، حيث $\beta$ هي فعالية التحقق.
- الإنهاء: إذا حدثت هلوسة، يلاحظها المستخدم، وتنتهي العلاقة، ويخرج المستخدم من السوق.
- التجديد: يدخل مستخدمون جدد غير مطلعين إلى السوق ليحلوا محل من خرجوا، مما يحافظ على ثبات عدد السكان.
آلية الحوافز:
- يقدم الوكلاء عقوداً علاقاتية طويلة الأمد.
- الإنفاذ: تهديد فقدان العوائد المستقبلية ("ظل المستقبل") يؤدب الوكيل. إذا تقاعس الوكيل وحدثت هلوسة، فإنه يخسر تدفق الأرباح المستقبلية من ذلك المستخدم.
- تكلفة الجهد: دالة تكلفة محدبة $c(e)$ حيث $c(0)=0, c'>0, c''>0$ .

مفهوم التوازن:

يحلل المؤلفون توازنات السمعة (Reputational Equilibria) حيث يبذل الوكلاء جهداً إيجابياً لأن القيمة الحالية للريع العلاقي المستقبلي ( $V_C$ ) تتجاوز التكلفة الفورية للتقاعس. يتم تحديد السعر بناءً على قيد التوافق في الحوافز (IC constraint) الملزم، والذي يضمن أن يكون الوكيل محايداً بين بذل الجهد والتقاعس.

3. المساهمات الرئيسية

العقود العلاقاتية في الذكاء الاصطناعي الوكيل: توضح الورقة كيف تحل الحوافز العلاقاتية (السمعة) مشكلة المخاطر الأخلاقية في التحقق من الذكاء الاصطعي، حيث تعمل كبديل للعقود الصريحة غير القابلة للتحقق.
الانضباط الداخلي للسوق: توضح الورقة أن تكوين السوق ( $\mu$ ) يعمل كأداة انضباط. فوجود مستخدمين ذوي أهمية عالية يجبر السوق بأكله نحو معايير تحقق أعلى، حتى بالنسبة للمستخدمين ذوي الأهمية المنخفضة.
اختيار الجودة ثنائي الطبقات: يحلل النموذج صراحةً المقايضة بين الاختيار العلوي (اختيار نموذج LLM أفضل وأغلى) والتحقق في الأسفل (بذل الجهد).
الآثار على الرفاهية: تظهر الورقة أنه بدون تفاعلات مستقبلية ( $\delta=0$ )، ينهار السوق إلى ناتج الجهد الصفري (نتيجة "السوق الفورية")، مما يسلط الضوء على ضرورة العلاقات طويلة الأمد لضمان موثوقية الذكاء الاصطناعي.

4. النتائج الرئيسية

أ. معيار السوق الفورية ( $\delta = 0$ )

إذا كان الوكلاء مقتصدين (لا يوجد قيمة مستقبلية)، فإن قيد التوافق في الحوافز يفرض جهداً $e^* = 0$ .
يقوم الوكلاء ببساطة بتمرير تكلفة الجملة للنموذج ( $p = k_m$ ).
يتم تحديد الجودة فقط من خلال اختيار النموذج الأساسي، الذي يعظم متوسط المنفعة المرجح لجميع المستخدمين. وهذا يؤدي إلى نتائج دون المستوى للمستخدمين ذوي الأهمات العالية.

ب. توازن السمعة ( $\delta > 0$ )

الوجود: يوجد توازن سمعة فريد إذا كان عامل الخصم $\delta$ مرتفعاً بما يكفي (أي أن الوكلاء صبورون بما يكفي).
مستوى الجهد: مستوى جهد التحقق في التوازن $e^*$ $e^{*}$ يزداد طردياً مع حصة المستخدمين من النوع العالي ( $\mu$ $μ$ ).
- المنطق: مع نمو نسبة المستخدمين ذوي الأهمية العالية، تزدل الخسارة المحتملة من العوائد المستقبلية نتيجة الهلوسة (بما أن هؤلاء المستخدمين أكثر حساسية للأخطاء). هذا يشدد قيد التوافق في الحوافز، مما يتطلب جهداً أعلى للحفاظ على العلاقة.
التسعير: بما أن الجهد مكلف، فإن سعر التوازن $p$ يزداد مع زيادة $\mu$ . القطاعات ذات الأهمية العالية (القانون، الطب) تؤدي داخلياً إلى خدمات ذكاء اصطناعي أغلى ثمناً بسبب كثافة التحقق المطلوبة.
القيود الملزمة:
- إذا كان معدل الهلوسة مرتفعاً، يلتزم قيد المشاركة للأنواع العالية ( $V_H \ge 0$ ).
- إذا كان معدل الهلوسة منخفضاً، يلتزم قيد الأنواع المنخفضة ( $V_L \ge 0$ ).
- نقطة التحول تعتمد على نسبة الحساسية $\kappa = \frac{\alpha(H)-\alpha(L)}{v(H)-v(L)}$ .

ج. النتائج الرقمية

الصبر ( $\delta$ ): الصبر الأعلى يخفف من قيد التوافق في الحوافز، مما يسمح بمستويات جهد أعلى عبر جميع تكوينات السوق.
التكنولوجيا ( $\beta$ ): تكنولوجيا التحقق الأكثر فعالية (زيادة $\beta$ ) ترفع منحنى الجهد للأعلى، مما يسمح للوكلاء بتحقيق أهداف الجودة بجهد أقل أو بحصص أقل من المستخدمين ذوي الأهمية العالية.
تبديل النماذج: هناك عتبة لـ $\mu$ $μ$ (حوالي 0.26 في المثال).
- عندما تكون $\mu < 0.26$ : يختار الوكلاء النموذج العلوي الأرخص والأكثر خطورة (النموذج A) ويعوضون ذلك بجهد تحقق عالٍ.
- عندما تكون $\mu > 0.26$ : ينتقل الوكلاء إلى النموذج العلوي الأغلى والأكثر نقاءً (النموذج B) لأن تكلفة التحقق من النموذج الأكثر خطورة تصبح عالية جداً مقارنة بالمدخرات في سعر الجملة.

5. الأهمية والآثار المترتبة

التنظيم الخاص بالقطاعات: تشير النتائج إلى أن التنظيمات التي تتبع مبدأ "مقاس واحد يناسب الجميع" للذكاء الاصطناعي قد تكون غير فعالة. فالقطاعات ذات $\mu$ العالية (القانون، الطب) تتطور طبيعياً نحو معايير تحقق وأسعار أعلى بسبب قوى السوق، بينما قد لا يحدث ذلك في قطاعات الترفيه.
دور الوكلاء: وكلاء الذكاء الاصطناعي ليسوا مجرد إعادة بيع سلبية؛ بل هم مراقبون نشطون للجودة. تعتمد ربحيتهم على الحفاظ على سمعة تضبط سلوك التحقق لديهم.
خطر فشل السوق: إذا كان عامل الخصم منخفضاً جداً (على سبيل المثال، في سوق يتسم بالدوران العالي أو العقود قصيرة الأجل)، فإن السوق سيفشل في توفير ذكاء اصطناعي آمن للتطبيقات عالية الخطورة، بغض النظر عن توفر نماذج أفضل.
رؤية سياساتية: لضمان السلامة في المجالات الحرجة، قد تحتاج السياسات إلى فرض مدد أدنى للعقود أو آليات شفافية تعزز "ظل المستقبل"، مما يقوي الحافز السمعي للتحقق.

باختالام، توفر الورقة إطاراً اقتصادياً صارماً يوضح أن السمعة هي الآلية الأساسية لضمان سلامة الذكاء الاصطناعي في الأسواق التنافسية، وأن مزيج أنواع المستخدمين هو ما يحدد بشكل أساسي مستوى جهد التحقق وسعر الخدمة في التوازن.