الهلوسة

تنشأ الهلوسة من طريقة عمل النماذج اللغوية. يتعلم النموذج إنتاج نص مرجَّح إحصائيًا بحسب ما سبقه، ولا يبحث عن الحقائق ولا يملك إحساسًا مدمجًا بما لا يعرفه. وحين تغيب الإجابة عن تدريبه أو تكون ضعيفة التمثيل يبقى الاستمرار الأرجح جملة سلسة، فيملأ الفراغ بشيء يُقرأ جيدًا. وتزيد الاحتمال الأسئلة المبهمة أو الموحية، والمواضيع غير المعروفة، وطلب أرقام دقيقة أو هوامش أو استشهادات قضائية أو أرقام هواتف، والمدخلات الطويلة جدًا.

لها أشكال عدة. قد يخترع النموذج معلومة، أو ينسب اقتباسًا إلى شخص خطأ، أو يذكر دراسة أو حكمًا قضائيًا أو عنوان موقع غير موجود، أو يخلط بين مدينتين متشابهتين أو دوائين أو شركتين، أو يناقض مستندًا أُعطي له. وفي الشيفرة الحالة المعتادة استدعاء دالة من مكتبة باسم معقول لا وجود له فيها. ولا تدل النبرة على شيء، فالإجابة المختلقة تُكتب عادةً بسلاسة الإجابة الصحيحة.

لا شيء يزيل المشكلة تمامًا، لكن عادات عدة تقللها. أعطِ النموذج المادة المصدرية واطلب منه أن يجيب منها فقط. اطلب اقتباسات أو مراجع تستطيع فتحها. استخدم نموذج استدلال للأسئلة متعددة الخطوات. قارن الإجابات بين نموذجين أو دع نموذجًا ثانيًا يراجع الأول. خفّض العشوائية في الأسئلة الواقعية وفضّل سؤالًا قصيرًا محددًا على سؤال متشعب. وما له وزن قانوني أو طبي أو مالي أو يخص السلامة فتأكد منه من مصدر موثوق. ويميّز الباحثون بين حالات داخلية يناقض فيها الناتجُ المادةَ المقدَّمة، وحالات خارجية يضيف فيها ادعاءات لا يمكن تأكيدها ولا نفيها، والتلخيص والترجمة والإجابة عن الأسئلة تُظهر النوعين كليهما.

تصف صفحة التحقق من إجابات الذكاء الاصطناعي كيف يعمل التدقيق المتقاطع في NeverNo: نموذج من عائلة أخرى يعيد قراءة الإجابة ويقتبس ما يبدو خاطئًا ويقترح تصحيحًا، بوضعين: وضع يعيد القراءة دون الويب، ووضع يبحث عن الادعاءات في الويب ويذكر المصادر. وClaude Sonnet 5.5 من Anthropic، النموذج المتوازن، من النماذج مجهولة الهوية التي تستطيع استخدامها لأي من طرفي هذا التبادل، ونافذة سياقه 200,000 توكن ومستوى استدلاله قابل للضبط.

مجهول الهوية يعني أن الجهة المطوِّرة، Anthropic، تقرأ النص دون أن تعرف من أنت، وتسري قواعدها الخاصة. ولا ندّعي أن نموذجًا يهلوس أكثر أو أقل من غيره. والنهج السليم واحد للجميع: اطلب المصادر وافتحها وأبقِ مراجعة بشرية لما يهم.