إنتقل إلى المحتوى الرئيسي

الهلوسة وكيفية الحد منها

متوسط

الهلوسة هي أن يذكر النموذج شيئًا خاطئًا بثقة تامة. إنه لا يكذب وليس معطوبًا — بل هذا هو الوجه الآخر لطريقة عمل نماذج اللغة الكبيرة: فهي تولّد نصًا معقولًا، والمعقول ليس صحيحًا دائمًا (انظر ما هو نموذج اللغة الكبير (LLM)؟). لا يمكنك إزالة هذا تمامًا بالتوجيه، لكن يمكنك تقليله بشكل كبير واكتشاف ما تبقّى.

لماذا يحدث ذلك​

يتنبأ النموذج باستمرار محتمل. وعندما لا "يعرف" شيئًا، يكون الاستمرار الأكثر معقولية في الظاهر غالبًا إجابة واثقة وحسنة الصياغة — وخاطئة. لا توجد إشارة مدمجة من نوع "لست متأكدًا" ما لم تخلق مساحة لذلك.

المناطق عالية الخطورة​

كن أكثر تشككًا عندما تتضمّن المخرجات:

  • الاستشهادات والاقتباسات والمراجع — أبحاث ملفّقة وروابط مزيّفة واقتباسات منسوبة لغير أصحابها.
  • أرقام وتواريخ وإحصاءات محددة — أرقام معقولة لكنها مختلقة.
  • حقائق نادرة أو حديثة جدًا — تتجاوز ما تعلّمه النموذج بشكل موثوق.
  • تفاصيل واجهات الـ API والمكتبات — دوال أو بارامترات غير موجودة.
  • تفاصيل الأشخاص والتفاصيل القانونية/الطبية — مخاطر عالية، وسهل الخطأ فيها بشكل دقيق.

مجموعة أدوات الحد من الهلوسة​

اجمع بينها — كل واحدة تساعد:

  1. اربطها بالمصادر. الصق النص المصدر وقل "أجب فقط من النص أعلاه؛ وإن لم يكن موجودًا فيه، فقل ذلك." هذه هي الفكرة الجوهرية وراء RAG.
  2. امنحه مخرجًا. اسمح صراحةً بـ "إذا لم تكن متأكدًا، فقل 'لا أعرف'" — فهذا يقلّل التخمين الواثق بشكل كبير.
  3. اطلب الاستدلال والاستشهادات. "اقتبس الجملة الدقيقة التي تدعم كل ادّعاء." فتصبح الادّعاءات غير المدعومة واضحة.
  4. خفّض الإبداع للمهام الواقعية حيث يتيح النموذج التحكّم في درجة الحرارة (انظر ضوابط أخذ العينات).
  5. استخدم الأدوات. للرياضيات أو البيانات الحالية أو عمليات البحث، امنح النموذج آلة حاسبة/بحثًا/أداة بدلًا من الوثوق بذاكرته.
  6. تحقّق بالمقارنة. اطرح السؤال نفسه بطريقتين، أو اجعل تمريرة ثانية تنتقد الأولى.

العقلية التي تحميك فعلًا​

:::warning تحقّق مما يهم — دائمًا لا توجد مطالبة تجعل المخرجات موثوقة بنسبة 100%. لأي شيء ذي أهمية — رقم في تقرير، أو استشهاد، أو أمر ستنفّذه، أو تفصيل طبي/قانوني/مالي — تحقّق منه بمقارنته بمصدر موثوق. تعامل مع الذكاء الاصطناعي كمسودة أولى سريعة، لا كمرجع نهائي. هذا هو جوهر الاستخدام المسؤول. :::

قاعدة بسيطة: تكلفة الخطأ تحدّد مقدار التحقّق. هل تقوم بعصف ذهني؟ ثق بحرية. هل تنشر إحصائية؟ تحقّق في كل مرة.

التالي​