واژهنامه پیکا · هوش مصنوعی سازمانی
توهم مدل چیست؟
توهم مدل یعنی مدل زبانی پاسخی روان و مطمئن تولید کند که در واقعیت پایهای ندارد: شمارهای که وجود ندارد، بندی که در قرارداد نیست یا منبعی که ساخته شده است. این رفتار خطای اتفاقی نیست؛ نتیجه طبیعی مدلی است که محتملترین ادامه متن را میسازد.
نام دیگر این اصطلاح
Hallucination
تفاوتی که معمولاً اشتباه گرفته میشود
لحن مطمئن مدل هیچ نشانهای از درستی نیست؛ پاسخ نادرست دقیقاً با همان اطمینان بیان میشود.
کجا با آن روبهرو میشوید
راه عملی کاهش آن، اجبار مدل به استناد به سند بازیابیشده و اعلام نبود پاسخ در نبود منبع است.
راهنمای کامل این موضوع
این صفحه فقط تعریف است. توضیح کامل، معیارها و مثالها در صفحه زیر آمدهاند.