توهم چیست؟ Hallucination
توهم (Hallucination) وقتی است که مدل هوش مصنوعی چیزی نادرست را با اطمینان کامل میگوید: منبعی که وجود ندارد، آماری ساختگی، نقلقولی که کسی نگفته یا قانونی که تصویب نشده است. این خطا در همهٔ مدلها ممکن است، پس هر عدد، منبع و ادعای مهم را خودت چک کن.
مدل زبانی جواب را بر اساس الگوهای متنی میسازد، نه با جستوجو در یک بانک اطلاعات دقیق. وقتی جواب را نمیداند، بهجای «نمیدانم» اغلب چیزی میسازد که شبیه جواب درست است. خطر اینجاست که متن روان و مطمئن است و ظاهرش لو نمیدهد که اشتباه است.
رایجترین جاها: فهرست منابع مقاله و پایاننامه، آمار و درصد، تاریخها، نقلقول از شاعران و بزرگان، قیمتها و قوانین. در ChatGPT و Gemini، روشن کردن جستوجوی وب و خواستن لینک منبع کمک میکند، ولی باز هم باید لینک را باز کنی و ببینی واقعاً همان را میگوید. برای همین پرامپتهای فارسی پرامپت بهجای عدد، [عدد] میگذارند تا عدد واقعی را خودت وارد کنی.
اشتباه رایج این است که از مدل بپرسی «مطمئنی؟» و جواب «بله» را تأیید حساب کنی. بهتر است در پرامپت بنویسی «اگر مطمئن نیستی، بگو نمیدانم» و اطلاعات واقعی را خودت به مدل بدهی تا فقط روی همان کار کند. برای موضوعهای پزشکی، حقوقی و مالی، جواب را با متخصص چک کن.
پرسیدن منبع: پرامپتی که توهم میسازد و پرامپت امنتر
۱۰ مقالهٔ علمی دربارهٔ اثر خواب بر حافظه را با نام نویسنده و سال انتشار معرفی کن.
دربارهٔ اثر خواب بر حافظه، کلیدواژههای انگلیسی مناسب برای جستوجو در Google Scholar پیشنهاد بده و بگو در هر مقاله دنبال چه نکتههایی باشم. هیچ عنوان مقاله یا نام نویسندهای از خودت ننویس.
نسخهٔ دوم از مدل کاری را میخواهد که در آن خوب است و پیدا کردن منبع واقعی را به جستوجوی خودت میسپارد.
پرامپتهایی برای امتحانش
طرح درس یک جلسه برای معلم
برای یک جلسهٔ کلاس، طرح درس کامل مینویسد: هدف، شروع جذاب، فعالیت گروهی، تمرین و ارزشیابی، متناسب با پایه و زمان کلاس.
پاسخ به نظر داوران مقاله (Response to Reviewers)
نظر داورها آمده و باید نامهٔ پاسخ بنویسی. برای هر نظر یک پاسخ محترمانه و دقیق میسازد: تشکر کوتاه، آنچه تغییر کرد با شمارهٔ صفحه، یا دلیل علمی برای تغییر ندادن. بدون چاپلوسی و بدون لحن دفاعی.
نوشتن چکیدهٔ مقاله به فارسی و انگلیسی
از متن مقاله یا یادداشتهایت، چکیدهٔ ساختاریافته در ۲۰۰ تا ۲۵۰ کلمه میسازد: زمینه، هدف، روش، یافتهها، نتیجه. نسخهٔ انگلیسی با زبان علمی طبیعی، نه ترجمهٔ کلمهبهکلمه، و کلیدواژههای مناسب.
طراحی پرسشنامه و سؤالهای مصاحبه برای پژوهش
از روی سؤال پژوهش، پرسشنامهای با مقیاس مناسب یا راهنمای مصاحبهٔ نیمهساختاریافته میسازد. هر سؤال به یک متغیر وصل است، سؤالهای جهتدار و دوپهلو حذف شدهاند و روش سنجش روایی و پایایی پیشنهاد میشود.
سؤالهای رایج
- چطور بفهمم ChatGPT توهم زده است؟
- از ظاهر جواب نمیشود فهمید. نامها، عددها و منبعها را در Google جستوجو کن؛ اگر منبعی پیدا نشد، احتمالاً ساختگی است.
- روشن کردن جستوجوی وب توهم را از بین میبرد؟
- کمش میکند، ولی کامل از بین نمیبرد. مدل ممکن است منبع واقعی را اشتباه خلاصه کند، پس بخش مهم را در خود منبع بخوان.