پژوهش: تغییر صورت پرسش می‌تواند سوگیری و توهم مدل‌ها را کاهش دهد

ارزیابی مدل‌های زبانی در یک پژوهش تازه نشان می‌دهد تغییر در صورت‌بندی پرسش می‌تواند بر میزان سوگیری و توهم برخی مدل‌ها در کارهای تصمیم‌گیری اثر بگذارد. پژوهشگران در مقاله‌ای که اول اکتبر ۲۰۲۶ در arXiv منتشر شده، پایداری مدل‌های زبانی بزرگ را هنگام روبه‌روشدن با صورت‌های متفاوت یک پرسش بررسی کرده‌اند؛ موضوعی که برای سنجش قابلیت اعتماد دستیارهای هوش مصنوعی در تصمیم‌گیری اهمیت دارد.

تغییر صورت پرسش چه اثری دارد؟

منظور از «آشفتگی پرسش» در این پژوهش، تغییر در صورت پرسش اصلی و بررسی پاسخ مدل به نسخه‌های متفاوت آن است. پژوهشگران این تغییرها را در زمینه کارهای تصمیم‌گیری بررسی کرده‌اند و به دو مسئله توجه داشته‌اند: سوگیری، یعنی تمایل پاسخ به سمت قضاوتی ناعادلانه یا یک‌طرفه، و توهم، یعنی ارائه اطلاعات نادرست یا بی‌پشتوانه.

طبق چکیده مقاله، نتیجه‌ها با برخی پژوهش‌های پیشین تفاوت دارد: تغییر صورت پرسش در بعضی مدل‌ها می‌تواند سوگیری و توهم را کاهش دهد. این اثر در همه مدل‌ها یکسان گزارش نشده است؛ بنابراین نمی‌توان نتیجه گرفت که بازنویسی پرسش همیشه پاسخ مدل را قابل‌اعتمادتر می‌کند.

تفاوت عملکرد Claude 3 و GPT3.5

پژوهشگران می‌گویند Claude 3 در کارهایی که در بیشتر مجموعه‌داده‌های بررسی‌شده بازنمایی شده‌اند، عملکرد مؤثرتری داشته است. در مقابل، کفایت GPT3.5 بسته به مورد ارزیابی تغییر کرده: این مدل در بعضی موارد عملکردی قابل‌مقایسه داشته، اما در موارد دیگر به‌طور محسوسی عقب‌تر بوده است.

چکیده مقاله جزئیاتی درباره نام یا شمار مجموعه‌داده‌ها، شیوه دقیق تغییر پرسش‌ها یا اندازه تفاوت عملکرد مدل‌ها ارائه نمی‌کند. ازاین‌رو، یافته‌های گزارش‌شده را باید در همان محدوده کلی در نظر گرفت و نه رتبه‌بندی جامع این مدل‌ها در همه کاربردها.

اهمیت آزمون پیش از استفاده

به گفته پژوهشگران، نتیجه‌ها به ارزیابی دستیارهای مبتنی بر مدل‌های زبانی در موقعیت‌های تصمیم‌گیری کمک می‌کند. پاسخ به یک پرسش واحد به‌تنهایی برای سنجش قابلیت اعتماد کافی نیست؛ بررسی واکنش مدل به صورت‌های متفاوت همان پرسش نیز می‌تواند اطلاعاتی درباره پایداری پاسخ و احتمال سوگیری یا توهم فراهم کند.

این مقاله بر ضرورت آزمون و اعتبارسنجی دقیق پیش از اتکا به دستیارهای هوش مصنوعی در تصمیم‌های واقعی تأکید دارد. بااین‌حال، چکیده پژوهش توصیه مشخصی درباره کاربرد در یک حوزه خاص ارائه نمی‌کند و نتایج آن نیز تنها تفاوت‌های گزارش‌شده میان مدل‌ها را نشان می‌دهد.

این خبر برای چه کسانی اهمیت دارد

این یافته‌ها برای پژوهشگران ارزیابی مدل‌های زبانی، تیم‌هایی که دستیارهای هوش مصنوعی را برای پشتیبانی از تصمیم‌گیری می‌سازند و سازمان‌هایی که قابلیت اعتماد این ابزارها را می‌سنجند اهمیت دارد. پیام اصلی پژوهش این است که اثر تغییر صورت پرسش باید در ارزیابی مدل‌ها دیده شود و نتیجه یک آزمون منفرد، تصویر کاملی از عملکرد آن‌ها به دست نمی‌دهد.