پژوهش: پاداش‌های خودکار هنوز در سنجش طنز فریب‌پذیرند

پژوهشی تازه درباره پاداش شوخی هوش مصنوعی نشان می‌دهد معیارهای خودکار برای آموزش مدل‌های زبانی به طنزنویسی ممکن است به‌جای سنجش شوخی واقعی، با نشانه‌های سطحی فریب بخورند. این مطالعه که در arXiv منتشر شده، چند روش ارزیابی و راه‌های مقابله با سوءاستفاده از آن‌ها را بررسی می‌کند؛ نتایج یادآور می‌شود که ساخت پاداشی که هم قابل‌دست‌کاری نباشد و هم رفتار مطلوب را حفظ کند، همچنان دشوار است.

پاداش شوخی هوش مصنوعی چگونه آزموده شد؟

پژوهشگران دو رویکرد را بررسی کردند: یکی برای سنجش «غافلگیری قابل‌فهم» در پاسخ و دیگری برای پیش‌بینی میزان خنده مخاطب. پاداش در این زمینه امتیازی است که سامانه هنگام آموزش به پاسخ‌های مدل می‌دهد تا رفتارهایی را که مطلوب تشخیص داده شده‌اند تقویت کند.

در آزمون‌های کنترل‌شده، معیار مبتنی بر تعبیه‌های متنی ــ روشی برای نمایش معنای متن به‌شکل عددی ــ پاسخ‌هایی را می‌پذیرفت که واژه‌هایشان به‌هم‌ریخته بود؛ این پاسخ‌ها به‌اندازه جواب‌های هوشمندانه از پاداش برخوردار می‌شدند. افزودن فیلتر روانی متن، این نمونه‌ها را تشخیص می‌داد، اما در عین حال شماری از پاسخ‌های بامزه را نیز رد می‌کرد و در اعتبارسنجی‌های بعدی موفق نبود.

نشانه‌های خنده و راه‌های دور زدن مدل

رویکرد دوم از مدلی استفاده می‌کرد که خنده مخاطب را پیش‌بینی می‌کرد. طبق نتایج پژوهش، این مدل به نشانه‌های خنده در پیام هر یک از دو گوینده حساس بود؛ بنابراین وجود این نشانه‌ها می‌توانست ارزیابی را تحت‌تأثیر قرار دهد، بی‌آنکه لزوماً کیفیت خود شوخی را نشان دهد.

پژوهشگران با عادی‌سازی نشانه‌های خنده میان گویندگان، حمله‌هایی را که در آزمون‌ها پوشش داده بودند مسدود کردند. با این حال، عبارت‌هایی که در ارزیابی‌ها بررسی نشده بودند، همچنان می‌توانستند برای سوءاستفاده از پاداش به کار روند. بنابراین دفاع پیشنهادی همه راه‌های فریب را از بین نبرد.

نتایج آموزش و محدودیت‌ها

برای سنجش اثر اصلاح‌های پیاپی، پژوهشگران سه اجرای یادگیری تقویتی انجام دادند؛ روشی که در آن مدل بر اساس امتیاز دریافتی به‌تدریج تنظیم می‌شود. در اجرای نهایی، امتیاز ارزیابی ترکیبی ۰٫۰۹۰۳ افزایش یافت و شمار نشست‌هایی که امتیاز صفر داشتند ۴۰ درصد کاهش پیدا کرد.

با وجود این پیشرفت‌ها، بهبود مختص طنز از هدفی که پژوهشگران پیشاپیش ثبت کرده بودند کمتر ماند. نتیجه کلی مقاله این است که اصلاح پاداش فقط نباید میان‌بُرهای قابل‌سوءاستفاده را ببندد؛ باید مراقب باشد توانایی‌ای را هم که قرار بوده تقویت کند، از بین نبرد.

این خبر برای چه کسانی اهمیت دارد

یافته‌ها برای پژوهشگران یادگیری تقویتی و ارزیابی مدل‌های زبانی اهمیت دارد؛ به‌ویژه برای کسانی که از امتیازهای خودکار برای آموزش رفتارهایی پیچیده مانند طنز استفاده می‌کنند. نتایج نشان می‌دهد بالا رفتن امتیاز کلی به‌تنهایی اثبات نمی‌کند مدل در مهارت موردنظر بهتر شده است و آزمون پاداش باید هم فریب‌پذیری و هم حفظ کیفیت پاسخ را بسنجد.