پژوهش: گویش به‌تنهایی عامل موفقیت حمله به مدل‌ها نیست

پژوهشی تازه در arXiv نشان می‌دهد استفاده از گویش‌های کمتر رایج، به‌خودی‌خود راه مطمئنی برای دور زدن سازوکارهای امتناع مدل‌های زبانی نیست. بر اساس نتایج این مطالعه که در ۲۹ سپتامبر ۲۰۲۶ منتشر شد، عامل اصلی افزایش موفقیت حمله‌ها نه صورت گویشی متن و نه چارچوب فرهنگی آن، بلکه استفاده از مجموعه‌ای از راهبردهای قابل‌بهینه‌سازی برای ساخت پرامپت است. این نتیجه نگاه ساده‌انگارانه به «جیل‌بریک گویشی» را به چالش می‌کشد؛ جیل‌بریک به تلاش برای واداشتن مدل به پاسخ‌گویی برخلاف محدودیت‌های ایمنی گفته می‌شود.

تفکیک نقش گویش از راهبردهای حمله

پژوهشگران چارچوبی برای آزمودن حمله‌ها در زبان چینی گسترش دادند که پیش‌تر برای چینی کلاسیک به کار رفته بود. در نسخه تازه، شانگهایی و کانتونی نیز بررسی شدند. مطالعه در مجموع ۳۶ ترکیب آزمایشی را در چند صورت زبانی، گونه‌های مختلف بانک راهبرد و دو مدل هدف مقایسه کرد.

هدف این تفکیک آن بود که روشن شود موفقیت حمله‌ها از کدام عامل می‌آید: شکل غیرمعیار زبان، زمینه‌سازی فرهنگی یا بهینه‌سازی پرامپت با استفاده از راهبردهای متنوع. نتایج نشان داد صورت گویشی نه برای موفقیت بالا ضروری است و نه به‌تنهایی آن را تضمین می‌کند.

تفاوت چشمگیر میان آزمون‌ها

در شرایطی که از بهینه‌سازی استفاده نشده بود، پرامپت‌های انگلیسی و ماندارین و نیز ترجمه‌های ساده و غیرحرفه‌ای به گویش‌ها، نرخ موفقیت حمله‌ای کمتر از ۸ درصد داشتند. در مقابل، همه حالت‌هایی که بانک راهبردهای کنترل‌شده به‌وسیله بهینه‌ساز را حفظ کردند، به نرخ موفقیت ۹۸ تا ۱۰۰ درصد رسیدند.

طبق گزارش پژوهشگران، حتی یک بانک عمومی و خنثی از نظر فرهنگی نیز به همین سطح از موفقیت دست یافت و این نتیجه را با هزینه‌ای نزدیک به یک پرس‌وجو ثبت کرد. از نظر نویسندگان، این یافته نشان می‌دهد گستردگی راهبردهای در دسترس بهینه‌ساز، بیش از محتوای گویشی یا فرهنگی در نتیجه نقش داشته است.

گویش همچنان بر کارایی و شدت پاسخ اثر دارد

این نتیجه به معنای بی‌اثر بودن کامل انتخاب گویش نیست. پژوهش می‌گوید گویش می‌تواند بر تعداد پرس‌وجوهای لازم برای رسیدن به نتیجه و نیز شدت پاسخ مدل اثر بگذارد. همچنین در بررسی کیفی پاسخ‌ها، دو سازوکار پرتکرار شناسایی شد: توضیح معنایی عبارت‌ها و افزودن مراحل یا چارچوبی رویه‌ای به درخواست.

بااین‌حال، چکیده پژوهش جزئیات بیشتری درباره این سازوکارها یا تفاوت عملکرد هر گویش ارائه نمی‌کند. بنابراین، نمی‌توان از آن نتیجه گرفت که یک گویش مشخص در همه مدل‌ها یا موقعیت‌ها برتری دارد.

احتیاط در تفسیر نرخ‌های بسیار بالا

نویسندگان درباره تفسیر نرخ موفقیت نزدیک به سقف نیز هشدار می‌دهند. نتیجه‌ها به کالیبراسیون داور حساس بودند؛ یعنی شیوه‌ای که برای تشخیص موفقیت یا شکست حمله به کار می‌رود، می‌تواند بر نرخ گزارش‌شده اثر بگذارد.

افزون بر این، طراحی مطالعه به‌طور کامل ساخت یک‌باره راهبردها را از جست‌وجوی تکرارشونده و مرحله‌به‌مرحله جدا نمی‌کند. ازاین‌رو، پژوهش اهمیت بانک راهبردها را برجسته می‌کند، اما سهم دقیق هر مرحله از فرایند بهینه‌سازی همچنان نیازمند بررسی بیشتر است.

این خبر برای چه کسانی اهمیت دارد

این یافته برای پژوهشگران ایمنی هوش مصنوعی و تیم‌هایی که سازوکارهای امتناع مدل‌ها را ارزیابی می‌کنند اهمیت دارد: آزمایش امنیتی نباید فقط بر زبان یا گویش پرامپت متمرکز باشد و باید نقش روش‌های بهینه‌سازی را نیز جداگانه بسنجد. در عین حال، محدودیت‌های اعلام‌شده یادآور می‌شود که نرخ‌های موفقیت بالا را باید با توجه به شیوه داوری و طراحی آزمایش تفسیر کرد.