پژوهش: زبان شبیه گفتار افراد مست ایمنی LLMها را به چالش می‌کشد

پژوهشی درباره ایمنی مدل‌های زبانی نشان می‌دهد سوق‌دادن مدل‌های زبانی بزرگ به استفاده از متنی شبیه گفتار افراد مست می‌تواند آسیب‌پذیری آن‌ها را در برابر جیلبریک و افشای اطلاعات خصوصی افزایش دهد. نویسندگان این مطالعه، که نتایج آن در arXiv منتشر شده، این روش را روی پنج مدل بررسی کرده‌اند و می‌گویند اثر آن حتی در حضور برخی سازوکارهای دفاعی نیز دیده شده است.

سه راه برای القای زبان شبیه مستی

موضوع پژوهش متنی است که به‌عمد به شکل گفتار افراد تحت‌تأثیر الکل در مدل ایجاد می‌شود؛ نه اینکه مدل واقعاً مست باشد. پژوهشگران سه روش را برای این کار آزموده‌اند: درخواست از مدل برای ایفای یک شخصیت، تنظیم دقیق علّی و پس‌آموزش مبتنی بر تقویت.

در روش مبتنی بر شخصیت، مدل با دستورهایی به ایفای نقشی خاص سوق داده می‌شود. دو روش دیگر به تغییر آموزش یا پس‌آموزش مدل متکی‌اند. چکیده پژوهش جزئیات بیشتری درباره نحوه اجرای این روش‌ها یا هویت پنج مدل ارائه نمی‌کند.

افزایش آسیب‌پذیری در آزمون‌های ایمنی

تیم پژوهشی مدل‌ها را با دو معیار انگلیسی‌زبان ارزیابی کرد: JailbreakBench برای سنجش آسیب‌پذیری در برابر جیلبریک و ConfAIde برای بررسی افشای اطلاعات خصوصی. جیلبریک به تلاش برای واداشتن مدل به نادیده‌گرفتن محدودیت‌ها یا پاسخ‌گویی به درخواست‌های ممنوع گفته می‌شود.

طبق نتایج گزارش‌شده، مدل‌هایی که با روش‌های القای زبان مست بررسی شدند، در هر دو حوزه آسیب‌پذیرتر بودند؛ این افزایش در مقایسه با مدل‌های پایه و نیز رویکردهایی که پیش‌تر گزارش شده بودند مشاهده شد. نویسندگان می‌گویند این الگو حتی با وجود دفاع‌های ایمنی هم برقرار بود. چکیده، اندازه دقیق این افزایش یا جزئیات عملکرد هر مدل را مشخص نمی‌کند.

ارتباط رفتار انسانی با انسان‌انگاری مدل

پژوهشگران برای بررسی پاسخ‌ها هم از ارزیابی دستی و هم از ارزیاب‌های مبتنی بر مدل زبانی استفاده کردند و دسته‌های مختلف خطا را تحلیل کردند. به گفته آن‌ها، میان رفتارهای نامطلوب یا افشای اطلاعات در انسانِ تحت‌تأثیر الکل و انسان‌انگاری مدل‌هایی که با زبان مست تحریک شده بودند، نوعی هم‌خوانی دیده شد.

انسان‌انگاری یعنی نسبت‌دادن ویژگی‌ها یا رفتارهای انسانی به یک سامانه غیرانسانی. این یافته به‌تنهایی به معنای آن نیست که مدل تجربه انسانیِ مستی دارد؛ پژوهش درباره واکنش‌های زبانی و ایمنی مدل‌هاست. نویسندگان بر سادگی و کارآمدی روش‌های خود تأکید می‌کنند و آن‌ها را راهی بالقوه برای دورزدن تنظیمات ایمنی می‌دانند؛ موضوعی که به گفته آنان خطرهای مهمی برای ایمنی مدل‌ها ایجاد می‌کند.

این خبر برای چه کسانی اهمیت دارد

این نتایج برای پژوهشگران ایمنی هوش مصنوعی و سازندگان مدل‌های زبانی اهمیت دارد، زیرا نشان می‌دهد ارزیابی مدل‌ها فقط با درخواست‌های رایج ممکن است همه راه‌های بروز خطا را آشکار نکند. بررسی حاضر پنج مدل و دو معیار انگلیسی‌زبان را دربر می‌گیرد؛ بنابراین چکیده به‌تنهایی نشان نمی‌دهد این اثر در همه مدل‌ها یا زبان‌ها به یک شکل رخ می‌دهد. بااین‌حال، پژوهش بر ضرورت آزمودن شیوه‌های متنوع تعامل با مدل‌ها، از جمله تغییر لحن و نقش، در سنجش ایمنی تأکید می‌کند.