پژوهش: متن خوانا برای ریزتنظیم مدل‌های زبانی ضروری نیست

پژوهشی درباره ریزتنظیم مدل‌های زبانی نشان می‌دهد که در برخی تنظیمات، داده‌های آموزشی لازم نیست به شکل متن خوانا برای انسان باشند تا بتوانند به سازگاری مدل با یک وظیفه کمک کنند. این مطالعه که در ۳۰ سپتامبر ۲۰۲۶ در arXiv منتشر شده، روشی به نام Desired-Update-Aligned Synthetic Data یا DASA را معرفی می‌کند؛ روشی که به‌جای بازسازی متن‌های منبع، داده‌های مصنوعی را با هدف ایجاد به‌روزرسانی‌های مفید در مدل بهینه می‌کند.

DASA چگونه داده آموزشی تولید می‌کند؟

در ریزتنظیم، مدلی که از پیش آموزش دیده است با داده‌های تازه برای انجام بهتر یک کار مشخص تنظیم می‌شود. DASA برای این کار از نمایش‌هایی پیوسته از ورودی استفاده می‌کند؛ یعنی بردارهای عددی‌ای که مدل می‌تواند مستقیماً دریافت کند، حتی اگر این بردارها به واژه‌ها و جمله‌های قابل‌خواندن تبدیل نشوند.

طبق توضیح پژوهش، DASA از بازخوردِ گرادیانِ فعال‌سازیِ یک مدل مرجعِ ثابت استفاده می‌کند تا این نمایش‌های مصنوعی را بهینه کند. گرادیان در این کاربرد، اطلاعاتی درباره جهت تغییر محاسبات مدل فراهم می‌کند. هدف روش آن است که داده‌ها به به‌روزرسانی‌های مفیدی در فرایند سازگاری مدل منجر شوند، نه این‌که متن اصلی را بازسازی کنند یا از نظر زبانی روان باشند.

نمایش‌های تولیدشده مستقیماً برای ریزتنظیم به کار می‌روند. پژوهشگران فقط برای بررسی کیفی، آن‌ها را به توکن‌های گسسته تبدیل می‌کنند؛ بنابراین، متن خوانا بخش ضروریِ ورودی آموزشی این روش نیست.

نتایج ریزتنظیم مدل‌های زبانی در آزمایش‌ها

ارزیابی‌ها شش مدل از خانواده‌های Llama و Qwen را شامل می‌شد؛ مدل‌هایی با اندازه‌های یک تا ۳۲ میلیارد پارامتر. پژوهشگران عملکرد را در شش معیار سنجیدند که حوزه‌هایی مانند دانش، استدلال ریاضی، تولید کد و استدلال عقل سلیم را پوشش می‌دادند.

در مقایسه‌هایی که تنظیمات LoRA در آن‌ها یکسان بود، DASA به عملکردی قابل‌مقایسه با داده‌های طبیعیِ متنی رسید و در چند پیکربندی از آن‌ها بهتر عمل کرد. LoRA روشی برای سازگارکردن مدل با افزودن تعداد محدودی پارامتر قابل‌آموزش است، بدون آن‌که لازم باشد تمام پارامترهای مدل تغییر کنند.

چکیده مقاله همچنین گزارش می‌کند که DASA در بیشتر مقایسه‌ها از GRADMM بهتر بوده است. در آزمایش‌هایی که تنظیمات تولید داده را بررسی کردند، این روش نسبت به GRADMM سرعتی ۳٫۶ تا ۴٫۹ برابر بیشتر داشت و اوج مصرف حافظه گرافیکی آن قابل‌مقایسه بود.

دامنه نتایج و معنای پژوهش

بررسی‌ها داده‌های منبعِ عمومی و داده‌های تخصصیِ مرتبط با وظایف مشخص را نیز دربر گرفتند. با این حال، چکیده منتشرشده جزئیات هر معیار، پیکربندی یا نتیجه جداگانه را ارائه نمی‌کند؛ بنابراین نمی‌توان از آن نتیجه گرفت که DASA در همه مدل‌ها یا وظایف جایگزین داده‌های متنی می‌شود.

یافته اصلی، امکان استفاده از نمایش‌های مصنوعیِ غیرمتنی برای هدایت ریزتنظیم است. چنین رویکردی می‌تواند مسیر متفاوتی برای آماده‌سازی داده‌های آموزشی فراهم کند، اما نتیجه گزارش‌شده به آزمایش‌ها و تنظیمات بررسی‌شده در مقاله محدود است. پژوهش در arXiv با شناسه 2609.35868 منتشر شده است.

این خبر برای چه کسانی اهمیت دارد

این پژوهش برای گروه‌هایی اهمیت دارد که روی روش‌های ریزتنظیم، تولید داده مصنوعی و کاهش هزینه آماده‌سازی داده کار می‌کنند. همچنین برای تیم‌هایی که مدل‌های زبانی را با LoRA سازگار می‌کنند، نتایج DASA درباره عملکرد و سرعت در مقایسه با GRADMM قابل‌توجه است؛ هرچند برای ارزیابی کاربرد عملی آن در هر وظیفه، باید جزئیات کامل آزمایش‌ها و محدودیت‌های روش بررسی شود.