پرش به محتوای اصلی
دوشنبه ۲۷ مهر ۱۴۰۵به‌روزرسانی: ۳ ساعت پیش
کانال تلگرام
اخبار لحظه‌ای

پژوهش: انگلیسی آمریکایی در سراسر خط تولید LLMها غالب است

یک پژوهش در arXiv نشان می‌دهد انگلیسی آمریکایی در داده‌های آموزشی، بازنمایی توکن‌سازها و خروجی مدل‌های زبانی بزرگ بر انگلیسی بریتانیایی غلبه دارد. این ترجیح حتی با درخواست صریح برای انگلیسی بریتانیایی همیشه از بین نمی‌رود.

نویا را به منابع منتخبت در گوگل اضافه کن (در زبانه جدید باز می‌شود)
پژوهش: انگلیسی آمریکایی در سراسر خط تولید LLMها غالب است
فهرست مطالب
  1. ۱ردیابی ترجیح زبانی در چند مرحله
  2. ۲برتری در داده‌ها و بازنمایی
  3. ۳پیش‌فرضی که همیشه با دستور کاربر تغییر نمی‌کند
  4. ۴پیامدهای احتمالی و راه مداخله
  5. ۵این خبر برای چه کسانی اهمیت دارد
خلاصه خبر در چند خط
  • پژوهش ۱۸۱۳ جفت گونه آمریکایی و بریتانیایی را بررسی کرده است.
  • انگلیسی آمریکایی در هر شش پیکره پیش‌آموزش و ۲۱ مجموعه پس‌آموزش بررسی‌شده ترجیح داده شده است.
  • توکن‌سازها عموماً گونه آمریکایی را فشرده‌تر بازنمایی می‌کنند و هزینه پیش‌بینی آن پایین‌تر گزارش شده است.
  • درخواست انگلیسی بریتانیایی گرایش خروجی را تغییر می‌دهد، اما همیشه پیش‌فرض آمریکایی را کنار نمی‌زند.

پژوهشی منتشرشده در arXiv در ۲۹ سپتامبر ۲۰۲۶ گزارش می‌کند که انگلیسی آمریکایی در چند مرحله از توسعه مدل‌های زبانی بزرگ، از داده‌های آموزشی تا متن تولیدشده، بر انگلیسی بریتانیایی اولویت دارد. این مطالعه با بررسی داده‌ها، توکن‌سازها و خروجی مدل‌ها می‌پرسد چگونه «English (US)» به گزینه پیش‌فرض تبدیل می‌شود؛ پرسشی مهم برای ابزارهایی که در آموزش، محیط کار و خدمات عمومی به کار می‌روند.

ردیابی ترجیح زبانی در چند مرحله

نویسندگان این گرایش را صرفاً تفاوتی در شیوه نگارش نمی‌دانند و آن را نوعی سوگیری ساختاری بررسی می‌کنند؛ یعنی ترجیحی که می‌تواند از سازوکارهای مختلف در روند توسعه و به‌کارگیری مدل پدید بیاید. از نگاه پژوهش، تاریخ سیاسی گردآوری داده‌ها، نفوذ دیجیتال و استانداردسازی زبان در کنار یکدیگر بر جایگاه گونه‌های مختلف انگلیسی اثر می‌گذارند.

برای مقایسه، پژوهشگران انگلیسی بریتانیایی را مرجع کنترل قرار دادند و مجموعه‌ای از ۱۸۱۳ جفت گونه آمریکایی و بریتانیایی ساختند. سپس روشی به نام DiAlign را معرفی کردند؛ ابزاری پویا و بدون نیاز به آموزش مجدد که با تکیه بر الگوهای آماری زبان، میزان هم‌سویی منطقه‌ای را برآورد می‌کند.

مطالعه ترجیح گونه زبانی را در سه سطح دنبال کرد: میزان حضور در داده‌ها، بازنمایی در سازوکارهای مدل و زبانی که مدل در پاسخ تولید می‌کند. در این بررسی، داده‌های پیش‌آموزش و پس‌آموزش، رفتار توکن‌سازها، هزینه پیش‌بینی و متن خروجی در شرایط گوناگون در کنار هم قرار گرفتند.

برتری در داده‌ها و بازنمایی

طبق یافته‌های مقاله، انگلیسی آمریکایی در هر شش پیکره پیش‌آموزش و هر ۲۱ مجموعه پس‌آموزش بررسی‌شده ترجیح داده شده است. پیش‌آموزش مرحله‌ای است که مدل در آن از حجم بزرگی از متن الگوهای زبانی را می‌آموزد؛ پس‌آموزش نیز به مراحل بعدی گفته می‌شود که رفتار مدل را برای کاربردهای مشخص‌تر شکل می‌دهند.

تفاوت تنها به محتوای داده‌ها محدود نمی‌ماند. پژوهش می‌گوید توکن‌سازها، یعنی بخشی از سامانه که متن را به واحدهای کوچک‌تر قابل‌پردازش تقسیم می‌کند، عموماً گونه آمریکایی را فشرده‌تر بازنمایی می‌کنند. همچنین در سنجش‌های مقاله، هزینه پیش‌بینی برای این گونه پایین‌تر بوده است. این نتایج نشان می‌دهد که تفاوت منطقه‌ای زبان می‌تواند در نحوه نمایش و پردازش متن نیز دیده شود.

نویسندگان برای سنجش خروجی، عوامل مختلفی از جمله کشور توسعه‌دهندگان، نوع دستور کاربر، حوزه و منبع متن، دسته‌های زبانی و سبک نوشتار را در نظر گرفتند. با این حال، چکیده در دسترس جزئیات جداگانه نتایج هر یک از این گروه‌ها را بیان نمی‌کند.

پیش‌فرضی که همیشه با دستور کاربر تغییر نمی‌کند

در حالت درخواست خنثی برای پاسخ‌گویی به انگلیسی، گونه آمریکایی همچنان انتخاب غالب مدل‌ها بوده است. وقتی کاربر صریحاً انگلیسی بریتانیایی می‌خواهد، خروجی به سمت آن گونه تغییر می‌کند؛ اما این دستور در همه موارد پیش‌فرض آمریکایی را کاملاً از بین نمی‌برد.

این تفاوت برای کاربرانی اهمیت دارد که انتظار دارند مدل‌ها گونه‌های مختلف انگلیسی را به‌طور برابر پشتیبانی کنند. اگر یک گونه در داده‌ها و سازوکارهای پردازش غالب باشد، ممکن است گونه‌های دیگر در کاربردهای روزمره کمتر دیده شوند یا کاربران ناچار شوند برای دریافت خروجی متناسب با زبان خود درخواست دقیق‌تری بنویسند.

پیامدهای احتمالی و راه مداخله

پژوهشگران درباره پیامدهایی مانند همسان‌سازی زبانی، بی‌عدالتی معرفتی و نابرابری در استفاده جهانی از هوش مصنوعی هشدار می‌دهند. همسان‌سازی زبانی به معنای تقویت یک شیوه بیان به بهای کم‌رنگ‌شدن گونه‌های دیگر است؛ بی‌عدالتی معرفتی نیز به وضعیتی اشاره دارد که برخی گروه‌ها یا شیوه‌های دانستن و بیان، در تولید و انتقال دانش کمتر به رسمیت شناخته می‌شوند.

مقاله این نگرانی‌ها را به‌عنوان پیامدهای بالقوه ترجیح ساختاری مطرح می‌کند و در عین حال می‌گوید بررسی مرحله‌به‌مرحله می‌تواند مبنایی برای مداخله هدفمند فراهم کند. به‌جای محدودکردن بررسی به متن نهایی مدل، رویکرد این پژوهش کمک می‌کند محل‌های احتمالی شکل‌گیری ترجیح در داده‌ها، توکن‌سازی یا تولید پاسخ جداگانه دیده شوند.

نویسندگان، تا جایی که می‌دانند، این کار را نخستین بررسی نظام‌مند سوگیری ساختاری در سراسر مراحل اصلی توسعه مدل‌های زبانی بزرگ توصیف می‌کنند. یافته‌ها بر انگلیسی آمریکایی و بریتانیایی متمرکز است؛ بنابراین نباید آن‌ها را به‌تنهایی شاهدی درباره میزان ترجیح مدل‌ها میان همه زبان‌ها و گونه‌های زبانی دانست.

این خبر برای چه کسانی اهمیت دارد

این یافته‌ها برای توسعه‌دهندگان مدل‌های زبانی، طراحان داده‌های آموزشی و ارزیابان سامانه‌های هوش مصنوعی اهمیت دارد، زیرا نشان می‌دهد بررسی سوگیری زبانی تنها با خواندن پاسخ نهایی کامل نمی‌شود. کاربران و نهادهایی که مدل‌ها را در آموزش، خدمات حرفه‌ای یا زیرساخت عمومی به کار می‌گیرند نیز می‌توانند از این نتایج برای توجه بیشتر به پشتیبانی از گونه‌های زبانی متفاوت استفاده کنند.

پرسش‌های متداول

پژوهش چگونه سوگیری به نفع انگلیسی آمریکایی را بررسی کرد؟
نویسندگان داده‌های پیش‌آموزش و پس‌آموزش، رفتار توکن‌سازها، هزینه پیش‌بینی مدل و زبان خروجی را در کنار هم سنجیدند.
آیا درخواست انگلیسی بریتانیایی این گرایش را برطرف می‌کند؟
بر اساس پژوهش، چنین درخواستی می‌تواند خروجی را به سمت انگلیسی بریتانیایی ببرد، اما این تغییر همیشگی و کامل نیست.
DiAlign چیست؟
DiAlign روشی پویا و بدون آموزش مجدد است که با شواهد توزیعی، هم‌سویی منطقه‌ای زبان را برآورد می‌کند.
منبع خبرarXiv — cs.AI
#پژوهش#سوگیری_زبانی#مدل‌های_زبانی#هوش_مصنوعی
درباره نویسندهپژوهشگر اقتصاد دیجیتال

دانش آموخته مدیریت کسب و کار گرایش استراتژی و پژوهشگر ، استراتژیست و توسعه دهنده اقتصاد دیجیتال

مطالب مرتبط

همه اخبار هوش مصنوعیتازه‌ترین خبرهای امروز را در هوش مصنوعی نویا دنبال کنید
این خبر را به اشتراک بگذارید