پژوهش MIT: پیامدهای تک‌فرهنگی الگوریتمی به جزئیات بستگی دارد

پژوهشگران MIT در مقاله‌ای که ۲۹ سپتامبر ۲۰۲۶ منتشر شد، استدلال‌های رایج درباره خطر یکسان‌شدن الگوریتم‌های تصمیم‌گیری را بررسی کرده‌اند. نتیجه آن‌ها این است که استفاده از یک الگوریتم مشترک در یک صنعت لزوماً به پیامدهایی مانند حذف فراگیر افراد از فرصت‌ها منجر نمی‌شود؛ اما می‌تواند تصمیم‌گیرندگان را در چرخه‌ای از اطلاعات مشابه گرفتار کند و شانس کشف گزینه‌های بهتر را پایین بیاورد. به گفته پژوهشگران، خوب یا بد بودن این وضعیت به جزئیاتی مانند حوزه کاربرد و میزان دقت الگوریتم وابسته است.

وقتی تصمیم‌گیرندگان به یک الگوریتم تکیه می‌کنند

«تک‌فرهنگی الگوریتمی» به وضعیتی گفته می‌شود که در آن بخش بزرگی از تصمیم‌های یک حوزه با یک الگوریتم واحد گرفته شود. این نگرانی با گسترش ابزارهای هوش مصنوعی اهمیت بیشتری پیدا کرده است: اگر شرکت‌ها و سازمان‌ها به‌جای استفاده از روش‌های مستقل، همگی به سامانه‌ای مشابه تکیه کنند، خطاها و انتخاب‌های آن سامانه نیز ممکن است میان تصمیم‌های مختلف مشترک شود.

استخدام یکی از زمینه‌هایی است که پژوهشگران MIT برای بررسی این مسئله انتخاب کرده‌اند. ابزارهای غربال رزومه به شرکت‌ها کمک می‌کنند متقاضیان را بررسی کنند و به گفته طرفدارانشان می‌توانند سرعت و یکسانی تصمیم‌گیری را بهبود دهند. در مقابل، منتقدان نگران‌اند که اگر چندین کارفرما از الگوریتم یکسانی بهره ببرند، فردی که در یک شرکت رد شده است در شرکت‌های دیگر نیز شانس کمی داشته باشد.

این پدیده کاملاً تازه نیست. پژوهشگران به تصمیم‌گیری در حوزه وام اشاره می‌کنند؛ جایی که پیش‌تر بانکداران هر بانک به‌طور مستقل درباره متقاضیان قضاوت می‌کردند، اما امروز استفاده از اطلاعات و امتیازهای اعتباری استاندارد، از جمله امتیازهایی که بر پایه الگوریتم FICO به دست می‌آیند، رایج است. به گفته Manish Raghavan، گسترش استفاده از الگوریتم‌ها برای دریافت اطلاعات و تصمیم‌گیری، زمینه بیشتری برای هم‌بستگی میان تصمیم‌ها ایجاد می‌کند.

Raghavan و همکارش Brian Hedden در پژوهش خود، مقاله‌های مرتبط با وعده‌ها و خطرهای تک‌فرهنگی الگوریتمی را به‌صورت نظام‌مند ارزیابی کرده‌اند. این پژوهش در مجله Philosophical Perspectives منتشر شده است. تمرکز اصلی آن‌ها بر استخدام است، هرچند پژوهشگران می‌گویند چارچوب بررسی می‌تواند به حوزه‌هایی مانند وام‌دهی نیز ارتباط داشته باشد.

آیا یک سامانه مشترک همه را از کار محروم می‌کند؟

یکی از نگرانی‌های مطرح این است که الگوریتم مشترک، افرادی را به‌طور نظام‌مند از فرصت‌ها کنار بگذارد. در مثال استخدام، اگر یک سامانه رزومه‌ای را نامناسب تشخیص دهد، ممکن است شرکت‌های دیگر نیز همان فرد را رد کنند. Hedden و Raghavan این ادعا را با استفاده از مدل‌هایی بررسی کردند که موقعیت‌های گوناگون را بازنمایی می‌کنند.

نتیجه بررسی آن‌ها این است که این نگرانی به‌تنهایی برای رد همه شکل‌های تک‌فرهنگی کافی نیست. در مدل‌هایی که پژوهشگران ارزیابی کرده‌اند، یکسان بودن الگوریتم‌ها تعداد کلی افراد استخدام‌شده را تغییر نمی‌دهد. این نتیجه به معنای بی‌اهمیت بودن سرنوشت هر متقاضی یا نبود احتمال تبعیض در دنیای واقعی نیست؛ بلکه نشان می‌دهد از یکسان بودن ابزارها نمی‌توان به‌تنهایی نتیجه گرفت که در کل بازار کار، افراد کمتری استخدام خواهند شد.

پژوهشگران همچنین به پیامد دیگری اشاره می‌کنند: وقتی شرکت‌ها بر سر گروه مشابهی از متقاضیان رقابت کنند، قدرت چانه‌زنی افراد جویای کار ممکن است افزایش یابد و دستمزدها بالا برود. این برداشت با تصور ساده‌ای تفاوت دارد که بر اساس آن، یک الگوریتم مشترک الزاماً قدرت کارفرمایان را بیشتر می‌کند. البته این نتیجه نیز به شرایط بازار و فرض‌های مدل‌های بررسی‌شده وابسته است.

موضوع اختیار متقاضیان نیز در ارزیابی پژوهشگران مطرح است. اگر فرد پس از دریافت نتیجه نتواند رزومه خود را اصلاح و دوباره ارسال کند، استفاده از یک سامانه مشترک ممکن است امکان واکنش به تصمیم را محدود کند. اما Hedden می‌گوید این نقد درباره همه شکل‌های تک‌فرهنگی صدق نمی‌کند: اگر متقاضی بتواند مدارکش را بازبینی کند و دوباره بفرستد، آن محدودیت لزوماً پابرجا نمی‌ماند.

خطر اصلی: محدودشدن فرصت کشف

یکسان‌شدن تصمیم‌ها ممکن است پیامد دیگری داشته باشد که به گفته پژوهشگران کمتر بررسی شده است: کاهش تنوع اطلاعاتی. بر پایه ایده «خرد جمعی»، گروهی از تصمیم‌گیرندگان مستقل و متنوع گاهی می‌توانند از یک تصمیم‌گیرنده واحد نتیجه بهتری بگیرند. در استخدام، الگوریتم‌های متفاوت ممکن است به شرکت‌ها کمک کنند افراد و ویژگی‌هایی را شناسایی کنند که یک سامانه مشترک نادیده می‌گیرد.

پژوهشگران به‌طور ریاضی نشان می‌دهند که تک‌فرهنگی الگوریتمی می‌تواند به شکل‌گیری نوعی «اتاق پژواک اطلاعاتی» بینجامد؛ یعنی تصمیم‌های پیشین، اطلاعاتی مشابه را تقویت کنند و جست‌وجو برای گزینه‌های متفاوت کاهش یابد. در بازار کار، این وضعیت ممکن است احتمال استخدام بهترین نامزدها را پایین بیاورد، چون شرکت‌ها همگی به گزینه‌هایی مشابه توجه می‌کنند و فرصت کمتری برای یافتن افراد جایگزین دارند.

این مسئله فقط به استخدام محدود نمی‌شود. Raghavan می‌گوید کاهش اکتشاف می‌تواند در کاربردهایی مانند پژوهش علمی، هنر یا نویسندگی نگران‌کننده باشد؛ حوزه‌هایی که یافتن ایده‌ها و گزینه‌های تازه اهمیت دارد. با این حال، پژوهشگران هشدار می‌دهند که سامانه‌هایی مانند ابزارهای تولید محتوای مولد یا هوش مصنوعی هدایت‌کننده پژوهش ممکن است سازوکارهای متفاوتی داشته باشند و تک‌فرهنگی در آن‌ها پیامدهای خاص خود را ایجاد کند.

یکی از راه‌های احتمالی کاهش مشکل، افزودن عنصر تصادفی به سامانه مشترک است. به گفته Raghavan، تصادفی‌سازی می‌تواند سطح اکتشاف را افزایش دهد و احتمال آن را بیشتر کند که سامانه به گزینه‌هایی فراتر از انتخاب‌های همیشگی توجه کند. این پیشنهاد، به‌خودی‌خود تضمین نمی‌کند که نتیجه بهتر یا عادلانه‌تر شود؛ بلکه راهی است که پژوهشگران برای بررسی بیشتر مطرح کرده‌اند.

ترکیب الگوریتم‌ها؛ راه‌حلی با پرسش‌های باز

دقت الگوریتم نیز در ارزیابی پیامدها نقش دارد. اگر یک الگوریتم مشترک به‌مراتب دقیق‌تر از الگوریتم‌های گوناگونی باشد که شرکت‌ها به‌طور جداگانه به کار می‌برند، تک‌فرهنگی ممکن است عملکرد بهتری داشته باشد. بنابراین مقایسه یک سامانه واحد با مجموعه‌ای از سامانه‌های متفاوت فقط با شمردن تعداد الگوریتم‌ها ممکن نیست؛ کیفیت تصمیم‌های آن‌ها نیز اهمیت دارد.

پژوهشگران راه دیگری را نیز با شبیه‌سازی بررسی کردند: کنار هم گذاشتن الگوریتم‌های استخدامی شرکت‌های مختلف در یک «الگوریتم گروهی» یا ensemble. در این روش، سامانه می‌تواند امتیازهای چند الگوریتم را ترکیب کند؛ برای نمونه، بر اساس میانگین امتیازها برای هر متقاضی نتیجه‌ای بسازد. در برخی از شبیه‌سازی‌های آن‌ها، چنین ترکیبی توانست به عملکردی هم‌سطح یا حتی بهتر از استفاده جداگانه از الگوریتم‌های مختلف برسد.

این یافته به معنای آماده‌بودن روش برای استفاده در شرکت‌ها نیست. Hedden گفته است که هنوز روشن نیست ترکیب عملی الگوریتم‌های متعلق به سازمان‌های مختلف تا چه اندازه شدنی است. افزون بر این، مدل و شبیه‌سازی نمی‌تواند همه پیچیدگی‌های بازار کار واقعی را بازنمایی کند. Raghavan نیز تأکید می‌کند که پاسخ‌ها به زمینه وابسته‌اند و برای بررسی تجربی پیامدها، پژوهش بیشتری لازم است.

در مجموع، مقاله نمی‌گوید تک‌فرهنگی الگوریتمی بی‌خطر است یا باید آن را در همه حوزه‌ها پذیرفت. استدلال پژوهشگران این است که برخی نقدهای کلی، از جمله ادعای حذف فراگیر افراد، به‌تنهایی همه شکل‌های این پدیده را رد نمی‌کنند. در عین حال، خطر محدودشدن اکتشاف و از دست رفتن گزینه‌های بهتر جدی است و باید در کنار دقت سامانه، امکان بازبینی تصمیم‌ها و ویژگی‌های هر حوزه بررسی شود.

این خبر برای چه کسانی اهمیت دارد

این پژوهش برای شرکت‌هایی اهمیت دارد که از ابزارهای هوش مصنوعی در استخدام استفاده می‌کنند، به‌ویژه اگر سامانه‌های مشابه را از عرضه‌کنندگان مشترک تهیه کنند. مدیران منابع انسانی و طراحان ابزارهای تصمیم‌یار می‌توانند از آن برای دقیق‌تر کردن پرسش‌های خود استفاده کنند: آیا الگوریتم افراد مناسبی را از دست می‌دهد؟ آیا امکان اصلاح و اعتراض وجود دارد؟ و آیا تنوعی در گزینه‌هایی که سامانه پیشنهاد می‌کند باقی مانده است؟

برای سیاست‌گذاران و پژوهشگران نیز پیام مقاله، پرهیز از داوری کلی درباره یکسان‌شدن الگوریتم‌هاست. سنجش اثر این سامانه‌ها به داده‌های واقعی، مقایسه منصفانه با روش‌های جایگزین و توجه به ویژگی‌های هر بازار نیاز دارد. به‌گفته نویسندگان، هنوز برای فهم پیامدهای بلندمدت تک‌فرهنگی الگوریتمی و پیچیدگی‌هایی که در بازار کار واقعی رخ می‌دهد، کار پژوهشی زیادی باقی مانده است.