عامل‌های هوش مصنوعی در توسعه مدل‌ها پیش‌قدم شده‌اند، نه در تصمیم‌گیری

عامل‌های هوش مصنوعی در پروژه توسعه مدل زبانی Atria Dawn Preview بخش فزاینده‌ای از کارهای اجرایی را انجام دادند، اما تصمیم‌گیری درباره هدف‌ها، دامنه و روش‌های پژوهش عمدتاً در اختیار انسان‌ها ماند. بررسی این پروژه که در ۲۷ سپتامبر ۲۰۲۶ منتشر شد، نشان می‌دهد AI در ۹۶٫۵ درصد وظایف ارزیابی‌شده به‌کار رفت و در عین حال، افزایش تعداد اقدام‌های عامل‌ها به‌تنهایی به معنای واگذاری اختیار تصمیم‌گیری نبود. این تمایز در میانه بحث درباره امکان خودکارشدن پژوهش هوش مصنوعی اهمیت دارد: عامل‌ها می‌توانند کار را جلو ببرند، بی‌آن‌که لزوماً بدانند کدام مسیر پژوهشی ارزش دنبال‌کردن دارد.

مدلی برای کارهای پژوهشی و مهندسی

پروژه بر توسعه Atria Dawn Preview متمرکز بود؛ یک مدل زبانی عامل‌محور با معماری «ترکیبی از متخصصان» و ۷۴۴ میلیارد پارامتر که برای انجام وظایف پژوهشی و مهندسی طراحی شده است. در چنین معماری‌ای، همه بخش‌های مدل برای هر درخواست به یک شکل به کار گرفته نمی‌شوند و بخش‌های تخصصی مختلف می‌توانند در پردازش مشارکت کنند.

تیم برای آموزش مدل از فرایندی استفاده کرد که هر وظیفه را به یک محیط اجرایی واقعی پیوند می‌دهد. مدل می‌تواند ابزار به‌کار بگیرد و نتیجه‌های میانی تولید کند؛ سپس خروجی‌ها با نشانه‌های بیرونی، از جمله آزمون‌ها، سنجه‌ها یا شواهد موجود در منابع، بررسی می‌شوند. به این ترتیب، ارزیابی فقط بر پایه متنی که مدل تولید می‌کند انجام نمی‌شود و می‌توان بخشی از عملکرد را با نتیجه‌ای قابل‌بررسی سنجید.

به گفته تیم پروژه، Atria Dawn Preview در پنج مورد از ۱۶ معیار ارزیابی، از جمله جست‌وجوی وب و امنیت سایبری، عملکرد پیشرو داشت. با این حال، مدل در مجموع برتری فراگیری نسبت به رقیبان نشان نداد. این نکته مانع از آن است که نتایج پروژه را به‌عنوان نشانه‌ای از پیشتازی عمومی مدل تعبیر کنیم؛ گزارش بیشتر بر نحوه همکاری انسان و عامل در فرایند توسعه تمرکز دارد.

یک‌سوم کارها بدون AI آغاز نمی‌شد

در طول پروژه، سهم کارهایی که به عامل‌ها سپرده می‌شد بیشتر شد. میانه نسبت اقدام‌های عامل به ورودی‌های انسانی طی چهار هفته از ۱۱ به ۲۸٫۵ رسید. اما پژوهشگران تأکید می‌کنند که نباید این تغییر را مستقیماً افزایش خودمختاری تلقی کرد. یک تصمیم انسانی می‌توانست زنجیره‌ای طولانی از اقدام‌های عامل را به‌دنبال داشته باشد؛ بنابراین تعداد بیشتر اقدام‌ها لزوماً به معنی آن نبود که عامل تصمیم‌های بیشتری می‌گیرد.

پرسش مهم‌تر این بود که آیا مشارکت‌کنندگان می‌توانستند سهم خود از کار را بدون AI و با همان دامنه و کیفیت انجام دهند. از میان ۴۵۵ وظیفه تکمیل‌شده با کمک هوش مصنوعی، ۱۵۱ مورد از نظر پاسخ‌دهندگان بدون AI شدنی نبود؛ یعنی تقریباً یک‌سوم. این وظایف میان ۲۷ نفر از ۵۶ مشارکت‌کننده توزیع شده بود و به چند کاربر بسیار پرمصرف محدود نمی‌شد.

در این موارد، نقش AI صرفاً تندترکردن کاری از پیش تعریف‌شده نبود. ابزار امکان انجام کارهایی را فراهم کرد که در غیر این صورت اصلاً شروع نمی‌شدند. این یافته تصویری دوگانه از اثر عامل‌ها ارائه می‌دهد: از یک سو آن‌ها می‌توانند ظرفیت انجام کار را گسترش دهند؛ از سوی دیگر، گسترده‌ترشدن کارهای ممکن نشان نمی‌دهد که عامل‌ها خودشان درباره ارزش یا اولویت آن کارها تصمیم گرفته‌اند.

پیشنهاد از AI، انتخاب از انسان

در انتخاب روش‌ها و پارامترهای پژوهش، رایج‌ترین الگو این بود که AI گزینه پیشنهاد کند و انسان یکی را برگزیند؛ این الگو در ۵۵٫۴ درصد موارد ثبت شد. در مجموع، انسان‌ها ۸۵٫۵ درصد تصمیم‌های مربوط به روش و پارامترها را گرفتند و سهم AI از تصمیم‌گیری نهایی در این زمینه ۹٫۲ درصد بود.

تفاوت در تصمیم‌گیری درباره هدف و دامنه روشن‌تر بود: انسان‌ها در ۹۳٫۴ درصد موارد تصمیم نهایی را گرفتند. سهم AI از پیشنهاد گزینه‌ها بسته به نوع تصمیم بین ۱۷ تا ۵۵ درصد تغییر می‌کرد، اما سهمش از انتخاب نهایی در محدوده تک‌رقمی باقی می‌ماند. حتی در همان ۱۵۱ وظیفه‌ای که بدون AI ممکن دانسته نشد، انسان‌ها ۹۵٫۴ درصد مواقع هدف کار را تعیین کردند.

این ارقام میان «کمک به تولید گزینه» و «اختیار انتخاب» فرق می‌گذارند. عامل می‌تواند در آماده‌سازی روش‌ها، پیشنهاد مسیرها یا تنظیم برنامه نقش داشته باشد، اما این مشارکت به‌خودی‌خود به معنای انتقال مسئولیت تصمیم به مدل نیست. بر اساس داده‌های گزارش، انسان‌ها نه‌فقط در تعیین هدف، بلکه در بخش عمده‌ای از انتخاب‌های کلیدی نیز نقش اصلی را حفظ کردند.

انسان‌ها زمینه را فراهم می‌کنند، نه لزوماً اجرا را

نحوه رسیدگی به مشکل‌ها نیز الگویی مشابه نشان داد. از میان ۵۸۸ وظیفه‌ای که برایشان دشواری ثبت شده بود، در ۷۶ درصد موارد کار با مداخله انسان ادامه یافت و در ۲۳ درصد، عامل مشکل را به‌تنهایی حل کرد. کمک انسانی معمولاً به این معنا نبود که فرد کار را از عامل پس بگیرد و خودش انجام دهد؛ بیشتر به شکل ارائه اطلاعات یا تغییر مسیر بود.

در ۳۵٫۲ درصد موارد، انسان زمینه بیشتری در اختیار عامل گذاشت یا خواسته‌ها را روشن‌تر کرد. در ۳۴٫۷ درصد نیز فرد مشکل را تشخیص داد و روش کار را تغییر داد. در مقابل، ویرایش جزئی انسانی تنها ۳٫۲ درصد و برعهده‌گرفتن کامل کار فقط ۰٫۷ درصد موارد را تشکیل می‌داد. بنابراین در این پروژه، بخش مهمی از کمک انسان در فراهم‌کردن زمینه و قضاوت درباره مسیر بود، نه انجام دستی همه مراحل.

پس از دریافت بازخورد انسانی درباره خروجی‌هایی که نیاز به اصلاح داشتند، خود AI در ۷۵٫۴ درصد موارد تغییرات را انجام داد. این الگو با برداشت کلی گزارش سازگار است: انسان‌ها بیشتر جهت و اطلاعات لازم را فراهم می‌کردند و عامل‌ها اجرای اصلاحات را برعهده می‌گرفتند. به‌تعبیر نویسندگان، گلوگاه اصلی در بسیاری از موارد قضاوت انسانی بود، نه انجام عملیات.

تیم پروژه نقش AI در پژوهش را در سه مرحله توصیف می‌کند: ابتدا هوش مصنوعی موضوع پژوهش بود، بعد به ابزاری برای انجام وظایف فردی تبدیل شد و اکنون می‌تواند شریک پروژه باشد. در مرحله کنونی، عامل‌ها در محدوده هدف‌هایی که انسان تعیین کرده، برنامه‌ها را پیش‌نویس می‌کنند و تغییر می‌دهند. مرحله چهارمی که در گزارش به‌عنوان احتمالی آینده مطرح می‌شود، بهبود بازگشتی است؛ وضعیتی که در آن مدل‌های قوی‌تر به ساخت جانشینان قوی‌تر کمک کنند.

اما نویسندگان هشدار می‌دهند که بهترشدن مدل در انجام وظایف آموزشی‌اش الزاماً به معنی بهترشدن آن در توسعه مدل بعدی نیست. یکی از پرسش‌های باز این است که AI چگونه می‌تواند مسیرهای پژوهشی متنوعی پیشنهاد دهد و پیش از آماده‌شدن نتایج، ارزش احتمالی هر مسیر را بسنجد. این نوع ارزیابی با اجرای وظیفه‌ای مشخص تفاوت دارد و به قضاوت درباره مسئله‌ای نامطمئن مربوط می‌شود.

نظارت انسانی و خطر تأیید صوری

گزارش در کنار نشان‌دادن نقش پررنگ انسان‌ها، به دشواری نظارت نیز اشاره می‌کند. اگر هر تصمیم انسانی زنجیره‌ای از اقدام‌های عامل را به‌دنبال داشته باشد که بررسی کامل آن از توان فرد خارج است، کنترل مؤثر دشوار می‌شود. در بدترین حالت، انسان ممکن است به بازبینی‌کننده‌ای تبدیل شود که فقط خروجی آماده را تأیید می‌کند؛ نقشی که در آن نظارت وجود دارد، اما امکان ارزیابی واقعی همه مراحل محدود است.

بسیاری از مشارکت‌کنندگان برای جلوگیری از وقفه‌های مکرر در اجراهای طولانی، عامل‌ها را در حالت خودمختار به کار گرفتند. به گفته تیم، تعیین این مرز بیشتر از ملاحظات عملی و راحتی استفاده ناشی می‌شد، نه تصمیمی سنجیده درباره میزان اختیاری که باید به AI داده شود. این یافته نشان می‌دهد که افزایش خودمختاری در عمل ممکن است بدون تصمیم صریح درباره سیاست نظارت رخ دهد.

این بحث در کنار نگرانی‌های گسترده‌تر درباره خودکارشدن پژوهش هوش مصنوعی مطرح شده است. گزارش می‌گوید Anthropic احتمال می‌دهد AI زودتر از انتظار بتواند در توسعه جانشین خود نقش داشته باشد و مدیرعامل این شرکت، Dario Amodei، خواستار تعیین سرعتی محدودکننده برای صنعت شده است. به گفته Anthropic، اکنون سهم انسان‌ها از تصمیم‌های مربوط به جهت پژوهش در این شرکت به محدوده تک‌رقمی رسیده است.

در سوی دیگر، گزارش به کاربرد GPT-5.6 Sol در سراسر چرخه توسعه OpenAI اشاره می‌کند. همچنین Google و DeepMind از عامل‌هایی برای بررسی راهبردهای جایگزین با Dream-RSI استفاده می‌کنند؛ اما این ابزارها، بنا بر گزارش، راهبرد جست‌وجو را بهبود می‌دهند، نه خود مدل را. در کنار این نمونه‌ها، بیش از هزار کارمند شرکت‌های پیشرو هوش مصنوعی اخیراً هشدار داده‌اند که سازمان‌هایشان ممکن است در آستانه خودکارسازی پژوهش AI باشند.

یک مطالعه جداگانه از Princeton و UK AI Security Institute نیز به نتیجه‌ای نزدیک‌تر به یافته‌های تیم Atria رسیده است: مدل‌های پیشرفته می‌توانند از عهده مهندسی پژوهش برآیند، اما در قضاوت‌هایی که اهمیت اصلی دارند ضعف نشان می‌دهند. در مجموع، گزارش Atria Dawn Preview نه پیش‌بینی قطعی درباره زمان خودکارشدن پژوهش است و نه شاهدی بر بی‌نیازی از نظارت. یافته‌هایش نشان می‌دهد که عامل‌ها می‌توانند دامنه اجرا را گسترش دهند، اما پرسش از این‌که کدام مسئله ارزش حل‌کردن دارد و چه میزان اختیار باید واگذار شود، همچنان به تصمیم و قضاوت انسانی گره خورده است.

این خبر برای چه کسانی اهمیت دارد

این یافته‌ها برای پژوهشگران و مهندسانی اهمیت دارد که از عامل‌های AI در توسعه مدل استفاده می‌کنند؛ آن‌ها باید میان سپردن اجرا و واگذاری تصمیم فرق بگذارند و امکان بازبینی زنجیره اقدام‌ها را در نظر بگیرند. برای مدیران شرکت‌های هوش مصنوعی نیز نتایج نشان می‌دهد که افزایش بهره‌وری یا شمار کارهای انجام‌شده، معیار کافی برای سنجش خودمختاری نیست. سیاست‌گذاران و ناظران هم می‌توانند از این تفکیک برای پرسیدن پرسش‌های دقیق‌تر درباره مسئولیت انسانی، حدود اختیار عامل‌ها و کیفیت نظارت استفاده کنند.