پرش به محتوای اصلی
شنبه ۲۳ آبان ۱۴۰۵به‌روزرسانی: ۹ آبان ۱۴۰۵
کانال تلگرام
اخبار لحظه‌ای

معماری DeReAct با جداسازی کنترل‌ها خطاهای عامل‌های هوش مصنوعی را مهار می‌کند

پژوهشگران در مقاله‌ای تازه معماری DeReAct را معرفی کرده‌اند؛ روشی که پیش از اجرای کنش‌ها و اعلام پایان کار، دو کنترل‌گر جداگانه به عامل هوش مصنوعی می‌افزاید. بیشترین بهبود در آزمون‌ها برای مدل‌های پایه ضعیف‌تر گزارش شده است.

نویا را به منابع منتخبت در گوگل اضافه کن (در زبانه جدید باز می‌شود)
معماری DeReAct با جداسازی کنترل‌ها خطاهای عامل‌های هوش مصنوعی را مهار می‌کند
فهرست مطالب
  1. ۱معماری DeReAct چه تغییری می‌دهد؟
  2. ۲نتایج آزمون‌ها برای مدل‌های ضعیف‌تر بهتر بود
  3. ۳مزیت کنترل مستقل، به فراوانی خطا بستگی دارد
  4. ۴این خبر برای چه کسانی اهمیت دارد
خلاصه خبر در چند خط
  • DeReAct پیش از اجرا، کنش پیشنهادی عامل را با یک منتقد ارزیابی می‌کند.
  • مدیر زمینه وضعیت محیط را بازسازی و پایان کار را تأیید می‌کند.
  • بیشترین بهبود Pass@1 برای Qwen3-Coder-480B و Claude Sonnet 4.5 گزارش شده است.
  • با قوی‌ترشدن مدل پایه، افزایش امتیاز کمتر می‌شود؛ اما مسیرهای اجرا شواهد کامل‌تری دارند.

معماری DeReAct، روشی تازه برای افزایش اطمینان‌پذیری عامل‌های هوش مصنوعی، در پژوهشی منتشرشده در arXiv معرفی شده است. این معماری به‌جای سپردن انتخاب کنش، اجرای آن و تشخیص پایان کار به یک سیاست واحد در مدل زبانی بزرگ، دو مرحله نظارتی جداگانه اضافه می‌کند؛ تغییری که به‌گفته پژوهشگران می‌تواند از اجرای کنش‌های نامناسب و خاتمه زودهنگام کار جلوگیری کند.

معماری DeReAct چه تغییری می‌دهد؟

عامل‌های مبتنی بر الگوی ReAct معمولاً از یک سیاست واحد استفاده می‌کنند تا کنش بعدی را پیشنهاد دهد، با محیط تعامل کند و تصمیم بگیرد که آیا وظیفه به پایان رسیده است یا نه. به‌گفته پژوهشگران، این یکپارچگی باعث می‌شود کنترل مجوز کنش‌ها و تشخیص تکمیل وظیفه دشوار باشد. برای نمونه، خطا در پیشنهاد کنش ممکن است به مراحل بعدی سرایت کند یا عامل، بدون پشتوانه کافی، اعلام کند که کار تمام شده است.

DeReAct این دو مسئولیت را به اجزای جداگانه می‌سپارد. «منتقد» (Critic) کنش پیشنهادی را پیش از اجرا بررسی می‌کند و درباره مجازبودن آن تصمیم می‌گیرد. «مدیر زمینه» (Context Manager) نیز وضعیت محیط را با اتکا به اطلاعات موجود بازسازی می‌کند و پایان‌یافتن وظیفه را تأیید می‌کند. به این ترتیب، اعلام پایان صرفاً به تصمیم همان مدلی وابسته نیست که وظیفه را انجام می‌دهد.

نتایج آزمون‌ها برای مدل‌های ضعیف‌تر بهتر بود

پژوهشگران DeReAct را در دو مجموعه ارزیابی GAIA و SWE-bench Verified آزمودند. معیار گزارش‌شده، Pass@1 است؛ یعنی میزان موفقیت مدل در نخستین تلاش. طبق چکیده مقاله، بیشترین افزایش در مدل‌های پایه ضعیف‌تر دیده شد: امتیاز Pass@1 برای Qwen3-Coder-480B بین ۶٫۵ تا ۷ واحد و برای Claude Sonnet 4.5 بین ۴٫۲ تا ۵٫۲ واحد بهبود یافت.

این افزایش با بالاتررفتن توانایی مدل پایه کاهش پیدا کرد. در آزمون با Claude Opus 4.5، امتیاز Pass@1 در مجموع نزدیک به عملکرد ReAct باقی ماند. بااین‌حال، تحلیل مسیرهای اجرا و آزمون‌های حذف اجزا نشان داد DeReAct در این حالت هم مسیرهایی با شواهد کامل‌تر و رعایت بهتر محدودیت‌ها تولید می‌کند.

مزیت کنترل مستقل، به فراوانی خطا بستگی دارد

نتایج مقاله حاکی از آن است که افزودن کنترل‌گرها به‌تنهایی تضمین‌کننده بهبود نیست. به‌گفته پژوهشگران، کنترل بیرونی زمانی مؤثرتر است که خطایی را هدف بگیرد که در عملکرد عامل به‌اندازه کافی رایج باشد و خودِ سیاست نظارتی هم توانایی لازم برای ارزیابی آن را داشته باشد.

یافته مربوط به مدل قوی‌تر نیز یک موازنه را نشان می‌دهد: کنترل بیشتر ممکن است عامل را از پایان‌دادن زودهنگام بازدارد و پشتوانه اجرای کار را تقویت کند، اما الزاماً امتیاز کلی را بالا نمی‌برد. از آنجا که اطلاعات موجود درباره مقاله به چکیده محدود است، جزئیات بیشتری درباره سازوکار ارزیابی یا اندازه دقیق مجموعه‌های آزمون در دست نیست.

این خبر برای چه کسانی اهمیت دارد

این رویکرد برای پژوهشگران عامل‌های هوش مصنوعی و تیم‌هایی که مدل‌ها را به ابزارها یا محیط‌های نرم‌افزاری متصل می‌کنند، اهمیت دارد؛ زیرا نشان می‌دهد کنترل مجوز کنش و تأیید تکمیل وظیفه را می‌توان از توانایی اصلی مدل جدا کرد. نتایج گزارش‌شده به‌ویژه برای کسانی قابل‌توجه است که با مدل‌های پایه ضعیف‌تر کار می‌کنند، هرچند میزان سود به نوع خطا و کیفیت کنترل‌گرها وابسته است.

پرسش‌های متداول

DeReAct چه چیزی را از عامل‌های ReAct جدا می‌کند؟
این معماری ارزیابی کنش‌ها و تأیید پایان کار را به دو سیاست مستقل می‌سپارد، نه یک سیاست واحد.
DeReAct در چه آزمون‌هایی بررسی شده است؟
پژوهش آن را در GAIA و SWE-bench Verified ارزیابی کرده است.
منبع خبرarXiv — cs.AI
#پژوهش#عامل‌های_هوش_مصنوعی#مدل‌های_زبانی#هوش_مصنوعی
درباره نویسندهپژوهشگر اقتصاد دیجیتال

دانش آموخته مدیریت کسب و کار گرایش استراتژی و پژوهشگر ، استراتژیست و توسعه دهنده اقتصاد دیجیتال

مطالب مرتبط

همه اخبار هوش مصنوعیتازه‌ترین خبرهای امروز را در هوش مصنوعی نویا دنبال کنید
این خبر را به اشتراک بگذارید