پژوهش تازه، ۲۰ نوع شکست در همکاری عامل‌های هوش مصنوعی را دسته‌بندی کرد

پژوهشی تازه درباره خطاهای عامل‌های هوش مصنوعی نشان می‌دهد که همکاری میان عامل‌هایی با اطلاعات و مسئولیت‌های متفاوت می‌تواند شکست‌هایی پنهان ایجاد کند. این مطالعه که روز شنبه ۲۵ مهر ۱۴۰۵ در arXiv منتشر شد، بیش از ۲۵۰۰ اجرای سامانه‌های عامل‌به‌عامل را بررسی و ۲۰ نوع خطا را دسته‌بندی می‌کند؛ یافته‌هایی که بر ضرورت راستی‌آزمایی و ارزیابی جداگانه عامل‌ها تأکید دارند.

بررسی بیش از ۲۵۰۰ اجرای عامل‌به‌عامل

سامانه‌های عامل‌به‌عامل یا A2A از چند عامل هوش مصنوعی تشکیل می‌شوند که با یکدیگر تعامل دارند، اما لزوماً برای یک فرد یا سازمان کار نمی‌کنند. برای نمونه، عامل خریدار ممکن است با عامل فروشنده یک شرکت مذاکره کند. هر عامل محیط، اطلاعات و اختیاراتی دارد که ممکن است برای طرف مقابل قابل‌مشاهده نباشد.

پژوهشگران بیش از ۲۵۰۰ اجرای ثبت‌شده را در ۴۸۸ سناریو و هشت حوزه، از جمله حقوق، مدیریت ارتباط با مشتری، امنیت و تجارت، تحلیل کردند. این اجراها با چارچوب‌ها و مدل‌های مختلف انجام شده‌اند. چکیده پژوهش نام مشخصی از مدل‌ها یا چارچوب‌ها ارائه نمی‌کند.

خطاهای عامل‌های هوش مصنوعی در چهار دسته

بر پایه ردپاهای این اجراها، پژوهشگران چارچوبی با نام A²-Failures ساخته‌اند که ۲۰ نوع شکست را در چهار دسته قرار می‌دهد:

• کشف عامل‌های دیگر و واگذاری کار به آن‌ها؛
• اتکا به اطلاعات و سازگاری سوابق؛
• راستی‌آزمایی؛
• رفتار عامل و وفاداری آن به مسئولیتش.

این دسته‌بندی به تفاوت سامانه‌های A2A با برخی مطالعات پیشین درباره سامانه‌های چندعاملی می‌پردازد؛ آن مطالعات معمولاً یک هماهنگ‌کننده، فضای کاری مشترک یا یک کارفرما را فرض می‌کردند. در تعامل میان عامل‌هایی با کارفرمایان متفاوت، منافع می‌توانند همسو، تا حدی مشترک یا متضاد باشند.

چرا امتیاز نهایی برای ارزیابی کافی نیست؟

پژوهش سه یافته را در همه چارچوب‌ها، مدل‌ها و سناریوهای بررسی‌شده گزارش می‌کند. نخست، اینکه عامل‌ها سراغ تعامل یا واگذاری کار می‌روند بیشتر به نحوه صورت‌بندی وظیفه بستگی دارد تا صرفِ در دسترس بودن عامل‌های دیگر. دوم، هیچ‌یک از عامل‌ها به ابتکار خود ادعای واقعی یک همتا را بررسی نکرده است. بنابراین، اگر پروتکل یا سازوکار دیگری راستی‌آزمایی نکند، قابلیت اتکای سامانه به کم‌اتکاترین عضو آن وابسته می‌شود.

یافته سوم به شیوه امتیازدهی مربوط است: امتیاز کلی ممکن است موفقیت عاملِ تکمیل‌کننده کار را ثبت کند، اما شکست‌های هماهنگی، راستی‌آزمایی و رفتار را نادیده بگیرد. نویسندگان بر این اساس می‌گویند ارزیابی باید عملکرد هر عامل را جداگانه و در برابر مسئولیت آن در قبال کارفرمایش بسنجد. پژوهش گزارش می‌کند که ردپاهای اجراهای مورد استفاده برای این طبقه‌بندی نیز منتشر شده‌اند.

این خبر برای چه کسانی اهمیت دارد

این یافته‌ها برای پژوهشگران سامانه‌های چندعاملی و تیم‌هایی که عامل‌های هوش مصنوعی را در کارهایی مانند مذاکره یا تعامل میان سازمان‌ها به‌کار می‌گیرند، کاربرد دارد. پیام اصلی این است که موفقیت در انجام یک وظیفه به‌تنهایی نشان نمی‌دهد تعامل میان عامل‌ها قابل‌اعتماد بوده است؛ طراحی سازوکارهای بررسی ادعاها و سنجش جداگانه مسئولیت‌ها نیز بخشی از ارزیابی چنین سامانه‌هایی است.