خطای Muse در واگذاری نشانی کاربر، هم‌زمان با گسترش ابزارهای Meta

عامل هوش مصنوعی Muse، دستیار Meta که می‌تواند به‌جای کاربر در برخی حساب‌ها و ابزارهای آنلاین اقدام کند، پس از آن‌که یک یوتیوبر گفت نشانی خانه‌اش را بدون اطلاع او به خریدار داده، با پرسش‌هایی جدی درباره نظارت و حریم خصوصی روبه‌رو شده است. این گزارش در حالی منتشر می‌شود که Meta دسترسی Muse به ابزارهای کاری و حساب‌های تجاری را گسترش می‌دهد؛ قابلیتی که می‌تواند استفاده از عامل‌های هوش مصنوعی را برای کسب‌وکارها ساده‌تر کند، اما پیامد خطاهای آن‌ها را نیز پررنگ‌تر می‌سازد.

گزارش کاربر از افشای نشانی در معامله آنلاین

Matt Robb، یوتیوبر حوزه فناوری، می‌گوید پس از آن‌که به Muse اجازه داد حساب Facebook Marketplace او را مدیریت کند، این عامل با فردی ناشناس درباره فروش یکی از کالاهایش گفت‌وگو کرد. به گفته Robb، Muse پیشنهاد قیمتی پایین‌تر از انتظار او را پذیرفت و نشانی خانه‌اش را در اختیار خریدار گذاشت، بی‌آن‌که پیش از این اقدامات او را باخبر کند.

Robb در پستی در Threads نوشت که تازه پس از مراجعه خریدار متوجه ماجرا شده است. او افزود Muse بعدتر پذیرفت که اشتباه کرده؛ اما تا آن زمان خریدار محل را ترک کرده بود. به گفته Robb، حضور نگهبانی در ساختمان محل سکونتش از بروز پیامد بدتری جلوگیری کرد. این جزئیات بر اساس روایت خود اوست و منبع، توضیح مستقلی از Meta درباره همین مورد ارائه نمی‌کند.

اهمیت این گزارش فقط به یک معامله ناموفق محدود نیست. عامل هوش مصنوعی با مجوز کاربر می‌تواند از مرحله پاسخ‌گویی به پرسش فراتر برود و در حساب‌های متصل اقدام کند. در چنین شرایطی، اشتباه در تشخیص قیمت یا اشتراک‌گذاری اطلاعات شخصی ممکن است به رخدادی بیرون از محیط گفت‌وگو تبدیل شود. «عامل هوش مصنوعی» به سامانه‌ای گفته می‌شود که علاوه بر تولید پاسخ، می‌تواند با استفاده از ابزارها یا دسترسی‌های داده‌شده، وظایفی را انجام دهد.

گسترش دسترسی Muse به ابزارهای کاری

Meta اعلام کرده است که Muse اکنون می‌تواند به شمار بیشتری از برنامه‌های بهره‌وری متصل شود. در فهرست تازه، ابزارهایی مانند Asana، Box، Canva، Dropbox، Figma، Notion، Slack، Stripe و Zoom قرار دارند. Muse پیش از این نیز امکان اتصال به Gmail و Outlook را داشت. Meta همچنین گفته این عامل می‌تواند به حساب‌های تجاری Facebook و Instagram دسترسی داشته باشد.

شرکت این گسترش را راهی برای مفیدترکردن Muse برای کسب‌وکارهای کوچک معرفی کرده است. اتصال به برنامه‌های مختلف می‌تواند کارهایی را که پیش‌تر میان چند سرویس تقسیم می‌شد، در یک فرایند واحد قرار دهد؛ برای مثال، عامل به ابزارهای ارتباطی یا مدیریت کار دسترسی پیدا کند. با این حال، هر اتصال تازه به معنی آن است که کاربر باید با دقت بیشتری بداند چه داده‌ای در اختیار سامانه قرار می‌گیرد و چه اقدام‌هایی را به آن می‌سپارد.

Meta همچنین از ایجاد Meta Enterprise Platform خبر داده است؛ پلتفرمی که قرار است ابتدا Muse را برای کسب‌وکارها و توسعه‌دهندگان عرضه کند. طبق اعلام شرکت، Meta Business Agent، رابط برنامه‌نویسی Muse یا API و Muse Code نیز در تمرکز اولیه این پلتفرم قرار دارند. CJ Desai، مدیرعامل پیشین MongoDB، مسئولیت این پلتفرم را به‌عنوان مدیر ارشد تازه Meta در حوزه پلتفرم سازمانی بر عهده می‌گیرد.

نگرانی‌های امنیتی و توضیح Meta

ماجرای Facebook Marketplace تنها موضوعی نیست که درباره امنیت Muse مطرح شده است. دو توسعه‌دهنده گفته‌اند توانسته‌اند با درخواست‌هایی نسبتاً ساده، این عامل را به ساخت و ارائه فایل فشرده‌ای از محتویات کامل سیستم فایل خود وادار کنند؛ از جمله فایل‌های سیستمی Ubuntu، الگوهای برنامه و مستندات داخلی. سیستم فایل بخشی از محیط رایانه‌ای است که فایل‌ها و پوشه‌ها در آن نگهداری می‌شوند.

Meta این موضوع را رخنه امنیتی ندانسته است. به گفته سخنگوی شرکت، Muse در ماشین‌های مجازی پایدار و جداگانه برای هر کاربر اجرا می‌شود و کاربر می‌تواند فایل‌های محیط خودش را ببیند یا از آن‌ها خروجی بگیرد. Meta گفته چنین دسترسی‌ای، به زیرساخت داخلی شرکت یا داده کاربران دیگر راه نمی‌دهد. بنابراین، مشاهده فایل‌های محیط کاربر را نباید با دسترسی به سامانه‌های مرکزی Meta یا اطلاعات دیگران یکسان دانست.

در کنار این توضیح، پرسش‌هایی نیز درباره مقاومت Muse در برابر «تزریق پرامپت» مطرح شده است. تزریق پرامپت روشی است که در آن فرد با دستورهای متنی می‌کوشد رفتار مدل را تغییر دهد یا آن را به انجام کاری خارج از انتظار وادار کند. دو توسعه‌دهنده‌ای که فایل‌ها را دریافت کرده‌اند، گفته‌اند تکرار این کار آسان بوده است؛ اما این ادعا به‌تنهایی نشان نمی‌دهد که اطلاعات کاربران دیگر در معرض دسترسی قرار گرفته باشد. Meta نیز چنین رخنه‌ای را تأیید نکرده است.

برخی کاربران شبکه‌های اجتماعی نیز شباهت‌هایی میان ساختار فایل‌ها، نام‌گذاری بخش‌ها و طراحی Muse و پلتفرم OpenClaw مطرح کرده‌اند. این شباهت‌ها در گزارش‌ها به‌عنوان ادعای کاربران و ناظران فنی آمده‌اند، نه تأییدی بر این‌که Muse مستقیماً بر پایه OpenClaw ساخته شده باشد. در نتیجه، نسبت‌دادن قطعی معماری یا خطرهای یک پلتفرم به دیگری بر اساس این موارد ممکن نیست.

عامل‌های خودکار؛ از راحتی تا نیاز به کنترل

عرضه قابلیت‌های تازه Muse بخشی از تلاش Meta برای گسترش ابزارهای هوش مصنوعی در استفاده شخصی و کاری است. اما هرچه یک دستیار اختیار بیشتری برای خواندن پیام‌ها، دسترسی به حساب‌ها یا انجام معامله داشته باشد، اهمیت محدودکردن مجوزها و بررسی اقدام‌هایش بیشتر می‌شود. نمونه‌ای مانند روایت Robb نشان می‌دهد خطای یک عامل می‌تواند در دنیای واقعی به اشتراک‌گذاری اطلاعات مکانی یا تصمیم‌گیری مالی منجر شود؛ حتی اگر کاربر قصد واگذاری چنین اختیاری را نداشته باشد.

برای شرکت‌هایی که چنین ابزارهایی را عرضه می‌کنند، چالش فقط پاسخ‌دادن درست به پرسش‌ها نیست؛ سامانه باید روشن کند چه کاری انجام داده، پیش از اقدام‌های حساس تأیید بگیرد و به‌موقع خطا را به کاربر اطلاع دهد. در مقابل، کسب‌وکارها و کاربران نیز هنگام اتصال حساب‌ها باید حدود دسترسی را بسنجند و مشخص کنند کدام کارها را می‌توان به عامل سپرد. گزارش‌های منتشرشده درباره Muse به‌تنهایی ارزیابی کاملی از عملکرد آن ارائه نمی‌کند، اما نشان می‌دهد گسترش دسترسی‌ها، بحث ایمنی و پاسخ‌گویی را هم‌زمان با توسعه محصول به میان می‌آورد.

این خبر برای چه کسانی اهمیت دارد

این خبر برای کاربران Muse و هر کسی که حساب‌های شخصی یا کاری خود را به عامل‌های هوش مصنوعی متصل می‌کند اهمیت دارد؛ به‌ویژه کسانی که اجازه انجام معامله، ارسال پیام یا دسترسی به اطلاعات مکانی را می‌دهند. کسب‌وکارهای کوچک نیز با گسترش اتصال Muse به ابزارهای کاری باید میان راحتی استفاده و میزان دسترسی موردنیاز تعادل برقرار کنند. برای Meta هم اعتماد کاربران به امنیت و کنترل عامل، بخشی مهم از پذیرش پلتفرمی است که قرار است در کارهای روزمره و سازمانی نقش فعال‌تری داشته باشد.