دستورهای Muse از ساخت پرونده برای اطرافیان کاربران می‌گویند

دستیار هوش مصنوعی Muse در دستورهای داخلی خود قابلیتی برای ساخت صفحه‌ای جداگانه درباره افراد مهم در زندگی کاربر دارد؛ قابلیتی که می‌تواند اطلاعات مربوط به خانواده، دوستان، همکاران و دیگر آشنایان را به‌مرور گردآوری کند. این اسناد که یک پژوهشگر مستقل از راه گفت‌وگوی معمولی با Muse استخراج کرده، تصویری از شیوه سازمان‌دهی اطلاعات در دستیار تازه Meta به دست می‌دهد و پرسش‌هایی درباره حریم خصوصی افرادی مطرح می‌کند که ممکن است خودشان کاربر این سرویس نباشند.

به گزارش WIRED، Muse در میان کاربران به محبوبیت زیادی رسیده و میلیون‌ها نفر آن را دانلود کرده‌اند. برخی کاربران نیز دستیار را به حساب‌های بانکی، پیام‌ها یا داده‌های سلامت خود متصل کرده‌اند و به آن اجازه داده‌اند کارهایی را برایشان انجام دهد. در چنین شرایطی، بررسی فایل‌ها و دستورهای داخلی این ابزار می‌تواند نشان دهد سیستم قرار است اطلاعات را چگونه دسته‌بندی کند و برای پاسخ‌گویی به کار ببرد.

دستیار هوش مصنوعی Muse چگونه افراد را ثبت می‌کند؟

یکی از دستورهای Muse به این قابلیت اشاره دارد که برای «هر فرد در زندگی کاربر» صفحه‌ای ایجاد شود. طبق متن دستورها، این فرایند به‌صورت ساعتی انجام می‌شود و می‌تواند افراد مختلفی را دربر بگیرد: اعضای خانواده، شریک زندگی، دوستان، همکاران، همکاران و هم‌پروژه‌ای‌ها و حتی کسانی که کاربر دنبال می‌کند.

این صفحه‌ها بخشی از سازوکار حافظه Muse هستند. در اینجا حافظه به معنای فایل‌های متنی ساختاریافته‌ای است که اطلاعات را در قالبی منظم نگه می‌دارند؛ نه لزوماً خاطره‌ای شبیه حافظه انسانی. ایده مطرح‌شده در دستورها این است که دستیار بتواند داده‌های مربوط به روابط کاربر را کنار هم بگذارد و از آن‌ها برای پیشنهادهای بعدی استفاده کند.

برای نمونه، Muse ممکن است پیشنهادهایی برای بهتر کردن یک رابطه ارائه دهد یا مکانی برای صبحانه‌خوردن با دوستی که قهوه دوست دارد معرفی کند. این موارد در متن دستورها به‌عنوان کاربردهای احتمالی اطلاعات ثبت‌شده آمده‌اند؛ اما گزارش WIRED نمی‌گوید که چنین پیشنهادهایی در همه موارد یا برای همه کاربران ارائه شده‌اند.

دستورها می‌گویند صفحه هر فرد ممکن است در ابتدا کم‌جزئیات باشد و بعد، با گذشت زمان، گسترش پیدا کند. بخش‌های احتمالی آن شامل «واقعیت‌ها»، «تاریخچه»، «رابطه»، «نقاط مشترک»، «موضوعات باز» و «تقویت رابطه» است. این عنوان‌ها نشان می‌دهند که اطلاعات قرار نیست فقط به مشخصات ساده افراد محدود بماند و ممکن است زمینه ارتباط آن‌ها با کاربر را هم پوشش دهد.

استخراج دستورهای داخلی Muse چه چیزی را روشن کرد؟

کاران جوشی، پژوهشگر مستقل ایمنی و امنیت هوش مصنوعی، توانست با استفاده از رابط گفت‌وگوی معمولی Muse را به کپی‌کردن و به‌اشتراک‌گذاشتن فایل‌های نرم‌افزاری خودش وادار کند. او مجموعه‌ای از دستورها و پیام‌های سیستمی را استخراج کرد و یافته‌هایش را در اختیار WIRED گذاشت. پیام سیستمی یا دستور داخلی، راهنمایی است که به مدل می‌گوید چگونه پاسخ دهد و چه قواعدی را در نظر بگیرد.

در روزهای پیش از انتشار گزارش، پژوهشگران دیگری نیز فایل‌های داخلی Muse را استخراج کرده و دستورهای این دستیار را منتشر کرده بودند. این فایل‌ها فقط درباره سازمان‌دهی اطلاعات افراد نبودند و می‌توانستند سرنخ‌هایی از نحوه پاسخ‌گویی Muse به پرسش‌ها، از جمله موضوع‌های حساس یا سیاسی‌شده، ارائه دهند.

Meta گفته است که دسترسی‌پذیر بودن فایل‌ها را برای شفافیت در نظر داشته است. بااین‌حال، گزارش یادآور می‌شود که استخراج این اطلاعات از مسیر رابط عمومی گفت‌وگو انجام شده است؛ مسیری که به‌جای بررسی مستندات منتشرشده به شکل معمول، از خود دستیار برای دریافت فایل‌هایش استفاده می‌کند.

جوشی برداشت خود از دستورها را این‌طور توصیف کرده که به نظر می‌رسد Meta می‌خواهد از رابطه‌های واقعی کاربران شناخت پیدا کند و Muse را به دستیاری تبدیل کند که کاربر را مانند یک دوست می‌شناسد. او این ایده را نگران‌کننده خوانده است. این ارزیابی، نظر پژوهشگر درباره معنای دستورهاست و نه اثبات این‌که Muse در عمل از همه روابط کاربران چنین شناختی پیدا کرده است.

پرونده‌سازی درباره دیگران و مسئله شواهد

دستورهای داخلی می‌گویند Muse باید از شواهدی استفاده کند که در اختیار دارد و جزئیات ساختگی را جایگزین اطلاعات ناقص نکند. در این راهنما، خالی ماندن یک صفحه بهتر از پر شدن آن با اطلاعات نادرست دانسته شده است. این قاعده می‌تواند مانعی در برابر حدس‌سازی باشد، اما به‌تنهایی پاسخ نمی‌دهد که چه داده‌هایی شواهد محسوب می‌شوند یا اطلاعات افراد چگونه به صفحه‌های جداگانه راه پیدا می‌کند.

گزارش، جزئیات بیشتری درباره دامنه داده‌هایی که Muse برای این صفحه‌ها به کار می‌گیرد یا نحوه تعیین صحت هر مورد ارائه نمی‌کند. بنابراین باید میان آنچه اسناد درباره طراحی سیستم می‌گویند و آنچه از عملکرد واقعی آن در استفاده روزمره تأیید شده است تفاوت گذاشت. وجود دستور برای ایجاد صفحه، به‌تنهایی ثابت نمی‌کند که همه این صفحه‌ها در همه حساب‌ها ساخته یا با اطلاعات کامل پر شده‌اند.

بااین‌همه، گردآوری اطلاعات درباره اطرافیان، پرسشی فراتر از داده‌های شخصی خود کاربر ایجاد می‌کند: اطلاعات مربوط به چه کسانی ثبت می‌شود و آن افراد چه نقشی در استفاده از این دستیار دارند؟ گزارش می‌گوید عادی است که کاربران از چت‌بات‌هایی مانند ChatGPT درباره روابطشان راهنمایی بخواهند. تفاوت قابل‌توجه در این مورد، توصیف یک سازوکار سازمان‌یافته برای نگهداری اطلاعات درباره افراد و رابطه‌های کاربر در حافظه دستیار است.

این موضوع در مورد Meta اهمیت ویژه‌ای دارد، چون به گفته گزارش، سابقه این شرکت و دسترسی گسترده آن به داده‌های شبکه‌های اجتماعی، زمینه‌ای است که جوشی و دیگران هنگام ارزیابی چنین قابلیتی در نظر می‌گیرند. این نکته به‌خودی‌خود نشان نمی‌دهد که اطلاعات شبکه‌های اجتماعی برای ساخت صفحه‌های Muse به کار رفته است؛ اما توضیح می‌دهد چرا نحوه جمع‌آوری و استفاده از داده‌ها در این محصول محل توجه قرار گرفته است.

پاسخ‌گویی و شفافیت در برابر کاربران

پرونده‌های توصیف‌شده در دستورهای Muse می‌توانند برای شخصی‌سازی پیشنهادها مفید باشند. وقتی دستیار اطلاعاتی درباره علاقه‌های یک دوست یا زمینه یک رابطه داشته باشد، ممکن است پاسخ مرتبط‌تری ارائه کند. در عین حال، همین شخصی‌سازی وابسته به جمع‌آوری اطلاعاتی است که فقط به کاربر متصل‌کننده سرویس مربوط نمی‌شود و افراد دیگری را نیز دربر می‌گیرد.

متن منتشرشده از دستورها، درباره مواردی مانند میزان کنترل کاربران بر این صفحه‌ها، امکان حذف اطلاعات یا شیوه اطلاع‌رسانی به افرادی که نامشان در آن‌ها آمده، توضیحی نمی‌دهد. ازاین‌رو، نمی‌توان بر پایه این گزارش درباره سازوکارهای عملی کنترل داده در Muse نتیجه قطعی گرفت. آنچه روشن است، وجود دستورهایی برای ثبت تدریجی اطلاعات رابطه‌ها و تأکید بر استفاده از شواهد موجود است.

استخراج فایل‌ها همچنین نشان می‌دهد که بررسی رفتار یک دستیار هوش مصنوعی فقط به مشاهده پاسخ‌های آن محدود نمی‌شود. دستورهای داخلی می‌توانند بخشی از منطق طراحی محصول را آشکار کنند؛ به‌ویژه وقتی سرویس برای نگهداری اطلاعات و استفاده دوباره از آن‌ها ساخته شده باشد. در مقابل، چنین اسنادی لزوماً همه جزئیات اجرای محصول یا تجربه تک‌تک کاربران را نشان نمی‌دهند و باید با احتیاط تفسیر شوند.

این خبر برای چه کسانی اهمیت دارد

این خبر برای کاربران Muse اهمیت دارد، به‌خصوص کسانی که دستیار را به پیام‌ها، حساب‌های بانکی یا داده‌های سلامت متصل می‌کنند و از آن برای دریافت پیشنهادهای شخصی کمک می‌گیرند. توجه به این‌که حافظه دستیار ممکن است اطلاعات مربوط به روابط را نیز سازمان‌دهی کند، بخشی از تصمیم‌گیری درباره استفاده از چنین ابزاری است.

موضوع برای افرادی که درباره آن‌ها اطلاعات ثبت می‌شود نیز مهم است، حتی اگر خودشان مستقیماً با Muse گفت‌وگو نکنند. همچنین پژوهشگران امنیت و ایمنی هوش مصنوعی و ناظران حریم خصوصی می‌توانند از این نمونه برای بررسی شفافیت دستورهای داخلی و مرز میان شخصی‌سازی مفید و گردآوری اطلاعات درباره دیگران استفاده کنند. در حال حاضر، گزارش از وجود دستورها خبر می‌دهد؛ اما درباره اجرای یکسان آن‌ها برای همه کاربران یا جزئیات کامل کنترل داده‌ها نتیجه قطعی ارائه نمی‌کند.