وعده حریم خصوصی عامل‌های هوش مصنوعی زیر ذره‌بین؛ رقابت OpenAI و Meta

حریم خصوصی عامل‌های هوش مصنوعی به محور رقابت OpenAI و Meta تبدیل شده است؛ OpenAI در روز معرفی عامل Dots در DevDay وعده داد معیار تازه‌ای برای حفاظت از داده‌ها در هوش مصنوعی پیشرفته تعیین کند، در حالی که تجربه Muse متعلق به Meta پرسش‌هایی درباره دسترسی شرکت‌ها به اطلاعات کاربران و امنیت این ابزارها ایجاد کرده است. اهمیت این بحث از آن‌جا می‌آید که عامل‌های هوش مصنوعی برای انجام کارهای روزمره به داده‌های شخصی بیشتری نیاز دارند و کاربران باید بدانند این اطلاعات کجا ذخیره می‌شود و چه کسی می‌تواند آن‌ها را ببیند.

حریم خصوصی عامل‌های هوش مصنوعی به ابزار رقابت تبدیل می‌شود

به گزارش The Verge، شرکت‌های هوش مصنوعی می‌کوشند مردم را به سپردن اطلاعات بیشتری به عامل‌هایشان ترغیب کنند. یکی از راه‌های جلب اعتماد، تأکید بر این است که محصول آن‌ها نسبت به ابزارهای رقیب امن‌تر است و داده‌های کاربران را از دسترس افراد غیرمجاز دور نگه می‌دارد. با این حال، وعده‌های امنیتی تنها بخشی از مسئله‌اند: نحوه جمع‌آوری داده، دسترسی خود شرکت به آن و امکان وقوع خطا یا حمله نیز اهمیت دارد.

این رقابت را می‌توان در معرفی دو محصول دید. Sam Altman، مدیرعامل OpenAI، در DevDay گفت شرکت می‌خواهد «معیار تازه‌ای برای حریم خصوصی در هوش مصنوعی پیشرفته» تعیین کند. چند ماه پیش‌تر، Mark Zuckerberg نیز هنگام معرفی Muse آن را محصولی دانسته بود که از ابتدا با تمرکز بر حریم خصوصی و امنیت ساخته شده است. هر دو شرکت در نتیجه، امنیت را نه فقط قابلیتی فنی، بلکه بخشی از پیام خود به کاربران قرار داده‌اند.

تجربه Muse؛ جداسازی داده‌ها در برابر دسترسی شرکت

Meta می‌گوید اطلاعات کاربران Muse در یک ماشین مجازی امن نگه‌داری می‌شود؛ محیطی جداشده که Zuckerberg آن را رایانه‌ای لینوکسی با مرورگر، پردازنده، حافظه و فضای ذخیره‌سازی توصیف کرده است. Nat Friedman، مدیر محصول در Meta Superintelligence Labs، نیز گفته هدف این بوده که محصولی شبیه OpenClaw ساخته شود که استفاده از آن ایمن‌تر و ساده‌تر باشد و بتواند در مقیاس گسترده فعالیت کند.

اما جداسازی اطلاعات کاربران از یکدیگر لزوماً به معنای ناتوانی Meta از دسترسی به آن‌ها نیست. طبق گزارش، این شرکت فعلاً همچنان می‌تواند داده‌های ذخیره‌شده را ببیند و گفته است قصد دارد در ادامه سال امکانی برای جلوگیری رمزنگاری‌شده و قابل‌راستی‌آزمایی از دسترسی خود به داده‌های محیط مجازی ارائه کند. تفاوت میان «جدا بودن داده‌ها از دیگر کاربران» و «نداشتن دسترسی شرکت» برای ارزیابی ادعای حریم خصوصی مهم است.

گزارش همچنین از چند نگرانی امنیتی درباره Muse می‌گوید. یک پژوهشگر امنیتی آسیب‌پذیری روز صفر این ابزار را آشکار کرد؛ حفره‌ای که می‌توانست به مهاجم امکان کنترل Muse را بدهد و بعداً وصله شد. به نقل از 404 Media، چند مشکل جدی دیگر نیز در آستانه عرضه مطرح شده بود که یکی از آن‌ها می‌توانست دسترسی کاربران را به پایگاه‌های داده داخلی Meta ممکن کند.

جمع‌آوری اطلاعات و اختیار کاربر

نگرانی‌ها فقط به حملات بیرونی مربوط نیست. Muse به‌طور پیش‌فرض اجازه می‌دهد Meta از اطلاعاتی که کاربران وارد می‌کنند برای آموزش مدل‌ها استفاده کند، هرچند امکان انصراف از این گزینه وجود دارد. The Verge از گزارش‌هایی درباره رفتارهای این ابزار نیز یاد کرده است: یک خبرنگار Inc. گفت Muse بدون درخواست صریح او پیام‌های خصوصی‌اش را بارگذاری و خوانده و یک تولیدکننده محتوای YouTube گفت این ابزار نشانی او را از طریق Marketplace در اختیار فردی غریبه گذاشته است.

در هر دو مورد، به نظر می‌رسد ابزار در چارچوب عملکرد مورد انتظارش عمل کرده، اما کاربران از گستره دسترسی آن آگاه نبوده‌اند. Wired نیز گزارش داده که این پلتفرم از دوستان و اعضای خانواده کاربران پروفایل‌های مفصل می‌سازد. این موارد به‌تنهایی ثابت نمی‌کنند که Muse ناامن است، اما نشان می‌دهند شفاف‌بودن درباره آنچه عامل انجام می‌دهد و داده‌هایی که به آن دسترسی دارد، بخشی از مسئله حریم خصوصی است.

این نگرانی برای کاربران فقط نظری نیست. Allison Johnson از The Verge گفته هنگام انجام یک کار مرتبط، از واردکردن اطلاعات بانکی به درخواست ربات احساس راحتی نداشته است. Muse برای پرداخت از اتصال Stripe استفاده می‌کند، اما وجود یک اتصال تجاری به‌خودی‌خود نگرانی کاربر درباره سپردن اطلاعات مالی را از بین نمی‌برد.

Dots و راهبرد OpenAI برای جلب اعتماد

OpenAI هنگام معرفی Dots در اواخر سپتامبر، بر امکان کنترل رفتار عامل تأکید کرد. Alexander Embiricos، مدیر محصول Codex در OpenAI، گفت شرکت می‌خواهد دستیاری قابل‌اعتماد، ایمن و امن بسازد. Altman نیز نمونه‌هایی از کنترل‌های فردی را نشان داد؛ برای مثال، کاربر می‌تواند قاعده‌ای تعیین کند که عامل هرگز خریدی بالاتر از مبلغ مشخصی انجام ندهد.

Glen Coates، مدیر پلتفرم برنامه‌های OpenAI، در مقایسه با Meta گفت این شرکت در موقعیت متفاوتی قرار دارد، چون Meta محصول هوش مصنوعی با ۱٫۲ میلیارد کاربر ندارد. او افزود OpenAI می‌کوشد از بروز خطاهای مشابه هنگام عرضه جلوگیری کند. شرکت همچنین برای مشتریان تجاری از کنترل‌های قوی‌تر بر داده‌ها و گزینه‌هایی با نگه‌داری صفر داده سخن گفته است؛ یعنی امکان ذخیره‌نکردن داده‌ها روی سرورهای OpenAI.

با این حال، نبود گزارش‌های متعدد از حاشیه‌های حریم خصوصی درباره Dots به‌تنهایی برای قضاوت کافی نیست. این ابزار فقط برای مشترکان ChatGPT در طرح‌هایی با هزینه ۱۰۰ دلار یا بیشتر در دسترس است و در نتیجه احتمالاً شمار کاربرانش از Muse کمتر است. مقایسه تجربه دو محصول باید این تفاوت در دسترسی را نیز در نظر بگیرد.

شرکت Instinct نیز پس از انتقاد عمومی از شرایط استفاده‌ای که بنا بر گزارش‌ها دسترسی بسیار گسترده‌ای به داده‌ها می‌داد، ظاهراً تغییراتی در آن ایجاد کرده است. در مجموع، شرکت‌ها برای فراگیرکردن عامل‌های هوش مصنوعی بر مفیدبودن ابزار، کم‌کردن حس ناآشنایی و وعده حفاظت از حریم خصوصی تکیه می‌کنند؛ اما اعتماد به این وعده‌ها به نحوه اجرای آن‌ها بستگی دارد.

این خبر برای چه کسانی اهمیت دارد

این بحث برای افرادی مهم است که می‌خواهند اطلاعات شخصی، پیام‌ها یا داده‌های مالی خود را در اختیار عامل‌های هوش مصنوعی بگذارند؛ همچنین برای کسب‌وکارهایی که پیش از استفاده از این ابزارها باید سیاست نگه‌داری داده و دسترسی شرکت سازنده را بررسی کنند. تجربه Muse نشان می‌دهد پرسش اصلی فقط این نیست که آیا داده‌ها از کاربران دیگر جدا هستند، بلکه باید روشن باشد خود شرکت چه دسترسی‌ای دارد، ابزار چه کارهایی را از طرف کاربر انجام می‌دهد و امکان کنترل یا محدودکردن آن چگونه تعریف شده است.