صدها پژوهشگر: هوش مصنوعی حمله سایبری فقط در محیط ایزوله آموزش ببیند

هوش مصنوعی سایبری باید فقط در محیط‌های جدا از شبکه آموزش ببیند؛ این پیشنهاد را صدها پژوهشگر هوش مصنوعی مطرح کرده‌اند. گزارش CSO Online که جمعه ۲۴ مهر ۱۴۰۵ منتشر شد، به نگرانی درباره آموزش سامانه‌های هوش مصنوعیِ مرتبط با حملات سایبری و نحوه محدودکردن دسترسی آن‌ها می‌پردازد.

پیشنهاد آموزش روی سیستم‌های ایزوله

به‌گفته پژوهشگران، آموزش این سامانه‌ها باید فقط روی سیستم‌های air-gapped انجام شود. این اصطلاح به رایانه یا زیرساختی اشاره دارد که از شبکه‌های بیرونی جدا نگه داشته می‌شود؛ جداسازی‌ای که می‌تواند راه ارتباط مستقیم با اینترنت یا شبکه‌های دیگر را ببندد.

در اطلاعات منتشرشده، جزئیاتی درباره نام پژوهشگران، سازمان‌های پشتیبان یا شیوه اجرای این پیشنهاد ارائه نشده است. همچنین مشخص نیست توصیه آن‌ها دقیقاً چه دسته‌ای از سامانه‌های هوش مصنوعی را در بر می‌گیرد.

جداسازی زیرساخت به‌عنوان ملاحظه ایمنی

این پیشنهاد، محل و شرایط آموزش را بخشی از بحث ایمنی هوش مصنوعی می‌داند: به‌جای تمرکز صرف بر رفتار یک مدل، به این موضوع نیز توجه می‌کند که سامانه در چه محیطی آموزش داده شود و چه دسترسی‌هایی داشته باشد.

بااین‌حال، از اطلاعات موجود نمی‌توان درباره جزئیات فنی یا پیامدهای عملی این رویکرد نتیجه‌گیری کرد. گزارش فقط اصل توصیه صدها پژوهشگر برای استفاده انحصاری از سیستم‌های جدا از شبکه را بیان می‌کند.

این خبر برای چه کسانی اهمیت دارد

این پیشنهاد برای پژوهشگران ایمنی هوش مصنوعی، گروه‌هایی که سامانه‌های مرتبط با امنیت سایبری را توسعه می‌دهند و مدیران زیرساخت‌های محاسباتی اهمیت دارد؛ زیرا توجه را به محدودکردن دسترسی شبکه در مرحله آموزش جلب می‌کند. جزئیات بیشتر برای ارزیابی دامنه و امکان اجرای توصیه در دسترس نیست.