OpenAI از خنثی‌سازی عملیات نفوذ مرتبط با ایران و روسیه خبر داد

عملیات نفوذ هوش مصنوعی مرتبط با ایران و روسیه، به گفته OpenAI، با استفاده از ChatGPT و روش‌های سنتی برای تولید و پخش پیام‌های سیاسی فعالیت می‌کردند؛ این شرکت اعلام کرده است که هر دو کارزار را مسدود کرده است. گزارش OpenAI که پنجشنبه ۱۶ مهر ۱۴۰۵ منتشر شد، توجه را به شیوه‌ای جلب می‌کند که در آن ابزارهای هوش مصنوعی به شبکه‌های پنهان و هویت‌های ساختگی کمک می‌کنند تا پیام‌هایشان را به رسانه‌ها و مخاطبان واقعی برسانند.

دو کارزار با هویت‌های ساختگی

طبق گزارش OpenAI، عملیات منتسب به ایران و روسیه از مجموعه‌ای از شخصیت‌ها و نهادهای ظاهراً معتبر استفاده می‌کردند تا پیام‌های سیاسی و مرتبط با منازعات را به مخاطبان هدف منتقل کنند. در این روش، محتوا صرفاً در حساب‌های ناشناس شبکه‌های اجتماعی منتشر نمی‌شود؛ گردانندگان می‌کوشند نوشته‌ها را به‌عنوان مقاله، گزارش یا فعالیت یک نهاد پژوهشی جا بزنند.

عملیات منتسب به ایران هفت شخصیت با عنوان «روزنامه‌نگار» داشت که مقاله‌های بلند را به رسانه‌های آنلاین کوچک و متوسط در نقاط مختلف جهان پیشنهاد می‌کردند. این کارزار همچنین مجموعه‌هایی از نظرهای شبکه‌های اجتماعی تولید می‌کرد که به‌طور عمده درباره جنگ آمریکا و ایران بود.

در سوی دیگر، عملیات منتسب به روسیه ظاهراً افرادی ناآگاه در آمریکای لاتین را برای اداره یک «اندیشکده» به کار گرفته بود. این گروه اسناد جعلی با عنوان «افشاشده» و متن‌هایی برای فایل‌های صوتی نیز ساخت؛ OpenAI می‌گوید نمونه‌هایی از این موارد را در حال انتشار آنلاین شناسایی کرده است.

عملیات Dark Clark و کارکرد ChatGPT

OpenAI نام «Dark Clark» را برای عملیات روسیه انتخاب کرده است. این شرکت می‌گوید مجموعه‌ای از حساب‌های ChatGPT با مبدأ روسیه را مسدود کرد که برای فعالیت‌هایی مرتبط با کارزارهای پنهان در کشورهای آمریکای لاتین به کار می‌رفتند. بخش عمده این فعالیت‌ها ظاهراً با هدف تضعیف وجهه اوکراین در منطقه انجام می‌شد؛ بخشی دیگر نیز به اثرگذاری بر سیاست داخلی، به‌ویژه در آرژانتین و بولیوی، مربوط بود.

به گفته OpenAI، کاربران این شبکه بیشتر به زبان روسی درخواست می‌نوشتند؛ یک کاربر به اسپانیایی کار می‌کرد، اما این شرکت او را نیز مرتبط با روسیه ارزیابی کرد. از آنجا که دسترسی به خدمات OpenAI از روسیه مجاز نیست، کاربران برای اتصال از VPN استفاده می‌کردند. OpenAI اعلام کرده است اطلاعات این پرونده را با مقام‌های مربوط به اشتراک گذاشته است.

استفاده اصلی این گروه از ChatGPT، نوشتن و به‌روزرسانی گزارش‌های داخلی برای مافوقی نامشخص بود. این گزارش‌ها درباره تلاش برای تخریب وجهه اوکراین، اثرگذاری بر سیاست داخلی برخی کشورها و اداره «مرکز پژوهش اجتماعی» در آمریکای لاتین نوشته می‌شدند. OpenAI می‌گوید بخشی از فعالیت‌های مرکز به شخصیتی جعلی به نام «Mia Clark» نسبت داده می‌شد و گزارش‌های داخلی درباره تصمیم‌هایی مانند استخدام، اخراج و تعیین دستمزد، ظاهراً از کنترل گردانندگان روس بر این نهاد حکایت داشت.

از گزارش‌های داخلی تا محتوای رسانه‌ای

بر اساس گزارش OpenAI، کارکنان محلی مرکز پژوهش اجتماعی ظاهراً نمی‌دانستند که برای یک گروه روسی کار می‌کنند. این شرکت می‌گوید برخلاف برخی نمونه‌های دیگر، بخش عمده محتوای این مرکز را کارکنان محلی تولید کرده بودند؛ موضوعی که آن را پیچیده‌ترین تلاش برای اداره یک هویت پوششی در میان عملیات مختل‌شده طی دو سال‌ونیم گذشته توصیف می‌کند.

اپراتورها در گزارش‌های داخلی خود مدعی شده بودند که خبرهای جعلی برای تضعیف اوکراین یا رهبران منطقه منتشر کرده‌اند. OpenAI به نمونه‌هایی درباره آرژانتین اشاره می‌کند: گردانندگان گفته بودند در سال ۲۰۲۴ گزارشی دروغین درباره خرید قلاده‌های جواهرنشان Cartier برای سگ‌های رئیس‌جمهور این کشور پخش کرده‌اند و برای نوشتن شعارهای ضد او در بوئنوس‌آیرس به افراد محلی پول داده‌اند. به گفته این شرکت، این ادعاها در اسناد افشاشده‌ای مطرح شده‌اند که فعالیت‌هایی را به گروه‌هایی با نام‌های «Politology» و «La Compania» نسبت می‌دهند؛ OpenAI در گزارش خود آن‌ها را ادعاهای اپراتورها معرفی می‌کند، نه واقعیت‌هایی که مستقلاً تأیید شده باشند.

در نمونه‌ای دیگر، گردانندگان مدعی شدند در اردیبهشت ۱۴۰۵ ایمیلی جعلی به نام اداره منطقه‌ای آموزش در لیما فرستاده‌اند و از مدرسه‌ها خواسته‌اند برای روز ملی تنوع فرهنگی و زبانی مراسمی درباره اوکراین برگزار کنند. به گفته اپراتورها، برخی مدارس پاسخ داده و عکس فرستاده بودند. آن‌ها سپس مدعی شدند روایت‌هایی درباره این رویدادها به رسانه‌هایی در پرو، لهستان و مجارستان رسیده است. OpenAI می‌گوید جست‌وجوهای منابع عمومی گزارش‌هایی هم‌خوان با این ادعاها یافته‌اند، هرچند برخی مقاله‌ها بعداً حذف شده‌اند.

در رویدادی دیگر در ژوئن ۲۰۲۶، اپراتورها ادعا کردند با ایمیلی جعلی مدرسه‌هایی در اکوادور را به برگزاری مراسمی برای اعلام وفاداری به رئیس‌جمهور این کشور و Erik Prince ترغیب کرده‌اند. OpenAI می‌گوید رسانه‌های اکوادوری به ماجرا پرداختند و وزیر آموزش این کشور نیز پاسخی تفصیلی منتشر کرد. این موارد نشان می‌دهند که کارزارها، بنا بر ادعاهای ثبت‌شده در گزارش‌های داخلی و شواهدی که OpenAI بررسی کرده، فقط به انتشار پست در شبکه‌های اجتماعی محدود نبودند.

دامنه نفوذ و نقش افشای عمومی

OpenAI عملیات نفوذ را با مقیاسی شش‌درجه‌ای ارزیابی می‌کند. این شرکت عملیات روسیه را در سطح ۵ قرار داده است؛ بالاترین امتیازی که از آغاز انتشار گزارش‌های خود درباره این پرونده‌ها اعلام کرده است. عملیات ایران در سطح ۴ ارزیابی شد. طبق گزارش، هر دو کارزار توانستند بخشی از محتوای خود را به رسانه‌های جریان اصلی برسانند؛ دستاوردی که می‌تواند دامنه مخاطبان را از انتشار مستقیم در شبکه‌های اجتماعی فراتر ببرد.

OpenAI می‌گوید در دو سال‌ونیم گذشته ۳۰ عملیات نفوذ پنهان را افشا کرده است. به ارزیابی این شرکت، عملیات‌هایی که انتشار در رسانه‌های واقعی را هدف می‌گیرند، معمولاً ظرفیت دسترسی و اثرگذاری بیشتری از کارزارهایی دارند که تنها به شبکه‌های اجتماعی جعلی متکی‌اند. هوش مصنوعی نیز می‌تواند مقیاس، سرعت، روانی زبانی و توان ویرایش این فعالیت‌ها را افزایش دهد و فریب کارکنان یا سردبیران ناآگاه را آسان‌تر کند.

با این حال، OpenAI تأکید می‌کند که این عملیات‌ها ادامه روش‌های قدیمی نفوذ با ابزارهای تازه‌اند، نه پدیده‌هایی کاملاً جدا از گذشته. به گفته این شرکت، افشای عمومی می‌تواند به پژوهشگران و نهادها برای شناسایی و مختل‌کردن چنین شبکه‌هایی کمک کند؛ نمونه‌های تاریخی «Alice Donovan» و «PeaceData» نیز پس از افشا فعالیت خود را متوقف کردند.

این خبر برای چه کسانی اهمیت دارد

این گزارش برای رسانه‌ها، پژوهشگران اطلاعات نادرست، نهادهای دولتی و شرکت‌های فناوری اهمیت دارد؛ به‌ویژه برای کسانی که باید میان محتوای ظاهراً حرفه‌ای و هویت واقعی منتشرکننده تمایز بگذارند. برای تحریریه‌ها، پیام عملی آن این است که روانی متن یا ظاهر یک نهاد پژوهشی به‌تنهایی نشانه اعتبار نیست و بررسی منشأ محتوا و وابستگی‌های پشت آن اهمیت دارد. برای شرکت‌های هوش مصنوعی نیز پرونده نشان می‌دهد پایش سوءاستفاده فقط به درخواست‌های تولید محتوا محدود نمی‌شود و کاربردهایی مانند گزارش‌نویسی و هماهنگی عملیات هم می‌توانند بخشی از الگوی فعالیت باشند.