بازداشت معاون دادستان نیوجرسی به اتهام ساخت تصاویر سوءاستفاده جنسی با هوش مصنوعی

محتوای سوءاستفاده جنسی هوش مصنوعی موضوع پرونده‌ای در نیوجرسی شده است: برایان ریچارد فیتزجرالد، معاون دادستان کل این ایالت، روز پنجشنبه ۲۳ مهر ۱۴۰۵ به اتهام‌های سنگین مرتبط با تولید چنین محتوایی بازداشت شد. به گفته مقام‌های محلی، اتهام‌ها به استفاده از تصاویر کودکان واقعی و انتشار نسخه‌های جنسی‌شده آن‌ها مربوط است؛ پرونده‌ای که بار دیگر مسئله مسئولیت کیفری در برابر تصاویر سوءاستفاده‌گرانه ساخته‌شده با ابزارهای هوش مصنوعی را مطرح می‌کند.

اتهام استفاده از تصاویر کودکان واقعی

کارآگاهان شهرستان باکس در اطلاعیه‌ای اعلام کردند فیتزجرالد در خانه‌اش بازداشت شده است. مقام‌های نیوجرسی این مرد ۵۱ساله را متهم کرده‌اند که با کمک هوش مصنوعی، عکس‌های کودکان واقعی را از شبکه‌های اجتماعی برداشته و به تصاویر جنسی تبدیل کرده است. به گفته مقام‌ها، او سپس این تصاویر را در شبکه‌های اجتماعی منتشر کرده است.

این اتهام‌ها به معنای اثبات جرم نیست و جزئیات بیشتری از روند رسیدگی یا پاسخ فیتزجرالد در خلاصه منتشرشده از گزارش در دسترس نیست. آنچه مقام‌ها اعلام کرده‌اند، استفاده از تصاویر کودکان واقعی به‌عنوان ورودی برای ساخت تصاویر دست‌کاری‌شده و انتشار آن‌هاست.

محتوای سوءاستفاده جنسی هوش مصنوعی و موضع آمریکا

در آمریکا، پلیس و مقام‌های قضایی دست‌کم از سال ۲۰۲۴ وعده داده‌اند با محتوای سوءاستفاده جنسی از کودکان که با هوش مصنوعی تولید می‌شود برخورد کنند. وزارت دادگستری آمریکا در یکی از پرونده‌های اولیه این حوزه، مردی از ایالت ویسکانسین را به انتشار هزاران تصویر واقع‌گرایانه از کودکان پیش از بلوغ در Telegram و Instagram متهم کرد.

پس از آن پرونده، وزارت دادگستری به نیروهای اجرای قانون اعلام کرد که محتوای سوءاستفاده جنسی از کودکان حتی اگر با هوش مصنوعی تولید شده باشد، همچنان در همین دسته قرار می‌گیرد. این موضع، مرز میان تصویر واقعی و تصویر تولیدشده یا دست‌کاری‌شده با ابزارهای هوش مصنوعی را از منظر برخورد قضایی کم‌رنگ می‌کند؛ دست‌کم وقتی محتوای مربوط به سوءاستفاده جنسی از کودکان باشد.

پرونده چه نکته‌ای را برجسته می‌کند؟

پرونده نیوجرسی صرفاً درباره تولید تصویر مصنوعی نیست: طبق اتهام‌های اعلام‌شده، تصاویر اولیه از کودکان واقعی در شبکه‌های اجتماعی گرفته شده و سپس با هوش مصنوعی تغییر یافته‌اند. این موضوع نشان می‌دهد ابزارهای مولد می‌توانند برای دست‌کاری تصاویر موجود نیز به کار گرفته شوند؛ کاربردی که مقام‌های قضایی آن را در چارچوب مقابله با محتوای سوءاستفاده جنسی از کودکان بررسی می‌کنند.

گزارش این پرونده را Ars Technica در جمعه ۲۴ مهر ۱۴۰۵ منتشر کرد. تا زمان انتشار این گزارش، اطلاعات ارائه‌شده درباره اتهام‌ها به اعلام مقام‌های نیوجرسی و اطلاعیه کارآگاهان شهرستان باکس محدود است.

این خبر برای چه کسانی اهمیت دارد

این پرونده برای خانواده‌ها، کاربران شبکه‌های اجتماعی و کسانی که درباره ایمنی هوش مصنوعی و اجرای قانون در این حوزه پیگیری می‌کنند اهمیت دارد. همچنین برای شرکت‌های سازنده ابزارهای هوش مصنوعی یادآور این است که بحث ایمنی فقط به تولید محتوای کاملاً تازه محدود نمی‌شود و دست‌کاری تصاویر واقعی نیز می‌تواند در مرکز یک پرونده کیفری قرار گیرد.