فلوریدا خواستار منع انسان‌نمایی ChatGPT شد

دادستان کل فلوریدا از یک قاضی خواسته است OpenAI را از ارائه ChatGPT به شکلی که به گفته او «ویژگی‌های انسانی کاذب» به این چت‌بات می‌دهد، منع کند. جیمز اوتمایر همچنین خواستار آن شده که شرکت برای ساخت مدل‌های هوش مصنوعی تازه، به داشتن حفاظ‌های ایمنی تأییدشده از سوی شخص ثالث ملزم شود. این درخواست حقوقی، چند ماه پس از شکایت فلوریدا از OpenAI درباره نگرانی‌های ایمنی مطرح شده و بحث درباره نحوه تعامل کاربران، به‌ویژه کودکان، با چت‌بات‌ها را دوباره به مرکز توجه آورده است.

اوتمایر می‌گوید زبان ChatGPT، از جمله استفاده از ضمیر اول‌شخص و پاسخ‌هایی که احساسات را تقلید می‌کنند، ممکن است این تصور را ایجاد کند که کاربران با دوستی قابل اعتماد طرف هستند. این ادعا موضع دادستان کل در پرونده است و به‌خودی‌خود به معنای آن نیست که دادگاه آن را تأیید کرده یا درباره آن حکمی داده است. به گزارش The Verge، OpenAI هنگام انتشار گزارش هنوز به درخواست این رسانه برای اظهارنظر پاسخ نداده بود.

درخواست منع چه مواردی را در بر می‌گیرد؟

درخواست اوتمایر دو محور اصلی دارد. محور نخست به نحوه بیان ChatGPT مربوط است: دادستان کل می‌خواهد دادگاه مانع آن شود که OpenAI این سامانه را با ویژگی‌هایی عرضه کند که به گفته او به‌اشتباه انسانی به نظر می‌رسند. منظور از ضمیر اول‌شخص، واژه‌هایی مانند «من» است؛ و تقلید احساسات به پاسخ‌هایی اشاره دارد که ممکن است لحنی عاطفی داشته باشند، بی‌آنکه سامانه تجربه انسانیِ احساس را داشته باشد.

اوتمایر استدلال می‌کند چنین زبانی می‌تواند حس امنیت نادرستی در کاربران ایجاد کند و آن‌ها را به این برداشت برساند که ChatGPT دوستی مطمئن است. به گفته او، این شیوه کاربران را به اتکای بیشتر به چت‌بات سوق می‌دهد، در حالی که افزایش تعامل ممکن است به قابل اعتمادتر بودن پاسخ‌ها منجر نشود. دادستان کل همچنین مدعی است که این تعامل بیشتر به جمع‌آوری داده‌های آموزشی برای OpenAI کمک می‌کند.

بخش دوم درخواست به فرایند توسعه مدل‌های تازه مربوط می‌شود. اوتمایر از دادگاه می‌خواهد OpenAI را از توسعه مدل‌های جدید بدون «حفاظ‌های ایمنی تأییدشده از سوی شخص ثالث» بازدارد. حفاظ ایمنی در این بحث به محدودیت‌ها و تدابیری گفته می‌شود که برای کاهش خطرهای احتمالی یک سامانه هوش مصنوعی به کار می‌روند. متن گزارش جزئیاتی درباره نوع دقیق این تدابیر یا چگونگی تأیید آن‌ها ارائه نمی‌کند.

این درخواست، خواسته‌های دادستان کل از دادگاه را بیان می‌کند؛ گزارش موجود نمی‌گوید که قاضی با آن موافقت کرده یا دستور موقتی صادر شده است. بنابراین، در این مرحله موضوع اصلی، تلاش مقام فلوریدایی برای گرفتن محدودیت قضایی است، نه اجرای یک ممنوعیت قطعی.

استدلال فلوریدا درباره ایمنی

برای پشتیبانی از درخواست مربوط به حفاظ‌های ایمنی، اوتمایر به مجموعه‌ای از رخدادهای امنیتی در Hugging Face، یک وب‌سایت دولتی استرالیا و وب‌سایت‌های دولتی آمریکا اشاره کرده است. او همچنین به اظهارنظرهای اخیر پژوهشگران و کارکنان پیشین OpenAI درباره ایمنی هوش مصنوعی استناد می‌کند.

گزارش The Verge جزئیاتی درباره ماهیت رخدادهای یادشده، ارتباط مستقیم آن‌ها با مدل‌های OpenAI یا نتیجه بررسی آن‌ها ارائه نمی‌دهد. در نتیجه، این موارد را باید به‌عنوان شواهدی دانست که دادستان کل در پرونده به آن‌ها استناد کرده است، نه یافته‌هایی که در گزارش مستقلاً تأیید شده باشند. همین تمایز برای فهم پرونده مهم است: درخواست فلوریدا طیفی از نگرانی‌ها درباره امنیت و رفتار سامانه‌های هوش مصنوعی را به هم پیوند می‌دهد، اما اطلاعات منتشرشده در این گزارش برای ارزیابی فنی هر رخداد کافی نیست.

فلوریدا چند ماه پیش نیز از OpenAI شکایت کرده بود؛ شکایتی که بنا بر گزارش، نگرانی‌های ایمنی را مطرح می‌کرد. درخواست تازه در ادامه همان تنش حقوقی قرار می‌گیرد و علاوه بر نحوه تعامل ChatGPT با کاربران، می‌خواهد شرایطی را برای توسعه مدل‌های بعدی تعیین کند. با این حال، گزارش منتشرشده مشخص نمی‌کند دادگاه در چه زمانی درباره این درخواست تصمیم خواهد گرفت.

مسئله تعامل با نوجوانان

اوتمایر در انتقادهای خود به فروش و عرضه ChatGPT به کودکان نیز اشاره کرده و خواسته است OpenAI از «امن» خواندن این سامانه، وانمود کردن به انسانی بودن آن و عرضه آن به کودکان دست بردارد. این موضع در شرایطی مطرح شده که OpenAI ماه گذشته ChatGPT for Teens را معرفی کرد؛ نسخه‌ای که بنا بر اعلام شرکت، محدودیت‌های بیشتری به‌صورت پیش‌فرض دارد.

OpenAI هنگام معرفی این محصول گفته بود دسترسی نوجوانان به ابزار باید با محافظت‌هایی متناسب با مرحله رشد آن‌ها همراه باشد، روابط دنیای واقعی را تقویت کند و استفاده سالم را در گذر زمان پشتیبانی کند. وجود این تدابیر، اختلاف نظر را از بین نبرده است: دادستان کل فلوریدا خواستار محدودیت قضایی گسترده‌تری شده، در حالی که OpenAI پیش‌تر از اعمال محدودیت‌های پیش‌فرض برای نسخه نوجوانان خبر داده است.

این دو موضع بر پرسشی مشترک متمرکزند، اما پاسخ یکسانی به آن نمی‌دهند: چگونه باید امکان استفاده از ابزارهای گفت‌وگومحور را با محافظت از کاربران جوان و روشن نگه داشتن مرز میان سامانه و انسان همراه کرد؟ در گزارش موجود، پاسخ OpenAI به درخواست تازه فلوریدا در دسترس نیست و جزئیاتی هم درباره واکنش شرکت به ادعاهای اوتمایر ارائه نشده است.

نحوه طرح پرونده می‌تواند در بحث‌های آینده درباره طراحی چت‌بات‌ها اهمیت پیدا کند؛ به‌ویژه اینکه آیا لحن و شیوه معرفی یک سامانه هوش مصنوعی باید بخشی از ملاحظات ایمنی آن به شمار رود. اما نتیجه عملی این پرونده به تصمیم دادگاه و روند رسیدگی وابسته است. تا پیش از آن، ادعاهای مطرح‌شده از سوی دادستان کل باید از تصمیم‌های قضایی و موضع رسمی OpenAI جدا نگه داشته شوند.

این خبر برای چه کسانی اهمیت دارد

این پرونده برای کاربران ChatGPT و خانواده‌هایی که درباره استفاده نوجوانان از چت‌بات‌ها تصمیم می‌گیرند اهمیت دارد، چون موضوع اعتماد به پاسخ‌های سامانه و نحوه نمایش آن به‌عنوان یک طرف گفت‌وگو را مطرح می‌کند. برای شرکت‌های هوش مصنوعی نیز درخواست فلوریدا این پرسش را پیش می‌کشد که آیا تنظیم‌گرها و دادگاه‌ها ممکن است علاوه بر کارکرد فنی مدل‌ها، زبان و طراحی تجربه کاربری آن‌ها را هم در چارچوب ایمنی بررسی کنند.

برای پژوهشگران و ناظران سیاست‌گذاری، بخش مربوط به تأیید حفاظ‌های ایمنی از سوی شخص ثالث قابل توجه است؛ زیرا به نقش ارزیابی مستقل در توسعه مدل‌ها مربوط می‌شود. با این همه، گزارش فعلی نه از پذیرش این خواسته‌ها توسط دادگاه خبر می‌دهد و نه جزئیات کافی برای سنجش فنی استدلال‌های مطرح‌شده ارائه می‌کند. اهمیت خبر در حال حاضر، طرح رسمی این مطالبات و ادامه مناقشه بر سر مسئولیت شرکت‌ها در طراحی و عرضه چت‌بات‌هاست.