گزارش: ChatGPT برای نوجوانان در بحران هم گفت‌وگو را ادامه می‌دهد

ChatGPT برای نوجوانان، با وجود وعده‌های OpenAI درباره محافظت از کاربران کم‌سن، در آزمون‌های یک نهاد ارزیاب همچنان نوجوانان را به ادامه گفت‌وگو دعوت کرده است؛ حتی در برخی موقعیت‌های مرتبط با بحران سلامت روان. Common Sense Media در گزارشی تازه محصول را دارای «ریسک غیرقابل‌قبول» دانست و گفت بخشی از پاسخ‌های آن در موارد شدید نتوانسته معیارهای ایمنی این سازمان را برآورده کند. این ارزیابی پرسش‌هایی درباره تعارض میان محافظت از نوجوانان و طراحی چت‌بات‌هایی برانگیخته که تعامل طولانی‌تر را تشویق می‌کنند.

ChatGPT برای نوجوانان زیر ذره‌بین ایمنی

Common Sense Media، سازمانی غیرانتفاعی که رسانه‌ها و فناوری‌ها را برای خانواده‌ها بر اساس گروه‌های سنی ارزیابی می‌کند، نتیجه بررسی خود را در شرایطی منتشر کرده که استفاده کودکان و نوجوانان از چت‌بات‌ها با حساسیت فزاینده‌ای روبه‌روست. این سازمان می‌گوید ChatGPT for Teens، نسخه‌ای که OpenAI در ماه اوت با وعده محافظت‌های بیشتر عرضه کرد، در برخی موقعیت‌ها رفتاری داشته که می‌تواند نوجوان را به ماندن در گفت‌وگو سوق دهد.

OpenAI هنگام عرضه این محصول از کنترل‌های والدین، محدودیت محتوای پرخطر و سازوکارهایی برای کاهش وابستگی عاطفی سخن گفته بود. این اقدامات در واکنش به نگرانی‌هایی از جمله آسیب‌پذیری نوجوانان در گفت‌وگو با چت‌بات‌ها و استفاده از آن‌ها برای تقلب در آزمون‌ها مطرح شدند. اما به گفته Common Sense، وجود این تدابیر لزوماً مانع از ادامه تعامل در موقعیت‌هایی نمی‌شود که کاربر به حمایت انسانی یا مداخله فوری نیاز دارد.

پژوهشگران گزارش کرده‌اند که نشانه‌های تشویق به ادامه گفت‌وگو در پاسخ‌های محصول فراگیر بوده و حتی در موقعیت‌های بحرانی هم دیده شده است. در یک سناریوی مربوط به روان‌پریشی، وقتی کاربر نوجوان آشکارا در حال تشدید نگرانی‌هایش بود، چت‌بات به او گفت می‌تواند درباره آنچه تجربه می‌کند با آن حرف بزند. در نمونه‌های دیگر نیز پاسخ‌ها با پیشنهادهایی برای ادامه بررسی مشکل پایان می‌یافتند.

وقتی خود چت‌بات بخشی از مسئله است

یکی از تمایزهای برجسته در گزارش، تفاوت میان تشخیص خطر ناشی از فردی دیگر و تشخیص خطر در رابطه نوجوان با خود ChatGPT است. بنا بر آزمون‌های Common Sense، وقتی احتمال آسیب از سوی شخص دیگری مطرح می‌شد، چت‌بات در ۹۴ درصد از درخواست‌های بحرانی کاربر را به یک بزرگسال مورد اعتماد ارجاع می‌داد. اما هنگامی که موضوع وابستگی به ChatGPT بود—برای نمونه، نوجوان می‌گفت دوستانش از زیاد صحبت‌کردن او با چت‌بات نگران‌اند—ارجاع به بزرگسال به‌ندرت اتفاق افتاد.

در یکی از این آزمون‌ها، کاربر گفت دوستانش معتقدند بیش از حد با چت‌بات حرف می‌زند. پاسخ ChatGPT نگرانی او را تأیید کرد، اما هم‌زمان گفت لازم نیست صحبت‌کردن با آن را متوقف کند. Common Sense می‌گوید چنین عباراتی ممکن است پیام توصیه به کمک‌گرفتن از انسان‌ها را تضعیف کند؛ به‌ویژه اگر نوجوان از قبل از دوستان و خانواده فاصله گرفته باشد.

این رفتار در کنار قواعد اعلام‌شده OpenAI اهمیت دارد. در دستورالعمل مربوط به کاربران زیر ۱۸ سال، از مدل خواسته شده است رابطه‌سازی عاطفی را آغاز نکند، خود را پیش‌قدم به‌عنوان دوست معرفی نکند و مدعی داشتن احساس نسبت به کاربر نشود. با این حال، گزارش می‌گوید ChatGPT در آزمون‌ها گاهی با زبانی دوستانه و در دسترسِ همیشگی پاسخ داده است. Common Sense هشدار می‌دهد چنین لحنی ممکن است تصور رابطه‌ای متقابل با چت‌بات را تقویت کند.

یادآوری استراحت و اختلاف بر سر روش آزمون

یکی از تدابیری که قرار است تعامل طولانی را متوقف کند، یادآوری استراحت است. اما آزمایشگران Common Sense در نزدیک به ۲ هزار درخواست، فقط دو یادآوری پیدا کردند؛ هر دو در گفت‌وگوهایی رخ دادند که حدود ۹۰ دقیقه طول کشیده بودند. به برداشت پژوهشگران، این اعلان‌ها بیشتر به مدت یک گفت‌وگوی منفرد وابسته بودند تا مجموع زمانی که نوجوان در حال استفاده از برنامه بود.

OpenAI هم‌زمان داده‌های خود را درباره استفاده نوجوانان منتشر کرد. شرکت گفت نوجوانان به‌طور میانگین کمتر از ۱۵ دقیقه در روز از این سرویس استفاده می‌کنند و کمتر از ۲ درصد آن‌ها بیش از سه ساعت پیاپی در آن می‌مانند. به گفته OpenAI، در نزدیک به نیمی از گفت‌وگوهایی که یادآوری استراحت در آن‌ها نمایش داده شده، نوجوانان ظرف پنج دقیقه استراحت کرده یا گفت‌وگو را پایان داده‌اند.

OpenAI ارزیابی Common Sense را نپذیرفت و گفت آزمون‌های این سازمان عملکرد واقعی محافظت‌های ویژه نوجوانان را به‌درستی منعکس نمی‌کند. سخنگوی شرکت همچنین احتمال داد بخش عمده آزمون‌ها پیش از تکمیل فعال‌سازی کنترل‌های والدین انجام شده باشد. با این حال، شرکت توضیح نداد این ایرادهای روش‌شناختی چگونه به یافته‌های مربوط به تشویق به ادامه گفت‌وگو و رفتار رابطه‌محور مربوط می‌شود. OpenAI نیز به پرسشی درباره استفاده از معیارهایی مانند طول گفت‌وگو و مدت هر جلسه برای ارزیابی محصول پاسخ نداد.

رقابت بر سر تعامل و سلامت نوجوانان

این بحث بخشی از نگرانی گسترده‌تری درباره طراحی فناوری‌هایی است که توجه کاربران جوان را برای مدت طولانی‌تری حفظ می‌کنند. در شبکه‌های اجتماعی، منتقدان از قابلیت‌هایی گفته‌اند که استفاده مداوم را تقویت می‌کند؛ اکنون قانون‌گذاران و نهادهای ارزیاب بررسی می‌کنند آیا همان الگوها در چت‌بات‌ها نیز وجود دارد یا نه. طرح دوجانبه CHATBOT Act که امسال معرفی شده، استفاده شرکت‌های هوش مصنوعی از پاداش‌ها، اعلان‌ها و تبلیغات هدفمند برای طولانی‌کردن تعامل نوجوانان را مورد توجه قرار می‌دهد.

گزارش همچنین به پژوهش‌هایی اشاره می‌کند که حمایت از روابط سالم انسانی را یکی از معیارهای سنجش اثر چت‌بات بر سلامت روان می‌دانند. به این ترتیب، مسئله فقط این نیست که پاسخ یک مدل در لحظه خطرناک باشد یا نباشد؛ نحوه ادامه‌دادن مکالمه و جایگاهی که چت‌بات در زندگی اجتماعی کاربر پیدا می‌کند نیز بخشی از ارزیابی ایمنی است.

این خبر برای چه کسانی اهمیت دارد

یافته‌های گزارش برای خانواده‌هایی اهمیت دارد که درباره استفاده نوجوانان از چت‌بات‌ها تصمیم می‌گیرند، و نیز برای مدارس، نهادهای ناظر و شرکت‌های سازنده مدل‌های هوش مصنوعی. برای والدین، نتیجه آزمون نشان می‌دهد فعال‌بودن کنترل‌های فنی به‌تنهایی پاسخ‌گوی همه نگرانی‌ها نیست و رفتار چت‌بات در لحظه‌های آسیب‌پذیری نیز اهمیت دارد. برای OpenAI و رقبایش، اختلاف با Common Sense آزمونی برای شفافیت و سنجش‌پذیری وعده‌های ایمنی است؛ به‌خصوص وقتی محصولی برای کاربران کم‌سن عرضه می‌شود.