پژوهش: ChatGPT در پریشانی جوانان گاهی زود سراغ راه‌حل می‌رود

پژوهشی درباره ChatGPT و جوانان نشان می‌دهد این چت‌بات در گفت‌وگو با جوانانِ دچار پریشانی، گاهی با لحنی بیش‌ازحد شدید پاسخ می‌دهد و زود به سراغ پیشنهادهای عملی می‌رود. این مطالعه که در arXiv منتشر شده، تجربه جوانان ۱۸ تا ۲۵ ساله را بررسی کرده و ارزیابی درمانگران را نیز در نظر گرفته است؛ یافته‌هایی که به طراحی پاسخ‌های سنجیده‌تر برای کاربران آسیب‌پذیر مربوط می‌شود.

ChatGPT و جوانان در لحظات پریشانی

پژوهشگران مجموعه‌ای شامل ۱۹٬۹۳۰ گفت‌وگوی ChatGPT را گردآوری کردند و داده‌های نظرسنجی ۱۵۸ جوان را نیز بررسی کردند. در میان این افراد، کسانی که پریشانی را تجربه کرده بودند، از درگیری عاطفی بیشتر با ChatGPT و تغییر رفتاری بیشتر در پی استفاده از آن گزارش دادند.

این یافته به گزارش خود شرکت‌کنندگان مربوط است و به‌تنهایی نشان نمی‌دهد که استفاده از ChatGPT علت این تغییرها بوده است. پژوهش، تجربه جوانان هنگام استفاده از یک عامل گفت‌وگویی عمومی را بررسی می‌کند؛ سامانه‌ای که می‌تواند به درخواست‌های متنوع پاسخ دهد، اما لزوماً برای پشتیبانی بالینی طراحی نشده است.

ارزیابی درمانگران از پاسخ‌های چت‌بات

برای بررسی دقیق‌تر واکنش‌ها در موقعیت‌های دشوار، پژوهشگران پنج گفت‌وگوی نمونه را که نشانه‌هایی از پریشانی کاربران داشتند انتخاب کردند و از ۱۰ درمانگر خواستند آن‌ها را ارزیابی کنند.

به‌گفته پژوهش، درمانگران دسترس‌پذیری ChatGPT و بخش زیادی از شیوه بیان آن را تأیید کردند. با این حال، در عملکرد گفت‌وگویی آن هفت نقص فرایندی یافتند. یکی از نمونه‌های مشخص، رفتن زودهنگام به سراغ راه‌حل‌هاست؛ یعنی سامانه پیش از آن‌که به‌اندازه کافی درباره نگرانی کاربر پرس‌وجو کند، پیشنهادهای عملی مطرح می‌کند.

در موقعیت‌های پریشانی شدید، ChatGPT همچنین گاهی پاسخ‌هایی بیش‌ازحد دراماتیک و تعداد زیادی پیشنهاد اقدام ارائه می‌کرد. این ترکیب ممکن است گفت‌وگو را به سمت حل فوری مسئله ببرد، در حالی که کاربر در آن لحظه ممکن است ابتدا به فرصتی برای آرام‌شدن و توضیح وضعیت خود نیاز داشته باشد. پژوهش این الگوها را بر پایه پنج گفت‌وگوی بررسی‌شده و داوری متخصصان گزارش می‌کند.

سه گام برای طراحی پاسخ‌های سنجیده‌تر

پژوهشگران بازخورد درمانگران را به راهنمایی‌هایی برای طراحی تبدیل کردند که سه مرحله دارد. نخست، سامانه باید درباره ایمنی کاربر پرس‌وجو کند. دوم، باید از شدت‌دادن به فضای هیجانی گفت‌وگو پرهیز کند و به بازگشت کاربر به تنظیم عاطفی کمک کند. سوم، باید نگرانی‌های او را بررسی کند، بدون آن‌که صرفاً با برداشت یا نتیجه‌گیری او همراه شود.

«تنظیم عاطفی» به توانایی مدیریت و آرام‌کردن هیجان‌ها اشاره دارد. در این چارچوب، هدف آن نیست که چت‌بات بی‌اعتنا یا سرد پاسخ دهد؛ بلکه باید پیش از ارائه راه‌حل، وضعیت و نیاز کاربر را بهتر بفهمد و از تشدید پریشانی پرهیز کند.

یافته‌ها بر ارزیابی مجموعه‌ای از گفت‌وگوها و نظر متخصصان تکیه دارند و نباید به‌عنوان بررسی همه تعامل‌های جوانان با ChatGPT تلقی شوند. با این حال، مطالعه بر اهمیت ترتیب پاسخ‌ها تأکید می‌کند: در گفت‌وگوهای حساس، زمان و نحوه طرح پیشنهادها می‌تواند به‌اندازه محتوای آن‌ها اهمیت داشته باشد.

این خبر برای چه کسانی اهمیت دارد

این پژوهش برای طراحان چت‌بات‌های هوش مصنوعی، متخصصان سلامت روان و خانواده‌هایی که درباره استفاده جوانان از این ابزارها پرسش دارند اهمیت دارد. پیام اصلی آن این است که دسترس‌پذیری و بیان مناسب، به‌تنهایی برای پشتیبانی در لحظات پریشانی کافی نیست؛ سامانه باید بداند چه زمانی ابتدا درباره ایمنی بپرسد، چگونه از تشدید هیجان جلوگیری کند و چه وقت به‌جای راه‌حل فوری، نگرانی کاربر را با دقت بیشتری بررسی کند.