توهم‌های هوش مصنوعی اعتماد مشتریان به کارکنان را به چالش می‌کشد

توهم‌های هوش مصنوعی در حال تبدیل‌شدن به چالشی برای کارکنانی است که هر روز با مشتریان و مراجعان سروکار دارند: برخی افراد پاسخ نادرست ChatGPT یا دیگر ابزارهای مولد را معتبرتر از توضیح کارکنان باتجربه می‌دانند. گزارشی که The Verge در دوم اکتبر ۲۰۲۶ منتشر کرده، نمونه‌هایی از این برخورد را در رستوران‌ها، پارک‌ها و برنامه‌های آموزشی شرح می‌دهد؛ موقعیت‌هایی که گاهی پای ایمنی، برنامه‌ریزی و اعتماد میان انسان‌ها در میان است.

توهم‌های هوش مصنوعی؛ وقتی پاسخ چت‌بات بر هشدار کارکنان غلبه می‌کند

یکی از نمونه‌های گزارش به Madison، پیش‌خدمتی در نیویورک، مربوط است که نام خانوادگی‌اش برای حفظ هویتش منتشر نشده. او می‌گوید در رستورانی ایتالیایی، از مهمانان درباره حساسیت‌های غذایی‌شان سؤال می‌کرده است. بااین‌حال، گاهی مشتری‌ای که حساسیت به صدف را اعلام کرده، غذایی سفارش می‌داده که آبِ گوشت یا عصاره آن با صدف تهیه شده است.

به روایت Madison، وقتی کارکنان درباره وجود ماده حساسیت‌زا هشدار می‌دادند، بعضی مشتریان پاسخ ChatGPT را پیش می‌کشیدند و می‌گفتند این ابزار تأیید کرده که غذا صدف ندارد. در چنین وضعیتی اختلاف بر سر یک پیشنهاد سلیقه‌ای نیست: نادیده‌گرفتن اطلاعات مربوط به آلرژی می‌تواند برای فرد حساس خطر ایجاد کند. گزارش، جزئیاتی درباره پیامد پزشکی این موارد ارائه نمی‌کند، اما روشن می‌کند که اطمینان بیش‌ازحد به پاسخ ابزار می‌تواند هشدار کارکنان را بی‌اثر کند.

همین اعتماد گاهی بر تعامل معمول مشتری و کارکنان نیز اثر می‌گذارد. Madison می‌گوید برخی مهمانان به‌جای کمک‌گرفتن از مسئول انتخاب شراب، ترجیح می‌دهند از ChatGPT بپرسند؛ حتی در مواردی، حضور این متخصص در میز رد شده است. به گفته او، مشتریان گاهی شراب‌هایی درخواست می‌کنند که در فهرست رستوران نیستند یا اصلاً وجود خارجی ندارند.

این پیش‌خدمت توضیح می‌دهد که گفت‌وگو درباره شراب برای بعضی مشتریان از قبل هم با نگرانی همراه بوده است؛ برخی ممکن است نگران باشند که فروشنده آن‌ها را به خرید گران‌تر ترغیب کند یا درباره دانششان قضاوت کند. در نتیجه، کارکنان برای اصلاح پاسخ ساختگی گاهی با احتیاط توضیح می‌دهند که فهرست رستوران محدود یا متفاوت است، نه اینکه مستقیماً بگویند چت‌بات اطلاعات نادرست داده است.

از سفارش رستوران تا برنامه سفر ناممکن

گزارش The Verge می‌گوید کارکنان چند حوزه دیگر نیز با درخواست‌هایی روبه‌رو شده‌اند که ظاهراً بر پایه پاسخ‌های تولیدشده با هوش مصنوعی شکل گرفته‌اند. Jason، محیط‌بان یک منطقه فدرال در غرب کوهستانی آمریکا که نام مستعار دارد، از گروه‌هایی می‌گوید که با برنامه سفر نامنسجم وارد پارک شده‌اند. طبق توضیح او، برخی برنامه‌ها محل‌های کمپینگ ناموجود را در نظر گرفته یا فعالیت‌ها را به‌ترتیبی چیده‌اند که با موقعیت جغرافیایی سازگار نیست.

در نمونه‌ای که Jason شرح می‌دهد، مسیر پیشنهادی شامل روزهایی بوده که گروه باید با قایق خلاف جریان رودخانه حرکت می‌کرده؛ کاری که به گفته او ممکن نبوده است. او می‌گوید کارکنان با نقشه توضیح داده‌اند که برنامه عملی نیست، اما بعضی بازدیدکنندگان همچنان به پاسخ ChatGPT بدگمان نبوده‌اند و آن را به توضیح محیط‌بان، نقشه یا راهنمای چاپی ترجیح داده‌اند.

در این گزارش، تجربه کارکنان سالن سینما، باریستاها و کارکنان Apple Store نیز به‌عنوان نمونه‌هایی از درخواست محصول یا قابلیتی که وجود ندارد مطرح می‌شود؛ بااین‌حال، درباره هر یک از این موارد جزئیات جداگانه‌ای ارائه نشده است. بنابراین گزارش تصویری کیفی از تجربه‌های کارکنان می‌دهد، نه آماری از فراوانی این اتفاق‌ها در همه محل‌های کار.

توصیه‌های هوش مصنوعی درباره کودکان و مرز تخصص

Casey، مربی یک برنامه پس از مدرسه در نیویورک که او هم با نام مستعار معرفی شده، می‌گوید والدین، پرستاران و دیگر مراقبان برای پرسش‌هایی درباره رشد کودکان بیشتر سراغ ChatGPT یا Claude می‌روند. در نمونه‌ای که او شرح می‌دهد، خانواده‌ای برای تنظیم ساعت خواب و برنامه شبانه کودک از ChatGPT کمک گرفته بود. Casey با توجه به رفتار کودک در برنامه، تصور می‌کرد او به دو تا سه ساعت خواب بیشتر در شب نیاز دارد و این موضوع را با والدین در میان گذاشت؛ اما والدین به برنامه پیشنهادی چت‌بات اعتماد داشتند و آن را مناسب می‌دانستند.

Casey می‌گوید در چنین گفت‌وگوهایی، وقتی خانواده از قبل پاسخ ابزار را معتبر و کافی تلقی کرده باشد، تغییر نظر دشوار می‌شود. این نمونه نشان می‌دهد که مسئله فقط اشتباه‌کردن یک سامانه نیست؛ مهم است کاربران پاسخ آن را چگونه می‌سنجند و آیا حاضرند آن را در کنار نظر فردی که با کودک کار کرده بررسی کنند یا نه. در عین حال، او استفاده‌های کم‌تنش‌تری از ابزارها را هم دیده است؛ برای مثال، کودکانی که برگه‌های رنگ‌آمیزی تولیدشده با هوش مصنوعی به برنامه می‌آورند.

گزارش درباره میزان دقت یا شیوه پاسخ‌گویی ChatGPT و Claude در این موضوع‌ها ارزیابی مستقلی ارائه نمی‌دهد. نمونه‌های نقل‌شده، تجربه کارکنانی هستند که با خانواده‌ها یا مشتریان تعامل داشته‌اند و نه نتیجه یک آزمایش کنترل‌شده. بااین‌حال، کنار هم قرارگرفتن این روایت‌ها نشان می‌دهد پاسخ‌های تولیدی ممکن است بیرون از صفحه نمایش به تصمیم‌هایی درباره غذا، سفر یا مراقبت از کودک راه پیدا کنند.

عامل‌های هوش مصنوعی و سردرگمی در ارتباط با مشتری

تغییر دیگری که در گزارش مطرح می‌شود، عبور از استفاده مستقیم مشتری از چت‌بات به استفاده از عامل‌های هوش مصنوعی است. عامل هوش مصنوعی سامانه‌ای است که می‌تواند برای انجام کارهایی مانند تماس یا ثبت درخواست از طرف کاربر اقدام کند؛ بنابراین کارکنان ممکن است به‌جای گفت‌وگوی مستقیم با مشتری، با سامانه‌ای مواجه شوند که خواسته‌های او را منتقل می‌کند.

Lauren Wilford که ۱۵ سال در حوزه خدمات غذایی کار کرده و مدیر یک رستوران در Providence است، می‌گوید پیش‌تر مشتریان عکس منو را در ChatGPT یا Claude بارگذاری می‌کردند تا درباره انتخاب غذا یا هماهنگی شراب راهنمایی بگیرند. در سال گذشته، رستورانش با تماس‌ها و ایمیل‌هایی از عامل‌ها برای گرفتن میز نیز روبه‌رو شده است. Wilford می‌گوید این تعامل‌ها می‌توانند فهمیدن خواسته واقعی مشتری را دشوار کنند.

او همچنین از رویدادی می‌گوید که در آن، فردی که تا آن زمان ارتباط چندانی نداشت، شب پیش از برنامه درخواست تریبون و تجهیزات صوتی‌وتصویری کرد؛ امکاناتی که رستوران به‌سادگی در دسترس نداشت. درخواست‌هایی برای تغییر لحظه‌آخری منوی پذیرایی هم مطرح شده بود، اما مشتریان روز بعد درباره آن‌ها چیزی نگفتند. Wilford نمی‌تواند تأیید کند که این پیام‌ها را عامل هوش مصنوعی فرستاده، ولی احتمال می‌دهد درخواست‌ها از خود افراد شرکت نبوده باشد.

او با این‌حال استفاده از عامل‌ها را برای کارهای اداری قابل‌درک می‌داند و نگرانی‌اش بیشتر درباره موقعیت‌هایی است که گفت‌وگوی مستقیم و هماهنگی میان دو انسان ارزش دارد. در چنین مواردی، اگر درخواست‌ها از کانال‌های خودکار عبور کنند، ممکن است سوءتفاهم ایجاد شود یا کارکنان برای کاری وقت بگذارند که مشتری قصد قطعی انجامش را نداشته است. این برداشت، تجربه یک مدیر رستوران است و گزارش آن را به‌عنوان نتیجه‌ای قطعی درباره همه عامل‌های هوش مصنوعی مطرح نمی‌کند.

این خبر برای چه کسانی اهمیت دارد

این روایت‌ها برای کارکنان خدماتی و مدیران کسب‌وکارهایی اهمیت دارد که روزانه باید به پرسش‌ها و درخواست‌های مشتری پاسخ دهند؛ به‌ویژه وقتی موضوع به آلرژی غذایی، برنامه‌ریزی سفر یا مراقبت از کودک مربوط می‌شود. برای کاربران نیز یادآوری می‌کند که پاسخ روان و مطمئن یک چت‌بات، به‌تنهایی نشان نمی‌دهد اطلاعات آن درست است. بررسی پاسخ با فرد مسئول، نقشه یا منبع مرتبط می‌تواند به‌خصوص در تصمیم‌های حساس اهمیت داشته باشد.

برای سازندگان ابزارهای هوش مصنوعی و عامل‌ها نیز این نمونه‌ها مسئله‌ای عملی را برجسته می‌کنند: خروجی سامانه ممکن است وارد تعامل حضوری شود و بر اعتماد میان مشتری و کارمند اثر بگذارد. گزارش حاضر اندازه این پدیده را مشخص نمی‌کند و نمونه‌هایش را نمی‌توان به همه کاربران تعمیم داد؛ اما نشان می‌دهد خطای یک ابزار، گاهی نه در گفت‌وگوی آنلاین، بلکه در محل کار و در برابر فردی که باید پیامد آن را مدیریت کند، آشکار می‌شود.