عامل‌های هوش مصنوعی؛ چالش تازه، تشخیص زمان مناسب برای پیام

عامل‌های هوش مصنوعی در حال عبور از الگوی «پرسش کاربر و پاسخ سامانه» هستند: Meta، OpenAI و Uber در نمونه‌های تازه‌ای از محصولات خود، قابلیت‌هایی را معرفی کرده‌اند که می‌توانند بی‌درخواست مستقیم کاربر پیام بدهند یا پیشنهاد مطرح کنند. این تغییر، مسئله‌ای فراتر از توانایی نوشتن پاسخ ایجاد می‌کند؛ عامل باید تشخیص دهد چه چیزی را چه زمانی، از کدام کانال و با چه سطحی از فوریت به کاربر بگوید. اگر این تصمیم درست نباشد، حتی پیام مفید هم می‌تواند به وقفه‌ای آزاردهنده تبدیل شود.

عامل‌های هوش مصنوعی از پاسخ‌گویی به آغاز گفت‌وگو می‌رسند

چت‌بات‌های متعارف معمولاً منتظر می‌مانند تا کاربر وارد گفت‌وگو شود، پرسشی بپرسد یا کاری را درخواست کند. در این الگو، کاربر زمان تعامل، کانال ارتباطی و موضوع را انتخاب می‌کند. عامل‌های پیش‌دستانه این رابطه را تغییر می‌دهند: خودشان مراقب رویدادها می‌مانند و وقتی احتمال می‌دهند اقدامی لازم است، سراغ کاربر می‌روند.

طبق توضیح منبع درباره محصولات تازه، Meta در ۸ سپتامبر از Muse پرده برداشت؛ عاملی شخصی که می‌تواند کارهایی مانند رزروکردن و فرستادن ایمیل انجام دهد و حتی پس از بسته‌شدن برنامه به کار ادامه دهد. Muse اطلاعاتی را به خاطر می‌سپارد، پیشنهادهایی را بدون درخواست قبلی مطرح می‌کند و برای تأیید کاربر پیگیری می‌کند. این تعامل هم در برنامه اختصاصی Muse و هم در WhatsApp انجام می‌شود.

OpenAI نیز در ۲۹ سپتامبر Dots را معرفی کرد؛ عامل‌هایی همیشه‌فعال که قابلیت «پژوهش پیش‌دستانه» دارند. بر اساس گزارش منبع، این قابلیت برنامه‌های کاربر را به‌شکل فقط‌خواندنی زیر نظر می‌گیرد تا مواردی مانند فاکتور فراموش‌شده یا یک ایراد در Slack را پیدا کند. Dots می‌تواند از راه ChatGPT، Slack و Teams با کاربر ارتباط بگیرد و پشتیبانی از متن و صدا نیز برای آن مطرح شده است.

نمونه سوم به Uber مربوط است. دستیار راننده این شرکت، نشانه‌های زنده بازار را به توصیه‌هایی برای رانندگان تبدیل می‌کند. تیم محصول Uber در یک سخنرانی، از راننده‌ای گفت که پس از ۳۳ دقیقه بی‌کاری، برای رفتن به منطقه‌ای بهتر راهنمایی شده و شواهدی نیز برای این پیشنهاد دریافت کرده است. به گفته منبع، اصول اعلام‌شده برای این دستیار شامل حمایت از راننده، نمایش پیش‌دستانه فرصت‌ها و سنجش این است که رانندگان پس از دریافت توصیه چه می‌کنند. نسخه صوتی بدون نیاز به دست‌گرفتن تلفن نیز در ۲۴ سپتامبر اعلام شده است.

ارزش پیام باید از هزینه وقفه بیشتر باشد

پیام‌دادن در لحظه مناسب می‌تواند اقدامی به‌موقع را ممکن کند؛ اما ارسال مکرر اعلان، احتمال بی‌اعتنایی یا خاموش‌کردن آن‌ها را بالا می‌برد. از سوی دیگر، تأخیر ممکن است باعث شود فرصت از بین برود یا موعد پرداخت فاکتور بگذرد. انتخاب کانال نامناسب هم می‌تواند اثر پیامی را که محتوای درستی دارد کاهش دهد.

نویسنده منبع استدلال می‌کند که مدل زبانی بزرگ (LLM) می‌تواند متن پیام را بنویسد، اما لزوماً ابزار مناسبی برای تصمیم‌گیری درباره اصل ارسال آن نیست. به بیان دیگر، تولید زبانی و تصمیم‌گیری درباره مداخله، دو مسئله جدا هستند: یکی می‌سنجد چگونه چیزی گفته شود و دیگری تعیین می‌کند آیا اصلاً باید چیزی گفته شود یا نه.

قاعده پیشنهادی این است که ارزش مورد انتظار پیام برای کاربر از هزینه مزاحمت بیشتر باشد. این ارزش را می‌توان با چند عامل سنجید: اهمیت موضوع، احتمال این‌که کاربر بر اساس پیام اقدامی انجام دهد، مدت باقی‌مانده تا از دست‌رفتن فرصت و این‌که منفعت نهایی نصیب کاربر می‌شود یا پلتفرم. بنابراین، یک اعلان صرفاً به این دلیل که از نظر فنی قابل ارسال است، ضرورتاً ارزش ارسال ندارد.

همین ارزیابی می‌تواند هم زمان ارسال را مشخص کند و هم شدت مداخله را. پیام مهمی که فرصت آن رو به پایان است ممکن است همان لحظه ارسال شود؛ موضوع کم‌اهمیت‌تر می‌تواند تا زمان تهیه یک خلاصه روزانه یا دوره‌ای به تعویق بیفتد و برخی پیام‌ها نیز کنار گذاشته شوند. منبع همچنین پیشنهاد می‌کند هرچه ارزش پیام بیشتر باشد، استفاده از کانال مزاحم‌تری مانند تماس صوتی توجیه‌پذیرتر خواهد بود.

مدل‌های پیش‌بینی برای زمان و کانال

این تصمیم‌ها به‌گفته منبع، کاملاً بی‌سابقه نیستند و تیم‌های اعلان و رشد سال‌هاست با شکل‌هایی از آن سروکار دارند. یکی از روش‌ها مدل‌های سنجش اثر افزایشی است: این مدل‌ها تخمین می‌زنند که آیا یک یادآوری واقعاً احتمال انجام کار را بیشتر می‌کند یا کاربر بدون آن هم همان اقدام را انجام می‌داد. چنین تفاوتی برای پرهیز از فرستادن پیام‌هایی که نتیجه‌ای ندارند اهمیت دارد.

روش دیگر contextual bandit یا «راهبر زمینه‌مند» است. این دسته از روش‌ها در گذر زمان می‌آموزند چه زمان و چه کانالی برای هر کاربر مناسب‌تر است. مدل‌های آمادگی دریافت پیام نیز تلاش می‌کنند شرایط لحظه‌ای مخاطب را در نظر بگیرند؛ برای مثال، آیا او در حال رانندگی است یا خودرو را متوقف کرده، یا در جلسه حضور دارد یا برای تعامل آزاد است. این پیش‌بینی‌ها قرار است میان نیاز به اطلاع‌رسانی و توجه محدود کاربر تعادل ایجاد کنند.

کانال‌های ارتباطی نیز هزینه یکسانی ندارند. کارت داخل برنامه مداخله‌ای سبک‌تر است؛ پیام‌رسانی مستقیم هزینه توجه بیشتری دارد و SMS از آن هم پررنگ‌تر است. تماس صوتی، در چارچوب پیشنهادی منبع، باید برای موقعیت‌های فوری و زمانی نگه داشته شود که دست‌های کاربر مشغول است. در مورد Uber، ثبت این‌که رانندگان پس از دریافت پیشنهاد چه کرده‌اند، می‌تواند داده‌ای برای ارزیابی و بهبود تصمیم‌های بعدی فراهم کند.

مدل‌های تصمیم‌گیری در کنار مدل‌های زبانی

منبع از دسته‌ای از مدل‌ها با عنوان مدل‌های تصمیم‌گیری نام می‌برد که به‌جای نوشتن پاسخ متنی، خروجی مشخص و ساختاریافته تولید می‌کنند. نمونه‌های ذکرشده Jev از TypeSafe و Julia 1 با وزن‌های باز از Supersonic Labs هستند. خروجی این مدل‌ها می‌تواند انتخابی از میان چند گزینه، یک امتیاز یا پاسخ بله و خیر باشد و همراه با احتمال ارائه شود.

این تفاوت برای عاملی که پیوسته رویدادها را بررسی می‌کند مهم است. عامل ممکن است تعداد زیادی نشانه را ارزیابی کند، اما تنها در موارد محدودی پیام بفرستد. در چنین وضعی، می‌توان پیش از فراخوانی مدل زبانی، پرسش‌های کوتاه و ساختاریافته‌ای مطرح کرد: آیا این موضوع ارزش ایجاد وقفه دارد؟ چقدر فوری است؟ باید فوراً ارسال شود، به بعد موکول شود، در یک خلاصه قرار بگیرد یا کنار گذاشته شود؟ کدام کانال مناسب‌تر است؟

طبق گزارش منبع، Julia 1 روی CPU اجرا می‌شود و زمان تصمیم‌گیری آن حدود ۳۳ میلی‌ثانیه است. این عدد در متن به‌عنوان مشخصه عملکرد مدل ذکر شده است، نه نتیجه ارزیابی مستقل. بااین‌حال، ایده کلی روشن است: اگر سنجش هر رویداد ارزان و سریع باشد، عامل می‌تواند تعداد زیادی نامزد پیام را غربال کند و تنها موارد واجد شرایط را برای تولید متن یا اقدام بعدی بفرستد.

این مدل‌ها محدودیت هم دارند. آن‌ها فقط بر پایه زمینه‌ای قضاوت می‌کنند که در اختیارشان قرار گرفته است. منبع با اشاره به این محدودیت می‌گوید چنین مدلی از خود نمی‌آموزد که یک کاربر مشخص پیام‌های صبحگاهی را نادیده می‌گیرد، مگر آن‌که اطلاعات لازم درباره این الگو در زمینه تصمیم‌گیری فراهم شده باشد. بنابراین، خروجی ساختاریافته به‌تنهایی جایگزین داده مناسب و شناخت زمینه کاربر نیست.

اعتماد کاربر و انگیزه‌های تجاری

پیام‌های پیش‌دستانه فقط برای یادآوری یا کمک عملی به‌کار نمی‌روند؛ آن‌ها می‌توانند به کانالی برای معرفی خدمات و پیشنهادهای تجاری هم تبدیل شوند. به نوشته منبع، Meta در حال بررسی تجارت الکترونیک در Muse است و Muse for Small Business را نیز راه‌اندازی کرده است. OpenAI هم Dots را هم‌زمان با اعلام یک سطح اشتراک ماهانه ۵۰۰ دلاری معرفی کرده و Uber خدمات تحویل و خدمات دیگری برای ارائه دارد.

وجود این انگیزه‌های تجاری مسئله اعتماد را پررنگ‌تر می‌کند. اگر کاربر تصور کند عامل به‌جای کمک به او، در حال فروش محصول یا خدمت است، اعتبار پیام‌های بعدی نیز ممکن است کاهش پیدا کند. از این منظر، پیشنهاد خرید هم باید با همان معیار پیام‌های دیگر سنجیده شود: آیا برای کاربر ارزش دارد، آیا زمان مناسبی است و آیا کانال انتخاب‌شده با اهمیت موضوع تناسب دارد؟

جمع‌بندی نویسنده منبع این است که داشتن مدل‌های توانمند به‌تنهایی برتری نمی‌آورد. در عامل‌هایی که خودشان آغازگر تماس هستند، کیفیت قضاوت درباره توجه کاربر اهمیت محوری دارد: پیام کمتر، در زمان مناسب و از مسیر مناسب. شرکت‌هایی که سابقه طولانی‌تری در جمع‌آوری داده‌های اعلان دارند، به‌گفته منبع ممکن است در این رقابت مزیتی داشته باشند؛ اما حفظ این مزیت به آن بستگی دارد که پیام‌ها همچنان از نگاه کاربر مفید و قابل اعتماد بمانند.

این خبر برای چه کسانی اهمیت دارد

این تحول برای کاربران سرویس‌های دیجیتال اهمیت دارد، چون تجربه استفاده از دستیارها را از پاسخ‌گویی هنگام درخواست به نظارت و پیشنهاد خودکار تغییر می‌دهد. برای شرکت‌های سازنده عامل‌های هوش مصنوعی نیز نشان می‌دهد که ارزیابی موفقیت فقط با کیفیت متن تولیدشده کامل نمی‌شود؛ تعداد پیام‌های بی‌مورد، زمان‌بندی، انتخاب کانال و واکنش واقعی کاربران هم اهمیت دارند.

تیم‌های محصول، اعلان و ایمنی نیز با پرسشی مشترک روبه‌رو هستند: چگونه می‌توانند عامل را در دسترس و مفید نگه دارند، بی‌آن‌که توجه کاربر را بی‌دلیل مصرف کنند یا انگیزه تجاری را جایگزین منفعت او سازند؟ پاسخ این پرسش می‌تواند تعیین کند عامل‌های همیشه‌فعال به دستیارانی قابل اعتماد تبدیل شوند یا به اعلان‌هایی که کاربران ترجیح می‌دهند خاموششان کنند.