کاخ سفید America.gov را با کمک Gemini راه‌اندازی می‌کند

دونالد ترامپ، رئیس‌جمهور آمریکا، روز سه‌شنبه از راه‌اندازی America.gov خبر داد؛ چت‌باتی مبتنی بر هوش مصنوعی که قرار است مردم را برای یافتن خدمات و اطلاعات دولتی راهنمایی کند. Google مشارکت خود در این طرح و نقش مدل Gemini را تأیید کرده است، اما هنوز مشخص نیست شرکت‌های هوش مصنوعی دیگری نیز در آن همکاری داشته‌اند یا این سامانه دقیقاً چگونه پاسخ‌هایش را تولید و بررسی می‌کند. هدف اعلام‌شده، ساده‌ترکردن دسترسی به اطلاعات دولتی است؛ هدفی که در صورت ارائه پاسخ نادرست می‌تواند با خطرهایی جدی برای کاربران همراه شود.

یک راه ورودی برای پرسش‌های دولتی

ترامپ در پیامی در شبکه اجتماعی X گفت که America.gov قرار است مردم را از جست‌وجو میان شمار زیادی از وب‌سایت‌ها و مقررات دولتی بی‌نیاز کند. او این چت‌بات را راهی واحد برای مطرح‌کردن پرسش‌ها توصیف کرد؛ رویکردی که می‌خواهد فرایند پیدا کردن اطلاعات را برای شهروندان ساده‌تر کند.

طبق گزارش TechCrunch، کارکرد اعلام‌شده برای سامانه کمک به یافتن خدمات دولتی و اطلاعات مرتبط است. در نتیجه، America.gov در نگاه نخست قرار است نقش راهنما را داشته باشد: کاربر پرسش خود را مطرح کند و برای یافتن اطلاعات یا خدمت موردنظر مسیر مناسب‌تری در اختیارش قرار بگیرد. بااین‌حال، در اطلاعات منتشرشده توضیحی درباره دامنه دقیق پرسش‌هایی که سامانه پوشش می‌دهد، نحوه ارجاع کاربران به منابع دولتی یا چگونگی رسیدگی به مواردی که پاسخ روشنی ندارند ارائه نشده است.

همچنین هنوز معلوم نیست این سامانه فقط اطلاعات را پیدا و خلاصه می‌کند یا در مراحل بعدی کاربران را به فرایندهای اجرایی خدمات دولتی نیز متصل خواهد کرد. گزارش موجود جزئیاتی درباره امکانات محصول، زمان‌بندی دسترسی عمومی یا شیوه استفاده از آن بیان نمی‌کند. بنابراین، آنچه فعلاً مشخص است هدف کلی پروژه و مشارکت Google است، نه دامنه عملیاتی و جزئیات فنی آن.

نقش Gemini و ابهام درباره همکاران

Google تأیید کرده که در راه‌اندازی America.gov شریک است و مدل هوش مصنوعی Gemini در این پروژه نقش دارد. مدل زبانی بزرگ، مانند Gemini، سامانه‌ای است که با پردازش زبان طبیعی می‌تواند به پرسش‌ها پاسخ دهد یا اطلاعات را به شکلی قابل‌فهم‌تر ارائه کند. بااین‌حال، تأیید حضور یک مدل به‌تنهایی نشان نمی‌دهد پاسخ‌ها از چه منابعی تهیه می‌شوند، چه محدودیت‌هایی دارند یا در چه شرایطی به کاربر هشدار داده می‌شود که پاسخ قطعی نیست.

در گزارش TechCrunch نام شرکت دیگری به‌عنوان شریک تأییدشده مطرح نشده است؛ در عین حال، روشن نیست که آیا شرکت‌های هوش مصنوعی دیگری هم در توسعه یا اجرای این چت‌بات مشارکت داشته‌اند. درباره سازوکار بررسی پاسخ‌ها و کاهش خطا نیز اطلاعاتی منتشر نشده است. این ابهام‌ها به‌معنای وجود یا نبود چنین سازوکارهایی نیست؛ صرفاً نشان می‌دهد جزئیات آن‌ها در اطلاعات گزارش‌شده در دسترس نیست.

برای ارزیابی یک ابزار دولتی مبتنی بر هوش مصنوعی، صرف دانستن نام مدل کافی نیست. کاربران ممکن است به راهنمایی‌هایی درباره خدماتی متکی شوند که مهلت و شرایط مشخص دارند. ازاین‌رو، روشن‌بودن مرز میان پاسخ راهنما و تصمیم رسمی، و مشخص‌بودن مسیر مراجعه به اطلاعات معتبر، اهمیت عملی دارد. گزارش منتشرشده جزئیاتی درباره این موارد ارائه نمی‌کند.

خطای چت‌بات می‌تواند هزینه واقعی داشته باشد

مدل‌های زبانی بزرگ بی‌خطا نیستند و ممکن است اطلاعات نادرست را با لحنی مطمئن بیان کنند؛ پدیده‌ای که به آن «توهم هوش مصنوعی» می‌گویند. منظور از این اصطلاح، تولید پاسخ‌هایی است که ممکن است ساختار زبانی معقولی داشته باشند، اما واقعیت ندارند یا با پرسش کاربر سازگار نیستند. این محدودیت برای ابزاری که قرار است در پیدا کردن خدمات عمومی به مردم کمک کند، اهمیتی فراتر از کیفیت یک پاسخ معمولی دارد.

به گفته گزارش، افراد ممکن است برای موضوعاتی مانند درخواست کمک‌هزینه غذایی، تمدید ویزا یا ثبت اظهارنامه مالیاتی به America.gov مراجعه کنند. اگر راهنمایی نادرست باعث شود کسی مهلتی را از دست بدهد، درخواستش رد شود یا با جریمه روبه‌رو شود، خطای چت‌بات می‌تواند پیامد ملموس داشته باشد. این پیامدها با اشتباه در پاسخ به پرسشی کم‌اهمیت تفاوت دارند، زیرا ممکن است بر دسترسی فرد به یک خدمت یا انجام به‌موقع یک تکلیف اثر بگذارند.

گزارش همچنین به نمونه‌ای جداگانه اشاره می‌کند: CNN اخیراً گزارش داده بود که ارتش آمریکا نزدیک بود عملیاتی مسلحانه علیه یک شناور چینی انجام دهد؛ شناوری که تصور می‌شد قطعات مربوط به تسلیحات هسته‌ای حمل می‌کند. بنا بر همان گزارش، عملیات در آخرین لحظه متوقف شد، پس از آن‌که مشخص شد تهدید ادعایی حاصل توهم هوش مصنوعی بوده است. این نمونه در زمینه‌ای متفاوت رخ داده و به‌خودی‌خود چیزی درباره عملکرد America.gov نمی‌گوید؛ اما یادآور می‌شود که اتکا به خروجی نادرست سامانه‌های هوش مصنوعی می‌تواند پیامدهای جدی داشته باشد.

برای کاربران America.gov، میزان اتکاپذیری پاسخ‌ها و نحوه برخورد با موارد نامطمئن از پرسش‌های اصلی خواهد بود. اطلاعات موجود نمی‌گوید سامانه پاسخ‌ها را چگونه کنترل می‌کند یا کاربران را به چه منابعی ارجاع می‌دهد. تا زمانی که چنین جزئیاتی روشن نشده باشد، معرفی چت‌بات به‌عنوان راهی آسان‌تر برای یافتن اطلاعات، به‌تنهایی برای سنجش دقت و کفایت آن کافی نیست.

این خبر برای چه کسانی اهمیت دارد

America.gov برای افرادی اهمیت دارد که برای دسترسی به خدمات عمومی یا پیگیری مقررات دولتی باید میان وب‌سایت‌ها و اطلاعات مختلف جست‌وجو کنند. اگر سامانه بتواند مسیر یافتن اطلاعات را ساده کند، ممکن است استفاده از خدمات دولتی برای این افراد آسان‌تر شود. اما کسانی که درباره کمک‌هزینه غذایی، ویزا یا مالیات پرس‌وجو می‌کنند نیز باید بدانند که یک پاسخ تولیدشده با هوش مصنوعی ممکن است اشتباه باشد و پیامد خطا در این حوزه‌ها محدود به سردرگمی نیست.

این طرح برای نهادهای دولتی و شرکت‌های فناوری هم اهمیت دارد، چون نمونه‌ای از به‌کارگیری مدل‌های زبانی برای ارتباط با مردم است. در این مورد، آنچه تاکنون تأیید شده مشارکت Google و حضور Gemini است؛ جزئیات بیشتر درباره همکاران، شیوه کار و کنترل خطا هنوز در گزارش منتشرشده روشن نشده است. ارزیابی اهمیت عملی America.gov به همین جزئیات و به میزان قابل‌اعتمادبودن اطلاعاتی بستگی دارد که به کاربران ارائه می‌کند.