OpenAI با Dots به‌دنبال گسترش عامل‌های هوش مصنوعی همیشه‌فعال است

OpenAI در رویداد DevDay از Dots، عامل‌های هوش مصنوعی همیشه‌فعالی که برای کمک پیش‌دستانه به کاربران طراحی شده‌اند، خبر داده است؛ اقدامی که در کنار معرفی نسخه‌های تخصصی برای مشتریان سازمانی، نشان می‌دهد این شرکت می‌خواهد عامل‌های هوش مصنوعی را به کارهای روزمره و حرفه‌ای نزدیک‌تر کند. به گزارش WIRED، Dots همچنین پاسخ OpenAI به عامل Muse از Meta است؛ محصولی که اخیراً توجه گسترده‌ای جلب کرده است.

عامل هوش مصنوعی نرم‌افزاری است که می‌تواند برای انجام وظایف به‌جای کاربر وارد عمل شود، نه اینکه صرفاً به پرسش‌ها پاسخ دهد. بااین‌حال، اطلاعات منتشرشده درباره Dots در گزارش WIRED بیشتر بر نحوه کنترل اقدام‌های این عامل‌ها، کاربرد سازمانی و نگرانی‌های امنیتی و حریم خصوصی متمرکز است. گزارش درباره جزئیات فنی بیشتر، از جمله دامنه دقیق توانایی‌های Dots یا شیوه عرضه آن، اطلاعاتی ارائه نمی‌کند.

عامل‌هایی برای کمک پیش‌دستانه

عنوان گزارش WIRED، Dots را عامل‌هایی «همیشه‌فعال» معرفی می‌کند که به‌صورت پیش‌دستانه به کاربر کمک می‌کنند. این رویکرد با ابزارهایی که فقط پس از دریافت یک پرسش یا فرمان مشخص پاسخ می‌دهند تفاوت دارد: هدف عامل‌های شخصی آن است که بخشی از کارها را در جریان استفاده از خدمات دیجیتال انجام دهند. بااین‌حال، گزارش جزئیات بیشتری درباره اینکه Dots دقیقاً در چه موقعیت‌هایی به کاربر پیشنهاد کمک می‌دهد یا چه داده‌هایی برای این کار به‌کار می‌گیرد، بیان نمی‌کند.

قرارگرفتن Dots در کنار Muse از Meta اهمیت این نوع محصولات را نشان می‌دهد. به نوشته WIRED، عامل‌های شخصی در دوره‌ای با اقبال تازه روبه‌رو شده‌اند. این روند در سال جاری میلادی با توجه برخی کاربران پیشرو در سیلیکون‌ولی به ابزارهایی مانند OpenClaw آغاز شد و با انتشار عامل Muse به جمع بزرگ‌تری از کاربران رسید. گزارش می‌گوید Muse در صدر جدول دانلود اپلیکیشن‌های تلفن همراه قرار گرفت و اکنون Dots نیز وارد رقابت برای جلب توجه کاربران شده است.

در این رقابت، مسئله فقط توانایی پاسخ‌گویی به درخواست‌ها نیست؛ کاربران باید تصمیم بگیرند چه میزان دسترسی به داده‌ها و چه اختیاری برای اقدام‌کردن در اختیار نرم‌افزار قرار دهند. از همین رو، شیوه درخواست اجازه و امکان تعیین محدودیت‌ها بخشی مهم از معرفی Dots است.

نسخه‌های تخصصی برای مشتریان سازمانی

OpenAI هم‌زمان می‌خواهد حضور خود را در بازار سازمانی تقویت کند. سم آلتمن، مدیرعامل این شرکت، در DevDay از «Dots تخصصی» برای مشتریان سازمانی سخن گفت؛ عامل‌هایی که برای کارهای مشخصی مانند حسابداری، بازاریابی ایمیلی و تحلیل حقوقی تنظیم می‌شوند. گزارش WIRED جزئیات بیشتری درباره چگونگی این تنظیم یا نحوه عرضه این نسخه‌ها ارائه نمی‌دهد.

این اعلام در ادامه روندی قرار می‌گیرد که در آن عامل‌های هوش مصنوعی به‌عنوان همکارانی برای گردش‌کارهای حرفه‌ای مطرح می‌شوند. در چنین کاربردهایی، یک سازمان ممکن است بخواهد ابزار هوش مصنوعی را برای وظیفه‌ای محدود به‌کار بگیرد، نه اینکه از یک دستیار عمومی برای همه امور استفاده کند. نمونه‌هایی که آلتمن نام برد، از کارهای مالی و بازاریابی تا بررسی حقوقی را در بر می‌گیرد؛ حوزه‌هایی که در آن‌ها روشن‌بودن حدود اختیار و نظارت انسانی اهمیت دارد.

با وجود این، معرفی عامل تخصصی به‌تنهایی به معنای خودکارشدن کامل یک وظیفه نیست. گزارش فقط می‌گوید OpenAI عامل‌هایی را برای این کارها تنظیم می‌کند و درباره میزان استقلال آن‌ها یا اینکه نتایجشان چگونه بررسی می‌شود توضیح نمی‌دهد. بنابراین، از اطلاعات موجود نمی‌توان نتیجه گرفت که Dots می‌توانند بدون دخالت انسان مسئولیت کامل یک فرایند سازمانی را بر عهده بگیرند.

تأیید کاربر و تعیین مرزها

به گفته WIRED، Dots پیش از انجام اقدام‌های حساس از کاربر تأیید صریح می‌خواهند. نصب نرم‌افزار و تغییر گذرواژه از نمونه‌هایی هستند که برای انجامشان اجازه مستقیم لازم است. این سازوکار قرار است میان کمک خودکار عامل و کنترل کاربر بر اقدام‌هایی که می‌توانند بر دستگاه یا حساب او اثر بگذارند، مرزی روشن ایجاد کند.

OpenAI همچنین ابزاری با نام Custom Rules در نظر گرفته است تا کاربران بتوانند قواعد مشخصی برای عامل‌ها تعریف کنند. به کمک این ابزار، کاربر می‌تواند تعیین کند Dots از چه مرزهایی عبور نکنند و برای کدام وظایف باید اجازه مستقیم‌تری بگیرند. در عمل، چنین قاعده‌هایی راهی برای محدودکردن اختیار عامل هستند؛ هرچند گزارش WIRED درباره جزئیات نحوه اجرای این قواعد یا شیوه مدیریت موارد استثنا اطلاعاتی نمی‌دهد.

در نتیجه، کنترل بر عامل‌های شخصی فقط به تأیید یا رد یک درخواست منفرد محدود نمی‌شود. Custom Rules به کاربران امکان می‌دهد از پیش درباره حدود قابل‌قبول تصمیم بگیرند. این تمهید به‌ویژه زمانی اهمیت دارد که کاربر داده‌های چند برنامه را در اختیار عامل قرار می‌دهد یا از آن می‌خواهد بخشی از کارهایش را خودکار کند.

نگرانی‌های امنیتی و حریم خصوصی

WIRED هشدار می‌دهد که استفاده از عامل‌ها می‌تواند خطرهایی برای امنیت و حریم خصوصی ایجاد کند. حتی با وجود تمهیدهای ایمنی که OpenAI در Dots تعبیه کرده، واگذاری بخشی از کارها به یک نرم‌افزار مستلزم اعتماد به آن است: کاربر باید مطمئن باشد عامل اطلاعاتی را که قصد اشتراک‌گذاری‌اش را نداشته افشا نمی‌کند و فریب یک مهاجم آنلاین را نمی‌خورد تا اقدامی ناخواسته انجام دهد.

این نگرانی‌ها با اتصال داده‌ها و برنامه‌های موجود کاربر به عامل پررنگ‌تر می‌شوند. هرچه عامل به بخش‌های بیشتری از اطلاعات یا خدمات کاربر دسترسی داشته باشد، تصمیم‌گیری درباره اینکه کدام داده‌ها را به آن بسپارد و چه اقدام‌هایی را مجاز بداند اهمیت بیشتری پیدا می‌کند. گزارش توصیه می‌کند کاربران هنگام تعامل با این نرم‌افزار نوپا و پیوند دادن برنامه‌های قبلی خود احتیاط کنند.

نکته دیگری که WIRED به آن اشاره می‌کند، تنظیم حساب OpenAI درباره استفاده از داده‌ها برای آموزش مدل است. اگر حساب کاربر اجازه دهد داده‌هایش برای آموزش مدل به‌کار گرفته شود، این انتخاب به تعامل‌های او با عامل‌ها نیز تعمیم پیدا می‌کند. بنابراین، کاربرانی که می‌خواهند از Dots استفاده کنند باید تنظیم مربوط به آموزش مدل را نیز در نظر بگیرند؛ این تنظیم از تعامل با عامل‌ها جدا نیست.

گزارش WIRED این خبر را در حال تکمیل توصیف کرده و از خوانندگان خواسته است برای دریافت به‌روزرسانی‌ها دوباره به آن مراجعه کنند. بر پایه اطلاعات فعلی، معرفی Dots را می‌توان بخشی از حرکت OpenAI به‌سمت عامل‌های شخصی و ابزارهای حرفه‌ای دانست؛ حرکتی که هم وعده انجام کارها با دخالت کمتر را مطرح می‌کند و هم پرسش‌هایی درباره اختیار، نظارت و حفاظت از داده‌ها پیش می‌کشد.

این خبر برای چه کسانی اهمیت دارد

Dots برای کاربرانی اهمیت دارد که می‌خواهند بخشی از وظایف دیجیتال خود را به عامل‌های هوش مصنوعی بسپارند، اما در عین حال می‌خواهند کنترل اقدام‌های حساس و داده‌هایشان را حفظ کنند. قابلیت Custom Rules و الزام به دریافت تأیید برای برخی کارها، ابزارهایی برای تعیین این حدود هستند؛ بااین‌حال، استفاده از آن‌ها نیازمند توجه به دسترسی‌هایی است که کاربر به عامل می‌دهد.

این خبر همچنین برای کسب‌وکارهایی مهم است که کاربرد عامل‌های هوش مصنوعی را در گردش‌کارهای حرفه‌ای بررسی می‌کنند. OpenAI از نمونه‌های تخصصی در حسابداری، بازاریابی ایمیلی و تحلیل حقوقی نام برده است، اما جزئیات عملکرد و میزان استقلال این عامل‌ها هنوز در گزارش منتشرشده روشن نیست. برای شرکت‌ها، ارزیابی کاربرد چنین ابزارهایی باید در کنار بررسی دسترسی‌ها، نیاز به تأیید انسانی و تنظیمات مربوط به داده انجام شود.