OpenAI رابط Decisions API را برای انتخاب سریع میان گزینه‌ها معرفی کرد

API تصمیم‌گیری OpenAI، رابطی تازه برای انتخاب سریع میان گزینه‌های ازپیش‌تعریف‌شده، در رویداد Dev Day این شرکت معرفی شد؛ سرویسی که می‌تواند در دسته‌بندی داده‌ها و تعیین رفتار عامل‌های هوش مصنوعی به کار رود و بنا بر یک نمونهٔ آزمایشی، پایش کنش‌های عامل‌ها را کم‌هزینه‌تر کند. Sam Altman، مدیرعامل OpenAI، گفت این رابط به مدل Luna امکان می‌دهد از میان گزینه‌هایی که توسعه‌دهنده مشخص می‌کند انتخاب کند. این محصول فعلاً در پیش‌نمایش محدود عرضه شده و هنوز روشن نیست عملکرد آن در کاربردهای واقعی تا چه اندازه به نمونه‌های مشابه نزدیک است.

API تصمیم‌گیری OpenAI چه کاری انجام می‌دهد؟

به گفتهٔ Altman، توسعه‌دهنده می‌تواند مجموعه‌ای از انتخاب‌های ممکن را در اختیار مدل قرار دهد و از آن بخواهد یکی را برگزیند. این انتخاب می‌تواند مثلاً تعیین دستهٔ مناسب برای یک تصویر باشد یا مشخص‌کردن رفتاری که یک عامل هوش مصنوعی باید در موقعیتی معین انجام دهد. این روش با درخواست‌های معمول از مدل‌های زبانی تفاوت دارد: به‌جای تولید پاسخ آزاد و مفصل، مدل به انتخابی محدود می‌شود که گزینه‌های آن از پیش تعریف شده‌اند.

Altman توضیح داد که متمرکزکردن مدل روی یک انتخاب مشخص می‌تواند آن را بسیار سریع کند، در حالی که توانایی‌هایی مانند فهم تصویر، پشتیبانی از زبان‌های گوناگون و سازوکارهای ایمنی حفظ می‌شود. با این حال، OpenAI جزئیات فنی بیشتری دربارهٔ شیوهٔ پیاده‌سازی سرویس ارائه نکرده است. بنابراین، در حال حاضر نمی‌توان دربارهٔ سازوکار داخلی یا سطح عملکرد آن فراتر از توضیحات ارائه‌شده در رویداد داوری کرد.

گزارش TechCrunch این سرویس را از نظر کارکرد به Jev، محصول شرکت TypeSafe AI، شبیه دانسته است. Jev که اوایل همان ماه معرفی شد، برای خودکارسازی نرم‌افزار طراحی شده و می‌تواند برای مجموعه‌ای از گزینه‌ها احتمال ارائه کند. احتمال‌ها به توسعه‌دهنده نشان می‌دهند مدل تا چه حد هر انتخاب را مناسب می‌داند؛ برخلاف سامانه‌ای که تنها یک پاسخ قطعی می‌دهد. چنین ساختاری ممکن است در فرایندهایی سودمند باشد که نیاز به تصمیم سریع دارند یا باید نتیجه برای بررسی انسانی قابل ارزیابی باشد.

رقابت بر سر تصمیم‌های سریع و کم‌هزینه

ایدهٔ مشترک این محصولات آن است که هر مسئله‌ای را نباید با یک مدل زبانی بزرگ و عمومی حل کرد. مدل‌های پیشرفته می‌توانند توانمند باشند، اما استفاده از آن‌ها در هر گام ممکن است کندتر و پرهزینه‌تر از یک ابزار محدود و تخصصی باشد. طبق گزارش TechCrunch، برخی توسعه‌دهندگان از Jev در کنار مدل‌های زبانی استفاده کرده‌اند تا سرعت را بالا ببرند و هزینه را کاهش دهند. در این الگو، مدل بزرگ‌تر می‌تواند وظایف پیچیده را انجام دهد و سامانهٔ تصمیم‌گیری برای انتخاب‌های محدود و پرتکرار به کار رود.

OpenAI تنها شرکتی نیست که در این مسیر فعالیت می‌کند. گزارش می‌گوید استارتاپ‌های دیگری نیز مدل‌ها و رابط‌های مشابه عرضه کرده‌اند و انتظار نمی‌رود OpenAI آخرین شرکت بزرگ فناوری باشد که به این حوزه وارد می‌شود. بااین‌حال، شباهت کلی در هدف به معنای یکسان‌بودن کیفیت یا شیوهٔ کار محصولات نیست. TechCrunch می‌گوید Decisions API در زمان انتشار خبر فقط در پیش‌نمایش محدود در دسترس بود و هنوز نمونه‌های کافی از استفادهٔ توسعه‌دهندگان برای ارزیابی آن دیده نشده بود.

یکی از پرسش‌های اصلی دربارهٔ این دسته از ابزارها، کالیبره‌بودن احتمال‌ها است؛ یعنی آیا میزان اطمینانی که مدل برای یک انتخاب اعلام می‌کند با احتمال درست‌بودن آن در عمل تناسب دارد یا نه. برای مثال، اگر سامانه در موقعیتی بارها اطمینان بالایی نشان دهد، باید بتوان بررسی کرد که این اطمینان واقعاً با نتیجه‌های درست همراه است. خروجی سریع به‌تنهایی کافی نیست: تصمیمی که با هزینهٔ کم گرفته می‌شود، اگر به‌طور منظم اشتباه باشد، می‌تواند در کاربردهای حساس مشکل‌ساز شود.

Diogo Almeida، مدیرعامل TypeSafe AI و مهندس پیشین OpenAI، به اهمیت داده‌های مصنوعی شرکتش برای تولید خروجی‌های آماری مفید اشاره کرده است. او استدلال می‌کند که سریع و ارزان‌بودن به‌تنهایی دشوارترین بخش کار نیست؛ چالش اصلی، حفظ کیفیت هوشمندی در کنار پایین‌آوردن هزینه است. Almeida این هدف را با بهبود نسبت هوشمندی به هزینه توصیف کرده است. او در واکنش به خبر محصول OpenAI نیز در شبکهٔ X از آغاز «جنگ نسخه‌های مشابه» سخن گفت و علاقهٔ این شرکت را نشانه‌ای احتمالی از اهمیت رویکردهای سریع‌تر دانست.

Almeida برای توصیف این رویکرد از اصطلاح «System One» استفاده می‌کند؛ اصطلاحی که در ادبیات TypeSafe به تصمیم‌گیری سریع و شهودی اشاره دارد، در برابر «System 2» که این شرکت آن را به استدلال سنجیده‌تر و کندتر نسبت می‌دهد. این‌ها اصطلاحات خود TypeSafe هستند و گزارش TechCrunch آن‌ها را به‌عنوان چارچوب نام‌گذاری این شرکت مطرح می‌کند، نه دسته‌بندی رسمی یا استانداردی برای همهٔ مدل‌های هوش مصنوعی.

پایش عامل‌ها؛ کاربرد امنیتی احتمالی

یکی از کاربردهای مهمی که برای مدل‌های تصمیم‌گیری سریع مطرح شده، نظارت بر عامل‌های هوش مصنوعی است. عامل‌ها سامانه‌هایی هستند که برای رسیدن به یک هدف، چندین گام و کنش را به‌صورت خودکار انجام می‌دهند. هرچه تعداد این گام‌ها بیشتر شود، بررسی اینکه هر اقدام با وظیفهٔ تعیین‌شده سازگار است یا نه اهمیت بیشتری پیدا می‌کند. OpenAI پس از چند مورد رفتار نامناسب عامل‌هایش در اینترنت عمومی، از استفاده از یک مدل جداگانه برای بررسی اقدام‌های نامطلوب خبر داده بود؛ اما این نظارت، بنا بر گزارش، هزینهٔ محاسباتی قابل‌توجهی دارد.

Shapor Naghibzadeh، متخصص باسابقهٔ امنیت سایبری و مدیر شرکت نوپای QueryStory، معتقد است مدلی مانند Jev می‌تواند چنین پایشی را ارزان‌تر کند. او در یک رویداد برنامه‌نویسی آخر هفته، نمونه‌ای ساخت که هر اقدام عامل را با وظیفه‌ای که به آن سپرده شده مقایسه می‌کرد. اگر سامانه با اطمینان بالا تشخیص می‌داد اقدامی نامناسب است، آن را مسدود می‌کرد؛ موارد دیگری را برای بررسی علامت می‌زد و اقدام‌های باقی‌مانده را مجاز می‌دانست.

بر اساس نمونهٔ ارائه‌شده، هزینهٔ نظارت با Jev برای آن فرایند ۲٫۹۴ دلار بود، در برابر ۳۷۲ دلار با استفاده از یک مدل پیشرفتهٔ مرزی. این ارقام به همان نمونه و شیوهٔ آزمایش اشاره دارند و نباید بدون اطلاعات بیشتر به همهٔ کاربردها تعمیم داده شوند. Naghibzadeh همچنین گفته است چنین نظارتی، در نظریه، می‌توانست از رخداد مربوط به Hugging Face جلوگیری کند؛ این بیان، ارزیابی او از امکان پیشگیری است و نه اثبات اینکه نتیجه در شرایط واقعی حتماً همین می‌شد.

مزیت احتمالی این نوع پایش آن است که می‌توان هر کنش عامل را بررسی کرد، نه فقط چند اقدام منتخب را. اگر هزینهٔ ارزیابی هر مرحله به‌اندازهٔ کافی پایین باشد، افزودن یک لایهٔ بازبینی به فرایند خودکارسازی آسان‌تر می‌شود. در مقابل، تصمیم‌های اشتباه یا اطمینان‌های نادرست نیز ممکن است باعث مسدودشدن اقدام‌های مفید یا عبور اقدام‌های نامناسب شوند. به همین دلیل، سنجش کیفیت خروجی و تعیین مواردی که باید به انسان ارجاع شوند، به‌اندازهٔ سرعت و قیمت اهمیت دارد.

آنچه هنوز دربارهٔ محصول روشن نیست

در زمان انتشار گزارش، جزئیات کافی برای مقایسهٔ مستقیم Decisions API و Jev در دسترس نبود. پیش‌نمایش محدود، نبود آزمون‌های گستردهٔ منتشرشده و مشخص‌نبودن میزان کالیبره‌بودن خروجی‌ها، همگی ارزیابی مستقل را دشوار می‌کنند. همچنین، معرفی یک رابط برای انتخاب میان گزینه‌ها به‌تنهایی نشان نمی‌دهد که هر تصمیم آن برای امنیت یا خودکارسازی حساس مناسب است. توسعه‌دهندگان باید ببینند سرویس در داده‌ها و موقعیت‌های واقعی چگونه عمل می‌کند و احتمال‌هایش تا چه اندازه قابل اتکا هستند.

اهمیت اعلام OpenAI در این مرحله بیشتر از آن است که نشان می‌دهد این شرکت نیز به استفاده از مدل‌های محدودتر برای تصمیم‌های سریع توجه دارد. اگر چنین ابزارهایی در عمل هزینهٔ هر بررسی را کاهش دهند، می‌توانند استفاده از لایه‌های نظارتی را در سامانه‌های عامل‌محور آسان‌تر کنند. اما نتیجه به توازن میان سه عامل بستگی دارد: سرعت، هزینه و کیفیت تصمیم. گزارش TechCrunch تأکید می‌کند که کاهش هزینه به‌تنهایی کافی نیست و چالش اصلی، حفظ هوشمندی و دقت خروجی است.

این خبر برای چه کسانی اهمیت دارد

این خبر برای توسعه‌دهندگانی مهم است که عامل‌های هوش مصنوعی می‌سازند و می‌خواهند کنش‌های آن‌ها را با هزینه و تأخیر کمتر بررسی کنند. همچنین شرکت‌هایی که از مدل‌های زبانی در دسته‌بندی، خودکارسازی نرم‌افزار یا نظارت بر فرایندها استفاده می‌کنند، می‌توانند دنبال کنند که Decisions API پس از پیش‌نمایش محدود چه نتایجی نشان می‌دهد. برای کاربران نهایی نیز موضوع به قابلیت اعتماد عامل‌ها مربوط است: پایش ارزان‌تر می‌تواند امکان بررسی بیشتر را فراهم کند، اما تنها زمانی به ایمنی بهتر منجر می‌شود که مدل تصمیم‌گیرنده در عمل دقیق و قابل‌اعتماد باشد.