OpenAI واترمارک متنی را به ChatGPT و Codex می‌آورد

واترمارک متنی قرار است طی هفته‌های آینده به ChatGPT و Codex در اتحادیه اروپا برسد؛ OpenAI می‌گوید کاربران واجد شرایط در همه طرح‌ها به این قابلیت دسترسی خواهند داشت. شرکت هم‌زمان امکان انتخاب واترمارک برای مشتریان API در سراسر جهان را فراهم می‌کند و دسترسی پژوهشگران و سازمان‌های متخصص به ابزار تشخیص را می‌گشاید. این برنامه در زمانی اعلام شده که OpenAI از تعهدات شفافیت خود در چارچوب Code of Practice نیز سخن می‌گوید؛ بااین‌حال، واترمارک در شروع عرضه به تنظیم پیش‌فرض جهانی تبدیل نخواهد شد.

واترمارک متنی ابتدا در اتحادیه اروپا عرضه می‌شود

به گفته OpenAI، این قابلیت در هفته‌های پیش‌رو برای کاربران واجد شرایط ChatGPT و Codex در اتحادیه اروپا فعال می‌شود و همه طرح‌ها را در بر می‌گیرد. شرکت نگفته است که این مرحله دقیقاً چه روزی آغاز خواهد شد یا تعریف جزئی کاربران واجد شرایط چیست. همچنین جزئیات فنی روش واترمارک‌گذاری را توضیح نداده است.

واترمارک متنی در این طرح به نشانه‌ای مربوط است که می‌تواند برای بررسی منشأ متن خروجی به کار رود. از اطلاعات منتشرشده نمی‌توان نتیجه گرفت این نشانه به چه شکل در متن قرار می‌گیرد یا کاربران چگونه آن را می‌بینند. OpenAI نیز تأکید کرده که در مرحله آغازین، واترمارک را به‌عنوان تنظیم پیش‌فرض برای تمام کاربران در سراسر جهان فعال نمی‌کند.

شرکت رویکرد منطقه‌ای را فرصتی برای یادگیری از کاربرد واقعی و بازخورد کاربران توصیف کرده است. بنابراین عرضه محدودشده به اتحادیه اروپا، دست‌کم در شروع، بخشی از برنامه آزمایش و ارزیابی این قابلیت است؛ نه اعلام دسترسی همگانی در همه بازارها.

مشتریان API در سراسر جهان حق انتخاب دارند

مسیر عرضه برای مشتریان API با کاربران ChatGPT و Codex تفاوت دارد. OpenAI می‌گوید از زمان اعلام این برنامه، مشتریان API در سراسر جهان می‌توانند برای خروجی متنی برخی مدل‌ها واترمارک را به‌صورت اختیاری انتخاب کنند. API یا رابط برنامه‌نویسی کاربردی، راهی است که به کسب‌وکارها و توسعه‌دهندگان امکان می‌دهد قابلیت‌های یک سرویس را در محصولات و سامانه‌های خود به کار بگیرند.

این انتخاب به مشتریان اجازه می‌دهد تصمیم بگیرند واترمارک چگونه با تعهدات شفافیت و تجربه‌ای که برای کاربران خود فراهم می‌کنند هماهنگ شود. در نتیجه، OpenAI به‌جای فعال‌کردن یک تنظیم یکسان برای همه مشتریان API، اختیار استفاده را به آن‌ها می‌سپارد. اعلام شرکت فقط به «برخی مدل‌ها» اشاره می‌کند و فهرست این مدل‌ها را مشخص نمی‌کند.

OpenAI همچنین گفته با شرکای ابری خود برای عرضه واترمارک به خروجی مدل‌هایش که از طریق خدمات آن شرکا دریافت می‌شوند همکاری می‌کند. به گفته شرکت، این امکان در هفته‌های آینده فراهم خواهد شد. جزئیاتی درباره نام شرکا یا زمان‌بندی جداگانه برای هر خدمت منتشر نشده است.

ابزار تشخیص برای پژوهشگران و سازمان‌های متخصص

پژوهشگران تأییدشده و سازمان‌های متخصص می‌توانند از زمان اعلام OpenAI برای دسترسی به ابزار تشخیص درخواست بدهند. شرکت می‌گوید دسترسی در آغاز و بر اساس بررسی موردی اعطا می‌شود تا ارزیابی و بهبود روش‌های بررسی منشأ متن پشتیبانی شود. OpenAI این بخش از برنامه را در چارچوب Code of Practice قرار داده است.

کارکرد اعلام‌شده ابزار محدود است: مشخص می‌کند آیا واترمارک OpenAI را در متن تشخیص داده است یا نه. طبق توضیح شرکت، ابزار هویت کاربر را مشخص نمی‌کند و به درخواست‌ها یا گفت‌وگوهای او دسترسی نمی‌دهد. این جداسازی مهم است، چون هدف اعلام‌شده بررسی نشانه در خروجی است، نه شناسایی شخصی که آن را تولید یا دریافت کرده است.

ابزار فعلاً برای عموم منتشر نمی‌شود. OpenAI دلیل این تصمیم را احتمال تشخیص‌ندادن برخی واترمارک‌ها و نیز احتمال اعلام اشتباه وجود واترمارک عنوان کرده است. تشخیص منفی کاذب یعنی ابزار نشانه را نبیند، با وجود آن‌که وجود دارد؛ مثبت کاذب یعنی وجود نشانه را گزارش کند، در حالی که چنین نشانه‌ای تشخیص‌پذیر نیست. شرکت نگفته این خطاها با چه فراوانی رخ می‌دهند.

محدودیت‌های عرضه و تشخیص چه معنایی دارند؟

برنامه OpenAI سه مسیر جداگانه دارد: عرضه برای کاربران واجد شرایط در اتحادیه اروپا، انتخاب اختیاری برای مشتریان API در سطح جهانی و دسترسی کنترل‌شده به ابزار تشخیص برای متخصصان. این تفکیک به این معناست که وجود واترمارک در خروجی همه محصولات یا مدل‌های شرکت را نمی‌توان از این اعلام نتیجه گرفت. برای کاربران عادی خارج از اتحادیه اروپا نیز OpenAI در این مرحله عرضه پیش‌فرضی را اعلام نکرده است.

همچنین ابزار تشخیص معرفی‌شده، بنا بر شرح شرکت، تنها گزارش می‌دهد آیا واترمارک OpenAI را یافته است یا نه. پس نباید آن را به‌عنوان راهکاری برای تشخیص همه متن‌های تولیدشده با هوش مصنوعی یا اثبات قطعی منشأ هر متن تلقی کرد. هشدار خود OpenAI درباره خطاهای تشخیص نیز نشان می‌دهد خروجی ابزار باید با توجه به این محدودیت‌ها تفسیر شود.

برای مشتریان API، بخش مهم اعلام این است که تصمیم استفاده از واترمارک بر عهده خودشان است و می‌توانند آن را با نیازهای شفافیت خود بسنجند. برای پژوهشگران نیز دسترسی موردی فرصتی برای ارزیابی و بهبود ابزار فراهم می‌کند، اما بازبودن آن برای عموم فعلاً در برنامه نیست. درباره روش فنی واترمارک‌گذاری، سازوکار درخواست دسترسی و نتایج ارزیابی، هنوز اطلاعات بیشتری ارائه نشده است.

این خبر برای چه کسانی اهمیت دارد

این تغییر برای کاربران ChatGPT و Codex در اتحادیه اروپا اهمیت مستقیم دارد، چون آن‌ها نخستین گروه مصرف‌کننده‌ای هستند که طبق برنامه اعلام‌شده با واترمارک روبه‌رو می‌شوند. توسعه‌دهندگان و کسب‌وکارهایی که از API استفاده می‌کنند نیز باید بدانند قابلیت برای همه خروجی‌ها نیست و انتخاب آن به مشتری و مدل‌های مشمول بستگی دارد.

پژوهشگران و سازمان‌های متخصصی که روی منشأ متن و ارزیابی ابزارهای تشخیص کار می‌کنند، گروه دیگری هستند که می‌توانند درخواست دسترسی بدهند. برای دیگر کاربران، پیام فعلی روشن‌تر از جزئیات فنی است: عرضه جهانی پیش‌فرض اعلام نشده و ابزار تشخیص عمومی نخواهد بود؛ دامنه استفاده و دقت آن نیز هنوز به اطلاعات بیشتری از سوی OpenAI نیاز دارد.