OpenAI واترمارک متن ChatGPT را در اتحادیه اروپا فعال می‌کند

واترمارک متن OpenAI قرار است در هفته‌های آینده برای کاربران ChatGPT و Codex در اتحادیه اروپا فعال شود؛ اقدامی که به گفته شرکت، پاسخی به الزام‌های قانون هوش مصنوعی اتحادیه اروپا برای نشانه‌گذاری ماشینی محتوای تولیدشده است. OpenAI فناوری خود را textGrain نامیده، اما اجرای آن را برای مشتریان API در سراسر جهان اجباری نمی‌کند و به آن‌ها امکان می‌دهد خودشان درباره فعال‌سازی تصمیم بگیرند.

این تفاوت در شیوه اجرا، سیاست OpenAI را از رویکرد Anthropic برای Claude متمایز می‌کند: طبق گزارش منبع، واترمارک Claude به‌طور جهانی و مستقل از مسیر دسترسی به مدل اعمال می‌شود. OpenAI همچنین می‌گوید فناوری‌اش را متن‌باز خواهد کرد و دسترسی به آن را از راه ارائه‌دهندگان ابری، از جمله Microsoft Azure، در هفته‌های آینده فراهم می‌کند.

واترمارک متن OpenAI چگونه کار می‌کند؟

textGrain به‌جای افزودن برچسب آشکار یا عبارتی جداگانه به متن، یک نشانه آماری نامرئی را در انتخاب واژه‌های مدل جای می‌دهد. به بیان ساده، الگوی انتخاب کلمات به‌گونه‌ای تغییر می‌کند که ابزار تشخیص بتواند احتمال تولید متن به‌وسیله مدل‌های OpenAI را بررسی کند. این فناوری قرار نیست نام کاربر یا اطلاعات گفت‌وگوی او را در متن پنهان کند.

OpenAI می‌گوید این روش در آزمون‌های داخلی با روش‌های دیگر، از جمله SynthID متنی Google، رقابت کرده یا عملکرد بهتری داشته است. این مقایسه، ارزیابی خود شرکت است و اطلاعات منتشرشده به‌تنهایی امکان بررسی مستقل همه نتایج را فراهم نمی‌کند. OpenAI همچنین برنامه دارد فناوری را متن‌باز کند تا دیگران بتوانند بر پایه آن ابزار بسازند.

فعال‌سازی برای کاربران ChatGPT و Codex در اتحادیه اروپا، طبق اعلام OpenAI، طی هفته‌های آینده انجام می‌شود. در مقابل، مشتریانی که از API استفاده می‌کنند، در هر نقطه از جهان با انتخاب روبه‌رو خواهند بود: می‌توانند واترمارک را فعال کنند یا آن را کنار بگذارند. این گزینه از مسیر همکاران ابری شرکت، از جمله Microsoft Azure، نیز در دسترس قرار می‌گیرد.

دقت تشخیص به طول و موضوع متن وابسته است

آزمون‌های OpenAI نشان می‌دهد شناسایی واترمارک نتیجه‌ای قطعی و یکسان برای همه متن‌ها نیست. وقتی ابزار با نرخ مثبت کاذب یک درصد تنظیم شد ــ یعنی هدف این بود که متنِ بی‌واترمارک را به‌اشتباه علامت نزند ــ توانست نشانه را در حدود ۹۵ درصد از متن‌های ۴۰۰ توکنی درباره روان‌شناسی پیدا کند. در متن‌های ۲۰۰ توکنی، این میزان به حدود ۸۰ درصد رسید. توکن واحدی برای پردازش متن است و می‌تواند بخشی از یک واژه یا چند نویسه باشد.

موضوع متن هم اثر دارد. به گفته OpenAI، نرخ تشخیص در محتوای ریاضی به‌طور محسوسی پایین‌تر است، چون مدل در انتخاب واژه‌ها آزادی کمتری دارد. متن طولانی‌تر ممکن است سیگنال آماری قوی‌تری بسازد، اما شرکت داده‌ای برای آزمودن این فرض منتشر نکرده است؛ نتیجه همچنان می‌تواند به محتوای متن وابسته باشد.

ویرایش متن از محدودیت‌های مهم این روش است. طبق ارقام OpenAI، در متن‌های ۴۰۰ توکنی جایگزینی ۱۰ درصد واژه‌ها با مترادف، نرخ شناسایی را از حدود ۹۲ درصد به ۶۶ درصد می‌رساند. با تغییر ۲۵ درصد واژه‌ها، این نرخ به ۱۷ درصد سقوط می‌کند. بنابراین، واترمارک ممکن است پس از ویرایش به‌سادگی از دید ابزار تشخیص پنهان بماند. OpenAI هشدار می‌دهد که شناسایی‌نشدن نشانه به‌تنهایی ثابت نمی‌کند نویسنده انسان بوده است.

واترمارک مالکیت یا میزان مشارکت انسان را اثبات نمی‌کند

OpenAI می‌گوید یافتن واترمارک فقط وجود نشانه‌ای مرتبط با مدل‌های این شرکت را نشان می‌دهد. این نتیجه مشخص نمی‌کند چه مقدار خلاقیت یا ویرایش انسانی در متن به کار رفته، چه کسی مالک آن است، چه کسی مسئول آن است یا محتوایش درست است. همچنین ابزار نمی‌تواند کاربر یا گفت‌وگویی را که متن از آن آمده شناسایی کند.

از سوی دیگر، نبود نتیجه مثبت نیز معنای مشخصی درباره نویسنده ندارد. متن ممکن است بیش از اندازه کوتاه باشد، ویرایش یا ترجمه شده باشد، یا از مدلی آمده باشد که ابزار از آن پشتیبانی نمی‌کند. به همین دلیل، واترمارک بیشتر نشانه‌ای احتمالی برای بررسی منشأ محتواست تا مدرکی قطعی برای تعیین مؤلف یا اصالت آن.

OpenAI می‌گوید فعال‌کردن واترمارک در آزمون‌هایش به کیفیت خروجی آسیب نزده است. شرکت این ارزیابی را با مدل پیشرفته خود، Astra، و در هشت معیار، از جمله GPQA Diamond، BrowseComp و DeepSWE انجام داده و تفاوت عملکرد معناداری میان حالت روشن و خاموش گزارش نکرده است. این آزمایش‌ها به‌تنهایی درباره کیفیت نگارش یا تجربه کاربران داوری نمی‌کنند؛ پرسشی که درباره اثر واترمارک Claude نیز مطرح شده است.

دسترسی محدود به ابزار تشخیص

ابزار تشخیص textGrain در آغاز برای عموم منتشر نمی‌شود. OpenAI می‌گوید پژوهشگران و سازمان‌های تخصصی منتخب می‌توانند درخواست دسترسی بدهند و شرکت هر درخواست را جداگانه، در چارچوب Code of Practice اتحادیه اروپا، بررسی خواهد کرد. ابزار تنها اعلام می‌کند که آیا واترمارک OpenAI را پیدا کرده است یا نه؛ اطلاعاتی درباره کاربر، دستورهای او یا مکالمه در اختیار نمی‌گذارد.

دلیل محدودکردن دسترسی، احتمال خطای ابزار است: ممکن است متن بی‌واترمارک را نشانه‌دار بداند یا واترمارک واقعی را پیدا نکند. شرکت گفته وقتی نتایج را قابل تفسیر مسئولانه بداند، دسترسی را گسترش می‌دهد، اما زمان مشخصی برای این کار اعلام نکرده است. در مقابل، OpenAI می‌گوید ابزارهای فعلی بررسی منشأ تصویر و صوت همچنان در دسترس عموم‌اند.

این خبر برای چه کسانی اهمیت دارد

این تغییر برای کاربران ChatGPT و Codex در اتحادیه اروپا، مشتریان API و سازمان‌هایی که باید منشأ محتوای ماشینی را ارزیابی کنند اهمیت دارد. برای مشتریان API، اختیاری‌بودن واترمارک به معنای کنترل بیشتر بر شیوه استفاده از آن است؛ اما برای پژوهشگران و ناشران، محدودیت‌های تشخیص یادآور آن است که نتیجه ابزار به‌تنهایی معیار مطمئنی برای نسبت‌دادن متن به انسان یا هوش مصنوعی نیست.

در سطح صنعت، متن‌بازشدن textGrain می‌تواند زمینه استفاده دیگران از این فناوری را فراهم کند، هرچند OpenAI هنوز جزئیات زمان انتشار آن را ارائه نکرده است. در عین حال، افت شدید نرخ شناسایی پس از تغییر واژه‌ها نشان می‌دهد چالش اصلی فقط افزودن نشانه نیست؛ حفظ قابلیت تشخیص آن در برابر ویرایش، و تفسیر درست نتیجه، به همان اندازه مهم است.