اختلاف بر سر اخراج سه پژوهشگر ایمنی در OpenAI بالا گرفت

ایمنی OpenAI پس از اخراج سه پژوهشگر مرتبط با بررسی رخنه‌ای در Hugging Face به کانون اختلافی تازه تبدیل شده است؛ پژوهشگران می‌گویند این تصمیم ناگهانی، کارکنان باقی‌مانده را از طرح نگرانی‌های ایمنی می‌ترساند، اما شرکت اخراج‌ها را به نقض سیاست‌های مربوط به اطلاعات حساس نسبت می‌دهد. گزارش The Decoder که روز جمعه ۱۷ مهر ۱۴۰۵ منتشر شد، این مناقشه را در بستری گسترده‌تر از نگرانی درباره نظارت بر عامل‌های هوش مصنوعی و همکاری با ارزیابان بیرونی بررسی می‌کند.

اخراج‌ها و نگرانی از سکوت در تیم ایمنی

سه پژوهشگر اخراج‌شده در نامه‌ای سرگشاده به کمیته ایمنی و امنیت OpenAI، گروه مشورتی ایمنی و شورای مشورتی مأموریت شرکت، گفته‌اند نحوه پایان همکاری آن‌ها باعث ترس در میان همکارانشان شده است. به نوشته آن‌ها، وقتی رفتاری که تا ماه پیش عادی تلقی می‌شد ناگهان می‌تواند دلیل اخراج باشد، کارکنان نمی‌دانند مرزهای مجاز کجاست.

تومک کورباک، یکی از این پژوهشگران، در شبکه اجتماعی X روایت کرده که به جلسه‌ای با مدیر بخش ایمنی فراخوانده شده و به او گفته‌اند دیگر به وی اعتماد ندارند. به گفته کورباک، نگهبان امنیتی کارت ورودش را گرفت و او را از ساختمان بیرون برد. بعدتر فهمید همکارانش، جاسمن وانگ و میکیتا بالسنای، نیز اخراج شده‌اند.

کرباک و بالسنای در بررسی رخنه مرتبط با Hugging Face مشارکت داشتند. کورباک رابط فنی اصلی OpenAI با METR بود؛ آزمایشگاه ایمنی بیرونی که این رخداد را بررسی کرد. بالسنای نیز روی تعهدهای مشترک صنعت درباره نظارت‌پذیری مدل‌های هوش مصنوعی کار می‌کرد.

وانگ، بنا بر گزارش، به دلیل دیگری اخراج شد. او برای امور استخدامی به صندوق ایمیل یکی از مدیران دسترسی تفویض‌شده داشت؛ بخش فناوری اطلاعات با وجود درخواست او، این دسترسی را حذف نکرده بود. وانگ می‌گوید پس از باز کردن تصادفی یک ایمیل حساس، موضوع را ظرف چند دقیقه گزارش کرد.

ایمنی OpenAI و اهمیت نظارت‌پذیری مدل‌ها

کرباک می‌گوید به‌صورت شفاهی به او گفته شده دلیل اخراج، نحوه ارتباطش با METR بوده است؛ اما به گفته او، کسی دقیقاً توضیح نداده چه کاری اشتباه بوده و چیزی هم به‌صورت مکتوب ارائه نشده است. او در X نوشته ارتباط با METR بخشی از وظایفش بوده است. OpenAI درباره این جزئیات پاسخ مشخصی نداده است.

کرباک همچنین ادعا کرده ماه‌ها در داخل شرکت درباره کاهش توانایی نظارت بر آنچه عامل‌های هوش مصنوعی «فکر می‌کنند» هشدار می‌داده است. منظور از نظارت‌پذیری زنجیره فکر، در این بحث، امکان بررسی روندهای درونی یا ردپاهای استدلالی مدل برای شناسایی رفتارهای نامطلوب است. او این نگرانی را دلیل واقعی اخراج خود می‌داند؛ این برداشت، ادعای اوست و در پاسخ OpenAI تأیید نشده است.

سه پژوهشگر هرگونه نقش داشتن در افشای اطلاعات به The Information درباره معماری‌های جدید و کم‌نظارت‌پذیر را رد کرده‌اند. به گفته آن‌ها، آن گزارش به تلاششان برای شکل‌دادن به محدودیت‌های مشترک صنعت درباره معماری‌هایی که امکان نظارت بر آن‌ها کمتر است آسیب زد.

در نامه آمده است که بررسی رخنه Hugging Face بی‌سابقه بود و دستورالعمل‌های داخلی در همان زمان تدوین می‌شد. پژوهشگران می‌گویند کورباک طبق هنجارهای موجود عمل کرده و بالسنای نیز با اطلاع اعضای هیئت‌مدیره و مدیران ارشد پیش رفته و جزئیات حساس را از اسناد حذف کرده است. آن‌ها همچنین گفته‌اند شایعات مربوط به یادداشتی در سطح هیئت‌مدیره بر فرضی نادرست استوار بوده و فرصتی برای پاسخ‌گویی درباره موضوع نداشته‌اند.

درخواست پژوهشگران و پاسخ OpenAI

پژوهشگران سه خواسته مطرح کرده‌اند: OpenAI به تعهد عمومی خود برای حضور حسابرسان ایمنی بیرونی، از جمله METR، با دسترسی در سطح کارکنان عمل کند؛ امکان نظارت بر مدل‌های پیشرفته را حفظ کند؛ و قواعد همکاری کارکنان با گروه‌های ایمنی بیرونی را روشن سازد. به باور آن‌ها، اگر این چارچوب‌ها وجود نداشته باشد، ترس کارکنان از بیان نگرانی‌ها می‌تواند خطر پیامدهای فاجعه‌بار را افزایش دهد.

OpenAI در پاسخ گفته است یک «بررسی جامع» نشان داده هر سه نفر سیاست‌های روشن درباره مدیریت اطلاعات حساس را نقض کرده‌اند. شرکت همچنین از «نقض جدی اعتماد» فراتر از مواردی که در نامه آمده سخن گفته، اما جزئیات آن را منتشر نکرده است. OpenAI تأکید کرده اخراج‌ها ارتباطی با مطرح کردن نگرانی‌های ایمنی نداشته و گفته هیچ‌یک از کارکنانش را به این دلیل اخراج نمی‌کند.

در عین حال، شرکت اعلام کرده در حال کار روی قراردادهایی با حسابرسان ایمنی بیرونی است و با این دیدگاه موافق است که نظارت‌پذیری مدل‌های پیشرفته به تعهدی در سطح صنعت نیاز دارد. پاسخ OpenAI، برخلاف نامه پژوهشگران، اطلاعات بیشتری درباره ماهیت تخلف ادعایی ارائه نمی‌کند؛ در نتیجه، علت دقیق اخراج‌ها در روایت دو طرف همچنان محل اختلاف است.

این خبر برای چه کسانی اهمیت دارد

این مناقشه برای پژوهشگران ایمنی هوش مصنوعی، شرکت‌هایی که مدل‌های پیشرفته می‌سازند و نهادهای ارزیاب بیرونی اهمیت دارد؛ زیرا نشان می‌دهد کیفیت نظارت فقط به ابزارهای فنی وابسته نیست و قواعد همکاری، دسترسی حسابرسان و امکان طرح امن نگرانی‌ها نیز در آن نقش دارند. برای کارکنان این حوزه نیز پرسش محوری آن است که آیا می‌توانند درباره خطرهای احتمالی هشدار دهند، بی‌آنکه حدود مجاز ارتباط با همکاران بیرونی مبهم باشد.