توافق ایمنی هوش مصنوعی کاخ سفید؛ تعهدهایی داوطلبانه و بدون ضمانت اجرایی گسترده

توافق ایمنی هوش مصنوعی کاخ سفید که مدیران Google، Anthropic، Meta، OpenAI، xAI و Nvidia روز سه‌شنبه امضا کردند، شرکت‌ها را به تقویت نظارت بر مدل‌های پیشرفته و بررسی مستقل ایمنی آن‌ها تشویق می‌کند؛ اما این تعهد داوطلبانه، آن مقررات فراگیری نیست که برخی فعالان این صنعت خواستار آن بوده‌اند. این توافق پس از ضیافتی با حضور دونالد ترامپ اعلام شد و در زمانی مطرح می‌شود که بحث درباره حدود مسئولیت شرکت‌های هوش مصنوعی و نقش دولت آمریکا ادامه دارد.

توافق ایمنی هوش مصنوعی چه تعهدهایی دارد؟

بر اساس متن بیانیه‌ای که WIRED گزارش کرده، شرکت‌ها «باید» چند اقدام را دنبال کنند. نخست، آن‌ها باید کنترل‌های داخلی مؤثری برقرار کنند تا توانایی‌های مدل‌هایشان را زیر نظر بگیرند. این پایش، طبق متن توافق، باید به این پرسش هم بپردازد که آیا مدل ممکن است از کنترل خارج شود یا ناخواسته به هک‌کردن سامانه‌ها دست بزند.

دومین محور، تعیین گروهی در داخل هر شرکت است که مسئول انجام این کار باشد و در صورت بروز مشکل برای اصلاح آن اقدام کند. این بند بر وجود مسئولیت سازمانی تأکید دارد: پایش ایمنی قرار نیست صرفاً به یک وعده کلی محدود بماند، بلکه باید گروهی مشخص در شرکت اختیار پیگیری و واکنش داشته باشد.

سوم، بیانیه شرکت‌ها را به همکاری با یک ناظر بیرونی تشویق می‌کند. این ناظر باید اختیار ارزیابی مستقل را داشته باشد تا بررسی کند آیا کارهای ایمنی مورد تعهد واقعاً انجام می‌شوند یا نه. ارزیابی مستقل، در این معنا، بررسی‌ای است که به گروه داخلی شرکت محدود نمی‌ماند و فرد یا نهادی بیرون از آن نیز در سنجش اقدامات نقش دارد.

در نهایت، توافق از شرکت‌ها می‌خواهد مطمئن شوند هیئت‌مدیره آن‌ها کمیته‌ای برای دریافت گزارش‌های مربوط به این اقدامات تشکیل داده است. بنابراین متن، چند سطح نظارت را کنار هم قرار می‌دهد: پایش توانایی مدل، انجام کار به‌دست یک گروه داخلی، بررسی بیرونی و اطلاع‌رسانی به بخشی از ساختار مدیریتی شرکت.

تعهد داوطلبانه با مقررات دولتی یکی نیست

تفاوت اصلی این توافق با یک قانون الزام‌آور، در ماهیت داوطلبانه و زبان توصیه‌ای آن است. متن می‌گوید شرکت‌ها «باید» این اقدام‌ها را اجرا کنند، اما گزارش WIRED آن را توافقی داوطلبانه توصیف می‌کند، نه مجموعه‌ای از مقررات جامع که دولت برای تمام شرکت‌ها وضع کرده باشد. ازاین‌رو امضا، به‌خودی‌خود به معنای شکل‌گیری نظام نظارتی فراگیر یا ضمانت اجرای گسترده نیست.

دونالد ترامپ این ابتکار را نمونه‌ای از «خودتنظیم‌گری عظیم» خواند. بااین‌حال، به ارزیابی WIRED، توافق از انتظارات کسانی که خواهان چارچوبی گسترده‌تر برای تنظیم هوش مصنوعی هستند فاصله دارد؛ حتی در میان افرادی از خود شرکت‌ها که خواستار مقررات بوده‌اند. خودتنظیم‌گری یعنی شرکت‌ها برای مدیریت بخشی از خطرهای فعالیتشان به تعهدها و سازوکارهای داخلی تکیه کنند، به‌جای آنکه همه جزئیات از راه مقررات دولتی تعیین شود.

این تفاوت در ارزیابی میزان پاسخ‌گویی اهمیت دارد. وجود کمیته، گروه داخلی یا ناظر بیرونی می‌تواند در ظاهر ساختاری برای پیگیری تعهدها ایجاد کند، اما متن گزارش‌شده مشخص نمی‌کند که در صورت اجرا نشدن آن‌ها چه پیامدی در انتظار شرکت‌ها خواهد بود. بنابراین نباید امضای توافق را با اثبات اجرای موفق یا مستقل این اقدام‌ها یکی دانست.

WIRED همچنین می‌نویسد که عمل‌نکردن به تعهدهای عمومی ممکن است در برخی شرایط مصداق دروغ‌گویی غیرقانونی به مصرف‌کنندگان تلقی شود. اما این احتمال، به‌تنهایی به معنای آن نیست که نقض توافق الزاماً اصلاحات گسترده‌ای را در پی خواهد داشت. این نکته، محدودیت اتکا به وعده‌های عمومی را برجسته می‌کند: حتی اگر برای برخی ادعاهای نادرست پیامد قانونی مطرح باشد، چنین پیامدی با یک نظام جامع برای تنظیم صنعت تفاوت دارد.

نظارت دولتی همچنان در دستور کار است

اعلام توافق به‌منزله تأیید همه‌جانبه عملکرد شرکت‌ها از سوی دولت آمریکا نیست. بر اساس گزارش WIRED، پس از انتشار خبر توافق معلوم شد که کمیسیون تجارت فدرال آمریکا، FTC، قصد دارد چند شرکت هوش مصنوعی را درباره مسائل احتمالی مرتبط با حمایت از مصرف‌کننده بررسی کند. گزارش جزئیاتی درباره شرکت‌های مورد بررسی یا نتیجه احتمالی این اقدام ارائه نمی‌دهد.

هم‌زمانی این دو موضوع مهم است: از یک طرف، شرکت‌ها وعده داده‌اند برای ایمنی مدل‌هایشان سازوکارهای داخلی و ارزیابی بیرونی داشته باشند؛ از طرف دیگر، امکان بررسی دولتی درباره مسائل مصرف‌کننده همچنان مطرح است. در نتیجه، توافق را نمی‌توان به‌تنهایی نشانه پایان نظارت دولت یا صدور مجوز کلی برای فعالیت شرکت‌ها دانست.

این بیانیه حاصل چند هفته بحث درباره تنظیم‌گری هوش مصنوعی است. طبق گزارش WIRED، شرکت‌های پیشرو در توسعه مدل‌های هوش مصنوعی همچنین خواستار معافیت ضدانحصار شده بودند تا بتوانند بدون نظارت مقرراتی با یکدیگر درباره ایمنی همکاری کنند. کارشناسان و فعالان حقوق رقابت، به روایت این نشریه، گفته‌اند چنین معافیتی ضروری نیست؛ از جمله این استدلال که نابودی انسان‌ها، اگر اقدامی برای جلوگیری از آن صورت نگیرد، می‌تواند رفتاری ضد رقابتی تلقی شود، زیرا انسان‌ها بخش جدایی‌ناپذیر هر بازار هستند.

این بحث به یک تنش مهم اشاره دارد: همکاری میان شرکت‌ها می‌تواند برای رسیدگی به خطرهای مشترک مفید باشد، اما هماهنگی شرکت‌های رقیب نیز پرسش‌هایی درباره رقابت و نظارت ایجاد می‌کند. گزارش موجود جزئیات بیشتری درباره پیشنهاد معافیت یا موضع رسمی هر شرکت ارائه نمی‌دهد؛ بنابراین نمی‌توان از آن نتیجه گرفت که توافق تازه این اختلاف را حل کرده است.

سابقه تعهدهای داوطلبانه و پرسش درباره اجرا

توافق تازه نخستین‌بار نیست که شرکت‌های هوش مصنوعی درباره ایمنی به دولت‌ها تعهد می‌دهند. WIRED یادآوری می‌کند که بریتانیا و جمهوری کره در اوایل سال ۲۰۲۵ مجموعه‌ای از «تعهدهای ایمنی هوش مصنوعی پیشرفته» را اعلام کردند. در آن تعهدها، شرکت‌ها از جمله وعده داده بودند مدل‌هایشان را در داخل و خارج از شرکت برای شناسایی تهدیدهای شدید و تازه آزمایش کنند و برای تبادل اطلاعات درباره مسائل ایمنی تلاش کنند.

آزمایش تیم قرمز، که در تعهدهای پیشین به آن اشاره شده، به ارزیابی‌ای گفته می‌شود که در آن گروهی می‌کوشد ضعف‌ها یا خطرهای احتمالی یک سامانه را پیدا کند. اهمیت این سابقه در آن است که اعلام تعهدهای عمومی به‌تنهایی تازه نیست؛ پرسش همیشگی این است که این وعده‌ها چگونه به کار روزمره شرکت‌ها تبدیل می‌شوند و چه کسی می‌تواند اجرای آن‌ها را بسنجد.

گزارش WIRED می‌گوید Google، Anthropic، Meta، OpenAI، xAI و Nvidia به درخواست این نشریه برای اظهارنظر پاسخ ندادند و کاخ سفید نیز بلافاصله واکنشی ارائه نکرد. نبود پاسخ فوری، اطلاعاتی درباره نظر شرکت‌ها یا دولت درباره انتقادها فراهم نمی‌کند؛ اما به این معناست که در گزارش منتشرشده، توضیح مستقلی از امضاکنندگان درباره نحوه اجرای تعهدها ارائه نشده است.

در مجموع، توافق کاخ سفید چارچوبی برای چند سازوکار ایمنی پیشنهاد می‌کند، اما دامنه و اثر آن را باید با توجه به داوطلبانه‌بودنش سنجید. ارزش عملی آن به این بستگی دارد که کنترل‌های داخلی واقعاً برقرار شوند، ارزیابی بیرونی استقلال و اختیار کافی داشته باشد و هیئت‌مدیره گزارش‌ها را دریافت کند. متن منتشرشده وعده‌هایی را ثبت می‌کند، نه نتیجه اجرای آن‌ها را.

این خبر برای چه کسانی اهمیت دارد

این توافق برای کاربران ابزارهای هوش مصنوعی اهمیت دارد، چون وعده‌های شرکت‌ها درباره کنترل مدل‌ها و واکنش به مشکلات می‌تواند بر اعتماد عمومی اثر بگذارد. برای مدیران شرکت‌ها و سرمایه‌گذاران نیز مهم است، زیرا نشان می‌دهد ایمنی هوش مصنوعی تنها موضوعی فنی نیست و به ساختارهای مدیریتی و نظارت بیرونی هم گره خورده است.

برای سیاست‌گذاران و مدافعان حقوق مصرف‌کننده، نکته محوری فاصله میان تعهد داوطلبانه و الزام قانونی است؛ به‌ویژه در شرایطی که FTC قصد بررسی چند شرکت را دارد. این توافق همچنین برای پژوهشگران ایمنی و رقابت اهمیت دارد، چون پرسش‌های حل‌نشده‌ای درباره ارزیابی مستقل، همکاری شرکت‌های رقیب و میزان پاسخ‌گویی در صورت اجرا نشدن وعده‌ها باقی می‌گذارد.