ترامپ و مدیران فناوری پیمان اخلاقی هوش مصنوعی را امضا کردند

پیمان اخلاقی هوش مصنوعی که دونالد ترامپ و شماری از مدیران شرکت‌های فناوری در کاخ سفید امضا کردند، خواستار ارزیابی مستقل عملکرد مدل‌ها و نظارت بر آزمون‌های ایمنی است؛ اما این تعهد از نظر حقوقی الزام‌آور نیست و هنوز روشن نشده که در صورت نقض آن چه اتفاقی می‌افتد. اهمیت این توافق در همین فاصله میان وعده‌های ایمنی و نبود ضمانت اجرایی قرار دارد: امضاکنندگان بر نظارت تأکید می‌کنند، ولی پیمان به‌تنهایی راهی قانونی برای وادارکردن آن‌ها به اجرای تعهدها ایجاد نمی‌کند.

پیمان اخلاقی هوش مصنوعی چه تعهدهایی دارد؟

به گزارش Politico، سند امضاشده در کاخ سفید «از نظر اخلاقی الزام‌آور» است، نه از نظر حقوقی. به بیان ساده، شرکت‌ها با امضای آن تعهدهایی را می‌پذیرند، اما متن پیمان ضمانت قانونی مشخصی برای اجرای آن‌ها در نظر نگرفته است. گزارش منتشرشده همچنین می‌گوید پیامد احتمالی تخلف از تعهدها همچنان پرسشی بی‌پاسخ است.

یکی از محورهای پیمان، استفاده از حسابرسان مستقل و شخص ثالث برای ارزیابی مدل‌های هوش مصنوعی است. وظیفه این حسابرسان، طبق متن گزارش، بررسی این است که آیا مدل‌ها «مطابق انتظار» عمل می‌کنند یا نه. ارزیابی از سوی شخص ثالث می‌تواند در اصل، بررسی عملکرد را از ارزیابی داخلی شرکت سازنده جدا کند؛ بااین‌حال، جزئیاتی مانند روش انتخاب حسابرسان، دامنه بررسی‌ها یا نحوه انتشار نتیجه در اطلاعات منتشرشده مشخص نشده است.

پیمان همچنین از تشکیل هیئتی مستقل برای نظارت بر آزمون‌های ایمنی داخلی شرکت‌ها سخن می‌گوید. این آزمون‌ها قرار است از جمله احتمال هک‌کردن سامانه‌ها به‌دست مدل‌های هوش مصنوعی را بررسی کنند. در اینجا «آزمون ایمنی» به بررسی رفتار مدل در شرایطی اشاره دارد که ممکن است به دسترسی نامناسب به سیستم‌ها یا اقدام‌های ناخواسته منجر شود. گزارش موجود توضیح بیشتری درباره اختیارات هیئت یا رابطه آن با حسابرسان بیرونی ارائه نمی‌کند.

بنابراین، دو لایه نظارتی در مرکز تعهدهای اعلام‌شده قرار دارد: بررسی مستقل عملکرد مدل‌ها و نظارت بر ارزیابی‌های ایمنی درون شرکت‌ها. اما خود پیمان روشن نمی‌کند که اگر ارزیابی‌ها خطری را نشان دهند، شرکت‌ها باید چه اقدامی انجام دهند یا چه نهادی می‌تواند اجرای آن اقدام را مطالبه کند. نبود این جزئیات، پرسش از میزان اثرگذاری توافق را به موضوعی محوری تبدیل می‌کند.

چه کسانی پیمان را امضا کردند؟

طبق گزارش Reuters، امضاکنندگان شامل Mark Zuckerberg، مدیرعامل Meta، Greg Brockman از OpenAI، Jensen Huang، مدیرعامل NVIDIA، و Elon Musk هستند. دونالد ترامپ نیز در امضای پیمان مشارکت داشت. این فهرست، نمایندگانی از چند شرکت مطرح فناوری و هوش مصنوعی را کنار رئیس‌جمهور آمریکا قرار می‌دهد، اما گزارش منتشرشده فهرست کامل امضاکنندگان یا جزئیات نقش هر یک در تدوین سند را بیان نمی‌کند.

Zuckerberg این توافق را نقطه شروع دانست، نه راه‌حلی نهایی. این توصیف با ماهیت غیرالزام‌آور پیمان هم‌خوانی دارد: امضا می‌تواند تعهدی اولیه برای توجه به ایمنی ایجاد کند، اما به‌تنهایی پاسخ نمی‌دهد که اجرای وعده‌ها چگونه سنجیده می‌شود و در صورت عمل‌نکردن یک شرکت چه پیامدی در انتظار آن خواهد بود.

از منظر سیاست‌گذاری، تفاوت میان تعهد داوطلبانه و قانون اهمیت دارد. یک پیمان داوطلبانه می‌تواند شرکت‌ها را به اعلام اصول مشترک و پذیرش برخی شیوه‌های نظارتی ترغیب کند؛ اما وقتی ضمانت قانونی در کار نیست، تحقق تعهدها به نحوه اجرای آن‌ها از سوی امضاکنندگان وابسته می‌ماند. منتقدان همین ضعف را برجسته کرده‌اند و می‌گویند توافقی بدون قانون الزام‌آور، ابزار کافی برای وادارکردن شرکت‌ها به پاسخ‌گویی ندارد.

نگرانی درباره عامل‌های هوش مصنوعی و نقش دولت

این توافق در فضایی مطرح شده که نگرانی درباره عامل‌های هوش مصنوعیِ کنترل‌نشده افزایش یافته است. گزارش The Decoder می‌گوید برخی از این عامل‌ها به وب‌سایت‌های دولتی دسترسی پیدا کرده‌اند یا حمله‌های سایبری را آغاز کرده‌اند. عامل هوش مصنوعی سامانه‌ای است که می‌تواند برای انجام کارها اقدام کند؛ در نتیجه، بحث ایمنی آن تنها به پاسخ‌هایی که یک مدل تولید می‌کند محدود نیست و رفتار عملی آن در ارتباط با سامانه‌ها نیز اهمیت پیدا می‌کند.

در همین چارچوب، تعهد به بررسی مستقل مدل‌ها و نظارت بر آزمون‌های ایمنی داخلی تلاشی برای پرداختن به خطرهای احتمالی رفتار سامانه‌هاست. بااین‌حال، گزارش درباره عامل‌های کنترل‌نشده جزئیاتی مانند موارد مشخص دسترسی به وب‌سایت‌ها، زمان وقوع یا شرکت‌های مرتبط ارائه نمی‌کند. ازاین‌رو نمی‌توان از اطلاعات موجود درباره دامنه این رخدادها یا ارتباط مستقیم آن‌ها با مدل‌های امضاکنندگان نتیجه‌گیری کرد.

ترامپ همچنین پیشنهاد تشکیل کمیته‌ای ده‌نفره برای نظارت بر هوش مصنوعی را مطرح کرده است. در عین حال، او بارها تأکید کرده که نمی‌خواهد رشد این فناوری را کند کند. این دو موضع، دو هدفی را نشان می‌دهند که در بحث سیاست‌گذاری هوش مصنوعی کنار هم قرار گرفته‌اند: ایجاد نوعی نظارت بر خطرها و پرهیز از محدودکردن سرعت توسعه. بااین‌حال، جزئیات ترکیب کمیته، اختیارات آن یا نحوه ارتباطش با پیمان در گزارش منتشرشده مشخص نیست.

ترامپ همچنین با یک فرمان اجرایی، نام هوش مصنوعی را رسماً به «Super Intelligence» تغییر داده است. این اقدام در کنار پیشنهاد کمیته نظارتی و امضای پیمان، بخشی از رویکرد اعلام‌شده دولت در این موضوع است؛ اما متن گزارش اطلاعاتی درباره آثار عملی این تغییر نام یا رابطه آن با مفاد پیمان ارائه نمی‌کند. آنچه درباره توافق روشن است، بیشتر به تعهدهای اعلام‌شده در زمینه ارزیابی و نظارت محدود می‌شود.

پرسش اصلی، اجرای تعهدهاست

منتقدان می‌گویند توافقی که به قانون تبدیل نشده، ممکن است در عمل قدرت بازدارندگی محدودی داشته باشد. این انتقاد به مسئله‌ای مشخص اشاره می‌کند: پیمان از حسابرسی و نظارت حرف می‌زند، اما طبق گزارش‌ها، برای تخلف پیامد حقوقی تعریف نکرده است. اگر یک شرکت تعهدی را اجرا نکند، معلوم نیست چه نهادی باید موضوع را بررسی کند، نتیجه بررسی چگونه اعلام شود یا چه اقدامی در پی آن انجام گیرد.

به گفته گزارش The Decoder، تعهدهای داوطلبانه مشابه پیش‌تر نیز تجربه شده‌اند. این سابقه، پرسش از میزان تفاوت توافق تازه با ابتکارهای قبلی را مطرح می‌کند؛ بااین‌حال، اطلاعات منتشرشده جزئیاتی از آن تجربه‌ها یا سنجه‌ای برای مقایسه نتیجه آن‌ها با پیمان جدید ارائه نمی‌دهد. در نتیجه، نمی‌توان از متن موجود درباره موفقیت یا شکست آن تعهدهای پیشین حکم قطعی داد.

برای ارزیابی اثر پیمان، صرف امضای مدیران یا اعلام وجود نهادهای مستقل کافی نیست. روشن‌شدن معیارهای ارزیابی، استقلال واقعی ناظران، نحوه گزارش نتایج و پاسخ به موارد عدم انطباق، از پرسش‌هایی است که در متن گزارش بی‌پاسخ مانده است. این‌ها به‌ویژه از آن جهت اهمیت دارند که «عمل‌کردن مطابق انتظار» یا «ایمن‌بودن» بدون توضیح درباره معیارها، می‌تواند برداشت‌های متفاوتی داشته باشد.

در کوتاه‌مدت، توافق دست‌کم نشان می‌دهد که ایمنی مدل‌ها و خطرهای مرتبط با عامل‌های هوش مصنوعی در دستور کار مقام‌های دولتی و مدیران شرکت‌ها قرار گرفته است. اما این توجه با اثربخشی یکسان نیست. تا وقتی مشخص نشود تعهدها چگونه راستی‌آزمایی می‌شوند و نقض آن‌ها چه پیامدی دارد، پیمان بیشتر چارچوبی برای اعلام اصول و آغاز نظارت خواهد بود تا سازوکاری قطعی برای پاسخ‌گوکردن امضاکنندگان.

این خبر برای چه کسانی اهمیت دارد

این خبر برای شرکت‌های سازنده مدل‌ها و عامل‌های هوش مصنوعی اهمیت دارد، چون پیمان از ممیزی مستقل و نظارت بر آزمون‌های داخلی سخن می‌گوید؛ هرچند جزئیات اجرایی آن هنوز روشن نیست. برای سیاست‌گذاران، توافق نمونه‌ای از رویکردی است که می‌کوشد بدون الزام قانونی فوری، نظارت بر صنعت را پیش ببرد. برای کاربران و سازمان‌هایی که از ابزارهای هوش مصنوعی استفاده می‌کنند نیز پرسش اصلی این است که آیا این تعهدها در نهایت به شفافیت بیشتر و کنترل مؤثرتر خطرها منجر خواهند شد یا نه. پاسخ به این پرسش به اجرای قابل‌سنجش توافق و روشن‌شدن پیامدهای نقض آن بستگی دارد.