رهبران فناوری آمریکا به تعهد خودتنظیمی ایمنی هوش مصنوعی پیوستند

تعهد ایمنی هوش مصنوعی با امضای مدیران شش شرکت بزرگ فناوری، به محور تازه‌ای در بحث سیاست‌گذاری آمریکا تبدیل شده است؛ توافقی داوطلبانه که به‌جای وضع مقررات فدرال، از شرکت‌ها می‌خواهد بر توسعه فناوری خود نظارت کنند. دونالد ترامپ، رئیس‌جمهور آمریکا، روز سه‌شنبه پس از دیدار و صرف غذا با مدیران فناوری از این طرح حمایت کرد و گفت «باهوش‌ترین افراد جهان» مراقب یکدیگر خواهند بود. با این حال، در گزارش این توافق ضمانت اجرایی روشنی برای نقض تعهد دیده نمی‌شود؛ مسئله‌ای که پرسش‌هایی درباره میزان اثرگذاری آن بر ایمنی ایجاد می‌کند.

تعهد ایمنی هوش مصنوعی بر خودتنظیمی شرکت‌ها تکیه دارد

عنوان توافق امضاشده «تعهد مشترک درباره مسئولیت‌های مرزی» است؛ منظور از «مرزی» در اینجا پیشرفته‌ترین فناوری‌های هوش مصنوعی است. این تعهد از سوی مدیران Google، Anthropic، Meta، OpenAI، xAI و Nvidia امضا شده است: ساندار پیچای، داریو آمودی، مارک زاکربرگ، گرگ براکمن، ایلان ماسک و جنسن هوانگ.

توافق، که به‌عنوان تعهدی «از نظر اخلاقی الزام‌آور» معرفی شده، شرکت‌ها را به خودتنظیمی بر پایه راهنماهای مشترک و به‌اصطلاح عقل سلیم فرامی‌خواند. خودتنظیمی یعنی شرکت‌ها به‌جای آنکه قواعد اصلی را قانون‌گذار تعیین و اجرا کند، مسئولیت تدوین و پیگیری استانداردهای رفتاری را خود بر عهده بگیرند. در عین حال، در گزارش منتشرشده پیامد مشخصی برای شرکتی که از تعهد سرپیچی کند مطرح نشده است.

این توافق در شرایطی مطرح شده که انتظار وضع مقررات فدرال الزام‌آور در این نشست برآورده نشد. ترامپ نگرانی‌ها درباره کمبود نظارت دولتی را با اشاره به رقابت آمریکا و چین پاسخ داد و گفت شرکت‌های آمریکایی در این رقابت «پیشتاز» هستند. موضع او بر این ایده تکیه داشت که همکاری و نظارت میان شرکت‌ها می‌تواند جایگزین بخشی از مداخله دولت شود؛ اما خود تعهد توضیح نمی‌دهد در صورت اختلاف بر سر اجرای راهنماها یا تخطی از آن‌ها چه سازوکاری فعال خواهد شد.

مدیران از توافق استقبال کردند و آن را نقطه شروع خواندند

مدیران حاضر در نشست، در اظهاراتی که به درخواست ترامپ مطرح شد، این توافق را گامی مثبت برای پیشبرد فناوری و کاهش نگرانی‌های عمومی درباره ایمنی هوش مصنوعی توصیف کردند. گرگ براکمن، مدیر OpenAI، گفت هدف توافق آن است که مردم و مشتریان اطمینان پیدا کنند فناوری به شکلی عمل می‌کند که شرکت‌ها در نظر دارند. او همچنین این توافق را آغاز راه دانست، نه آخرین اقدام صنعت، و از آن به‌عنوان گامی معنادار و تاریخی یاد کرد.

مارک زاکربرگ بر کاربردهای احتمالی این فناوری تأکید کرد. به گفته او، هوش مصنوعی می‌تواند به کسب‌وکارهای کوچک، پیشرفت‌های علمی و توسعه دارو کمک کند و در نهایت زندگی مردم را بهبود دهد. او توافق شرکت‌ها را راهی برای حرکت رو به جلو با تأکید بر ایمنی دانست. این اظهارات، مانند دیگر سخنان مدیران، بیشتر بر فرصت‌های فناوری و اهمیت همکاری تأکید داشت تا بر جزئیات اجرایی تعهد.

جنسن هوانگ از تحول صنعتی و زیرساختی گسترده‌ای گفت که به‌زعم او، هوش مصنوعی در حال رقم زدن آن است. او ادعا کرد این صنعت در آمریکا یک میلیون شغل ایجاد می‌کند؛ رقمی که در سخنان او مطرح شد. هوانگ گفت میان نوآوری و ایمنی تضادی وجود ندارد و توسعه فناوری‌های تازه برای ایمن‌تر کردن هوش مصنوعی نیز باید بخشی از پیشرفت صنعت باشد. او مدیران حاضر را تصویری از حرکت هماهنگ شرکت‌ها دانست و بر مسئولانه پیش بردن فناوری تأکید کرد.

اختلاف بر سر فرصت‌ها و خطرهای هوش مصنوعی

پیچای گفت هوش مصنوعی می‌تواند به رشد اقتصادی کمک کند، اما شرکت‌ها باید خطرهای آن را نیز جدی بگیرند. او افزود ترامپ از صنعت خواسته است مسئولیت بیشتری بپذیرد و شرکت‌ها قصد دارند محصولات را ایمن عرضه کنند. این موضع، میان وعده استفاده از فرصت‌های اقتصادی و پذیرش وجود خطرها پیوند برقرار می‌کرد، ولی در سخنان نقل‌شده جزئیات مشخصی درباره چگونگی سنجش یا مهار این خطرها ارائه نشد.

ایلان ماسک در سخنانش تصویری خوش‌بینانه‌تر از پیامدهای بلندمدت ترسیم کرد. او از «عصر فراوانی» گفت و احتمال داد ترکیب ربات‌ها و هوش مصنوعی بسیار پیشرفته بتواند دسترسی مردم به خدمات پزشکی بهتر را گسترش دهد. وقتی خبرنگاری به نگرانی درباره از دست رفتن شغل‌ها اشاره کرد، ماسک پاسخ داد که مشاغل در طول تاریخ تغییر کرده‌اند و نقش‌های کاری نیز با تحول فناوری دگرگون خواهند شد. او این تغییر را تکامل مشاغل توصیف کرد، نه دلیلی برای بازگشت به کارهای گذشته.

در بخشی از نشست، ترامپ بارها هوانگ را «بسیار خوش‌قیافه» خواند و هنگام معرفی پیچای با لحنی متفاوت گفت مردم نمی‌دانند مدیران حاضر چه کسانی هستند، اما پیچای فردی بسیار مهم است. پیچای ظاهراً از این شوخی چندان خرسند نبود و با خنده‌ای معذب واکنش نشان داد. این لحظه، هرچند بیرون از بحث اصلی ایمنی بود، فضای نمایشی نشست و حضور مدیران شرکت‌ها در کنار رئیس‌جمهور را برجسته کرد.

در اظهارات پایانی نقل‌شده، یکی از مدیران گفت فواید هوش مصنوعی چشمگیر است، اما خطرهای آن نیز واقعی‌اند و هنوز درباره شیوه رسیدگی به آن‌ها بحث ادامه دارد. او بر لزوم همکاری برای رقابت موفق و ایمن تأکید کرد. این نکته با خوش‌بینی مدیران درباره رشد، خدمات پزشکی و اشتغال هم‌زمان بود و نشان می‌داد توافق کلی بر سر اهمیت ایمنی، لزوماً به معنای توافق درباره روش‌های عملی یا سنجش‌پذیر آن نیست.

توافق چه چیزی را حل نمی‌کند؟

تعهد مشترک می‌تواند راهی برای هماهنگی شرکت‌ها و بیان عمومی مسئولیت‌پذیری باشد، اما تفاوت میان تعهد اخلاقی و الزام قانونی اهمیت دارد. در توافقی که در این نشست معرفی شد، شرکت‌ها قرار است فناوری خود را با راهنماهای مشترک مدیریت کنند؛ با این حال، گزارش از سازوکار تنبیهی مشخصی برای اجرا نشدن این وعده‌ها خبر نمی‌دهد. بنابراین روشن نیست چه نهادی بر پایبندی شرکت‌ها نظارت می‌کند، چگونه می‌توان اجرای تعهد را ارزیابی کرد یا در صورت بروز تخلف چه اتفاقی می‌افتد.

همچنین، سخنان مدیران بیشتر درباره اهمیت کلی ایمنی و فواید هوش مصنوعی بود و اطلاعاتی درباره شاخص‌های مشترک، فرایند گزارش‌دهی یا جزئیات آزمون سامانه‌ها ارائه نمی‌کرد. نبود این جزئیات در گزارش به این معنا نیست که هیچ اقدام دیگری در شرکت‌ها انجام نمی‌شود؛ اما نشان می‌دهد این تعهد به‌تنهایی تصویری کامل از روش نظارت و پاسخ‌گویی به دست نمی‌دهد. در عمل، میزان اثرگذاری توافق به چگونگی تبدیل وعده‌های عمومی به رفتار قابل بررسی شرکت‌ها وابسته خواهد بود.

از سوی دیگر، پاسخ ترامپ درباره رقابت با چین، بحث ایمنی را در کنار رقابت صنعتی و ملی قرار داد. مدیران نیز از رشد اقتصادی، زیرساخت و ایجاد شغل سخن گفتند. این اولویت‌ها می‌توانند با هدف کاهش خطرها هم‌زمان دنبال شوند، اما توافقی که جزئیات اجرایی آن روشن نیست، هنوز نشان نمی‌دهد چگونه میان سرعت توسعه فناوری و احتیاط در برابر پیامدهای آن توازن برقرار می‌شود.

این خبر برای چه کسانی اهمیت دارد

این توافق برای کاربران هوش مصنوعی اهمیت دارد، چون تصمیم‌های شرکت‌ها درباره آزمایش، عرضه و نظارت بر سامانه‌ها می‌تواند بر ایمنی محصولات روزمره اثر بگذارد. برای قانون‌گذاران و نهادهای ناظر نیز پرسش اصلی این است که آیا تعهد داوطلبانه شرکت‌ها کفایت می‌کند یا به قواعد الزام‌آور و نظارت بیرونی نیاز است. سرمایه‌گذاران و کسب‌وکارهایی که به ابزارهای هوش مصنوعی وابسته‌اند نیز باید به تفاوت میان وعده‌های کلی و سازوکارهای قابل سنجش توجه کنند.

در حال حاضر، خبر اصلی نه وضع یک قانون تازه، بلکه توافق مدیران شرکت‌ها بر سر خودنظارتی است. امضای شش مدیر ارشد می‌تواند نشانه‌ای از تمایل صنعت به نمایش همکاری باشد؛ اما بدون روشن شدن شیوه اجرا و پاسخ‌گویی، هنوز نمی‌توان آن را معادل تضمین عملی ایمنی دانست.