استیون پینکر: ایمنی هوش مصنوعی به مهندسی دقیق نیاز دارد، نه هراس آخرالزمانی

استیون پینکر، روان‌شناس دانشگاه هاروارد، در نامه‌ای سرگشاده که به‌تازگی در وب‌سایت Quillette منتشر کرده، استدلال کرده است که نگرانی‌ها درباره نابودی بشر به‌دست هوش مصنوعی بیش از اندازه بزرگ‌نمایی می‌شوند. بااین‌حال، پینکر خطرهای عملی‌تری مانند زیست‌تروریسم، حملات سایبری و عامل‌های هوش مصنوعیِ مهارنشده را جدی می‌گیرد و می‌گوید مقابله با این تهدیدها به مهندسی ایمنی، نظارت مستقل، مسئولیت‌پذیری و حفظ کنترل انسان نیاز دارد. این موضع‌گیری در پاسخ به بحثی درباره خطرهای وجودی هوش مصنوعی مطرح شده است؛ بحثی که اختلاف نظر درباره میزان خطر و شیوه مدیریت آن را برجسته می‌کند.

پینکر با مناظره عمومی موافقت نکرد

نامه پینکر خطاب به اسکات الکساندر، روان‌پزشک و وبلاگ‌نویس تأثیرگذار حوزه فناوری، نوشته شده است. الکساندر پیش‌تر او را به مناظره‌ای علنی درباره خطرهای وجودی هوش مصنوعی دعوت کرده بود. پینکر این دعوت را نپذیرفت و چنین رویدادهایی را نوعی «ورزش تماشاگران» توصیف کرد؛ تعبیری که نشان می‌دهد به‌نظر او مناظره عمومی لزوماً ابزار مناسبی برای بررسی دقیق این موضوع نیست.

اختلاف دو نفر تنها بر سر میزان خطر نیست؛ درباره راه مواجهه با آن نیز تفاوت نظر دارند. الکساندر در نوشته‌ای که ماه ژوئن در وبلاگ خود منتشر کرد، احتمال نابودی بشر به‌دست هوش مصنوعی را ۲۰ درصد برآورد کرد. او همچنین از پژوهش بیشتر در زمینه ایمنی و توافق‌های بین‌المللی برای کندکردن توسعه هوش مصنوعی حمایت می‌کند. پینکر، در مقابل، تمرکز بر سناریوهای آخرالزمانی را برای مدیریت خطرهای ملموس کافی نمی‌داند.

چرا پینکر سناریوهای آخرالزمانی را نقد می‌کند؟

یکی از مثال‌هایی که پینکر به آن می‌پردازد، سناریوی «بیشینه‌ساز گیره کاغذ» است. در این فرض، یک سامانه هوش مصنوعی برای تولید گیره‌های کاغذ تلاش می‌کند و ممکن است در این مسیر به انسان‌ها آسیب بزند یا منابع را از میان ببرد. پینکر می‌گوید چنین نمونه‌هایی ممکن است دو مفهوم متفاوت را با هم خلط کنند: توانایی هوشمندانه برای حل مسئله و میل به سلطه یا غلبه بر دیگران.

از نظر او، این تصویر همچنین به این فرض وابسته است که سامانه هوش مصنوعی با تمرکزی افراطی و تغییرناپذیر، تنها یک هدف را دنبال می‌کند. پینکر این فرض‌ها را در روایت‌های نابودی بشر محل بحث می‌داند. نقد او به معنای بی‌خطر دانستن همه سامانه‌های هوش مصنوعی نیست؛ بلکه بر تفاوت میان پیش‌بینی‌های بسیار دوردست و خطرهایی تأکید دارد که به‌گفته او نیازمند توجه عملی‌اند.

این تمایز برای فهم موضع پینکر اهمیت دارد: او اصل ایمنی را کنار نمی‌گذارد، بلکه با نوع خاصی از بیان خطر مخالفت می‌کند. به‌نظر او، هشدارهای آخرالزمانی به‌تنهایی برنامه‌ای برای پیشگیری از آسیب ارائه نمی‌کنند. از همین رو، ارزیابی خطر باید به سازوکارهایی بپردازد که بتوانند احتمال سوءاستفاده یا از دست‌رفتن کنترل بر سامانه‌ها را کاهش دهند.

پینکر از توانایی مدل‌ها و رفتار شرکت‌ها غافلگیر شد

پینکر پیش‌تر نیز درباره هوش مصنوعی خوش‌بین بوده است، اما در نامه تازه‌اش می‌پذیرد که توانایی مدل‌های زبانی بزرگ را دست‌کم گرفته بود. این مدل‌ها سامانه‌هایی هستند که با پردازش حجم زیادی از داده‌های زبانی، می‌توانند متن تولید کنند و به درخواست‌های زبانی پاسخ دهند. اذعان او نشان می‌دهد که مخالفت با برخی پیش‌بینی‌های آخرالزمانی، لزوماً به معنای کم‌اهمیت دانستن پیشرفت فنی این حوزه نیست.

او همچنین می‌گوید انتظار نداشته شرکت‌های هوش مصنوعی محصولات خود را تا این اندازه بی‌محابا عرضه کنند. به روایت پینکر، نکته تناقض‌آمیز آن است که شتاب در عرضه محصولات را افرادی از همان جامعه‌ای پیش می‌برند که درباره خطرهای جدی هوش مصنوعی هشدار می‌دهند. این مشاهده، توجه را از توانایی نظری سامانه‌ها به تصمیم‌های سازمانی و نحوه عرضه آن‌ها نیز می‌کشاند.

در متن منتشرشده، جزئیات بیشتری درباره شرکت‌ها، محصولات یا نمونه‌های مشخص عرضه شتاب‌زده ارائه نشده است. بنابراین، ادعای پینکر را باید به‌عنوان ارزیابی او از رفتار صنعت خواند، نه گزارشی از یک محصول یا رویداد مشخص. بااین‌حال، پیوندی که او میان نگرانی درباره خطر و رفتار عملی شرکت‌ها مطرح می‌کند، بخش مهمی از استدلالش است: هشدار دادن درباره آینده، اگر با احتیاط در عرضه و سازوکار پاسخ‌گویی همراه نباشد، به‌تنهایی کافی نیست.

از بحث انتزاعی تا مهندسی ایمنی

پینکر سه دسته خطر را مشخصاً جدی می‌گیرد: زیست‌تروریسم، حملات سایبری و عامل‌های هوش مصنوعیِ مهارنشده. عامل هوش مصنوعی به سامانه‌ای گفته می‌شود که می‌تواند برای انجام کارها اقدام کند، نه اینکه فقط به شکل مستقیم به یک پرسش پاسخ بدهد. نگرانی درباره عامل‌های مهارنشده، در این بحث به ضرورت کنترل رفتار سامانه‌ها مربوط است؛ هرچند نامه، جزئیات فنی یا نمونه‌ای مشخص از چنین خطری ارائه نمی‌کند.

راهکاری که پینکر پیشنهاد می‌کند، بر «مهندسی ایمنی» استوار است؛ یعنی طراحی و بررسی سامانه‌ها با هدف کاهش احتمال آسیب، همراه با سازوکارهایی برای نظارت و پاسخ‌گویی. او از نظارت مستقل، مسئولیت حقوقی و کنترل انسانی نام می‌برد. نظارت مستقل به این معناست که ارزیابی ایمنی فقط به خود توسعه‌دهنده واگذار نشود؛ مسئولیت‌پذیری نیز روشن می‌کند که در صورت بروز آسیب، چه کسی باید پاسخ‌گو باشد. کنترل انسانی، در این چارچوب، به حفظ امکان هدایت یا مداخله انسان در کارکرد سامانه‌ها اشاره دارد.

به‌گفته پینکر، لفاظی آخرالزمانی این خطرها را برطرف نمی‌کند. اهمیت این حرف در تمایز میان جلب توجه و حل مسئله است: هشدار عمومی ممکن است بحث را داغ کند، اما برای مهار خطرهای مشخص به قواعد، نظارت و رویه‌های فنی نیاز است. بااین‌حال، متن او سازوکار اجرایی معینی برای نظارت یا مسئولیت‌پذیری تعیین نمی‌کند و بیشتر بر اصول کلی مقابله با خطر تأکید دارد.

در سوی دیگر این اختلاف، الکساندر از پژوهش بیشتر و توافق‌های بین‌المللی برای کندکردن توسعه هوش مصنوعی پشتیبانی می‌کند. این دو رویکرد الزاماً در همه زمینه‌ها متضاد نیستند: هر دو به ایمنی توجه دارند، اما برآوردشان از احتمال فاجعه و ابزارهای اولویت‌دار متفاوت است. نامه پینکر این اختلاف را حل نمی‌کند؛ بلکه نشان می‌دهد گفت‌وگو درباره ایمنی هم به ارزیابی احتمال خطر و هم به انتخاب سیاست‌های عملی وابسته است.

این خبر برای چه کسانی اهمیت دارد

این بحث برای پژوهشگران ایمنی هوش مصنوعی، شرکت‌هایی که مدل‌ها و عامل‌های هوشمند را توسعه می‌دهند، سیاست‌گذاران و کسانی که درباره تنظیم‌گری این فناوری تصمیم می‌گیرند اهمیت دارد. اختلاف پینکر و الکساندر یادآوری می‌کند که اجماع کاملی درباره احتمال نابودی بشر یا بهترین راه کاهش خطر وجود ندارد. در عین حال، هر دو موضع مطرح‌شده بر ضرورت توجه جدی به ایمنی تأکید دارند، هرچند ابزارها و اولویت‌هایشان یکسان نیست.

برای خوانندگان عمومی نیز نکته اصلی، جداکردن نگرانی‌های عملی از سناریوهای فرضی و توجه به شواهد و ادعاهای مشخص است. پینکر می‌گوید خطرهایی مانند حمله سایبری و زیست‌تروریسم باید با اقدام‌های قابل ارزیابی پاسخ داده شوند؛ الکساندر نیز خواهان پژوهش و همکاری بین‌المللی بیشتر است. این دیدگاه‌ها در کنار هم نشان می‌دهند که بحث ایمنی هوش مصنوعی فقط درباره پیش‌بینی آینده نیست، بلکه به چگونگی طراحی، عرضه و نظارت بر سامانه‌های امروز هم مربوط می‌شود.