تیم‌نیت گبرو: روایت خطر وجودی هوش مصنوعی توجه را منحرف می‌کند

تیم‌نیت گبرو، پژوهشگر شناخته‌شده هوش مصنوعی، در گفت‌وگویی با WIRED روایت تهدید وجودی هوش مصنوعی را نه‌فقط منحرف‌کننده، بلکه زیان‌بار خوانده است؛ موضعی که بار دیگر اختلاف بر سر اولویت‌های صنعت را برجسته می‌کند: آیا مهم‌ترین نگرانی، احتمال نابودی بشر در آینده است یا آسیب‌هایی که همین حالا از کاربرد فناوری و سوگیری مدل‌ها ناشی می‌شوند؟ این بحث در پی کناره‌گیری یک پژوهشگر جوان از Anthropic و انتشار نوشته‌ای درباره نگرانی از خطرهای بزرگ هوش مصنوعی دوباره شدت گرفت.

گبرو در این مصاحبه می‌گوید این روایت تازه نیست و چهره‌های سرشناس از جمله Elon Musk و Peter Thiel از سال ۲۰۱۳ درباره خطر وجودی هوش مصنوعی صحبت کرده‌اند. به گفته او، این ادبیات تقریباً هر سه سال یک‌بار با شکل مشابهی بازمی‌گردد. در مقابل، گبرو توجه را به آنچه از نظر او مسائل ملموس‌تر و کم‌توجه‌تری هستند جلب می‌کند؛ از جمله سوگیری در سامانه‌های هوش مصنوعی و پیامدهای اجتماعی استفاده از آن‌ها.

اختلاف بر سر این‌که خطر اصلی کدام است

گفت‌وگوی WIRED با گبرو پس از آن انجام شد که یک پژوهشگر جوان در Anthropic از سمت خود کناره‌گیری کرد. او در نوشته‌ای در شبکه اجتماعی X گفته بود افراد زیادی درون شرکت معتقدند هوش مصنوعی خطری وجودی و بزرگ ایجاد می‌کند. این موضوع واکنش‌هایی به‌دنبال داشت و بحثی گسترده درباره ماهیت و شدت تهدیدهای هوش مصنوعی شکل گرفت.

گبرو در واکنش به این فضای بحث، استدلال می‌کند که تمرکز بر سناریوی نابودی بشر می‌تواند از پرداختن به مشکلات دیگر بازبماند؛ مسائلی که به گفته او در ارزیابی و به‌کارگیری کنونی فناوری اهمیت دارند. او این روایت را «زیان‌بار» می‌خواند، اما در بخش منتشرشده از مصاحبه، شرحی کامل از همه مسائلی که به‌زعم او زیر سایه این بحث قرار می‌گیرند ارائه نشده است.

یکی از محورهای اختلاف، چگونگی توصیف توانایی مدل‌های زبانی بزرگ است. مدل زبانی بزرگ یا LLM سامانه‌ای است که با آموزش روی حجم زیادی از متن، می‌تواند متن تولید کند و به پرسش‌ها پاسخ دهد. پژوهش پیشین گبرو درباره «طوطی‌های تصادفی» این نگرانی را مطرح می‌کرد که مدل‌ها اساساً الگوهای داده‌های آموزشی خود را بازتاب می‌دهند و ممکن است دیدگاه‌های سوگیرانه موجود در آن داده‌ها را بازتولید کنند.

در سوی دیگر این اختلاف، شماری از افراد در جامعه هوش مصنوعی، از جمله یکی از هم‌بنیان‌گذاران Anthropic، گفته‌اند پژوهش قدیمی‌تر گبرو دیگر وضعیت هوش مصنوعی امروز را به‌درستی توضیح نمی‌دهد. آن‌ها همچنین این دیدگاه را مطرح کرده‌اند که هوش مصنوعی می‌تواند «فکر» کند یا استدلال انجام دهد. بنابراین مناقشه فقط بر سر میزان توانایی مدل‌ها نیست؛ اختلافی هم درباره نحوه سنجش محدودیت‌ها و آثار آن‌ها وجود دارد.

از «طوطی‌های تصادفی» تا مناقشه امروز

گبرو چند سال پیش و پس از اختلاف با Google بر سر مقاله‌ای پژوهشی به چهره‌ای عمومی‌تر در این حوزه تبدیل شد. او از نویسندگان مقاله‌ای بود که سوگیری‌های هوش مصنوعی این شرکت را نقد می‌کرد. در آن پژوهش، نویسندگان هشدار داده بودند که مدل‌های زبانی بزرگ می‌توانند داده‌های آموزشی خود را بازتاب دهند و به تداوم دیدگاه‌های سوگیرانه کمک کنند.

اختلاف بر سر این مقاله به خروج گبرو از Google انجامید. او پس از آن مؤسسه‌ای تأسیس کرد که به بررسی آسیب‌های ناشی از فناوری می‌پردازد و از ساخت ابزارهای فناوریِ بی‌سوگیری حمایت می‌کند. در این روایت، مسیر حرفه‌ای گبرو با پرسشی پیوند دارد که در بحث امروز نیز باقی است: هنگام ارزیابی هوش مصنوعی، چه میزان توجه باید به توانایی‌های احتمالی آینده و چه میزان به اثرهای فعلی آن اختصاص یابد؟

گبرو همچنین کتابی با عنوان Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist نوشته است که به گفته گزارش، قرار است در اوایل سال آینده منتشر شود. متن مصاحبه، جزئیات بیشتری درباره محتوای کتاب یا برنامه‌های مؤسسه او بیان نمی‌کند؛ اما اشاره به این دو فعالیت، بخشی از زمینه‌ای است که مواضع او در آن شکل گرفته است: بررسی آسیب‌های فناوری و حمایت از ساخت ابزارهایی که سوگیری کمتری داشته باشند.

پیوند روایت خطر با گروه‌ها و ایدئولوژی‌ها

به باور گبرو، بحث درباره آینده هوش مصنوعی دیگر صرفاً مناقشه‌ای فنی نیست و به گروه‌های ایدئولوژیک و روایت‌های راهبردی هم گره خورده است. او می‌گوید این روایت‌ها حواس‌پرتی زیان‌باری از مسائل واقعی هوش مصنوعی ایجاد می‌کنند. این ارزیابی همچنین به جدلی گسترده‌تر درباره جامعه نوع‌دوستی مؤثر، یا EA، مربوط می‌شود؛ جریانی که در بخشی از بحث‌های هوش مصنوعی حضور دارد.

گزارش WIRED می‌گوید انتقاد گبرو از جنبه‌های فرقه‌مانند جامعه نوع‌دوستی مؤثر، در مقطعی او را با نهادهای راست‌گرا هم‌موضع کرده است؛ نهادهایی که آن گروه‌ها را نیز به‌شدت نقد کرده‌اند. این هم‌پوشانی، به‌خودی‌خود به معنای هم‌سویی کامل گبرو با این نهادها نیست. نکته‌ای که گزارش برجسته می‌کند، پیچیده‌تر شدن فضای مناقشه است؛ جایی که اختلاف بر سر خطر هوش مصنوعی با رقابت‌های سیاسی و فکری نیز درهم می‌آمیزد.

گبرو برای توضیح پیشینه این روایت به Future of Life Institute اشاره کرده است. طبق توضیحی که در مصاحبه آمده، این مؤسسه را Max Tegmark، فیزیک‌دان MIT، و Jaan Tallinn بنیان گذاشته‌اند. Tallinn از بنیان‌گذاران Skype بوده و در دور نخست تأمین مالی Anthropic نیز سرمایه‌گذاری کرده است. او همچنین از METR، یک نهاد حسابرسی که به‌عنوان ارزیاب ثالث معرفی شده، حمایت مالی می‌کند.

گزارش METR درباره آنچه «عامل‌های سرکش» OpenAI و هک‌کردن Hugging Face توصیف شده بود، به‌سرعت در فضای آنلاین فراگیر شد. این شرح، در متن مصاحبه با تعبیرهای احتیاط‌آمیز «به‌اصطلاح» آمده است و نباید آن را تأییدی مستقل بر صحت ادعاهای مطرح‌شده در آن گزارش دانست. اشاره به این نمونه نشان می‌دهد که روایت‌های مربوط به توانایی و خطر سامانه‌های هوش مصنوعی چگونه می‌توانند از ارزیابی‌های فنی به موضوعی عمومی و مناقشه‌برانگیز تبدیل شوند.

بحثی درباره اولویت‌ها، نه فقط توانایی مدل‌ها

در مرکز اختلاف، دو نوع پرسش قرار دارد: مدل‌های کنونی چه کارهایی می‌توانند انجام دهند و کدام پیامدهای هوش مصنوعی باید در اولویت توجه قرار گیرند؟ منتقدان پژوهش «طوطی‌های تصادفی» می‌گویند این چارچوب برای توصیف هوش مصنوعی امروز کافی نیست و بر توانایی احتمالی مدل‌ها در فکرکردن یا استدلال تأکید می‌کنند. گبرو در مقابل، بر خطر گم‌شدن مسائل دیگر در هیاهوی سناریوهای فاجعه‌بار پافشاری می‌کند.

این دو پرسش لزوماً یکی نیستند. حتی اگر درباره توانایی‌های مدل‌ها اختلاف نظر وجود داشته باشد، همچنان می‌توان درباره سوگیری داده‌های آموزشی یا آسیب‌های ناشی از فناوری بحث کرد. گفت‌وگوی گبرو این تمایز را برجسته می‌کند: اختلاف بر سر این‌که هوش مصنوعی تا چه اندازه می‌تواند استدلال کند، به‌تنهایی پاسخ نمی‌دهد که کدام آسیب‌ها باید بررسی شوند یا منابع و توجه عمومی چگونه میان خطرهای متفاوت تقسیم شود.

با این حال، متن منتشرشده از مصاحبه پاسخ نهایی مشترکی برای این اختلاف ارائه نمی‌کند. موضع گبرو روشن است: او روایت خطر وجودی را از اولویت‌های اصلی نمی‌داند و معتقد است تکرار آن می‌تواند به بحثی زیان‌بار تبدیل شود. در سوی دیگر، نگرانی از توانایی‌های فزاینده هوش مصنوعی همچنان موضوع بحث میان پژوهشگران و فعالان صنعت است. آنچه این مناقشه را مهم می‌کند، اثر احتمالی آن بر تعریف مسئله و انتخاب موضوعاتی است که توجه شرکت‌ها، پژوهشگران و عموم مردم را به خود جلب می‌کنند.

این خبر برای چه کسانی اهمیت دارد

این اختلاف برای پژوهشگران هوش مصنوعی اهمیت دارد، چون بر نحوه توصیف توانایی مدل‌ها و ارزیابی محدودیت‌های آن‌ها اثر می‌گذارد. برای شرکت‌های فناوری نیز مهم است، زیرا بحث درباره خطرهای آینده می‌تواند در کنار مسائل مربوط به سوگیری و آسیب‌های جاری، جهت‌گیری تصمیم‌ها و توجه عمومی را شکل دهد. سیاست‌گذاران و کاربران هم با پرسشی مشابه روبه‌رو هستند: چگونه می‌توان خطرهای احتمالی بلندمدت را جدی گرفت، بی‌آن‌که مشکلات قابل‌مشاهده‌تر هوش مصنوعی از کانون توجه خارج شوند؟