گزارش: برخی کارکنان باسابقه Anthropic به‌دنبال زمین دورافتاده‌اند

به گزارش The Decoder به نقل از وال‌استریت ژورنال، برخی از کارکنان باسابقه و نخستین نیروهای Anthropic در هفته‌های اخیر درباره خرید زمین در نقاط دورافتاده آمریکا گفت‌وگو کرده‌اند؛ مکانی که در صورت «خارج‌شدن هوش مصنوعی از کنترل» بتوانند به آنجا نقل مکان کنند. گزارش از تصمیم قطعی یا انجام‌شدن خرید خبر نمی‌دهد و این اقدام را در حد بررسی و طرح احتمال توصیف می‌کند. اهمیت ماجرا در این است که نگرانی از پیامدهای هوش مصنوعی، دست‌کم برای شماری از افراد نزدیک به یکی از شرکت‌های فعال این حوزه، تنها بحثی نظری نیست و به تصورهایی درباره آمادگی شخصی هم رسیده است.

از گفت‌وگو تا بررسی یک پناهگاه احتمالی

بر اساس گزارش وال‌استریت ژورنال، برخی از نخستین کارکنان Anthropic این موضوع را با یکی از همکاران خود در صنعت مطرح کرده‌اند. آن‌ها به خرید زمین در بخش‌های دورافتاده ایالات متحده فکر می‌کنند تا در سناریویی که هوش مصنوعی از کنترل خارج شود، جایی برای رفتن داشته باشند. گزارش می‌گوید این گفت‌وگوها طی چند هفته گذشته انجام شده است؛ اما جزئیاتی درباره مکان‌های موردنظر، هزینه احتمالی یا شمار افراد درگیر ارائه نمی‌کند.

بنابراین باید میان «بررسی خرید» و «خرید زمین» تفاوت گذاشت. اطلاعات منتشرشده نشان نمی‌دهد که این افراد ملک یا زمینی تهیه کرده‌اند، برنامه‌ای عملی برای انتقال دارند یا زمان مشخصی برای چنین کاری در نظر گرفته‌اند. همچنین گزارش نمی‌گوید این اقدام مورد تأیید Anthropic است یا بخشی از برنامه رسمی شرکت به شمار می‌رود. آنچه نقل شده، گفت‌وگو و تصمیم‌سنجی برخی افراد است، نه اعلام سیاست سازمانی.

عبارت «اگر هوش مصنوعی از کنترل خارج شود» نیز در گزارش به یک وضعیت دقیق و تعریف‌شده اشاره نمی‌کند. متن، جزئیاتی درباره اینکه چه نوع سامانه‌ای یا چه رویدادی می‌تواند چنین سناریویی را رقم بزند ارائه نمی‌دهد. در نتیجه، خبر را باید گزارشی درباره نگرانی و آمادگی احتمالی برخی کارکنان خواند، نه مدرکی بر وقوع خطر مشخص یا وجود ارزیابی رسمی درباره زمان و احتمال آن.

سناریوهای بزرگ در روزهای آغازین Anthropic

به روایت کارکنان پیشین که در گزارش نقل شده‌اند، بحث درباره خطرهای بزرگ هوش مصنوعی در سال‌های نخست Anthropic نیز مطرح بوده است. حتی در شام‌های شرکت، برخی افراد درباره وضعیتی شبیه پروژه منهتن صحبت می‌کردند: اینکه ممکن است از آن‌ها خواسته شود به بیابان بروند و ساخت هوش مصنوعی را در یک مرکز دولتیِ محافظت‌شده در برابر امواج الکترومغناطیسی ادامه دهند.

پروژه منهتن در اینجا به‌عنوان تشبیهی برای یک برنامه بزرگ و متمرکز به کار رفته است؛ تصویری از پژوهشگرانی که در مکانی جداافتاده و تحت تدابیر خاص، روی فناوری‌ای حساس کار می‌کنند. با این حال، گزارش چنین سناریویی را به‌عنوان برنامه واقعی Anthropic معرفی نمی‌کند. این موضوع در خاطرات کارکنان پیشین، در قالب گفت‌وگوهای فرضی درباره آینده و خطرهای احتمالی شرکت آمده است.

کنار هم قرار گرفتن این خاطرات و بررسی کنونی خرید زمین، از تداوم یک دغدغه در بخشی از جامعه نزدیک به شرکت حکایت دارد: اینکه پیشرفت هوش مصنوعی ممکن است پیامدهایی فراتر از محصولات و کسب‌وکارهای معمول این صنعت داشته باشد. اما گزارش اندازه این گروه، میزان توافق در میان کارکنان یا تأثیر این نگرانی‌ها بر تصمیم‌های فنی Anthropic را مشخص نمی‌کند. از این رو، نمی‌توان دیدگاه نقل‌شده را به همه کارکنان شرکت تعمیم داد.

پیوند با نوع‌دوستی مؤثر و فرهنگ ارزیابی خطر

گزارش، بخشی از زمینه فکری این نگرانی‌ها را به خرده‌فرهنگ «نوع‌دوستی مؤثر» یا Effective Altruism پیوند می‌دهد. طبق روایت منتشرشده، برخی از نخستین استخدام‌شدگان Anthropic و OpenAI با این جریان و شبکه‌ای از افراد در منطقه خلیج سان‌فرانسیسکو ارتباط داشته‌اند که سال‌ها درباره سناریوهای پایان جهان و خطرهای فاجعه‌بار بحث می‌کردند.

نوع‌دوستی مؤثر در این گزارش نام یک خرده‌فرهنگ فکری است که بخشی از اعضایش به بررسی خطرهای بزرگ و پیامدهای بلندمدت توجه داشته‌اند. گزارش می‌گوید پیش از آنکه هوش مصنوعی در صدر فهرست نگرانی‌های این گروه قرار بگیرد، خطرهایی مانند برخورد سیارک‌ها و فوران ابرآتشفشان‌ها نیز موضوع توجه آن‌ها بود. به این ترتیب، نگرانی درباره هوش مصنوعی در روایت گزارش، از دل علاقه‌ای گسترده‌تر به سنجش تهدیدهای فاجعه‌بار سربرآورده است.

در میان چهره‌های اثرگذار بر این فضای فکری، نام Eliezer Yudkowsky مطرح شده است. به‌گفته گزارش، او از میانه دهه ۲۰۰۰ درباره هوش مصنوعی مهارنشده هشدار می‌داد و بعدها به یکی از چهره‌های فکری مهم این خرده‌فرهنگ تبدیل شد. این سابقه نشان می‌دهد هشدار درباره خطرهای هوش مصنوعی در بخشی از این شبکه، پیش از تبدیل‌شدن هوش مصنوعی به موضوع اصلی گفت‌وگوی عمومی وجود داشته است؛ هرچند گزارش درباره میزان اثرگذاری مستقیم این دیدگاه‌ها بر تصمیم‌های کارکنان یا شرکت‌ها اطلاعاتی نمی‌دهد.

ملاحظات در خواندن گزارش

خبر درباره افراد مشخصی است که نامشان در متن ارائه‌شده نیامده و اطلاعات آن نیز از طریق گزارش وال‌استریت ژورنال و نقل گفت‌وگوهای کارکنان به دست آمده است. بنابراین، دامنه ادعا محدود است: برخی از نخستین کارکنان Anthropic ظاهراً خرید زمینی دورافتاده را بررسی می‌کنند. این موضوع نه به معنای خرید انجام‌شده است و نه ثابت می‌کند که آنان خطر را قریب‌الوقوع می‌دانند.

همچنین باید میان نگرانی شخصی و ارزیابی فنی تمایز گذاشت. تصمیم احتمالی یک فرد برای آماده‌کردن مکانی دور از شهر، به‌تنهایی چیزی درباره توانایی سامانه‌های هوش مصنوعی، احتمال وقوع یک سناریوی فاجعه‌بار یا سطح ایمنی محصولات یک شرکت ثابت نمی‌کند. گزارش، داده‌ای درباره ارزیابی خطر از سوی Anthropic یا برنامه‌های ایمنی این شرکت ارائه نمی‌دهد؛ محور آن واکنش و نگرانی برخی افراد باسابقه است.

با این حال، خبر تصویری از بخشی از فرهنگ پیرامون شرکت‌های هوش مصنوعی به دست می‌دهد: برخی کسانی که در شکل‌گیری این صنعت نقش داشته‌اند، هم‌زمان با ساخت فناوری، درباره پیامدهای بلندمدت آن نیز فکر می‌کنند. گفت‌وگو درباره پناهگاه یا مکان جایگزین ممکن است در نگاه نخست افراطی به نظر برسد، اما برای فهم آن باید به سابقه بحث‌های آخرالزمانی در این شبکه و پیوند آن با ارزیابی خطرهای بزرگ توجه کرد. این زمینه توضیح می‌دهد چرا احتمال خارج‌شدن هوش مصنوعی از کنترل برای برخی افراد صرفاً موضوعی انتزاعی نیست؛ هرچند گزارش، شواهدی برای نتیجه‌گیری فراتر از همین نگرانی‌ها عرضه نمی‌کند.

این خبر برای چه کسانی اهمیت دارد

این گزارش برای کارکنان شرکت‌های هوش مصنوعی، پژوهشگران ایمنی، سیاست‌گذاران و کسانی اهمیت دارد که می‌خواهند بفهمند نگرانی درباره خطرهای هوش مصنوعی چگونه در میان افراد فعال در این صنعت شکل می‌گیرد. برای کارکنان، تفاوت میان گفت‌وگوی شخصی و برنامه رسمی سازمانی مهم است؛ برای سیاست‌گذاران و پژوهشگران نیز خبر یادآور آن است که بحث‌های مربوط به ایمنی، فقط به قابلیت‌های فنی مدل‌ها محدود نمی‌شود و برداشت افراد از سناریوهای آینده را هم دربرمی‌گیرد.

در عین حال، این خبر به‌تنهایی مبنایی برای قضاوت درباره ایمنی Anthropic یا احتمال وقوع فاجعه نیست. ارزش آن بیشتر در نشان‌دادن سابقه نگرانی در میان بخشی از نیروهای اولیه شرکت و پیوند این نگرانی با فرهنگ ارزیابی خطرهای فاجعه‌بار است؛ با این قید که آنچه درباره زمین دورافتاده نقل شده، فعلاً در حد بررسی و گفت‌وگو باقی مانده است.