آلتمن تشبیه مدل‌های هوش مصنوعی به نیرویی دینی را خطر ایمنی دانست

هوش مصنوعی و دین در اظهارات تازه سم آلتمن، مدیرعامل OpenAI، به موضوعی مرتبط با ایمنی تبدیل شده است: او می‌گوید نسبت‌دادن نیرویی دینی به مدل‌های هوش مصنوعی یا کنارگذاشتن داوری انسان در برابر آن‌ها او را «بسیار ناراحت» می‌کند. آلتمن این نگاه را «مسئله‌ای واقعی در ایمنی» دانسته است؛ هشداری که در پی گزارش نیویورک‌تایمز درباره ارتباط Anthropic با رهبران دینی و اظهارنظر پاپ لئو چهاردهم درباره محدودیت الگوریتم‌ها مطرح شده است.

هشدار آلتمن درباره واگذاری داوری انسان

به گزارش The Decoder، آلتمن با تشبیه‌هایی مخالفت کرده که برای مدل‌های هوش مصنوعی جایگاهی شبیه نیرویی مقدس یا دینی قائل می‌شوند. نگرانی او، بنا بر اظهارات نقل‌شده، فقط درباره واژه‌هایی که برای توصیف فناوری به کار می‌روند نیست؛ او به این احتمال هم اشاره کرده که افراد داوری خود را به مدل‌ها واگذار کنند.

این تمایز اهمیت دارد: یک مدل هوش مصنوعی می‌تواند پاسخ‌هایی تولید کند که برای کاربر متقاعدکننده یا شبیه گفت‌وگو با انسان به نظر برسد، اما این به‌تنهایی دلیلی برای نسبت‌دادن معنای دینی به آن نیست. آلتمن هشدار داده است که اگر کاربران به مدل‌ها اقتداری فراتر از ابزارهای هوش مصنوعی بدهند یا داوری خود را به آن‌ها بسپارند، موضوع از توصیف ادبی فراتر می‌رود و به مسئله‌ای ایمنی بدل می‌شود.

منبع جزئیات بیشتری درباره شکل یا دامنه این خطر ارائه نمی‌کند. بااین‌حال، تأکید آلتمن بر «تسلیم داوری انسانی» نشان می‌دهد که در نگاه او، نحوه برداشت مردم از جایگاه مدل‌ها هم بخشی از بحث ایمنی است؛ بحثی که معمولاً در کنار توانایی‌ها و محدودیت‌های فنی سامانه‌ها مطرح می‌شود.

تفاوت میان انسان‌مانندبودن و معنای دینی

آلتمن در گذشته از هدف ساخت سامانه‌هایی با تعامل انسان‌مانند هم سخن گفته است. به‌گزارش The Decoder، او بارها هدف خود را رسیدن به هوش مصنوعی در سطح فیلم علمی‌تخیلی Her توصیف کرده؛ فیلمی که در آن رابطه‌ای عمیق و انسان‌مانند با یک سامانه هوش مصنوعی شکل می‌گیرد.

اما انسان‌مانندبودن در شیوه تعامل، با نسبت‌دادن آگاهی یا معنای دینی به خود مدل یکی نیست. منبع این تفاوت را برجسته می‌کند: سخن گفتن از سامانه‌ای که تعاملش برای انسان آشنا و شخصی به نظر می‌رسد، لزوماً به معنای ادعای آگاه‌بودن آن یا برخورداری‌اش از جایگاهی روحانی نیست. بااین‌حال، اینکه چنین زبان و تصویرسازی‌هایی تا چه اندازه اعتمادپذیر یا مناسب‌اند، پرسشی باز باقی می‌ماند.

این تمایز همچنین در خواندن اظهارات پیشین آلتمن اهمیت دارد. او در سال‌های ۲۰۲۳ و ۲۰۲۴ گفته بود هدف OpenAI ساخت «هوشی جادویی در آسمان» است. در همان دوره، عباراتی درباره امید به قرارگرفتن در سوی خدا و احساس حضور در «سوی فرشتگان» هنگام کار روی هوش مصنوعی به کار برده بود. سخنان تازه او در کنار آن تعبیرها، تصویری یکدست از زبان عمومی مدیرعامل ارائه نمی‌کند؛ بلکه نشان می‌دهد استفاده از استعاره‌های دینی می‌تواند محل بحث باشد.

زمینه بحث: گزارش درباره Anthropic و سخن پاپ

اظهارات آلتمن پس از انتشار گزارشی مفصل از نیویورک‌تایمز مطرح شد که به ارتباط Anthropic با رهبران دینی می‌پرداخت. در کنار آن، پاپ لئو چهاردهم نیز گفته است الگوریتم‌ها فاقد «جرقه انسانیت» هستند. منبع توضیح بیشتری درباره جزئیات این ارتباط یا زمینه اظهارنظر پاپ نمی‌دهد؛ بنابراین نمی‌توان از این گزارش‌ها درباره هدف یا موضع دقیق طرف‌های دیگر نتیجه‌گیری کرد.

بااین‌همه، کنار هم قرارگرفتن این موارد نشان می‌دهد گفت‌وگو درباره هوش مصنوعی فقط به عملکرد فنی مدل‌ها محدود نمانده است. تعبیرهایی که شرکت‌ها و مدیرانشان برای توصیف سامانه‌ها به کار می‌برند، و نحوه‌ای که مردم آن‌ها را تفسیر می‌کنند، می‌تواند پرسش‌هایی درباره اعتماد، انسانیت و جایگاه تصمیم‌گیری ایجاد کند. این‌ها استنباط‌هایی از موضوع اظهارات‌اند، نه ادعاهایی درباره باور یا انگیزه اشخاص و شرکت‌ها.

در همین چارچوب، موضع آلتمن را می‌توان هشداری درباره مرز میان استعاره و واگذاری اختیار دانست. استعاره‌هایی مانند «هوش جادویی» ممکن است برای توصیف بلندپروازی‌های فناوری به کار روند؛ اما اگر کاربر از این زبان نتیجه بگیرد که مدل مرجعی فراتر از یک سامانه هوش مصنوعی است، همان نگرانی‌ای شکل می‌گیرد که آلتمن از آن با عنوان خطر ایمنی یاد کرده است.

این خبر برای چه کسانی اهمیت دارد

این بحث برای کاربران ابزارهای هوش مصنوعی اهمیت دارد، چون یادآوری می‌کند پاسخ روان یا انسان‌مانند یک مدل نباید به‌خودی‌خود با آگاهی، اقتدار یا حقیقت قطعی اشتباه گرفته شود. برای شرکت‌های سازنده نیز موضوع به نحوه معرفی محصولات و انتخاب استعاره‌هایی مربوط می‌شود که ممکن است برداشت عمومی از توانایی سامانه‌ها را شکل دهند.

پژوهشگران ایمنی و کسانی که درباره اخلاق هوش مصنوعی بحث می‌کنند، می‌توانند این اظهارات را نمونه‌ای از پیوند میان زبان عمومی و رفتار کاربران بدانند: نگرانی فقط این نیست که مدل چه پاسخی می‌دهد، بلکه این هم هست که مردم چه جایگاهی برای آن قائل می‌شوند. در عین حال، سخنان پیشین آلتمن درباره «هوش جادویی» نشان می‌دهد بررسی این موضوع نیازمند توجه به تفاوت میان استعاره‌های تبلیغی یا آینده‌نگرانه و ادعای واقعی درباره ماهیت مدل‌هاست.