Trillium Labs می‌خواهد پژوهش‌های پرخطر هوش مصنوعی را علنی کند

پژوهش باز هوش مصنوعی موضوع محوری سازمان غیرانتفاعی تازه‌ای به نام Trillium Labs است؛ نهادی که Nathan Lambert و Tom Zick، دو دانشمند فعال در صنعت، برای انجام پژوهش در حوزه‌های مختلف هوش مصنوعی تأسیس کرده‌اند. این سازمان می‌خواهد جزئیات آزمایش‌هایش را منتشر کند تا دانشمندان بیرونی بتوانند روش‌ها و نتایج را بررسی و تکرار کنند؛ حتی اگر موضوع پژوهش، حوزه‌هایی بالقوه پرخطر مانند خودبهبوددهی بازگشتی یا عامل‌های هوش مصنوعی باشد. این برنامه در زمانی مطرح شده که شرکت‌ها و پژوهشگران درباره میزان دسترسی عمومی به مدل‌های پیشرفته و راه بهتر برای کاهش خطرهای آن‌ها اختلاف‌نظر دارند.

پژوهش باز هوش مصنوعی در برابر محدودیت دسترسی

به گزارش WIRED، Lambert و Zick معتقدند بسته‌ماندن پژوهش در آزمایشگاه‌های بزرگ، امکان بررسی دقیق ایده‌ها را از جامعه علمی می‌گیرد و مشارکت پژوهشگران بیرونی در یافتن راه‌های تازه را محدود می‌کند. از نگاه آن‌ها، انتشار اطلاعات درباره نحوه ساخت و تنظیم مدل‌ها می‌تواند به متخصصان خارج از شرکت‌ها کمک کند رفتار این سیستم‌ها را بهتر بفهمند و برای کاهش خطرها پیشنهادهای خود را مطرح کنند.

این دیدگاه در برابر رویکردی قرار دارد که بر دسترسی محدود تکیه می‌کند. برخی شرکت‌های بزرگ هوش مصنوعی، بنا بر گزارش، مدل‌های پیشرفته خود را از راه یک برنامه یا رابط برنامه‌نویسی کاربردی، یا API، در اختیار کاربران می‌گذارند. در چنین وضعی، کاربر ممکن است بتواند از مدل استفاده کند، اما لزوماً اطلاعات شفافی درباره چگونگی ساخت آن یا جزئیات رفتارش در اختیار ندارد.

طرفداران محدودکردن دسترسی می‌گویند توانایی مدل‌های پیشرفته می‌تواند آسیب‌زا باشد و بهتر است این توانایی‌ها تنها در اختیار گروهی مورد اعتماد قرار بگیرد. در مقابل، Lambert و همفکرانش بر این باورند که شناخت گسترده‌تر از خطرها، به‌واسطه مشارکت پژوهشگران بیشتر، می‌تواند برای همه مفیدتر باشد. Trillium Labs می‌خواهد این اختلاف را با انجام بخشی از پژوهش‌هایش در فضای باز دنبال کند.

انتشار جزئیات آزمایش‌ها چه معنایی دارد؟

برنامه‌ای که برای Trillium Labs شرح داده شده، فقط به انتشار نتیجه نهایی پژوهش محدود نیست. قرار است جزئیات آزمایش‌ها نیز در دسترس قرار بگیرد؛ به این ترتیب، پژوهشگران بیرونی می‌توانند ببینند آزمایش چگونه انجام شده، آن را ارزیابی کنند و در صورت امکان تکرار کنند. تکرارپذیری، یعنی امکان بررسی دوباره یک آزمایش با روش‌های گزارش‌شده، یکی از راه‌های سنجش و ارزیابی یافته‌های علمی است.

Lambert در گفت‌وگو با WIRED استدلال کرده است که روش علمی طی هزاران سال ابزاری برای کاهش آسیب‌ها و ساختن آینده‌ای بهتر بوده، اما مسیر بسته توسعه مدل‌های پیشرفته هوش مصنوعی این روند را عقب می‌برد. این موضع، با این حال، به‌معنای آن نیست که انتشار هرگونه اطلاعات درباره هر مدل یا آزمایشی بی‌خطر است. خود موضوع بحث، چگونگی موازنه میان شفافیت علمی و احتمال سوءاستفاده از قابلیت‌های قدرتمند است.

از جمله حوزه‌هایی که Trillium Labs ممکن است روی آن‌ها کار کند، «خودبهبوددهی بازگشتی» است؛ اصطلاحی برای بررسی فرایندی که در آن یک سیستم هوش مصنوعی می‌تواند در بهبود توانایی‌های خودش نقش داشته باشد. عامل‌های هوش مصنوعی نیز سیستم‌هایی هستند که برای انجام کارها یا پیگیری هدف‌ها به‌کار می‌روند. گزارش WIRED این دو زمینه را در شمار حوزه‌های بالقوه مسئله‌ساز قرار می‌دهد، اما جزئیاتی درباره پروژه‌های مشخص، زمان‌بندی یا نتایج پژوهشی این سازمان ارائه نمی‌کند.

بحث ایمنی در فضایی که مدل‌ها قدرتمندتر شده‌اند

دلیل حساسیت بحث، به گفته گزارش، افزایش توانایی مدل‌های پیشرفته در انجام کارهایی است که می‌توانند پیامد امنیتی داشته باشند. این مدل‌ها می‌توانند در شناسایی خودکار آسیب‌پذیری‌های نرم‌افزاری کمک کنند و به‌طور خودکار سامانه‌ها را بررسی یا برای نفوذ به آن‌ها تلاش کنند. گزارش همچنین می‌گوید موج‌هایی از هک که توجه عمومی را جلب کرده‌اند، نظارت بر این توانایی‌ها را بیشتر کرده است.

در چنین شرایطی، دو دیدگاه درباره دسترسی عمومی با پرسشی دشوار روبه‌رو هستند: آیا محدودکردن استفاده از مدل‌ها می‌تواند از آسیب احتمالی بکاهد، یا پنهان‌ماندن روش‌ها و جزئیات پژوهش، توان جامعه برای شناسایی خطرها را کاهش می‌دهد؟ طرفداران دسترسی محدود بر کنترل توانایی‌های پرقدرت تأکید دارند؛ طرفداران رویکرد Lambert و Zick می‌گویند تقسیم دانش درباره خطرها می‌تواند امکان ارزیابی و ارائه راه‌حل را برای افراد بیشتری فراهم کند.

رویدادهای دیگر در صنعت نشان می‌دهد انتشار اطلاعات درباره مدل‌ها شکل‌های گوناگونی دارد. طبق گزارش WIRED، برخی شرکت‌ها، به‌ویژه در چین، مدل‌هایی نسبتاً قدرتمند عرضه کرده‌اند که کاربران می‌توانند آن‌ها را بارگیری و روی سخت‌افزار خود اجرا کنند. این گزارش به انتشار جزئیات زنده یک آموزش بزرگ مدل از سوی Xiaomi نیز اشاره می‌کند. همچنین پژوهشگران Stanford در حال پیش‌آموزش مدل هوش مصنوعی Marin به‌شکلی علنی هستند. این نمونه‌ها به‌تنهایی نشان نمی‌دهند کدام الگو بهتر است؛ اما نشان می‌دهند که انتشار یا محدودکردن اطلاعات به انتخابی مهم در توسعه هوش مصنوعی تبدیل شده است.

در این میان، اعلام برنامه Trillium Labs به‌خودی‌خود پاسخی قطعی به مسئله ایمنی نیست. اطلاعات منتشرشده در گزارش، درباره سازوکارهای عملی برای کاهش احتمال سوءاستفاده، نحوه انتخاب پروژه‌ها یا میزان دسترسی به ابزارها توضیحی نمی‌دهد. آنچه روشن است، قصد این سازمان برای انتشار جزئیات آزمایش‌ها و فراهم‌کردن امکان بررسی بیرونی است. اینکه چنین شفافیتی در عمل چه اندازه به فهم بهتر خطرها کمک می‌کند، به پژوهش‌ها و نحوه انتشار آن‌ها بستگی خواهد داشت.

این خبر برای چه کسانی اهمیت دارد

این خبر برای پژوهشگران هوش مصنوعی اهمیت دارد، چون Trillium Labs می‌خواهد امکان بررسی و تکرار آزمایش‌ها را برای متخصصان خارج از سازمان فراهم کند. برای شرکت‌های سازنده مدل‌های پیشرفته نیز این بحث مرتبط است: انتخاب میان دسترسی محدود و انتشار گسترده‌تر اطلاعات می‌تواند بر شیوه ارزیابی عمومی و فهم خطرها اثر بگذارد.

سیاست‌گذاران و متخصصان ایمنی هم با پرسشی روبه‌رو هستند که تصمیم ساده‌ای برای آن وجود ندارد: چه مقدار شفافیت به نظارت و شناخت بهتر کمک می‌کند و چه مقدار از اطلاعات می‌تواند توانایی‌های خطرناک را در دسترس افراد بیشتری بگذارد؟ Trillium Labs قصد دارد پژوهش‌های پرخطر را در فضای باز دنبال کند، اما گزارش WIRED هنوز جزئیاتی درباره اجرای این برنامه یا نتیجه آن ارائه نمی‌کند. از این رو، اهمیت اصلی خبر در طرح دوباره مناقشه‌ای بنیادی است: آیا برای ایمن‌ترکردن هوش مصنوعی باید آن را بیشتر پنهان کرد، یا دانش درباره آن را گسترده‌تر در اختیار جامعه پژوهشی گذاشت؟