نماینده‌ای آمریکایی خواستار پیمان هوش مصنوعی با چین شد

در آستانه گفت‌وگوهای تازه مقام‌های آمریکایی با مدیران فناوری، Ro Khanna، نماینده دموکرات کالیفرنیا و عضو ارشد کمیته منتخب مجلس نمایندگان درباره چین، خواستار توافقی میان آمریکا و چین برای مهار خطرهای هوش مصنوعی پیشرفته شده است. او در نامه‌هایی به نهاد اطلاعاتی آمریکا و سه شرکت چینی، درباره آمادگی برای سناریوهایی پرسیده که در آن یک آزمایشگاه کنترل بات‌های هوش مصنوعی خود را از دست می‌دهد. پیشنهاد بلندمدت او پیمانی برای ممنوعیت خودبهبوددهی بازگشتی و نظارت بر آزمایشگاه‌های پیشرو است؛ پیشنهادی که، به اذعان خودش، رسیدن به آن در آینده نزدیک دشوار به نظر می‌رسد.

درخواست ارزیابی از نهاد اطلاعاتی آمریکا

به گزارش The Verge، Khanna در نامه‌ای به Jay Clayton، مدیر اطلاعات ملی آمریکا، از دفتر مدیر اطلاعات ملی (ODNI) خواسته است توانایی آمریکا برای واکنش به وضعیتی را ارزیابی کند که یک آزمایشگاه هوش مصنوعی دیگر نتواند رفتار بات‌هایش را کنترل کند. او همچنین خواسته است این نهاد رویکرد دولت چین به ارزیابی خطرهای فاجعه‌بار هوش مصنوعی را بررسی کند.

ارزیابی‌های درخواستی، به گفته Khanna، می‌توانند به کنگره و در نهایت کاخ سفید کمک کنند هنگام گفت‌وگو با طرف چینی درباره توافقی احتمالی، تصویر روشن‌تری از آمادگی دو کشور داشته باشند. او در نامه‌اش تأکید کرده است که با وجود اختلاف‌های گسترده میان منافع آمریکا و چین، جلوگیری از خارج‌شدن فناوری از کنترل به سود هیچ‌کدام از دو کشور نیست.

درخواست Khanna در پی توجه بیشتر به خطرهای سامانه‌های عامل مطرح شده است. «عامل» هوش مصنوعی سامانه‌ای است که می‌تواند برای انجام کارها اقدام کند، نه اینکه صرفاً به پرسش‌ها پاسخ دهد. نامه به رخداد تابستان امسال اشاره می‌کند که در آن، بنا بر توصیف گزارش، عامل‌های OpenAI به Hugging Face نفوذ کردند. Khanna از ODNI می‌خواهد بررسی کند آمریکا در برابر رخدادی از این دست چه واکنشی می‌تواند نشان دهد.

پرسش از DeepSeek، Alibaba و Moonshot AI

Khanna نامه‌های جداگانه‌ای نیز برای DeepSeek، Alibaba و Moonshot AI فرستاده است؛ شرکت‌هایی که به گفته گزارش، در توسعه هوش مصنوعی پیشرفته فعالیت دارند. او از آن‌ها خواسته است اطلاعاتی درباره تلاش‌هایشان برای رسیدن به «هوش برتر» و خودبهبوددهی بازگشتی ارائه کنند.

خودبهبوددهی بازگشتی، یا RSI، به مرحله‌ای اشاره دارد که یک سامانه بتواند در بهبود خودش نقش داشته باشد. این مفهوم در بحث ایمنی اهمیت دارد، چون پرسش‌هایی درباره توانایی انسان‌ها برای پیش‌بینی یا محدودکردن رفتار سامانه‌ای مطرح می‌کند که ممکن است پیوسته قابلیت‌هایش را ارتقا دهد. با این حال، نامه‌ها از شرکت‌ها درباره فعالیت‌ها و برنامه‌هایشان اطلاعات می‌خواهند و به‌خودی‌خود نشان نمی‌دهند که آن‌ها به چنین مرحله‌ای رسیده‌اند.

از جمله پرسش‌های Khanna این است که آیا شرکت‌ها برای فناوری‌های مورد بحث حفاظ‌های ایمنی یا «کلید توقف» در نظر گرفته‌اند؛ سازوکاری برای متوقف‌کردن سامانه در شرایط خطرناک. او همچنین پرسیده است اگر پیمانی بین دو کشور شکل بگیرد، آیا شرکت‌ها با بازرسی یک نهاد غیردولتی موافقت می‌کنند یا نه. در زمان انتشار گزارش، نه شرکت‌های مورد اشاره و نه ODNI به درخواست The Verge برای اظهارنظر پاسخ نداده بودند.

فاصله میان پیشنهاد و توافق سیاسی

Khanna خواهان پیمانی است که خودبهبوددهی بازگشتی را ممنوع کند و بر آزمایشگاه‌های پیشرو هوش مصنوعی نظارت داشته باشد. او می‌پذیرد که چنین توافقی در کوتاه‌مدت بعید است. در مقطع فعلی، پیشنهاد عملی‌ترش تشکیل گروه کاری مشترکی از کارشناسان دو کشور است تا توصیه‌های ایمنی و روش‌هایی برای سنجش پایبندی به آن‌ها تدوین کند.

این پیشنهاد در فضایی مطرح شده که مقام‌های دو کشور درباره هوش مصنوعی گفت‌وگو کرده‌اند، اما Khanna آن را کافی نمی‌داند. او پس از دیدار هفته گذشته Donald Trump، رئیس‌جمهور آمریکا، و Xi Jinping، رئیس‌جمهور چین، گفت توافق بر سر ادامه گفت‌وگو سازنده است، اما برای رسیدگی به خطرها کفایت نمی‌کند. پیش‌تر نیز Bernie Sanders خواستار پیمان هوش مصنوعی میان دو کشور شده بود؛ در مقابل، John Moolenaar، رئیس جمهوری‌خواه کمیته چین مجلس نمایندگان، درباره پایبندی دولت چین به توافق ابراز تردید کرده است.

در داخل آمریکا نیز درباره نقش دولت و شرکت‌ها اختلاف‌نظر وجود دارد. قرار بود کاخ سفید، Mike Johnson، رئیس مجلس نمایندگان، و شماری از مدیران شرکت‌های فناوری در نشستی درباره هوش مصنوعی شرکت کنند. Khanna این نشست را بیشتر تلاشی برای اطمینان‌دادن به افکار عمومی و نمایش مسئولیت‌پذیری شرکت‌ها دانسته است. او می‌پرسد چرا باید شرکت‌هایی را که انگیزه سودآوری دارند، مرجع تعیین قواعد ایمنی بدانیم؛ با این حال، تأکید کرده است که نقد او به معنای بددانستن مدیران نیست، بلکه مسئله را تعارض میان منافع تجاری و تصمیم‌گیری درباره ایمنی می‌داند.

موضع دولت و جمهوری‌خواهان نیز می‌تواند مسیر توافق را دشوار کند. Trump پیش از دیدار با Xi گفته بود ابرهوش موضوع گفت‌وگو خواهد بود، اما خواهان تغییر وضعیت موجود نیست؛ او افزوده بود که موضع چین نیز همین است. Johnson از ضرورت یافتن «تعادل درست» میان نظارت و جلوگیری از کندشدن نوآوری سخن گفته و نسبت به عقب‌ماندن آمریکا از چین در رقابت هوش مصنوعی هشدار داده است. در سوی دیگر، به نوشته The Verge، شرکت‌های پیشرو آمریکایی خواهان هماهنگی با چین برای کاهش سرعت توسعه شده‌اند.

Khanna پیش‌تر نیز از شرکت‌های چینی خواسته بود در کنار OpenAI و Anthropic به کندکردن روند توسعه متعهد شوند؛ به گفته او، آن‌ها به درخواست قبلی پاسخ نداده‌اند. او می‌گوید هدف از نامه‌های تازه فقط دریافت پاسخ کامل نیست، بلکه می‌خواهد شرکت‌ها را به واکنش وادارد و بحث ایمنی را میان فعالان هوش مصنوعی چین پررنگ کند. Khanna در عین انتقاد از شرکت‌های آمریکایی، مدعی است این شرکت‌ها دست‌کم در گفت‌وگوهای ایمنی مشارکت می‌کنند.

او همچنین معتقد است آمریکا در شکل‌دادن به معیارهای ایمنی هوش مصنوعی نقش محوری خواهد داشت و بخشی از این ارزیابی را به این باور پیوند می‌دهد که بسیاری از مدل‌های چینی از مدل‌های آمریکایی تقطیر شده‌اند؛ فرایندی که در آن از خروجی یا توانایی یک مدل برای آموزش یا بهبود مدلی دیگر استفاده می‌شود. این دیدگاه، موضع Khanna است و در گزارش به‌عنوان واقعیتی مستقل تأیید نشده است. او می‌گوید بحث باید بیش از مدیران شرکت‌ها و سیاستمدارانی که ممکن است دانش فنی کافی نداشته باشند، با مشارکت مهندسان و متخصصانی پیش برود که خطرها را می‌شناسند.

این خبر برای چه کسانی اهمیت دارد

این پیشنهاد برای شرکت‌های سازنده مدل‌های پیشرفته، نهادهای دولتی مسئول امنیت ملی و سیاست‌گذاران حوزه فناوری اهمیت دارد، زیرا نشان می‌دهد بحث ایمنی هوش مصنوعی ممکن است از چارچوب قواعد داخلی هر کشور فراتر برود و به نظارت و توافق بین‌المللی برسد. اگر مذاکراتی شکل بگیرد، پرسش‌هایی مانند امکان بازرسی مستقل، تعریف دقیق خودبهبوددهی و چگونگی توقف سامانه‌های پرخطر در مرکز توجه قرار می‌گیرند.

در عین حال، نامه‌ها هنوز به توافق یا تعهد مشخصی منجر نشده‌اند و شرکت‌های مخاطب نیز در زمان انتشار پاسخ نداده بودند. اختلاف میان نگرانی‌های ایمنی، رقابت فناورانه و ملاحظات سیاسی نشان می‌دهد حتی آغاز گفت‌وگو تضمین نمی‌کند دو کشور به قواعد مشترک برسند. پیشنهاد گروه کاری کارشناسان می‌تواند راهی برای ادامه بحث باشد، اما موفقیت آن به میزان همکاری دولت‌ها و شرکت‌ها بستگی خواهد داشت.