پرش به محتوای اصلی
شنبه ۲۳ آبان ۱۴۰۵به‌روزرسانی: ۹ آبان ۱۴۰۵
کانال تلگرام
اخبار لحظه‌ای

رئیس مایکروسافت: بریتانیا برای پیشبرد مقررات هوش مصنوعی موقعیت بهتری دارد

Brad Smith، رئیس مایکروسافت، خواستار تدوین فوری قواعد ایمنی هوش مصنوعی شد و بریتانیا را برای هدایت مقررات جهانی مناسب‌تر از آمریکا و اتحادیه اروپا دانست. او می‌گوید خودتنظیمی برای مهار شرکت‌های کم‌مسئولیت کافی نیست.

نویا را به منابع منتخبت در گوگل اضافه کن (در زبانه جدید باز می‌شود)
رئیس مایکروسافت: بریتانیا برای پیشبرد مقررات هوش مصنوعی موقعیت بهتری دارد
فهرست مطالب
  1. ۱چرا بریتانیا در بحث تنظیم‌گری هوش مصنوعی مطرح است؟
  2. ۲چرا خودتنظیمی شرکت‌ها کافی نیست؟
  3. ۳گزارش رخنه و ارزیابی بیرونی؛ پیشنهادهای Smith
  4. ۴این خبر برای چه کسانی اهمیت دارد
خلاصه خبر در چند خط
  • Brad Smith خواستار تدوین فوری قواعد جهانی ایمنی هوش مصنوعی است.
  • او بریتانیا را برای هدایت این قواعد در موقعیت مناسب‌تری از آمریکا و اتحادیه اروپا می‌داند.
  • مؤسسه ایمنی هوش مصنوعی بریتانیا به مدل‌های تازه دسترسی دارد و آن‌ها را ارزیابی می‌کند.
  • Smith می‌گوید تعهدهای داوطلبانه برای مهار شرکت‌های کم‌مسئولیت کافی نیست.

تنظیم‌گری هوش مصنوعی باید از مرحله تعهد داوطلبانه شرکت‌ها فراتر برود؛ Brad Smith، رئیس مایکروسافت، روز دوشنبه ۲۰ مهر ۱۴۰۵ گفت بریتانیا در موقعیتی مناسب برای پیشبرد قواعد جهانی ایمنی این فناوری قرار دارد. او خواستار اقدام فوری شد و هشدار داد که هوش مصنوعی هم می‌تواند ابزار باشد و هم به سلاحی تبدیل شود که امنیت سایبری جهان را به خطر می‌اندازد.

Smith در گفت‌وگویی با پادکست BBC، ضعف نظارت بر صنعت هوش مصنوعی را با مقرراتی مقایسه کرد که برای کالاهای مصرفی مانند شیر و ماشین لباس‌شویی وجود دارد. به گفته او، اکنون زمان تدوین قواعدی برای ایمنی هوش مصنوعی فرا رسیده است؛ قواعدی که به گفته‌اش باید در سطح جهانی دنبال شوند، نه آنکه صرفاً به انتخاب و تعهد هر شرکت واگذار شوند.

چرا بریتانیا در بحث تنظیم‌گری هوش مصنوعی مطرح است؟

Smith بریتانیا را برای پیشبرد قواعد ایمنی جهانی مناسب‌تر از آمریکا یا اتحادیه اروپا دانست. استدلال او این است که نگاه واشنگتن به لندن با نگاهش به بروکسل یکسان نیست و این تفاوت می‌تواند به بریتانیا امکان دهد نقش مؤثرتری در گرد هم آوردن طرف‌ها ایفا کند. این دیدگاه در شرایطی مطرح می‌شود که رقابت بر سر تعیین شیوه نظارت بر مدل‌های پیشرفته هوش مصنوعی ادامه دارد.

یکی از دلایل مطرح‌شدن بریتانیا، فعالیت مؤسسه ایمنی هوش مصنوعی این کشور، یا AISI، است. این نهاد که در سال ۲۰۲۳ راه‌اندازی شد، پیش از عرضه برخی مدل‌های بزرگ به آن‌ها دسترسی می‌یابد و ایمنی‌شان را آزمایش می‌کند. طبق گزارش TechCrunch، مؤسسه در هفته‌های اخیر با تهدیدهایی درباره تداوم این نقش روبه‌رو بوده است؛ بااین‌حال، AISI روز دوشنبه اعلام کرد که همچنان می‌تواند به مدل‌های تازه دسترسی پیدا کند و آن‌ها را بیازماید.

این موضوع پس از آن مطرح شد که Donald Trump، رئیس‌جمهور آمریکا، درباره نهادهای به‌اصطلاح جهانی‌گرا هشدار داد و گفت چنین سازمان‌هایی در امور شرکت‌های آمریکایی مداخله می‌کنند. ماه گذشته، او بنا بر گزارش‌ها از Anthropic و OpenAI خواسته بود مدل‌های جدید خود را در اختیار آزمایش‌کنندگان بریتانیایی قرار ندهند. اعلام AISI نشان می‌دهد این مؤسسه در حال حاضر همچنان امکان بررسی مدل‌های تازه را دارد.

چرا خودتنظیمی شرکت‌ها کافی نیست؟

اظهارات رئیس مایکروسافت در میانه درخواست‌های شماری از مدیران فناوری برای کندکردن روند توسعه هوش مصنوعی مطرح شده است. از جمله Dario Amodei از Anthropic و Sam Altman از OpenAI درباره لزوم احتیاط بیشتر صحبت کرده‌اند؛ به‌ویژه پس از چند مورد که در آن‌ها عامل‌های هوش مصنوعی از کنترل خارج شدند. عامل هوش مصنوعی سامانه‌ای است که می‌تواند برای انجام کارها اقدام کند، بنابراین رفتار پیش‌بینی‌ناپذیر آن نگرانی‌هایی درباره نظارت و مهار ایجاد می‌کند.

ماه گذشته Trump میزبان مدیران شرکت‌هایی از جمله OpenAI، Anthropic، Nvidia، AMD، SpaceX، Meta و Google در کاخ سفید بود تا درباره ایمنی هوش مصنوعی گفت‌وگو کنند. شرکت‌کنندگان سندی را امضا کردند که در آن همکاری با ارزیابان مستقل برای بررسی ایمنی و توانایی مدل‌ها مطرح شده بود. Smith این توافق را گامی مثبت توصیف کرد، اما گفت چنین سندی جای مقررات لازم را نمی‌گیرد.

به گفته Smith، مشکل اتکا به خودتنظیمی این است که شرکت‌های مسئول احتمالاً به تعهدها پایبند می‌مانند، اما نظارت باید شرکت‌هایی را هم پوشش دهد که مسئولیت‌پذیری کمتری دارند. در این نگاه، مقررات الزام‌آور قرار است حداقلی مشترک ایجاد کند که رعایت آن صرفاً به انتخاب شرکت‌ها وابسته نباشد. او بر همین اساس خواستار قواعدی شد که بتوان اجرای آن‌ها را پیگیری کرد.

گزارش رخنه و ارزیابی بیرونی؛ پیشنهادهای Smith

از جمله پیشنهادهای Smith، ایجاد الزام قانونی برای اطلاع‌رسانی به یک نهاد مسئول در صورت رخنه‌ای است که عامل‌های هوش مصنوعی خارج از کنترل در آن نقش داشته‌اند. چنین گزارشی می‌تواند به نهادهای ناظر امکان دهد از وقوع مشکل باخبر شوند؛ بااین‌حال، در اظهارات نقل‌شده از او جزئیاتی درباره شکل این نهاد یا سازوکار اجرای الزام ارائه نشده است.

او همچنین از ارزیابی بیرونی پیش از عرضه یک محصول هوش مصنوعی حمایت کرده است. منظور از ارزیابی بیرونی، بررسی سامانه به‌دست ارزیابانی خارج از شرکت سازنده است تا ایمنی و توانایی‌های آن پیش از انتشار سنجیده شود. Smith نیز با مثبت‌نگری از کلیدهای توقف یا کندکردن سامانه سخن گفت؛ سازوکارهایی که در صورت ازدست‌رفتن کنترل انسانی بتوانند فعالیت هوش مصنوعی را متوقف یا محدود کنند.

این پیشنهادها نشان می‌دهد موضع اعلام‌شده Smith صرفاً بر ارزیابی پس از عرضه یا توافق‌های داوطلبانه تمرکز ندارد. او از ترکیبی از گزارش‌دهی اجباری، بررسی مستقل پیش از عرضه و امکان مداخله انسانی دفاع می‌کند. در عین حال، گزارش TechCrunch جزئیاتی درباره متن مقررات پیشنهادی یا زمان‌بندی تصویب آن‌ها ارائه نمی‌کند؛ بنابراین سخنان او را باید فراخوانی برای اقدام و تعیین چارچوب دانست، نه اعلام مقرراتی که اکنون اجرا می‌شوند.

این خبر برای چه کسانی اهمیت دارد

این بحث برای شرکت‌های سازنده مدل‌های هوش مصنوعی اهمیت دارد، زیرا مقرراتی از جنس پیشنهادهای Smith می‌تواند مسئولیت آن‌ها را در گزارش رخدادها و ارزیابی محصولات پیش از عرضه افزایش دهد. آزمایشگاه‌هایی که مدل‌های پیشرفته تولید می‌کنند نیز ممکن است با درخواست‌های بیشتری برای همکاری با ارزیابان بیرونی روبه‌رو شوند.

برای نهادهای دولتی و سیاست‌گذاران، موضوع اصلی این است که آیا می‌توانند قواعدی الزام‌آور و قابل اجرا تدوین کنند و در عین حال دسترسی کارشناسان مستقل به مدل‌ها را ممکن سازند. برای کاربران و کسب‌وکارهایی که از ابزارهای هوش مصنوعی استفاده می‌کنند، این قواعد می‌توانند بر نحوه شناسایی و رسیدگی به رخدادهای ایمنی اثر بگذارند. در مرکز سخنان رئیس مایکروسافت، این پرسش قرار دارد که آیا اتکا به مسئولیت‌پذیری داوطلبانه شرکت‌ها برای مدیریت خطرهای هوش مصنوعی کافی است یا باید قانون نیز وارد عمل شود.

پرسش‌های متداول

چرا Brad Smith بریتانیا را برای هدایت مقررات هوش مصنوعی مناسب می‌داند؟
او می‌گوید لندن در واشنگتن مانند بروکسل دیده نمی‌شود و این تفاوت می‌تواند به بریتانیا امکان دهد قواعد ایمنی را پیش ببرد.
مؤسسه ایمنی هوش مصنوعی بریتانیا چه نقشی دارد؟
این مؤسسه به مدل‌های پیشرفته برخی آزمایشگاه‌های آمریکایی پیش از عرضه دسترسی دارد و آن‌ها را از نظر ایمنی آزمایش می‌کند.
Smith چه نوع مقرراتی را پیشنهاد می‌کند؟
از جمله الزام به گزارش رخنه‌هایی که به‌واسطه عامل‌های هوش مصنوعی خارج از کنترل رخ می‌دهند و ارزیابی بیرونی پیش از عرضه محصولات.
منبع خبرTechCrunch — AI
#ایمنی_هوش_مصنوعی#بریتانیا#تنظیم‌گری_هوش_مصنوعی#سیاست_فناوری#مایکروسافت

مطالب مرتبط

همه اخبار هوش مصنوعیتازه‌ترین خبرهای امروز را در هوش مصنوعی نویا دنبال کنید
این خبر را به اشتراک بگذارید