نادلا از «هوش برتر» می‌گوید و به مدل‌های OpenAI و Anthropic می‌تازد

هوش برتر مایکروسافت به موضوع نوشته تازه ساتیا نادلا تبدیل شده است؛ مدیرعامل این شرکت در یادداشتی که یکشنبه ۱۹ مهر ۱۴۰۵ منتشر شد، از این اصطلاح به‌جای «هوش مصنوعی» استفاده کرد و هم‌زمان درباره خطرهای امنیتی مدل‌های پیشرفته هشدار داد. این تغییر واژگان در کنار انتقادهای او از سازندگان مدل، از جمله OpenAI و Anthropic، اهمیت دارد؛ زیرا بحث ایمنی هوش مصنوعی را با رقابت بر سر کنترل رابط آینده رایانه‌ها پیوند می‌دهد.

چرا نادلا از اصطلاح «هوش برتر» استفاده کرد؟

به گزارش The Decoder، نادلا در نوشته تازه‌اش عبارت «Super Intelligence» را به کار برده است. این رسانه این انتخاب را در پیوند با ترجیح دونالد ترامپ برای چنین واژگانی قرار می‌دهد و می‌نویسد ترامپ پیش‌تر گفته بود کسانی که همچنان از عبارت «هوش مصنوعی» استفاده می‌کنند باید دشمن تلقی شوند.

تغییر نام، صرفاً انتخاب یک عبارت تازه نیست. به ارزیابی The Decoder، به‌کارگیری «هوش برتر» برای توصیف مدل‌های زبانی امروزی با معنای علمی‌ای که این اصطلاح در دهه‌های گذشته داشته، فاصله دارد. در عین حال، این رسانه می‌گوید بخش‌هایی از صنعت فناوری آمریکا ظاهراً حاضرند از این واژگان استفاده کنند تا با ترجیح سیاسی ترامپ همراه شوند.

مدل زبانی، سامانه‌ای است که با یادگیری الگوهای متن می‌تواند پاسخ تولید کند یا دستورهای نوشتاری را دنبال کند. اصطلاحی که برای این سامانه‌ها به کار می‌رود، بر نحوه فهم عمومی از توانایی و خطر آن‌ها اثر می‌گذارد؛ هرچند تغییر واژه به‌تنهایی قابلیت فنی مدل را عوض نمی‌کند.

هوش برتر مایکروسافت و پیشنهادهای امنیتی نادلا

بخش اصلی یادداشت نادلا به شیوه استفاده از مدل‌ها در سازمان‌ها مربوط است. او پیشنهاد می‌کند شرکت‌ها مدل‌های هوش مصنوعی را مانند تهدیدهای امنیتی داخلی در نظر بگیرند؛ نه لزوماً به این معنا که مدل‌ها قصد آسیب‌زدن دارند، بلکه از این جهت که سامانه‌ای توانمند، اگر به سیستم‌های مهم دسترسی داشته باشد، می‌تواند خطا کند یا در معرض نفوذ قرار گیرد. The Decoder یادآوری می‌کند که Google DeepMind نیز پیش‌تر ایده‌ای مشابه را مطرح کرده بود.

نادلا همچنین به مسئله توضیح‌پذیری اشاره می‌کند: به گفته او، در سامانه‌های کنونی راهی روشن برای فهمیدن چرایی یک پاسخ یا تصمیم وجود ندارد. با وجود این محدودیت، مدل‌ها ممکن است به داده‌های حساس دسترسی پیدا کنند یا اجازه انجام اقداماتی را داشته باشند که برای کارکردهای حیاتی سازمان اهمیت دارد. این تضاد، از نگاه او، ضرورت طراحی سازوکارهای مهار و کنترل را بیشتر می‌کند.

راه‌حل‌هایی که نادلا مطرح می‌کند، بر محدودکردن وابستگی به یک مدل واحد و نظارت بر رفتار سامانه متمرکز است. او از استفاده از مدل‌های متنوع، ثبت کامل اقدامات، ممیزی مستقل و فراهم‌کردن امکان توقف فعالیت مدل به‌دست انسان حمایت می‌کند. ممیزی مستقل یعنی بررسی عملکرد سامانه از سوی ارزیابانی که صرفاً به سازنده یا بهره‌بردار آن وابسته نیستند.

در چارچوب پیشنهادی او، قابل‌اعتمادبودن فقط به قدرت یا کیفیت پاسخ‌های مدل وابسته نیست؛ مهم است سازمان تا چه اندازه بتواند رفتار آن را کنترل کند و در صورت لزوم جلوی ادامه کارش را بگیرد. این دیدگاه، توجه را از رقابت بر سر ساخت «بهترین مدل» به چگونگی استقرار آن در محیط‌های واقعی می‌برد.

رقابت تجاری Microsoft با OpenAI و Anthropic

The Decoder استدلال می‌کند که موضع‌گیری تازه نادلا را باید در کنار منافع تجاری Microsoft بررسی کرد. این رسانه می‌گوید انتقادهای او از خطرهای مدل‌های OpenAI و Anthropic، شرکت‌هایی را هدف می‌گیرد که می‌توانند بر کسب‌وکار خود Microsoft نیز اثر بگذارند. با این حال، گزارش تأکید می‌کند که بخشی از نگرانی‌های امنیتی مطرح‌شده ممکن است معتبر باشد؛ مسئله مورد بحث، هم‌زمانی این نگرانی‌ها با رقابت تجاری است.

به روایت The Decoder، نادلا در نوشته‌های پیشین خود نیز از زاویه‌های دیگری به شرکت‌های هوش مصنوعی انتقاد کرده بود: از جمله در موضوع استفاده از داده‌ها، واکنش شرکت‌ها به تقطیر مدل‌ها و این ادعا که مدل‌ها ممکن است به کالاهایی قابل‌جایگزینی تبدیل شوند. این رسانه همچنین Microsoft را شرکتی توصیف می‌کند که از اکوسیستم بسته و فروش بسته‌های نرم‌افزاری سود برده، اما در عین حال از اکوسیستم باز هوش مصنوعی حمایت کرده است.

گزارش می‌افزاید Microsoft در محصولات Office، برخی مدل‌های توانمندتر OpenAI و Anthropic را با گزینه‌های ارزان‌تر داخلی جایگزین کرده تا از حاشیه سود خود محافظت کند. این ادعا بخشی از تحلیل The Decoder درباره انگیزه‌های تجاری شرکت است، نه نتیجه‌ای که به‌تنهایی از نوشته نادلا اثبات شود.

تغییر رابط رایانه‌ها چه معنایی برای Microsoft دارد؟

در تحلیل The Decoder، رقابت اصلی بر سر این است که مدل‌های هوش مصنوعی به رابط اصلی کار با رایانه تبدیل شوند؛ یعنی کاربر به‌جای رفتن میان برنامه‌ها، خواسته‌اش را بیان کند و سامانه آن را اجرا کند. این رسانه می‌گوید Microsoft مدت‌ها در جایگاه رابط پیش‌فرض رایانه‌ها قرار داشته، اما بخش مهمی از کسب‌وکارش به نرم‌افزارهای قدیمی‌تری متکی است که پیش‌تر فروخته و روی میلیون‌ها دستگاه نصب شده‌اند.

بر اساس همین تحلیل، تغییر سریع به الگوی تازه برای شرکتی با چنین کسب‌وکاری دشوار است. اگر Microsoft نقش توزیع‌کننده رابط هوش مصنوعی را بر عهده بگیرد، ممکن است به شرکت‌های سازنده مدل وابسته شود و بخشی از حاشیه سودش را از دست بدهد؛ به‌ویژه اگر مدل‌های پیشرو بیرون از شرکت توسعه داده شوند. The Decoder همچنین می‌گوید Microsoft، با وجود سرمایه‌گذاری‌های چندمیلیارددلاری در هوش مصنوعی، مدل‌های پیشرو خود را در اختیار ندارد.

این زمینه توضیح می‌دهد چرا هشدار درباره امنیت مدل‌ها می‌تواند هم‌زمان دو وجه داشته باشد: از یک سو، مسئله‌ای واقعی برای سازمان‌هایی است که مدل‌ها را به داده‌ها و ابزارهای مهم وصل می‌کنند؛ از سوی دیگر، برجسته‌کردن خطرها می‌تواند اعتماد به رقبایی را کاهش دهد که ممکن است رابط تازه کار با رایانه را در دست بگیرند. این برداشت، تحلیل The Decoder از راهبرد Microsoft است و نباید با اثبات قطعی انگیزه نادلا یکی گرفته شود.

این خبر برای چه کسانی اهمیت دارد

این بحث برای مدیران فناوری و امنیت سازمان‌ها مهم است، چون به تصمیم‌های عملی درباره دسترسی مدل‌ها، ثبت فعالیت‌ها و امکان توقف سامانه مربوط می‌شود. برای کاربران و فعالان صنعت نیز تغییر اصطلاحات اهمیت دارد؛ واژگان تازه ممکن است بر برداشت عمومی و سیاسی از فناوری اثر بگذارد، بی‌آنکه به‌خودی‌خود توضیحی درباره توان واقعی مدل‌ها بدهد.

برای رقبای Microsoft در حوزه مدل‌های پایه، ماجرا نشانه‌ای از آن است که رقابت فقط بر سر کیفیت فنی نیست: اعتماد، هزینه و جایگاه در رابط آینده رایانه‌ها نیز در کانون توجه قرار گرفته‌اند. در نتیجه، نوشته نادلا هم دعوتی به کنترل دقیق‌تر سامانه‌هاست و هم بخشی از بحثی گسترده‌تر درباره اینکه چه شرکتی میان مدل، کاربر و رایانه واسطه خواهد شد.