Nvidia بهره‌وری انرژی و اقتصاد استنتاج هوش مصنوعی را به هم پیوند می‌دهد

بهره‌وری استنتاج هوش مصنوعی، به گفته یکی از مدیران Nvidia، در حال تبدیل‌شدن به عاملی تعیین‌کننده در اقتصاد مراکز داده است؛ زیرا با گسترش سامانه‌های عامل‌محور، ارزش زیرساخت دیگر فقط به تعداد پردازنده‌های گرافیکی آن وابسته نیست و میزان توکن تولیدشده در برابر برق مصرفی نیز اهمیت پیدا می‌کند. Ian Buck، معاون و مدیرکل بخش ابرمقیاس و محاسبات با کارایی بالا در Nvidia، در گفت‌وگویی در رویداد Fully Connected توضیح داد که شبکه، ذخیره‌سازی، پردازنده‌ها و نرم‌افزار باید همچون یک سامانه هماهنگ کار کنند تا ظرفیت محاسباتی به خروجی مفید تبدیل شود. این دیدگاه، تمرکز را از قطعه‌های منفرد به عملکرد کل مرکز داده منتقل می‌کند.

از تراشه‌های منفرد تا اقتصاد توکن‌ها

به گفته Buck، زیرساخت هوش مصنوعی را نمی‌توان فقط مجموعه‌ای از تجهیزات فناوری اطلاعات دانست که هزینه‌ای برای سازمان ایجاد می‌کنند. او این دارایی‌ها را بخش‌هایی مولد و درآمدزا توصیف کرد و گفت خروجی اقتصادی آن‌ها بیش از پیش با توکن‌ها سنجیده می‌شود. توکن واحدهای کوچک متنی یا اطلاعاتی است که مدل هنگام پردازش ورودی و تولید پاسخ به کار می‌گیرد؛ تعداد توکن‌ها به‌تنهایی کیفیت یا ارزش یک پاسخ را نشان نمی‌دهد، اما می‌تواند معیاری برای اندازه‌گیری حجم کار انجام‌شده باشد.

در سامانه‌های عامل‌محور، مدل‌ها ممکن است برای پاسخ‌گویی از چند مدل دیگر، پایگاه‌های داده و ابزارهای نرم‌افزاری کمک بگیرند. بر اساس توضیح Buck، چنین فرایندی باعث می‌شود عملکرد یک شتاب‌دهنده به‌تنهایی تصویر کاملی از توان زیرساخت ارائه نکند. ارتباط میان اجزای گوناگون و توانایی هماهنگ‌کردن آن‌ها در مقیاس مرکز داده نیز در میزان خروجی مؤثر است. بنابراین، معیار اقتصادی به این پرسش گسترش می‌یابد که کل سامانه با منابع موجود چه مقدار کار مفید انجام می‌دهد.

Buck در گفت‌وگو با Dave Vellante و John Furrier از theCUBE، توکن‌ها را دارایی‌هایی مولد و قابل‌استفاده در اقتصاد هوش مصنوعی توصیف کرد. این تعبیر، دیدگاه مدیر Nvidia درباره ارزش زیرساخت است و نباید با یک شاخص مستقل برای سنجش درآمد یا بازده همه مراکز داده یکی دانسته شود. اهمیت آن در تأکید بر این نکته است که سرمایه‌گذاری در سخت‌افزار زمانی ارزش اقتصادی پیدا می‌کند که بتوان از آن برای ارائه خدمات و تولید خروجی استفاده کرد.

استنتاج درآمدزا است، اما آموزش ادامه دارد

استنتاج به مرحله‌ای گفته می‌شود که در آن یک مدل آموزش‌دیده برای پاسخ به درخواست‌ها به کار گرفته می‌شود. در این مرحله، مدل ورودی را پردازش و خروجی، از جمله توکن‌های پاسخ، تولید می‌کند. از نظر تجاری، این فعالیت بخش مستقیم ارائه خدمات به کاربران یا سازمان‌هاست؛ اما Buck تأکید کرد که نباید استنتاج را جایگزینی کامل برای آموزش مدل‌ها دانست.

مدل‌های مستقرشده ممکن است پس از آغاز استفاده نیز به اصلاح و به‌روزرسانی نیاز داشته باشند. به گفته Buck، سازمان‌ها می‌توانند داده‌های بیشتری به مدل بیفزایند، آن را با نیازهای خود هم‌راستا کنند و عملکردش را با تغییر شرایط بازار تنظیم کنند. او به یادگیری تقویتی و هم‌راستاسازی آنلاین نیز اشاره کرد؛ روش‌هایی که در آن‌ها عملکرد مدل به‌تدریج اصلاح می‌شود. به این ترتیب، زیرساخت باید هم درخواست‌های جاری کاربران را پاسخ دهد و هم از کارهای لازم برای حفظ و بهبود مدل پشتیبانی کند.

این نکته برای برنامه‌ریزی ظرفیت مراکز داده اهمیت دارد، چون تقاضای محاسباتی فقط به آموزش اولیه مدل محدود نیست. البته منبع، سهم دقیق آموزش و استنتاج از کل مصرف منابع یا هزینه‌ها را مشخص نمی‌کند. آنچه Buck بیان کرد، ادامه هم‌زیستی این دو نوع کار است: استنتاج برای استفاده روزمره از مدل و فرایندهای آموزشی یا اصلاحی برای به‌روز نگه‌داشتن آن.

سرعت پاسخ و محدودیت برق در طراحی سامانه‌ها

همه درخواست‌ها به یک اندازه به زمان پاسخ حساس نیستند. در برخی کاربردها، هرچه مدل سریع‌تر استدلال کند و توکن‌ها را زودتر تولید کند، نتیجه ارزش بیشتری دارد. Buck از حوزه‌هایی مانند فناوری مالی و دیگر موقعیت‌های بلادرنگ به‌عنوان نمونه‌هایی یاد کرد که در آن‌ها سرعت می‌تواند اهمیت ویژه‌ای داشته باشد. او گفت Groq 3 LPX، شتاب‌دهنده‌ای برای استنتاج، در کنار پلتفرم Vera Rubin می‌تواند نرخ تولید توکن به‌ازای هر کاربر را در چنین کارهایی افزایش دهد.

این توضیح به معنای آن نیست که یک پیکربندی مشخص برای همه سازمان‌ها بهترین گزینه است. بر اساس گفته Buck، انتخاب زیرساخت به توازن میان توان عملیاتی و سرعت تولید توکن بستگی دارد. توان عملیاتی یعنی مقدار کاری که سامانه در یک بازه زمانی انجام می‌دهد؛ سرعت توکن، در مقابل، به آهنگ تولید پاسخ برای کاربر مربوط است. این دو معیار ممکن است در طراحی سرویس اهمیت متفاوتی داشته باشند و انتخاب میان آن‌ها به نوع بار کاری وابسته باشد.

عامل محدودکننده دیگری که Buck برجسته کرد، برق در دسترس مرکز داده است. به گفته او، توان برق قابل‌تأمین سقفی طبیعی برای میزان محاسباتی است که یک مرکز می‌تواند مستقر کند. در نتیجه، افزایش تعداد پردازنده‌ها بدون توجه به مصرف انرژی، به‌تنهایی راه‌حل گسترش ظرفیت نیست. معیار «توکن به‌ازای هر وات» نسبت میان خروجی تولیدشده و انرژی مصرفی را نشان می‌دهد و کمک می‌کند بهره‌وری نسل‌های سخت‌افزاری با هم مقایسه شود.

Buck ادعا کرد Nvidia در هر نسل از GPUها به‌دنبال بهبود بیش از ۱۰ برابری این معیار است و افزود که در نهایت، Blackwell به بهبود ۳۰ برابری توکن به‌ازای هر وات رسیده است. این ارقام بر اساس گفته او در مصاحبه مطرح شده‌اند و متن منبع جزئیات روش اندازه‌گیری، پیکربندی مقایسه یا شرایط آزمون را ارائه نمی‌کند. ازاین‌رو، باید آن‌ها را به‌عنوان ادعای یک مدیر Nvidia نقل کرد، نه نتیجه‌ای که در این گزارش به‌طور مستقل ارزیابی شده باشد.

نقش خدمات و شرکای زیرساختی

پیچیدگی انتخاب اجزای مرکز داده می‌تواند برای مشتریان دشوار باشد. Buck به CoreWeave اشاره کرد و گفت این شرکت به مشتریان امکان می‌دهد پیکربندی‌های موردنظر خود را انتخاب کنند یا از خدمات سطح بالاتری استفاده کنند که توازن میان توان عملیاتی و سرعت توکن را بهینه می‌کند. او همچنین بر اهمیت شبکه شرکای Nvidia تأکید کرد؛ از نگاه او، این شرکا می‌توانند بخشی از پیچیدگی تصمیم‌گیری و بهره‌برداری از زیرساخت را برای مشتریان مدیریت کنند.

گفت‌وگو در رویداد Fully Connected و در قالب پخش اختصاصی theCUBE انجام شد. SiliconANGLE اعلام کرده است که theCUBE برای پوشش این رویداد شریک رسانه‌ای پولی بوده و CoreWeave حامی مالی پوشش بوده است؛ این رسانه همچنین گفته حامیان مالی بر محتوای تحریریه کنترل نداشته‌اند. این زمینه برای خواندن اظهارات درباره محصولات و شرکای تجاری مهم است: مطالب مطرح‌شده، گفته‌های Buck در یک مصاحبه‌اند و منبع جزئیات فنی مستقل یا ارزیابی جداگانه‌ای از ادعاهای بهره‌وری ارائه نمی‌کند.

در مجموع، دیدگاه مطرح‌شده از سوی Nvidia نشان می‌دهد رقابت در زیرساخت هوش مصنوعی فقط بر سر توان محاسباتی خام نیست. میزان انرژی موردنیاز، سرعت پاسخ‌گویی، هماهنگی اجزای سامانه و امکان به‌روزرسانی مدل‌ها هم در محاسبه ظرفیت عملیاتی نقش دارند. برای خریداران، پرسش اصلی می‌تواند این باشد که زیرساخت موردنظر برای چه نوع کاری طراحی شده است و در آن کار، سرعت یا حجم پردازش کدام‌یک اولویت دارد. منبع، پیش‌بینی عددی یا زمان‌بندی مشخصی برای تغییر این اقتصاد ارائه نمی‌کند.

این خبر برای چه کسانی اهمیت دارد

اظهارات Buck برای مدیران مراکز داده، شرکت‌هایی که مدل‌های هوش مصنوعی را در مقیاس عملیاتی به کار می‌گیرند و سازمان‌هایی که میان سرعت پاسخ و توان پردازش تصمیم می‌گیرند، اهمیت دارد. این گروه‌ها باید علاوه بر قیمت و ظرفیت تجهیزات، محدودیت برق و میزان خروجی مفید زیرساخت را هم در ارزیابی خود لحاظ کنند. برای شرکت‌هایی که خدمات حساس به زمان ارائه می‌دهند، اشاره به Groq 3 LPX و Vera Rubin نیز نمونه‌ای از تمرکز بر سرعت استنتاج است؛ هرچند منبع، نتایج آزمون یا جزئیات عملکرد این ترکیب را شرح نمی‌دهد.

برای فعالان بازار، پیام اصلی آن است که ارزش زیرساخت هوش مصنوعی به استفاده مؤثر از آن وابسته است، نه صرفاً به نصب سخت‌افزار بیشتر. با این حال، ارقام بهره‌وری مطرح‌شده از سوی Nvidia باید در چارچوب گفته‌های این شرکت دیده شوند و برای مقایسه دقیق، به اطلاعات فنی و شرایط اندازه‌گیری نیاز است. تصمیم‌گیران می‌توانند از این بحث به‌عنوان چارچوبی برای طرح پرسش‌های درست درباره برق، سرعت، توان عملیاتی و چرخه به‌روزرسانی مدل‌ها استفاده کنند.