Liquid AI مدل‌های تصمیم‌گیری d1 را برای اجرا روی لبه معرفی کرد

مدل‌های تصمیم‌گیری d1 از Liquid AI برای پاسخ‌گویی سریع روی دستگاه‌های لبه معرفی شده‌اند؛ این دو مدل متن‌باز، ورودی‌های متنی و تصویری را پردازش می‌کنند و یکی از آن‌ها امکان دریافت صدا را هم دارد. Liquid AI در مطلبی که ۷ اکتبر ۲۰۲۶ منتشر شد، اعلام کرد مدل d1-3B در بنچمارک Decision Index امتیاز بالایی کسب کرده و روی سخت‌افزارهای NVIDIA در چند ده میلی‌ثانیه پاسخ می‌دهد؛ ترکیبی که می‌تواند برای کاربردهایی مهم باشد که اجرای مدل در نزدیکی محل تولید داده، به‌جای اتکا به پردازش ابری، اهمیت دارد.

این مدل‌ها با نام‌های d1-3B و d1-omni-600M عرضه شده‌اند و بر پایه خانواده مدل‌های Liquid Foundation Models یا LFM ساخته شده‌اند. Liquid AI می‌گوید مدل‌های تصمیم‌گیری برخلاف مدل‌های مولد، متن پاسخ را توکن‌به‌توکن تولید نمی‌کنند؛ آن‌ها با یک گذر رو به جلو از شبکه عصبی، خروجی تصمیم‌گیری را ارائه می‌دهند. توکن، واحدی است که مدل‌های زبانی متن را به آن تقسیم می‌کنند. شرکت این تفاوت را بخشی از طراحی برای تصمیم‌گیری سریع و ساختاریافته می‌داند.

مدل‌های تصمیم‌گیری d1 و تفاوت دو معماری

d1-3B از LFM2.5-VL-3B ساخته شده است؛ مدلی بینایی‌ـ‌زبانی که معماری آن «فقط رمزگشا» است. به‌گفته Liquid AI، این مدل متن و تصویر را به‌عنوان ورودی می‌پذیرد. عدد ۳B در نام آن به اندازه مدل اشاره دارد، اما شرکت در متن خود از آن به‌عنوان مدلی برای تصمیم‌گیری روی دستگاه‌های محدود از نظر منابع یاد می‌کند.

مدل دوم، d1-omni-600M، بر پایه LFM2.5-Encoder-350M ساخته شده است. این پایه از رمزگذار دوسویه استفاده می‌کند؛ معماری‌ای که می‌تواند متن را با توجه به بخش‌های پیش و پس از هر قسمت پردازش کند. Liquid AI می‌گوید این مدل رمزگذارهای بینایی و صوتی را نیز به کار می‌گیرد و می‌تواند متن را همراه تصویر یا متن را همراه صدا دریافت کند. بنابراین، طبق توضیح شرکت، ورودی هم‌زمانِ هر سه نوع داده در یک درخواست ارائه نمی‌شود.

Liquid AI تأکید کرده که d1-omni-600M در مرحله انتشار پژوهشی اولیه قرار دارد و توسعه آن ادامه پیدا می‌کند. شرکت برای این مدل در این عرضه ارقام سرعت منتشر نکرده است؛ در نتیجه، مقایسه سرعت آن با d1-3B در حال حاضر بر پایه داده‌های همین اعلام ممکن نیست.

امتیازهای اعلام‌شده در بنچمارک‌ها

در Decision Index نسخه ۰.۲.۱، d1-3B امتیاز ۴۸٫۵۷ به دست آورده است. Liquid AI آن را بهترین مدل تصمیم‌گیری زیر ۱۰ میلیارد پارامتر در این شاخص معرفی می‌کند و می‌گوید امتیازش از همه مدل‌های ۴B و ۹B و نیز Decider 35B-A3B با امتیاز ۴۷٫۱۱ بیشتر است. این اعداد ادعای شرکت درباره نتایج همان بنچمارک‌اند و نباید به‌تنهایی معادل برتری در همه وظایف یا محیط‌های واقعی تلقی شوند.

شرکت همچنین دو مدل را روی هفت مجموعه‌داده عمومی ارزیابی کرده است. این مجموعه‌ها حوزه‌هایی چون درک مطلب، شناسایی محتوای سمی، طبقه‌بندی قصد کاربر، پرسش‌وپاسخ پزشکی و درک چندزبانه را پوشش می‌دهند. طبق نتایج منتشرشده، میانگین امتیاز d1-3B برابر ۸۲٫۹ بوده و بالاترین مقدار جدول را ثبت کرده است؛ این مدل در همان ارزیابی از Decider 4B نیز جلوتر بوده است.

d1-omni-600M در این سنجش میانگین ۷۸٫۴ گرفته است؛ Liquid AI می‌گوید این نتیجه از امتیاز ۷۷٫۱ مدل Decider 2B بیشتر است، درحالی‌که d1-omni-600M یک‌چهارم تعداد پارامترهای آن را دارد. تعداد پارامترها یکی از معیارهای اندازه مدل است و کاهش آن می‌تواند برای استقرار در سخت‌افزارهای محدود اهمیت داشته باشد، هرچند به‌تنهایی کیفیت یا سرعت در همه کاربردها را تعیین نمی‌کند.

Liquid AI می‌گوید d1-3B قابلیت‌های بیناییِ مدل پایه LFM2.5-VL-3B را در بنچمارک‌های استاندارد بینایی حفظ کرده و d1-omni-600M نیز هر سه نوع داده را پشتیبانی می‌کند. با این حال، شرکت در این انتشار امتیازهای مستقل بینایی یا صوتی ارائه نکرده است. دلیل اعلام‌شده این است که Decision Index نسخه ۰.۳ فقط یک بخش بینایی خصوصی دارد و بنچمارک‌های تصمیم‌گیری صوتی هنوز مسئله‌ای باز هستند.

سرعت اجرا روی دستگاه‌های NVIDIA

Liquid AI با همکاری NVIDIA سرعت d1-3B را روی چند سخت‌افزار، از جمله GeForce RTX 4090، Jetson AGX Thor، Jetson AGX Orin با حافظه ۶۴ گیگابایت و Jetson Orin Nano آزمایش کرده است. این شرکت گزارش می‌کند که مدل روی تمام دستگاه‌های لبه‌ای اندازه‌گیری‌شده، به یک پرسش در کمتر از ۵۰ میلی‌ثانیه پاسخ داده است.

در جزئیات اعلام‌شده، زمان پاسخ به یک پرسش روی Jetson AGX Thor برابر ۱۶ میلی‌ثانیه، روی Jetson AGX Orin برابر ۲۶ میلی‌ثانیه و روی Jetson Orin Nano برابر ۵۰ میلی‌ثانیه بوده است. طبق داده‌های شرکت، سه پرسش فقط ۱٫۳ برابر زمان یک پرسش طول می‌کشد؛ نمونه‌ای که برای AGX Thor از ۱۶ به ۲۰ میلی‌ثانیه افزایش داشته است. این اندازه‌گیری‌ها به اجرای مدل در شرایط آزمایش شرکت مربوط‌اند و لزوماً زمان یک برنامه کامل با مراحل دیگر را نشان نمی‌دهند.

روی GPU، d1-3B به گفته Liquid AI به یک پرسش در کمتر از ۱۰ میلی‌ثانیه پاسخ می‌دهد و یک تصویر با وضوح ۳۸۴ پیکسل را در کمتر از ۱۸ میلی‌ثانیه پردازش می‌کند. شرکت سرعت را یکی از ویژگی‌های کاربردی این مدل می‌داند، اما در متن انتشار جزئیات بیشتری درباره شرایط دقیق این آزمون‌ها، مانند تنظیمات نرم‌افزاری، ارائه نشده است.

دسترسی و محدودیت‌های ارزیابی

هر دو مدل با وزن‌های باز در Hugging Face در دسترس قرار گرفته‌اند و Liquid AI همچنین اجرای نمونه‌های آزمایشی را در فضای System One Arcade همان پلتفرم پیشنهاد کرده است. برای بارگذاری مدل‌ها، طبق اعلام شرکت، به نسخه‌ای از کتابخانه Transformers با نیازمندی نسخه ۵.۱۴ یا بالاتر احتیاج است. کد اختصاصی همراه مدل‌ها ارائه می‌شود و بارگذاری آن به فعال‌کردن گزینه trust_remote_code=True نیاز دارد.

رویکرد d1 نشان می‌دهد Liquid AI در کنار مدل‌های مولد، روی مدلی متمرکز شده است که به‌جای تولید پاسخ‌های طولانی، خروجی تصمیم‌گیری را در یک گذر محاسباتی ارائه می‌کند. ارقام اعلام‌شده درباره d1-3B شامل سرعت روی سخت‌افزارهای لبه و امتیاز در چند ارزیابی عمومی است؛ اما برای d1-omni-600M هنوز داده سرعت منتشر نشده و سنجش مستقل دیداری و صوتی نیز در این گزارش وجود ندارد. این تفاوت میان ادعاهای عملکرد و دامنه ارزیابی، هنگام بررسی کاربردهای عملی دو مدل اهمیت دارد.

این خبر برای چه کسانی اهمیت دارد

توسعه‌دهندگان سامانه‌های لبه، سازندگان تجهیزات هوشمند و تیم‌هایی که به تصمیم‌گیری سریع با ورودی تصویر یا صدا نیاز دارند، مخاطبان اصلی این عرضه‌اند. وزن‌های باز امکان بررسی و اجرای مدل‌ها را فراهم می‌کند، اما انتخاب میان d1-3B و d1-omni-600M به نوع داده ورودی، محدودیت سخت‌افزار و نیاز به سرعت بستگی دارد. برای ارزیابی دقیق‌تر، کاربران باید نتایج اعلام‌شده را با آزمون روی داده‌ها و دستگاه‌های موردنظر خود بسنجند.