انویدیا مدل‌های باز جدیدی را برای اجرای ایجنت‌ها در شرکت‌ها و روی رایانه‌های شخصی عرضه کرد
انویدیا به شدت روی این روند تمرکز کرده است که شرکت‌های تجاری می‌خواهند مدل‌های باز خود را در مراکز داده‌ی اختصاصی‌شان اجرا کنند و همچنین در تلاش است تا ایجنت‌های هوش مصنوعی خصوصی و مبتنی بر سخت‌افزار را به یک ضرورت تبدیل کند.
انویدیا روز پنجشنبه مدل‌های وزن‌باز (open-weight) جدیدی را معرفی کرد که برای ایجنت‌های همیشه روشن و رایانش لبه‌ای (edge computing) طراحی شده‌اند.
مدل Nemotron 3.5 Super VL یک مدل بزرگ با ۱۲۰ میلیارد پارامتر است که برای ایجنت‌های مورد استفاده در سطح سازمانی بهینه‌سازی شده است. اگرچه این مدل از پارامترهای کمتری نسبت به مدل Nemotron 3 Ultra استفاده می‌کند، اما انویدیا می‌گوید که می‌تواند دقت مشابهی در وظایف مربوط به پیروی از دستورالعمل‌ها و استفاده از ابزارها ارائه دهد.
در سوی دیگر طیف، این شرکت همچنین دو مدل سبک‌وزن به نام Bolt را معرفی کرد. این مدل‌ها برای اجرا به صورت محلی (لابه‌لای سخت‌افزار) روی رایانه‌های شخصی جدید مجهز به هوش مصنوعی (دارای تراشه Nvidia RTX Spark) و ایستگاه‌های کاری مجهز به DGX Spark در نظر گرفته شده‌اند. چنین رایانه‌هایی که مصرف‌کنندگان، برنامه‌نویسان و کارکنان دانشی سازمان‌ها را هدف قرار داده‌اند، هم‌اکنون از طریق شرکایی مانند مایکروسافت و دل به بازار عرضه می‌شوند.
کاری بریزکی، معاون بخش مدل‌های باز و نرم‌افزار انویدیا، در پست وبلاگی خود در اعلام این مدل‌ها نوشت: «هر سازمانی که می‌خواهد ایجنت‌ها را روی زیرساخت انویدیا اجرا کند، اکنون یک مدل باز و بهینه‌شده برای سطح خود دارد بدون اینکه مجبور باشد بین قابلیت و قابلیت استقرار یکی را انتخاب کند.»
انویدیا ادعا می‌کند که مدل Super VL پس از آموزش تکمیلی روی وظایف خاص ایجنت‌محور، کارها را سریع‌تر از مدل‌های رقیب از شرکت‌های آنتروپیک و اوپن‌آی‌سی (Opus 5, GPT 6.1 Sol, Luna, Astra) به اتمام می‌رساند. این وظایف شامل هوش اسنادی، حسابداری مالی، آزمایش‌های علمی، ادعاهای بیمه پزشکی و تاب‌آوری در برابر حملات امنیتی است.
اگرچه چنین ادعاهایی هر زمان که یک شرکت بزرگ فناوری مدل جدیدی را معرفی می‌کند استاندارد محسوب می‌شوند، اما انویدیا این ادعا را با ارائه فهرستی از شرکت‌های بزرگ و معروفی که به گفته‌ی این شرکت از Super VL استفاده می‌کنند، پشتیبانی کرده است. این شرکت‌ها شامل اسکای‌دنس، EY، رمپ، کراداسترایک، پرپلکسیتی و سیلزفورس هستند.
البته این‌ها نخستین مدل‌های وزن‌باز ارائه‌شده توسط انویدیا نیستند که با آزمایشگاه‌های پیشروی انحصاری رقابت می‌کنند؛ شرکت‌هایی که هم‌زمان مشتری و سرمایه‌گذار این غول سازنده پردازنده‌های گرافیکی هستند. این غول گرافیکی دارای خانواده‌ای کامل از مدل‌های Nemotron است که از هوش مصنوعی چندوجهی گرفته تا استدلال، برنامه‌نویسی، ریاضیات و اتوماسیون سازمانی را پوشش می‌دهند.
با این حال، آن آزمایشگاه‌های هوش مصنوعی انحصاری با رشد سریع، اکنون به دنبال تراشه‌ها و سازندگان سیستم‌های هوش مصنوعی دیگری فراتر از انویدیا برای تأمین نیازهای خود هستند، مانند Trainium متعلق به AWS و سربرس (Cerebras)، و همچنین در حال ساخت تراشه‌های بومی خود می‌باشند.
بنابراین، انویدیا به شدت روی روند تمایل شرکت‌های تجاری به اجرای مدل‌های باز اختصاصی خود در مراکز داده خودشان تمرکز کرده است. بریزکی نوشت: «بر خلاف مدل‌های پیشروی بسته، سازمان‌ها می‌توانند Super VL را روی داده‌های خودشان آموزش تکمیلی دهند، آن را روی زیرساخت خود مستقر کنند و مالک آن چیزی باشند که می‌سازند.»
اما با معرفی مدل‌های کوچک‌تر و محلی برای رایانه‌های شخصی، این شرکت همچنین در تلاش است تا روند نوپای دستیاران هوش مصنوعی مصرف‌کننده را به جلو سوق دهد. در حالی که به نظر می‌رسد هر روز یک دستیار هوش مصنوعی جدید توسط استارتاپ‌ها و غول‌های فناوری معرفی می‌شود، مصرف‌کنندگان نگران حریم خصوصی ممکن است نخواهند چنین ایجنت‌هایی را به طور عمیق وارد زندگی خود کنند و به آن‌ها اجازه دسترسی به اطلاعات خانواده، سلامت، امور مالی و غیره را بدهند.
بنابراین، در حالی که انویدیا امیدوار است با ساخت ماشین‌هایی که مدل‌ها و ایجنت‌ها را به صورت محلی اجرا می‌کنند، بازار جدیدی برای خود در زمینه فروش رایانه‌های شخصی مجهز به تراشه‌هایش ایجاد کند، کاربران رایانه‌های شخصی «می‌توانند پروژه‌های روزمره را بدون ارسال آن پردازش‌ها به فضای ابری واگذار کنند».
از میان دو مدل Bolt، مدل Nemotron 3.5 Bolt 74B-A9B 24GB یک مدل ۷۴ میلیارد پارامتری است که برای وظایف ایجنت‌محور محلی طراحی شده است. این مدل به گونه‌ای در نظر گرفته شده است که سرعت را با استدلال متعادل کند تا از پس استدلال چندمرحله‌ای، فراخوانی ابزار و مرور وب بربیاید. کوچک‌ترین مدل یعنی Bolt E4B نیز دستیاران مکالمه‌ای را هدف قرار داده است.
به گفته انویدیا، مدل‌های Super VL و Bolt 74B-A9B هم‌اکنون در دسترس هستند و مدل Bolt E4B نیز اواخر همین ماه عرضه خواهد شد.
نظر مهندس بهمن آبادی: حرکت انویدیا به سمت مدل‌های وزن‌باز و لبه‌ای، پیام روشنی برای ما توسعه‌دهندگان دارد: آینده‌ی ایجنت‌های هوش مصنوعی در گروی پردازش لوکال و کنترل کامل روی داده‌هاست، نه وابستگی صرف به ابر. به عنوان برنامه‌نویس، باید سیستم‌های خود را برای معماری‌های هیبریدی آماده کنیم که در آن‌ها مدل‌های تخصصی سبک‌وزن روی سخت‌افزار محلی اجرا می‌شوند تا ضمن حفظ حریم خصوصی، تأخیر شبکه را به صفر برسانیم.