اجرای آفلاین مدل‌های یک تریلیون پارامتری روی ویندوز ممکن شد

انویدیا در جریان رویداد GTC از نسل جدید ورک‌استیشن‌های هوش مصنوعی خود با نام NVIDIA DGX Station رونمایی کرد؛ سیستمی قدرتمند که توان پردازشی در سطح دیتاسنتر را به میز کار توسعه‌دهندگان، پژوهشگران و سازمان‌ها می‌آورد. این محصول جدید به کاربران اجازه می‌دهد مدل‌های هوش مصنوعی بسیار بزرگ، حتی تا سقف یک تریلیون پارامتر، را به‌صورت محلی و بدون نیاز به زیرساخت ابری روی ویندوز اجرا کنند.

طبق اعلام انویدیا، DGX Station با هدف تسهیل توسعه، آموزش و استقرار عامل‌های هوشمند (AI Agents) در اکوسیستم ویندوز طراحی شده و می‌تواند شکاف میان محیط‌های حرفه‌ای دیتاسنتری و رایانه‌های سازمانی را از بین ببرد.

پایان وابستگی به دیتاسنترها برای اجرای مدل‌های عظیم هوش مصنوعی

تا پیش از این، اجرای مدل‌های بسیار بزرگ هوش مصنوعی، فاین‌تیونینگ شبکه‌های عصبی و پردازش‌های استنتاجی پیشرفته معمولاً به سرورهای لینوکسی قدرتمند در دیتاسنترها نیاز داشت. اما اکنون DGX Station این توان پردازشی را مستقیماً به محیط ویندوز منتقل می‌کند.

این موضوع برای سازمان‌هایی که زیرساخت اصلی آن‌ها بر پایه ویندوز بنا شده، یک تحول مهم محسوب می‌شود؛ زیرا بدون تغییر معماری نرم‌افزاری می‌توانند پروژه‌های پیشرفته هوش مصنوعی را روی سیستم‌های داخلی خود اجرا کنند.

ترکیب فوق‌العاده Grace و Blackwell در قلب DGX Station

مهم‌ترین بخش سخت‌افزاری این ورک‌استیشن، سوپرتراشه NVIDIA GB300 Grace Blackwell Ultra است. این تراشه از یک پردازنده ۷۲ هسته‌ای Grace در کنار پردازنده گرافیکی Blackwell Ultra بهره می‌برد که از طریق فناوری پرسرعت NVLink-C2C به یکدیگر متصل شده‌اند.

این معماری امکان تبادل داده با کمترین تأخیر را فراهم کرده و عملکردی نزدیک به سیستم‌های حرفه‌ای دیتاسنتری ارائه می‌دهد.

۷۶۸ گیگابایت حافظه و قدرت پردازشی ۲۰ پتافلاپس

یکی از ویژگی‌های برجسته NVIDIA DGX Station بهره‌مندی از حداکثر ۷۶۸ گیگابایت حافظه یکپارچه است. این حجم عظیم حافظه باعث می‌شود مدل‌های زبانی بزرگ و مجموعه‌داده‌های حجیم بدون نیاز به جابه‌جایی مداوم داده‌ها پردازش شوند.

به گفته انویدیا، توان پردازشی سیستم در محاسبات FP4 به حدود ۲۰ پتافلاپس می‌رسد؛ عددی که تا چند سال قبل تنها در ابررایانه‌ها دیده می‌شد.

پشتیبانی از کارت گرافیک RTX PRO 6000 Blackwell

کاربران می‌توانند DGX Station را با کارت گرافیک حرفه‌ای NVIDIA RTX PRO ترکیب کنند. این قابلیت امکان اجرای هم‌زمان پردازش‌های هوش مصنوعی، رهگیری پرتو (Ray Tracing)، طراحی سه‌بعدی و شبیه‌سازی‌های فیزیکی را فراهم می‌کند.

در نتیجه، مهندسان، طراحان صنعتی و توسعه‌دهندگان رباتیک می‌توانند تمامی مراحل طراحی و پردازش را روی یک سیستم واحد انجام دهند.

اتصال شبکه ۸۰۰ گیگابیتی برای پروژه‌های عظیم

انویدیا در این ورک‌استیشن از کارت شبکه ConnectX-8 SuperNIC استفاده کرده که از سرعت انتقال داده تا ۸۰۰ گیگابیت بر ثانیه پشتیبانی می‌کند.

این ویژگی امکان اتصال چندین DGX Station به یکدیگر را فراهم کرده و اجرای پروژه‌های بزرگ‌تر هوش مصنوعی را بدون نیاز به زیرساخت‌های سنتی دیتاسنتری ممکن می‌سازد.

امنیت سازمانی با OpenShell و ویندوز

برای پاسخ به نگرانی‌های امنیتی شرکت‌ها، انویدیا از پروژه متن‌باز OpenShell در کنار قابلیت‌های امنیتی ویندوز بهره گرفته است.

هر عامل هوش مصنوعی در یک محیط ایزوله یا Sandbox اجرا می‌شود و سیاست‌های امنیتی سازمان مستقیماً در سطح سیستم‌عامل اعمال خواهند شد. این رویکرد احتمال دسترسی غیرمجاز به داده‌های حساس یا دور زدن قوانین امنیتی را به حداقل می‌رساند.

سازگاری کامل با ابزارهای لینوکسی از طریق WSL

اگرچه DGX Station برای ویندوز طراحی شده است، اما کاربران همچنان می‌توانند از طریق Windows Subsystem for Linux (WSL) به ابزارها و محیط‌های توسعه لینوکس دسترسی کامل داشته باشند.

این قابلیت به تیم‌های توسعه هوش مصنوعی اجازه می‌دهد بدون تغییر روند کاری خود از مزایای هر دو اکوسیستم ویندوز و لینوکس بهره ببرند.

اجرای روان مدل‌های یک تریلیون پارامتری

انویدیا اعلام کرده است که معماری حافظه و پردازنده DGX Station به‌گونه‌ای طراحی شده که بتواند مدل‌های زبانی فوق‌العاده بزرگ را به‌صورت محلی و با عملکرد بالا اجرا کند.

این ویژگی می‌تواند برای سازمان‌هایی که به حفظ محرمانگی داده‌ها اهمیت می‌دهند، بسیار ارزشمند باشد؛ زیرا دیگر نیازی به ارسال داده‌های حساس به سرویس‌های ابری نخواهند داشت.

زمان عرضه NVIDIA DGX Station

طبق برنامه‌ریزی انویدیا، ورک‌استیشن DGX Station از سه‌ماهه چهارم سال جاری میلادی توسط شرکای سخت‌افزاری این شرکت از جمله ASUS، Dell، HP، MSI، Gigabyte و Supermicro عرضه خواهد شد.

با معرفی این محصول، انویدیا گام بزرگی در جهت انتقال قدرت پردازشی دیتاسنترها به محیط‌های کاری سازمانی برداشته و آینده‌ای را ترسیم می‌کند که در آن دستیارهای هوشمند و مدل‌های عظیم هوش مصنوعی به‌صورت محلی و بدون وابستگی به فضای ابری اجرا می‌شوند.