NVIDIA تطلق Snapshot لتسريع استعادة أحمال GPU على Kubernetes
أطلقت NVIDIA نظام Snapshot مفتوح المصدر لحفظ واستعادة أحمال GPU المهيأة بالكامل على Kubernetes، شاملاً ذاكرة المعالج ووحدات الرسوميات. وأظهرت الاختبارات استعادة نسخ الاستدلال خلال 3.6 إلى 42.7 ثانية، أسرع بـ8 إلى 36 مرة من البدء البارد الذي يستغرق دقائق.
أطلقت NVIDIA نظام Snapshot مفتوح المصدر لحفظ واستعادة أحمال GPU المهيأة بالكامل على Kubernetes، شاملاً ذاكرة المعالج ووحدات الرسوميات. وأظهرت الاختبارات استعادة نسخ الاستدلال خلال 3.6 إلى 42.7 ثانية، أسرع بـ8 إلى 36 مرة من البدء البارد الذي يستغرق دقائق.
يدعم النظام أحمالاً متعددة وحدات GPU ونماذج MoE، مع نقاط حفظ تصل إلى 1 تيرابايت عبر ثماني وحدات. وتتجاوز الاستعادة تحميل الأوزان والترجمة البرمجية والتقاط رسوم CUDA، فيما استغرقت عملية إنشاء نقطة الحفظ 15 ثانية إلى 5.5 دقائق، وكان مجموعها مع الاستعادة أقصر من بدء بارد واحد في كل الاختبارات.
Start and Restore GPU Workloads in Seconds with NVIDIA Snapshot · تاريخ النشر في المصدر: