انتقل إلى المحتوى
وقت القراءة: دقيقة واحدة

NVIDIA تسهّل تشغيل نماذج الذكاء الاصطناعي الطرفية على DGX Spark

أعلنت NVIDIA أن TensorRT Edge-LLM يتيح للمطورين تشغيل نماذج ذكاء اصطناعي مدمجة على DGX Spark 64GB عبر أوامر قليلة، مع بناء محركات TensorRT محسّنة ونشرها لاحقاً على Jetson Thor وDRIVE AGX Thor وIGX Thor.
رسم توضيحي مولّد بالذكاء الاصطناعي: NVIDIA تسهّل تشغيل نماذج الذكاء الاصطناعي الطرفية على DGX Spark
رسم توضيحي مولّد بالذكاء الاصطناعي

أعلنت NVIDIA أن TensorRT Edge-LLM يتيح للمطورين تشغيل نماذج ذكاء اصطناعي مدمجة على DGX Spark 64GB عبر أوامر قليلة، مع بناء محركات TensorRT محسّنة ونشرها لاحقاً على Jetson Thor وDRIVE AGX Thor وIGX Thor.

تدعم الأداة تشغيل Nemotron-3.5 Lightning محلياً عبر واجهة متوافقة مع OpenAI للاختبار. وباستخدام فك التشفير التخميني DSpark بثلاثة رموز مسودة، ارتفع متوسط سرعة التوليد في اختبارات HumanEval من 73.4 إلى 126.9 رمزاً في الثانية، فيما بلغ ذروة استخدام الذاكرة 27.9GB.

Run AI Models for Edge Application Development with Just a Few Commands · تاريخ النشر في المصدر: