انتقل إلى المحتوى
وقت القراءة: دقيقة واحدة

NVIDIA تعرض خمسة تصميمات مشتركة لرفع كفاءة الذاكرة في الذكاء الاصطناعي

عرضت NVIDIA خمسة عناصر تصميم مشترك لتحسين استخدام الذاكرة في «مصنع الذكاء الاصطناعي»، تشمل NVFP4 وTensorRT-LLM وDynamo ومعالج Vera وتخزين CMX. وقالت إن Vera Rubin NVL72 تحقق حتى 30 ضعفا من الإنتاجية لكل ميغاواط مقارنة بـGB300 NVL72، مع 288 غيغابايت لكل GPU.
رسم توضيحي مولّد بالذكاء الاصطناعي: NVIDIA تعرض خمسة تصميمات مشتركة لرفع كفاءة الذاكرة في الذكاء الاصطناعي
رسم توضيحي مولّد بالذكاء الاصطناعي

عرضت NVIDIA خمسة عناصر تصميم مشترك لتحسين استخدام الذاكرة في «مصنع الذكاء الاصطناعي»، تشمل NVFP4 وTensorRT-LLM وDynamo ومعالج Vera وتخزين CMX. وقالت إن Vera Rubin NVL72 تحقق حتى 30 ضعفا من الإنتاجية لكل ميغاواط مقارنة بـGB300 NVL72، مع 288 غيغابايت لكل GPU.

تكتسب الخطوة أهمية لأن ذاكرة HBM هي الأسرع والأغلى لتشغيل النماذج الوكيلة. ويقلص NVFP4 حجم النموذج بنحو 3.5 مرات مقارنة بـFP16، فيما يوزع Wide-EP الخبراء على ثماني وحدات GPU أو أكثر، وتدير Dynamo ذاكرة KV عبر وحدات المعالجة والـCPU والتخزين لتقليل إعادة المعالجة.

Five Ways NVIDIA Co-Design Maximizes the Value of Every Byte in the AI Factory · تاريخ النشر في المصدر: