انتقل إلى المحتوى
وقت القراءة: دقيقة واحدة

NVIDIA تضغط Nemotron 3.5 Lightning إلى 22 غيغابايت وتسرّع الأداء 4 مرات

أطلقت NVIDIA نقطة الفحص Nemotron 3.5 Lightning NVFP4، التي تخفّض حجم النموذج من 66 إلى 22 غيغابايت عبر تكميم عدد كبير من الأوزان إلى 4 بتات، مع تحقيق معدل معالجة أسرع بما يصل إلى أربعة أضعاف.
رسم توضيحي مولّد بالذكاء الاصطناعي: NVIDIA تضغط Nemotron 3.5 Lightning إلى 22 غيغابايت وتسرّع الأداء 4 مرات
رسم توضيحي مولّد بالذكاء الاصطناعي

أطلقت NVIDIA نقطة الفحص Nemotron 3.5 Lightning NVFP4، التي تخفّض حجم النموذج من 66 إلى 22 غيغابايت عبر تكميم عدد كبير من الأوزان إلى 4 بتات، مع تحقيق معدل معالجة أسرع بما يصل إلى أربعة أضعاف.

تعتمد النسخة على التقطير الواعي بالتكميم QAD لاستعادة الدقة بعد التكميم اللاحق للتدريب. وفي اختبارات نقاط فحص وسيطة، ارتفع متوسط استعادة الدقة من 96.33% إلى 99.72%، ومن 95.84% إلى 98.53%، عند استخدام 21.19 غيغابايت في الحالتين. كما حسّنت النسخة النهائية نتائج Terminal-Bench v2.1 وSWE-Bench Multilingual.

Developing Nemotron 3.5 Lightning NVFP4 with QAD Using NVIDIA Model Optimizer · تاريخ النشر في المصدر: